Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
caisohne Datum · Q000849

Research Projects

safe.ai · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt CAIS’ Ziel, schwerwiegende gesellschaftliche KI-Risiken zu mindern, und unterscheidet konzeptionelle von technischer Sicherheitsforschung. Konkrete Projekte oder Ergebnisse fehlen; der übrige Text behandelt Cookies, und der Auszug erlaubt keinen vollständigen Überblick über die Forschung.

Mittel

Der vorliegende Auszug aus der CAIS-Seite „Research Projects“ beschreibt die Leitlinien der Organisation für KI-Sicherheitsforschung. CAIS erklärt, gesellschaftsweite Risiken durch KI mindern zu wollen und dafür grundlegende Benchmarks und Methoden zu entwickeln. Forschung, die Sicherheit lediglich durch eine Steigerung der allgemeinen Modellfähigkeiten verbessert, wolle die Organisation nach eigener Darstellung nicht verfolgen.

Die Arbeit ist in zwei Bereiche gegliedert: multidisziplinäre konzeptionelle Forschung und technische Forschung zur Sicherheit bestehender KI-Systeme. Für den konzeptionellen Bereich nennt die Seite unter anderem Sicherheitswissenschaft, komplexe Systeme, internationale Beziehungen und Philosophie. Er soll Rahmen zum Verständnis technischer Herausforderungen sowie Veröffentlichungen zu möglichen gesellschaftlichen Risiken künftiger KI-Systeme hervorbringen.

Der Berichtsauszug enthält außerdem eine ausführliche Cookie-Erklärung mit Kategorien und Beispielen für Zwecke und Anbieter. Konkrete Forschungsprojekte, Methoden oder Ergebnisse werden nicht aufgeführt. Da nur ein Auszug vorliegt, bietet der Text keinen vollständigen Überblick über die Forschungsarbeit von CAIS.

Ausführlich lesen

Der Bericht enthält einen Auszug aus der Seite „Research Projects“ des Center for AI Safety (CAIS), ergänzt um umfangreiche Cookie-Hinweise. Er beschreibt die Leitlinien und zwei Forschungsbereiche der Organisation.

CAIS erklärt, seine Forschung auf die Verringerung schwerwiegender Risiken auszurichten, die KI für die Gesellschaft in großem Maßstab mit sich bringen könne. Als Ziel nennt die Seite grundlegende Benchmarks und Methoden. Sie wolle gezielt Forschung betreiben, die die Sicherheit von KI-Systemen verbessert, ohne diesen Effekt dadurch zu erzielen, dass zugleich die allgemeinen Fähigkeiten eines Modells gesteigert werden. Die Seite bezeichnet dies als technischen Kern der KI-Sicherheit.

Neben technischer Arbeit verfolgt CAIS laut Bericht konzeptionelle Forschung aus einer multidisziplinären Perspektive. Dazu gehörten Erkenntnisse aus Sicherheitswissenschaft, komplexen Systemen, internationalen Beziehungen und Philosophie. Diese Arbeit solle Denkrahmen zum Verständnis aktueller technischer Herausforderungen entwickeln und wissenschaftliche Arbeiten zu den gesellschaftlichen Risiken künftiger KI-Systeme veröffentlichen.

Die Seite gliedert ihre Forschung entsprechend in „Conceptual Research“, also konzeptionelle Forschung mit multidisziplinärem Ansatz, und „Technical AI Research“, das als Forschung zur Verbesserung der Sicherheit bestehender KI-Systeme beschrieben wird. Konkrete Projekte, Methoden, Ergebnisse oder Belege für die Wirksamkeit der Ansätze nennt der vorliegende Textauszug nicht.

Der übrige umfangreiche Text besteht überwiegend aus einer Cookie-Erklärung. Sie erläutert notwendige, Präferenz-, Statistik-, Marketing- und noch nicht klassifizierte Cookies sowie beispielhaft deren Zwecke und Anbieter. Die Seite erklärt, dass für nicht notwendige Cookies eine Einwilligung erforderlich sei und diese über die Cookie-Erklärung geändert oder widerrufen werden könne.

Da nur ein Auszug der Webseite vorliegt, lässt sich daraus kein vollständiger Überblick über CAIS-Forschungsprojekte oder deren Resultate ableiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 63 %gleiches Oberthema, hilft nicht
    • SubQ 82 %gleiches Oberthema, hilft nicht
    • drex 84 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 73 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 56 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 60 %gleiches Oberthema, hilft nicht
    • SubQ 81 %gleiches Oberthema, hilft nicht
    • drex 80 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 62 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 82 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 32 %nur am Rande erwähnt
    • amos 60 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 59 %Hintergrund, keine Belege
    • JEV 20 %nur am Rande erwähnt
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 42 %gleiches Oberthema, hilft nicht
    • Luna 63 %Hintergrund, keine Belege
    • JEV 61 %gleiches Oberthema, hilft nicht
    • amos 56 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 83 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 61 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 80 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 79 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 52 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 83 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 58 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 84 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 77 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →