Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cais30. Mai 2023 · Q002223

AI Extinction Statement Press Release

safe.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Die CAIS-Pressemitteilung stellt einen Aufruf vor, das mögliche Aussterberisiko durch fortgeschrittene KI als globale Priorität zu behandeln, und verweist auf zahlreiche bestätigte Unterschriften aus KI und anderen Fachgebieten. Sie fordert vorbeugende Maßnahmen und internationale Zusammenarbeit, bietet aber keine eigene technische Risikoanalyse oder ausführlichen Belege zur Höhe des Risikos.

Mittel

Die Pressemitteilung des Center for AI Safety (CAIS) stellt eine gemeinsame Erklärung vor, der zufolge die Verringerung eines möglichen Aussterberisikos durch KI neben Pandemien und Atomkrieg globale Priorität haben sollte. Laut Mitteilung unterschrieben zahlreiche KI-Forschende, Führungskräfte großer KI-Unternehmen sowie Fachleute aus weiteren Disziplinen. Genannt werden unter anderem Geoffrey Hinton, Yoshua Bengio, Sam Altman und Demis Hassabis. Die Unterschriften seien per E-Mail oder persönlichem Kontakt bestätigt worden; Führungskräfte von Meta hätten nicht unterschrieben.

CAIS-Direktor Dan Hendrycks fordert, neben bereits spürbaren Problemen wie missbräuchlicher Nutzung, Desinformation und dem Verlust menschlicher Handlungsmacht auch mögliche Gefahren künftiger KI-Systeme vorzubeugen. Dafür seien Schutzmaßnahmen, Institutionen und globale Zusammenarbeit nötig. Die Mitteilung verweist außerdem auf eine Reuters/Ipsos-Umfrage, laut der 61 Prozent der US-Amerikaner KI als Gefahr für die Zukunft der Menschheit ansahen, liefert dazu aber keine weiteren Angaben zur Methode. Der Text ist ein Aufruf und eine Vorstellung der Unterzeichnenden; er enthält keine eigene technische Risikoanalyse oder ausführliche Belege für Ausmaß und Wahrscheinlichkeit der behaupteten Gefahr.

Ausführlich lesen

Die Pressemitteilung des Center for AI Safety (CAIS) wirbt für eine stärkere weltweite Auseinandersetzung mit möglichen existenziellen Gefahren durch fortgeschrittene KI. Im Mittelpunkt steht eine gemeinsame Erklärung mit einem Satz: Die Verringerung des Risikos, dass KI zum Aussterben der Menschheit beiträgt, solle neben Pandemien und einem Atomkrieg globale Priorität haben.

Laut Mitteilung haben namhafte KI-Forschende und Führungskräfte großer KI-Unternehmen unterschrieben, darunter die Turing-Preisträger Geoffrey Hinton und Yoshua Bengio sowie Sam Altman von OpenAI und Demis Hassabis von Google DeepMind. Als weitere Unterzeichnende nennt der Text unter anderem Dario Amodei, Stuart Russell, Peter Norvig, Andrew Barto, Martin Hellman und Dawn Song. Vertreten seien außerdem Fachleute aus Philosophie, Recht, Wirtschaft, Physik, Politik, Pandemie- und Klimaforschung sowie Nuklearwissenschaft. Die Mitteilung bezeichnet diese Koalition als historisch. Sie weist zugleich darauf hin, dass Führungskräfte von Meta nicht unterschrieben hätten. Die Unterschriften seien per E-Mail oder persönlichem Kontakt bestätigt worden.

Zur Einordnung verweist die Pressemitteilung auf eine dort zitierte Reuters/Ipsos-Umfrage: Demnach hielten 61 Prozent der US-Amerikaner KI für eine Bedrohung der Zukunft der Menschheit. Eine nähere Beschreibung der Umfragemethode enthält der vorliegende Text nicht. Inhaltlich vergleicht die Mitteilung die gegenwärtige Debatte über KI mit frühen Diskussionen über Atomenergie. CAIS-Direktor Dan Hendrycks fordert, neben bereits spürbaren Risiken wie missbräuchlicher Nutzung, Desinformation und einem Verlust menschlicher Handlungsmacht auch mögliche Gefahren künftiger KI-Systeme ernst zu nehmen. Er spricht sich für vorbeugende Schutzmaßnahmen, Institutionen und internationale Zusammenarbeit aus und zieht dabei einen Vergleich mit der Kooperation zur Verringerung nuklearer Risiken.

CAIS beschreibt sich als gemeinnützige Organisation, die gesellschaftsweite KI-Risiken durch Forschung, den Aufbau des Fachgebiets und Interessenvertretung reduzieren wolle. Die Pressemitteilung begründet den Aufruf und stellt Unterstützende vor; sie liefert jedoch keine eigene technische Risikoanalyse, keine näher ausgeführten Maßnahmen und keine Belege, mit denen sich die behauptete Höhe oder Wahrscheinlichkeit eines Aussterberisikos beurteilen ließe. Die Details zur Umfrage bleiben ebenfalls knapp.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung; die kurze Fassung ist ebenfalls treu und enthält keine erfundenen Angaben. Die Einordnung stützt sich nur auf den Bericht, der eine Pressemitteilung mit Unterschriftenliste ist, und lässt sich daher nur eingeschränkt auf die Sammelfragen beziehen.

Im Bericht, aber nicht in der Zusammenfassung

  • Der Oppenheimer-Vergleich zur Atomenergie und sein Ruf nach internationaler Koordination wird nicht erwähnt.
  • Hendrycks' Pandemie-Vergleich (Pandemien waren vor COVID-19 nicht auf dem Radar) und seine Forderung, Institutionen frühzeitig aufzubauen, fehlen.
  • Die Aussage, dass die Gefahren bereits spürbarer KI-Probleme wie Missbrauch, Desinformation und Entmachtung ernst zu nehmen sind, wird nur verkürzt wiedergegeben.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 59 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 84 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 43 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 53 %nur am Rande erwähnt
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 31 %Hintergrund, keine Belege
    • Luna 85 %Hintergrund, keine Belege
    • JEV 51 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 40 %Hintergrund, keine Belege
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 32 %Hintergrund, keine Belege
    • Luna 39 %gleiches Oberthema, hilft nicht
    • JEV 100 %kein Bezug
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 56 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 40 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 81 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 26 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 54 %einzelne zitierbare Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 64 %Hintergrund, keine Belege
    • JEV 53 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 40 %gleiches Oberthema, hilft nicht
    • Luna 54 %Hintergrund, keine Belege
    • JEV 61 %gleiches Oberthema, hilft nicht
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 39 %nur am Rande erwähnt
    • amos 31 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 25 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 35 %Hintergrund, keine Belege
    • Luna 48 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 29 %Hintergrund, keine Belege
    • Luna 44 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 38 %Hintergrund, keine Belege
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 42 %gleiches Oberthema, hilft nicht
    • Luna 53 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 42 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →