Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
anthropic26. Februar 2026 · Q005257

Dario Amodei on the Department of War discussions

anthropic.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Anthropic-Chef Dario Amodei sagt, das Unternehmen unterstütze die nationale Sicherheit der USA, wolle aber Schutzgrenzen gegen inländische Massenüberwachung und den Einsatz heutiger KI in vollständig autonomen Waffen beibehalten. Das Ministerium verlange laut seiner Stellungnahme deren Aufhebung und habe mit Konsequenzen gedroht; Anthropic hoffe dennoch auf eine Fortsetzung der Zusammenarbeit. Die Angaben sind die Darstellung des Unternehmenschefs und werden im Text nicht unabhängig geprüft.

Mittel

Dario Amodei erklärt, Anthropic unterstütze den Einsatz von KI für die nationale Sicherheit der USA und habe Claude nach eigener Darstellung früh in Regierungsnetzwerken und für militärische sowie nachrichtendienstliche Aufgaben verfügbar gemacht. Das Unternehmen habe außerdem auf Einnahmen verzichtet, um Nutzungen mit Verbindungen zur Kommunistischen Partei Chinas zu unterbinden, Cyberangriffe abzuwehren und für Chip-Exportkontrollen einzutreten.

Der Konflikt mit dem Verteidigungsministerium betreffe zwei Schutzgrenzen: Anthropic lehne KI-gestützte Massenüberwachung innerhalb der USA ab und halte heutige KI für zu unzuverlässig, um vollständig autonome Waffen zu steuern. Das Unternehmen unterstütze rechtmäßige Auslandsaufklärung und teilweise autonome Waffen. Gemeinsame Forschung zur Zuverlässigkeit autonomer Waffen sei angeboten, laut Amodei aber abgelehnt worden. Die beiden Ausnahmen hätten die militärische Nutzung bislang nicht behindert.

Das Ministerium verlange laut Stellungnahme Verträge für jede rechtmäßige Nutzung und habe mit Ausschluss, einer Einstufung als Lieferkettenrisiko sowie dem Defense Production Act gedroht. Anthropic werde die Schutzvorkehrungen nicht aufgeben, wolle aber weiter mit dem Ministerium arbeiten und im Fall eines Anbieterwechsels einen geordneten Übergang ermöglichen. Die Quelle gibt Amodeis Darstellung wieder; unabhängige Bestätigung und die ausführliche Gegenposition des Ministeriums fehlen.

Ausführlich lesen

Der Bericht ist eine Stellungnahme von Anthropic-Chef Dario Amodei zu Gesprächen mit dem US-Verteidigungsministerium, das im Text „Department of War“ genannt wird. Amodei erklärt, er halte den Einsatz von KI zur Verteidigung der USA und anderer Demokratien für existenziell wichtig. Anthropic habe seine Modelle deshalb früh an US-Regierungsstellen und Nachrichtendienste geliefert. Das Unternehmen beansprucht, als erstes Frontier-KI-Unternehmen Modelle in geheimen US-Regierungsnetzwerken und an National Laboratories eingesetzt sowie maßgeschneiderte Modelle für Sicherheitsbehörden bereitgestellt zu haben. Claude werde nach Amodeis Darstellung in zahlreichen sicherheitskritischen Bereichen genutzt, darunter Nachrichtenanalyse, Modellierung, Einsatzplanung und Cyberoperationen.

Amodei führt weitere Schritte an, mit denen Anthropic nach eigener Darstellung die demokratische Stellung der USA gestärkt habe: Das Unternehmen habe auf mehrere hundert Millionen Dollar Umsatz verzichtet, indem es Firmen mit Verbindungen zur Kommunistischen Partei Chinas von Claude ausgeschlossen habe. Es habe zudem vom chinesischen Staat unterstützte Cyberangriffe unterbunden und für strenge Exportkontrollen bei Chips geworben. Zugleich betont er, dass das Ministerium militärische Entscheidungen treffe. Anthropic habe sich, so seine Darstellung, weder gegen einzelne Einsätze ausgesprochen noch den Einsatz seiner Technologie fallweise eingeschränkt.

Die zentrale Streitfrage betreffe zwei eng begrenzte Ausnahmen, die laut Amodei bisher in keinem Vertrag mit dem Ministerium enthalten gewesen seien und es auch künftig nicht sein sollten. Erstens lehnt Anthropic den Einsatz seiner KI zur massenhaften Überwachung von Menschen innerhalb der USA ab. Das Unternehmen unterstütze rechtmäßige Auslandsaufklärung und Spionageabwehr, halte inländische Massenüberwachung aber für unvereinbar mit demokratischen Werten. Amodei warnt, KI könne verstreute Daten wie Bewegungs-, Browser- und Kontaktinformationen zu umfassenden Persönlichkeitsbildern zusammenführen. Er behauptet außerdem, manche derzeit mögliche Datenerhebung sei nur deshalb legal, weil die Gesetzgebung mit den KI-Fähigkeiten nicht Schritt gehalten habe.

Zweitens hält Anthropic heutige Frontier-KI-Systeme nach Amodeis Einschätzung für nicht zuverlässig genug, um vollständig autonome Waffen zu steuern, die Ziele ohne menschliche Beteiligung auswählen und angreifen. Teilautonome Waffen bewertet er als wichtig für die Verteidigung; vollständig autonome könnten künftig ebenfalls militärisch bedeutsam werden. Anthropic wolle jedoch kein Produkt bereitstellen, das US-Soldaten oder Zivilpersonen gefährde. Das Unternehmen habe dem Ministerium gemeinsame Forschung zur Verbesserung der Zuverlässigkeit angeboten; dieses Angebot sei abgelehnt worden. Amodei fordert außerdem angemessene Aufsicht und Schutzvorkehrungen, die seiner Ansicht nach derzeit fehlen.

Der Bericht behauptet, die beiden Ausnahmen hätten die Verbreitung von Claude im Militär bisher nicht behindert. Das Ministerium verlange laut Amodei Verträge für „jede rechtmäßige Nutzung“ und die Aufhebung der Schutzvorkehrungen. Es habe mit dem Ausschluss Anthropics, einer Einstufung als „Lieferkettenrisiko“ und dem Defense Production Act gedroht. Amodei bezeichnet die letzten beiden Drohungen als widersprüchlich: Die eine stelle Anthropic als Sicherheitsrisiko dar, die andere behandle Claude als sicherheitsrelevant. Anthropic werde seine Position nicht ändern, hoffe aber auf eine Fortsetzung der Zusammenarbeit mit den beiden Schutzvorkehrungen. Falls das Ministerium das Unternehmen ablöse, werde Anthropic nach eigener Aussage einen reibungslosen Anbieterwechsel unterstützen und seine Modelle während der Übergangszeit zu den vorgeschlagenen Bedingungen verfügbar halten.

Die Quelle ist eine Stellungnahme des Unternehmenschefs und beschreibt dessen Position sowie Anthropic zugeschriebene Handlungen. Sie enthält keine unabhängige Prüfung der Angaben oder eine ausführliche Darstellung der Gegenposition des Ministeriums.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung von Luna ist im Kern treu, lässt aber Teile des Konflikts mit dem Ministerium aus. Die Einordnung stützt sich nur auf den Bericht; Amodeis Darstellung ist unabhängig nicht geprüft.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Ministeriumsforderung 'any lawful use' als Vertragsbedingung wird in der Kurzfassung nicht genannt
  • Die Einstufung als 'Lieferkettenrisiko' ist eine Bezeichnung, die bisher nur US-Gegnern galt und nie einer US-Firma, was in beiden Fassungen fehlt
  • Der Widerspruch zwischen den beiden Drohungen (Sicherheitsrisiko und unverzichtbare Technologie) fehlt
  • Die Begründung zur Massenüberwachung fehlt: Datenkäufe ohne Haftbefehl und bipartisane Kritik im Kongress
  • Die Nutzungsfelder wie Intelligence-Analyse, Cyberoperationen und Operationsplanung fehlen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 25 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 25 %Hintergrund, keine Belege
    • JEV 27 %nur am Rande erwähnt
    • amos 27 %einzelne zitierbare Belege
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 4 · 44 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 34 %nur am Rande erwähnt
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 25 %nur am Rande erwähnt
    • Luna 48 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 31 %nur am Rande erwähnt
    • d3-ultra offen

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-F5-T05 Welche gemeinsamen Abläufe zur Deeskalation gibt es, um eine Blitz-Eskalation zu erkennen und zu unterbrechen, also sich aufschaukelnde Krisen, ausgelöst durch spieltheoretische Rückkopplungen im Bruchteil einer Sekunde zwischen gegnerischen autonomen Agentensystemen für Cyberabwehr und Nachrichtendienst, die schneller arbeiten als diplomatische Kanäle zwischen Menschen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 26 %Hintergrund, keine Belege
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-T1-T09 Wenn sich eine staatliche Gefahrenliste und ein Vorschlag, eng begrenzte, offensichtlich gefährliche KI-Verwendungen zu verbieten, überschneiden: Schreibt jemand die Überschneidung als Entwurf auf, bevor die Debatte wieder aufgenommen wird? Gefragt wurde das zu Chen Yixins Artikel und zu Stufe 1 in Dario Amodeis Essay. Luna: Stufe 3 · 23 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 47 %einzelne zitierbare Belege
    • JEV 47 %umfangreiche Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 72 %einzelne zitierbare Belege
    • JEV 39 %beantwortet teilweise oder widerspricht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V4-T04 Wenn ein Eigenwert des Menschseins verankert werden soll: Lässt er sich schützen, ohne sich vorher zu einigen, worin er besteht? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 62 %beantwortet teilweise oder widerspricht
    • JEV 55 %beantwortet teilweise oder widerspricht
    • amos 30 %einzelne zitierbare Belege
    • SubQ 23 %Hintergrund, keine Belege
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung umfangreiche Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 33 %einzelne zitierbare Belege
    • JEV 32 %beantwortet teilweise oder widerspricht
    • amos 25 %nur am Rande erwähnt
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 39 %Hintergrund, keine Belege
    • JEV 30 %gleiches Oberthema, hilft nicht
    • amos 27 %nur am Rande erwähnt
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 24 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
    • clef 33 %nur am Rande erwähnt
    • Luna 56 %einzelne zitierbare Belege
    • JEV 47 %nur am Rande erwähnt
    • amos 40 %einzelne zitierbare Belege
    • SubQ 51 %einzelne zitierbare Belege
    • drex 48 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-H5-T02 Beziehen sich die Technologiemaßnahmen eines Staates und die Einwände des betroffenen Staates auf dieselben Listen, etwa Listen beschränkter Unternehmen und Personen (Entity Lists) und Exportkontrollen? Gefragt wurde das zu Chinas Einwänden gegen Monopol und Vorherrschaft und zu den US-Maßnahmen, die Dario Amodei (Anthropic) in seinem Essay „We Must Pace the Frontier“ befürwortet: Verbote für Chips und Anlagen, Vorgehen gegen unerlaubte Destillation (das Trainieren eines eigenen Modells mit den Ausgaben fremder Modelle) und Schutz der Modellgewichte (der gelernten Parameter). Luna: Stufe 4 · 27 % · einzelne zitierbare Belege
Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 29 %beantwortet teilweise oder widerspricht
    • Luna 42 %beantwortet teilweise oder widerspricht
    • JEV 41 %beantwortet teilweise oder widerspricht
    • amos 28 %beantwortet teilweise oder widerspricht
    • SubQ 37 %einzelne zitierbare Belege
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-K1-T01 Wie prüft ein Staat unabhängig, dass Entscheidungen über den Einsatz von Gewalt, vor allem in der nuklearen Führung und Kontrolle, ausschließlich beim Menschen bleiben? Welche unabhängig prüfbaren Belege würde er als Nachweis dafür annehmen, dass kein KI-System irgendwo in der Kette der nuklearen Führung und Kontrolle eines anderen Staates Freigabebefugnis hat, ohne dass Startverfahren offengelegt werden, und erlauben beide dafür ein gemeinsames Prüfverfahren? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-K1-T02 Welchen gemeinsamen Maßstab dafür, dass „der Mensch entschieden hat“, würden Regierungen annehmen, wenn ein Bediener bei einer Entscheidung über den Einsatz von Gewalt, vor allem über Atomwaffen, eine KI-Empfehlung in Sekunden bestätigt, zu schnell zum Abwägen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-K1-T03 Erklärt jede Regierung, ob irgendein KI-System die Daten für nukleare Frühwarnentscheidungen wirksam steuert, indem es filtert, zusammenführt oder zusammenfasst, was ein Mensch überhaupt zu sehen bekommt, und lässt sie diese Erklärung prüfen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
    • clef 22 %nur am Rande erwähnt
    • Luna 62 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 35 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-K2-T01 Wenn Staaten KI-Sicherheitsgrenzen für Spitzenmodelle vereinbaren: Welche Zusage, falls überhaupt eine, erstreckt diese Grenzen auf ihre militärischen Verbündeten, Partner beim Austausch von Geheimdienstwissen und Tochterfirmen von Rüstungsunternehmen, etwa in der NATO oder im Geheimdienstverbund Five Eyes? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 23 %Hintergrund, keine Belege
    • Luna 71 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 31 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  3. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 24 %Hintergrund, keine Belege
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 21 %Hintergrund, keine Belege
    • Luna 51 %einzelne zitierbare Belege
    • JEV 50 %beantwortet teilweise oder widerspricht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E2-T08 Können zwei Staaten KI-Risiken für „politische Sicherheit“ und „gesellschaftliche Steuerung“ im selben technischen Kanal besprechen wie Cyber- und Militärrisiken, ohne dass eine Seite das politische System der anderen als das zu lösende Problem behandelt? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 28 %nur am Rande erwähnt
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E3-T02 Welche Stelle eines Staates wäre das Gegenüber für Prüfungen vor der Veröffentlichung, also Tests auf akute Risiken? Gefragt wurde das zu China (Cyberspace-Verwaltung, Ministerium für Staatssicherheit oder eine neue Stelle) und zu den Prüfungen, die Anthropic-Chef Dario Amodei im Essay „We Must Pace the Frontier“ vorschlägt. Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 65 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 23 %nur am Rande erwähnt
    • Luna 47 %einzelne zitierbare Belege
    • JEV 47 %beantwortet teilweise oder widerspricht
    • amos 25 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 24 %nur am Rande erwähnt
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 4 · 34 % · einzelne zitierbare Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 6 · 41 % · beantwortet teilweise oder widerspricht · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-E5-T04 Wie wird jede Regierung der eigenen Bevölkerung ihre Zusagen zur KI-Sicherheit erklären, ohne dass die Erklärung als Zugeständnis an die anderen oder als Zeichen eigener Schwäche bei KI-Fähigkeiten gelesen wird? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 19 %Hintergrund, keine Belege
    • Luna 47 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 26 %einzelne zitierbare Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-W2-T03 Welche Mindestkriterien für Sicherheit, etwa Prüfkarten mit wiederholbaren Tests, die Freigabe durch im Labor eingebettete Prüfer oder Verzeichnisse, an denen jede Manipulation sichtbar wird, würden Staaten für jedes mit öffentlichen Mitteln beschaffte KI-System verbindlich machen, damit Sicherheitszusagen automatisch an diese Käufe gebunden sind, statt auf freiwilligen Versprechen der Labore zu beruhen? Luna: Stufe 4 · 32 % · einzelne zitierbare Belege
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →