Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset17. Februar 2021 · Q005233

AI Verification

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der bereitgestellte Textauszug schlägt Prüfungen von Softwarezonen und Hardware sowie Schutz- und Überwachungsverfahren vor, um KI in militärischen Systemen und deren Steuerungsmöglichkeiten zu verifizieren. Der Bericht betont, dass technische Tragfähigkeit und praktische Umsetzbarkeit dieser Ansätze noch untersucht werden müssen.

Mittel

Der bereitgestellte Textauszug aus „AI Verification“ argumentiert, dass Regeln zur militärischen Nutzung von KI überprüfbar sein müssen, damit internationale KI-Rüstungskontrolle wirksam werden kann. KI könne laut Bericht zwar schnell und effizient sein, aber fehlerhafte oder unethisch entwickelte Systeme könnten in kritischen Aufgaben großen Schaden verursachen und Normen wie das Kriegsvölkerrecht gefährden. Als denkbare Regeln nennt der Text Sicherheitsstandards, Verbote bestimmter Anwendungen und Grenzen für Entscheidungen, die KI treffen darf.

Der Bericht konzentriert sich auf mechanische Systeme wie militärische Drohnen und darauf, festzustellen, ob sie KI enthalten und welche Funktionen diese steuern kann. Für Inspektionen schlägt er begrenzte Prüfungen ausgewählter „Verifikationszonen“ in der Software sowie die Untersuchung von KI-Chips und ihrer Verbindungen zu Teilsystemen vor. Nach einer Erstprüfung könnten Manipulationsschutzmaßnahmen wie Hashwerte und Code-Verschleierung sowie die Überwachung von Van-Eck-Strahlung helfen, spätere Änderungen oder Auffälligkeiten zu erkennen.

Der Text präsentiert diese Ansätze als mögliche Mechanismen, nicht als bereits erwiesene Lösungen. Ihre technische Tragfähigkeit und praktische Umsetzbarkeit müssten weiter erforscht werden; andere Verifikationsansätze liegen außerhalb des hier behandelten Umfangs.

Ausführlich lesen

Der bereitgestellte Textauszug des Berichts „AI Verification“ behandelt die Frage, wie internationale Regeln für den Einsatz künstlicher Intelligenz (KI) im Bereich der nationalen Sicherheit überprüft werden könnten. Der Bericht beschreibt KI als potenziell schneller und effizienter als Menschen, zugleich aber als fehleranfällig. Wenn schlecht getestete oder unethisch entwickelte Systeme kritische Aufgaben übernehmen, etwa in autonomen Waffensystemen, könnten sie laut Bericht erheblichen Schaden verursachen und grundlegende Normen wie das Kriegsvölkerrecht untergraben. Internationale Rüstungskontrolle für KI könne helfen, mögliche Vorteile und Risiken auszubalancieren.

Der Bericht nennt verschiedene denkbare Regulierungsansätze: Sicherheitsstandards für die Entwicklung von KI, Verbote bestimmter Anwendungen und Beschränkungen dafür, welche Entscheidungen KI treffen darf, beispielsweise die Entscheidung über den Gewalteinsatz. Unabhängig vom gewählten Regelungsmodell sei jedoch eine Möglichkeit nötig, die Einhaltung zu prüfen. Der Bericht versteht unter „KI-Verifikation“ die Feststellung, ob Staaten und ihre KI-Systeme vertragliche Verpflichtungen einhalten. Verifikationsmechanismen sollen unerlaubte KI-Nutzung oder unerlaubte Kontrolle durch KI verhindern oder aufdecken.

Als konkreten Schwerpunkt wählt der Bericht die Prüfung, ob ein mechanisches System – etwa eine militärische Drohne – KI enthält und welche Funktionen diese KI steuern kann. Er beansprucht nicht, alle möglichen Verifikationsansätze oder politischen Ziele abzudecken; weitere Ansätze seien zu untersuchen.

Vorgeschlagen werden zunächst zwei Mechanismen für Inspektionen durch Dritte. Bei Prüfungen von „Verifikationszonen“ würden ausgewählte Softwarebereiche untersucht, die KI nicht kontrollieren darf, etwa Systeme für den Gewalteinsatz. Kann die Inspektion bestätigen, dass diese Bereiche frei von KI-Kontrolle sind, soll das Gesamtsystem als regelkonform gelten. Der begrenzte Prüfumfang soll die Komplexität und Eingriffsintensität verringern und Bereiche schützen, die für die KI-Regulierung nicht relevant sind. Hardwareprüfungen würden dagegen untersuchen, ob KI-Chips vorhanden sind und welche Teilsysteme sie steuern.

Für die Zeit nach einer Erstprüfung führt der Bericht zwei Mechanismen zur fortlaufenden Überprüfung an. Manipulationsschutz für Software, etwa kryptografische Hashwerte und Code-Verschleierung, soll nachträgliche Änderungen erschweren oder erkennbar machen. Hashwerte könnten Inspektoren zudem eine Referenz für das erwartete Systemdesign liefern. Bei einer kontinuierlichen Prüfung durch Van-Eck-Strahlungsanalyse würde die beim Ausführen von Code entstehende Strahlung überwacht; Abweichungen könnten auf eine nicht regelkonforme Manipulation hindeuten.

Der Bericht stellt diese Vorschläge als mögliche Beiträge zu einem Verifikationssystem vor. Er legt sich jedoch nicht darauf fest, dass sie bereits praktisch einsetzbar oder technisch hinreichend belastbar sind: Ihre technische Tragfähigkeit und ihre Umsetzbarkeit im Betrieb müssten weiter untersucht werden. Die Zusammenfassung bezieht sich auf den bereitgestellten Textauszug, der den Schwerpunkt und die vorgeschlagenen Mechanismen beschreibt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde vor allem die mittlere Zusammenfassung; die kurze ist ebenfalls im Kern treu. Die Einordnung stützt sich nur auf den Berichtstext; die Metadaten und die Abbildung wurden nicht als Beleg gewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Wenige praktische Verifikationsmechanismen wurden bisher vorgeschlagen, weshalb die Rüstungskontrolle ohne sie ins Stocken gerät
  • Verifikation gibt KI-Regulierung erst Wirkung (AI verification gives teeth to AI regulation)
  • Verifikationszonen verringern Prüfkomplexität und Eingriffstiefe, weil nur sicherheitsrelevante Teilsysteme geprüft werden
  • Der Bericht grenzt seinen Umfang bewusst ein und lässt andere Verifikationsansätze außen vor

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 20 %Hintergrund, keine Belege
    • Luna 36 %einzelne zitierbare Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

    • SF-M3-T03 Wenn die leistungsstärksten KI-Modelle kritische Infrastruktur schützen und bei einem laufenden Einbruch in Maschinengeschwindigkeit selbstständig Netze abtrennen oder Korrekturen am ausführbaren Programmcode (Binär-Patches) erzeugen: Welche manipulationssichere Signatur in den Betriebsdaten (Telemetrie) unterscheidet eine rechtmäßige autonome Notfallbehebung von der Cyber-Sabotage eines Gegners, damit Abwehrschritte im zweiseitigen Meldekanal keinen Fehlalarm auslösen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-F1-T11 Werden Ministerien eine Behauptung über Fähigkeiten nur anerkennen, wenn ein anderer Staat denselben Test wiederholen kann, und können sie sich auf unabhängige Prüfer und einen sicheren Zugang einigen, um strittige Befunde nachzustellen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 18 %Hintergrund, keine Belege
    • Luna 29 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 27 %Hintergrund, keine Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

    • SF-F4-T06 Wenn ein Prüfrahmen davon ausgeht, dass der Entwickler ein kommerzielles Frontier-Labor ist: Was gilt für ein Modell, das in einem Militärkommando, einem Geheimdienst oder bei einem Cloud-Anbieter entwickelt wird, der nach keiner bisher verwendeten Bezeichnung ein „Labor“ ist, und wer ist dann das Gegenüber für die Prüfung? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 36 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 22 %umfangreiche Belege
    • Luna 34 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 22 %umfangreiche Belege
    • drex 19 %umfangreiche Belege
    • d3-ultra 26 %Hintergrund, keine Belege

    • SF-P1-T01 Wie ließen sich unabhängige Zertifizierungsstellen für KI-Sicherheit schaffen, die alle Seiten anerkennen? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-P1-T02 Bekommen ausländische Prüfer in den Laboren eines Staates denselben mitarbeiterähnlichen Zugang, der von den Laboren eines anderen verlangt wird, und würden dessen Labore das umgekehrt annehmen? Würden ein eigenes KI-Gesetz und eine nationale Aufsichtsplattform, die ein Staat ankündigt, von einem anderen Staat bestellte Prüfer annehmen, mit demselben Zugang und mit Veröffentlichung ohne redaktionelle Kontrolle? Und welche Regel gilt für ihre Notizen, wenn ein Gericht oder eine Sicherheitsbehörde eine Offenlegung über ihren Sicherheitsauftrag hinaus erzwingt: Dürfen sie dann eine unabhängige Aufsicht informieren? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P1-T06 Kann ein Staat gemeinsame Prüfverfahren überhaupt anwenden, wenn ein anderer die nötige Hardware durch Exportkontrollen beschränkt, und hat ein Beteiligter gesagt, ob die Prüfung von genau den Chipkontrollen abhängen darf, die der betroffene Staat „Monopol und Technologiebeschränkung“ nennt? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-P1-T07 Wie könnten Labore verschiedener Staaten gegenseitige Prüfvereinbarungen treffen, um zu überwachen, ob vereinbarte Sicherheitspraktiken eingehalten werden? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 28 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-P2-T04 Werden die Zugangsrechte der Prüfer veröffentlicht, gibt es einen unabhängigen, befristeten Einspruch gegen Schwärzungen, ein unabhängiges Verfahren für den Streit, wenn ein Labor einen Befund als Geschäftsgeheimnis schwärzt und der Prüfer ihn für ein Sicherheitsproblem hält, und ein öffentliches Register verweigerter Zugänge und Schwärzungen, damit das Schweigen eines Prüfers nicht als Zeichen von Sicherheit gelesen wird? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %Hintergrund, keine Belege
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 27 %nur am Rande erwähnt
    • SubQ 24 %Hintergrund, keine Belege
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 45 %gleiches Oberthema, hilft nicht

  4. SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
    • clef 23 %umfangreiche Belege
    • Luna 45 %beantwortet teilweise oder widerspricht
    • JEV 46 %beantwortet teilweise oder widerspricht
    • amos 28 %umfangreiche Belege
    • SubQ 43 %beantwortet direkt und ausführlich
    • drex 32 %umfangreiche Belege
    • d3-ultra 21 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-P5-T01 Welche unabhängigen Prüfwege (technische Prüfung, Prüfung durch Dritte, gegenseitige Inspektion oder ein gemeinsames technisches Sekretariat) würde jeder Staat für die Bereiche annehmen, die er auf den Tisch legt, auch wenn Exportkontrollen für Chips ausgeklammert bleiben, und bei welcher Transparenzzusage lehnt er eine Prüfung ab, und warum? Luna: Stufe 4 · 39 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
    • SF-P5-T03 Wie oft, durch wen und nach welcher veröffentlichten Prüfliste prüft eine Stelle von außen, ob jeder Staat die zweiseitigen KI-Zusagen noch einhält, und welches einzelne benannte Ereignis zieht eine Prüfung vor, wenn ein Staat vermutet, dass der andere sie heimlich nicht erfüllt? Welches vorab vereinbarte, objektiv prüfbare Ereignis (etwa ein neues Modell, das eine erklärte Fähigkeitsschwelle überschreitet, der Durchbruch eines ausländischen Labors, eine bestätigte Verletzung des Meldekanals zwischen den Staaten oder ein Wechsel der nationalen Führung) muss die Vereinbarung auch ohne Verdacht förmlich zur Prüfung öffnen, und wer kann diese Prüfung ohne Zustimmung des anderen Staates einberufen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-P5-T04 Welche Gestaltung würde KI-Zusagen zwischen Staaten über Wahlen, Führungswechsel und diplomatische Brüche hinweg tragen, und würde eine Regierung einen Mechanismus annehmen, der ihre Nachfolger bindet? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %Hintergrund, keine Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 59 %einzelne zitierbare Belege
    • JEV 25 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 23 %Hintergrund, keine Belege
    • Luna 36 %einzelne zitierbare Belege
    • JEV 53 %beantwortet teilweise oder widerspricht
    • amos 27 %einzelne zitierbare Belege
    • SubQ 25 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra 26 %Hintergrund, keine Belege

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 36 %Hintergrund, keine Belege
    • JEV 53 %gleiches Oberthema, hilft nicht
    • amos 31 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 64 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 53 %einzelne zitierbare Belege
    • JEV 21 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-H3-T05 Wenn ein Modell nacheinander von Laboren in verschiedenen Rechtsordnungen feinjustiert, mit anderen Modellen zusammengeführt oder destilliert wird (ein weiteres Modell wird mit seinen Ausgaben trainiert) und jede Stufe Fähigkeiten hinzufügen oder Schutzvorkehrungen entfernen kann: Welches gemeinsame Herkunftsregister, das sich nur ergänzen und nicht ändern lässt, verfolgt eine Gefahr bis zu der Änderung zurück, die sie brachte, ohne die vollständigen Trainingsdaten eines einzelnen Labors zu verlangen? Und wenn dabei ein Verhalten entsteht, das keines der Ursprungslabore vorhergesehen hat: Welche Register- oder Vorabmeldepflicht gilt vor dem Einsatz, und welcher Staat ist bei grenzüberschreitendem Schaden zuständig? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
  2. SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
    • clef 100 %kein Bezug
    • Luna 34 %einzelne zitierbare Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 20 %beantwortet teilweise oder widerspricht
    • Luna 48 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 31 %beantwortet teilweise oder widerspricht
    • SubQ 24 %umfangreiche Belege
    • drex 30 %umfangreiche Belege
    • d3-ultra 36 %beantwortet teilweise oder widerspricht

    • SF-K1-T01 Wie prüft ein Staat unabhängig, dass Entscheidungen über den Einsatz von Gewalt, vor allem in der nuklearen Führung und Kontrolle, ausschließlich beim Menschen bleiben? Welche unabhängig prüfbaren Belege würde er als Nachweis dafür annehmen, dass kein KI-System irgendwo in der Kette der nuklearen Führung und Kontrolle eines anderen Staates Freigabebefugnis hat, ohne dass Startverfahren offengelegt werden, und erlauben beide dafür ein gemeinsames Prüfverfahren? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-K1-T02 Welchen gemeinsamen Maßstab dafür, dass „der Mensch entschieden hat“, würden Regierungen annehmen, wenn ein Bediener bei einer Entscheidung über den Einsatz von Gewalt, vor allem über Atomwaffen, eine KI-Empfehlung in Sekunden bestätigt, zu schnell zum Abwägen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-K1-T03 Erklärt jede Regierung, ob irgendein KI-System die Daten für nukleare Frühwarnentscheidungen wirksam steuert, indem es filtert, zusammenführt oder zusammenfasst, was ein Mensch überhaupt zu sehen bekommt, und lässt sie diese Erklärung prüfen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
    • clef 25 %Hintergrund, keine Belege
    • Luna 56 %Hintergrund, keine Belege
    • JEV 63 %gleiches Oberthema, hilft nicht
    • amos 36 %nur am Rande erwähnt
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

    • SF-K2-T01 Wenn Staaten KI-Sicherheitsgrenzen für Spitzenmodelle vereinbaren: Welche Zusage, falls überhaupt eine, erstreckt diese Grenzen auf ihre militärischen Verbündeten, Partner beim Austausch von Geheimdienstwissen und Tochterfirmen von Rüstungsunternehmen, etwa in der NATO oder im Geheimdienstverbund Five Eyes? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-K2-T02 Wenn ein verbündeter Geheimdienst oder ein Verteidigungsministerium ein KI-Spitzenmodell einsetzt, das im Ausland trainiert wurde (gekauft, durch Nachkonstruktion gewonnen oder über einen Drittpartner beschafft): Welches gemeinsame Verfahren verpflichtet die Herkunftsregierung, diesen Einsatz zu melden, und welcher Belegstandard macht die Meldung prüfbar, ohne nachrichtendienstliche Quellen zu gefährden? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht

    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 25 %beantwortet teilweise oder widerspricht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 29 %Hintergrund, keine Belege
    • Luna 56 %Hintergrund, keine Belege
    • JEV 63 %gleiches Oberthema, hilft nicht
    • amos 31 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 76 %gleiches Oberthema, hilft nicht

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 24 %Hintergrund, keine Belege
    • Luna 46 %einzelne zitierbare Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 29 %Hintergrund, keine Belege
    • drex 36 %Hintergrund, keine Belege
    • d3-ultra 37 %Hintergrund, keine Belege

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 55 %gleiches Oberthema, hilft nicht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 32 %einzelne zitierbare Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-E5-T04 Wie wird jede Regierung der eigenen Bevölkerung ihre Zusagen zur KI-Sicherheit erklären, ohne dass die Erklärung als Zugeständnis an die anderen oder als Zeichen eigener Schwäche bei KI-Fähigkeiten gelesen wird? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →