Trump, Xi and Putin could discuss AI curbs in nuclear command
Zusammenfassung
Kurz
Laut dem Bericht könnte Trump, Xi und Putin bei einem möglichen Treffen am APEC-Gipfel über KI in nuklearen Kommandoabläufen sprechen und sich eventuell darauf verständigen, Entscheidungen über den Atomwaffeneinsatz Menschen vorzubehalten. Das Treffen und seine Tagesordnung sind laut den vom Artikel zitierten SCMP-Quellen noch nicht bestätigt; Russland habe sich öffentlich nicht zu menschlicher Kontrolle bekannt, und ein Verbot von Angriffen auf nukleare Kommunikationssysteme gelte als weniger aussichtsreich.
Mittel
Der Bericht behandelt mögliche Gesprächsthemen für ein Treffen von Donald Trump, Xi Jinping und Wladimir Putin am Rande des APEC-Gipfels in Shenzhen am 18. und 19. November. Nach einem Bericht der South China Morning Post, auf den sich der Artikel stützt, würden Gespräche über die koreanische Denuklearisierung und den Krieg in der Ukraine nicht mehr erwogen. Stattdessen könnte es um den Einsatz von KI in der nuklearen Führung und Kontrolle gehen.
Als mögliche Einigung nennt der Artikel ein Bekenntnis, Entscheidungen über den Einsatz von Atomwaffen Menschen vorzubehalten. Die USA und China hätten diese Position bereits unterstützt; Russland habe sich öffentlich noch nicht dazu bekannt und sei bei formellen KI-Beschränkungen vorsichtiger. Ein Verbot von Cyber- oder KI-Angriffen auf Systeme zur Übermittlung nuklearer Befehle erscheine laut den zitierten Quellen weniger konsensfähig.
Das Treffen und seine Agenda seien noch nicht endgültig vereinbart. Die Abstimmung der drei Terminkalender könne das Vorhaben verzögern oder verhindern. Die Darstellung stützt sich vor allem auf SCMP und dort zitierte, nicht namentlich genannte Quellen.
Ausführlich lesen
Der Bericht beschreibt mögliche Gesprächsthemen für ein Treffen von Donald Trump, Xi Jinping und Wladimir Putin am Rande des APEC-Gipfels in Shenzhen am 18. und 19. November. Die Angaben zum geplanten Treffen und zur möglichen Tagesordnung schreibt der Artikel dem South China Morning Post (SCMP) zu, die sich laut Bericht auf mit den Vorbereitungen vertraute Quellen beruft. Demnach hätten die drei Länder wochenlang an einer Agenda und einem Protokoll für ein mögliches Treffen gearbeitet; dieses sei noch nicht endgültig vereinbart. Auch volle Terminkalender könnten ein Hindernis sein.
Laut den zitierten Quellen würden Gespräche über die Denuklearisierung der koreanischen Halbinsel und den Krieg in der Ukraine nicht mehr als mögliche Themen erwogen. Stattdessen richte sich der Blick auf Bereiche, in denen eher Einigkeit erreichbar sein könnte, darunter Regeln für den Einsatz künstlicher Intelligenz in der nuklearen Führung und Kontrolle. Eine Übereinkunft dazu wird im Bericht als vergleichsweise sichere, aber wenig ambitionierte und leicht vorzeigbare Einigung charakterisiert.
Eine konkrete Möglichkeit wäre ein gemeinsames Bekenntnis, Entscheidungen über den Einsatz von Atomwaffen Menschen vorzubehalten. Heather Williams, eine Nuklearpolitik-Expertin am Center for Strategic and International Studies, sagte dem SCMP laut Artikel, die drei Staaten könnten sich grundsätzlich darauf verständigen. Die USA und China hätten eine menschliche Kontrolle über solche Entscheidungen bereits befürwortet: Joe Biden und Xi Jinping hätten dies 2024 nach einem Treffen in Peru in getrennten Erklärungen festgehalten. Russland habe sich öffentlich bislang nicht dazu bekannt und sei bei formellen Beschränkungen für KI in nuklearen Kommandoabläufen zurückhaltender, berichtet der Artikel.
Ein weitergehender Vorschlag, Cyberangriffe oder KI-gestützte Angriffe auf Systeme zur Übermittlung nuklearer Befehle zu verbieten, gilt dem Bericht zufolge als weniger wahrscheinlich konsensfähig. Trump habe am Sonntag erklärt, er erwarte ein Treffen mit beiden Staatschefs in China. Der Artikel hält jedoch fest, dass das Treffen noch ausgearbeitet werde und an der Abstimmung der Termine scheitern könnte. Die Aussagen beruhen überwiegend auf Medienberichten und anonymen Quellen; eine vereinbarte Tagesordnung oder ein tatsächliches Treffen werden nicht bestätigt.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung wurde gegen den Bericht geprüft; die Einordnungen bewerten nur den Berichtsinhalt, nicht Luna's Prozentwerte oder Stufen. Beide Zusammenfassungen (kurz und mittel) stimmen im Kern mit dem Bericht überein, die Bewertung bezieht sich auf die ausführlichere Fassung.
Im Bericht, aber nicht in der Zusammenfassung
- Heather Williams vom CSIS hält laut SCMP eine Einigung auf menschliche Entscheidung über Atomwaffen grundsätzlich für möglich
- Die Einordnung der KI-Governance als sichere, aber 'fade' Wahl und als 'leicht umsetzbares Ergebnis'
- Trumps Aussage vom Sonntag, er erwarte, beide Staatschefs in China zu treffen
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 50 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M1-T02 Könnten Staaten eine kurze, gemeinsam vereinbarte Liste veröffentlichen, was für Meldezwecke als KI-gestützter Cybervorfall zählt, damit die Definition keines Staates später als Vorwurf gegen einen anderen gelesen werden kann?
- SF-M1-T04 Welche KI-Systeme gelten als Systeme der nationalen Sicherheit? Veröffentlicht jeder Staat die Kriterien, nach denen ein Modell oder ein Einsatz in diese Gruppe fällt, und können andere Staaten eine solche Einstufung förmlich anfechten?
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 58 %Hintergrund, keine Belege
- JEV 35 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können?
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 22 %nur am Rande erwähnt
- Luna 53 %einzelne zitierbare Belege
- JEV 49 %einzelne zitierbare Belege
- amos 27 %nur am Rande erwähnt
- SubQ 23 %einzelne zitierbare Belege
- drex 33 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten?
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 18 %nur am Rande erwähnt
- Luna 63 %einzelne zitierbare Belege
- JEV 71 %einzelne zitierbare Belege
- amos 40 %einzelne zitierbare Belege
- SubQ 43 %einzelne zitierbare Belege
- drex 44 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-F5-T02 Könnten Staaten gemeinsame rote Linien vereinbaren, die den Einsatz KI-verstärkter Cyberfähigkeiten gegen kritische zivile Infrastruktur strikt verbieten?
- SF-F5-T05 Welche gemeinsamen Abläufe zur Deeskalation gibt es, um eine Blitz-Eskalation zu erkennen und zu unterbrechen, also sich aufschaukelnde Krisen, ausgelöst durch spieltheoretische Rückkopplungen im Bruchteil einer Sekunde zwischen gegnerischen autonomen Agentensystemen für Cyberabwehr und Nachrichtendienst, die schneller arbeiten als diplomatische Kanäle zwischen Menschen?
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 33 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 35 %gleiches Oberthema, hilft nicht
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 23 %Hintergrund, keine Belege
- Luna 40 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 33 %Hintergrund, keine Belege
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 31 %Hintergrund, keine Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 43 %gleiches Oberthema, hilft nicht
- Luna 28 %nur am Rande erwähnt
- JEV 25 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 81 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 89 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 37 %gleiches Oberthema, hilft nicht
- JEV 21 %Hintergrund, keine Belege
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 25 %nur am Rande erwähnt
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 38 %einzelne zitierbare Belege
- JEV 32 %Hintergrund, keine Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A2-T02 Welcher gemeinsame Notmechanismus könnte verteilte Agentennetze und kritische automatisierte Dienste anhalten, drosseln oder abschalten, ohne einem einzelnen Akteur die alleinige Kontrolle zu geben?
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 31 %beantwortet teilweise oder widerspricht
- Luna 43 %einzelne zitierbare Belege
- JEV 72 %einzelne zitierbare Belege
- amos 35 %beantwortet teilweise oder widerspricht
- SubQ 36 %einzelne zitierbare Belege
- drex 31 %beantwortet teilweise oder widerspricht
- d3-ultra
- SF-K1-T01 Wie prüft ein Staat unabhängig, dass Entscheidungen über den Einsatz von Gewalt, vor allem in der nuklearen Führung und Kontrolle, ausschließlich beim Menschen bleiben? Welche unabhängig prüfbaren Belege würde er als Nachweis dafür annehmen, dass kein KI-System irgendwo in der Kette der nuklearen Führung und Kontrolle eines anderen Staates Freigabebefugnis hat, ohne dass Startverfahren offengelegt werden, und erlauben beide dafür ein gemeinsames Prüfverfahren?
- SF-K1-T02 Welchen gemeinsamen Maßstab dafür, dass „der Mensch entschieden hat“, würden Regierungen annehmen, wenn ein Bediener bei einer Entscheidung über den Einsatz von Gewalt, vor allem über Atomwaffen, eine KI-Empfehlung in Sekunden bestätigt, zu schnell zum Abwägen?
- SF-K1-T03 Erklärt jede Regierung, ob irgendein KI-System die Daten für nukleare Frühwarnentscheidungen wirksam steuert, indem es filtert, zusammenführt oder zusammenfasst, was ein Mensch überhaupt zu sehen bekommt, und lässt sie diese Erklärung prüfen?
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 21 %Hintergrund, keine Belege
- Luna 50 %Hintergrund, keine Belege
- JEV 36 %einzelne zitierbare Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 25 %einzelne zitierbare Belege
- drex 27 %Hintergrund, keine Belege
- d3-ultra
- SF-K2-T01 Wenn Staaten KI-Sicherheitsgrenzen für Spitzenmodelle vereinbaren: Welche Zusage, falls überhaupt eine, erstreckt diese Grenzen auf ihre militärischen Verbündeten, Partner beim Austausch von Geheimdienstwissen und Tochterfirmen von Rüstungsunternehmen, etwa in der NATO oder im Geheimdienstverbund Five Eyes?
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 39 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 68 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O2-T01 Falls zwischenstaatliche KI-Gespräche ein schriftliches Protokoll ergeben: Wird es vollständig oder nur zusammengefasst veröffentlicht, und welche Aussagen (rote Linien, Schwellen, benannte Modelle) bleiben von vornherein draußen?
- SF-O2-T02 Solange es nach einem Gipfel kein amtliches Ergebnisprotokoll gibt: Welche Mindestzusage unterhalb eines Vertrags würde jede Regierung schon veröffentlichen, damit Labore und Drittstaaten nicht wochenlang raten?
- SF-O2-T07 Was ist das erste schriftliche Ergebnis eines Gipfeltreffens zu KI, und bis wann soll es umgesetzt sein? Gefragt wurde das zum Treffen von Trump und Xi.
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 27 %gleiches Oberthema, hilft nicht
- Luna 29 %Hintergrund, keine Belege
- JEV 55 %gleiches Oberthema, hilft nicht
- amos 27 %nur am Rande erwähnt
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E1-T02 Welche Ordnung gibt Staaten außerhalb eines führenden Staatenpaares ein echtes Stimmrecht, nicht nur ein Anhörungsrecht, bei Vorfallschwellen, Fähigkeitskriterien und Standards?
- SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden?
- SF-E1-T08 Wenn ein gemeinsamer Mechanismus für KI-Vorfälle in einem UN-Gremium liegt: Akzeptieren die ständigen Mitglieder des UN-Sicherheitsrats, dass keines von ihnen allein die Veröffentlichung eines Vorfallberichts blockieren kann?
- SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 21 %nur am Rande erwähnt
- Luna 40 %Hintergrund, keine Belege
- JEV 70 %einzelne zitierbare Belege
- amos 35 %einzelne zitierbare Belege
- SubQ 24 %Hintergrund, keine Belege
- drex 26 %einzelne zitierbare Belege
- d3-ultra
- SF-E2-T01 Wenn der UN-Sicherheitsrat nicht das richtige Forum für KI-Sicherheit ist: Welches Forum würde jeder Staat als legitim annehmen, wer bestimmt seine Mitglieder, und was genau behält der Rat: die Macht zu handeln oder nur die, unterrichtet zu werden?
- SF-E2-T04 Erklären die beteiligten Delegationen zu Protokoll, ob ihre laufenden Gespräche nur auf Austausch und Benachrichtigung zielen oder auch auf eine gemeinsam bestimmte Tagesordnung, und welcher innerstaatliche Grundsatz die jeweils nicht gewählte Möglichkeit ausschließt?
- SF-E2-T07 Würden Regierungen ein gemeinsam finanziertes, offenes internationales Forschungsprogramm zu Problemen der Ausrichtung von KI an vorgesehenen Zielen und Werten (Täuschungserkennung, Wertelernen, skalierbare Aufsicht) unterstützen, mit gemeinsamen Vergleichstests und Veröffentlichung, nach dem Vorbild der Europäischen Organisation für Kernforschung (CERN) oder der Internationalen Atomenergie-Organisation (IAEO)?
- SF-E2-T08 Können zwei Staaten KI-Risiken für „politische Sicherheit“ und „gesellschaftliche Steuerung“ im selben technischen Kanal besprechen wie Cyber- und Militärrisiken, ohne dass eine Seite das politische System der anderen als das zu lösende Problem behandelt?
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 22 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 49 %einzelne zitierbare Belege
- JEV 51 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
- SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten.
- SF-E5-T04 Wie wird jede Regierung der eigenen Bevölkerung ihre Zusagen zur KI-Sicherheit erklären, ohne dass die Erklärung als Zugeständnis an die anderen oder als Zeichen eigener Schwäche bei KI-Fähigkeiten gelesen wird?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv