Brief #30: What’s next for China–US AI talks after the Xi–Trump summit
Zusammenfassung
Kurz
Laut Bericht vereinbarten China und die USA einen weiteren KI-Dialog im November sowie einen Kommunikationskanal für KI-Zwischenfälle; mögliche Gesprächsthemen wie Meldeverfahren und gemeinsame Risikobegriffe sind bislang nicht offiziell bestätigt. In China nehmen Vorschläge für ein umfassendes KI-Gesetz zu, doch dessen Zustandekommen bleibt umstritten. Zugleich bauen ByteDance, DeepSeek und staatliche Stellen ihre Arbeit an KI-Sicherheit aus, wobei mehrere angekündigte Einzelheiten noch offen sind.
Mittel
Der Bericht beschreibt neue Schritte in der chinesischen KI-Sicherheitspolitik und betont zugleich, dass wichtige Vorhaben noch ungewiss sind. Beim Treffen von Xi Jinping und Donald Trump im September seien laut den offiziellen Gesprächsprotokollen ein fortlaufender China-USA-Dialog über KI-Risiken und -Nutzen sowie ein Kommunikationskanal für KI-Zwischenfälle vereinbart worden. Eine offizielle Tagesordnung für das nächste Treffen im November gebe es noch nicht. Ein staatlich verbundenes chinesisches Medienkonto und Fachleute deuteten jedoch an, dass dann Meldeverfahren, gemeinsame Risikobegriffe und besonders schwere Gefahren behandelt werden könnten.
Zwei neue, nichtamtliche Entwürfe für ein chinesisches KI-Gesetz ergänzen zahlreiche bestehende Vorschläge. Einer würde Auflagen nach Autonomie, Zuverlässigkeit und Folgen des jeweiligen Einsatzes staffeln; der andere legt besonderes Gewicht auf KI-bezogene Cybergefahren. China hat bereits verbindliche KI-Regeln, aber kein umfassendes horizontales Gesetz. Ob ein solches kommt, bleibt laut Bericht umstritten: Manche Juristen sprechen von beschleunigten Arbeiten, andere bezweifeln, dass ein eigenständiges Gesetz geplant ist.
Zudem habe ByteDance eine neue Abteilung für KI-Alignment und Vorbereitung auf künftige Risiken geschaffen. DeepSeek berichtet über Maßnahmen gegen das Ausnutzen seiner Testumgebung durch Agenten, räumt aber Grenzen einzelner Schutzmechanismen ein. China kündigte eine eigene Förderung für technische KI-Sicherheit und 25 neue nationale KI-Standards an; Förderhöhe, Forschungsschwerpunkte und genaue Standardinhalte seien noch nicht bekannt.
Ausführlich lesen
Der Bericht von Gabriel Wagner zeichnet ein gemischtes Bild der chinesischen KI-Sicherheitspolitik: Zwischen China und den USA gibt es neue Gesprächsformate, innerhalb Chinas wächst die Debatte über ein umfassendes KI-Gesetz, und Unternehmen sowie Behörden bauen ihre Sicherheitsarbeit aus. Die Darstellung beruht auf offiziellen Mitteilungen, Medienberichten, Fachbeiträgen und Entwürfen; mehrere Einschätzungen zu künftigen Gesprächsthemen oder zur Gesetzgebung werden ausdrücklich als Vorschläge beziehungsweise umstrittene Angaben gekennzeichnet.
Beim Treffen von Xi Jinping und Donald Trump am 24. und 25. September seien laut den chinesischen und US-amerikanischen Gesprächsprotokollen zwei Ergebnisse zur KI-Sicherheit vereinbart worden: ein bilateraler Dialog über Risiken und Vorteile von KI mit einem nächsten Treffen im November sowie ein Kommunikationskanal für KI-Zwischenfälle. Der Autor bewertet die Vereinbarung angesichts zweijähriger Pause bei formellen Gesprächen positiv und als mögliches Zeichen für einen fortlaufenden Austausch. Laut einem staatlich verbundenen chinesischen Medienkonto hätten die Gespräche in Washington vor allem dem Austausch von Positionen gedient; eine offizielle Tagesordnung für November sei jedoch nicht bestätigt. Der Beitrag hält es für denkbar, dass beide Seiten dann Meldepflichten und Abläufe für Zwischenfälle konkretisieren, gemeinsame Risikobegriffe entwickeln und zunächst besonders schwere Gefahren behandeln. Chinesische Fachleute diskutierten demnach auch militärische KI-Risiken und mögliche Zusagen gegen autonom ausgelöste Schäden. Einige wollten gemeinsame Sicherheitsfragen von strukturellen Konflikten wie Exportkontrollen trennen. Die US-amerikanische Mitteilung verwendet „Superintelligenz“, während die chinesische von künstlicher Intelligenz spricht; laut Bericht respektiere China die US-Formulierung, ohne sie selbst zu übernehmen.
Zwei neue, nichtamtliche Entwürfe für ein chinesisches KI-Gesetz erweiterten eine bereits große Sammlung von Vorschlägen. Ein Entwurf der Zhejiang-Universität würde die Pflichten für ein System an dessen Autonomie, Zuverlässigkeit und Kontrollierbarkeit sowie an den möglichen Folgen der jeweiligen Aufgabe ausrichten. Ein weiterer Entwurf von Lin Qianduo greife bestehende Vorschläge, das EU-KI-Gesetz und chinesische Sicherheitsregeln auf und betone unter anderem Cybergefahren durch KI. China verfüge bereits über verbindliche, teils ministerielle Vorschriften für KI-Dienste, aber bislang nicht über ein umfassendes, horizontales Gesetz. Ob ein solches Gesetz tatsächlich kommt, bleibe offen: Einige Juristen berichteten von laufenden, rasch voranschreitenden Arbeiten; andere bezweifelten, dass der Gesetzgebungsplan ein eigenständiges KI-Gesetz vorsehe. Die Vielzahl konkurrierender Vorschläge zeige laut Autor, dass die chinesische Debatte nicht einheitlich sei.
Weitere Entwicklungen: ByteDance habe sein Team für verantwortungsvolle KI zu einer Abteilung für Alignment und Vorbereitung auf künftige Risiken ausgebaut. DeepSeek beschreibe in einem technischen Bericht, wie es unerwünschte Wege zur Beschaffung von Testergebnissen durch KI-Agenten beobachtet und seine Testumgebung härten wolle; der Bericht räume ein, dass kein einzelner Schutzmechanismus jedes Fehlverhalten verhindern könne. Chinas Forschungsstiftung kündigte eine eigene Fördermöglichkeit für technische KI-Sicherheit an, nannte aber weder Mittelumfang noch konkrete Forschungsschwerpunkte. Außerdem seien 25 neue nationale KI-Standards zur Ausarbeitung freigegeben worden; ihr genauer Inhalt stehe noch nicht fest, die meisten sollen bis Ende 2027 zur Genehmigung vorgelegt werden. Der Beitrag führt daneben Positionen chinesischer Vertreter bei den Vereinten Nationen und einen Wissenschaftler an, der die Entwicklung von Superintelligenz bis zum wissenschaftlichen Nachweis ihrer Sicherheit und Kontrollierbarkeit zurückstellen möchte.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat nur die Sammelfragen eingeordnet, die Teilfragen-Liste ist leer. Die Stufen sind bei SF-M2 und SF-E2 vertretbar, bei SF-F5 hat Luna mit Stufe 4 und 88 Prozent zu hoch gegriffen. Die Prozentangaben lassen sich am Bericht nicht prüfen und wurden deshalb nicht übernommen.
Im Bericht, aber nicht in der Zusammenfassung
- Die US-Fassung spricht von 'Super Intelligence' statt 'artificial intelligence' und nennt einen 'SI-Dialog', die chinesische Fassung nicht; das Außenministerium verwies darauf, dass China die US-Formulierung respektiere.
- Laut Yuyuan Tantian war die Zeit in Washington knapp, sodass die Seiten vor allem ihre Positionen darlegten und konkrete Themen auf den November verschoben.
- Zhang Wenxian nannte die NDRC als geeignete federführende Behörde für das KI-Gesetz, und SHOU Bu kritisierte die Entwürfe, weil er einen eigenständigen KI-Gesetzesentwurf in der Planung nicht sieht.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 26 %Hintergrund, keine Belege
- Luna 74 %einzelne zitierbare Belege
- JEV
- amos 38 %einzelne zitierbare Belege
- SubQ 44 %einzelne zitierbare Belege
- drex 42 %einzelne zitierbare Belege
- d3-ultra 69 %einzelne zitierbare Belege
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 24 %Hintergrund, keine Belege
- Luna 90 %einzelne zitierbare Belege
- JEV
- amos 33 %einzelne zitierbare Belege
- SubQ 34 %einzelne zitierbare Belege
- drex 32 %beantwortet teilweise oder widerspricht
- d3-ultra 42 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 37 %einzelne zitierbare Belege
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 20 %Hintergrund, keine Belege
- Luna 76 %einzelne zitierbare Belege
- JEV
- amos 37 %einzelne zitierbare Belege
- SubQ 37 %einzelne zitierbare Belege
- drex 31 %Hintergrund, keine Belege
- d3-ultra 29 %Hintergrund, keine Belege
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 54 %einzelne zitierbare Belege
- JEV
- amos 30 %Hintergrund, keine Belege
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 40 %Hintergrund, keine Belege
- d3-ultra 27 %Hintergrund, keine Belege
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 31 %Hintergrund, keine Belege
- Luna 57 %einzelne zitierbare Belege
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 30 %nur am Rande erwähnt
- drex 40 %einzelne zitierbare Belege
- d3-ultra 35 %nur am Rande erwähnt
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 29 %Hintergrund, keine Belege
- Luna 54 %Hintergrund, keine Belege
- JEV
- amos 28 %Hintergrund, keine Belege
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 30 %Hintergrund, keine Belege
- Luna 68 %einzelne zitierbare Belege
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 38 %nur am Rande erwähnt
- drex 47 %nur am Rande erwähnt
- d3-ultra 51 %nur am Rande erwähnt
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 24 %Hintergrund, keine Belege
- Luna 37 %einzelne zitierbare Belege
- JEV
- amos 33 %einzelne zitierbare Belege
- SubQ 26 %gleiches Oberthema, hilft nicht
- drex 49 %einzelne zitierbare Belege
- d3-ultra 37 %gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 23 %Hintergrund, keine Belege
- Luna 88 %einzelne zitierbare Belege
- JEV
- amos 37 %einzelne zitierbare Belege
- SubQ 31 %nur am Rande erwähnt
- drex 50 %einzelne zitierbare Belege
- d3-ultra 49 %einzelne zitierbare Belege
- Haiku-Prüfung Hintergrund, keine Belege
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 36 %Hintergrund, keine Belege
- Luna 47 %Hintergrund, keine Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 29 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV
- amos 35 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 27 %Hintergrund, keine Belege
- Luna 38 %einzelne zitierbare Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 33 %Hintergrund, keine Belege
- d3-ultra 40 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 32 %Hintergrund, keine Belege
- Luna 38 %einzelne zitierbare Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 60 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 30 %Hintergrund, keine Belege
- Luna 69 %Hintergrund, keine Belege
- JEV
- amos 33 %Hintergrund, keine Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 34 %Hintergrund, keine Belege
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 25 %Hintergrund, keine Belege
- Luna 40 %einzelne zitierbare Belege
- JEV
- amos 27 %einzelne zitierbare Belege
- SubQ 37 %nur am Rande erwähnt
- drex 46 %einzelne zitierbare Belege
- d3-ultra 58 %nur am Rande erwähnt
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 26 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 30 %gleiches Oberthema, hilft nicht
- d3-ultra 71 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 23 %Hintergrund, keine Belege
- Luna 34 %Hintergrund, keine Belege
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 34 %Hintergrund, keine Belege
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 25 %Hintergrund, keine Belege
- Luna 61 %einzelne zitierbare Belege
- JEV
- amos 30 %einzelne zitierbare Belege
- SubQ 28 %Hintergrund, keine Belege
- drex 32 %Hintergrund, keine Belege
- d3-ultra 36 %Hintergrund, keine Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 26 %Hintergrund, keine Belege
- Luna 36 %Hintergrund, keine Belege
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 27 %nur am Rande erwähnt
- d3-ultra 47 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 33 %gleiches Oberthema, hilft nicht
- Luna 54 %Hintergrund, keine Belege
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 31 %Hintergrund, keine Belege
- Luna 66 %Hintergrund, keine Belege
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 26 %Hintergrund, keine Belege
- Luna 48 %einzelne zitierbare Belege
- JEV
- amos 39 %einzelne zitierbare Belege
- SubQ 35 %nur am Rande erwähnt
- drex 55 %einzelne zitierbare Belege
- d3-ultra 47 %einzelne zitierbare Belege
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 42 %nur am Rande erwähnt
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 33 %gleiches Oberthema, hilft nicht
- drex 34 %nur am Rande erwähnt
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 25 %nur am Rande erwähnt
- Luna 72 %nur am Rande erwähnt
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 57 %nur am Rande erwähnt
- drex 55 %nur am Rande erwähnt
- d3-ultra 86 %nur am Rande erwähnt
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 24 %nur am Rande erwähnt
- Luna 34 %einzelne zitierbare Belege
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 55 %nur am Rande erwähnt
- drex 36 %nur am Rande erwähnt
- d3-ultra 52 %nur am Rande erwähnt
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 24 %Hintergrund, keine Belege
- Luna 48 %Hintergrund, keine Belege
- JEV
- amos 40 %nur am Rande erwähnt
- SubQ 38 %nur am Rande erwähnt
- drex 32 %nur am Rande erwähnt
- d3-ultra 40 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 30 %Hintergrund, keine Belege
- Luna 77 %einzelne zitierbare Belege
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 27 %Hintergrund, keine Belege
- d3-ultra 41 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 23 %einzelne zitierbare Belege
- Luna 51 %einzelne zitierbare Belege
- JEV
- amos 31 %einzelne zitierbare Belege
- SubQ 27 %nur am Rande erwähnt
- drex 40 %einzelne zitierbare Belege
- d3-ultra 31 %Hintergrund, keine Belege
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 22 %Hintergrund, keine Belege
- Luna 80 %einzelne zitierbare Belege
- JEV
- amos 38 %einzelne zitierbare Belege
- SubQ 29 %Hintergrund, keine Belege
- drex 41 %einzelne zitierbare Belege
- d3-ultra 53 %einzelne zitierbare Belege
- Haiku-Prüfung umfangreiche Belege
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 21 %einzelne zitierbare Belege
- Luna 55 %einzelne zitierbare Belege
- JEV
- amos 41 %einzelne zitierbare Belege
- SubQ 48 %einzelne zitierbare Belege
- drex 40 %einzelne zitierbare Belege
- d3-ultra 60 %einzelne zitierbare Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 51 %einzelne zitierbare Belege
- JEV
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 75 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 32 %einzelne zitierbare Belege
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 31 %Hintergrund, keine Belege
- d3-ultra 70 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 76 %gleiches Oberthema, hilft nicht
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv