Recommendations For The Next Stages Of The Frontier AI Taskforce
Zusammenfassung
Kurz
Apollo Research empfiehlt, die britische Frontier AI Taskforce schrittweise zu einer technisch kompetenten KI-Regulierungsstelle auszubauen und externe Forschung, Modellprüfungen sowie gegebenenfalls Lizenzierung zu ermöglichen. Außerdem solle sie nationale Sicherheits- und systemische Risiken evaluieren und mit Regierungsstellen Gegenmaßnahmen vorbereiten. Die genannten Gefahren und Befugnisse sind Vorschläge und Einschätzungen des Berichts, keine belegten Vorfälle oder bereits umgesetzten Beschlüsse.
Mittel
Apollo Research richtet zwei Empfehlungen an die britische Frontier AI Taskforce. Die Organisation befasst sich mit der Evaluation fortgeschrittener KI, insbesondere mit Modellen, die Sicherheitsprüfungen umgehen oder strategisch täuschen könnten. Der Bericht formuliert Vorschläge; er dokumentiert weder ihre Umsetzung noch neue Evaluationsergebnisse.
Erstens solle die Taskforce schrittweise zu einer technisch versierten Regulierungsstelle für Frontier-KI werden. Dazu solle sie Evaluierungsinitiativen koordinieren, externe Forschung fördern, technische Empfehlungen an die Regierung richten, Hochrisikomodelle überprüfen und gegebenenfalls private Akteure lizenzieren können. Apollo schlägt vor, die Regierung gesetzlich zu einer Antwort auf technische Empfehlungen zu verpflichten.
Zweitens solle die Taskforce nationale Sicherheit und systemische Risiken priorisieren. Als mögliche Gefahren nennt Apollo unter anderem den Missbrauch für neuartige Krankheitserreger, Cyberangriffe, Desinformation und Ausfälle kritischer Infrastruktur. Die Taskforce solle solche Risiken evaluieren und Gegenmaßnahmen mit Regierungsstellen entwickeln. Genannt werden ein vertraulicher Prüfprozess für strategisch sensible Informationen sowie gemeinsame Reaktionspläne mit GCHQ und SIS für Vorfälle wie die illegale Verbreitung von Modellen. Diese Gefahren und Maßnahmen sind Einschätzungen und Vorschläge der Autoren, keine im Bericht nachgewiesenen Ereignisse oder beschlossenen Zuständigkeiten.
Ausführlich lesen
Der Bericht enthält zwei politische Empfehlungen von Apollo Research an die britische Frontier AI Taskforce. Apollo beschreibt sich als unabhängige Organisation, die fortgeschrittene KI-Modelle evaluiert. Sie konzentriert sich besonders auf „täuschende Ausrichtung“: Fälle, in denen Modelle angepasst wirken, aber möglicherweise strategisch täuschen, Sicherheitsprüfungen umgehen oder nicht ausgerichtete Ziele verfolgen. Die Empfehlungen sind Vorschläge der Organisation, keine im Bericht belegten Beschlüsse oder bereits umgesetzten Maßnahmen. Der Text erläutert sie anhand möglicher Aufgaben und schrittweiser institutioneller Veränderungen; ein eigenes Untersuchungsverfahren oder neue Evaluationsergebnisse werden nicht berichtet.
Erstens solle die Taskforce sich langfristig zu einer technisch kompetenten und anpassungsfähigen Regulierungsstelle für Frontier-KI entwickeln. Apollo begründet das damit, dass Regierungen für technische Leitlinien und Standards oft auf externe Expertise angewiesen seien, während die Taskforce sowohl Fachkenntnis als auch institutionelle Unterstützung mitbringe. Der vorgeschlagene Weg umfasst fünf Schritte: Die Taskforce soll nationale und internationale Evaluierungsinitiativen koordinieren und als Anlaufstelle dienen; externe Forschung durch offene Fördermittel oder gezielte Forschungsaufträge unterstützen; technische Empfehlungen zu Modellprüfungen und KI-Sicherheit in politische und regulatorische Entscheidungen einbringen; hochriskante Modelle überprüfen und Inspektionen durchführen können; und, falls künftig entsprechende Anforderungen entstehen, private Akteure lizenzieren dürfen. Für die technischen Empfehlungen schlägt Apollo zudem eine gesetzliche Pflicht der Regierung vor, darauf zu antworten und entweder Umsetzungspläne oder Gründe für eine Ablehnung darzulegen. Für Überprüfungen in sensiblen Bereichen könnten laut Bericht auch Fachleute anderer Organisationen beauftragt werden.
Zweitens solle die Taskforce sich auf nationale Sicherheit und systemische Risiken konzentrieren. Apollo nennt als mögliche Gefahren den Missbrauch von KI zur Entwicklung neuartiger Krankheitserreger, das Umgehen fortgeschrittener Informationssicherheit sowie unerwartete Ausfälle staatlicher Infrastruktur, etwa in Energie- oder Kommunikationssystemen. Täuschend ausgerichtete und breit eingesetzte Systeme könnten nach Einschätzung der Autoren schwerwiegende, möglicherweise katastrophale Folgen haben. Als mögliche Evaluierungsfelder führt der Text Bio- und Cybersicherheit, Desinformation, psychologische Operationen und politische Überzeugung an.
Ergänzend solle die Taskforce passende Gegenmaßnahmen erforschen und entwickeln, in enger Zusammenarbeit mit zuständigen britischen Regierungsstellen. Als Beispiel vor einem kritischen Vorfall schlägt Apollo einen vertraulichen Prozess mit KI-Laboren und weiteren Beteiligten vor, über den strategisch sensible Informationen geprüft und gegebenenfalls von einer Veröffentlichung abgehalten werden könnten. Für die Zeit nach einem Vorfall empfiehlt der Bericht abgestimmte Reaktionspläne. Als ersten Schritt nennt er eine Zusammenarbeit mit GCHQ und SIS für Fälle wie die illegale Verbreitung von Modellen. Die beschriebenen Risiken und Maßnahmen sind Einschätzungen und Vorschläge von Apollo; der Bericht belegt weder, dass solche Vorfälle eingetreten sind, noch dass die Taskforce die empfohlenen Befugnisse erhalten hat.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung ist im Kern treu, lässt aber den Fokus auf deceptive alignment und den Kontext eines möglichen künftigen Regulierungsregimes aus. Die Einordnung stützt sich nur auf den Berichtstext; die Stufen sind unabhängig von Lunas Werten vergeben.
Im Bericht, aber nicht in der Zusammenfassung
- Apollos Kernfokus auf täuschende Ausrichtung (deceptive alignment) als wichtigen Bestandteil vieler extremer KI-Risikoszenarien
- Die Rahmung: Die Empfehlungen gelten für den Fall eines künftigen britischen Regulierungsregimes für Frontier-KI und beziehen sich auf den AI Safety Summit
- Die Begründung, dass Regierungen oft technische Expertise fehlt und die Taskforce Zugang zu dieser Expertise hat
- Die Förderung externer Forschung durch Zuschüsse und Aufträge, die Hochschulen, NGOs und Privatwirtschaft offenstehen sollen (in der mittleren Fassung nur angedeutet)
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 50 %Hintergrund, keine Belege
- JEV
- amos 35 %nur am Rande erwähnt
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 69 %gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 41 %einzelne zitierbare Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 28 %nur am Rande erwähnt
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 36 %einzelne zitierbare Belege
- JEV
- amos 31 %Hintergrund, keine Belege
- SubQ 29 %gleiches Oberthema, hilft nicht
- drex 25 %Hintergrund, keine Belege
- d3-ultra 45 %nur am Rande erwähnt
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 33 %Hintergrund, keine Belege
- Luna 58 %Hintergrund, keine Belege
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 29 %Hintergrund, keine Belege
- drex 36 %Hintergrund, keine Belege
- d3-ultra 34 %Hintergrund, keine Belege
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 28 %Hintergrund, keine Belege
- Luna 57 %Hintergrund, keine Belege
- JEV
- amos 31 %Hintergrund, keine Belege
- SubQ 32 %gleiches Oberthema, hilft nicht
- drex 31 %Hintergrund, keine Belege
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 33 %Hintergrund, keine Belege
- Luna 42 %einzelne zitierbare Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 34 %nur am Rande erwähnt
- drex 35 %nur am Rande erwähnt
- d3-ultra 32 %nur am Rande erwähnt
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 25 %Hintergrund, keine Belege
- Luna 48 %einzelne zitierbare Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 26 %gleiches Oberthema, hilft nicht
- drex 34 %einzelne zitierbare Belege
- d3-ultra 41 %gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 25 %Hintergrund, keine Belege
- Luna 55 %Hintergrund, keine Belege
- JEV
- amos 28 %Hintergrund, keine Belege
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 35 %Hintergrund, keine Belege
- Luna 42 %Hintergrund, keine Belege
- JEV
- amos 28 %Hintergrund, keine Belege
- SubQ 27 %Hintergrund, keine Belege
- drex 26 %Hintergrund, keine Belege
- d3-ultra 35 %Hintergrund, keine Belege
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 25 %Hintergrund, keine Belege
- Luna 48 %Hintergrund, keine Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 25 %Hintergrund, keine Belege
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 25 %Hintergrund, keine Belege
- Luna 52 %einzelne zitierbare Belege
- JEV
- amos 33 %Hintergrund, keine Belege
- SubQ 29 %Hintergrund, keine Belege
- drex 33 %Hintergrund, keine Belege
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 33 %gleiches Oberthema, hilft nicht
- Luna 50 %Hintergrund, keine Belege
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 83 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 49 %Hintergrund, keine Belege
- JEV
- amos 34 %Hintergrund, keine Belege
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 76 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 36 %gleiches Oberthema, hilft nicht
- Luna 57 %Hintergrund, keine Belege
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 29 %gleiches Oberthema, hilft nicht
- Luna 55 %Hintergrund, keine Belege
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 79 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 27 %Hintergrund, keine Belege
- Luna 62 %Hintergrund, keine Belege
- JEV
- amos 30 %Hintergrund, keine Belege
- SubQ 32 %gleiches Oberthema, hilft nicht
- drex 25 %Hintergrund, keine Belege
- d3-ultra 69 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 27 %Hintergrund, keine Belege
- Luna 47 %Hintergrund, keine Belege
- JEV
- amos 31 %Hintergrund, keine Belege
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 31 %nur am Rande erwähnt
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 26 %Hintergrund, keine Belege
- Luna 63 %einzelne zitierbare Belege
- JEV
- amos 28 %Hintergrund, keine Belege
- SubQ 29 %Hintergrund, keine Belege
- drex 29 %einzelne zitierbare Belege
- d3-ultra 44 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung Hintergrund, keine Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 43 %Hintergrund, keine Belege
- JEV
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 28 %Hintergrund, keine Belege
- Luna 45 %Hintergrund, keine Belege
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 30 %nur am Rande erwähnt
- drex 28 %Hintergrund, keine Belege
- d3-ultra 56 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 56 %einzelne zitierbare Belege
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 71 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 63 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 29 %Hintergrund, keine Belege
- Luna 57 %Hintergrund, keine Belege
- JEV
- amos 38 %nur am Rande erwähnt
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 75 %einzelne zitierbare Belege
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 26 %Hintergrund, keine Belege
- d3-ultra 63 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 36 %Hintergrund, keine Belege
- Luna 54 %einzelne zitierbare Belege
- JEV
- amos 27 %Hintergrund, keine Belege
- SubQ 29 %nur am Rande erwähnt
- drex 28 %einzelne zitierbare Belege
- d3-ultra 34 %Hintergrund, keine Belege
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 26 %Hintergrund, keine Belege
- Luna 61 %einzelne zitierbare Belege
- JEV
- amos 34 %einzelne zitierbare Belege
- SubQ 27 %Hintergrund, keine Belege
- drex 32 %einzelne zitierbare Belege
- d3-ultra 38 %Hintergrund, keine Belege
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 27 %beantwortet teilweise oder widerspricht
- Luna 44 %einzelne zitierbare Belege
- JEV
- amos 31 %beantwortet teilweise oder widerspricht
- SubQ 34 %einzelne zitierbare Belege
- drex 29 %umfangreiche Belege
- d3-ultra 37 %einzelne zitierbare Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 39 %gleiches Oberthema, hilft nicht
- Luna 64 %einzelne zitierbare Belege
- JEV
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 47 %einzelne zitierbare Belege
- JEV
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 33 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV
- amos 100 %kein Bezug
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv