Frontier AI safety regulations: A reference for lab staff
Zusammenfassung
Kurz
METR fasst Anforderungen an Risikomanagement, Sicherheit, Modellberichte, Vorfallmeldungen und Hinweisgeberschutz für KI-Entwickler nach US-Bundesstaatengesetzen und dem EU-Rahmen zusammen. Fristen und Pflichten unterscheiden sich; Illinois’ ab 2028 vorgesehene unabhängige Prüfung kontrolliert laut Bericht Verfahren, nicht die tatsächliche Modellsicherheit. Die Darstellung ist eine Übersicht und ersetzt keine offiziellen Gesetzestexte.
Mittel
METR vergleicht Sicherheits- und Meldepflichten für Entwickler leistungsfähiger KI-Modelle nach Kaliforniens SB 53, dem EU AI Act samt Code of Practice sowie New Yorks RAISE Act und Illinois’ SB 315. Der Bericht erklärt, dass die Schwellenwerte und erfassten Risiken variieren: Die US-Regeln nennen unter anderem CBRN-Waffen, autonome Cyberangriffe und Kontrollverlust; der EU-Code zusätzlich schädliche Manipulation. Zu den Pflichten gehören Risikobewertungen, Sicherheitsmaßnahmen, dokumentierte Rahmenwerke, Modellberichte und Vorfallmeldungen.
Die Meldefristen unterscheiden sich: Kalifornien nennt für bestimmte kritische Vorfälle 15 Tage, bei unmittelbar drohender schwerer Verletzung oder Tod 24 Stunden; New York und Illinois setzen laut Bericht 72 Stunden an. Der EU-Code staffelt Fristen je nach Vorfallart zwischen zwei und 15 Tagen. Illinois verlangt ab 2028 jährliche unabhängige Prüfungen. Diese prüfen laut METR die Einhaltung vorgeschriebener Abläufe und Dokumentation, nicht, ob das Modell tatsächlich sicher ist. Der Bericht behandelt auch interne Governance und Hinweisgeberschutz, deren Ausgestaltung je nach Regelwerk abweicht. Er nennt unterschiedliche Start- und Durchsetzungszeitpunkte und betont, dass seine Übersicht die offiziellen Rechtstexte nicht ersetzt.
Ausführlich lesen
Der Bericht von METR bietet eine Übersicht über Sicherheits- und Schutzpflichten für Entwickler besonders leistungsfähiger KI-Modelle nach kalifornischem SB 53, dem EU AI Act samt Code of Practice sowie New Yorks RAISE Act und Illinois’ SB 315. METR weist darauf hin, dass die Darstellung die offiziellen Gesetzestexte nicht ersetzt.
Nach der Übersicht gilt SB 53 für Entwickler, die mindestens ein Modell mit mindestens 10^26 FLOPs trainiert haben oder damit begonnen haben. Viele Pflichten betreffen die zusätzliche Kategorie großer Entwickler mit mehr als 500 Millionen US-Dollar Jahresumsatz. Der EU-Rahmen setzt grundsätzlich bei mehr als 10^25 FLOPs an; die zuständige EU-Stelle könne laut Bericht aber Modelle ober- oder unterhalb der Schwelle ausnehmen beziehungsweise einbeziehen. Für Unternehmen, die den EU-Code nicht unterzeichnen, nennt der Bericht alternative geeignete Nachweise der Einhaltung.
Die Regelwerke unterscheiden sich darin, welche katastrophalen Risiken sie abdecken. Die US-Gesetze erfassen laut Bericht unter anderem CBRN-Waffen, autonome Cyberangriffe und schwere Straftaten sowie den Kontrollverlust über ein Modell. Der EU-Code umfasst CBRN-Risiken, Kontrollverlust, Cyberangriffe und schädliche Manipulation. Zu den gemeinsamen Instrumenten zählen Risikobewertungen und -minderungen, dokumentierte Sicherheitsmaßnahmen, Vorfallmeldungen und interne Governance. Nach METR müssen große Entwickler in den US-Bundesstaaten außerdem öffentliche Rahmenwerke zu ihrem Risikomanagement veröffentlichen; diese Zusagen seien rechtlich bindend und Verstöße könnten mit Geldbußen geahndet werden. Modellberichte sollen Risikobewertungen und Maßnahmen bei der Veröffentlichung oder dem Einsatz neuer Modelle zusammenfassen.
Bei den Fristen hebt der Bericht hervor, dass Kalifornien bestimmte kritische Vorfälle grundsätzlich innerhalb von 15 Tagen und Fälle mit unmittelbar drohendem Tod oder schwerer Verletzung innerhalb von 24 Stunden gemeldet sehen will. New York und Illinois verlangten für kritische Vorfälle laut Darstellung eine Meldung binnen 72 Stunden. Der EU-Code staffele Fristen nach Vorfallart: von zwei Tagen bei schweren Störungen kritischer Infrastruktur bis zu 15 Tagen bei bestimmten erheblichen Schäden. Für ungelöste Vorfälle seien Zwischenberichte mindestens alle vier Wochen und ein Abschlussbericht binnen 60 Tagen nach Behebung vorgesehen.
Illinois’ SB 315 sieht ab 2028 jährliche unabhängige Prüfungen vor. METR betont, dass diese die Einhaltung vorgeschriebener Verfahren und Dokumentationspflichten prüfen sollen, nicht die tatsächliche Sicherheit eines Modells. Entwickler müssen Zusammenfassungen und geschwärzte Prüfberichte veröffentlichen; vertrauliche Fassungen sollen aufbewahrt werden. Der Bericht beschreibt außerdem Evaluationsanforderungen des EU-Codes, darunter ausreichend Zugriff, Informationen, Zeit und Ressourcen für Prüfteams sowie externe Bewertungen. Er nennt interne Meldewege und Schutz vor Vergeltung für Hinweisgebende; die Einzelheiten unterscheiden sich je nach Rechtsrahmen. Als zeitliche Eckpunkte führt METR den EU-Code ab August 2025, die EU-Durchsetzung ab August 2026, SB 53 ab Januar 2026 sowie RAISE und SB 315 ab Januar 2027 an. Die Rahmenwerk- und Auditpflichten in Illinois sollen später, ab Januar 2028, greifen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Einordnung wurde unabhängig von Lunas Stufen vergeben. Die im Eingabetext genannten Anteilswerte habe ich nicht übernommen. Teilfragen gab es nicht. Luna hat die Hauptaussagen des Berichts korrekt wiedergegeben, die Kurzfassung lässt jedoch wesentliche Punkte aus.
Im Bericht, aber nicht in der Zusammenfassung
- Bußgelder von bis zu einer Million Dollar je Verstoß gegen den eigenen Rahmen nach SB 53
- EU AI Act: Durchsetzung durch das AI Office ab 2. August 2026
- Code of Practice: externe Modellevaluierungen und ein Sicherheitsziel gegen externe Nichtstaatsakteure und Insider-Bedrohungen
- Illinois: Offenlegungserklärung für den Betrieb von Frontier-Modellen ab 2027 und Vorrang des Landesrechts bei der Regulierung
- Anonymer interner Meldeweg nach SB 53 und Auditanforderungen wie Unabhängigkeit des Prüfers und vom Ergebnis unabhängige Vergütung
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 20 %umfangreiche Belege
- Luna 55 %einzelne zitierbare Belege
- JEV 42 %Hintergrund, keine Belege
- amos 28 %umfangreiche Belege
- SubQ 19 %gleiches Oberthema, hilft nicht
- drex 25 %einzelne zitierbare Belege
- d3-ultra 43 %umfangreiche Belege
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 28 %gleiches Oberthema, hilft nicht
- amos 23 %Hintergrund, keine Belege
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 29 %Hintergrund, keine Belege
- d3-ultra 43 %gleiches Oberthema, hilft nicht
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 22 %gleiches Oberthema, hilft nicht
- Luna 34 %einzelne zitierbare Belege
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 33 %einzelne zitierbare Belege
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 52 %einzelne zitierbare Belege
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 25 %beantwortet teilweise oder widerspricht
- Luna 46 %umfangreiche Belege
- JEV 47 %beantwortet teilweise oder widerspricht
- amos 38 %umfangreiche Belege
- SubQ 39 %umfangreiche Belege
- drex 53 %umfangreiche Belege
- d3-ultra 70 %umfangreiche Belege
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 22 %beantwortet teilweise oder widerspricht
- Luna 44 %umfangreiche Belege
- JEV 52 %beantwortet teilweise oder widerspricht
- amos 35 %umfangreiche Belege
- SubQ 41 %umfangreiche Belege
- drex 51 %umfangreiche Belege
- d3-ultra 39 %einzelne zitierbare Belege
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 31 %einzelne zitierbare Belege
- JEV 39 %einzelne zitierbare Belege
- amos 25 %nur am Rande erwähnt
- SubQ 34 %einzelne zitierbare Belege
- drex 35 %einzelne zitierbare Belege
- d3-ultra 33 %Hintergrund, keine Belege
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 20 %Hintergrund, keine Belege
- Luna 43 %Hintergrund, keine Belege
- JEV 33 %Hintergrund, keine Belege
- amos 35 %einzelne zitierbare Belege
- SubQ 25 %Hintergrund, keine Belege
- drex 39 %einzelne zitierbare Belege
- d3-ultra 40 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 19 %Hintergrund, keine Belege
- Luna 61 %beantwortet teilweise oder widerspricht
- JEV 76 %beantwortet direkt und ausführlich
- amos 34 %umfangreiche Belege
- SubQ 41 %umfangreiche Belege
- drex 33 %umfangreiche Belege
- d3-ultra 47 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 35 %umfangreiche Belege
- Luna 62 %umfangreiche Belege
- JEV 48 %beantwortet teilweise oder widerspricht
- amos 39 %beantwortet teilweise oder widerspricht
- SubQ 48 %umfangreiche Belege
- drex 48 %beantwortet direkt und ausführlich
- d3-ultra 62 %umfangreiche Belege
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 29 %gleiches Oberthema, hilft nicht
- Luna 36 %einzelne zitierbare Belege
- JEV 47 %einzelne zitierbare Belege
- amos 27 %nur am Rande erwähnt
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 26 %umfangreiche Belege
- Luna 47 %umfangreiche Belege
- JEV 35 %beantwortet teilweise oder widerspricht
- amos 42 %umfangreiche Belege
- SubQ 41 %umfangreiche Belege
- drex 57 %umfangreiche Belege
- d3-ultra 48 %umfangreiche Belege
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 25 %umfangreiche Belege
- Luna 71 %einzelne zitierbare Belege
- JEV 44 %einzelne zitierbare Belege
- amos 34 %umfangreiche Belege
- SubQ 36 %einzelne zitierbare Belege
- drex 51 %umfangreiche Belege
- d3-ultra 45 %einzelne zitierbare Belege
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 20 %umfangreiche Belege
- Luna 63 %umfangreiche Belege
- JEV 38 %beantwortet teilweise oder widerspricht
- amos 35 %umfangreiche Belege
- SubQ 58 %umfangreiche Belege
- drex 60 %umfangreiche Belege
- d3-ultra 42 %einzelne zitierbare Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 43 %einzelne zitierbare Belege
- JEV 31 %nur am Rande erwähnt
- amos 28 %einzelne zitierbare Belege
- SubQ 29 %gleiches Oberthema, hilft nicht
- drex 37 %einzelne zitierbare Belege
- d3-ultra 29 %nur am Rande erwähnt
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 24 %Hintergrund, keine Belege
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 25 %Hintergrund, keine Belege
- Luna 51 %umfangreiche Belege
- JEV 29 %einzelne zitierbare Belege
- amos 23 %einzelne zitierbare Belege
- SubQ 29 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 27 %nur am Rande erwähnt
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 36 %Hintergrund, keine Belege
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 30 %Hintergrund, keine Belege
- JEV 26 %gleiches Oberthema, hilft nicht
- amos 29 %nur am Rande erwähnt
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 28 %Hintergrund, keine Belege
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 71 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 30 %Hintergrund, keine Belege
- amos 30 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 61 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 21 %umfangreiche Belege
- Luna 60 %umfangreiche Belege
- JEV 31 %umfangreiche Belege
- amos 26 %umfangreiche Belege
- SubQ 35 %umfangreiche Belege
- drex 33 %umfangreiche Belege
- d3-ultra 38 %umfangreiche Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 28 %nur am Rande erwähnt
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 75 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 29 %gleiches Oberthema, hilft nicht
- Luna 38 %einzelne zitierbare Belege
- JEV 50 %gleiches Oberthema, hilft nicht
- amos 31 %nur am Rande erwähnt
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 28 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 35 %einzelne zitierbare Belege
- JEV 34 %gleiches Oberthema, hilft nicht
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 42 %einzelne zitierbare Belege
- JEV 41 %einzelne zitierbare Belege
- amos 23 %einzelne zitierbare Belege
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 25 %Hintergrund, keine Belege
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 48 %einzelne zitierbare Belege
- JEV 28 %einzelne zitierbare Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 25 %Hintergrund, keine Belege
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 31 %Hintergrund, keine Belege
- d3-ultra 81 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 25 %nur am Rande erwähnt
- Luna 26 %Hintergrund, keine Belege
- JEV 34 %nur am Rande erwähnt
- amos 31 %nur am Rande erwähnt
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 68 %gleiches Oberthema, hilft nicht
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 41 %umfangreiche Belege
- Luna 37 %beantwortet teilweise oder widerspricht
- JEV 67 %beantwortet direkt und ausführlich
- amos 47 %beantwortet direkt und ausführlich
- SubQ 59 %beantwortet direkt und ausführlich
- drex 86 %beantwortet direkt und ausführlich
- d3-ultra 58 %beantwortet direkt und ausführlich
- Haiku-Prüfung beantwortet direkt und ausführlich
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 17 %Hintergrund, keine Belege
- Luna 49 %umfangreiche Belege
- JEV 34 %beantwortet teilweise oder widerspricht
- amos 32 %umfangreiche Belege
- SubQ 39 %umfangreiche Belege
- drex 42 %umfangreiche Belege
- d3-ultra 48 %einzelne zitierbare Belege
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 22 %Hintergrund, keine Belege
- SubQ 32 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 27 %Hintergrund, keine Belege
- Luna 44 %einzelne zitierbare Belege
- JEV 48 %einzelne zitierbare Belege
- amos 29 %nur am Rande erwähnt
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 23 %umfangreiche Belege
- Luna 45 %umfangreiche Belege
- JEV 55 %umfangreiche Belege
- amos 27 %einzelne zitierbare Belege
- SubQ 23 %einzelne zitierbare Belege
- drex 36 %umfangreiche Belege
- d3-ultra 37 %umfangreiche Belege
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 20 %beantwortet teilweise oder widerspricht
- Luna 59 %einzelne zitierbare Belege
- JEV 42 %beantwortet teilweise oder widerspricht
- amos 33 %einzelne zitierbare Belege
- SubQ 35 %einzelne zitierbare Belege
- drex 37 %einzelne zitierbare Belege
- d3-ultra 59 %einzelne zitierbare Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 27 %gleiches Oberthema, hilft nicht
- Luna 37 %einzelne zitierbare Belege
- JEV 28 %Hintergrund, keine Belege
- amos 29 %nur am Rande erwähnt
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 30 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 40 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 78 %gleiches Oberthema, hilft nicht
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv