Exploring State AI Governance in AGORA #3: Frontier AI Laws – Emerging Technology Observatory
Zusammenfassung
Kurz
Der Bericht vergleicht drei staatliche Frontier-KI-Gesetze und beschreibt Offenlegung und Behördenberichte als gemeinsame Grundlage. New York und Illinois knüpfen den Betrieb großer Entwickler an eine Registrierung, Illinois verlangt zusätzlich unabhängige Compliance-Prüfungen, und Kalifornien setzt unter anderem auf einen öffentlichen Rechencluster sowie Whistleblower-Schutz. Die Analyse ordnet ausgewählte Strategien mithilfe von AGORA ein; sie misst nicht deren tatsächliche Wirkung.
Mittel
Der Beitrag vergleicht Kaliforniens SB 53, New Yorks RAISE Act und Illinois’ SB 315, drei verabschiedete Gesetze mit Schwerpunkt auf Frontier-KI. Mithilfe der thematischen Codes der Datenbank AGORA ordnet er ausgewählte Regulierungsstrategien ein. Laut Bericht setzen alle drei Gesetze vor allem auf Transparenz: Große Entwickler müssen Sicherheitsrahmenwerke und Transparenzberichte veröffentlichen; alle Entwickler müssen kritische Vorfälle melden. Dafür gelten unterschiedliche Fristen: 15 Tage in Kalifornien, 72 Stunden in New York und Illinois. Behörden sollen zudem anonymisierte Sammelberichte erstellen.
Weitere Pflichten variieren. New York und Illinois verlangen von großen Entwicklern Registrierung und Gebühren als Voraussetzung für den Betrieb; Kalifornien nicht. Illinois schreibt als einziges Gesetz jährliche unabhängige Prüfungen vor. Diese betreffen die Einhaltung der gesetzlichen Vorgaben und Unternehmensprozesse, nicht unmittelbar die Modelle. Kalifornien richtet außerdem ein Konsortium ein, das einen Rahmen für den öffentlichen Rechencluster CalCompute entwickeln soll. Kalifornien und Illinois schützen Beschäftigte vor Vergeltung, wenn sie Risiken melden; New York laut Beitrag nicht.
Der Bericht versteht diese Ansätze als mögliche Orientierung für politische Entscheidungsträger. Seine Reichweite ist begrenzt: Er vergleicht drei Gesetze anhand von AGORA-Codes und bewertet nicht empirisch, wie wirksam die Vorschriften sind. Zum Zeitpunkt des Schreibens habe kein weiterer Bundesstaat ein Gesetz mit primärem Frontier-KI-Schwerpunkt verabschiedet.
Ausführlich lesen
Der Bericht vergleicht drei verabschiedete US-Bundesstaatengesetze zur Regulierung sogenannter Frontier-KI: Kaliforniens SB 53, New Yorks RAISE Act und Illinois’ SB 315. Frontier-KI wird darin allgemein als besonders leistungsfähige, vielseitig einsetzbare KI beschrieben, die mindestens das Leistungsniveau der fortgeschrittensten heutigen Modelle erreicht. Laut Beitrag war Kalifornien 2025 der erste Bundesstaat mit einem vorrangig auf Frontier-KI ausgerichteten Gesetz; New York und Illinois folgten. Zum Zeitpunkt des Schreibens habe kein weiterer Bundesstaat ein Gesetz mit diesem Schwerpunkt verabschiedet. Connecticut wird als Beispiel für ein breiter angelegtes KI-Gesetz genannt, Utah für einen noch anhängigen Frontier-KI-Gesetzentwurf.
Die Autorinnen und Autoren untersuchen die drei Gesetze mithilfe der thematischen Codes der CSET-Datenbank AGORA. Sie ordnen Bestimmungen unter anderem den Strategien Offenlegung, Entwicklung von Governance-Regeln, staatliche Studien und Berichte, Registrierung, Evaluation, neue Institutionen und Zusammenführung verschiedener Interessengruppen zu. Der Vergleich betrifft ausgewählte Strategien und soll laut Beitrag Entscheidungsträgern eine Übersicht möglicher Regulierungsansätze bieten.
Als gemeinsamen Kern identifiziert der Bericht Transparenz. Alle drei Gesetze verlangen Veröffentlichungen zu Sicherheits- und Risikomanagement. Für große Frontier-KI-Entwickler – im Beitrag anhand von mehr als 500 Millionen US-Dollar Bruttojahresumsatz abgegrenzt – gelten umfangreichere Pflichten: Sie müssen sowohl ein Sicherheitsrahmenwerk als auch einen Transparenzbericht veröffentlichen. Andere Entwickler müssen demnach nur einen Transparenzbericht vorlegen. Alle drei Gesetze schreiben außerdem vor, kritische Sicherheitsvorfälle staatlichen Stellen zu melden. Die Fristen unterscheiden sich: Kalifornien gewährt 15 Tage, New York und Illinois verlangen eine Meldung innerhalb von 72 Stunden. Die zuständigen Behörden sollen anonymisierte, zusammengefasste Berichte für Regierungsspitzen und Parlamente erstellen.
Die Gesetze unterscheiden sich bei Aufsicht und institutionellem Aufbau. New York und Illinois verlangen von großen Entwicklern eine Registrierung, Angaben zu Unternehmen und Kontaktpersonen sowie eine Gebühr, bevor sie dort Frontier-Modelle entwickeln, einsetzen oder betreiben. Kalifornien macht den Marktzugang laut Beitrag nicht von einer solchen Registrierung abhängig. Illinois verlangt als einziges der drei Gesetze jährlich eine unabhängige Prüfung durch Dritte. Diese prüft die Einhaltung gesetzlicher Anforderungen und die Risikomanagementprozesse des Unternehmens, nicht unmittelbar die Modelle selbst. Kalifornien verpflichtet Entwickler lediglich, offenzulegen, in welchem Umfang externe Prüfer beteiligt waren.
Kalifornien hebt sich zudem mit einem Konsortium ab, das einen Rahmen für CalCompute, einen öffentlichen Cloud-Rechencluster, entwickeln soll. Das Vorhaben soll laut Gesetz sowohl eine verantwortungsvolle KI-Entwicklung fördern als auch den Zugang zu Rechenressourcen erweitern. Kalifornien und Illinois enthalten außerdem Schutz vor Vergeltung für Beschäftigte, die auf Risiken hinweisen; im RAISE Act sieht der Bericht keinen entsprechenden Schutz. Die Autoren betonen, dass AGORAs Taxonomie Whistleblower-Schutz nicht eigens erfasst und sie ihn deshalb ergänzend hervorheben.
Als Einschränkungen sind der begrenzte Vergleich dreier Gesetze und der Stand zum Zeitpunkt des Schreibens zu beachten. Die Aussagen beruhen auf der Einordnung in AGORA; der Beitrag vergleicht Regulierungsstrategien, liefert aber keine empirische Bewertung ihrer Wirkung. Zudem ist die Prüfung in Illinois eine Compliance- und Prozessprüfung, keine direkte Sicherheitsprüfung der KI-Modelle.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung liegt in zwei Fassungen vor (kurz und mittel); ich habe beide zusammen bewertet, da das Schema nur eine Zusammenfassung vorsieht. Der Abschnitt Einordnung je Teilfrage ist leer, daher gibt es dazu keine Bewertung.
Im Bericht, aber nicht in der Zusammenfassung
- Die Bundesebene: die Executive Order vom Juni mit freiwilliger Vorab-Prüfung durch den Bund und die Kritik an fehlender Eile von Regierung und Kongress.
- Die Änderung des RAISE Act im März 2026 zur Angleichung an Kaliforniens Umsatzschwellen und Strafen.
- Dass die Drittprüfung im Verlauf des RAISE Act aus dem Entwurf gestrichen und später in Illinois aufgenommen wurde.
- Der Status weiterer Staaten: Connecticut mit einem Gesetz mit Frontier-Pflichten, Utah mit anhängigen Entwürfen.
- Die Strategien Governance-Entwicklung, Evaluation, neue Institution und Convening sowie die Umsatzschwelle von 500 Millionen Dollar für große Entwickler.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Die Aussage, die Analyse messe nicht die tatsächliche Wirksamkeit der Gesetze, steht so nicht im Bericht; sie ist eine Schlussfolgerung aus dem Vergleich anhand von AGORA-Codes.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 19 %Hintergrund, keine Belege
- Luna 64 %einzelne zitierbare Belege
- JEV 39 %Hintergrund, keine Belege
- amos 28 %einzelne zitierbare Belege
- SubQ 33 %gleiches Oberthema, hilft nicht
- drex 26 %gleiches Oberthema, hilft nicht
- d3-ultra 38 %einzelne zitierbare Belege
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 26 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 20 %einzelne zitierbare Belege
- Luna 34 %einzelne zitierbare Belege
- JEV 51 %einzelne zitierbare Belege
- amos 37 %einzelne zitierbare Belege
- SubQ 36 %einzelne zitierbare Belege
- drex 44 %einzelne zitierbare Belege
- d3-ultra 65 %einzelne zitierbare Belege
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 17 %gleiches Oberthema, hilft nicht
- Luna 32 %Hintergrund, keine Belege
- JEV 50 %einzelne zitierbare Belege
- amos 35 %einzelne zitierbare Belege
- SubQ 27 %einzelne zitierbare Belege
- drex 40 %einzelne zitierbare Belege
- d3-ultra 56 %einzelne zitierbare Belege
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 43 %Hintergrund, keine Belege
- JEV 38 %Hintergrund, keine Belege
- amos 24 %Hintergrund, keine Belege
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 29 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 68 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 45 %gleiches Oberthema, hilft nicht
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 75 %gleiches Oberthema, hilft nicht
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 18 %Hintergrund, keine Belege
- Luna 36 %Hintergrund, keine Belege
- JEV 30 %Hintergrund, keine Belege
- amos 38 %einzelne zitierbare Belege
- SubQ 42 %einzelne zitierbare Belege
- drex 31 %einzelne zitierbare Belege
- d3-ultra 54 %einzelne zitierbare Belege
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 37 %nur am Rande erwähnt
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 19 %Hintergrund, keine Belege
- Luna 46 %einzelne zitierbare Belege
- JEV 42 %einzelne zitierbare Belege
- amos 32 %einzelne zitierbare Belege
- SubQ 34 %einzelne zitierbare Belege
- drex 35 %einzelne zitierbare Belege
- d3-ultra 63 %einzelne zitierbare Belege
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 20 %umfangreiche Belege
- Luna 75 %einzelne zitierbare Belege
- JEV 32 %einzelne zitierbare Belege
- amos 38 %einzelne zitierbare Belege
- SubQ 52 %einzelne zitierbare Belege
- drex 51 %einzelne zitierbare Belege
- d3-ultra 74 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 18 %Hintergrund, keine Belege
- Luna 48 %einzelne zitierbare Belege
- JEV 41 %einzelne zitierbare Belege
- amos 40 %einzelne zitierbare Belege
- SubQ 35 %umfangreiche Belege
- drex 40 %umfangreiche Belege
- d3-ultra 65 %einzelne zitierbare Belege
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 41 %gleiches Oberthema, hilft nicht
- Luna 44 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 85 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 65 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 28 %Hintergrund, keine Belege
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 29 %gleiches Oberthema, hilft nicht
- Luna 45 %einzelne zitierbare Belege
- JEV 43 %Hintergrund, keine Belege
- amos 30 %Hintergrund, keine Belege
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 40 %gleiches Oberthema, hilft nicht
- Luna 58 %Hintergrund, keine Belege
- JEV 37 %nur am Rande erwähnt
- amos 30 %nur am Rande erwähnt
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 28 %nur am Rande erwähnt
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 32 %Hintergrund, keine Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 78 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 33 %einzelne zitierbare Belege
- amos 30 %nur am Rande erwähnt
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 61 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 19 %Hintergrund, keine Belege
- Luna 41 %einzelne zitierbare Belege
- JEV 41 %umfangreiche Belege
- amos 30 %einzelne zitierbare Belege
- SubQ 33 %umfangreiche Belege
- drex 33 %umfangreiche Belege
- d3-ultra 40 %einzelne zitierbare Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 81 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 47 %Hintergrund, keine Belege
- JEV 51 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 82 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 75 %Hintergrund, keine Belege
- JEV 48 %gleiches Oberthema, hilft nicht
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 24 %Hintergrund, keine Belege
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 32 %gleiches Oberthema, hilft nicht
- JEV 23 %nur am Rande erwähnt
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 49 %Hintergrund, keine Belege
- JEV 71 %gleiches Oberthema, hilft nicht
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 86 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 29 %beantwortet teilweise oder widerspricht
- Luna 48 %beantwortet teilweise oder widerspricht
- JEV 45 %beantwortet teilweise oder widerspricht
- amos 36 %beantwortet teilweise oder widerspricht
- SubQ 53 %umfangreiche Belege
- drex 45 %umfangreiche Belege
- d3-ultra 54 %einzelne zitierbare Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 22 %umfangreiche Belege
- Luna 66 %umfangreiche Belege
- JEV 31 %beantwortet teilweise oder widerspricht
- amos 38 %umfangreiche Belege
- SubQ 54 %umfangreiche Belege
- drex 50 %umfangreiche Belege
- d3-ultra 37 %umfangreiche Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 54 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 21 %einzelne zitierbare Belege
- Luna 66 %einzelne zitierbare Belege
- JEV 33 %einzelne zitierbare Belege
- amos 32 %einzelne zitierbare Belege
- SubQ 30 %einzelne zitierbare Belege
- drex 35 %einzelne zitierbare Belege
- d3-ultra 29 %einzelne zitierbare Belege
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 28 %umfangreiche Belege
- Luna 46 %einzelne zitierbare Belege
- JEV 50 %beantwortet teilweise oder widerspricht
- amos 34 %umfangreiche Belege
- SubQ 26 %umfangreiche Belege
- drex 48 %umfangreiche Belege
- d3-ultra 46 %umfangreiche Belege
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 19 %einzelne zitierbare Belege
- Luna 75 %einzelne zitierbare Belege
- JEV 34 %beantwortet teilweise oder widerspricht
- amos 35 %einzelne zitierbare Belege
- SubQ 37 %einzelne zitierbare Belege
- drex 35 %einzelne zitierbare Belege
- d3-ultra 50 %einzelne zitierbare Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 74 %einzelne zitierbare Belege
- JEV 53 %einzelne zitierbare Belege
- amos 25 %einzelne zitierbare Belege
- SubQ 27 %gleiches Oberthema, hilft nicht
- drex 31 %Hintergrund, keine Belege
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 27 %gleiches Oberthema, hilft nicht
- Luna 47 %einzelne zitierbare Belege
- JEV 40 %einzelne zitierbare Belege
- amos 29 %nur am Rande erwähnt
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 37 %Hintergrund, keine Belege
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 55 %Hintergrund, keine Belege
- JEV 31 %gleiches Oberthema, hilft nicht
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 78 %gleiches Oberthema, hilft nicht
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 36 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 52 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- Alle Berichte im Archiv