Building standards for the next phase of AI
Zusammenfassung
Kurz
OpenAI schlägt internationale technische Standards für fortgeschrittene KI und automatisierte Forschung vor, um Risiken besser zu bewerten, Vorfälle vergleichbar zu melden und menschliche Aufsicht zu sichern. Vollständig autonome RSI gebe es derzeit nicht; sie solle laut Beitrag erst erwogen werden, wenn Sicherheit und menschliche Kontrolle gewährleistet sind. Die Standards wären keine verpflichtenden Vorabgenehmigungen, und nationale Regierungen entschieden selbst über ihre Umsetzung.
Mittel
OpenAI spricht sich für internationale technische Standards für fortgeschrittene KI aus, einschließlich automatisierter KI-Forschung und rekursiver Selbstverbesserung (RSI). Automatisierte Forschung könne laut Beitrag Fortschritt beschleunigen, den Zugang zu leistungsfähiger KI verbreitern und die Sicherheitsforschung stärken. Vollständig autonome RSI finde derzeit jedoch nicht statt und solle erst verfolgt werden, wenn menschliche Kontrolle gewährleistet und eine informierte demokratische Entscheidung getroffen werden könne. Ohne Schutzmaßnahmen drohten der Verlust wirksamer Aufsicht und gefährlichere, weniger ausgerichtete Systeme.
Gemeinsame Standards sollen laut OpenAI widersprüchliche nationale Prüf- und Meldeverfahren verringern und die Zusammenarbeit bei grenzüberschreitenden Risiken erleichtern. Der Beitrag schlägt vor, dass die USA dafür eine internationale Initiative anführen, etwa über Netzwerke nationaler KI-Sicherheitsinstitute und CAISI. Standards könnten gemeinsame Verfahren zur Fähigkeitsmessung, Risikobewertung, menschlichen Aufsicht und Vorfallmeldung schaffen. Sie wären nach dem Vorschlag keine Lizenzen oder verpflichtenden Vorabgenehmigungen; Regierungen entschieden selbst über ihre rechtliche Umsetzung. Offene und geschlossene Anbieter, unabhängige Fachleute und Wissenschaft sollten beteiligt werden, ohne den Wettbewerb zu verzerren. Dies ist OpenAIs noch entwicklungsfähiger Vorschlag, keine bereits vereinbarte Regelung.
Ausführlich lesen
Der Beitrag stellt OpenAIs Vorschlag vor, internationale technische Standards für fortgeschrittene KI zu entwickeln, darunter Standards für automatisierte KI-Forschung und rekursive Selbstverbesserung (RSI). OpenAI ordnet den Vorschlag seiner Mission zu, KI zum Nutzen der Menschheit einzusetzen. Als Ziele nennt das Unternehmen, den nächsten Entwicklungsschritt sicher zu bewältigen, wissenschaftlichen und wirtschaftlichen Fortschritt zu ermöglichen und Menschen mit persönlicher AGI zu stärken. Es verweist auf Fortschritte, die KI bereits in Forschung und Technik unterstütze, und führt mögliche Anwendungen etwa in Medizin, Gesundheitsversorgung und für kleine Unternehmen an.
OpenAI zufolge kann automatisierte KI-Forschung die Entwicklung beschleunigen, fortgeschrittene Intelligenz günstiger und breiter verfügbar machen und zugleich die Sicherheitsforschung unterstützen. Systeme könnten etwa bei der Ausrichtung von KI an menschlichen Werten, bei Schutzmaßnahmen und beim Schutz kritischer Infrastruktur helfen. Das Unternehmen betont jedoch, dass vollständig autonome RSI derzeit nicht stattfinde und nicht verfolgt werden solle, bevor sie sicher möglich sei. Ob und wie sie vorangetrieben werde, müsse davon abhängen, ob menschliche Kontrolle erhalten bleibe und informierte demokratische Entscheidungen getroffen würden. Ohne ausreichende Vorsicht drohten laut Beitrag ein Verlust wirksamer menschlicher Aufsicht und gefährlichere, weniger ausgerichtete Systeme.
Gemeinsame Standards sollen nach OpenAIs Darstellung unterschiedliche Definitionen, Prüfverfahren und Meldepflichten angleichen, damit Ergebnisse über Länder hinweg vergleichbar und grenzüberschreitende Risiken besser bearbeitbar werden. Der Beitrag nennt drei Herausforderungen: widersprüchliche nationale Regeln, Schwierigkeiten kollektiven Handelns und ungleich verteilte Fachkenntnisse und Entwicklungskapazitäten. Diese beträfen offene wie geschlossene Modelle. OpenAI erklärt, dass Labore für sichere Entwicklung selbst verantwortlich und an geltendes Recht gebunden seien. Standards könnten zudem Machtkonzentration entgegenwirken und weiteren Beteiligten Einfluss auf die Entwicklung geben.
Konkret schlägt OpenAI vor, dass die Vereinigten Staaten eine internationale Initiative anführen. Ein mögliches Verfahren wäre, bestehende Netzwerke von KI-Sicherheitsinstituten einzubeziehen und über CAISI sowie nationale Branchenorganisationen Standards zu entwickeln. Als mögliche Schwerpunkte nennt der Beitrag die Messung und Bewertung leistungsfähiger Modelle sowie das Management von Nutzen und Risiken automatisierter Forschung einschließlich RSI. Technische Standards sollen eine gemeinsame Grundlage für Fähigkeitsmessung, Risikobewertung und die Einschätzung von Schutzmaßnahmen bieten. Laut Vorschlag wären sie weder Lizenzen noch verpflichtende Prüfungen oder Genehmigungen vor Veröffentlichung; nationale Regierungen würden selbst entscheiden, ob und wie sie diese in ihr Recht aufnehmen.
Die Initiative solle offene und geschlossene Modellanbieter, unabhängige Fachleute und Wissenschaft einbeziehen, transparent arbeiten und den Wettbewerb nicht zugunsten bestimmter Firmen, Länder oder Geschäftsmodelle verzerren. Weitere vorgeschlagene Standards betreffen den Umfang autonomer Forschung, Auslöser für menschliche Überprüfung sowie einheitliche Einstufung, Meldung und Bearbeitung von Vorfällen. Regierungen und Betreiber kritischer Infrastruktur sollten außerdem sichere Kommunikationswege für Sicherheitsbedenken, Schwachstellen und bewährte Verfahren schaffen; einen Dialog zwischen den USA und China bezeichnet der Beitrag als möglichen positiven Schritt.
OpenAI argumentiert, die USA seien wegen ihrer fortgeschrittenen KI-Industrie und ihrer internationalen Stellung gut positioniert, die Initiative zu führen. Die Aussagen und Empfehlungen sind die Position des Unternehmens; der Text legt einen Vorschlag dar, keine bereits vereinbarte internationale Regelung. Er hält zudem fest, dass das Konzept sich voraussichtlich noch deutlich weiterentwickeln werde.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Frage SF-E2 wird nur teilweise beantwortet, da der Bericht keine konkrete Untergrenze festlegt. Die Teilfragen-Einordnung war leer, daher wurde keine bewertet. Die Anteilsangaben in Lunas Einordnung sind im Bewertungsschema nicht vorgesehen und wurden nicht übernommen.
Im Bericht, aber nicht in der Zusammenfassung
- Der Hugging-Face-Vorfall wird als Vorschau auf Risiken genannt, die ohne robuste Schutzmaßnahmen deutlich schwerer werden könnten.
- Die Bezüge auf Luftfahrt und Finanzstabilität als Vorbilder für gemeinsame technische Standards fehlen.
- Der Hinweis auf Kommunikationskanäle für kritische Infrastruktur und den möglichen US-China-Dialog fehlt.
- Die Begründung, Standards sollten Machtkonzentration vermeiden, wird nicht genannt.
- Die Nennung konkreter Partner wie ISO, Frontier Model Forum und Appia Foundation fehlt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 28 %nur am Rande erwähnt
- Luna 86 %einzelne zitierbare Belege
- JEV 54 %Hintergrund, keine Belege
- amos 36 %einzelne zitierbare Belege
- SubQ 48 %einzelne zitierbare Belege
- drex 44 %einzelne zitierbare Belege
- d3-ultra 57 %einzelne zitierbare Belege
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 34 %Hintergrund, keine Belege
- Luna 46 %einzelne zitierbare Belege
- JEV 41 %nur am Rande erwähnt
- amos 32 %einzelne zitierbare Belege
- SubQ 43 %einzelne zitierbare Belege
- drex 33 %einzelne zitierbare Belege
- d3-ultra 52 %nur am Rande erwähnt
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 29 %Hintergrund, keine Belege
- Luna 38 %einzelne zitierbare Belege
- JEV 33 %Hintergrund, keine Belege
- amos 35 %nur am Rande erwähnt
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 34 %Hintergrund, keine Belege
- d3-ultra 47 %gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 28 %Hintergrund, keine Belege
- Luna 40 %einzelne zitierbare Belege
- JEV 52 %beantwortet teilweise oder widerspricht
- amos 39 %einzelne zitierbare Belege
- SubQ 48 %einzelne zitierbare Belege
- drex 46 %einzelne zitierbare Belege
- d3-ultra 61 %einzelne zitierbare Belege
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 54 %einzelne zitierbare Belege
- JEV 51 %einzelne zitierbare Belege
- amos 30 %Hintergrund, keine Belege
- SubQ 28 %einzelne zitierbare Belege
- drex 38 %Hintergrund, keine Belege
- d3-ultra 40 %nur am Rande erwähnt
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 36 %Hintergrund, keine Belege
- Luna 61 %einzelne zitierbare Belege
- JEV 49 %einzelne zitierbare Belege
- amos 31 %einzelne zitierbare Belege
- SubQ 39 %einzelne zitierbare Belege
- drex 39 %einzelne zitierbare Belege
- d3-ultra 46 %Hintergrund, keine Belege
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 33 %Hintergrund, keine Belege
- Luna 52 %einzelne zitierbare Belege
- JEV 38 %einzelne zitierbare Belege
- amos 33 %einzelne zitierbare Belege
- SubQ 31 %einzelne zitierbare Belege
- drex 42 %einzelne zitierbare Belege
- d3-ultra 32 %Hintergrund, keine Belege
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 40 %Hintergrund, keine Belege
- Luna 44 %Hintergrund, keine Belege
- JEV 46 %gleiches Oberthema, hilft nicht
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 80 %gleiches Oberthema, hilft nicht
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 26 %Hintergrund, keine Belege
- Luna 38 %einzelne zitierbare Belege
- JEV 41 %Hintergrund, keine Belege
- amos 40 %einzelne zitierbare Belege
- SubQ 27 %einzelne zitierbare Belege
- drex 42 %einzelne zitierbare Belege
- d3-ultra 37 %einzelne zitierbare Belege
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 28 %Hintergrund, keine Belege
- Luna 55 %einzelne zitierbare Belege
- JEV 51 %einzelne zitierbare Belege
- amos 37 %einzelne zitierbare Belege
- SubQ 30 %einzelne zitierbare Belege
- drex 41 %einzelne zitierbare Belege
- d3-ultra 38 %nur am Rande erwähnt
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 42 %Hintergrund, keine Belege
- Luna 56 %einzelne zitierbare Belege
- JEV 46 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 31 %Hintergrund, keine Belege
- drex 30 %Hintergrund, keine Belege
- d3-ultra 40 %Hintergrund, keine Belege
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 40 %Hintergrund, keine Belege
- JEV 31 %gleiches Oberthema, hilft nicht
- amos 33 %nur am Rande erwähnt
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 32 %Hintergrund, keine Belege
- Luna 73 %einzelne zitierbare Belege
- JEV 42 %einzelne zitierbare Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 29 %Hintergrund, keine Belege
- drex 36 %Hintergrund, keine Belege
- d3-ultra 38 %einzelne zitierbare Belege
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 43 %einzelne zitierbare Belege
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 33 %Hintergrund, keine Belege
- Luna 55 %Hintergrund, keine Belege
- JEV 34 %Hintergrund, keine Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 45 %Hintergrund, keine Belege
- d3-ultra 54 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 37 %Hintergrund, keine Belege
- Luna 77 %einzelne zitierbare Belege
- JEV 44 %einzelne zitierbare Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 28 %einzelne zitierbare Belege
- drex 33 %Hintergrund, keine Belege
- d3-ultra 29 %Hintergrund, keine Belege
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 28 %Hintergrund, keine Belege
- Luna 63 %einzelne zitierbare Belege
- JEV 38 %einzelne zitierbare Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 29 %Hintergrund, keine Belege
- drex 39 %einzelne zitierbare Belege
- d3-ultra 40 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 19 %beantwortet teilweise oder widerspricht
- Luna 44 %beantwortet teilweise oder widerspricht
- JEV 48 %beantwortet teilweise oder widerspricht
- amos 30 %beantwortet teilweise oder widerspricht
- SubQ 33 %umfangreiche Belege
- drex 40 %umfangreiche Belege
- d3-ultra 33 %umfangreiche Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 33 %Hintergrund, keine Belege
- Luna 43 %Hintergrund, keine Belege
- JEV 32 %einzelne zitierbare Belege
- amos 36 %Hintergrund, keine Belege
- SubQ 35 %gleiches Oberthema, hilft nicht
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 32 %Hintergrund, keine Belege
- Luna 45 %einzelne zitierbare Belege
- JEV 50 %Hintergrund, keine Belege
- amos 36 %Hintergrund, keine Belege
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 49 %einzelne zitierbare Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 29 %Hintergrund, keine Belege
- Luna 66 %einzelne zitierbare Belege
- JEV 41 %einzelne zitierbare Belege
- amos 29 %einzelne zitierbare Belege
- SubQ 29 %einzelne zitierbare Belege
- drex 31 %einzelne zitierbare Belege
- d3-ultra 39 %Hintergrund, keine Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 30 %Hintergrund, keine Belege
- Luna 37 %Hintergrund, keine Belege
- JEV 39 %Hintergrund, keine Belege
- amos 28 %nur am Rande erwähnt
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 28 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 34 %Hintergrund, keine Belege
- Luna 48 %einzelne zitierbare Belege
- JEV 50 %Hintergrund, keine Belege
- amos 30 %nur am Rande erwähnt
- SubQ 31 %Hintergrund, keine Belege
- drex 31 %Hintergrund, keine Belege
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 29 %Hintergrund, keine Belege
- Luna 46 %Hintergrund, keine Belege
- JEV 41 %Hintergrund, keine Belege
- amos 32 %nur am Rande erwähnt
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 32 %Hintergrund, keine Belege
- d3-ultra 57 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 29 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 29 %Hintergrund, keine Belege
- Luna 66 %einzelne zitierbare Belege
- JEV 43 %Hintergrund, keine Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 32 %nur am Rande erwähnt
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 55 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 73 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 66 %Hintergrund, keine Belege
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 28 %Hintergrund, keine Belege
- JEV 31 %gleiches Oberthema, hilft nicht
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 67 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 43 %nur am Rande erwähnt
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 43 %gleiches Oberthema, hilft nicht
- JEV 32 %einzelne zitierbare Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 55 %gleiches Oberthema, hilft nicht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 29 %Hintergrund, keine Belege
- Luna 67 %einzelne zitierbare Belege
- JEV 40 %beantwortet teilweise oder widerspricht
- amos 35 %nur am Rande erwähnt
- SubQ 27 %nur am Rande erwähnt
- drex 39 %einzelne zitierbare Belege
- d3-ultra 28 %Hintergrund, keine Belege
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 25 %beantwortet teilweise oder widerspricht
- Luna 40 %beantwortet teilweise oder widerspricht
- JEV 48 %beantwortet teilweise oder widerspricht
- amos 30 %einzelne zitierbare Belege
- SubQ 34 %einzelne zitierbare Belege
- drex 36 %umfangreiche Belege
- d3-ultra 42 %einzelne zitierbare Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 23 %beantwortet teilweise oder widerspricht
- Luna 63 %beantwortet teilweise oder widerspricht
- JEV 62 %beantwortet direkt und ausführlich
- amos 38 %beantwortet teilweise oder widerspricht
- SubQ 40 %umfangreiche Belege
- drex 44 %umfangreiche Belege
- d3-ultra 42 %umfangreiche Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 28 %Hintergrund, keine Belege
- Luna 45 %einzelne zitierbare Belege
- JEV 44 %einzelne zitierbare Belege
- amos 33 %einzelne zitierbare Belege
- SubQ 36 %einzelne zitierbare Belege
- drex 50 %umfangreiche Belege
- d3-ultra 53 %einzelne zitierbare Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 28 %Hintergrund, keine Belege
- Luna 74 %einzelne zitierbare Belege
- JEV 49 %beantwortet teilweise oder widerspricht
- amos 35 %einzelne zitierbare Belege
- SubQ 43 %einzelne zitierbare Belege
- drex 38 %einzelne zitierbare Belege
- d3-ultra 40 %einzelne zitierbare Belege
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 28 %Hintergrund, keine Belege
- Luna 35 %beantwortet teilweise oder widerspricht
- JEV 49 %beantwortet teilweise oder widerspricht
- amos 32 %einzelne zitierbare Belege
- SubQ 44 %einzelne zitierbare Belege
- drex 41 %einzelne zitierbare Belege
- d3-ultra 49 %einzelne zitierbare Belege
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 31 %Hintergrund, keine Belege
- Luna 52 %Hintergrund, keine Belege
- JEV 36 %gleiches Oberthema, hilft nicht
- amos 37 %nur am Rande erwähnt
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 29 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 35 %Hintergrund, keine Belege
- amos 30 %nur am Rande erwähnt
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 51 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- Alle Berichte im Archiv