From deepfake scams to biased AI: How incident reporting can help us keep ahead of AI’s harms
Zusammenfassung
Kurz
Der OECD-Beitrag beschreibt einen gemeinsamen Rahmen zur Erfassung von KI-Vorfällen, damit Risiken besser verglichen, Hochrisikosysteme früher erkannt und Gegenmaßnahmen international abgestimmt werden können. Der Rahmen umfasst 29 Kriterien in acht Bereichen; der Text erläutert seine erwarteten Vorteile, liefert aber keine unabhängige Prüfung seiner Wirksamkeit.
Mittel
Der OECD-Beitrag argumentiert, dass einheitliche Meldungen zu KI-Vorfällen helfen können, Schäden zu erkennen, Risiken einzuschätzen und abgestimmte Gegenmaßnahmen zu entwickeln. Als Beispiele nennt er einen Deepfake-Betrug, bei dem eine Frau laut Text 830.000 Euro verlor, sowie fehlerhafte oder diskriminierende Systeme in Personalwesen, Gesichtserkennung und Gesundheitsversorgung. Die OECD definiert einen KI-Vorfall als Ereignis, bei dem Entwicklung, Einsatz oder Fehlfunktion eines KI-Systems direkt oder indirekt Schaden verursacht. Ihr AI Incidents Monitor erfasst und analysiert bislang medienberichtete Fälle.
Der gemeinsame Berichtsrahmen entstand laut Beitrag aus der Prüfung von vier Datenquellen. Eine Auswahl reduzierte 88 mögliche Kriterien auf 29, gegliedert in acht Themenbereiche; sieben Kriterien sind verpflichtend und erfassen unter anderem Vorfallsbeschreibung, Schadensart und -schwere sowie den Zusammenhang mit dem KI-System. Die OECD erwartet, dass vergleichbare Meldungen den internationalen Wissensaustausch und die Früherkennung von Hochrisikosystemen verbessern. Sie will den Monitor um Meldungen verschiedener Beteiligter erweitern. Der Beitrag erläutert Ziele und Aufbau, belegt aber nicht die tatsächliche Wirksamkeit des Rahmens oder die Repräsentativität der erfassten Fälle.
Ausführlich lesen
Der OECD-Beitrag erläutert, warum KI-bezogene Vorfälle systematisch erfasst werden sollten und wie ein gemeinsamer Berichtsrahmen dabei helfen soll, Risiken früher zu erkennen und politisch abgestimmt darauf zu reagieren. Als Beispiel für Betrug schildert der Text den Fall einer Frau, die durch Deepfake-Videos und KI-generierte Bilder glaubte, mit Brad Pitt zu kommunizieren. Nachdem sie zunächst kleinere und später größere Geldbeträge überwiesen hatte, belief sich ihr Verlust laut Beitrag auf 830.000 Euro. Die Behörden bemühten sich demnach um die Rückgewinnung des Geldes; die finanziellen und emotionalen Folgen blieben bestehen.
Der Beitrag führt weitere mögliche Schäden durch KI an: Betrugsmaschen, nicht einvernehmlich erzeugte Bilder, Desinformation, Unfälle mit selbstfahrenden Autos sowie diskriminierende oder fehlerhafte Entscheidungen. Er verweist unter anderem auf ein eingestelltes Bewerbungswerkzeug, das Frauen benachteiligt haben soll, und auf eine Geldstrafe im Zusammenhang mit einem KI-System, das bestimmte Bewerberinnen und Bewerber ausschloss. Außerdem berichtet der Text von einer fehlerhaften Gesichtserkennung, die einen Mann in Louisiana fälschlich mit einem Diebstahl in Verbindung gebracht und zu zehntägiger Haft geführt habe. In einem Gesundheitsalgorithmus seien Patientinnen und Patienten nach Kosten statt nach medizinischem Bedarf priorisiert worden; Fachleute hätten die Verzerrung laut Beitrag um mehr als 80 Prozent verringert. Diese Beispiele sollen verdeutlichen, dass Schäden sowohl aus absichtlichem Missbrauch als auch aus mangelhafter Gestaltung entstehen können.
Die OECD definierte im Mai 2024 einen KI-Vorfall als Ereignis oder Ereignisfolge, bei dem Entwicklung, Einsatz oder Fehlfunktion eines KI-Systems direkt oder indirekt Schaden verursacht. Der Beitrag verweist auf den AI Incidents Monitor (AIM), der medienberichtete Vorfälle verfolgt und analysiert. Eine gemeinsame Erfassung soll laut OECD vergleichbare Informationen schaffen, damit Regierungen Risiken und Schadensschwere besser einschätzen, Hochrisikosysteme früher erkennen, aus früheren Fällen lernen und internationale Maßnahmen besser aufeinander abstimmen können.
Für den Rahmen untersuchte die OECD vier Quellen: ihr Klassifikationsschema für KI-Systeme, die AI Incidents Database, das globale Portal zu Produktrückrufen und den AIM. Aus zunächst 88 Kriterien wurden nach einer Auswahl anhand von Relevanz, Häufigkeit und Rückmeldungen von Fachleuten und politischen Entscheidungsträgern 29. Diese sind in acht Themenbereiche gegliedert. Sie erfassen unter anderem den wirtschaftlichen Kontext, gesellschaftliche und ökologische Auswirkungen sowie technische Angaben zu Aufgaben, Eingaben und Ausgaben des Systems. Sieben Kriterien sind verpflichtend; dazu zählen die Vorfallsbeschreibung, die Art und Schwere des Schadens sowie der Zusammenhang zwischen KI-System und Vorfall.
Der Beitrag stellt den Rahmen als zugleich einheitlich und flexibel dar, damit er in verschiedenen Branchen, Ländern und Rechtsordnungen genutzt werden kann. Die OECD plant, AIM schrittweise auszubauen und künftig auch Meldungen unterschiedlicher Beteiligter aufzunehmen. Der Text beschreibt damit vor allem den Zweck, Aufbau und erwarteten Nutzen des Rahmens. Er liefert keine unabhängige Bewertung seiner tatsächlichen Wirksamkeit, keine vollständigen Vorfallsdatensätze und keine Angaben dazu, wie repräsentativ Medienmeldungen oder künftige freiwillige Einreichungen sein werden.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die mittlere Zusammenfassung gibt den Bericht sachlich korrekt wieder, lässt aber die starke Zunahme KI-gestützter Betrugsfälle aus. Die kurze Zusammenfassung ist ebenfalls treu, nennt aber nicht die Definition eines KI-Vorfalls und nicht, dass der Monitor nur medienberichtete Fälle erfasst. Die Einordnung stützt sich allein auf den Berichtstext.
Im Bericht, aber nicht in der Zusammenfassung
- Der Bericht stellt die starke Zunahme KI-gestützter Betrugsfälle heraus, etwa über 130.000 Online-Betrugsfälle in Frankreich 2023 mit 8 % mehr als im Vorjahr.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 24 %Hintergrund, keine Belege
- Luna 58 %einzelne zitierbare Belege
- JEV 39 %einzelne zitierbare Belege
- amos 26 %einzelne zitierbare Belege
- SubQ 25 %einzelne zitierbare Belege
- drex 30 %einzelne zitierbare Belege
- d3-ultra 36 %einzelne zitierbare Belege
- Haiku-Prüfung nur am Rande erwähnt
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV 40 %einzelne zitierbare Belege
- amos 30 %Hintergrund, keine Belege
- SubQ 21 %Hintergrund, keine Belege
- drex 33 %Hintergrund, keine Belege
- d3-ultra 37 %Hintergrund, keine Belege
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 21 %Hintergrund, keine Belege
- Luna 45 %einzelne zitierbare Belege
- JEV 42 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 28 %Hintergrund, keine Belege
- drex 36 %einzelne zitierbare Belege
- d3-ultra 34 %Hintergrund, keine Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 21 %Hintergrund, keine Belege
- Luna 44 %einzelne zitierbare Belege
- JEV 38 %beantwortet teilweise oder widerspricht
- amos 33 %einzelne zitierbare Belege
- SubQ 22 %einzelne zitierbare Belege
- drex 30 %einzelne zitierbare Belege
- d3-ultra 39 %einzelne zitierbare Belege
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 26 %Hintergrund, keine Belege
- Luna 39 %Hintergrund, keine Belege
- JEV 45 %einzelne zitierbare Belege
- amos 34 %einzelne zitierbare Belege
- SubQ 28 %einzelne zitierbare Belege
- drex 36 %einzelne zitierbare Belege
- d3-ultra 37 %einzelne zitierbare Belege
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 33 %Hintergrund, keine Belege
- amos 35 %nur am Rande erwähnt
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 64 %Hintergrund, keine Belege
- JEV 45 %Hintergrund, keine Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 69 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 39 %gleiches Oberthema, hilft nicht
- JEV 27 %Hintergrund, keine Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 70 %Hintergrund, keine Belege
- JEV 56 %Hintergrund, keine Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 75 %gleiches Oberthema, hilft nicht
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 78 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 77 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 38 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 24 %Hintergrund, keine Belege
- Luna 46 %Hintergrund, keine Belege
- JEV 38 %Hintergrund, keine Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 68 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 38 %gleiches Oberthema, hilft nicht
- Luna 70 %Hintergrund, keine Belege
- JEV 44 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 69 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 33 %gleiches Oberthema, hilft nicht
- Luna 71 %Hintergrund, keine Belege
- JEV 56 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 71 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 59 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 55 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 44 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 30 %nur am Rande erwähnt
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 28 %Hintergrund, keine Belege
- Luna 40 %Hintergrund, keine Belege
- JEV 31 %Hintergrund, keine Belege
- amos 31 %nur am Rande erwähnt
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 28 %nur am Rande erwähnt
- d3-ultra 63 %gleiches Oberthema, hilft nicht
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 24 %Hintergrund, keine Belege
- Luna 59 %einzelne zitierbare Belege
- JEV 38 %beantwortet teilweise oder widerspricht
- amos 31 %einzelne zitierbare Belege
- SubQ 28 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 37 %Hintergrund, keine Belege
- Haiku-Prüfung nur am Rande erwähnt
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 42 %Hintergrund, keine Belege
- JEV 38 %gleiches Oberthema, hilft nicht
- amos 30 %nur am Rande erwähnt
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 36 %gleiches Oberthema, hilft nicht
- Luna 63 %Hintergrund, keine Belege
- JEV 33 %gleiches Oberthema, hilft nicht
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 48 %Hintergrund, keine Belege
- JEV 40 %Hintergrund, keine Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 29 %Hintergrund, keine Belege
- d3-ultra 72 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 38 %gleiches Oberthema, hilft nicht
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 25 %nur am Rande erwähnt
- Luna 62 %Hintergrund, keine Belege
- JEV 49 %Hintergrund, keine Belege
- amos 40 %nur am Rande erwähnt
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 33 %nur am Rande erwähnt
- d3-ultra 61 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv