Disrupting a covert Iranian influence operation
Zusammenfassung
Kurz
OpenAI zufolge nutzte eine iranische Einflussoperation ChatGPT für politische Artikel und Social-Media-Kommentare, unter anderem zum US-Wahlkampf; das Unternehmen sperrte die identifizierten Konten. OpenAI fand kaum Reaktionen oder Hinweise auf breite Verbreitung und stufte die Aktivität als niedrig ein, wobei diese Bewertung auf der eigenen Untersuchung beruht.
Mittel
OpenAI berichtet, Konten einer verdeckten iranischen Einflussoperation namens Storm-2035 entdeckt und gesperrt zu haben. Die Operation habe ChatGPT für längere Artikel und kurze Kommentare auf Englisch und Spanisch genutzt. Artikel erschienen auf fünf Websites, die sich als progressive oder konservative Nachrichtenangebote ausgaben. OpenAI identifizierte nach eigenen Angaben zwölf beteiligte Konten auf X und eines auf Instagram; einige Kommentare seien durch Umformulieren von Beiträgen anderer Nutzer entstanden.
Inhaltlich ging es vor allem um den Gaza-Konflikt, Israels Teilnahme an den Olympischen Spielen und die US-Präsidentschaftswahl, außerdem unter anderem um Venezuela, Latinx-Rechte und schottische Unabhängigkeit. Beiträge über Mode und Schönheit seien dazwischengestreut worden, möglicherweise um authentischer zu wirken oder eine Anhängerschaft aufzubauen.
OpenAI zufolge erhielten die meisten Beiträge kaum oder keine Reaktionen; Hinweise auf eine breite Verbreitung der Artikel habe es ebenfalls nicht gegeben. Das Unternehmen ordnete die Aktivität auf der Brookings-Skala am unteren Ende der Kategorie 2 ein. Es teilte Untersuchungserkenntnisse mit staatlichen, politischen und Branchenakteuren. Die Einschätzungen beruhen auf OpenAIs eigener Untersuchung; geringe Interaktion beweist nicht, dass niemand die Inhalte gesehen hat.
Ausführlich lesen
Der Bericht beschreibt, wie OpenAI nach eigenen Angaben Konten einer verdeckten iranischen Einflussoperation namens Storm-2035 identifizierte und sperrte. Die Operation habe ChatGPT genutzt, um Inhalte zu mehreren Themen zu erstellen, darunter der US-Präsidentschaftswahlkampf 2024. OpenAI erklärt, keine Hinweise darauf gefunden zu haben, dass diese Inhalte ein bedeutendes Publikum erreichten.
Laut Bericht nutzte die Operation ChatGPT auf zwei Arten: zur Erstellung längerer Artikel und kurzer Kommentare für soziale Medien. Die Artikel behandelten US-Politik und internationale Ereignisse und erschienen auf fünf Websites, die sich als progressive oder konservative Nachrichtenangebote darstellten. Für soziale Medien wurden kurze Kommentare auf Englisch und Spanisch verfasst. OpenAI identifizierte nach eigener Darstellung zwölf beteiligte Konten auf X und eines auf Instagram. Einige X-Konten hätten sich als progressiv, andere als konservativ ausgegeben. Für einen Teil der Kommentare seien Beiträge anderer Nutzerinnen und Nutzer mit den Modellen umformuliert worden.
Thematisch standen der Gaza-Konflikt, Israels Teilnahme an den Olympischen Spielen und die US-Wahl im Mittelpunkt. Daneben ging es in geringerem Umfang um die Politik Venezuelas, die Rechte von Latinx-Gemeinschaften in den USA sowie die schottische Unabhängigkeit. Kommentare über Mode und Schönheit seien zwischen die politischen Inhalte gemischt worden. OpenAI vermutet, dies könne authentischer wirken oder beim Aufbau einer Anhängerschaft helfen; der Bericht belegt die Absicht dahinter jedoch nicht.
Als Ergebnis der Untersuchung sperrte OpenAI die identifizierten Konten und erklärte, weitere mögliche Verstöße zu überwachen. Das Unternehmen berichtet, die meisten erfassten Beiträge hätten wenige oder gar keine Likes, geteilten Inhalte oder Kommentare erhalten. Auch für eine breitere Verbreitung der Artikel in sozialen Medien habe es keine Hinweise gefunden. Unter Verwendung der Brookings Breakout Scale ordnete OpenAI die Aktivität am unteren Ende von Kategorie 2 ein: Inhalte auf mehreren Plattformen, aber kein Beleg dafür, dass reale Personen sie aufgriffen oder weithin teilten. Die Untersuchung stützte sich laut OpenAI auch auf Informationen, die Microsoft zuvor veröffentlicht hatte.
OpenAI teilte nach eigenen Angaben Erkenntnisse mit Stellen aus Regierung, Wahlkampagnen und der Technologiebranche und kündigte an, weiter mit Industrie, Zivilgesellschaft und Regierung zusammenzuarbeiten. Die Befunde und Reichweiteneinschätzung sind die Darstellung von OpenAI; der Bericht nennt eine externe Skala zur Einordnung, liefert aber keine unabhängige Überprüfung seiner Untersuchung. Die festgestellte geringe Interaktion begrenzt die Aussagen über die Wirkung der konkreten Aktivität, belegt jedoch nicht, dass keinerlei Menschen die Inhalte gesehen haben.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Bewertung stützt sich allein auf den Bericht. Die Stufen beziehen sich auf den Beleggrad im Bericht und nicht auf die allgemeine Relevanz der Fragen.
Im Bericht, aber nicht in der Zusammenfassung
- Die Untersuchung profitierte laut OpenAI von einer Veröffentlichung Microsofts zu derselben Operation.
- Ein DALL·E-3-Klassifikator stufte gezeigte Beitragsbilder als nicht von OpenAI erzeugt ein.
- Die Brookings-Skala reicht von 1 bis 6, und OpenAI verweist auf eine eigene Zusage, weitere Ergebnisse zu veröffentlichen.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Der Satz „geringe Interaktion beweist nicht, dass niemand die Inhalte gesehen hat“ ist eine eigene Schlussfolgerung von Luna und steht so nicht im Bericht.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 100 %kein Bezug
- Luna 30 %Hintergrund, keine Belege
- JEV 39 %einzelne zitierbare Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 18 %gleiches Oberthema, hilft nicht
- Luna 43 %einzelne zitierbare Belege
- JEV 49 %beantwortet teilweise oder widerspricht
- amos 30 %einzelne zitierbare Belege
- SubQ 27 %gleiches Oberthema, hilft nicht
- drex 30 %einzelne zitierbare Belege
- d3-ultra 34 %gleiches Oberthema, hilft nicht
- SF-M3-T04 Unter welchen Bedingungen würden Staaten die eigene Darstellung des beteiligten Modells als Teil der Vorfallakte anerkennen, und was verhindert, dass sie eine eigennützige Fassung der Ereignisse ist? Enthält ein authentifizierter Vorfallbericht Agentenspuren (Protokolle der Arbeitsschritte eines KI-Agenten) oder anderes Material des verdächtigen Systems: Welcher Test zeigt, dass die KI-Werkzeuge der empfangenden Ermittler darin eingebettete Anweisungen als Beweismittel prüfen, statt sie auszuführen?
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 17 %einzelne zitierbare Belege
- Luna 80 %einzelne zitierbare Belege
- JEV 69 %einzelne zitierbare Belege
- amos 44 %einzelne zitierbare Belege
- SubQ 38 %einzelne zitierbare Belege
- drex 40 %einzelne zitierbare Belege
- d3-ultra 35 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-M4-T02 Wie sähen Selbstkontrolle und Informationsaustausch zwischen Laboren verschiedener Staaten praktisch aus (eine gemeinsame Vorlage für Vorfallberichte, gemeinsame Übungen oder ein gemeinsames Register), und wer dürfte die Berichte sehen?
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 59 %einzelne zitierbare Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 27 %gleiches Oberthema, hilft nicht
- drex 23 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 30 %gleiches Oberthema, hilft nicht
- JEV 41 %einzelne zitierbare Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 55 %einzelne zitierbare Belege
- amos 25 %nur am Rande erwähnt
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- SF-P1-T03 Wenn eine Sicherheitsvereinbarung verlangt, Prüfergebnisse, Angaben aus Modellsteckbriefen oder die Forensik von Vorfällen zwischen den Partnern zu teilen: Welches kleinste Datenfeld müsste jeder Partner sehen, um dem Bericht eines anderen zu trauen, und auf welches größte würde er verzichten?
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 30 %Hintergrund, keine Belege
- JEV 32 %einzelne zitierbare Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 23 %einzelne zitierbare Belege
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 58 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 26 %Hintergrund, keine Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 28 %einzelne zitierbare Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 48 %einzelne zitierbare Belege
- JEV 54 %einzelne zitierbare Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %Hintergrund, keine Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 65 %einzelne zitierbare Belege
- JEV 36 %einzelne zitierbare Belege
- amos 27 %nur am Rande erwähnt
- SubQ 28 %gleiches Oberthema, hilft nicht
- drex 34 %einzelne zitierbare Belege
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 38 %Hintergrund, keine Belege
- JEV 25 %gleiches Oberthema, hilft nicht
- amos 30 %nur am Rande erwähnt
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 43 %einzelne zitierbare Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %einzelne zitierbare Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 23 %einzelne zitierbare Belege
- Luna 61 %einzelne zitierbare Belege
- JEV 53 %einzelne zitierbare Belege
- amos 31 %einzelne zitierbare Belege
- SubQ 39 %einzelne zitierbare Belege
- drex 38 %umfangreiche Belege
- d3-ultra 51 %einzelne zitierbare Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv