STORM-2035: Recidivist influence activity
Zusammenfassung
Kurz
OpenAI schreibt eine erneute, mutmaßlich Iran-verknüpfte Einflusskampagne STORM-2035 ChatGPT-generierten Kommentaren zu, die über sich als Einwohner verschiedener Länder ausgebende X-Konten verbreitet worden seien. Die Beiträge behandelten politische Themen in den USA, Großbritannien, Irland, Venezuela und weiteren Kontexten; typische Posts hätten laut OpenAI nur 150 bis 350 Aufrufe und keine Reaktionen erzielt, weshalb das Unternehmen die Wirkung als gering einstuft.
Mittel
OpenAI berichtet, Konten gesperrt zu haben, die es einer mutmaßlich Iran-verknüpften Wiederaufnahme der Einflussoperation STORM-2035 zurechnet. Die Zuschreibung wird im Bericht als Einschätzung dargestellt. Demnach ließen die Betreiber ChatGPT kurze Kommentare in kleinen Serien erstellen: Die Eingaben seien auf Persisch, die Beiträge auf Englisch oder Spanisch gewesen. Mutmaßlich unechte X-Konten hätten sich als Einwohner der USA, des Vereinigten Königreichs, Irlands oder Venezuelas ausgegeben und ausschließlich solche Inhalte gepostet. Einige Merkmale der Konten seien ein deutliches Missverhältnis zwischen abonnierten und abonnierenden Profilen sowie auffällige Profilbilder gewesen.
Thematisch behandelten die Beiträge unter anderem Latino-Rechte, schottische Unabhängigkeit, irische Wiedervereinigung, Venezuela, Kuba, palästinensische Rechte und Irans Stärke. Anders als bei der früheren Aktivität seien die hier beschriebenen öffentlichen Beiträge nur auf X erschienen. OpenAI zufolge erzielten typische Posts 150 bis 350 Aufrufe und keine Likes, Weitergaben oder Kommentare. Es habe keine festgestellten Fälle gegeben, in denen echte Nutzer sie weiterverbreiteten. Daher ordnet OpenAI die Kampagne nach der verwendeten Skala der niedrigsten Wirkungskategorie zu. Die Angaben beschreiben die Beobachtungen des Berichts und belegen keine breitere Verbreitung.
Ausführlich lesen
OpenAI berichtet, erneut gegen Konten vorgegangen zu sein, die es einer mutmaßlich Iran-verknüpften Einflussoperation namens STORM-2035 zurechnet. Die Organisation beschreibt die Aktivität als Wiederaufnahme einer bereits im Vorjahr unterbrochenen Kampagne. Ihre Einschätzung zur Verbindung mit Iran ist als Zuschreibung gekennzeichnet; der Bericht legt dafür hier keine unabhängige Bestätigung vor.
Laut OpenAI nutzten die Betreiber ChatGPT, um in kleinen Serien – meist ungefähr zwölf Beiträge – kurze Kommentare zu erzeugen. Die Eingaben seien auf Persisch erfolgt, die gewünschten Ausgaben auf Englisch oder Spanisch. Anschließend hätten mutmaßlich unechte X-Konten die Kommentare veröffentlicht und sich dabei als Einwohner der USA, des Vereinigten Königreichs, Irlands oder Venezuelas ausgegeben. OpenAI zufolge posteten diese Konten ausschließlich Inhalte der Operation, folgten deutlich mehr Konten, als ihnen folgten, und verwendeten häufig Profilbilder junger Frauen, deren Gesichter durch Telefone oder andere Gegenstände verdeckt waren. Einige Bilder schienen laut Bericht aus anderen Internetquellen, insbesondere Pinterest, übernommen worden zu sein.
Die Themen umfassten Latino-Rechte in den USA, schottische Unabhängigkeit und Kritik am Vereinigten Königreich, irische Wiedervereinigung, Venezuela und Kuba, palästinensische Rechte sowie Irans militärische und diplomatische Stärke. Die Beiträge zu Latino-Rechten, Iran, Kuba und Venezuela seien auf Spanisch, die zu Schottland und Irland auf Englisch und jene zu palästinensischen Rechten in beiden Sprachen erschienen. OpenAI hebt hervor, dass diese erneute Aktivität stärker getrennte Arbeitsstränge erkennen lasse: Im früheren Fall seien Inhalte für X, Instagram und Websites erzeugt worden, während die hier beschriebenen öffentlichen Kommentare nur auf X veröffentlicht worden seien. Ein einzelner spanischer Beitrag auf einem sonst auf Schottland ausgerichteten Konto könne laut Bericht auf einen Fehler eines Betreibers hindeuten.
Zur Reichweite schreibt OpenAI, typische Beiträge hätten 150 bis 350 Aufrufe erzielt und keine Likes, Weitergaben oder Kommentare erhalten. Man habe keine Fälle festgestellt, in denen echte Nutzer die identifizierten Kommentare verstärkt und einem größeren Publikum zugänglich gemacht hätten. Nach der im Bericht herangezogenen IO Impact Breakout Scale stuft OpenAI die Aktivität deshalb in Kategorie 1 ein: eine Plattform und wenig Anzeichen für eine breite Verbreitung durch echte Nutzer. Das begrenzt die belegte Wirkung auf die beobachtete geringe Reichweite; der Bericht behauptet nicht, dass keinerlei weitere Wirkung möglich gewesen sei.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zuschreibung an Iran ist im Bericht nur als wahrscheinlich ('likely') gekennzeichnet. Die Einordnung stützt sich ausschließlich auf den Berichtstext und die Abbildungsbeschreibungen, nicht auf die Bilder selbst.
Im Bericht, aber nicht in der Zusammenfassung
- Einige Profilbilder wurden offenbar von Pinterest kopiert
- Die Betreiber trennten ihre Arbeitsstränge stärker als bei der früheren Aktivität, die auch Instagram und Websites umfasste
- Der Wechsel ins Spanische bei einem Post wird als möglicher Bedienerfehler gewertet
- Die Einordnung als Breakout-Kategorie 1 wird im kurzen Text nicht genannt
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %Hintergrund, keine Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 18 %gleiches Oberthema, hilft nicht
- Luna 57 %einzelne zitierbare Belege
- JEV 46 %beantwortet teilweise oder widerspricht
- amos 31 %einzelne zitierbare Belege
- SubQ 100 %kein Bezug
- drex 27 %einzelne zitierbare Belege
- d3-ultra 35 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %Hintergrund, keine Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %gleiches Oberthema, hilft nicht
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 23 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 62 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 35 %gleiches Oberthema, hilft nicht
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 53 %einzelne zitierbare Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 55 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 31 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 43 %einzelne zitierbare Belege
- amos 24 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 58 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %einzelne zitierbare Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 21 %einzelne zitierbare Belege
- Luna 52 %einzelne zitierbare Belege
- JEV 57 %einzelne zitierbare Belege
- amos 33 %einzelne zitierbare Belege
- SubQ 28 %einzelne zitierbare Belege
- drex 24 %einzelne zitierbare Belege
- d3-ultra 38 %Hintergrund, keine Belege
- Haiku-Prüfung umfangreiche Belege
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv