Iranian influence nexus: Cross-platform activity
Zusammenfassung
Kurz
OpenAI zufolge wurden fünf ChatGPT-Konten gesperrt, die in geringem Umfang Inhalte für Websites und X-Auftritte mit Verbindungen zu IUVM und STORM-2035 erzeugten; ein Konto bediente offenbar beide Netzwerke. Die Texte wurden teils umformuliert, doch die Reichweite blieb laut Bericht gering und es gab keine Belege für eine breite Weiterverbreitung durch reale Personen.
Mittel
OpenAI berichtet, fünf ChatGPT-Konten gesperrt zu haben, die in kleinem Umfang Artikel und Beiträge für Online-Auftritte erzeugten, die mit den iranischen Einflussoperationen IUVM und STORM-2035 verbunden werden. Ein Konto habe Inhalte für beide Bereiche erstellt. Das könne auf eine bislang nicht öffentlich bekannte Verbindung zwischen den Betreibern hindeuten, belege sie laut Bericht aber nicht abschließend.
Die Konten erstellten unter anderem englische, spanische und französische Texte für Websites sowie Beiträge für X. Ein Betreiber habe mit Modellen erzeugte Artikel vor der Veröffentlichung umgeschrieben; eine semantische Analyse stufte die veröffentlichten Texte als wahrscheinlich überarbeitete Fassungen ein. OpenAI vermutet, dass mehrere Umformulierungen der Erkennung dienen sollten. Die Inhalte seien häufig pro-palästinensisch, pro-Hamas und pro-iranisch sowie gegen Israel und die USA gerichtet gewesen. Einige Konten nutzten die Modelle außerdem für Materialien zum Fremdsprachenunterricht.
OpenAI zufolge erreichte die Aktivität nur wenig Publikum: Das al-Sarira-X-Konto hatte am 16. Januar 2025 157 Follower, und Beiträge erhielten meist höchstens einstellige Interaktionen. Der Bericht bewertet die Operation auf der Breakout Scale als Aktivität auf mehreren Plattformen ohne Belege für breite Weiterverbreitung durch reale Personen.
Ausführlich lesen
OpenAI berichtet, fünf ChatGPT-Konten gesperrt zu haben, die eine kleine Zahl von Artikeln und Social-Media-Beiträgen für Online-Auftritte erzeugten, die öffentlich mit iranischen Einflussoperationen in Verbindung gebracht werden. Genannt werden IUVM (International Union of Virtual Media) und STORM-2035. Obwohl diese Aktivitäten zuvor als getrennte Operationen beschrieben worden seien, habe eines der gesperrten Konten Inhalte für beide erstellt. OpenAI wertet das als möglichen Hinweis auf eine bislang nicht öffentlich bekannte Verbindung auf Ebene der Betreiber. Die festgestellte Aktivität sei jedoch klein gewesen.
Vier Konten hätten Texte veröffentlicht, die Analysten STORM-2035 zuordneten; das fünfte habe sowohl Inhalte für mit STORM-2035 verbundene Auftritte als auch für eine IUVM-nahe Website erzeugt. Ein Konto erstellte laut OpenAI längere Artikel für al-sarira[.]com. Zwei weitere generierten Beiträge, die auf X über den al-Sarira-Auftritt und zwei andere Konten erschienen. Ein weiteres Konto verfasste wenige spanischsprachige Artikel für lalinearoja[.]net. Das fünfte erzeugte gelegentlich französische Texte für critiquepolitique[.]com und englischsprachige Artikel für iuvmpress[.]co, die mit IUVM verbunden sei. OpenAI zufolge war eine Überschneidung dieser beiden Websites zuvor in öffentlichen Berichten nicht festgestellt worden.
Bei den Texten für critiquepolitique[.]com habe der Betreiber die mit OpenAI-Modellen erzeugten Entwürfe vor der Veröffentlichung offenbar umformuliert. Eine semantische Ähnlichkeitsanalyse mit den Modellen kam laut Bericht zu dem Ergebnis, dass die veröffentlichten Fassungen mit hoher Wahrscheinlichkeit Überarbeitungen der erkannten Versionen waren. OpenAI vermutet, dass mehrere Umformulierungen möglicherweise der Erkennung dienen sollten; der Bericht belegt dieses Motiv nicht unabhängig.
Inhaltlich ähnelten die Veröffentlichungen laut OpenAI früheren Aktivitäten, die IUVM und STORM-2035 zugeschrieben wurden: Sie seien typischerweise pro-palästinensisch, pro-Hamas und pro-iranisch sowie israelfeindlich und gegen die Vereinigten Staaten gerichtet gewesen. Während des plötzlichen Zusammenbruchs des Assad-Regimes in Syrien habe die Operation Assad gelobt und Berichte über seine Unbeliebtheit im Land bestritten. Einige Konten hätten die Modelle für Einflussinhalte nur gelegentlich genutzt und sie häufiger um Hilfe bei Lehrmaterialien für Englisch und Spanisch als Fremdsprachen gebeten. OpenAI merkt an, dass frühere iranische Aktivitäten öffentlich Personen mit Erfahrung im Englischunterricht zugeschrieben worden seien; ein Zusammenhang mit diesen Konten wird damit nicht nachgewiesen.
Die Reichweite schätzt OpenAI als gering ein: Am 16. Januar 2025 hatte das al-Sarira-X-Konto 157 Follower, folgte aber 895 Konten; Beiträge erzielten üblicherweise nur einstellige Interaktionszahlen oder gar keine. Auf der Breakout Scale ordnet OpenAI die Aktivität am unteren Rand von Kategorie 2 ein: mehrere Plattformen, aber keine Belege dafür, dass reale Personen die Inhalte aufgriffen oder breit teilten. Diese Bewertung und die Zuordnungen stammen aus dem Bericht von OpenAI; der Text beschreibt keine größere Publikumswirkung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Bewertung stützt sich allein auf den Berichtstext. Die Stufen und Anteile aus Lunas Einordnung wurden nicht übernommen, und jede Frage wurde unabhängig geprüft.
Im Bericht, aber nicht in der Zusammenfassung
- Die Passage, dass die Operation während des Zusammenbruchs des Assad-Regimes Assad lobte und Berichte über seine Unbeliebtheit bestritt
- Die Angabe, dass die Konten häufiger Materialien für den Englisch- und Spanischunterricht erstellten als Einflussinhalte, und der Hinweis, dass frühere iranische Aktivitäten Personen mit EFL-Hintergrund zugeschrieben wurden
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %Hintergrund, keine Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 34 %umfangreiche Belege
- JEV 51 %beantwortet teilweise oder widerspricht
- amos 31 %einzelne zitierbare Belege
- SubQ 100 %kein Bezug
- drex 32 %einzelne zitierbare Belege
- d3-ultra 30 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können?
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %einzelne zitierbare Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 47 %gleiches Oberthema, hilft nicht
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 38 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 55 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 38 %einzelne zitierbare Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen?
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 22 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 62 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 34 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 28 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 54 %einzelne zitierbare Belege
- amos 24 %Hintergrund, keine Belege
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 47 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 35 %einzelne zitierbare Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 71 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %einzelne zitierbare Belege
- amos 25 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 26 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 23 %einzelne zitierbare Belege
- Luna 69 %einzelne zitierbare Belege
- JEV 56 %einzelne zitierbare Belege
- amos 33 %einzelne zitierbare Belege
- SubQ 37 %einzelne zitierbare Belege
- drex 29 %umfangreiche Belege
- d3-ultra 53 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv