Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openaiohne Datum · Q009523

KI-gestützte Operationen unter falschem Deckmantel unterbinden

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI berichtet von zwei gesperrten Einflussoperationen: einer russischen Kampagne in Lateinamerika mit mutmaßlich kontrollierter Tarnorganisation und einer iranischen Kampagne, die erfundene Journalistenidentitäten nutzte, um Artikel in Onlinemedien zu platzieren. Laut OpenAI waren die Artikel der iranischen Operation deutlich reichweitenstärker als ihre Social-Media-Kommentare; bei der russischen Operation ließen sich einige behauptete Fälschungen öffentlich nicht bestätigen.

Mittel

OpenAI berichtet, im Oktober 2026 zwei Einflussoperationen aus Russland und dem Iran gesperrt zu haben. Beide hätten ChatGPT neben herkömmlichen Methoden zur Verschleierung ihrer Urheber und zur Verbreitung politischer Botschaften eingesetzt.

Die russische Operation „Dark Clark“ zielte laut Bericht auf Länder in Lateinamerika. Ihre Verantwortlichen hätten ChatGPT vor allem für interne Berichte über Kampagnen genutzt, die unter anderem Falschmeldungen, gefälschte Dokumente und Audioaufnahmen umfassten. Zudem deuteten Belege darauf hin, dass sie das Social Research Center kontrollierten und ahnungslose Beschäftigte vor Ort einspannten. OpenAI ordnet die Operation auf der Breakout Scale in Kategorie 5 ein.

Die iranische Operation „Bogus Bylines“ habe sieben erfundene Journalistenidentitäten genutzt. OpenAI fand fast 100 Artikel unter diesen Namen in internationalen Onlinemedien sowie zahlreiche KI-gestützte Social-Media-Kommentare. Laut Bericht blieben die Kommentare weitgehend wirkungsarm; die Artikel erreichten dagegen etablierte Medien. OpenAI bewertet diese Aktivitäten mit Kategorie 2 beziehungsweise 4.

Die Untersuchung stützte sich laut OpenAI auf Kontodaten, interne Inhalte und öffentliche Quellen. Das Unternehmen warnt, dass Angaben der Verantwortlichen zur Wirkung irreführend gewesen sein könnten und manche behaupteten Veröffentlichungen nicht öffentlich bestätigt werden konnten. Die dargestellten Ergebnisse sind OpenAIs eigene Einschätzungen.

Ausführlich lesen

Der Bericht von OpenAI vom 8. Oktober 2026 beschreibt zwei gesperrte Einflussoperationen aus Russland und dem Iran. OpenAI zufolge nutzten beide ChatGPT neben herkömmlichen Methoden, um ihre Urheber zu verschleiern und politische Botschaften zu verbreiten. Der Bericht stellt zugleich heraus, dass die Operationen Vorgehensweisen aus der Zeit vor KI fortführten: KI habe vor allem einzelne Arbeitsschritte vereinfacht und die Erstellung von Inhalten unterstützt.

Die russische Operation „Dark Clark“ richtete sich laut OpenAI gegen Länder in Lateinamerika, besonders mit Botschaften gegen die Ukraine und mit Versuchen, lokale Politik zu beeinflussen. Die Verantwortlichen hätten ChatGPT überwiegend für interne Berichte genutzt. Darin hätten sie unter anderem beschrieben, Falschmeldungen und gefälschte Audioaufnahmen, Dokumente und E-Mail-Adressen zu verbreiten. OpenAI gibt an, einige dieser Aktivitäten durch öffentliche Berichte, Faktenchecks und Dementis bestätigt zu haben. Als besonders komplex bezeichnet der Bericht den Aufbau des Social Research Center, einer angeblichen Forschungsorganisation. Die Belege deuteten darauf hin, dass die russischen Verantwortlichen die Organisation steuerten und Beschäftigte in Lateinamerika unwissentlich für sie arbeiteten ließen. OpenAI fand auf der SRC-Website mehr als 60 Artikel, von denen die meisten eigenständig verfasst schienen. Die Operation wird auf der Breakout Scale in Kategorie 5 eingeordnet.

Die iranische Operation „Bogus Bylines“ habe sieben erfundene journalistische Identitäten eingesetzt. OpenAI fand laut Bericht fast 100 unter diesen Namen veröffentlichte oder übernommene Artikel in rund einem Dutzend Medien weltweit. Die Artikel behandelten vor allem den Konflikt zwischen den USA und dem Iran. ChatGPT sei außerdem zur Überarbeitung von Anschreiben und zur Erstellung von Kommentaren auf Persisch und Englisch genutzt worden. OpenAI zufolge erzielten die identifizierten Kommentare kaum nennenswerte Interaktionen und dominierten die jeweiligen Diskussionen nicht. Die Artikelveröffentlichungen hätten dagegen Zugang zu etablierten Medien und deren Publikum ermöglicht. Diesen Teil der Operation bewertet OpenAI mit Kategorie 4, die Kommentare mit Kategorie 2.

Als Vorgehen beschreibt der Bericht die Auswertung zusammengehöriger ChatGPT-Konten sowie interner Prompts und Berichte, ergänzt durch Recherchen in öffentlich zugänglichen Quellen. OpenAI sagt, Konten gesperrt und Informationen zu beiden Fällen an Behörden beziehungsweise Branchenpartner weitergegeben zu haben. Das Unternehmen betont, dass Wirkungsangaben der Verantwortlichen mit Vorsicht zu behandeln seien: Sie hätten sich teils fremde Ereignisse zugeschrieben und ihre Erfolge irreführend dargestellt. Einige behauptete Fälschungen ließen sich öffentlich nicht bestätigen; sie könnten unveröffentlicht, gelöscht oder über nicht zugängliche Kanäle verbreitet worden sein. Der Bericht gibt OpenAIs Untersuchung und Einschätzungen wieder; er liefert keine unabhängige Prüfung sämtlicher Behauptungen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung, weil das Schema nur eine Zusammenfassung erlaubt. Die kurze Zusammenfassung ist ebenfalls im Kern treu, lässt aber die Tarnorganisation, die Kategorien und die Einzelfälle aus. Die Anteilswerte in Lunas Einordnung wurden nicht geprüft.

Im Bericht, aber nicht in der Zusammenfassung

  • Die zentrale Beobachtung, dass beide Operationen klassischen Einflussoperationen aus der Zeit vor KI ähnelten und KI vor allem einzelne Arbeitsabläufe vereinfachte.
  • Die Erkenntnis, dass Operationen mit Platzierung in echten Medien tendenziell die größte Reichweite haben.
  • Die Tarnorganisation Social Research Center, die Tarnidentität „Mia Clark“ und der Vergleich mit der früheren Operation PeaceData.
  • Die konkreten Fälschungen zu Milei, Peru/Bandera, Ecuador/Noboa und Bolivien sowie die Tatsache, dass einige davon von Faktencheckern oder Regierungen widerlegt wurden.
  • Dass KI in den meisten Fällen nur zur Berichterstattung und nicht zur Erstellung von Inhalten genutzt wurde.
  • Dass viele Likes auf Antworten der Operation von Konten der Operation selbst stammten und die Wirkungsberechnung der iranischen Verantwortlichen irreführend war.

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, die Artikel der iranischen Operation hätten „etablierte Medien“ erreicht, ist überzeichnet. Der Bericht spricht von kleinen bis mittelgroßen Onlinemedien, von denen nur eines eine große Reichweite hatte.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 59 %einzelne zitierbare Belege
    • JEV 37 %beantwortet teilweise oder widerspricht
    • amos 31 %einzelne zitierbare Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 39 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 55 %einzelne zitierbare Belege
    • amos 36 %einzelne zitierbare Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 42 %einzelne zitierbare Belege
    • d3-ultra offen

  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 52 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 76 %Hintergrund, keine Belege
    • JEV 33 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 55 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 48 %einzelne zitierbare Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 24 %einzelne zitierbare Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 29 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 19 %Hintergrund, keine Belege
    • Luna 60 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung umfangreiche Belege

    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →