Operation “Sponsored Discontent”: Influence activity
Zusammenfassung
Kurz
OpenAI beschreibt eine mutmaßliche chinesische Einflusskampagne, die kurze Beiträge gegen Cai Xia und längere, US-kritische Artikel auf Spanisch produzierte. Die Artikel erschienen laut Bericht in lateinamerikanischen Medien; mögliche Bezahlung wird durch einzelne Hinweise nahegelegt. Während die Cai-Xia-Beiträge kaum authentische Resonanz zeigten, konnte OpenAI die Reichweite und Wirkung der Artikel nicht unabhängig feststellen.
Mittel
OpenAI berichtet von einer mutmaßlichen chinesischen Einflusskampagne, deren ChatGPT-Konten es gesperrt habe. Die Konten erzeugten kurze Kommentare gegen Cai Xia, eine chinesische Dissidentin, und längere spanische Artikel, die gesellschaftliche Probleme und politische Konflikte in den USA als Zeichen gescheiterter Führung darstellten. Die Kommentare wurden laut Bericht auf X von Konten verbreitet, die sich als Personen aus den USA oder Indien ausgaben.
Für die Artikel ließen die Betreiber öffentlich verfügbare chinesischsprachige Texte übersetzen und erweitern. Sie erschienen vor allem auf Nachrichtenseiten in Peru, daneben in Mexiko und Ecuador; viele wurden derselben Person zugeschrieben. OpenAI vermutet, dass zumindest einige Beiträge bezahlt veröffentlicht wurden. Als Hinweise nennt es einen als gesponsert markierten Artikel und übersetzte Belege für Zahlungen. Die Organisation bewertet die Platzierung in etablierten Medien als Kategorie 4 auf der Breakout-Skala.
OpenAI fand nach eigenen Angaben kaum authentische Interaktion mit den Cai-Xia-Beiträgen. Die spanischen Artikel könnten mehr Menschen erreicht haben, doch ihre tatsächliche Leserschaft und Resonanz konnte das Unternehmen nicht unabhängig feststellen. Die Einschätzung und Hinweise auf die Kampagne stammen aus OpenAIs Bericht.
Ausführlich lesen
Der Bericht von OpenAI beschreibt eine mutmaßliche chinesische Einflusskampagne, die das Unternehmen „Sponsored Discontent“ nennt. OpenAI erklärt, es habe ChatGPT-Konten gesperrt, die zwei Arten von Inhalten erzeugten: kurze Kommentare auf Englisch und Chinesisch, die Cai Xia kritisierten, sowie längere Artikel auf Spanisch, die die USA negativ darstellten.
Laut Bericht wurden die Konten überwiegend auf Chinesisch angewiesen und waren hauptsächlich während chinesischer Geschäftszeiten aktiv. Ein Teil der Aktivität ähnelte der zuvor von OpenAI beschriebenen Operation „Spamouflage“: Die Betreiber ließen Kommentare und Bilder zu Cai Xia erstellen, einer Dissidentin und ehemaligen Professorin an der Parteischule der Kommunistischen Partei Chinas. Die Kommentare stellten unter anderem ihre Sachkenntnis infrage oder warfen ihr Unregelmäßigkeiten bei Visa vor. Anschließend veröffentlichten Konten auf X die Inhalte und gaben sich dabei als Personen aus den USA oder Indien aus.
Daneben ließen die Konten nach OpenAIs Darstellung öffentlich zugängliche chinesischsprachige Artikel übersetzen und erweitern. Die spanischen Texte behandelten gesellschaftliche und politische Konflikte in den USA, etwa Ungleichheit, politische Gewalt, Diskriminierung, Sexismus, Kriminalität, Drogenkonsum, Obdachlosigkeit und US-Außenpolitik. Sie stellten solche Probleme häufig als Zeichen gescheiterter Führung oder einer gescheiterten Gesellschaft dar und kritisierten beide großen US-Parteien. Die Artikel erschienen vor allem auf peruanischen, aber auch auf mexikanischen und ecuadorianischen Nachrichtenseiten; mehrere Veröffentlichungen erfolgten dem Bericht zufolge am selben Tag, an dem die Konten die Texte mit ChatGPT erzeugten. Viele Artikel wurden derselben Person zugeschrieben. Manche Quellen verbanden diese Person mit einem Unternehmen aus China.
OpenAI bezeichnet die Veröffentlichungen als den ersten von ihm beobachteten Fall, in dem ein mutmaßlicher chinesischer Einflussakteur längere, US-kritische Beiträge erfolgreich in etablierten Medien Lateinamerikas platzierte. Als Hinweise auf bezahlte Veröffentlichungen nennt der Bericht einen als „gesponsert“ gekennzeichneten Artikel sowie den Einsatz von ChatGPT zur Übersetzung spanischsprachiger Belege für Zahlungen an eine lateinamerikanische Nachrichtenorganisation. OpenAI ordnet die Kampagne auf der Breakout-Skala als Kategorie 4 ein, also als Ausbruch in etablierte Medien.
Die Reichweite und Wirkung sind jedoch nicht vollständig belegt. OpenAI berichtet, keine Anzeichen für nennenswertes authentisches Engagement bei den Cai-Xia-Beiträgen auf sozialen Medien gefunden zu haben; die beteiligten Konten hätten meist wenige Follower und geringe Interaktion gehabt. Die Artikel könnten ein deutlich größeres Publikum erreicht haben, doch OpenAI erklärt, dass es die tatsächliche Leserreaktion nicht unabhängig feststellen könne. Der Bericht nennt außerdem einzelne Artikel und Medien, bietet aber keine vollständige unabhängige Prüfung ihrer Reichweite oder der vermuteten finanziellen Vereinbarungen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung. Die kurze Fassung ist ebenfalls im Wesentlichen treu, lässt aber den Spamouflage-Bezug und die Firmenzuordnung ebenso aus.
Im Bericht, aber nicht in der Zusammenfassung
- Verbindung der Kommentare zur Kampagne Spamouflage
- Zuordnung der Artikel zur chinesischen Firma Jilin Yousen Culture Communication Co, Ltd
- Zeitmuster, das mit chinesischen Geschäftszeiten übereinstimmt
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 38 %einzelne zitierbare Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 17 %gleiches Oberthema, hilft nicht
- Luna 42 %einzelne zitierbare Belege
- JEV 41 %beantwortet teilweise oder widerspricht
- amos 32 %einzelne zitierbare Belege
- SubQ 100 %kein Bezug
- drex 29 %einzelne zitierbare Belege
- d3-ultra 38 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können?
- SF-M3-T04 Unter welchen Bedingungen würden Staaten die eigene Darstellung des beteiligten Modells als Teil der Vorfallakte anerkennen, und was verhindert, dass sie eine eigennützige Fassung der Ereignisse ist? Enthält ein authentifizierter Vorfallbericht Agentenspuren (Protokolle der Arbeitsschritte eines KI-Agenten) oder anderes Material des verdächtigen Systems: Welcher Test zeigt, dass die KI-Werkzeuge der empfangenden Ermittler darin eingebettete Anweisungen als Beweismittel prüfen, statt sie auszuführen?
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 24 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 30 %Hintergrund, keine Belege
- amos 24 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %einzelne zitierbare Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %einzelne zitierbare Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 57 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 35 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 48 %einzelne zitierbare Belege
- JEV 60 %einzelne zitierbare Belege
- amos 25 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 33 %einzelne zitierbare Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 40 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 18 %Hintergrund, keine Belege
- Luna 61 %einzelne zitierbare Belege
- JEV 59 %einzelne zitierbare Belege
- amos 35 %einzelne zitierbare Belege
- SubQ 30 %einzelne zitierbare Belege
- drex 25 %einzelne zitierbare Belege
- d3-ultra 39 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv