Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openaiohne Datum · Q009526

Operation „A2Z“: Mehrsprachige Einflussaktivitäten

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI berichtet von einer mehrsprachigen Einflussoperation namens „A2Z“, deren Betreiber KI für gefälschte Profile und politische Kommentare auf X und Facebook eingesetzt hätten. Die Reichweite sei überwiegend gering gewesen, doch manche Beiträge hätten reale Antworten ausgelöst; OpenAI sagt, es habe die Nutzung seiner Modelle Anfang Juni 2024 unterbunden, worauf die identifizierten Konten zunächst verstummt seien. Der ergänzende Abbildungsanhang im bereitgestellten Text ist teilweise abgeschnitten.

Mittel

OpenAI beschreibt eine mehrsprachige Einflussoperation, die es „A2Z“ nannte. Nach Darstellung des Unternehmens nutzten die Betreiber dessen API, um gefälschte Profile auf X und Facebook zu verwalten, Kurzbiografien und Kommentare zu verfassen, Beiträge zu analysieren und Antworten in mehreren Sprachen zu überarbeiten. Viele Inhalte lobten Aserbaidschan; weitere betrafen unter anderem die Vereinigten Arabischen Emirate, US- und europäische Politik, KI, Finanzmärkte und Umwelt. Die politische Ausrichtung variierte offenbar je nach Zielregion.

OpenAI identifizierte rund 150 Konten und vermutete weitere. Die gemessene Reichweite war meist gering: typische X-Beiträge erhielten weniger als zehn Interaktionen, typische Facebook-Beiträge null bis fünf Reaktionen. Einige Inhalte führten dennoch zu Antworten realer Personen, auch zu Widerspruch. OpenAI ordnete die Operation am oberen Ende der zweiten von sechs Wirkungskategorien ein. Das Unternehmen berichtet, die Aktivitäten Anfang Juni 2024 unterbunden zu haben. Einige Konten posteten ab Ende August wieder; wenige Beiträge zeigten wahrscheinlich KI-Merkmale, stammten laut OpenAI aber nicht von dessen Modellen. Die Angaben beruhen auf OpenAIs Untersuchung; der zusätzliche Abbildungsanhang ist teilweise abgeschnitten.

Ausführlich lesen

Der Bericht stellt OpenAIs Darstellung einer mehrsprachigen Einflussoperation vor, die das Unternehmen „A2Z“ nannte. OpenAI zufolge nutzten unbekannte Betreiber dessen API, um Kommentare und andere Inhalte zu erstellen und über gefälschte Profile auf X und Facebook zu veröffentlichen. Viele Beiträge lobten Aserbaidschan oder verteidigten dessen Menschenrechtsbilanz. Daneben behandelten die Konten zahlreiche andere Themen; das könne, so OpenAI, auf einen kommerziellen Betrieb hindeuten.

Laut Bericht unterstützten die Modelle mehrere Schritte: Sie halfen, Profile und Kurzbiografien anzulegen, Beiträge zu analysieren, Antworten in verschiedenen Sprachen zu entwerfen und Korrektur zu lesen. Neben kurzen Kommentaren erschienen stilisierte Bilder, häufig im Plakatstil der 1930er-Jahre. OpenAI vermutete, sie sollten Aufmerksamkeit erzeugen; typische Beiträge mit solchen Bildern hätten jedoch nur null bis fünf Interaktionen erzielt. Das Unternehmen identifizierte rund 150 Konten auf X und Facebook und vermutete, dass es weitere gab. Gelegentlich seien die Konten in Gespräche mit realen Personen geraten.

Die Inhalte reichten von Lob für Aserbaidschans Innen- und Außenpolitik sowie seine Energieexporte bis zu Beiträgen über KI, Finanzmärkte, Umwelt, Kryptowährungen und Technologie. Eine Kontengruppe stellte die Vereinigten Arabischen Emirate als stabiles Investitionsziel dar und kontrastierte sie mit Behauptungen über politische Instabilität in den USA. Andere Profile passten ihre politische Ausrichtung offenbar der jeweiligen Region an: Ein US-Konto gab sich liberal und kritisierte Donald Trump; französischsprachige Facebook-Konten kritisierten Emmanuel Macron und unterstützten den Rassemblement National. Teilweise verbanden Beiträge innenpolitische Kritik mit der Forderung, sich aus internationalen Angelegenheiten wie Russlands Invasion der Ukraine herauszuhalten.

OpenAI zufolge blieb die Reichweite begrenzt. Keines der untersuchten Konten hatte viele Follower; das größte ermittelte X-Konto hatte 222, typische Konten etwa 15 bis etwas mehr als 20. Übliche X-Beiträge erhielten weniger als zehn Interaktionen. Für Facebook nennt der Bericht höchstens 36 beobachtete Reaktionen auf einen Beitrag, meist null bis fünf. Dennoch hätten manche Beiträge Antworten realer Personen ausgelöst, auch widersprechende. OpenAI stufte die Operation auf seiner sechsstufigen Breakout Scale am oberen Rand von Kategorie zwei ein, mit möglichem Übergang zu Kategorie drei.

OpenAI berichtet, Anfang Juni 2024 die Aktivitäten unterbunden und Konten die Nutzung seiner Modelle untersagt zu haben. Die identifizierten Konten hätten während der Wahlzeiträume in der EU, im Vereinigten Königreich und in Frankreich nicht gepostet; einige seien ab Ende August wieder aktiv gewesen. Eine kleine Zahl späterer Beiträge habe wahrscheinlich KI-Merkmale gezeigt, stamme aber nicht von OpenAIs Modellen. Nach der Maßnahme und dem Austausch von Informationen mit anderen Branchenunternehmen seien die identifizierten Konten wochenlang verstummt. Die Bewertung und Reichweitenangaben geben OpenAIs Untersuchung wieder; der ergänzende Abbildungsanhang im bereitgestellten Text ist teilweise abgeschnitten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurden beide von Luna gelieferten Zusammenfassungen zusammen: Die mittlere ist inhaltlich vollständiger, die kurze lässt Aserbaidschan und die Breakout-Einordnung aus. Lunas Stufen und Anteile bei der Einordnung wurden nicht übernommen. Die abgeschnittenen Bildunterschriften im Abbildungsanhang sind eine Eigenschaft des Quelltexts und kein Fehler der Zusammenfassung.

Im Bericht, aber nicht in der Zusammenfassung

  • In der kurzen Fassung fehlt Aserbaidschan als Hauptgegenstand der Kommentare
  • Zentrale Schlussfolgerung fehlt in beiden Fassungen: Die Abhängigkeit von KI machte die Operation anfällig für Gegenmaßnahmen, weil die Abschaltung mehrere Glieder der Kette gleichzeitig unterbrach
  • In der kurzen Fassung fehlt die Einordnung auf der Breakout Scale (oberes Ende von Kategorie zwei, Risiko eines Aufstiegs in Kategorie drei)
  • Der Hinweis auf einen vermutlich kommerziellen Betrieb fehlt in beiden Fassungen
  • Die stilisierten Bilder im Stil von Plakaten der 1930er-Jahre fehlen in beiden Fassungen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 48 %einzelne zitierbare Belege
    • JEV 42 %beantwortet teilweise oder widerspricht
    • amos 32 %einzelne zitierbare Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra 29 %Hintergrund, keine Belege

  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 39 %einzelne zitierbare Belege
    • JEV 56 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 53 %einzelne zitierbare Belege
    • amos 26 %einzelne zitierbare Belege
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 29 %Hintergrund, keine Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 21 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 47 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 51 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 24 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 42 %einzelne zitierbare Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 26 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 23 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 64 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 23 %einzelne zitierbare Belege
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 40 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 18 %einzelne zitierbare Belege
    • Luna 60 %einzelne zitierbare Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 33 %einzelne zitierbare Belege
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 45 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →