Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai1. Mai 2024 · Q002178

"Bad Grammar": Russian-linked Telegram comment activity

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI zufolge nutzte ein mit Personen aus Russland verknüpftes Telegram-Netzwerk KI-Modelle, um politische Kommentare auf Englisch und Russisch zu erstellen und über mindestens zwölf Konten zu verbreiten. Die Beiträge behandelten unter anderem die Ukraine, Moldau, das Baltikum und US-Politik; laut OpenAI erhielten sie wenig Resonanz und wurden als Aktivität der niedrigsten Kategorie auf der Breakout-Skala eingestuft.

Mittel

OpenAI berichtet, ein zuvor nicht öffentlich beschriebenes Telegram-Netzwerk namens „Bad Grammar“ gesperrt zu haben, das mit Personen aus Russland in Verbindung gebracht werde. Die Betreiber hätten OpenAI-Modelle genutzt, um englische und russische politische Kommentare zu verfassen. Laut Bericht halfen die Modelle zunächst offenbar beim Überarbeiten von Code für automatisierte Beiträge; veröffentlicht wurden Antworten auf Telegram über mindestens zwölf Konten.

Die kurzen Kommentare richteten sich an Zielgruppen in Russland, der Ukraine, den USA, Moldau und den baltischen Staaten. Sie behandelten vor allem den Ukrainekrieg, die Politik Moldaus und des Baltikums sowie US-Themen. Russische Beiträge warfen den Präsidenten der Ukraine und Moldaus unter anderem Korruption und Nachgeben gegenüber westlicher Einmischung vor. Englische Texte griffen etwa Einwanderung und wirtschaftliche Not auf, um gegen US-Hilfe für die Ukraine zu argumentieren. Teilweise vertraten erfundene Stimmen unter demselben Beitrag gegensätzliche Ansichten; OpenAI vermutet dahinter mögliche Versuche, Zielgruppen anzusprechen oder Spaltung zu fördern.

OpenAI zufolge erzielten die Beiträge kaum Likes oder Antworten und blieben meist eine Minderheit der Antworten. Das Unternehmen bewertet die Aktivität auf seiner sechsstufigen Breakout-Skala als Kategorie 1: eine Plattform, ohne belegte erhebliche Verstärkung von außen.

Ausführlich lesen

OpenAI berichtet, es habe ein zuvor nicht öffentlich beschriebenes Netzwerk von Telegram-Konten gesperrt, das mit Personen aus Russland in Verbindung gebracht werde. Die Organisation nannte die Aktivität „Bad Grammar“: Der Name beziehe sich auf wiederholt fehlerhaftes Englisch, den Schwerpunkt auf Telegram und die Schwierigkeiten des Netzwerks, ein Publikum aufzubauen. Laut OpenAI nutzten die Beteiligten dessen Modelle, um englische und russische Kommentare zu politischen Themen zu verfassen.

Das Netzwerk richtete seine Beiträge an Zielgruppen in Russland, der Ukraine, den USA, Moldau und den baltischen Staaten. OpenAI beschreibt eine mutmaßliche Arbeitsteilung: Die Betreiber hätten zunächst mit den Modellen offenbar für automatisierte Telegram-Beiträge bestimmten Code überarbeitet. Anschließend ließen sie Antworten auf konkrete Telegram-Beiträge erstellen und veröffentlichten diese offenbar über mindestens zwölf Konten. Die Aktivität konzentrierte sich auf wenige Kanäle. In einer Stichprobe aus dem Februar zielten Versuche, Antworten zu generieren, dem Bericht zufolge doppelt so häufig auf drei besonders oft erwähnte Kanäle wie auf die zehn nächsthäufig genannten zusammen.

Die Kommentare waren kurz und behandelten vor allem den Krieg in der Ukraine, die politische Lage in Moldau und den baltischen Staaten sowie US-Politik. Russische Texte warfen den Präsidenten der Ukraine und Moldaus unter anderem Korruption, fehlende Unterstützung in der Bevölkerung und Nachgeben gegenüber westlicher Einmischung vor. Englische Beiträge griffen etwa Einwanderung, wirtschaftliche Not und aktuelle Nachrichten auf, um gegen US-Unterstützung für die Ukraine zu argumentieren. Für englische Kommentare nutzten die Betreiber laut OpenAI erfundene Personen verschiedener demografischer Gruppen und politischer Lager. Die russischen Eingaben seien eher thematisch als an einzelne Rollen gebunden gewesen. Mitunter vertraten mehrere erfundene Stimmen unter demselben Beitrag gegensätzliche Positionen. OpenAI hält es für möglich, dass diese Strategie bestimmte Zielgruppen ansprechen oder gesellschaftliche Spaltung fördern sollte.

Nach dem Anschlag in Moskau am 22. März und der Festnahme von vier tadschikischen Staatsangehörigen habe eine neue Gruppe von Konten Beiträge zu Tadschikistan veröffentlicht. Diese hätten zur Einheit zwischen Tadschiken und Russen sowie zur Achtung russischer Gesetze aufgerufen.

Zur Wirkung urteilt OpenAI, dass Kommentar-Spam bereits vor generativer KI verbreitet gewesen sei und das Netzwerk trotz einer neuen Methode zur Texterstellung nur geringe Resonanz erzielt habe. Nur sehr wenige Kommentare hätten Likes oder Antworten erhalten; sie stellten unter den Antworten auf einzelne Beiträge üblicherweise eine Minderheit dar. Der Bericht erwähnt außerdem erzeugte Texte, die privaten Nachrichten ähnelten, vermutlich im Austausch mit einem Krypto-Betrüger. OpenAI stuft die Operation auf der Breakout-Skala in Kategorie 1 von 6 ein: Die Aktivität sei auf eine Plattform beschränkt gewesen, und es gebe keine Hinweise auf eine erhebliche Verstärkung durch Personen außerhalb des Netzwerks. Diese Darstellung und Bewertung stammen von OpenAI; der Bericht belegt keine weitergehende Wirkung.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Arbeit enthält zwei Zusammenfassungen (kurz und mittel); die Prüfung gilt für beide, da beide treu sind und dieselben Lücken aufweisen. Die Bewertung gilt nur für den Bericht, nicht für Lunas Einordnung der Anteilswerte.

Im Bericht, aber nicht in der Zusammenfassung

  • Ausrichtung auf wenige Telegram-Kanäle wie @Slavyangrad, @police_frequency und @SGTNewsNetwork
  • Cluster auf Tajikistan nach dem Anschlag in Moskau am 22. März
  • Laut Meta stammt SGTNewsNetwork aus dem Iran, obwohl es sich als amerikanischer Veteran ausgibt
  • Private Nachrichten, in denen das Netzwerk mit einem Krypto-Betrüger chattete
  • Begründung des Namens „Bad Grammar“ (fehlerhaftes Englisch, geringe Reichweite)

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 55 %einzelne zitierbare Belege
    • JEV 46 %beantwortet teilweise oder widerspricht
    • amos 31 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 33 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung umfangreiche Belege
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 25 %gleiches Oberthema, hilft nicht
    • amos 29 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %Hintergrund, keine Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 22 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 36 %einzelne zitierbare Belege
    • JEV 56 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 19 %Hintergrund, keine Belege
    • Luna 63 %einzelne zitierbare Belege
    • JEV 61 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 44 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →