Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai1. Februar 2025 · Q007374

Romance-baiting scam: AI-assisted pig butchering workflows

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI zufolge nutzte eine mutmaßlich aus Kambodscha operierende Gruppe ChatGPT zum Übersetzen und Verfassen von Nachrichten für Liebes- und Anlagebetrug; die Konten wurden gesperrt. Der Bericht skizziert einen Ablauf von öffentlicher Kontaktaufnahme über romantische Chats bis zu fingierten Investitionsangeboten, kann aber weder tatsächliche Überweisungen noch die Zahl der Geschädigten bestätigen.

Mittel

OpenAI berichtet, eine Gruppe von ChatGPT-Konten gesperrt zu haben, die KI für mutmaßliche Liebes- und Anlagebetrügereien nutzte. Die Aktivitäten schienen aus Kambodscha zu stammen; die Betreiber übersetzten und verfassten kurze Nachrichten auf Chinesisch, Japanisch und Englisch. Laut OpenAI kommentierten sie öffentliche Beiträge, häufig ältere Golf-Posts von Männern über 40 oder aus medizinischen Berufen. Anschließend folgten vermutlich private Chats, der Wechsel zu einem anderen Messenger und zunehmend romantische Nachrichten. Danach priesen die Betrüger angebliche Gewinne aus Online-Anlagen an und drängten ihre Gesprächspartner zu Überweisungen in Handels-Apps; Auszahlungen seien mit Vorwänden wie Gebühren verhindert worden.

Die Betreiber nutzten dem Bericht zufolge teils kopierte Profilbilder und erfundene Biografien für weibliche Rollen. OpenAI beschreibt den Ablauf als typisches, aus seinem begrenzten Einblick abgeleitetes Muster. Viele Kontaktversuche scheiterten: Manche Betroffene erkannten den Betrug, andere Beiträge blieben unbeachtet. Zwar verwiesen einzelne Chats auf mögliche Transaktionen von mehreren tausend Dollar, doch OpenAI konnte nicht feststellen, ob Geld tatsächlich überwiesen wurde oder wie viele Personen geschädigt wurden. Das Unternehmen erklärt, Informationen an Branchenpartner und Behörden weitergegeben zu haben.

Ausführlich lesen

Der Bericht beschreibt eine von OpenAI untersuchte Gruppe von ChatGPT-Konten, die KI zum Übersetzen und Verfassen kurzer Nachrichten für mutmaßliche Liebes- und Anlagebetrügereien nutzte, auch „Pig Butchering“ genannt. OpenAI gibt an, die Konten gesperrt zu haben. Die Aktivitäten schienen aus Kambodscha zu stammen; die Betreiber hätten überwiegend Chinesisch verwendet und Inhalte auf Japanisch, Chinesisch und Englisch erstellt. OpenAI ordnet das Vorgehen ähnlichen, zuvor von Meta beschriebenen Aktivitäten zu. Diese Herkunfts- und Zuordnungsangaben werden im Bericht als Einschätzungen dargestellt.

Laut Untersuchung erzeugten die Betreiber einerseits öffentliche Kommentare auf Facebook, X und Instagram. Sie antworteten oft auf ältere Beiträge, besonders auf Posts von Männern, deren öffentliche Profile auf ein Alter über 40 oder eine Tätigkeit im medizinischen Bereich hindeuteten. Golf war ein häufiges Thema; gelegentlich ging es um Politik oder aktuelle Ereignisse. Viele der dafür verwendeten Konten zeigten Bilder junger Frauen. OpenAI schätzt, dass manche Fotos von echten Models oder Influencerinnen kopiert und nicht KI-generiert waren. Die abgebildeten Beispiele im Bericht zeigen Kommentare zu älteren Beiträgen und ein Profilbild, das laut OpenAI einer US-amerikanischen Mode- und Beauty-Influencerin entnommen war.

Häufiger hätten die Betreiber kurze Gesprächsbeiträge übersetzen lassen, meist zwischen Chinesisch und Japanisch oder Englisch. Das sei mit der Übersetzung laufender Chats vereinbar. Teilweise hätten sie einen bestimmten Ton verlangt, etwa den einer flirtenden jungen Frau, und erfundene biografische Angaben zu Namen, Ausbildung, Beruf, Wohnort und Hobbys geliefert. Die dargestellten Rollen enthielten oft einen Bezug zu Online-Investitionen. Die Untersuchung fand außerdem Hinweise auf den Einsatz zahlreicher Kommunikations- und Finanzdienste, darunter LINE, WhatsApp, soziale Netzwerke sowie Krypto- und Devisenplattformen.

Aus dem Einblick in die Aktivitäten leitet OpenAI einen typischen, aber nicht in jedem Einzelfall bestätigten Ablauf ab: zunächst öffentliche Kontaktaufnahme, häufig mit einer Frage; anschließend vermutlich private Nachrichten; bald darauf der Vorschlag, zu einem anderen Messenger zu wechseln. Darauf folgten zunehmend vertrauliche und romantische Nachrichten. Bei Bitten um Fotos hätten die Betrüger Ausreden gemacht. Danach hätten sie Gewinne aus Devisen-, Krypto- oder Goldanlagen behauptet, oft angeblich auf Rat eines Verwandten aus der Finanzbranche, und dem Gegenüber Hilfe beim Investieren angeboten. Schließlich hätten sie Opfer zu Überweisungen in eine Handels-App gedrängt. Auszahlungsversuche seien dem beschriebenen Muster zufolge mit Ausreden, etwa angeblichen Gebühren, beantwortet worden. OpenAI bewertet diesen Ablauf als übereinstimmend mit öffentlichen Berichten über solche Betrugsmaschen.

Zum Ergebnis erklärt OpenAI, die Aktivitäten seien oft erfolglos geblieben: Manche angeschriebenen Personen hätten den Betrug erkannt oder den Kontakt abgelehnt; manche Beiträge erhielten keine Reaktionen. Zugleich enthielten einzelne Unterhaltungen Hinweise auf Transaktionen in Höhe von mehreren tausend Dollar. OpenAI betont jedoch, nicht feststellen zu können, ob diese Überweisungen tatsächlich stattfanden. Der Bericht belegt daher weder die Zahl der Geschädigten noch die tatsächlich erlangten Summen. OpenAI erklärt, Betrugsnutzung seiner Dienste zu verbieten, Informationen über die gestörten Netzwerke mit Branchenpartnern und zuständigen Behörden geteilt zu haben und gegen solche Aktivitäten vorzugehen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Beide Zusammenfassungen geben den Bericht sachlich wieder und erfinden keine Angaben. Fehlend sind vor allem die Hauptnutzung zum Übersetzen laufender Chats und die Verweise auf Meta und auf die Richtlinien. Die Einordnung stützt sich nur auf den vorliegenden Fallbericht, der die Sammelfragen und Teilfragen meist nur am Rande berührt.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Betreiber nutzten ChatGPT vor allem zum Übersetzen laufender Chats zwischen Chinesisch und der Zielsprache, nicht zum eigenständigen Verfassen.
  • Der Bericht nennt Plattformen wie LINE, WhatsApp, Facebook, Instagram und X sowie Apples Funktion „Hide my email“.
  • Meta hatte zeitgleich verwandte Aktivitäten aus einem neu entstandenen Betrugszentrum in Kambodscha gemeldet.
  • OpenAI betont, dass seine Richtlinien Betrug mit Modellausgaben strikt verbieten.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 47 %einzelne zitierbare Belege
    • JEV 42 %beantwortet teilweise oder widerspricht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 23 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 70 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 33 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 61 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 41 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 44 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 24 %einzelne zitierbare Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 37 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →