Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai1. Oktober 2025 · Q007375

Scam operations: Online fraud networks

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug berichtet, dass Betrugsnetzwerke ChatGPT laut OpenAI vor allem für Übersetzungen, Betrugsnachrichten und Online-Inhalte nutzten und nach Sperrungen teils ihr Vorgehen anpassten. OpenAI zufolge hilft ChatGPT zugleich häufig Menschen, Betrugsversuche zu erkennen; die genannten Häufigkeiten sind Schätzungen des Unternehmens. Der Text ist ein Auszug aus einem längeren Bericht.

Mittel

Der Auszug aus einem OpenAI-Fallbericht beschreibt den Einsatz von ChatGPT durch Betrugsnetzwerke, die laut Unternehmen wahrscheinlich aus Kambodscha, Myanmar und Nigeria stammten. OpenAI ordnet viele Fälle als bekannte Betrugsmaschen ein, bei denen KI vor allem beim Übersetzen, Schreiben, Erstellen von Online-Inhalten und bei einfachen Recherchen half. Beispiele sind fingierte Investmentfirmen, erfundene Anlageexperten, betrügerische WhatsApp-Gruppen und gezielte Werbeansprache. Ein mutmaßliches Betrugszentrum in Myanmar habe das Modell auch für interne Verwaltungsaufgaben verwendet.

Laut Bericht passten manche Akteure ihr Vorgehen nach Sperrungen an, etwa indem sie KI-Spuren zu verschleiern versuchten oder Ausreden für gesperrte Gruppen erfanden. OpenAI hebt zugleich hervor, dass Menschen ChatGPT millionenfach pro Monat zur Betrugserkennung nutzten. Das Unternehmen schätzt, dass diese Nutzung bis zu dreimal häufiger sei als der Einsatz für Betrug; in den beschriebenen Fällen habe das Modell Betrugsversuche erkannt und Schutzmaßnahmen empfohlen. Die Herkunftsangaben und Nutzungsschätzungen stammen von OpenAI; eine genaue Messmethode wird im Auszug nicht erläutert. Es ist ein Auszug, der mit einer Abbildungsreferenz endet und nicht den vollständigen Bericht enthält.

Ausführlich lesen

Der bereitgestellte Auszug aus OpenAIs Fallbericht beschreibt den Missbrauch von ChatGPT durch Online-Betrugsnetzwerke und dessen Nutzung zur Erkennung von Betrug. OpenAI gibt an, im Zeitraum von drei Monaten Konten und Netzwerke gesperrt zu haben, die mutmaßlich aus Kambodscha, Myanmar und Nigeria stammten. Die Herkunft wird als wahrscheinlich beziehungsweise in einzelnen Fällen als sehr wahrscheinlich bezeichnet, nicht als gesichert. Der Bericht ordnet die beobachteten Betrugsversuche häufig in drei Schritte: eine unaufgeforderte Kontaktaufnahme, das Erzeugen von Hoffnung auf Gewinn oder Angst vor Verlust und schließlich den Versuch, Geld oder sensible Informationen zu erhalten.

Nach Darstellung OpenAIs bauten die meisten beobachteten Operationen auf bekannten Betrugsmaschen auf und setzten KI vor allem ein, um sie effizienter und umfangreicher umzusetzen. Genannte Aufgaben sind das Verfassen und Übersetzen von Nachrichten, das Erstellen von Website- und Social-Media-Inhalten sowie einfache Recherchen. In Beispielen gaben sich Betrüger als Investmentfirmen oder Anlageexperten aus, warben mit angeblich risikofreien Gewinnen und lockten Menschen auf fingierte Handelsplattformen. Ein mutmaßlich in Myanmar angesiedeltes Betrugszentrum habe ChatGPT laut Bericht außerdem für interne Verwaltungsaufgaben genutzt, etwa Dienstpläne, Mitteilungen und Finanzkonten.

Der Auszug schildert auch aufwendigere Vorgehensweisen. Ein mutmaßlich kambodschanisches Netzwerk ließ demnach fiktive Expertenbiografien und Nachrichten in erfundenen Rollen erstellen und bat das Modell, Unterhaltungen mit potenziellen Opfern fortzuführen. In einem weiteren Fall seien massenhaft SMS an US-Nummern verschickt worden, um Empfänger in WhatsApp-Gruppen zu bringen. Dort hätten mehrere vom Netzwerk kontrollierte Konten eine lebhafte Anlegergemeinschaft vorgetäuscht; die ins Chinesische übersetzten Nachrichten seien laut Bericht als geschlossener Block erstellt worden. Ein mutmaßlich nigerianischer Akteur habe außerdem schrittweise Hinweise dazu erfragt, wie sich wohlhabende Menschen in Lateinamerika über Anzeigen erreichen, der Standort verschleiern und Plattformbeschränkungen umgehen ließen.

OpenAI berichtet, dass Betrüger nach Sperrungen ihre Aktivitäten teils angepasst wieder aufzunehmen versuchten. Als Beispiele nennt der Text die Aufforderung, Gedankenstriche aus Ausgaben zu entfernen, sowie eine erfundene Erklärung, WhatsApp-Gruppen seien angeblich von einem Konkurrenten falsch gemeldet worden. OpenAI sagt, der Austausch von Erkenntnissen mit anderen Unternehmen, darunter Meta, habe weitere Untersuchungen und Maßnahmen unterstützt.

Zugleich stellt OpenAI die schützende Nutzung des Modells heraus: Menschen hätten ChatGPT nach den eigenen Schätzungen des Unternehmens millionenfach pro Monat zur Prüfung möglicher Betrugsversuche verwendet. In allen im Bericht beschriebenen Fällen habe das Modell die Masche laut OpenAI richtig erkannt und passende Schutzmaßnahmen empfohlen. OpenAI schätzt, dass ChatGPT bis zu dreimal häufiger zur Betrugserkennung als für Betrugsversuche genutzt werde. Diese Angaben sind Schätzungen und Beobachtungen des Unternehmens; der Auszug erläutert weder die genaue Messmethode noch unabhängige Prüfungen. Es handelt sich um einen Auszug: Er enthält keine vollständige Darstellung des ursprünglichen Berichts und endet nach einer nachgetragenen Abbildungsreferenz.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 69 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 24 %einzelne zitierbare Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 43 %gleiches Oberthema, hilft nicht

  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 41 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 23 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 61 %einzelne zitierbare Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 30 %nur am Rande erwähnt
    • drex 33 %einzelne zitierbare Belege
    • d3-ultra 38 %nur am Rande erwähnt

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →