Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai1. Oktober 2024 · Q002226

SweetSpecter: China-linked cyber activity

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI schreibt der mutmaßlich China-basierten Gruppe SweetSpecter Phishing-Versuche gegen Mitarbeitende sowie die Nutzung von ChatGPT-Konten für Schwachstellenrecherche, Skripting und Social Engineering zu. Laut Unternehmen wurden die E-Mails blockiert, die Konten unterbrochen und durch den KI-Einsatz keine neuartigen Fähigkeiten erlangt; die Zuschreibung stützt sich auf eine Einschätzung aus glaubwürdiger Quelle.

Mittel

OpenAI berichtet über mutmaßliche Aktivitäten der China-bezogenen Gruppe SweetSpecter und die Sperrung von Konten, die laut Einschätzung einer glaubwürdigen Quelle wahrscheinlich zu ihr gehörten. Im Mai 2024 wurde OpenAI auf gezielte Phishing-Mails an einige Mitarbeitende aufmerksam. Die Nachrichten tarnten sich als Supportanfragen von ChatGPT-Nutzenden und enthielten eine LNK-Datei, die ein gefälschtes DOCX-Dokument anzeigen und im Hintergrund SugarGh0st RAT ausführen sollte. OpenAI zufolge blockierten die Schutzmaßnahmen die E-Mails, bevor sie geschäftliche Postfächer erreichten.

Eine Untersuchung der zugehörigen Infrastruktur führte laut Bericht zur Unterbrechung weiterer ChatGPT-Konten. Deren Anfragen betrafen unter anderem Schwachstellenrecherche, Cybersecurity-Skripte, Angriffe auf Infrastruktur und die Vorbereitung von Phishing-Nachrichten. OpenAI ordnete die Beispiele vorgeschlagenen Kategorien für LLM-bezogene Taktiken im MITRE ATT&CK Framework zu. Das Sicherheitsteam nutzte ChatGPT, um die Kontointeraktionen zu analysieren und zusammenzufassen; Branchenpartner halfen bei der Erkennung der Angriffsversuche. OpenAI zufolge verschaffte der KI-Einsatz den Betreibern offenbar keine neuartigen Fähigkeiten. Die Gruppenzuschreibung bleibt eine Einschätzung; erfolgreiche Kompromittierungen von Mitarbeitendenkonten werden nicht berichtet.

Ausführlich lesen

Der Bericht beschreibt nach Darstellung von OpenAI Aktivitäten einer mutmaßlich China-basierten Cybergruppe namens SweetSpecter. OpenAI gibt an, Konten gesperrt zu haben, die nach Einschätzung einer glaubwürdigen Quelle wahrscheinlich zu diesem Akteur gehörten und dessen offensive Cyberaktivitäten unterstützten. Die Gruppe sei 2023 öffentlich in Erscheinung getreten; zuvor sei über Angriffe auf politische Einrichtungen im Nahen Osten, in Afrika und Asien berichtet worden. Laut OpenAI war dies die erste öffentlich bekannte Ausweitung ihrer Zielauswahl auf ein US-amerikanisches KI-Unternehmen.

Im Mai 2024 erhielt OpenAI nach eigener Aussage von einer glaubwürdigen Quelle den Hinweis, SweetSpecter habe gezielte Phishing-E-Mails an geschäftliche und private Konten einiger Mitarbeitender geschickt. Die Nachrichten gaben vor, von ChatGPT-Nutzenden zu stammen, die um Hilfe baten. Ein Anhang namens „some problems.zip“ enthielt eine LNK-Datei. Bei deren Öffnen sollte ein DOCX-Dokument mit scheinbaren ChatGPT-Fehler- und Servicemeldungen erscheinen, während im Hintergrund die Windows-Schadsoftware SugarGh0st RAT entschlüsselt und ausgeführt würde. OpenAI beschreibt die Malware als Werkzeug, mit dem Angreifer Befehle ausführen, Bildschirmfotos aufnehmen und Daten abziehen könnten. Das Sicherheitsteam kontaktierte mutmaßlich Betroffene. Nach Angaben des Unternehmens verhinderten bestehende Schutzmaßnahmen, dass die E-Mails die geschäftlichen Postfächer erreichten.

Bei der Untersuchung der Infrastruktur fand und unterbrach OpenAI außerdem eine Gruppe von ChatGPT-Konten, die dieselbe Infrastruktur nutzte. Die dortigen Anfragen betrafen unter anderem die Erkundung von Schwachstellen, verwundbare Log4j-Versionen, CVE-Nummern, Internet-Scanner und CMS, mögliche Angriffe auf Server und ein Automobilunternehmen, Skripte für den automatisierten SMS-Versand sowie die Entwicklung und Fehlersuche bei Cyberwerkzeugen. Weitere Anfragen zielten laut Bericht auf Phishing-Vorbereitung: etwa auf passende Themen und Dateinamen für Beschäftigte staatlicher Stellen oder Varianten einer fingierten Stellenanzeige. OpenAI ordnete diese Beispiele Kategorien von LLM-bezogenen Taktiken, Techniken und Vorgehensweisen zu, die Microsoft zur Aufnahme in das MITRE ATT&CK Framework vorgeschlagen hatte.

OpenAI erklärt, sein Sicherheitsteam habe ChatGPT genutzt, um Interaktionen aus den verdächtigen Konten zu analysieren, zu kategorisieren, zu übersetzen und zusammenzufassen. Die Zusammenarbeit mit Branchenpartnern habe dabei geholfen, die Phishing-Versuche zu erkennen. Das Unternehmen bewertet den beobachteten KI-Einsatz jedoch als begrenzt: Die Modelle hätten den Betreibern offenbar keine neuartigen Fähigkeiten oder Erkenntnisse vermittelt, die nicht auch über mehrere öffentlich zugängliche Quellen erhältlich gewesen wären. Der Bericht belegt damit nach eigener Darstellung Versuche und Aktivitäten auf den Konten, aber keinen erfolgreichen Zugriff auf Mitarbeitendenkonten. Die Zuschreibung bleibt ausdrücklich eine Einschätzung, die auf einer glaubwürdigen Quelle beruht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung. Die kurze Fassung ist ebenfalls treu, lässt aber dieselben Punkte aus (Zeitraum 2023, bisherige Ziele, erstmals US-KI-Unternehmen). Die Einordnungen wurden unabhängig von Lunas Stufen und Anteilen vergeben.

Im Bericht, aber nicht in der Zusammenfassung

  • SweetSpecter tauchte laut Bericht erstmals 2023 auf
  • Bisher wurden vor allem politische Stellen in Nahost, Afrika und Asien als Ziele berichtet
  • Erstmals wird ein US-KI-Unternehmen als Ziel genannt
  • Die Phishing-Mails richteten sich auch an private E-Mail-Konten von Mitarbeitenden

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 20 %Hintergrund, keine Belege
    • Luna 59 %einzelne zitierbare Belege
    • JEV 43 %beantwortet teilweise oder widerspricht
    • amos 35 %einzelne zitierbare Belege
    • SubQ 24 %Hintergrund, keine Belege
    • drex 38 %einzelne zitierbare Belege
    • d3-ultra 35 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 24 %Hintergrund, keine Belege
    • Luna 37 %einzelne zitierbare Belege
    • JEV 59 %einzelne zitierbare Belege
    • amos 37 %einzelne zitierbare Belege
    • SubQ 32 %einzelne zitierbare Belege
    • drex 41 %einzelne zitierbare Belege
    • d3-ultra 33 %einzelne zitierbare Belege

  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %Hintergrund, keine Belege
    • amos 32 %Hintergrund, keine Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 46 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 29 %Hintergrund, keine Belege
    • Luna 41 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 4 · 27 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  3. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 27 %Hintergrund, keine Belege
    • Luna 39 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra 48 %Hintergrund, keine Belege

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 32 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 29 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 25 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 40 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 23 %einzelne zitierbare Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 30 %gleiches Oberthema, hilft nicht
    • JEV 44 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
    • clef 22 %Hintergrund, keine Belege
    • Luna 42 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 29 %einzelne zitierbare Belege
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 29 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 22 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →