Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai1. Juni 2025 · Q007416

Operation “ScopeCreep”: Russian-speaking malware development

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI zufolge nutzte ein mutmaßlich russischsprachiger Akteur ChatGPT zur schrittweisen Entwicklung von Windows-Schadsoftware, die über ein gefälschtes Gaming-Werkzeug verbreitet werden sollte. OpenAI berichtet, die Aktivität erkannt, das Repository mit dem Hosting-Anbieter entfernen lassen und die beteiligten Konten gesperrt zu haben; Belege für eine breite Verbreitung habe es nicht gesehen.

Mittel

OpenAI berichtet von einem mutmaßlich russischsprachigen Akteur, der ChatGPT zur schrittweisen Entwicklung und Fehlerbehebung von Windows-Schadsoftware eingesetzt habe. Die Konten seien mit temporären E-Mail-Adressen angelegt und jeweils nur für ein Gespräch zu einer einzelnen Codeverbesserung genutzt worden. Verbreitet worden sei die Malware über ein öffentliches Repository, das ein beliebtes Gaming-Fadenkreuz-Werkzeug nachahmte. Nach dem Start habe ein Loader weitere Schadsoftware geladen, die unter anderem Rechteausweitung, verdeckte Persistenz, Datendiebstahl und Fernzugriff ermöglichen sollte.

Als Beispiele für Modellhilfe nennt der Bericht Code-Debugging in Go, Änderungen an Windows-Defender-Einstellungen, den Aufbau eines C2-Servers und Telegram-Benachrichtigungen. OpenAI erklärt, die Aktivität erkannt, mit dem Hosting-Anbieter das Repository entfernt und die zugehörigen Konten gesperrt zu haben. Das Unternehmen schätzt, die Modellnutzung sollte die Entwicklung beschleunigen, habe aber auch zur frühen Entdeckung beigetragen.

Laut Bericht waren die Fähigkeiten nicht besonders neuartig. Malware-Samples seien auf VirusTotal aufgetaucht, doch OpenAI habe keine Hinweise auf breite Verbreitung gesehen. Opferzahlen oder Schadenshöhe werden nicht genannt.

Ausführlich lesen

Der Bericht stellt „ScopeCreep“ als eine mutmaßlich russischsprachige Cyberbedrohungsaktivität dar. OpenAI berichtet, ein Cluster von ChatGPT-Konten gesperrt zu haben, dessen Betreiber die Modelle bei der Entwicklung und schrittweisen Verbesserung von Windows-Schadsoftware sowie beim Debuggen von Code in mehreren Programmiersprachen eingesetzt hätten. Die Bezeichnung ScopeCreep leitet OpenAI aus dem Einsatz eines manipulierten Gaming-Werkzeugs für ein Fadenkreuz und den verdeckten Vorgehensweisen ab. Der Bericht schreibt dem Akteur Kenntnisse über Windows-Interna und bestimmte Maßnahmen zur Verschleierung seiner Aktivitäten zu.

Laut OpenAI nutzte der Akteur temporäre E-Mail-Adressen und beschränkte jedes Konto auf ein einzelnes Gespräch, das jeweils einer schrittweisen Codeänderung diente. Anschließend habe er das Konto aufgegeben und ein neues angelegt. Zur Verbreitung soll ein öffentliches Code-Repository gedient haben, das ein beliebtes Fadenkreuz-Overlay für Spiele nachahmte. Wer die schädliche Version herunterlud und ausführte, startete demnach einen Loader, der weitere Dateien von einer Infrastruktur des Angreifers bezog und ausführte. Die Schadsoftware sei auf mehrere Schritte ausgelegt gewesen: Rechteausweitung, verdeckte Persistenz, Benachrichtigung des Angreifers und Abfluss sensibler Daten, wobei sie Erkennung zu umgehen versuchte.

Der Bericht führt als technische Merkmale unter anderem Signaturerkennung umgehende C2-Nutzlasten, DLL-Sideloading, mit Themida angepasste Verschleierung, Rechteausweitung, HTTPS-Verkehr über Port 80, den Diebstahl von Zugangsdaten und Sitzungsdaten, Telegram-Benachrichtigungen sowie die Verschleierung des Datenverkehrs über Proxys an. Als konkrete Modellunterstützung nennt OpenAI das Debuggen einer HTTPS-Anfrage in Go, Hilfe bei PowerShell-Befehlen aus Go zur Änderung von Windows-Defender-Einstellungen und zum Einrichten von AV-Ausnahmen sowie Unterstützung bei einem Flask-basierten C2-Server und einer Telegram-Benachrichtigung nach einer Infektion. Diese Beispiele ordnet der Bericht Kategorien des LLM-ATT&CK-Rahmens zu, etwa LLM-gestützte Entwicklung, Umgehung von Erkennung und Aktivitäten nach einer Kompromittierung.

OpenAI erklärt, die Aktivität trotz Verschleierungsversuchen durch seine skalierte Erkennung von Cybermissbrauch entdeckt zu haben. Das Unternehmen habe mit dem Hosting-Anbieter zusammengearbeitet, um das schädliche Repository entfernen zu lassen, und die zugehörigen ChatGPT-Konten gesperrt. Zur Wirkung heißt es vorsichtig, die Gefahr könne durch die schnelle Meldung und Zusammenarbeit eingedämmt worden sein. OpenAI schätzt, dass die Modellnutzung die Malware-Entwicklung beschleunigen sollte, zugleich aber die Erkennung und Störung der Operation in einer offenbar frühen Phase ermöglichte.

Die Grenzen der Einschätzung sind ausdrücklich: Die Fähigkeiten der Schadsoftware seien zwar einschließlich Rechteausweitung, Persistenz, Zugangsdaten-Abgriff und Fernzugriff vorhanden, aber nicht besonders neuartig. Der Bericht sagt, die Malware sei wahrscheinlich tatsächlich eingesetzt worden und einige Samples seien auf VirusTotal erschienen; Belege für großes Interesse oder eine breite Verbreitung habe OpenAI jedoch nicht gesehen. Er quantifiziert weder Zahl der Opfer noch entstandenen Schaden.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas mittlere Zusammenfassung ist im Wesentlichen treu und ausführlicher als die kurze, die nur die Kernaussagen wiedergibt. Die Stufen der Einordnung wurden unabhängig von Lunas Werten vergeben. Die Anteilswerte in Lunas Einordnung sind im Bericht nicht prüfbar und wurden nicht bewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Verschleierung per Themida-Packing und das DLL-Side-Loading werden nicht genannt.
  • Die Erkennung erfolgte über OpenAIs skaliertes Verfahren zur Erkennung von Cyber-Missbrauch; das bleibt unerwähnt.
  • Die Liste der Malware-Fähigkeiten (Credential- und Session-Diebstahl, Proxy-Verschleierung, Telegram-Benachrichtigung) ist nur teilweise übernommen.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 44 %beantwortet teilweise oder widerspricht
    • amos 32 %einzelne zitierbare Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 31 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 4 · 47 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 20 %Hintergrund, keine Belege
    • Luna 48 %einzelne zitierbare Belege
    • JEV 60 %einzelne zitierbare Belege
    • amos 36 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 29 %einzelne zitierbare Belege
    • d3-ultra 33 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege
  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 50 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 24 %gleiches Oberthema, hilft nicht
    • drex 29 %einzelne zitierbare Belege
    • d3-ultra 37 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 31 %Hintergrund, keine Belege
    • JEV 44 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 38 %Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 28 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 44 %einzelne zitierbare Belege
    • JEV 24 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 62 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 44 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %einzelne zitierbare Belege
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →