Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openaiohne Datum · Q009530

Cyber-Bedrohungsakteure: KI-gestützte Angriffsforschung

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI beschreibt die Sperrung von Konten, die möglicherweise mit DPRK-nahen Bedrohungsakteuren verbunden waren und Modelle für Cyberrecherchen, Programmierung, mögliche RDP-Angriffe sowie Phishing nutzten. Laut Bericht beruhten die Anfragen vorwiegend auf Open-Source-Informationen; OpenAI sperrte die Konten und gab entdeckte Payloads beziehungsweise Staging-URLs an die Sicherheitscommunity weiter, während die Zuordnungen teilweise unsicher bleiben.

Mittel

OpenAI berichtet, im Februar 2025 Konten gesperrt zu haben, deren Aktivitäten möglicherweise mit DPRK-nahen Bedrohungsakteuren verbunden waren. Einige Aktivitäten ähnelten laut Bericht denen von VELVET CHOLLIMA; andere Konten standen möglicherweise mit einem STARDUST-CHOLLIMA-Akteur in Verbindung. Entdeckt wurden sie nach einem Hinweis eines Branchenpartners.

Die Konten nutzten die Modelle vor allem für Recherchen zu Cyberwerkzeugen und -operationen sowie zu Kryptowährungen. Anfragen umfassten Programmierung und Debugging, mögliche RDP-Brute-Force-Werkzeuge, Fernadministrationstools, PowerShell-Skripte, verschleierte Payloads und Phishing. Beim Debuggen von macOS-Autostarttechniken wurden Staging-URLs für Binärdateien sichtbar, die Sicherheitsanbietern offenbar noch unbekannt waren. OpenAI leitete die URLs an einen Online-Scandienst weiter; inzwischen würden mehrere Anbieter die Dateien zuverlässig erkennen.

OpenAI zufolge beruhten die Anfragen überwiegend auf Open-Source-Informationen, und die Antworten hätten keine neuen Fähigkeiten vermittelt oder seien verweigert worden. Der Bericht nennt Kontosperrungen und die Weitergabe von Payloads als Gegenmaßnahmen. Die Akteurszuordnungen sind teilweise unsicher; quantitative Angaben zur Reichweite oder Wirkung fehlen.

Ausführlich lesen

Der Bericht beschreibt, wie OpenAI im Februar 2025 Konten sperrte, deren Aktivitäten möglicherweise mit öffentlich bekannten, der Demokratischen Volksrepublik Korea (DPRK) nahestehenden Bedrohungsakteuren verbunden waren. Ein vertrauenswürdiger Branchenpartner hatte auf die Konten hingewiesen. Einige ihrer Aktivitäten entsprachen laut OpenAI Taktiken, Techniken und Verfahren der Gruppe VELVET CHOLLIMA, auch Kimsuky oder Emerald Sleet genannt. Andere Konten standen möglicherweise mit einem Akteur in Verbindung, den eine glaubwürdige Quelle STARDUST CHOLLIMA, auch APT38 oder Sapphire Sleet, zuordnete. Die Zuordnungen werden somit als mögliche Verbindungen dargestellt, nicht als abschließend bewiesene Identitäten.

Die Konten verwendeten OpenAI-Werkzeuge vor allem, um Informationen zu möglichen Cyberangriffswerkzeugen und Operationen zu suchen. Daneben befassten sie sich mit Kryptowährungen; der Bericht vermutet einen Zusammenhang mit finanziell motivierten Aktivitäten. OpenAI beschreibt die Verbindung von Finanz- und Cyberthemen als typisch für Bedrohungsgruppen mit DPRK-Bezug.

Den Angaben zufolge halfen die Modelle beim Programmieren und Debuggen sowie bei der Untersuchung sicherheitsbezogenen Open-Source-Codes. Dazu zählten öffentlich verfügbare Werkzeuge und Programme, die für Brute-Force-Angriffe auf das Remote Desktop Protocol (RDP) eingesetzt werden könnten, und Fragen zur Nutzung von Open-Source-Fernadministrationstools. Weitere dokumentierte Anfragen betrafen Schwachstellenrecherche, einen C#-RDP-Client, das Umgehen von Sicherheitswarnungen, PowerShell-Skripte für RDP-Verbindungen und Dateiübertragungen, Codeausführung aus dem Arbeitsspeicher, Verschleierung, Payloads sowie Phishing und Social Engineering mit Bezug auf Kryptowährungsinvestoren und -händler. OpenAI ordnet diese Aktivitäten zuvor vorgeschlagenen, LLM-bezogenen Erweiterungen des MITRE-ATT&CK-Frameworks zu.

Beim Debuggen von Orten und Techniken für Auto-Start Extensibility Points (ASEP) unter macOS legte ein Akteur Staging-URLs für Binärdateien offen, die Sicherheitsanbietern zu diesem Zeitpunkt offenbar unbekannt waren. OpenAI übermittelte die URLs an einen Online-Scandienst, damit die Sicherheitscommunity darauf aufmerksam werden konnte. Laut Bericht erkennen inzwischen mehrere Anbieter die Binärdateien zuverlässig.

OpenAI zufolge stützten sich die Anfragen hauptsächlich auf bereits vorhandene Open-Source-Informationen. Die Modellergebnisse hätten keine neuen Fähigkeiten geschaffen oder eine Antwort verweigert. Als Maßnahmen nennt der Bericht die Kontosperrungen und die Weitergabe der Payloads an die Sicherheitscommunity, um die beschriebenen Operationen zu beeinträchtigen. Der Bericht macht keine quantitativen Angaben zum Umfang der Aktivitäten oder zur Wirkung der Sperrungen; auch die genannten Akteursverbindungen bleiben teilweise ausdrücklich unsicher.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist treu, die Kurzfassung lässt aber zentrale Aussagen aus. Die Einordnungen beruhen allein auf dem Berichtstext und sind unabhängig von Lunas Stufen und Anteilen bewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • In der Kurzfassung fehlt, dass die Modellergebnisse laut Bericht keine neuen Fähigkeiten boten oder Antworten verweigert wurden
  • In der Kurzfassung fehlt, dass die Akteure über einen Hinweis eines vertrauenswürdigen Branchenpartners entdeckt wurden
  • In der Kurzfassung fehlen die Gruppennamen VELVET CHOLLIMA und STARDUST CHOLLIMA

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 46 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 42 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 16 %Hintergrund, keine Belege
    • Luna 41 %einzelne zitierbare Belege
    • JEV 67 %einzelne zitierbare Belege
    • amos 38 %einzelne zitierbare Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra 30 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 27 %Hintergrund, keine Belege
    • Luna 46 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 25 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
  3. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 24 %Hintergrund, keine Belege
    • Luna 60 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 38 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 4 · 44 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 30 %Hintergrund, keine Belege
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %einzelne zitierbare Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 42 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 25 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 24 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %einzelne zitierbare Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →