Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset19. März 2025 · Q002959

How to Assess the Likelihood of Malicious Use of Advanced AI Systems

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist nur die Executive Summary eines Issue-Briefs. Er stellt drei Stufen zur Einschätzung der Wahrscheinlichkeit von KI-Missbrauch vor: prüfen, ob ein schädliches Verhalten möglich ist, wie gut das System es ausführt und ob es in der Praxis dafür genutzt wird; die mögliche Schadenshöhe bleibt ausdrücklich außerhalb des Betrachtungsrahmens.

Mittel

Der vorliegende Text ist nur die Executive Summary eines Issue-Briefs; die vollständige Ausarbeitung liegt nicht vor. Er behandelt, wie Forschende die Wahrscheinlichkeit einschätzen können, dass fortgeschrittene KI-Systeme absichtlich für schädliche Zwecke verwendet werden, etwa für Desinformation oder für Anleitungen zur Herstellung eines biologischen Erregers. Die Bewertung der möglichen Schadenshöhe wird ausdrücklich ausgeklammert.

Vorgeschlagen werden drei Prüfstufen: Plausibilität fragt, ob ein System eine schädliche Aufgabe überhaupt ausführen kann; Leistung untersucht, wie gut es sie bewältigt; beobachtete Nutzung erfasst, ob es in der realen Welt dafür eingesetzt wird. Kenntnisse über diese Stufen, die verwendeten Methoden und deren Grenzen sollen politischen Entscheidungsträgern helfen, Missbrauchsbehauptungen und Forschungsberichte einzuordnen sowie die Arbeit von KI-Sicherheitsinstituten zu verstehen. Der Auszug nennt eine zugrunde liegende Facharbeit von 2024, enthält aber keine Einzelheiten zu deren Methoden oder empirischen Ergebnissen.

Ausführlich lesen

Der vorliegende Quelltext enthält nur die Executive Summary eines CSET-Issue-Briefs, einen Hinweis auf die zugrunde liegende Facharbeit und eine Abbildungsreferenz. Eine ausführliche Darstellung des vollständigen Berichts liegt hier nicht vor.

Der Auszug beschreibt die Frage, wie wahrscheinlich es ist, dass fortgeschrittene KI-Systeme absichtlich für bestimmte schädliche Zwecke eingesetzt werden. Als Beispiele nennt er die Erstellung von Inhalten für Desinformationskampagnen und Anleitungen, mit denen Laien einen biologischen Erreger herstellen könnten. Weil sich die Technologie rasch weiterentwickle und die möglichen Gefahren unklar seien, sei die Risikoeinschätzung laut Auszug eine fortlaufende Herausforderung.

Der Bericht behandelt dabei die Wahrscheinlichkeit eines Missbrauchs für eine bestimmte Anwendung und grenzt die Bewertung des möglichen Schadensausmaßes ausdrücklich aus. Zur systematischen Untersuchung schlagen die Autoren drei aufeinanderfolgende Prüfstufen vor: Plausibilität, Leistungsfähigkeit und beobachtete Nutzung. Bei der Plausibilität wird gefragt, ob ein System ein schädliches Verhalten überhaupt ausführen kann. Leistungstests untersuchen, wie gut es die betreffende Aufgabe bewältigt. Informationen zur beobachteten Nutzung sollen zeigen, ob das System in der realen Welt tatsächlich dafür eingesetzt wird.

Der Auszug zufolge können Kenntnisse über diese Stufen, die zugehörigen Methoden und ihre Grenzen politischen Entscheidungsträgern helfen, Behauptungen über KI-Missbrauch kritisch einzuordnen, Schlagzeilen zu Forschungsergebnissen in den richtigen Zusammenhang zu stellen und die Arbeit neu gegründeter KI-Sicherheitsinstitute besser zu verstehen.

Als Grundlage des Issue-Briefs wird eine Arbeit von Josh A. Goldstein und Girish Sastry aus dem Jahr 2024 genannt. Der bereitgestellte Text erläutert jedoch weder die konkreten Untersuchungsmethoden im Einzelnen noch empirische Ergebnisse oder spezifische Grenzen der einzelnen Tests. Er bietet lediglich die knappe Zusammenfassung des dreistufigen Ansatzes; Aussagen über die Wirksamkeit des Ansatzes lassen sich daraus nicht ableiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 25 %Hintergrund, keine Belege
    • Luna 50 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 42 %Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 32 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 26 %Hintergrund, keine Belege
    • Luna 47 %Hintergrund, keine Belege
    • JEV 58 %nur am Rande erwähnt
    • amos 34 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 70 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 34 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 39 %Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 73 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 72 %Hintergrund, keine Belege
    • JEV 59 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 76 %gleiches Oberthema, hilft nicht
  2. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 60 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 44 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 81 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 38 %gleiches Oberthema, hilft nicht
    • JEV 47 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 23 %nur am Rande erwähnt
    • Luna 61 %Hintergrund, keine Belege
    • JEV 57 %nur am Rande erwähnt
    • amos 35 %nur am Rande erwähnt
    • SubQ 43 %nur am Rande erwähnt
    • drex 35 %nur am Rande erwähnt
    • d3-ultra 46 %gleiches Oberthema, hilft nicht
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 81 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 34 %nur am Rande erwähnt
    • d3-ultra 70 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →