Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset10. November 2021 · Q005208

Classifying AI Systems

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der vorliegende Quelltext enthält nur die Executive Summary eines Berichts zur Klassifikation von KI-Systemen. In einem Umfrageexperiment mit mehr als 360 Personen schnitten manche von vier untersuchten Rahmen deutlich besser ab; eine Übersicht der Einstufungsdimensionen half, und konkrete Autonomiestufen waren leichter einzuordnen. Die Zusammenfassung betont zugleich, dass verlässliche Einstufungen ausreichende Systeminformationen voraussetzen, die besonders zu technischen Merkmalen oft fehlen.

Mittel

Der vorliegende Quelltext enthält die Executive Summary eines Berichts von Catherine Aiken, nicht den vollständigen Bericht. Er beschreibt den Versuch, einheitliche Rahmen zur Klassifikation von KI-Systemen zu entwickeln, damit deren Merkmale, Risiken und mögliche Verzerrungen besser beurteilt werden können. Die Rahmen legen Dimensionen wie Autonomie oder Auswirkungen sowie jeweils mögliche Einstufungsstufen fest. CSET entwickelte mehrere Rahmen mit dem OECD-KI-Politikobservatorium und dem US-Heimatschutzministerium.

Zur Prüfung von vier Rahmen nahmen laut Zusammenfassung in zwei Umfragerunden mehr als 360 Personen teil und erstellten über 1.800 Klassifikationen. Einige Rahmen führten zu mehr als doppelt so vielen konsistenten und zutreffenden Einstufungen wie der schwächste. Eine Übersicht über Dimensionen und Stufen verbesserte die Klassifikationen. Teilnehmende stuften Auswirkungen und Einsatzkontext besser ein als Autonomie und technische Merkmale. Konkrete Autonomiestufen wie „Handlung“, „Entscheidung“ und „Wahrnehmung“ halfen mehr als die Kategorien „hoch“, „mittel“ und „niedrig“.

Die Ergebnisse waren auch davon abhängig, ob die Systembeschreibung einen konkreten Anwendungsfall nannte. Der Bericht hält fest, dass technische Merkmale mehr Informationen erfordern, als gewöhnlich verfügbar sind. CSET erklärt, dass die Studie nicht von DHS oder einer anderen Regierungsstelle finanziert wurde.

Ausführlich lesen

Der vorliegende Quelltext enthält die Executive Summary eines Berichts von Catherine Aiken, nicht den vollständigen Bericht. Er behandelt, wie einheitliche Klassifikationsrahmen die sichere und wirksame Entwicklung und Nutzung von KI-Systemen unterstützen könnten. Da KI-Systeme für sehr unterschiedliche Aufgaben eingesetzt werden, argumentiert die Autorin, müssten ihre Merkmale systematisch beschrieben werden. Das könne Regierungen, Entwicklern und Nutzern helfen, Risiken und mögliche Verzerrungen zu beobachten und Bestände an KI-Systemen zu verwalten.

Ein Klassifikationsrahmen legt dafür Merkmale fest, die bei einem System beobachtet werden können, und ordnet ihnen vorab definierte Stufen zu. Als Beispiele nennt die Zusammenfassung Autonomie, Auswirkungen und die Art der Datenerhebung. Die Rahmen wurden laut Bericht gemeinsam vom Center for Security and Emerging Technology (CSET), dem KI-Politikobservatorium der OECD und dem US-Heimatschutzministerium (DHS) entwickelt. Das Vorgehen bestand aus zwei Schritten: politisch relevante Merkmale als Dimensionen auszuwählen und für jede Dimension Stufen festzulegen.

Die Nutzbarkeit von vier Rahmen wurde in zwei Runden eines Umfrageexperiments untersucht. Mehr als 360 Personen nahmen teil und erstellten insgesamt über 1.800 Klassifikationen zu KI-Systemen. Die Zusammenfassung berichtet, dass manche Rahmen deutlich besser abschnitten: Die leistungsstärkeren verdoppelten den Anteil konsistenter und zutreffender Einstufungen mehr als gegenüber dem schwächsten Rahmen. Eine kurze Übersicht über die Dimensionen und ihre Stufen verbesserte die Ergebnisse ebenfalls; ohne diese Übersicht gingen konsistente und zutreffende Einstufungen deutlich zurück.

Den Angaben zufolge konnten Teilnehmende die Auswirkungen eines Systems besser einstufen als dessen Autonomie. Auch den Einsatzkontext ordneten sie besser ein als technische Merkmale. Bei der Autonomie waren die Einstufungen konsistenter, wenn die Stufen konkreter als „Handlung“, „Entscheidung“ und „Wahrnehmung“ beschrieben wurden, statt allgemein als „hoch“, „mittel“ und „niedrig“.

Die Ergebnisse hängen laut Zusammenfassung davon ab, welche Informationen über ein System verfügbar sind. Beschreibungen ohne konkreten Anwendungsfall führten zu stärker voneinander abweichenden Einstufungen. Technische Merkmale zu klassifizieren erfordere zudem mehr Informationen, als über KI-Systeme gewöhnlich zugänglich seien. Die Umfrage liefert damit Hinweise zur Nutzbarkeit der untersuchten Rahmen; der Text belegt keine allgemeingültige Genauigkeit für alle Systeme oder Anwendungssituationen. Als Einschränkung erklärt CSET, dass die Forschung weder von DHS noch von einer anderen Regierungsstelle finanziert wurde und die Ansichten der Autorin nicht notwendigerweise die offizielle Politik des DHS wiedergeben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna hat zwei Fassungen geliefert, kurz und mittel. Beide sind sachlich korrekt, die mittlere lässt aber die Ausgangslage der Regierungen aus. Lunas Stufen für SF-E3 (4), SF-E4 (3) und SF-M5 (3) liegen deutlich über der Bewertung, weil der Bericht zu Zuständigkeiten, Marktmacht und Vorfällen nichts Belegbares enthält. Die Liste der Teilfragen ist leer, weshalb dazu keine Einordnung möglich war.

Im Bericht, aber nicht in der Zusammenfassung

  • Ausgangslage: Regierungen setzen KI-Ethikprinzipien, erstellen KI-Inventare und ordnen Risikobewertungen an, weshalb ein standardisierter Klassifikationsansatz nötig ist
  • Zweck der Klassifikation: einheitliche Einstufung für konsequente Entscheidungen, Risiko- und Verzerrungsüberwachung sowie Verwaltung von Inventaren

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 76 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 83 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 35 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 71 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 55 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 79 %gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 30 %gleiches Oberthema, hilft nicht
    • JEV 35 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 50 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 32 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 31 %Hintergrund, keine Belege
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 81 %gleiches Oberthema, hilft nicht
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 64 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 57 %gleiches Oberthema, hilft nicht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 27 %Hintergrund, keine Belege
    • Luna 70 %Hintergrund, keine Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 33 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 32 %Hintergrund, keine Belege
    • d3-ultra 42 %Hintergrund, keine Belege
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 33 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 32 %nur am Rande erwähnt
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 83 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung kein Bezug
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 78 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 81 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →