Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset29. September 2022 · Q004510

Comment to NIST on the AI Risk Management Framework

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

CSET begrüßt mehrere Änderungen am zweiten NIST-Entwurf zum KI-Risikomanagement, empfiehlt aber zusätzliche Beachtung von Wechselwirkungen zwischen KI-Systemen und von Umweltfolgen wie dem Energieverbrauch. Zentrale Eigenschaften sollten nach CSET klar und einzeln definiert sowie in ihren Wechselwirkungen bewertet werden; ob NIST diese Vorschläge umsetzt, geht aus dem Text nicht hervor.

Mittel

Das Center for Security and Emerging Technology (CSET) kommentiert den zweiten Entwurf des NIST-Rahmens für das Risikomanagement von KI. Die Organisation begrüßt nach eigener Einschätzung mehrere Verbesserungen, darunter klarere Angaben zur Zielgruppe und zu Lebenszyklusphasen, eine erweiterte Risikodefinition, eine deutlichere Rolle der Governance-Funktion sowie ausführlichere Beschreibungen der Beteiligten.

CSET empfiehlt, KI-Systeme selbst als mögliche Akteure aufzunehmen, da ihre Interaktionen Sicherheits- oder Leistungsprobleme und gegenseitige Schäden hervorrufen könnten. Außerdem kritisiert die Stellungnahme, dass Umweltwirkungen bislang nicht ausreichend berücksichtigt würden. Sie nennt den Energiebedarf groß angelegter KI-Entwicklung und schlägt vor, Umweltbelange in die Stakeholder-Zuordnung „People & Planet“ und in den Kern des Rahmenwerks aufzunehmen.

Bei den Definitionen zentraler KI-Eigenschaften begrüßt CSET die Nutzung von ISO-Begriffen, warnt aber vor einer vorzeitigen Bündelung einzelner Begriffe. Diese könne Verwirrung und eine verzerrte Vorstellung möglicher Wechselwirkungen erzeugen. Stattdessen sollten Eigenschaften einzeln bewertet und zugleich in ihrem Zusammenspiel betrachtet werden. Der Text enthält Empfehlungen, aber keine Ergebnisse zur späteren Umsetzung durch NIST.

Ausführlich lesen

Der Bericht enthält die Stellungnahme des Center for Security and Emerging Technology (CSET) an der Georgetown University zum zweiten Entwurf des NIST-Rahmens für das Risikomanagement von KI (AI RMF). CSET beschreibt sich als parteiunabhängige Forschungseinrichtung, die datenbasierte Analysen zu Sicherheit und Technologie für die Politik erstellt. Die Stellungnahme ist in allgemeine Rückmeldungen zum Rahmenwerk, Hinweise zu einzelnen Dokumentseiten und Anmerkungen zum AI RMF Playbook gegliedert; im vorliegenden Text werden vor allem allgemeine Punkte ausgeführt.

CSET begrüßt mehrere Änderungen im zweiten Entwurf, die nach eigener Einschätzung seinen früheren Empfehlungen entsprechen: Der Entwurf erläutere nun besser, an wen sich der Rahmen richtet, verknüpfe Beispiele mit Phasen des KI-Lebenszyklus, definiere Risiko einschließlich möglicher positiver Risiken und benenne Schwierigkeiten bei der Umsetzung. Außerdem sei klarer, ob die Funktionen des Rahmenwerks in einer bestimmten Reihenfolge stehen. Die Funktion „Govern“ stehe nun vor „Map“, „Measure“ und „Manage“ und werde als organisatorische Grundlage für die übrigen Funktionen beschrieben. Auch die Rollen verschiedener Beteiligter, insbesondere bei „Map“, seien ausführlicher dargestellt.

Darüber hinaus regt CSET an, KI-Systeme selbst als mögliche Akteure in der Übersicht der KI-Akteure zu berücksichtigen. Mit zunehmender Verbreitung könnten Systeme miteinander interagieren und dadurch Schäden, Sicherheitsprobleme oder Leistungseinbußen verursachen.

Ein weiterer Kritikpunkt ist, dass der Entwurf nach CSETs Einschätzung die Umweltfolgen von KI-Aktivitäten nicht berücksichtigt. Als Beispiel nennt die Stellungnahme den hohen Energieverbrauch groß angelegter KI-Entwicklung. CSET empfiehlt, Umweltbelange in die Zuordnung der betroffenen Gruppen unter „People & Planet“ aufzunehmen und im Kernteil des Rahmens eine Bewertung der Umweltwirkungen von KI zu erwähnen. Die Fußnote sagt, dass diese Empfehlungen gemeinsam mit Matt Sheehan von der Carnegie Endowment for International Peace und Andrew Critch von der University of California, Berkeley, entwickelt wurden.

Schließlich hält CSET klare und eigenständige Definitionen der zentralen Eigenschaften von KI-Systemen für wichtig. Die Aufnahme von ISO-Definitionen bewertet die Organisation als Verbesserung gegenüber dem früheren Entwurf. Sie warnt jedoch davor, einzelne Begriffe bereits im Voraus zu Paaren zusammenzufassen: Das könne bei technischen Fachleuten und Anwendern Verwirrung stiften und den Eindruck erwecken, bestimmte Spannungen seien besonders oder abschließend. Andere Wechselwirkungen könnten dadurch in den Hintergrund geraten. CSET plädiert dafür, jede Eigenschaft einzeln zu prüfen und zugleich ihre Wechselwirkungen mit den übrigen Eigenschaften zu berücksichtigen.

Der vorliegende Text liefert Empfehlungen und Einschätzungen, aber keine empirischen Ergebnisse oder Angaben dazu, ob NIST die Vorschläge übernommen hat. Er enthält auch keine näheren Ausführungen zu den angekündigten seitenbezogenen Kommentaren oder zum Playbook.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: ok

Lunas Zusammenfassungen geben den Bericht treu wieder, die Einordnung der Fragen überschätzt jedoch durchgehend die Belege: Der Bericht beantwortet keine der sechs Fragen direkt, weshalb die Stufe 4 bei Luna zu hoch angesetzt ist.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 77 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 56 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 36 %nur am Rande erwähnt
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 79 %gleiches Oberthema, hilft nicht

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 56 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht

  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 79 %gleiches Oberthema, hilft nicht

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 32 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 4 · 25 % · einzelne zitierbare Belege
  5. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 34 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 33 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 27 %Hintergrund, keine Belege
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 30 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 80 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 25 %Hintergrund, keine Belege
    • JEV 55 %nur am Rande erwähnt
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 26 %Hintergrund, keine Belege
    • Luna 57 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 32 %Hintergrund, keine Belege
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 27 %Hintergrund, keine Belege
    • Luna 43 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 78 %gleiches Oberthema, hilft nicht

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 40 %Hintergrund, keine Belege
    • JEV 64 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 82 %gleiches Oberthema, hilft nicht
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 36 %nur am Rande erwähnt
    • Luna 61 %einzelne zitierbare Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 49 %einzelne zitierbare Belege
    • drex 41 %nur am Rande erwähnt
    • d3-ultra 47 %einzelne zitierbare Belege
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-A3-T04 Werden Ausrichtungstests vor der Freigabe prüfen, ob ein Modell seine Sicherheitsregeln hält, wenn unabhängig gebaute KIs ihm widersprüchliche oder unsichere Empfehlungen geben, und werden die Ergebnisse getrennt von Einzeltests berichtet? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 79 %gleiches Oberthema, hilft nicht
    • drex 79 %gleiches Oberthema, hilft nicht
    • d3-ultra 79 %gleiches Oberthema, hilft nicht

  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 30 %Hintergrund, keine Belege
    • Luna 40 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 31 %Hintergrund, keine Belege
    • Luna 44 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 41 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 27 %Hintergrund, keine Belege
    • Luna 26 %einzelne zitierbare Belege
    • JEV 49 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 62 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 34 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 36 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 50 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →