Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset26. Juli 2023 · Q003907

Adding Structure to AI Harm

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist ein Auszug mit der Zusammenfassung des Berichts, nicht der vollständige Bericht. Er beschreibt den CSET-Rahmen zur einheitlichen Erfassung von KI-Schäden: Dieser unterscheidet greifbare von nicht greifbaren sowie eingetretene von möglichen Schäden und lässt anpassbare Kategorien zu. Der Auszug erläutert die Anwendung auf eine Taxonomie, liefert aber keine empirische Wirksamkeitsprüfung; Schwere und Verbreitung sollen später ergänzt werden.

Mittel

Der bereitgestellte Text ist ein Auszug aus „Adding Structure to AI Harm“: Er enthält eine Zusammenfassung, aber nicht den vollständigen Bericht. Die Autorinnen stellen den CSET AI Harm Framework vor, einen standardisierten und anpassbaren Rahmen, der Vergleiche zwischen Untersuchungen zu KI-Schäden erleichtern soll.

Als KI-Schaden gilt darin ein erlittener oder möglicher Schaden, der direkt mit dem Verhalten eines KI-Systems verbunden ist. Der Rahmen unterscheidet greifbare Schäden, die beobachtbar und überprüfbar sind, von nicht greifbaren, die sich nicht direkt beobachten lassen oder keine materielle Wirkung haben. Greifbare Schäden seien deshalb einfacher zu erkennen und auszuwerten. Genannte Kategorien reichen von Gesundheit, Sicherheit und finanziellen Verlusten bis zu schädlichen Inhalten, ungleicher Behandlung und Verletzungen von Rechten oder demokratischen Normen. Weitere Kategorien können ergänzt werden. Der Rahmen trennt zudem eingetretene Schäden von möglichen Schäden und Risiken.

Für konkrete Daten soll er an Analysefragen und Datenquellen angepasst werden. Als Beispiel nennt der Auszug die CSET AI Harm Taxonomy für AIID. Empirische Wirksamkeitsergebnisse enthält er nicht. Schwere und Verbreitung der Schäden sollen laut Text erst in künftigen Versionen berücksichtigt werden.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält eine Zusammenfassung des Berichts „Adding Structure to AI Harm“ und Angaben zu zwei Abbildungen, aber nicht den vollständigen Bericht. Die Autorinnen stellen darin den CSET AI Harm Framework vor, einen einheitlichen, zugleich anpassbaren Begriffsrahmen zur Untersuchung von Schäden im Zusammenhang mit KI-Systemen.

Der Bericht definiert KI-Schaden als einen Schaden oder die Möglichkeit eines Schadens, den eine betroffene Einheit erfährt und der unmittelbar mit dem Verhalten eines KI-Systems verbunden ist. Schäden werden in greifbare und nicht greifbare Kategorien eingeordnet. Greifbare Schäden seien beobachtbar, überprüfbar und eindeutig feststellbar. Dadurch ließen sie sich laut Bericht leichter erkennen und ihre Daten seien konsistenter und einfacher auszuwerten. Nicht greifbare Schäden seien dagegen nicht direkt beobachtbar oder hätten keine materielle beziehungsweise körperliche Wirkung.

Als mögliche Schadenskategorien nennt der Text unter anderem Beeinträchtigungen der körperlichen Gesundheit oder Sicherheit, finanzielle Verluste, Sachschäden, schädliche Inhalte, Voreingenommenheit und ungleiche Behandlung sowie Verletzungen von Privatsphäre, Menschen- und Bürgerrechten oder demokratischen Normen. Der Rahmen ist offen für zusätzliche Kategorien, weil neue Schadensformen entstehen oder je nach Datenquelle andere Kategorien relevant sein können. Außerdem trennt er zwischen tatsächlich eingetretenen und möglichen Schäden. So sollen sowohl realisierte Folgen als auch Risiken und Schwachstellen untersucht werden können.

Der Ansatz des Berichts ist die Entwicklung und Beschreibung eines konzeptionellen Rahmens: Er ordnet zentrale Elemente und ihre grundlegenden Beziehungen, ohne eine einzige Deutung von KI-Schaden vorzuschreiben. Für die Anwendung auf konkrete Daten sollen Nutzende den Rahmen anpassen. Sie müssen seine Bestandteile so präzisieren, dass sie zu ihren Analysefragen und zu den Grenzen der jeweiligen Datenquelle passen. Als Beispiel führt der Text eine angepasste Fassung für die CSET AI Harm Taxonomy für AIID an. Die dort dokumentierten Änderungen und Definitionen sollen es ermöglichen, die zugrunde liegenden Entscheidungen nachzuvollziehen und die Taxonomie mit anderen Anwendungen des Rahmens zu vergleichen.

Der Auszug berichtet keine empirischen Ergebnisse, mit denen die Wirksamkeit des Rahmens geprüft würde. Er beschreibt vielmehr dessen Aufbau und Einsatzmöglichkeiten. Als Grenze hebt er hervor, dass greifbare Schäden leichter zu identifizieren sind; der Text quantifiziert die Schwierigkeit bei nicht greifbaren Schäden nicht. Auch Schwere und Verbreitung von Schäden sind im beschriebenen Rahmen noch nicht ausgearbeitet. Laut Auszug sollen diese Aspekte in künftige Versionen aufgenommen werden, um gemeinsam den Gesamteinfluss eines Schadens einschätzen zu können.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 79 %Hintergrund, keine Belege
    • JEV 49 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 74 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 70 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 81 %Hintergrund, keine Belege
    • JEV 49 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 63 %Hintergrund, keine Belege
    • JEV 62 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 59 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 76 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 79 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 50 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 79 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →