Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai2. August 2021 · Q003828

5087157

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Berichtsauszug fordert verständliche, nicht irreführende Darstellungen von Risikovorhersagen und Erklärungen dazu, wie Merkmale die Ergebnisse beeinflussen. An Beispielen zu PTRA und CPAT zeigt er, dass Risikostufen nicht unbedingt den intuitiv angenommenen Wahrscheinlichkeitsbereichen entsprechen, und schlägt weitere Usability-Forschung vor.

Mittel

Der vorliegende Berichtsauszug behandelt die Forderung, dass Vorhersagen von Risikobewertungsinstrumenten und ihre Entstehung für menschliche Nutzer verständlich sein müssen. Die Verfasser sehen Fairness auch davon abhängig, ob Richter, Gerichtsmitarbeitende, Anwälte und Beschuldigte die Anzeigen richtig verstehen. Interpretierbarkeit könne den Zusammenhang zwischen Eingabemerkmalen und Vorhersagen erklären, ohne zwingend ein einfacheres und womöglich weniger genaues Modell zu erfordern. Bei komplexen Modellen seien nachträgliche Näherungserklärungen möglich.

Der Auszug warnt, dass Risikostufen oft anders funktionieren, als ihre intuitive Darstellung nahelegt: Nutzer könnten gleich große, absolute Wahrscheinlichkeitsbereiche annehmen. In der angeführten PTRA-Studie erschienen oder wurden vor dem Termin erneut festgenommen nur 35 Prozent der Personen in der höchsten Risikokategorie. Für Colorados CPAT nennt der Text unterschiedlich breite Kategorien und für die höchste Stufe eine Public Safety Rate von 58 Prozent sowie eine Court Appearance Rate von 51 Prozent. Er empfiehlt weitere Datenerhebung und Usability-Forschung, etwa dazu, wie Unsicherheitsbereiche richterliche Entscheidungen beeinflussen. Ergebnisse solcher vorgeschlagenen Studien enthält der vorliegende Auszug nicht.

Ausführlich lesen

Der bereitgestellte Bericht ist ein Auszug zu „Requirement 4“: Vorhersagen von Risikobewertungsinstrumenten und ihre Entstehung sollen für Menschen leicht verständlich sein. Er behandelt, wie solche Bewertungen insbesondere Richterinnen und Richtern, Gerichtsmitarbeitenden, Anwälten und Beschuldigten vermittelt werden. Die Verfasser argumentieren, dass Fairness nicht nur davon abhängt, ob ein Modell verzerrte Ergebnisse erzeugt, sondern auch davon, wie seine Werte dargestellt und von Menschen verstanden werden. Oberflächen sollen klar sein und keine irreführenden Eindrücke erzeugen. Als Hinweis auf mögliche Verständnisschwierigkeiten führt der Auszug eine Studie an, in der Nutzer auffällige Abweichungen auf einer Bestätigungsseite in mehr als der Hälfte der Fälle übersahen – sogar nach einer Überarbeitung der Anzeige.

Interpretierbarkeit wird als verständliche Darstellung des Zusammenhangs zwischen Eingabemerkmalen und Vorhersagen beschrieben. Der Auszug behauptet nicht, dass dafür stets ein einfacheres, möglicherweise weniger genaues Modell eingesetzt werden müsse. Bei komplexeren Modellen könne man stattdessen nachträgliche Näherungsverfahren zur Erklärung nutzen; als mögliche Modellklassen nennt der Text Gradient-Boosted Decision Trees und Random Forests. Erklärungen könnten zeigen, wie einzelne Merkmale eine Vorhersage beeinflussen und wie empfindlich das Modell auf bestimmte Merkmale reagiert. Das soll Entscheidungsträgern helfen, Modelle einheitlich zu verstehen und zu vermeiden, dass individuelle Fehlinterpretationen zu uneinheitlicher Anwendung von Recht führen. Ob eine Erklärung nützlich ist, hänge laut Auszug auch davon ab, wie Menschen das Instrument im konkreten Einsatz tatsächlich verwenden.

Ein weiterer Schwerpunkt ist die Bedeutung von Risikokategorien. Nutzer könnten annehmen, dass aufeinanderfolgende Stufen gleich große Risikobereiche darstellen, absolute Wahrscheinlichkeiten ausdrücken und das gesamte Risikospektrum abdecken. Der Auszug warnt, dass diese intuitive Lesart bei vielen Instrumenten nicht zutrifft. Als Beispiel berichtet er über eine Untersuchung des Pretrial Risk Assessment Tool: Von den Personen in der höchsten Kategorie erschienen nur 35 Prozent nicht zum Gerichtstermin oder wurden vor dem Termin erneut festgenommen. Die berichteten Wahrscheinlichkeiten für Nichterscheinen und erneute Festnahme lagen über alle Stufen hinweg innerhalb des Bereichs, den man intuitiv der niedrigsten Stufe zuordnen könnte.

Für Colorados Pretrial Assessment Tool nennt der Auszug ungleich breite Punktebereiche: Die niedrigste Kategorie umfasst Werte von 0 bis 17, die höchste von 51 bis 82. Für die höchste Kategorie werden eine Public Safety Rate von 58 Prozent und eine Court Appearance Rate von 51 Prozent angegeben. Der Text empfiehlt, Nutzungsdaten und weitere Forschung zu Oberflächen, Informationsdarstellung und psychologischen Reaktionen auf Unsicherheit heranzuziehen. Usability-Studien könnten etwa untersuchen, wie Unsicherheitsbereiche in Vorhersagen die Bereitschaft von Richterinnen und Richtern beeinflussen, ihnen zu folgen oder sie zu übergehen. Da nur dieser Auszug vorliegt, enthält er keine vollständige Darstellung des Gesamtberichts und keine berichteten Ergebnisse solcher vorgeschlagenen Studien.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 81 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 35 %gleiches Oberthema, hilft nicht
    • JEV 23 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 22 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 45 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 53 %einzelne zitierbare Belege
    • JEV 50 %beantwortet teilweise oder widerspricht
    • amos 24 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 24 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →