Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
paiohne Datum · Q003850

97a388a - Partnership on AI

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist ein Auszug aus einem Bericht zu Risikobewertungen in der Strafjustiz. Er erklärt, warum Genauigkeit allein nicht genügt: Modelle müssen für den konkreten Zweck validiert und auf Verzerrungen geprüft werden; zudem stellt der Bericht grundsätzlich infrage, ob Gruppenmuster als Grundlage für Entscheidungen über die Freiheit Einzelner dienen sollten.

Mittel

Der vorliegende Text ist ein Auszug aus einem Bericht über Mindestanforderungen für den verantwortungsvollen Einsatz von Risikobewertungen in der Strafjustiz; die angekündigten Anforderungen selbst werden darin nicht ausgeführt. Er unterscheidet Genauigkeit – die Übereinstimmung von Vorhersagen mit einem festgelegten Maßstab – von Validität, also der Frage, ob ein Modell im konkreten Einsatz tatsächlich die relevante Wirklichkeit und Frage abbildet. Bei seltenen Ereignissen kann ein Modell laut Bericht sehr genau erscheinen, obwohl es keinen einzigen relevanten Fall erkennt. Auch eine Validierung für eine bestimmte Aufgabe, Zeit oder Region lässt sich nicht ohne Weiteres auf andere übertragen.

Der Auszug problematisiert außerdem den ökologischen Fehlschluss: Vorhersagen über Einzelne beruhen auf Mustern aus Gruppen und dem Verhalten anderer. Der Bericht stellt die Frage, ob solche Daten Freiheitsentscheidungen tragen dürfen, und verweist auf rechtliche sowie Gleichbehandlungsbedenken. Bei Verzerrungen unterscheidet er statistische Fehlbewertungen bestimmter Gruppen von gesellschaftlichen Ungleichheiten, die nicht zwingend in Modellkennzahlen sichtbar werden. Als mögliche Ursachen nennt er mangelhafte oder verzerrte Daten, Ersatzmerkmale, ausgelassene Variablen und zusammengesetzte Punktwerte.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus einem Bericht über Mindestanforderungen für den verantwortungsvollen Einsatz von Risikobewertungsinstrumenten in der Strafjustiz. Er erläutert Genauigkeit, Validität und Verzerrungen und thematisiert grundsätzliche Probleme, die entstehen, wenn Gruppenmuster zur Beurteilung einzelner Personen herangezogen werden. Die angekündigten Anforderungen werden im Auszug selbst nicht ausgeführt.

Der Bericht beschreibt Genauigkeit als Anteil richtiger Vorhersagen gemessen an einem festgelegten Maßstab und anhand verfügbarer Daten. Bei seltenen Ereignissen könne ein Modell eine hohe Genauigkeit erreichen, indem es stets den häufigsten Ausgang vorhersagt, ohne tatsächlich relevante Fälle zu erkennen. Zudem seien falsch positive und falsch negative Ergebnisse zu unterscheiden; welche Fehler schwerer wiegen, hänge vom Einsatzkontext ab. Zur Prüfung würden häufig zurückgehaltene Daten verwendet, damit die Bewertung nicht allein auf den zum Entwickeln des Modells verwendeten Daten beruht. Genauigkeit sage jedoch wenig darüber aus, ob Datengrundlage und Maßstab sachgerecht seien.

Validität bezeichnet im Text, ob Vorhersagen die tatsächlichen, für den jeweiligen Einsatz relevanten Wahrscheinlichkeiten widerspiegeln und ob das Modell die passende Frage beantwortet. Mess- und Stichprobenfehler, ungeeignete Ersatzmerkmale oder mangelhafte Kalibrierung könnten die Aussagekraft beeinträchtigen. Eine Prüfung für einen bestimmten Zweck, etwa vor einem Gerichtsverfahren, belege laut Bericht nicht automatisch die Eignung für einen anderen Zweck oder eine andere Region. Auch verschiedene Vorhersageziele und Modellannahmen erforderten eigene Validierungen.

Als grundlegendes Problem behandelt der Bericht den ökologischen Fehlschluss: Zwar fließen individuelle Merkmale in die Bewertung ein, doch die Verknüpfung dieser Merkmale mit einem Ergebnis beruhe auf Mustern aus dem Verhalten anderer Personen. Der Bericht wirft deshalb die rechtliche und philosophische Frage auf, ob Freiheitsentscheidungen auf solchen Gruppendaten beruhen dürfen. Er verweist auf Wisconsin v. Loomis und die dort angeführte Sorge, dass Personen aufgrund demografischer oder sozialer Merkmale hohe Werte erhalten können, auch ohne selbst einschlägige Taten begangen zu haben. Daraus ergäben sich laut Text auch Gleichbehandlungsbedenken.

Schließlich unterscheidet der Auszug statistische Verzerrungen – systematisch zu hohe oder zu niedrige Vorhersagen für bestimmte Gruppen – von gesellschaftlichen Verzerrungen, die sich nicht immer in statistischen Kennzahlen zeigen. Als mögliche Quellen nennt er Datenqualität und Stichprobenauswahl, ausgelassene Variablen und Ersatzmerkmale sowie zusammengesetzte Punktwerte, die unterschiedliche Vorhersagen vermengen. Der Text verweist auf spätere Anforderungen zu Daten- und Modellverzerrungen, beschreibt sie hier aber noch nicht im Einzelnen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 70 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 55 %Hintergrund, keine Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 33 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 65 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 58 % · Hintergrund, keine Belege
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 39 %beantwortet teilweise oder widerspricht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 44 %Hintergrund, keine Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →