Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai30. Juli 2021 · Q003862

89c575f

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug berichtet, dass PAI-Fachleute heutige Risikobewertungen im Strafjustizsystem überwiegend nicht für ausreichend halten, um Inhaftierung ohne individuelle Anhörung zu begründen. Der Bericht nennt ungelöste Probleme mit Daten, Genauigkeit, Verzerrungen und Kontrolle und empfiehlt, solche Instrumente auch mit möglichen alternativen Reformen zu vergleichen.

Mittel

Der Auszug aus einem Bericht der Partnership on AI behandelt algorithmische Risikobewertungen für Entscheidungen über Untersuchungshaft in den USA. Solche Systeme verbinden persönliche Merkmale zu einem Risikowert und teilen Betroffene meist in Kategorien ein. Befürworter erwarten effizientere, günstigere und konsistentere Entscheidungen. PAI zufolge bestehen jedoch ungelöste Fragen zu Genauigkeit, Validität und Verzerrungen; auch Einsatzgebiet und Kontrolle der Systeme könnten mangelhaft sein.

Der Bericht beruht laut PAI auf Gesprächen mit Mitgliedsorganisationen und Fachleuten. Eine überwältigende Mehrheit der konsultierten Experten halte die derzeitigen Instrumente nicht für geeignet, eine Inhaftierung ohne individuelle Anhörung zu begründen. Manche zivilgesellschaftlichen Partner verlangten individuelle Verfahren unabhängig von der Modellqualität. Ob bessere Modelle künftig eine solche Entscheidung ohne Anhörung rechtfertigen könnten, sei innerhalb des Netzwerks umstritten.

Als Bewertungsmaßstäbe nennt der Text absolute Fairness, bestmögliche Fairness mit verfügbaren Daten, einen Vergleich mit dem Status quo und einen Vergleich mit anderen Reformen. PAI zufolge ist der letzte Maßstab für Politik und Bewertung grundsätzlich am angemessensten, sofern er anwendbar ist. Der vorliegende Auszug enthält noch keine vollständige Analyse oder konkrete Empfehlungen zu einzelnen Systemen.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus einem Bericht der Partnership on AI (PAI) über algorithmische Risikobewertungen im US-amerikanischen Strafjustizsystem. Er behandelt vor allem Entscheidungen über Untersuchungshaft vor dem Prozess. Der Bericht beschreibt Risikobewertungen als statistische Modelle, die Merkmale einer Person – etwa demografische Angaben, Vorstrafen oder Antworten auf psychologische Fragebögen – zu einem Risikowert verbinden. Dieser Wert wird häufig in Kategorien wie „niedrig“, „mittel“ oder „hoch“ übersetzt. PAI ordnet solche Systeme als einfache Formen von KI ein, wobei dies von der jeweiligen KI-Definition abhängt.

Als Hintergrund nennt der Auszug die zunehmende politische Nutzung solcher Verfahren, darunter gesetzliche Vorgaben in Kalifornien und auf Bundesebene. Befürworter erhoffen sich effizientere und kostengünstigere Abläufe sowie nachvollziehbarere Entscheidungen und weniger unnötige Inhaftierungen. Der Bericht hält diese Erwartungen für möglicherweise zu optimistisch: Es gebe ungelöste Probleme mit Genauigkeit, Aussagekraft und Verzerrungen in Daten und Modellen. Außerdem könnten die Instrumente auf ungeeignete Fragen oder Einsatzbereiche zugeschnitten sein und zu wenig geprüft, auditiert oder kontrolliert werden. Der Auszug zeigt die Abbildungen zu Inhaftierungstrends nicht inhaltlich; aus ihren Überschriften allein lassen sich daher keine konkreten Zahlen oder Schlussfolgerungen ableiten.

PAI erklärt, der Bericht fasse Einschätzungen aus Gesprächen mit Dutzenden Mitgliedsorganisationen und weiteren Fachleuten zu maschinellem Lernen, Fairness, Verzerrungen und US-Strafjustiz zusammen. Er sei nicht als offizielle Position jedes einzelnen Mitglieds zu verstehen, solle aber verbreitete Ansichten aus dem Netzwerk und der KI-Forschung wiedergeben. Die Untersuchung gehe auf die kalifornische Gesetzesinitiative S.B. 10 zurück und sei später auf die landesweite Nutzung solcher Instrumente ausgeweitet worden.

Als zentrale Einschätzung berichtet PAI, eine überwältigende Mehrheit der konsultierten Fachleute halte heutige Risikobewertungen nicht für bereit, Entscheidungen über eine Inhaftierung oder fortgesetzte Inhaftierung ohne individuelle Anhörung zu unterstützen. Viele zivilgesellschaftliche Partner verträten öffentlich eine ähnliche Position; einige hielten individuelle Verfahren unabhängig von der technischen Qualität der Instrumente für erforderlich. Eine Anhörung müsse laut Bericht rechtzeitig stattfinden. Zugleich bestehe keine Einigkeit darüber, ob Risikomodelle künftig so verbessert werden könnten, dass sie eine Inhaftierung ohne individuelle Anhörung rechtfertigen. Für manche seien die Einwände grundsätzlich und verfahrensbezogen, nicht allein technisch.

Der Auszug unterscheidet vier Vergleichsmaßstäbe: absolute Fairness; größtmögliche Fairness angesichts verfügbarer Daten und gewählter Fairnesskriterien; eine Verbesserung gegenüber bestehenden Verfahren und menschlichen Entscheidern; sowie eine Verbesserung gegenüber anderen möglichen Reformen. Die ersten beiden Maßstäbe seien wegen unvereinbarer Fairnessdefinitionen und begrenzter Datenlage häufig mehrdeutig. Ein Vergleich mit dem Status quo könne für bestimmte politische Situationen nützlich sein. PAI berichtet jedoch, dass die Gesprächspartner den Vergleich mit anderen möglichen Reformen als grundsätzlich angemesseneren Maßstab für Politik und Bewertung angesehen hätten und empfiehlt, diesen Maßstab anzulegen, wo dies möglich sei.

Der Auszug liefert damit eine Einordnung, die berichteten Expertenpositionen und einen Bewertungsrahmen. Er enthält noch keine vollständige Analyse der im angekündigten Bericht behandelten technischen, gestalterischen und aufsichtsbezogenen Probleme oder konkrete Empfehlungen zu einzelnen Instrumenten. Aussagen über Konsens und Einschätzungen sind als Darstellung der PAI-Gespräche zu verstehen, nicht als Beweis für allgemeine Übereinstimmung.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 24 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 49 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 53 %Hintergrund, keine Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 44 %gleiches Oberthema, hilft nicht
    • JEV 39 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 29 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 40 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 25 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 50 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 28 %nur am Rande erwähnt
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 32 %beantwortet teilweise oder widerspricht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 46 %beantwortet teilweise oder widerspricht
    • amos 25 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 39 % · einzelne zitierbare Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →