Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
paiohne Datum · Q003871

9c61b62 - Partnership on AI

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist ausschließlich die Executive Summary eines Berichts, der erhebliche Genauigkeits-, Verzerrungs- und Transparenzprobleme bei Risikobewertungsinstrumenten der US-Strafjustiz schildert. Der Bericht fordert verständliche Ergebnisse samt Unsicherheitsangaben, Schulungen, unabhängige Prüfungen und laufende Kontrollen; solche Instrumente sollten nicht allein über Haft entscheiden, und offene Fragen erforderten weitere Forschung.

Mittel

Der vorliegende Quelltext ist nur die Executive Summary eines Berichts der Partnership on AI. Darin werden erhebliche Schwächen von Risikobewertungsinstrumenten im US-Strafjustizsystem beschrieben, besonders bei Entscheidungen über Untersuchungshaft; viele Bedenken könnten auch Bewährung und Strafzumessung betreffen. Der Bericht warnt, dass datenbasierte Modelle nicht automatisch neutral seien: Datenauswahl, Umgang mit fehlenden Angaben, Optimierungsziele und Schwellenwerte könnten Fehler und Verzerrungen beeinflussen.

PAI stützt seine Einschätzung auf Gespräche mit Fachleuten, Literaturauswertung und öffentliche Informationen. Die Untersuchung sei eingeschränkt gewesen, weil viele Instrumente ihre Nutzung nicht ausreichend dokumentierten. Gefordert werden daher Transparenz über Daten und Algorithmen, unabhängige Prüfung sowie laufende Evaluation und Audits. Ergebnisse sollten verständlich sein und ihre Unsicherheit ausweisen; Anwender bräuchten passende Schulungen.

Als Leitlinie sollten solche Werkzeuge laut Bericht nicht allein über Inhaftierung oder fortgesetzte Haft entscheiden. Eine Nutzung zur erleichterten vorläufigen Freilassung könne erwogen werden, automatische Inhaftierung ohne zeitnahe individuelle Anhörung hingegen nicht. Weitere Fragen seien offen und verlangten kontinuierliche Forschung und Zusammenarbeit.

Ausführlich lesen

Der vorliegende Quelltext enthält ausschließlich die Executive Summary eines Berichts der Partnership on AI; die folgenden Punkte geben daher den Auszug wieder, nicht den vollständigen Bericht. Der Bericht kritisiert erhebliche Schwächen von Risikobewertungsinstrumenten im US-amerikanischen Strafjustizsystem, besonders bei Entscheidungen über Untersuchungshaft. Viele der angesprochenen Probleme beträfen laut Bericht auch den Einsatz bei Bewährung und Strafzumessung. Trotz dieser Bedenken hätten einige Bundesstaaten und Kommunen bereits Gesetze zur Nutzung solcher Instrumente verabschiedet. PAI benennt zehn Anforderungen, die weitgehend noch nicht erfüllt seien und vor einer weiteren Nutzung berücksichtigt werden sollten.

Der Bericht ordnet die Herausforderungen drei Bereichen zu: der Gültigkeit, Genauigkeit und möglichen Verzerrung der Instrumente; dem Zusammenspiel zwischen Werkzeugen und menschlichen Anwendern; sowie Fragen der Steuerung, Transparenz und Rechenschaftspflicht. Datenbasierte Modelle seien nicht automatisch objektiv oder neutral. Entscheidungen darüber, welche Daten einfließen, wie fehlende Angaben behandelt werden, welche Ziele optimiert werden und wo Schwellenwerte liegen, könnten Genauigkeit und Verzerrungen beeinflussen – und damit die Freiheit der bewerteten Personen. Modelle könnten Schwächen menschlicher Entscheidungen teilen oder verstärken, auch wenn sie Ergebnisse konsistenter und wiederholbarer machen.

Als Grundlage nennt PAI Gespräche mit Fachleuten aus dem eigenen Netzwerk, eine Auswertung der Fachliteratur und öffentlich zugängliche Informationen über eingesetzte Instrumente. Die Analyse sei jedoch teilweise dadurch eingeschränkt gewesen, dass viele Werkzeuge nicht genügend Einzelheiten über ihre tatsächliche Verwendung offenlegten. Der Bericht empfiehlt deshalb mehr Transparenz zu Daten und Algorithmen, damit unabhängige Forschung möglich wird. Er hält fest, dass viele Bedenken grundsätzlich auch für statistische Modelle oder Heuristiken gelten, die mit vorhandenen Daten aus der Strafjustiz entwickelt werden.

Für den praktischen Einsatz verlangt der Auszug verständliche und erklärbare Vorhersagen. Anwender wie Richter, Anwälte und Geschäftsstellenpersonal müssten nachvollziehen können, wie Ergebnisse zustande kommen. Vorhersagen sollten ihre Unsicherheit ausdrücklich ausweisen, etwa durch Fehlerbereiche. Zudem seien Schulungen nötig, die den angemessenen Einsatz und die Interpretation unsicherer Ergebnisse vermitteln. Der Bericht fordert außerdem unabhängige Prüfungen der Trainingsdaten und Instrumente sowie fortlaufende Evaluationen, Überwachung und Audits anhand begründeter politischer Ziele.

Als allgemeine Leitlinie sollten die Instrumente laut Bericht nicht allein darüber entscheiden, ob jemand inhaftiert oder weiter festgehalten wird. Ihr Einsatz zur erleichterten automatischen Freilassung vor dem Prozess könne angesichts der Masseninhaftierung erwogen werden. Eine automatische Inhaftierung ohne zusätzliche, zeitnahe individuelle Anhörung lehnt der Bericht dagegen ab. Abschließend betont der Auszug, dass wichtige Fragen offen und weitere Probleme noch unbekannt sein könnten. Ihre Klärung erfordere fortgesetzte Forschung und Zusammenarbeit zwischen Politik, KI-Forschung und Zivilgesellschaft.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 22 %einzelne zitierbare Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 23 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 58 % · Hintergrund, keine Belege
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 22 %Hintergrund, keine Belege
    • amos 32 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 73 %Hintergrund, keine Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 37 %einzelne zitierbare Belege
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 24 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 28 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 56 %einzelne zitierbare Belege
    • JEV 32 %beantwortet teilweise oder widerspricht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 23 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 70 %einzelne zitierbare Belege
    • JEV 30 %beantwortet teilweise oder widerspricht
    • amos 27 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 65 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 53 %beantwortet teilweise oder widerspricht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 47 %einzelne zitierbare Belege
    • JEV 55 %beantwortet teilweise oder widerspricht
    • amos 22 %Hintergrund, keine Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 24 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 6 · 56 % · beantwortet teilweise oder widerspricht
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →