abd4c48
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der Auszug argumentiert, dass Festnahmen, Verurteilungen und versäumte Gerichtstermine verzerrte oder mehrdeutige Messgrößen für das tatsächliche Kriminalitäts- und Sicherheitsrisiko sein können. Er fordert unabhängige Vergleichsdaten, überprüfbare Korrekturverfahren, klare Definitionen und eine möglichst lokale Datenerhebung, stellt aber kein nachweislich funktionierendes Verfahren vor.
Mittel
Der bereitgestellte Text ist ein Auszug zu einer Anforderung an Datensätze für Risikobewertungen: Sie müssen tatsächlich das messen, was ein Instrument vorhersagen soll. Der Auszug behauptet, dass Strafjustizdaten durch Mess- und Auswahlverzerrungen oft nur eingeschränkt geeignet seien. Festnahmen und Verurteilungen seien unvollkommene Ersatzgrößen für tatsächlich begangene Straftaten und spiegelten auch unterschiedliche staatliche Reaktionen wider. Für die Einschätzung einer Gefahr vor dem Prozess müsse das Ziel zudem klar definiert sein; der Begriff „Rückfall“ sei wegen unterschiedlich langer Zeiträume bis zum Prozess schwer vergleichbar.
Als mögliche Abhilfe nennt der Text eine Korrektur und Neugewichtung von Daten anhand unabhängiger Quellen, etwa Opferbefragungen oder Selbstauskünften. Er betont jedoch, dass diese statistische Arbeit fehleranfällig sei und anerkannte Verfahren fehlten, mit denen sich ihre Gültigkeit prüfen ließe. Auch versäumte Gerichtstermine müssten nach ihren Ursachen unterschieden werden: Ein Notfall oder fehlende Verkehrsmittel belegten nicht zwangsläufig Fluchtabsicht oder eine Gefahr für die Öffentlichkeit. Dafür brauche es konsistente Definitionen und möglichst lokal erhobene Daten. Der Auszug formuliert Anforderungen und führt Beispiele an; er belegt nicht, dass ein konkretes Korrekturverfahren erfolgreich ist.
Ausführlich lesen
Der bereitgestellte Text ist ein Auszug zu „Anforderung 1: Trainingsdatensätze müssen die vorgesehenen Variablen messen“, kein vollständiger Bericht. Er behandelt Probleme bei der Verwendung statistischer Risikobewertungen im US-Strafjustizsystem, besonders bei Einschätzungen von Rückfall- und Sicherheitsrisiken vor einem Prozess.
Der Auszug behauptet, dass verfügbare Strafjustizdaten meist nicht zuverlässig das messen, wofür sie verwendet werden sollen. Messfehler und Verzerrungen bei der Stichprobenauswahl schränkten ihre Aussagekraft ein. Für gültige Instrumente wären demnach Verfahren nötig, die Trainingsdaten anhand unabhängiger Quellen korrigieren und gewichten, sowie allgemein anerkannte Methoden, um zu prüfen, ob diese Korrekturen tatsächlich zutreffende Ergebnisse liefern. Nach Darstellung des Textes seien solche Verfahren den Verfassenden nicht bekannt; einige Fachleute der Partnership on AI bezweifelten zudem, dass die benötigten Daten praktisch erhoben werden könnten.
Ein Grundproblem sei, dass sich meist nicht zuverlässig feststellen lasse, ob eine Person tatsächlich eine Straftat begangen hat. Deshalb dienten Festnahmen oder Verurteilungen häufig als unvollkommene Ersatzgrößen. Der Auszug warnt davor, damit unbemerkt das Vorhersageziel zu verändern: Soll ein Instrument eine Gefahr für die öffentliche Sicherheit einschätzen, müsse es auf Straftaten zielen, die eine Untersuchungshaft rechtfertigen könnten, und nicht bloß auf spätere Festnahmen oder Verurteilungen. Auch „Rückfall“ sei im Kontext vor einem Prozess schwer einheitlich zu definieren, da die Zeitspanne bis zum Prozess von Fall zu Fall variiere.
Der Text verweist auf Unterschiede zwischen Bevölkerungsgruppen bei Kontrollen, Durchsuchungen, Festnahmen, Anklagen und Fehlverurteilungen. Außerdem würden Straftaten nicht gleich häufig gemeldet oder erfasst. Als Beispiele stellt er Banküberfälle, die demnach fast immer gemeldet würden, und Cannabisbesitz, bei dem der Auszug trotz ähnlicher Konsumraten unverhältnismäßig häufige Festnahmen Schwarzer Menschen anführt, gegenüber. Festnahme-, Verurteilungs- und Inhaftierungsdaten seien daher eher als Aufzeichnungen staatlicher Reaktionen auf mutmaßliches Verhalten zu verstehen denn als neutrales Maß tatsächlicher Kriminalität. Der Text räumt zugleich ein, dass Untersuchungen für bestimmte Delikte und Orte vergleichbare Kriminalitätsraten zwischen Gruppen nahelegen könnten.
Als möglichen Korrekturansatz nennt der Auszug den Abgleich mit unabhängig erhobenen Quellen, etwa Opferbefragungen oder Selbstauskünften, und eine anschließende Neugewichtung von Festnahme- oder Verurteilungsdaten. Das sei statistisch anspruchsvoll und könne selbst fehlerhaft sein; zudem fehle ein etabliertes Prüfverfahren für die Gültigkeit der Korrektur.
Schließlich unterscheidet der Auszug bei versäumten Gerichtsterminen zwischen absichtlichem Entziehen und unbeabsichtigten oder nicht sicherheitsrelevanten Gründen wie Notfällen oder fehlenden Verkehrsmöglichkeiten. Ohne solche Unterscheidungen könnten Menschen wegen Umständen benachteiligt werden, die keine Fluchtabsicht belegen. Nötig seien konsistente Definitionen und Daten sowie gegebenenfalls andere Reaktionen als Haft. Wo möglich, sollten Daten laut Text lokal erhoben werden, weil Geografie, Verkehr und Gerichtsabläufe variieren. Der Auszug liefert damit Anforderungen und Beispiele, aber keine empirische Prüfung eines konkreten Instruments oder Nachweis, dass ein vorgeschlagenes Korrekturverfahren bereits funktioniert.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 33 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 44 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %Hintergrund, keine Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 28 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 68 %Hintergrund, keine Belege
- JEV 49 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 30 %beantwortet teilweise oder widerspricht
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 40 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %einzelne zitierbare Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 25 %Hintergrund, keine Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv