c52ccad - Partnership on AI
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der vorliegende Berichtstext ist ein Auszug, der fordert, Risikobewertungen in der Strafjustiz an öffentlich diskutierten politischen Zielen auszurichten. Schwellenwerte beeinflussen laut Text, wer inhaftiert oder entlassen wird, und sollten daher auf geeigneten aktuellen Daten beruhen, Betroffene einbeziehen sowie regelmäßig überprüft werden.
Mittel
Der vorliegende Berichtstext ist ein Auszug zu Anforderung 7. Er argumentiert, dass Risikobewertungen in der Strafjustiz politische Entscheidungen nicht ersetzen oder als rein technische Fragen erscheinen lassen dürfen. Dazu gehören Abwägungen zwischen angenommenem Risiko und den Folgen einer Inhaftierung, die erforderliche Verlässlichkeit von Vorhersagen, der Umgang mit geschützten Kategorien sowie der Stellenwert von Alternativen wie sozialen Diensten. Diese Fragen sollten laut Text gemeinsam von politischen Entscheidungsträgern, Justizverantwortlichen und der Öffentlichkeit behandelt werden.
Als Beispiel nennt der Auszug die Schwellenwerte, die Risiken in Kategorien wie niedrig, mittel oder hoch einteilen. Anhand von Kaliforniens S.B. 10 und dem First Step Act zeigt er, dass solche Kategorien beeinflussen, wer inhaftiert oder entlassen wird. Die Grenzwerte sollten sich an den Zielen der Strafjustiz und geeigneten aktuellen Daten orientieren. Entscheidungsträger müssten dabei gerechte Ergebnisse und geringere gesellschaftliche Haftkosten anstreben. Bei einem Ziel wie der Verringerung von Masseninhaftierung wären Schwellen zu erwägen, durch die weniger Menschen als hochriskant eingestuft werden. Der Text empfiehlt außerdem, relevante Gruppen einzubeziehen und die Entscheidungen regelmäßig zu überprüfen. Konkrete optimale Schwellenwerte belegt der Auszug nicht.
Ausführlich lesen
Der vorliegende Berichtstext ist ein Auszug, der ausschließlich „Anforderung 7“ behandelt: Öffentliche Stellen sollen sicherstellen, dass Risikobewertungsinstrumente die Ziele der Kriminalpolitik angemessen abbilden. Der Text argumentiert, solche Instrumente könnten grundlegende politische Entscheidungen verdecken, indem sie wie technische Fragen erscheinen. Dazu zählt, wann ein angenommenes gesellschaftliches Risiko den erheblichen Schaden einer Inhaftierung für eine beschuldigte Person und deren Familie aufwiegt. Ebenso müsse politisch entschieden werden, wie verlässlich, valide und unvoreingenommen eine Vorhersage sein muss, bevor sie einen Freiheitsentzug rechtfertigen kann. Weitere offene Entscheidungen betreffen geschützte Kategorien und deren Verwendung sowie das Verhältnis der Instrumente zu nicht freiheitsentziehenden Maßnahmen wie Vermittlungsprogrammen und sozialen Diensten. Laut Auszug können diese Fragen nicht allein den Entwicklern der Werkzeuge überlassen werden; erforderlich sei die aktive Beteiligung von politischen Entscheidungsträgern, Führungskräften des Justizsystems und der Öffentlichkeit.
Als Beispiel für eine politische Entscheidung mit technischer Erscheinungsform nennt der Text Schwellenwerte, anhand derer Risiken als niedrig, mittel oder hoch eingestuft werden. Er verweist auf Kaliforniens S.B. 10, das ein Gremium zur Festlegung solcher Kategorien für das Nichterscheinen vor Gericht oder weitere Straftaten mit Gefahren für die öffentliche Sicherheit vorgesehen hätte, sowie auf den First Step Act, der Risikokategorien für inhaftierte Personen vorsieht. Nach Darstellung des Auszugs beeinflussen diese Grenzwerte letztlich, wie viele Menschen inhaftiert oder entlassen werden.
Die Schwellenwerte sollten laut Text an den Zielen und dem weiteren Ablauf des Strafjustizsystems sowie an geeigneten Daten ausgerichtet werden. Entscheidungsträger müssten Abwägungen treffen, die gerechte Ergebnisse fördern und die gesellschaftlichen Kosten von Haft senken. Wenn etwa die Verringerung von Masseninhaftierung ein vorrangiges Ziel sei, sollten Schwellen so gewählt werden, dass weniger Menschen den höheren Risikokategorien zugeordnet werden. Der Auszug empfiehlt außerdem, Betroffene einzubeziehen, aktuelle und einschlägige Kriminalitätsdaten für evidenzbasierte Entscheidungen heranzuziehen und Schwellenwerte regelmäßig zu überprüfen und anzupassen. Er enthält keine empirischen Ergebnisse dazu, welche konkreten Grenzwerte am besten wären.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 27 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 24 %einzelne zitierbare Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV 48 %Hintergrund, keine Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen?
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 30 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 36 %einzelne zitierbare Belege
- JEV 39 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 38 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 41 %einzelne zitierbare Belege
- JEV 26 %beantwortet teilweise oder widerspricht
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 23 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 50 %einzelne zitierbare Belege
- JEV 27 %Hintergrund, keine Belege
- amos 25 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E1-T02 Welche Ordnung gibt Staaten außerhalb eines führenden Staatenpaares ein echtes Stimmrecht, nicht nur ein Anhörungsrecht, bei Vorfallschwellen, Fähigkeitskriterien und Standards?
- SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden?
- SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 30 %Hintergrund, keine Belege
- JEV 35 %einzelne zitierbare Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 41 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 24 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 42 %einzelne zitierbare Belege
- JEV 52 %beantwortet teilweise oder widerspricht
- amos 22 %einzelne zitierbare Belege
- SubQ 32 %gleiches Oberthema, hilft nicht
- drex 25 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
- SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten.
Weitere Berichte zu diesen Fragen
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv