Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
paiohne Datum · Q003823

b63c999 - Partnership on AI

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Auszug fordert, dass Risikobewertungsinstrumente neben einer Vorhersage auch deren Unsicherheit angeben, da ein Risikowert allein keine Auskunft über die mögliche Spannweite gibt. Genannt werden Unsicherheiten durch Stichproben und Datenverzerrungen sowie durch die Wahl von Fairness-Korrekturen; ihre verständliche Darstellung und die Schulung der Nutzer bleiben laut Text offene Aufgaben.

Mittel

Der vorliegende Auszug behandelt Anforderung 5: Risikobewertungsinstrumente sollen die Unsicherheit ihrer Vorhersagen ausweisen. Eine Risikokategorie oder ein Mittelwert – etwa 60 Prozent Rückfallwahrscheinlichkeit – verrät laut Text nicht, ob die plausible Spanne eng oder sehr breit ist. Daher sollten solche Instrumente nur verwendet werden, wenn sie die Zuverlässigkeit ihrer Vorhersagen allgemein und für einzelne Personen angemessen darstellen.

Als Unsicherheitsquellen nennt der Bericht kleine Stichproben und Ausreißer, Verzerrungen in den Trainingsdaten, die Wahl einer Fairness-Korrektur sowie grundlegende Probleme bei der Datenerhebung. Bootstrap-Konfidenzintervalle könnten die Folgen von Stichprobengröße und Ausreißern veranschaulichen, blieben aber von den Trainingsdaten und deren möglichen Verzerrungen abhängig. Ergebnisse verschiedener Fairness-Korrekturen könnten laut Text mögliche Grenzen fairer Vorhersagen markieren; die Fairness-Definition hinge dabei von der gewählten Korrektur ab. Zusätzliche hochwertige Daten werden als möglicher Ansatz für Datenprobleme genannt.

Die verständliche Anzeige von Unsicherheit gilt dem Auszug zufolge weiterhin als offene Aufgabe. Schulungen sollten deshalb Urteile anhand simulierter Unsicherheit üben. Der Text ist nur ein Auszug und berichtet weder eine Untersuchungsmethode noch empirische Ergebnisse oder konkrete Umsetzungen.

Ausführlich lesen

Der vorliegende Text ist ein Auszug zu Anforderung 5 für Risikobewertungsinstrumente: Sie sollen die Unsicherheit ihrer Vorhersagen angeben. Der Bericht argumentiert, dass ein Risikowert oder eine Kategorie wie „hoch“ allein nicht zeigt, wie verlässlich die konkrete Schätzung ist. Selbst wenn „hohes Risiko“ beispielsweise mit einer Rückfallwahrscheinlichkeit von 60 Prozent verbunden ist, kann die tatsächliche Unsicherheit laut Text sehr unterschiedlich sein: Die plausible Spanne könnte etwa 55 bis 65 Prozent betragen oder viel breiter von 30 bis 90 Prozent reichen. Der Mittelwert allein sagt nicht, welche dieser Situationen vorliegt.

Der Auszug empfiehlt deshalb, solche Instrumente nur einzusetzen, wenn sie die Vorhersagesicherheit sowohl allgemein als auch für die jeweils bewerteten Personen angemessen ausweisen können. Dabei sollen möglichst verschiedene Unsicherheitsquellen berücksichtigt werden. Als eine Quelle nennt der Text kleine Stichproben und Ausreißer in den Datensätzen. Bootstrap-Konfidenzintervalle könnten diese Unsicherheit abbilden, indem Vorhersagen auf vielen neu gezogenen Trainingsdatensätzen verglichen werden. So ließe sich statt einer einzelnen Zahl etwa eine geschätzte Wahrscheinlichkeit samt Bereich und dessen geschätzter Verlässlichkeit mitteilen. Der Bericht schränkt ein, dass solche Intervalle weiterhin von den Trainingsdaten abhängen und deren Verzerrungen durch Auswahl oder ausgelassene Variablen widerspiegeln können.

Weitere Unsicherheit kann dem Text zufolge daraus entstehen, dass unklar ist, welche Korrektur gegen Modellverzerrungen am besten geeignet ist. Als möglichen Ansatz beschreibt er, die Ergebnisse verschiedener Fairness-Korrekturen als obere und untere Grenzen darzustellen. Was dabei als fair gilt, hängt allerdings von der gewählten Korrektur ab. Außerdem können Stichprobenverzerrungen und andere grundlegende Mängel der Datensätze die Vorhersagen beeinträchtigen. Der Bericht bezeichnet dies als schwierig zu lösen und nennt zusätzliche, hochwertige Datenquellen als möglichen Weg, solche Unsicherheiten besser abzuschätzen.

Schließlich hält der Auszug die verständliche Darstellung von Unsicherheit in Benutzeroberflächen für ein noch offenes Problem. Die in Anforderung 6 vorgeschlagenen Schulungen sollten deshalb nach Ansicht des Textes auch durch Simulationen üben lassen, wie Nutzer unter Unsicherheit urteilen. Der bereitgestellte Bericht ist nur ein Auszug zu dieser einzelnen Anforderung; er enthält keine Angaben zu Untersuchungsmethode, empirischen Ergebnissen oder einer konkreten Umsetzung der Vorschläge.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 36 %gleiches Oberthema, hilft nicht
    • JEV 39 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 52 %beantwortet teilweise oder widerspricht
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 31 %nur am Rande erwähnt
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 22 %beantwortet teilweise oder widerspricht
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 44 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →