Teaching models to express their uncertainty in words
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der bereitgestellte Bericht ist nur ein Abstract-Auszug. Darin berichten die Autorinnen und Autoren, dass GPT‑3 seine Antwortunsicherheit in Worten ausdrücken und dabei laut ihren Ergebnissen gut kalibrierte Wahrscheinlichkeiten liefern könne; bei veränderter Datenverteilung sei die Kalibrierung teilweise erhalten geblieben. Einzelheiten zum Versuchsaufbau und konkrete Messwerte enthält der Auszug nicht.
Mittel
Der bereitgestellte Bericht ist nur ein Auszug: Er enthält den Abstract, aber keine ausführliche Beschreibung der Studie. Stephanie Lin, Jacob Hilton und Owain Evans berichten, dass ein GPT‑3-Modell neben Antworten auch seine Unsicherheit in Worten oder Prozentangaben ausdrücken könne, ohne Modell-Logits zu nutzen. Diese Angaben hätten sich laut Abstract auf gut kalibrierte Wahrscheinlichkeiten abbilden lassen; unter veränderter Datenverteilung sei die Kalibrierung teilweise erhalten geblieben.
Für die Untersuchung führten die Autorinnen und Autoren nach eigenen Angaben die Testsuite CalibratedMath ein und verglichen verbalisierte Wahrscheinlichkeiten mit Unsicherheitsschätzungen aus Modell-Logits. Beide Ansätze hätten eine gewisse Verallgemeinerung der Kalibrierung bei Verteilungsverschiebungen gezeigt. Die Befunde deuteten außerdem auf eine Rolle vortrainierter Repräsentationen hin, die mit epistemischer Unsicherheit zusammenhängen. Konkrete Messwerte und nähere Angaben zum Versuchsaufbau fehlen im vorliegenden Auszug.
Ausführlich lesen
Der bereitgestellte Bericht ist ein Auszug: Er enthält den Abstract, die Namen der Autorinnen und Autoren sowie Abbildungsüberschriften, aber keine ausführliche Darstellung der Studie. Die Zusammenfassung der Ergebnisse stützt sich daher ausschließlich auf die Angaben im Abstract.
Stephanie Lin, Jacob Hilton und Owain Evans berichten, dass ein GPT‑3-Modell lernen könne, seine Unsicherheit über eigene Antworten in natürlicher Sprache auszudrücken, ohne dafür Modell-Logits zu verwenden. Das Modell gibt neben einer Antwort eine Konfidenzangabe aus, etwa eine Prozentzahl oder eine verbale Einstufung. Laut Abstract lassen sich diese Angaben auf gut kalibrierte Wahrscheinlichkeiten abbilden. Bei einer Verschiebung der Datenverteilung bleibe die Kalibrierung demnach teilweise erhalten.
Die Autorinnen und Autoren geben an, eine Testreihe namens CalibratedMath für die Prüfung der Kalibrierung eingeführt und verbalisierte Wahrscheinlichkeitsangaben mit Unsicherheit verglichen zu haben, die aus Modell-Logits gewonnen wird. Beide Ansätze hätten laut Abstract eine gewisse Fähigkeit gezeigt, kalibrierte Unsicherheit über Verteilungsverschiebungen hinweg zu verallgemeinern. Zudem deuten die berichteten Befunde darauf hin, dass die Verallgemeinerungsfähigkeit des GPT‑3-Modells von vortrainierten latenten Repräsentationen abhängt, die mit epistemischer Unsicherheit über Antworten zusammenhängen. Die Autorinnen und Autoren bezeichnen ihre Arbeit als nach ihrem Wissen ersten Nachweis dafür, dass ein Modell kalibrierte Unsicherheit über eigene Antworten in natürlicher Sprache ausdrücken kann.
Der Auszug nennt weder Einzelheiten zum Versuchsaufbau noch konkrete Messwerte, Aufgabenresultate oder Einschränkungen über die erwähnte moderate Kalibrierung unter Verteilungsverschiebung hinaus. Aussagen zu diesen Punkten lassen sich daraus nicht ableiten.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %einzelne zitierbare Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV 38 %einzelne zitierbare Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 26 %Hintergrund, keine Belege
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 28 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 28 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 25 %Hintergrund, keine Belege
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 58 %einzelne zitierbare Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 51 %einzelne zitierbare Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv