Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai13. Juni 2022 · Q008380

AI-written critiques help humans notice flaws

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht behauptet, dass KI-Kritiken Menschen beim Finden von Fehlern in Zusammenfassungen unterstützen: In den beschriebenen Versuchen fanden unterstützte Bewertende rund 50 Prozent mehr Fehler, und größere Modelle schrieben hilfreichere Selbstkritiken. Die Tests betrafen jedoch eine vergleichsweise leichte Bewertungsaufgabe; ob der Ansatz bei schwierigen Aufgaben funktioniert, bleibt offen, und Modelle artikulierten erkannte Probleme nicht immer.

Mittel

Der Bericht untersucht, ob KI-generierte Kritiken Menschen helfen, Fehler in Zusammenfassungen zu erkennen. Dafür trainierte das Team Sprachmodelle, Kritiken zu thematischen Zusammenfassungen zu verfassen, und verglich Bewertende ohne Hilfe mit einer Gruppe, die jeweils acht Modellkritiken erhielt. Die getesteten Zusammenfassungen stammten von Modellen und Menschen sowie aus einer absichtlich mit subtilen Fehlern versehenen Gruppe.

Laut Bericht fanden die unterstützten Personen rund 50 Prozent mehr Fehler. Bei absichtlich irreführenden Zusammenfassungen stieg die Erkennung des vorgesehenen Fehlers von 27 auf 45 Prozent. Größere Modelle verfassten demnach hilfreichere Selbstkritiken und konnten ihre Antworten mithilfe dieser Kritiken verbessern; kleinere Modelle gelang das nicht.

Die Aussagekraft ist begrenzt: Die untersuchte Zusammenfassungsbewertung gilt als relativ leicht und dauert Menschen etwa zehn Minuten. Ob der Ansatz bei deutlich schwierigeren Aufgaben hilft, bleibt offen. Außerdem erkannten Modelle häufiger Probleme, als sie in verständlichen Kritiken benennen konnten; dieser Abstand verringerte sich offenbar nicht mit zunehmender Modellgröße. Die Ergebnisse sind somit ein Machbarkeitsnachweis, kein Beleg für allgemeine Zuverlässigkeit.

Ausführlich lesen

Der Bericht untersucht, ob KI-generierte Kritiken Menschen dabei helfen können, Fehler in Zusammenfassungen zu erkennen. Das Ziel dahinter ist, menschliche Rückmeldungen zu schwierigen Aufgaben zu verbessern: Wenn Menschen Fehler übersehen, könnten KI-Systeme sonst lernen, überzeugend wirkende, aber fehlerhafte Antworten zu geben. Als möglichen Ansatz beschreibt OpenAI Assistenzmodelle, die Schwächen benennen und Menschen beim Bewerten unterstützen.

Für den Machbarkeitsnachweis trainierte das Team Sprachmodelle mit überwachtem Lernen darauf, Kritiken zu thematischen Zusammenfassungen zu schreiben. Die Ausgangstexte stammten unter anderem aus Kurzgeschichten, Wikipedia-Artikeln und anderen Internettexten. In einem Vergleich bewertete eine Gruppe Zusammenfassungen ohne Hilfe; eine andere erhielt jeweils acht KI-generierte Kritiken. Untersucht wurden Zusammenfassungen aus drei Quellen: von Modellen, von Menschen und von Menschen absichtlich mit wichtigen, aber unauffälligen Fehlern versehen.

Laut Bericht fanden die unterstützten Bewertenden insgesamt rund 50 Prozent mehr Fehler als die Gruppe ohne Hilfe. Bei absichtlich irreführenden Zusammenfassungen stieg die Erkennungsrate des vorgesehenen Fehlers demnach von 27 auf 45 Prozent. Die Unterstützten griffen für viele der entdeckten Fehler direkt auf die Modellkritiken zurück. Ein im Bericht angeführtes Beispiel betrifft eine Zusammenfassung zu einem Schneesturm in New Jersey: Eine menschliche Kritik beanstandet, dass die Zusammenfassung Fähren fälschlich als alternative Verkehrsmöglichkeit erwähnt.

Die Forschenden berichten außerdem, dass größere Modelle hilfreichere Kritiken ihrer eigenen Antworten verfassen. Das gelte, obwohl ihre Antworten zugleich schwieriger zu beurteilen seien. Größere Modelle konnten ihre Ausgaben mithilfe solcher Selbstkritiken auch verbessern; kleinere Modelle schafften dies laut Bericht nicht. Bessere Kritiken führten dabei zu besseren Verbesserungen als schwächere Kritiken oder der Verzicht auf Kritik.

Eine zentrale Einschränkung betrifft die untersuchte Aufgabe: Thematische Zusammenfassungen seien für Menschen nicht besonders schwierig zu bewerten, was ungefähr zehn Minuten dauere. Die Ergebnisse belegen daher noch nicht, dass die Methode auch bei Aufgaben funktioniert, deren Bewertung Menschen ernsthaft überfordert. Zudem konnten die Modelle Probleme häufiger erkennen, als sie in verständlichen, konkreten Kritiken ausdrücken konnten. Dieser Abstand schien bei größeren Modellen nicht kleiner zu werden. Der Bericht folgert daraus, dass Modelle offenbar manche erkannte Probleme nicht mitteilen können oder mitteilen.

Die Autorinnen und Autoren sehen die Ergebnisse als ermutigenden Machbarkeitsnachweis und als möglichen Baustein für die menschliche Aufsicht über KI. Der Bericht zeigt jedoch keine allgemeine Vertrauenswürdigkeit solcher Assistenzsysteme und lässt offen, wie gut sie sich auf wesentlich schwierigere Bewertungen übertragen lassen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna lieferte zwei Zusammenfassungen; geprüft wurde die mittlere Fassung. Die kurze Fassung ist sachlich ebenfalls treu, lässt aber die Zahl 27 auf 45 Prozent aus und bleibt bei den Grenzen der Studie unklar. Beide Fassungen erwähnen die Motivation nicht.

Im Bericht, aber nicht in der Zusammenfassung

  • Motivation: KI-Assistenz soll Menschen bei schwierigen Aufgaben helfen, Fehler zu finden, die sie sonst übersehen würden
  • Der Ansatz gilt als Baustein der Alignment-Strategie (Debatte, rekursives Belohnungsmodell)
  • Die Zusammenfassung enthält als Beispiel nicht den Fehler des Modells im Passagentext (NJ Transit: Fähren als Alternative) und die Einordnung, dass Zusammenfassen für Menschen keine schwierige Aufgabe ist

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 19 %gleiches Oberthema, hilft nicht
    • Luna 41 %gleiches Oberthema, hilft nicht
    • JEV 35 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 42 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 20 %Hintergrund, keine Belege
    • Luna 34 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 38 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 44 %gleiches Oberthema, hilft nicht
    • JEV 27 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %Hintergrund, keine Belege
    • Luna 33 %gleiches Oberthema, hilft nicht
    • JEV 40 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 24 %einzelne zitierbare Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →