Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openaiohne Datum · Q009460

Why Language Models Hallucinate

arxiv.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Die Autoren argumentieren, dass Halluzinationen sowohl aus statistischen Grenzen des Vortrainings als auch aus Benchmarks entstehen, die richtige Antworten belohnen, aber Enthaltung bei Unsicherheit bestrafen. Sie schlagen vor, Konfidenzschwellen und faire Bewertungen von Enthaltungen in bestehende Prüfungen einzubauen; ihre Analyse beruht jedoch auf vereinfachten theoretischen Annahmen und einer Auswahl von Benchmarks.

Mittel

Der Bericht erklärt Halluzinationen mit statistischen Grenzen des Vortrainings und Anreizen in der späteren Bewertung. Die Autoren übertragen binäre Klassifikation auf Textgenerierung: Fehler beim Unterscheiden gültiger von falschen Antworten stehen ihrer Analyse zufolge mit Generierungsfehlern in Verbindung. Bei seltenen, nicht aus Mustern ableitbaren Fakten nutzen sie die Singleton-Rate – den Anteil einmalig beantworteter Fragen in Trainingsdaten – um Grenzen für die erwartbare Fehlerquote herzuleiten. Weitere mögliche Ursachen sind schwache Modellierung, Verteilungsverschiebungen, Rechenhärte und falsche Trainingsdaten.

Für das Fortbestehen von Halluzinationen machen die Autoren vor allem verbreitete Benchmarks verantwortlich. Wenn richtige Antworten Punkte bringen, Enthaltungen aber nicht, kann Raten trotz Unsicherheit vorteilhaft sein. Ihre Analyse ausgewählter Prüfungen zeigt laut Bericht, dass die meisten Unsicherheit nicht belohnen. Als Abhilfe schlagen sie vor, in bestehende Benchmarks klare Konfidenzschwellen und eine Bewertung von Enthaltungen aufzunehmen.

Die Schlussfolgerungen beruhen auf einem vereinfachten theoretischen Rahmen und einer begrenzten Benchmark-Auswahl. Der Ansatz erfasst offene Antworten, verborgenen Kontext und Abstufungen von Fehlern oder Unsicherheit nur teilweise; die Autoren behaupten daher keine vollständige Erklärung für alle Fälle.

Ausführlich lesen

Der Bericht „Why Language Models Hallucinate“ untersucht, warum Sprachmodelle plausible, aber falsche Aussagen erzeugen und weshalb dieses Verhalten trotz nachträglicher Anpassung bestehen bleibt. Die Autoren vertreten die These, dass Halluzinationen weder rätselhaft noch allein durch bestimmte Modellarchitekturen erklärbar seien: Sie entstünden teilweise aus statistischen Grenzen des Vortrainings und würden durch verbreitete Bewertungsverfahren begünstigt.

Für das Vortraining übertragen die Autoren ein Problem aus der binären Klassifikation auf die Textgenerierung. Ein Modell müsse gewissermaßen unterscheiden, welche plausiblen Antworten gültig und welche falsch sind. Ihre mathematische Analyse verknüpft Fehler bei dieser Gültigkeitsklassifikation mit Fehlern bei generierten Antworten. Unter den im Bericht formulierten Annahmen folgt daraus eine Untergrenze für Generierungsfehler. Bei beliebigen Fakten ohne erlernbares Muster, etwa selten genannten Geburtstagen, führen sie diese Überlegung weiter: Der Anteil einmalig beantworteter Fragen in den Trainingsdaten – die Singleton-Rate – dient als Schätzer für noch nicht abgedecktes Wissen. Für solche Fakten leiten sie Wahrscheinlichkeitsgrenzen für die zu erwartende Fehlerquote her. Weitere mögliche Ursachen sind unzureichende Modellierung, Verteilungsverschiebungen zwischen Training und Anwendung, Rechenhärte und falsche Angaben in den Trainingsdaten. Die Argumentation ist nicht auf Transformer oder bloße Wortfortsetzung beschränkt.

Für das Post-Training richten die Autoren den Blick auf die Bewertung: Viele bekannte Benchmarks vergeben Punkte für richtige Antworten, aber keine für ein begründetes „Ich weiß es nicht“. Bei solcher binärer Bewertung kann Raten im Erwartungswert besser abschneiden als Enthaltung. Die Autoren untersuchen zehn verbreitete Benchmarks und berichten, dass die große Mehrheit Unsicherheit nicht belohnt; bei manchen sprachmodellbasierten Bewertungen könnten zudem falsche, ausführliche Antworten besser abschneiden als ein Eingeständnis von Unwissen. So entstehe ein Anreiz, selbst dann konkrete Antworten zu geben, wenn das Modell unsicher ist.

Als Gegenmaßnahme schlagen die Autoren vor, Unsicherheits- und Enthaltungsoptionen in bestehende, einflussreiche Prüfungen einzubauen. Aufgaben könnten ausdrücklich angeben, ab welcher Sicherheit eine Antwort erwünscht ist und wie Fehler bewertet werden. Solche transparenten Konfidenzziele könnten laut Bericht angemessenes Enthalten fördern und das Verhalten über verschiedene Schwellen hinweg prüfbar machen. Zusätzliche Halluzinations-Benchmarks allein reichten nach ihrer Einschätzung nicht aus, solange die wichtigsten allgemeinen Bewertungen Raten belohnen.

Die Ergebnisse sind vor allem theoretische Aussagen unter einem vereinfachten statistischen Rahmen, ergänzt durch eine Analyse ausgewählter Benchmarks; sie stellen keinen umfassenden empirischen Nachweis für alle Modelle und Einsatzfälle dar. Der Bericht weist selbst auf Grenzen hin: Er behandelt Plausibilität und Fehler teils formal, erfasst offene Texte nur vereinfacht und unterscheidet nicht fein nach Schweregrad oder Unsicherheitsart. Auch verborgener Gesprächskontext und nuancierte sprachliche Formen des Zweifelns werden nicht vollständig modelliert. Suche und Schlussfolgern gelten den Autoren zufolge nicht als Allheilmittel, weil die Bewertungsanreize zum Raten auch dann bestehen können, wenn Werkzeuge verfügbar sind.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Beide Zusammenfassungen geben den Bericht im Wesentlichen treu wieder; die Lücken betreffen zentrale Befunde. Die Einordnungen sind niedrig, weil der Bericht ein Fachpapier zu Halluzinationen und Benchmark-Bewertung ist und die Sammelfragen zu Governance, Cyber-Sicherheit und Selbstverbesserung nur am Rande berührt.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Kernaussage, dass Halluzinationen auch bei fehlerfreien Trainingsdaten entstehen, wird in keiner der beiden Fassungen klar benannt.
  • Die Aussage, dass zusätzliche Halluzinations-Evaluationen allein nicht genügen, weil die meisten Hauptbenchmarks Enthaltungen bestrafen, fehlt ausdrücklich; die Kurzfassung deutet sie nur an.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV offen
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 4 · 28 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 24 %Hintergrund, keine Belege
    • JEV offen
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 28 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV offen
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 33 %einzelne zitierbare Belege
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 23 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV offen
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV offen
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-H3-T02 Welche gemeinsamen Prüfstandards und Verfahren zum Herkunftsnachweis erkennen versteckte Verhaltensauslöser und eine systemweite Verschlechterung der Ausrichtung an den vorgesehenen Zielen und Werten, wenn Training immer mehr auf synthetischen Daten anderer Spitzenmodelle beruht? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-H3-T06 Welcher unabhängig prüfbare Mindestbeleg zeigt, dass eine bestimmte Person, Organisation oder ein geschützter Datensatz aus einem veröffentlichten Modell und seinen Adaptern (Zusatzmodulen) verlernt wurde, und welches Restrisiko einer Extraktion lässt sich womöglich nie auf null senken? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 23 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV offen
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV offen
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →