Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai11. Juni 2018 · Q008391

Improving language understanding with unsupervised learning

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht beschreibt ein Transformer-Verfahren mit unüberwachtem Vortraining und anschließendem Feintuning, das laut OpenAI bei den meisten von 15 Aufgabenvergleichen die damaligen Vergleichswerte übertrifft, aber nicht bei allen. Als Grenzen nennt er den hohen Trainingsaufwand, mögliche Verzerrungen in Textdaten und weiterhin fragile Verallgemeinerung.

Mittel

Der Bericht stellt ein Verfahren vor, bei dem ein Transformer zunächst mit unbeschrifteten Texten auf Sprachmodellierung trainiert und anschließend mit kleineren beschrifteten Datensätzen für bestimmte Aufgaben feinjustiert wird. OpenAI zufolge funktioniert derselbe Modellkern mit wenig aufgabenspezifischer Anpassung für zahlreiche Aufgaben; ein Ensemble und für jede Aufgabe eigens gewählte Einstellungen seien überwiegend nicht nötig gewesen.

In der Ergebnistabelle übertrifft das Modell die angegebenen damaligen Vergleichswerte in 10 von 15 Fällen, darunter bei GLUE, RACE, COPA und ROCStories. Bei RTE, MRPC und SST-2 schneidet es schlechter ab. Die Autoren führen die starken Ergebnisse bei Aufgaben zu Leseverständnis und Alltagswissen als Hinweis darauf an, dass unüberwachtes Vortraining solche Fähigkeiten fördern könnte. Der Beitrag betont jedoch, dass Nullschuss-Leistungen oft hinter überwachten Spitzenwerten liegen und bei Fragen eine einfache Baseline besser abschnitt.

Als Einschränkungen nennt der Bericht ein einmonatiges Vortraining auf acht GPUs, mögliche Lücken und Verzerrungen in Textdaten sowie weiterhin fragile Verallgemeinerung, besonders bei adversarialen oder verteilungsfremden Tests. Mehr Daten, Rechenleistung und Forschung zum Feintuning und zu den Wirkmechanismen werden als mögliche nächste Schritte beschrieben.

Ausführlich lesen

Der Bericht beschreibt ein 2018 vorgestelltes Verfahren, das unüberwachtes Vortraining mit überwachtem Feintuning verbindet. OpenAI zufolge erzielt das System auf einer breiten Auswahl von Sprachaufgaben überwiegend starke Ergebnisse und zeigt, dass sich ein gemeinsames Modell mit wenig aufgabenspezifischer Anpassung für unterschiedliche Aufgaben einsetzen lässt.

Das Training erfolgt in zwei Schritten: Zunächst lernt ein Transformer anhand großer Mengen unbeschrifteter Texte, das nächste Wort vorherzusagen. Anschließend wird das Modell mit kleineren, beschrifteten Datensätzen auf einzelne Aufgaben abgestimmt. Die Autoren berichten, dass dabei ein einzelnes Sprachmodell ohne Ensemble eingesetzt wurde und die meisten Datensätze dieselben Hyperparameter verwendeten.

In der Tabelle liegt der berichtete Wert des Systems bei 10 der 15 aufgeführten Vergleiche über dem jeweils angegebenen damaligen Spitzenwert (SOTA). Besonders große Abstände nennt der Bericht für ROCStories zur Schlussfolgerung aus kurzen Geschichten (86,5 gegenüber 77,6), COPA zum Alltagswissen (78,6 gegenüber 71,2), SciTail und QNLI zum Textschlussfolgern sowie RACE zum Leseverständnis. Auch der Gesamtwert für GLUE ist höher (72,8 gegenüber 68,9). Bei RTE, MRPC und SST-2 liegt das System dagegen unter dem Vergleichswert. Die Ergebnisse sind daher nicht durchgehend besser. Die Autoren heben COPA, RACE und ROCStories hervor und vermuten, dass das Modell Fähigkeiten für Schlussfolgern über mehrere Sätze und Weltwissen vor allem durch das unüberwachte Training gewinnt. Die Tabelle allein belegt diese Erklärung jedoch nicht.

Der Beitrag ordnet das Verfahren früheren Arbeiten zu unüberwachtem Vortraining und Feintuning zu. Im Unterschied zu Ansätzen mit LSTM-Modellen setze es Transformer ein und solle damit auch über Dokumentklassifikation hinaus Aufgaben wie semantische Ähnlichkeit, Leseverständnis und Alltagswissen abdecken. Die Autoren berichten außerdem, dass sich mit dem Sprachmodell Aufgaben teilweise ohne vorheriges aufgabenspezifisches Training bearbeiten lassen. Sie schränken ein, dass solche Nullschuss-Ergebnisse oft deutlich hinter überwachten Spitzenwerten liegen; beim Beantworten von Fragen sei sogar eine einfache Fenster-Baseline besser gewesen. Eine Sentiment-Demonstration erreiche ohne Anpassung ungefähr 80 Prozent Genauigkeit.

Als Grenzen nennt der Bericht den hohen Rechenaufwand: Das Vortraining habe einen Monat auf acht GPUs beansprucht. Verwendet worden seien rund fünf Gigabyte Text aus einigen tausend Büchern; das Modell umfasst 37 Schichten beziehungsweise 12 Transformer-Blöcke und verarbeitet Sequenzen mit bis zu 512 Tokens. Außerdem könnten Texte die Welt nur unvollständig oder verzerrt abbilden, und das Modell könne Vorurteile aus den Daten übernehmen. Trotz breiter Verbesserungen bleibe die Verallgemeinerung fragil, besonders bei systematischen, adversarialen oder außerhalb der Trainingsverteilung liegenden Prüfungen. Die Autoren sehen weiteres Potenzial durch mehr Daten und Rechenleistung, bessere Feintuningverfahren und gezielte Untersuchungen dazu, warum das Vortraining hilft. Der Bericht kennzeichnet diese Punkte als offene Fragen und Perspektiven, nicht als bereits nachgewiesene Lösungen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung. Die kurze Zusammenfassung ist treu, nennt keine falsche Zahl und passt zum Bericht; sie lässt aber die Ergebnisse zu Sentiment und Robustheit weg. Der Bericht ist ein Forschungsbeitrag zu Transformer-Vortraining und beantwortet keine der Governance-Fragen direkt, daher fallen die Einordnungen niedrig aus.

Im Bericht, aber nicht in der Zusammenfassung

  • Sentiment-Analyse ohne Anpassung des Modells mit etwa 80 % Genauigkeit als Nullschuss-Beleg
  • Ergebnis von 83,75 % auf dem Datensatz von Glockner et al. (2018) als Hinweis auf verbesserte lexikalische Robustheit

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Falsche Zahl: Die Zusammenfassung nennt 10 von 15 übertroffenen Vergleichswerten, der Bericht ergibt 12 von 15 (nur RTE, MRPC und SST-2 liegen darunter)

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 22 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 51 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 100 %kein Bezug
    • Luna 46 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-P4-T01 Würden Regierungen Messdaten aus der Lieferkette von Chips (Telemetrie), den Stromverbrauch, gemeldete Verzeichnisse von Trainingsläufen und eine unabhängig überwachte Abrechnung von Strom, Hardware und Rechenaufwand als vertragstauglichen Nachweis für die Größe der Trainingsläufe eines anderen Staates anerkennen, ohne Modellgewichte (die gelernten Parameter) oder Code anzurühren? Und wie sähe eine Prüfordnung für Rechenschwellen aus, die nichts über das Innere der Modelle verrät? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 51 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 24 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 46 %umfangreiche Belege
    • JEV 31 %beantwortet teilweise oder widerspricht
    • amos 29 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →