Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
epoch26. September 2025 · Q006924

Why GPT-5 used less training compute than GPT-4.5 (but GPT-6 probably won’t)

epoch.ai · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist ein Auszug: Die Autoren vermuten, dass neue Reasoning-Verfahren OpenAI ermöglichten, bei GPT‑5 weniger Rechenleistung für den abschließenden Trainingslauf einzusetzen und dennoch GPT‑4.5 bei vielen Aufgaben zu übertreffen. Zeitdruck, nötige Experimente und fehlende Post-Training-Daten hätten eine Übertragung auf ein größeres Modell erschwert; die Kostenangaben sind grobe Schätzungen, und die Erklärung ist eine Hypothese.

Mittel

Der vorliegende Text ist ein Auszug. Er begründet die im Vorspann genannte These, dass GPT‑5 wahrscheinlich weniger Rechenleistung für seinen abschließenden Trainingslauf benötigte als GPT‑4.5; warum GPT‑6 voraussichtlich wieder mehr verwenden werde, wird im Ausschnitt nicht näher erläutert. Die Einschätzung stammt von den Autorinnen und Autoren und muss nicht die Position von Epoch AI insgesamt wiedergeben.

Als Erklärung führen sie den stärkeren Einsatz neuer Post-Training-Verfahren für Reasoning-Modelle an. Diese könnten laut einer groben Schätzung mehr Post-Training-Rechenleistung so wirksam nutzen, dass der Aufwand fürs Vortraining bei vergleichbarer Leistung erheblich sinkt. Das Rechenbeispiel des Beitrags stellt rund 200 Millionen Dollar für das Vortraining von GPT‑4.5 und 2 Millionen für Post-Training einem hypothetischen Vortraining für 20 Millionen bei gleichem Post-Training-Aufwand gegenüber.

Die Verfahren auf ein größeres Modell zu übertragen hätte nach Einschätzung der Autoren umfangreiche Experimente, Zeit und hochwertige Daten erfordert. Angesichts des Wettbewerbs und des Zeitdrucks habe OpenAI daher vermutlich das Post-Training eines kleineren Modells skaliert. Der Beitrag sagt, GPT‑5 habe GPT‑4.5 bei vielen Aufgaben übertroffen und sei bis August veröffentlicht worden. Er betont zugleich, dass der gesamte Entwicklungsaufwand wegen der Experimente höher gewesen sein könnte. Kosten- und Einsparungszahlen sind unsichere Größenordnungen; die Erklärung bleibt eine Hypothese, da interne Entscheidungsdaten nicht vorgelegt werden.

Ausführlich lesen

Der vorliegende Bericht ist ein Auszug: Er erklärt ausführlich, warum GPT‑5 laut den Autorinnen und Autoren wahrscheinlich mit weniger Rechenaufwand im abschließenden Trainingslauf als GPT‑4.5 trainiert wurde. Die im Vorspann angekündigte Einschätzung, GPT‑6 werde vermutlich wieder mehr Trainingsrechenleistung nutzen, wird im vorliegenden Ausschnitt jedoch nicht ausgeführt. Der Beitrag kennzeichnet sich als meinungsorientierte Einschätzung; seine Aussagen geben nicht zwingend die Position von Epoch AI insgesamt wieder.

Die zentrale These lautet, OpenAI habe bei GPT‑5 stärker auf das nachgelagerte Training („Post-Training“) gesetzt. Neue Verfahren für sogenannte Reasoning-Modelle hätten es seit etwa September 2024 ermöglicht, zusätzliche Rechenleistung im Post-Training wirksamer einzusetzen. Nach der im Text angeführten groben Schätzung könne dies den nötigen Aufwand für das Vortraining deutlich senken: Eine etwa zehnfache Einsparung beim Vortraining könne bei vergleichbarer Leistung möglich sein. Als vereinfachtes Rechenbeispiel stellt der Beitrag für GPT‑4.5 rund 200 Millionen US-Dollar für das Vortraining und 2 Millionen für das Post-Training gegenüber. Mit den neuen Verfahren hätten die 2 Millionen für Post-Training demnach dieselbe Gesamtleistung ermöglichen können wie ein Vortraining für rund 20 Millionen US-Dollar. Die Zahlen sollen Größenordnungen veranschaulichen und sind keine präzise Kostenabrechnung.

Die Autorinnen und Autoren führen zwei Gründe dafür an, dass OpenAI diese Strategie bei GPT‑5 verfolgt habe. Erstens hätten die neuen Post-Training-Methoden bessere zusätzliche Erträge versprochen. Zweitens sei es damals schwierig gewesen, sie schnell auf ein Modell in der Größenordnung von GPT‑4.5 zu übertragen. Das Ausprobieren und Verbessern der Verfahren brauche Zeit und Rechenleistung; größere Modelle seien in Post-Training-Umgebungen aufwendiger. Zusätzlich müsse ausreichend hochwertiger Datensatz für das Post-Training entwickelt und zusammengestellt werden. Laut Beitrag habe OpenAI unter erheblichem Zeitdruck durch konkurrierende Labore und Erwartungen an die Veröffentlichung von GPT‑5 gestanden. Die Autoren vermuten daher, dass OpenAI das Post-Training eines kleineren Modells so weit skalierte, wie es unter den verfügbaren Zeit-, Experimentier- und Datenbedingungen möglich war. Ein größeres Vortraining samt anschließendem Post-Training oder ein Post-Training von GPT‑4.5-Größe hätte ihrer Einschätzung nach zu lange gedauert oder zu viele Versuchsläufe erfordert.

Als Ergebnis beschreibt der Text GPT‑5 als ein Modell, das OpenAI bis August veröffentlichen konnte und das GPT‑4.5 bei vielen nützlichen Aufgaben übertroffen habe, darunter Programmieren und Suche. Zugleich unterscheidet er zwischen Rechenaufwand des abschließenden Trainingslaufs und dem gesamten Entwicklungsaufwand: Wegen zusätzlicher Experimente könne GPT‑5 insgesamt mehr Entwicklungsrechenleistung beansprucht haben. Die genannten Ausgaben für Forschung und Entwicklung sind unsichere Schätzungen aus externen Prognosen; auch die angenommene Einsparung durch Reasoning-Verfahren beruhe auf begrenzten Daten und könne je nach Benchmark variieren. Ein möglicher Beitrag niedrigerer Inferenzkosten wird erwähnt, seine Bedeutung aber ausdrücklich als unklar bezeichnet. Insgesamt handelt es sich um eine begründete Hypothese, nicht um eine bestätigte Darstellung interner OpenAI-Entscheidungen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
  1. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 24 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →