Why GPT-5 used less training compute than GPT-4.5 (but GPT-6 probably won’t)
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der vorliegende Text ist ein Auszug: Die Autoren vermuten, dass neue Reasoning-Verfahren OpenAI ermöglichten, bei GPT‑5 weniger Rechenleistung für den abschließenden Trainingslauf einzusetzen und dennoch GPT‑4.5 bei vielen Aufgaben zu übertreffen. Zeitdruck, nötige Experimente und fehlende Post-Training-Daten hätten eine Übertragung auf ein größeres Modell erschwert; die Kostenangaben sind grobe Schätzungen, und die Erklärung ist eine Hypothese.
Mittel
Der vorliegende Text ist ein Auszug. Er begründet die im Vorspann genannte These, dass GPT‑5 wahrscheinlich weniger Rechenleistung für seinen abschließenden Trainingslauf benötigte als GPT‑4.5; warum GPT‑6 voraussichtlich wieder mehr verwenden werde, wird im Ausschnitt nicht näher erläutert. Die Einschätzung stammt von den Autorinnen und Autoren und muss nicht die Position von Epoch AI insgesamt wiedergeben.
Als Erklärung führen sie den stärkeren Einsatz neuer Post-Training-Verfahren für Reasoning-Modelle an. Diese könnten laut einer groben Schätzung mehr Post-Training-Rechenleistung so wirksam nutzen, dass der Aufwand fürs Vortraining bei vergleichbarer Leistung erheblich sinkt. Das Rechenbeispiel des Beitrags stellt rund 200 Millionen Dollar für das Vortraining von GPT‑4.5 und 2 Millionen für Post-Training einem hypothetischen Vortraining für 20 Millionen bei gleichem Post-Training-Aufwand gegenüber.
Die Verfahren auf ein größeres Modell zu übertragen hätte nach Einschätzung der Autoren umfangreiche Experimente, Zeit und hochwertige Daten erfordert. Angesichts des Wettbewerbs und des Zeitdrucks habe OpenAI daher vermutlich das Post-Training eines kleineren Modells skaliert. Der Beitrag sagt, GPT‑5 habe GPT‑4.5 bei vielen Aufgaben übertroffen und sei bis August veröffentlicht worden. Er betont zugleich, dass der gesamte Entwicklungsaufwand wegen der Experimente höher gewesen sein könnte. Kosten- und Einsparungszahlen sind unsichere Größenordnungen; die Erklärung bleibt eine Hypothese, da interne Entscheidungsdaten nicht vorgelegt werden.
Ausführlich lesen
Der vorliegende Bericht ist ein Auszug: Er erklärt ausführlich, warum GPT‑5 laut den Autorinnen und Autoren wahrscheinlich mit weniger Rechenaufwand im abschließenden Trainingslauf als GPT‑4.5 trainiert wurde. Die im Vorspann angekündigte Einschätzung, GPT‑6 werde vermutlich wieder mehr Trainingsrechenleistung nutzen, wird im vorliegenden Ausschnitt jedoch nicht ausgeführt. Der Beitrag kennzeichnet sich als meinungsorientierte Einschätzung; seine Aussagen geben nicht zwingend die Position von Epoch AI insgesamt wieder.
Die zentrale These lautet, OpenAI habe bei GPT‑5 stärker auf das nachgelagerte Training („Post-Training“) gesetzt. Neue Verfahren für sogenannte Reasoning-Modelle hätten es seit etwa September 2024 ermöglicht, zusätzliche Rechenleistung im Post-Training wirksamer einzusetzen. Nach der im Text angeführten groben Schätzung könne dies den nötigen Aufwand für das Vortraining deutlich senken: Eine etwa zehnfache Einsparung beim Vortraining könne bei vergleichbarer Leistung möglich sein. Als vereinfachtes Rechenbeispiel stellt der Beitrag für GPT‑4.5 rund 200 Millionen US-Dollar für das Vortraining und 2 Millionen für das Post-Training gegenüber. Mit den neuen Verfahren hätten die 2 Millionen für Post-Training demnach dieselbe Gesamtleistung ermöglichen können wie ein Vortraining für rund 20 Millionen US-Dollar. Die Zahlen sollen Größenordnungen veranschaulichen und sind keine präzise Kostenabrechnung.
Die Autorinnen und Autoren führen zwei Gründe dafür an, dass OpenAI diese Strategie bei GPT‑5 verfolgt habe. Erstens hätten die neuen Post-Training-Methoden bessere zusätzliche Erträge versprochen. Zweitens sei es damals schwierig gewesen, sie schnell auf ein Modell in der Größenordnung von GPT‑4.5 zu übertragen. Das Ausprobieren und Verbessern der Verfahren brauche Zeit und Rechenleistung; größere Modelle seien in Post-Training-Umgebungen aufwendiger. Zusätzlich müsse ausreichend hochwertiger Datensatz für das Post-Training entwickelt und zusammengestellt werden. Laut Beitrag habe OpenAI unter erheblichem Zeitdruck durch konkurrierende Labore und Erwartungen an die Veröffentlichung von GPT‑5 gestanden. Die Autoren vermuten daher, dass OpenAI das Post-Training eines kleineren Modells so weit skalierte, wie es unter den verfügbaren Zeit-, Experimentier- und Datenbedingungen möglich war. Ein größeres Vortraining samt anschließendem Post-Training oder ein Post-Training von GPT‑4.5-Größe hätte ihrer Einschätzung nach zu lange gedauert oder zu viele Versuchsläufe erfordert.
Als Ergebnis beschreibt der Text GPT‑5 als ein Modell, das OpenAI bis August veröffentlichen konnte und das GPT‑4.5 bei vielen nützlichen Aufgaben übertroffen habe, darunter Programmieren und Suche. Zugleich unterscheidet er zwischen Rechenaufwand des abschließenden Trainingslaufs und dem gesamten Entwicklungsaufwand: Wegen zusätzlicher Experimente könne GPT‑5 insgesamt mehr Entwicklungsrechenleistung beansprucht haben. Die genannten Ausgaben für Forschung und Entwicklung sind unsichere Schätzungen aus externen Prognosen; auch die angenommene Einsparung durch Reasoning-Verfahren beruhe auf begrenzten Daten und könne je nach Benchmark variieren. Ein möglicher Beitrag niedrigerer Inferenzkosten wird erwähnt, seine Bedeutung aber ausdrücklich als unklar bezeichnet. Insgesamt handelt es sich um eine begründete Hypothese, nicht um eine bestätigte Darstellung interner OpenAI-Entscheidungen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 36 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 63 %Hintergrund, keine Belege
- JEV 46 %gleiches Oberthema, hilft nicht
- amos 28 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 63 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 62 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 46 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 28 %Hintergrund, keine Belege
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %gleiches Oberthema, hilft nicht
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 24 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv