Most of OpenAI’s 2024 compute went to experiments
Zusammenfassung
Kurz
Epoch AI schätzt, dass OpenAI 2024 rund 5 Milliarden US-Dollar für F&E-Rechenleistung ausgab, wovon der größte Teil wahrscheinlich in Forschung, experimentelle Trainingsläufe und unveröffentlichte Modelle floss. Die Schätzungen für finale Trainingsläufe veröffentlichter Modelle sind deutlich kleiner, weisen aber breite Unsicherheitsintervalle auf; vorbereitende Experimente sind dabei ausdrücklich nicht eingerechnet.
Mittel
Epoch AI schätzt OpenAIs Cloud-Rechenkosten 2024 auf 5 Milliarden US-Dollar für Forschung und Entwicklung und rund 2 Milliarden für Inferenz; die Tabelle nennt für Inferenz 1,8 Milliarden. Die zentrale Schlussfolgerung des Berichts: Der Großteil der F&E-Rechenleistung dürfte in Forschung, experimentelle Trainingsläufe und unveröffentlichte Modelle gegangen sein, nicht in die finalen Trainingsläufe veröffentlichter Modelle.
Für den finalen GPT‑4.5-Trainingslauf schätzt Epoch AI 400 Millionen Dollar (Tabellenwert: 386 Millionen; 90-Prozent-Intervall: 170 bis 890 Millionen). Andere erfasste veröffentlichte Modelle veranschlagen sie mit 80 Millionen (Tabellenwert: 83 Millionen; Intervall: 24 bis 435 Millionen). Die übrigen F&E-Kosten werden mit 4,5 Milliarden angegeben und umfassen laut Tabelle Grundlagenforschung, vorbereitende experimentelle Läufe und unveröffentlichte Modelle.
Die Schätzungen verbinden Berichte zu den Gesamtkosten mit eigenen Kostenschätzungen für Veröffentlichungen von Q2 2024 bis Q1 2025. Erfasst werden finale Trainingsläufe, keine vorbereitenden Experimente. Die Beträge sind unsicher; die Intervalle sind breit, und die einzelnen sonstigen Forschungsprojekte werden nicht aufgeschlüsselt.
Ausführlich lesen
Der Bericht von Epoch AI schätzt, wie OpenAIs Ausgaben für Cloud-Rechenleistung im Jahr 2024 auf Forschung und Entwicklung (F&E) sowie Inferenz entfielen. Seine zentrale Aussage lautet: Der größte Teil der F&E-Rechenleistung dürfte nicht in die abschließenden Trainingsläufe der veröffentlichten Modelle geflossen sein, sondern in Forschung, experimentelle Vorläufe oder Modelle, die noch nicht veröffentlicht waren.
Laut Bericht beliefen sich die gesamten F&E-Ausgaben für Rechenleistung auf geschätzt 5 Milliarden US-Dollar. Für Inferenz nennt der Text rund 2 Milliarden Dollar; die nachgeholte Tabelle weist dafür 1,8 Milliarden aus. Die Beträge sind Schätzungen der Cloud-Rechenkosten. Epoch AI veranschlagt den abschließenden Trainingslauf von GPT‑4.5 auf 400 Millionen Dollar; als tatsächlichen Betrag führt die Tabelle 386 Millionen auf. Das angegebene 90-Prozent-Konfidenzintervall reicht von 170 bis 890 Millionen Dollar. Für die abschließenden Trainingsläufe anderer veröffentlichter Modelle setzt die Schätzung 80 Millionen Dollar an, bei einem Tabellenwert von 83 Millionen und einem 90-Prozent-Intervall von 24 bis 435 Millionen Dollar. Dazu zählt der Bericht Modelle und Arbeiten aus dem Zeitraum Q2 2024 bis Q1 2025, darunter GPT‑4o, GPT‑4o mini, Sora Turbo sowie Nachtrainings für GPT‑4o-Aktualisierungen und die o‑Serie.
Die übrigen F&E-Kosten werden auf 4,5 Milliarden Dollar geschätzt. Diese Kategorie umfasst laut Tabellenbeschreibung Grundlagenforschung, experimentelle beziehungsweise der Risikominderung dienende Trainingsläufe zur Vorbereitung späterer finaler Trainingsläufe sowie unveröffentlichte Modelle. Zusammengenommen legt die Aufstellung nahe, dass die finalen Trainingsläufe der erfassten veröffentlichten Modelle nur einen kleinen Teil der gesamten F&E-Rechenkosten ausmachten.
Methodisch kombiniert Epoch AI veröffentlichte Berichte zur Gesamthöhe von OpenAIs Rechenkosten mit eigenen Schätzungen der Trainingskosten für Modelle, die OpenAI von Q2 2024 bis Ende Q1 2025 veröffentlichte oder herausbrachte. Für jedes dieser Modelle wird nur der finale Lauf berücksichtigt, der die veröffentlichte Version erzeugte; vorbereitende experimentelle Läufe sind darin nicht enthalten. Epoch AI erklärt außerdem, OpenAI habe 2024 keine nennenswerten eigenen KI-Rechenkapazitäten besessen, weshalb die Cloud-Ausgaben nach Einschätzung des Berichts sämtliche damaligen Rechenressourcen abbilden. Die Zahlen bleiben Schätzungen mit teils breiten Unsicherheitsintervallen; der Bericht weist keine vollständige Aufschlüsselung der einzelnen experimentellen oder unveröffentlichten Projekte aus.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Einordnung stützt sich nur auf den Bericht. Zu den Sammelfragen liegen keine Teilfragen vor.
Im Bericht, aber nicht in der Zusammenfassung
- Inferenz-Rechenkosten von etwa 2 Mrd. US-Dollar fehlen in der Kurzfassung
- Der Bericht erwähnt, dass OpenAI 2024 kaum eigene Rechenkapazität besaß und alle Ausgaben Cloud-Miete bei Microsoft waren
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 31 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 63 %Hintergrund, keine Belege
- JEV 28 %einzelne zitierbare Belege
- amos 32 %einzelne zitierbare Belege
- SubQ 100 %kein Bezug
- drex 24 %einzelne zitierbare Belege
- d3-ultra 36 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 28 %gleiches Oberthema, hilft nicht
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %Hintergrund, keine Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv