Today’s largest data center can do more than 20 GPT-4-scale training runs each month
Zusammenfassung
Kurz
Epoch AI schätzt, dass Fairwater Atlanta etwa 23 GPT-4-große Trainingsläufe pro Monat ermöglicht; für Fairwater Wisconsin prognostiziert der Bericht bis Ende 2027 mehr als 225. Die Werte werden aus geschätztem Trainingsaufwand und geschätzter Rechenleistung bei 16-Bit-Präzision berechnet und bezeichnen Kapazitäten, keine belegten tatsächlichen Trainingsläufe.
Mittel
Epoch AI schätzt, wie viele Trainingsläufe mit einem Rechenaufwand in der Größenordnung von GPT-4 große Rechenzentren pro Monat parallel ermöglichen. Microsofts Fairwater Atlanta könne demnach bereits rund 23 solcher Läufe monatlich bewältigen. In 90 bis 100 Tagen, der angegebenen Dauer des ursprünglichen GPT-4-Trainings, wären es etwa 70. Epoch AI zufolge dürfte xAIs Colossus 2 diese Kapazität bis Ende 2026 mehr als verdoppeln; für Microsofts Fairwater Wisconsin erwartet das Unternehmen bis Ende 2027 mehr als 225 Läufe pro Monat. Die Grafik nennt für diesen Standort im September 2027 einen Schätzwert von 225,50.
Für die Berechnung verbindet Epoch AI Schätzungen zu GPT-4-Trainingsaufwand und -dauer mit geschätzter Rechenleistung der Rechenzentren. Der Vergleich setzt 16-Bit-Präzision voraus. Die Angaben beschreiben also berechnete Kapazitäten und Prognosen, nicht tatsächlich absolvierte Trainingsläufe. Der vorliegende Text macht keine näheren Angaben zur Unsicherheit der Schätzwerte.
Ausführlich lesen
Der Bericht von Epoch AI schätzt, wie viele Trainingsläufe mit einem Rechenaufwand in der Größenordnung von GPT-4 große Rechenzentren innerhalb eines Monats parallel ausführen könnten. Nach der Darstellung kann Microsofts Rechenzentrum Fairwater Atlanta bereits rund 23 solcher Läufe pro Monat bewältigen. In der Zeitspanne von 90 bis 100 Tagen, die laut einer verlinkten Quelle für das ursprüngliche GPT-4-Training benötigt wurde, entspräche das ungefähr 70 Läufen. Der Bericht führt an, dass größere Rechenzentren KI-Laboren mehr und größere Experimente sowie abschließende Trainingsläufe ermöglichen.
Für die weitere Entwicklung nennt Epoch AI Prognosen: Colossus 2 von xAI dürfte diese Kapazität bis Ende 2026 mehr als verdoppeln. Für Ende 2027 erwartet der Bericht, dass Microsofts Fairwater Wisconsin mehr als 225 GPT-4-große Trainingsläufe pro Monat ermöglicht. Die ergänzte Grafik weist für Fairwater Wisconsin am 17. September 2027 einen Wert von 225,50 aus. Weitere Tabellenwerte reichen von 8,69 GPT-4-großen Läufen für Colossus 1 im Februar 2025 bis zu 60,36 für Colossus 2 im Februar 2026; für OpenAI Stargate Abilene nennt sie im März 2027 108,56.
Methodisch kombiniert Epoch AI Schätzungen zum Rechenaufwand und zur Trainingsdauer von GPT-4 aus seiner Modelldatenbank mit Schätzungen der Rechenleistung einzelner Rechenzentren aus seiner Datenbank zu führenden KI-Rechenzentren. Daraus berechnet das Team, wie viele GPT-4-große Läufe der jeweils größte Standort in einem Monat parallel absolvieren könnte. Für den Vergleich mit den Bedingungen des GPT-4-Trainings wird eine Rechenleistung bei 16-Bit-Präzision zugrunde gelegt.
Die Zahlen sind daher modellierte Kapazitätsschätzungen, keine Angaben zu tatsächlich durchgeführten Trainingsläufen. Besonders die Werte für künftige Standorte und Zeitpunkte sind Prognosen. Der bereitgestellte Bericht erläutert die Berechnung in Grundzügen und verweist auf ausführlichere Dokumentation, enthält hier aber keine weiteren Angaben zur Unsicherheit der einzelnen Schätzungen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Teilfragen sind nicht angegeben, daher wurden nur die drei Sammelfragen bewertet. Die Zusammenfassungen sind inhaltlich nah am Bericht; die Einordnung stützt sich auf dessen Inhalt und nicht auf Lunas Stufen.
Im Bericht, aber nicht in der Zusammenfassung
- Größere Rechenzentren erlauben Laboren, Anzahl und Umfang von Experimenten und finalen Trainingsläufen deutlich zu steigern
- Die Grafik zeigt einen Verlauf von 8,69 GPT-4-Läufen (xAI Colossus 1, Februar 2025) bis 225,50 (Fairwater Wisconsin, September 2027) über zehn Datenpunkte
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 22 %Hintergrund, keine Belege
- Luna 47 %Hintergrund, keine Belege
- JEV 31 %Hintergrund, keine Belege
- amos 31 %einzelne zitierbare Belege
- SubQ 100 %kein Bezug
- drex 23 %einzelne zitierbare Belege
- d3-ultra 42 %Hintergrund, keine Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 55 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 32 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 33 %Hintergrund, keine Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 37 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 57 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv