Can AI scaling continue through 2030?
Zusammenfassung
Kurz
Epoch AI schätzt, dass bis 2030 Trainingsläufe von etwa 2 × 10²⁹ FLOP technisch möglich sein könnten, sofern das bisherige Wachstum anhält. Am ehesten begrenzen Stromversorgung und Chipproduktion die Skalierung; die Schätzungen hängen jedoch von unsicheren Infrastruktur-, Effizienz- und Datenannahmen ab, und die nötigen Investitionen könnten Hunderte Milliarden Dollar kosten.
Mittel
Epoch AI untersucht, ob der Rechenaufwand für KI-Training bis 2030 weiter etwa viermal jährlich wachsen kann. Die Autoren schätzen, dass Trainingsläufe von rund 2 × 10²⁹ FLOP dann wahrscheinlich technisch möglich wären – ungefähr 10.000-mal mehr als bei heutigen Spitzenmodellen. Das ist eine Machbarkeitsschätzung, keine Vorhersage, dass solche Modelle tatsächlich gebaut werden.
Analysiert werden Stromversorgung, Chipproduktion, verfügbare Trainingsdaten und Kommunikationslatenz. Als wahrscheinlich wichtigste Grenzen gelten Energie und Chips: Einzelne Standorte könnten nach den Schätzungen ein bis fünf Gigawatt bereitstellen; verteilte Rechenzentren könnten mehr Strom nutzen, benötigen dafür aber leistungsfähige Verbindungen und Infrastruktur. Bei Chips reicht die breite Projektion von 20 bis 400 Millionen H100-Äquivalenten bis 2030. Multimodale Daten könnten die Textdaten ergänzen; synthetische Daten werden wegen unsicherer Belege nicht in die zentrale Schätzung einbezogen. Die Latenzgrenze dürfte laut Bericht erst bei noch größeren Trainingsläufen entscheidend werden.
Die Ergebnisse hängen von unsicheren Ausbau-, Effizienz- und Nutzungsannahmen ab. Ein Trainingslauf dieser Größe könnte Hunderte Milliarden Dollar kosten. Ob Unternehmen oder Regierungen investieren und ob Netz- und Produktionskapazitäten rechtzeitig entstehen, bleibt offen.
Ausführlich lesen
Der Bericht von Epoch AI untersucht, ob das schnelle Wachstum des Rechenaufwands beim KI-Training – laut Bericht etwa eine Vervierfachung pro Jahr – bis 2030 technisch weitergehen könnte. Die Autoren schätzen anhand von vier möglichen Engpässen ab, welche Größenordnung dann erreichbar wäre. Ihr zentrales Ergebnis lautet: Trainingsläufe mit etwa 2 × 10²⁹ FLOP könnten bis zum Ende des Jahrzehnts wahrscheinlich möglich sein. Das wäre ungefähr eine 10.000-fache Steigerung gegenüber heutigen Spitzenmodellen und entspräche laut Bericht dem Größenabstand zwischen GPT‑2 und GPT‑4. Die Aussage betrifft technische Machbarkeit, nicht die Vorhersage, dass solche Läufe tatsächlich stattfinden.
Für die Abschätzung verbindet der Bericht historische Entwicklungen mit öffentlichen Ausbauplänen, Unternehmens- und Versorgerprognosen sowie eigenen Schätzungen. Dabei setzt er Trainingsdauern von zwei bis neun Monaten an. Für große Trainingsläufe nimmt er außerdem an, dass Unternehmen nur einen Teil der verfügbaren Chips und Energie bündeln können. Angegebene Intervalle sollen überwiegend 80‑Prozent-Konfidenzintervalle darstellen.
Als wahrscheinlich engsten Engpass sehen die Autoren die Stromversorgung. Einzelne Rechenzentrumscampi mit ein bis fünf Gigawatt Leistung könnten nach ihrer Einschätzung bis 2030 Trainingsläufe von ungefähr 10²⁸ bis 3 × 10²⁹ FLOP ermöglichen. Über mehrere Standorte verteiltes Training könnte mehr regionale Stromnetze nutzen; dafür veranschlagt der Bericht zwei bis 45 Gigawatt und mögliche Läufe von 2 × 10²⁸ bis 2 × 10³⁰ FLOP. Voraussetzung wären unter anderem leistungsfähige Verbindungen zwischen den Standorten. Die Autoren halten die nötige Bandbreite grundsätzlich für erreichbar, verweisen aber darauf, dass die Strombeschaffung und der Ausbau der Infrastruktur unsicher bleiben. Neue Kraftwerke könnten Planung mehrere Jahre im Voraus erfordern; Netzengpässe, Genehmigungen, politische Faktoren und Klimaziele können den Ausbau erschweren.
Beim Chipangebot erwarten die Autoren starke Zuwächse, vor allem durch mehr Kapazität für fortgeschrittene Chipverpackung und Hochbandbreitenspeicher. Ihre mittlere Schätzung sieht bis 2030 rund 100 Millionen H100-äquivalente Chips für das Training vor, genug für etwa 9 × 10²⁹ FLOP. Die Unsicherheit ist groß: Die Schätzspanne von 20 bis 400 Millionen Chips entspricht möglichen Trainingsläufen von etwa 10²⁹ bis 5 × 10³⁰ FLOP. Der Bericht nennt Verpackung und Speicher als wesentliche Produktionsgrenzen; ausreichende Investitionen und spezialisierte Arbeitskräfte sind nicht garantiert.
Bei Daten reichen die Schätzungen von 400 Billionen bis 20 Billiarden effektiven Tokens, wenn Text sowie Bild-, Video- und Audiodaten berücksichtigt werden. Daraus leiten die Autoren mögliche Trainingsläufe von 6 × 10²⁸ bis 2 × 10³² FLOP ab. Diese breite Spanne hängt stark von Datenqualität, Tokenisierung und der nutzbaren Menge multimodaler Daten ab. Synthetische Daten könnten die Knappheit möglicherweise weiter verringern, werden wegen der jungen und gemischten Beleglage aber nicht in die zentrale Schätzung eingerechnet. Zudem bleibt offen, ob zu viel synthetisches Material die Modellleistung beeinträchtigen könnte.
Die sogenannte Latenzgrenze entsteht, weil Trainingsschritte teilweise nacheinander ausgeführt werden müssen. Der Bericht schätzt, dass sie bei heutiger Technik erst oberhalb von etwa 10³⁰ bis 10³² FLOP maßgeblich wird. Größere Batches oder veränderte Netzwerktopologien könnten diese Grenze verschieben; die zugrunde liegenden Annahmen sind jedoch unsicher. Die Autoren erwähnen außerdem, dass ihre Latenzschätzung möglicherweise zu optimistisch ist.
Schließlich betont der Bericht, dass technische Möglichkeit nicht wirtschaftliche Absicht bedeutet. Ein solcher Trainingslauf könnte Hunderte Milliarden Dollar kosten. Ob Unternehmen oder Regierungen diese Summen investieren, ob erwartete Leistungsgewinne eintreten und ob sich die nötige Energie- und Chipinfrastruktur rechtzeitig aufbauen lässt, bleibt offen und liegt teilweise außerhalb des Untersuchungsumfangs.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Einordnung gibt für SF-E4 Stufe 3 an; nach dem Bericht halte ich Stufe 4 für angemessener. Die Anteilsangaben in Lunas Einordnung wurden nicht übernommen, da die Skala nur Stufen vorsieht.
Im Bericht, aber nicht in der Zusammenfassung
- Der Bericht nennt Energie und Chipproduktion als wahrscheinlich bindendste Grenzen und Daten als unsicherste Größe (Unsicherheitsspanne über vier Größenordnungen); Luna erwähnt die Gewichtung der Engpässe nicht.
- Der Vergleich GPT-2 zu GPT-4 als Maßstab für die Größe der möglichen Trainingsläufe, den der Bericht als zentrales Ergebnis formuliert, fehlt in Lunas Zusammenfassungen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 25 %Hintergrund, keine Belege
- Luna 47 %Hintergrund, keine Belege
- JEV 54 %gleiches Oberthema, hilft nicht
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 26 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 19 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 66 %Hintergrund, keine Belege
- JEV 34 %Hintergrund, keine Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 68 %Hintergrund, keine Belege
- JEV 33 %gleiches Oberthema, hilft nicht
- amos 30 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 51 %einzelne zitierbare Belege
- JEV 27 %einzelne zitierbare Belege
- amos 29 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 26 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 38 %gleiches Oberthema, hilft nicht
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 44 %nur am Rande erwähnt
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 68 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 36 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 66 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 28 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 63 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 72 %Hintergrund, keine Belege
- JEV 31 %einzelne zitierbare Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung einzelne zitierbare Belege
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 41 %Hintergrund, keine Belege
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv