The stock of computing power from NVIDIA chips is doubling every 10 months
Zusammenfassung
Kurz
Epoch AI schätzt, dass die kumulierte Rechenleistung installierter NVIDIA-GPUs seit 2019 jährlich etwa um den Faktor 2,3 zugenommen hat; Hopper stelle 77 Prozent der NVIDIA-KI-Rechenleistung. Die Berechnung umfasst nur Rechenzentrumsverkäufe und lässt Gaming-GPUs sowie TPUs und andere spezialisierte Beschleuniger aus.
Mittel
Epoch AI schätzt, dass die kumulierte Rechenleistung installierter NVIDIA-GPUs seit 2019 etwa um den Faktor 2,3 pro Jahr gewachsen ist – ungefähr eine Verdopplung alle zehn Monate. Der Bericht veranschlagt die aktuelle Kapazität auf rund 4 × 10²¹ FLOP/s beziehungsweise vier Millionen H100-Äquivalente. Hopper stelle 77 Prozent der Rechenleistung von NVIDIAs KI-Hardware; ältere Chipgenerationen machten etwa vier Jahre nach ihrer Einführung typischerweise weniger als die Hälfte der kumulierten Leistung aus.
Die Schätzung beruht auf NVIDIA-Umsatzangaben und der Annahme, dass die Verteilung der Chipgenerationen dem Muster eines Datensatzes zu KI-Clustern folgt. Eingerechnet werden nur Rechenzentrumsverkäufe, nicht Gaming-GPUs; Abschreibung wird berücksichtigt. TPUs und andere spezialisierte Beschleuniger fehlen. Epoch merkt an, dass TPUs möglicherweise insgesamt eine vergleichbare Rechenleistung wie NVIDIA-Chips haben. Die Zahlen sind daher eine modellgestützte Schätzung für NVIDIA-Rechenzentren und keine vollständige Erfassung der weltweiten KI-Rechenkapazität.
Ausführlich lesen
Der Bericht von Epoch AI schätzt die verfügbare Rechenleistung installierter NVIDIA-GPUs nach Chipgeneration. Seine zentrale Aussage: Seit 2019 sei die kumulierte Rechenleistung ungefähr um den Faktor 2,3 pro Jahr gewachsen. Der Titel fasst das als Verdopplung etwa alle zehn Monate zusammen. Epoch verbindet dieses Wachstum mit der Möglichkeit, immer größere Modelle zu trainieren.
Für die Schätzung ordnet Epoch NVIDIA-Umsatzangaben verschiedenen GPU-Modellen zu. Dabei wird angenommen, dass sich die Verteilung der Chipgenerationen über die Zeit ähnlich entwickelt wie in einem Datensatz zu KI-Clustern. Berücksichtigt werden nur Verkäufe für Rechenzentren; Rechenleistung aus der von NVIDIA ausgewiesenen Gaming-Sparte bleibt außen vor. Die kumulierte Rechenleistung wird laut Bericht zudem unter Berücksichtigung von Abschreibung berechnet.
Epoch veranschlagt die derzeit installierte Rechenleistung von NVIDIA-GPUs auf rund 4 × 10²¹ FLOP/s, entsprechend etwa vier Millionen H100-Äquivalenten. In der im Bericht gezeigten Aufteilung stellt die Hopper-Generation 77 Prozent der gesamten Rechenleistung von NVIDIAs KI-Hardware. Ältere Generationen tragen demnach im Lauf der Zeit relativ weniger bei: Rund vier Jahre nach ihrer Einführung machten sie üblicherweise weniger als die Hälfte der kumulierten Rechenleistung aus.
Die Ergebnisse sind Schätzungen und hängen von den genannten Zuordnungsannahmen und der verfügbaren Datenlage ab. TPUs und andere spezialisierte KI-Beschleuniger sind nicht in der NVIDIA-Auswertung enthalten. Epoch weist darauf hin, dass TPUs insgesamt möglicherweise eine mit NVIDIA-Chips vergleichbare Rechenleistung bereitstellen. Der Bericht liefert damit eine modellgestützte Einschätzung zu NVIDIA-Rechenzentren, keine vollständige Bilanz aller weltweit verfügbaren KI-Rechenleistung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Beide Zusammenfassungen von Luna sind inhaltlich treu. Der Schlusssatz der mittleren Fassung, dass die Zahlen keine vollständige Erfassung der weltweiten KI-Rechenkapazität seien, ist eine Schlussfolgerung aus dem Ausschluss von TPUs und anderen Beschleunigern und steht so nicht wörtlich im Bericht. Teilfragen wurden nicht angegeben, daher wurden nur die drei Sammelfragen bewertet.
Im Bericht, aber nicht in der Zusammenfassung
- In der Kurzfassung fehlt der Gesamtbestand von etwa 4e21 FLOP/s bzw. rund 4 Mio. H100-Äquivalenten.
- In der Kurzfassung fehlt die Aussage, dass ältere GPU-Generationen etwa vier Jahre nach Einführung meist weniger als die Hälfte der kumulierten Rechenleistung ausmachen.
- In der Kurzfassung fehlt die Methodik: Schätzung aus NVIDIA-Umsatzangaben und der Annahme, dass die Generationsverteilung einem Datensatz zu KI-Clustern folgt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 82 %Hintergrund, keine Belege
- JEV
- amos 31 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 73 %Hintergrund, keine Belege
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 30 %Hintergrund, keine Belege
- Luna 84 %Hintergrund, keine Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung Hintergrund, keine Belege
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 85 %Hintergrund, keine Belege
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 65 %Hintergrund, keine Belege
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv