Total AI chip memory bandwidth has grown 4.1x per year, now reaching 70 million terabytes per second
Zusammenfassung
Kurz
Epoch AI schätzt, dass die seit 2022 ausgelieferten KI-Chips im vierten Quartal 2025 zusammen rund 70 Millionen Terabyte Speicherbandbreite pro Sekunde erreichten – etwa das 300.000-Fache des weltweiten Internetverkehrs. Die Schätzung kombiniert Herstellerangaben zu Auslieferungen und Chipbandbreite; besonders die gemeinsam ausgewiesenen Lieferungen von Nvidia H100 und H200 erfordern ein Modell und bringen Unsicherheit mit sich. Die Kennzahl ist laut Bericht nur ein grober Näherungswert für die Kapazität, KI-Modelle zu bedienen.
Mittel
Epoch AI schätzt die kumulierte HBM-Speicherbandbreite von KI-Chips, die seit 2022 ausgeliefert wurden, für Q4 2025 auf rund 70 Millionen Terabyte pro Sekunde. Das sei etwa das 300.000-Fache des globalen Internetverkehrs; der Titel nennt ein jährliches Wachstum um den Faktor 4,1. Die Kennzahl soll als grober Indikator für die Kapazität dienen, KI-Modelle zu bedienen. Laut Bericht entfielen 2025 mehr als 90 Prozent der HBM-Branchenproduktion nach Umsatz auf KI-Chips.
Die Schätzung beruht auf Finanzangaben von fünf großen Herstellern. Epoch AI multipliziert quartalsweise Auslieferungen mit der bekannten Bandbreite der Chips. Bei Varianten wird die meistverkaufte zugrunde gelegt oder, falls diese unbekannt ist, das geometrische Mittel verwendet. Die Datenübersicht umfasst Nvidia, Google, AMD, Amazon und Huawei.
Eine wesentliche Unsicherheit betrifft Nvidia H100 und H200, deren Auslieferungen gemeinsam berichtet werden, obwohl ihre Spezifikationen abweichen. Epoch AI schätzt ihren Übergang mit einer logistischen S-Kurve anhand von sechs öffentlichen Datenpunkten und berücksichtigt die Unsicherheit per Monte-Carlo-Simulation. Die Summe ist eine modellierte Näherung, keine direkte Messung der tatsächlich genutzten KI-Kapazität; weitere Grenzen oder ein Gesamtintervall nennt der Text nicht.
Ausführlich lesen
Der Bericht von Epoch AI betrachtet die Entwicklung der Speicherbandbreite von KI-Chips, die seit 2022 ausgeliefert wurden. Hochbandbreitenspeicher (HBM) ist für diese Chips wichtig, weil er Daten für das Training und den Betrieb großer Modelle bereitstellt. Epoch AI verwendet die aufsummierte HBM-Bandbreite deshalb als groben Anhaltspunkt für die weltweite Kapazität, KI-Modelle zu bedienen. Der Bericht weist darauf hin, dass KI-Chips 2025 nach Umsatz mehr als 90 Prozent der HBM-Branchenproduktion beansprucht hätten.
Epoch AI zufolge erreichte die kumulierte Speicherbandbreite ausgelieferter KI-Chips im vierten Quartal 2025 rund 70 Millionen Terabyte pro Sekunde. Das entspreche etwa dem 300.000-Fachen des weltweiten Internetverkehrs. Der Titel gibt außerdem ein jährliches Wachstum um den Faktor 4,1 an. Die Daten stammen laut Bericht aus Finanzangaben von fünf großen Chipherstellern. Eine Tabelle schlüsselt kumulierten Speicher und kumulierte Bandbreite nach Quartal, Chiptyp und Hersteller auf. Sie umfasst Produkte von Nvidia, Google, AMD, Amazon und Huawei. Die Zahlen zeigen besonders große ausgewiesene Bandbreiten für Nvidia-Chips; auch andere Hersteller und Chipfamilien tragen zur Gesamtsumme bei.
Für die Schätzung multipliziert Epoch AI die Auslieferungen je Quartal mit der bekannten Speicherbandbreite des jeweiligen Chips und addiert die Werte über die Zeit. Gibt es mehrere Varianten mit unterschiedlichen Bandbreiten, wird die meistverkaufte Variante angesetzt. Wenn sich nicht feststellen lässt, welche Variante den Absatz dominierte, verwendet Epoch AI das geometrische Mittel der Variantenwerte.
Als zentrale Unsicherheit nennt der Bericht Nvidias Hopper-Generation: In den Finanzangaben werden H100- und H200-Auslieferungen zusammengefasst, obwohl sich ihre Speicherspezifikationen unterscheiden. Epoch AI modelliert den Übergang zwischen beiden mit einer logistischen S-Kurve, die an sechs öffentlich verfügbaren Datenpunkten ausgerichtet ist. Die Unsicherheit dieser Schätzung wird nach eigener Aussage mittels Monte-Carlo-Simulation weitergegeben.
Die Kennzahl ist damit eine modellgestützte Schätzung der kumulierten Bandbreite ausgelieferter Chips, keine direkte Messung tatsächlich genutzter Rechen- oder Dienstleistungskapazität. Der Bericht bezeichnet sie selbst nur als groben Näherungswert. Er nennt die zusammengefasste Berichterstattung zu H100 und H200 ausdrücklich als methodische Herausforderung; weitere Grenzen oder ein Unsicherheitsintervall für die Gesamtschätzung werden im bereitgestellten Text nicht konkret angegeben.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat alle drei Sammelfragen mit Stufe 3 und hohen Anteilen eingeordnet, obwohl der Bericht keine Belege für diese Fragen liefert. Die Einordnung sollte daher deutlich niedriger ausfallen. Für Teilfragen gibt es keine Einordnung, daher wurde keine Teilfrage bewertet.
Im Bericht, aber nicht in der Zusammenfassung
- Die Kurzfassung nennt weder das jährliche Wachstum um den Faktor 4,1 noch den Anteil von über 90 % am HBM-Umsatz oder die Zahl von fünf Herstellern, auf deren Finanzangaben die Schätzung beruht.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- „tatsächlich genutzte“ KI-Kapazität: Der Bericht spricht von der Kapazität, KI-Modelle zu bedienen, nicht von tatsächlicher Nutzung.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 80 %Hintergrund, keine Belege
- JEV 33 %Hintergrund, keine Belege
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 43 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV 34 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 65 %Hintergrund, keine Belege
- JEV 41 %Hintergrund, keine Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 77 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 30 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 76 %Hintergrund, keine Belege
- JEV 40 %Hintergrund, keine Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 59 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv