Leading AI companies have hundreds of thousands of cutting-edge AI chips
Zusammenfassung
Kurz
Epoch AI schätzt, dass Google, Microsoft, Meta und Amazon jeweils über Rechenleistung im Umfang Hunderttausender H100-Äquivalente verfügen; bei Google kommen umfangreiche TPU-Kapazitäten hinzu. Die Zahlen beruhen auf Verkaufs- und Branchenanalysen, sind Schätzungen und sagen wegen Vermietung und Zukauf nicht unmittelbar aus, wer die Kapazität tatsächlich nutzt.
Mittel
Der Bericht schätzt die KI-Rechenkapazität großer Technologieunternehmen in H100-Äquivalenten. Grundlage sind NVIDIA-Umsätze und Schätzungen zur Kundenverteilung von 2022 bis Mitte 2024 sowie Branchenanalysen zu Googles TPU-Kapazität. Verglichen wird die Tensor-FP16-Rechenleistung; die Google-Zahlen schließen Alphabet ein.
Die mittleren Schätzwerte für NVIDIA-Beschleuniger betragen 320.000 H100-Äquivalente bei Google, 660.000 bei Microsoft, 400.000 bei Meta und 290.000 bei Amazon. Google kommen geschätzte 920.000 H100-Äquivalente aus TPUs hinzu. Daher könne Google insgesamt auf mehr als eine Million H100-äquivalente Rechenleistung zugreifen; Microsoft habe wahrscheinlich den größten NVIDIA-Bestand unter den vier. Für andere NVIDIA-Besitzer liegt der Median bei 1,4 Millionen.
Die Werte sind Schätzungen mit ausgewiesenen Perzentilbereichen, keine geprüfte Inventarliste. Zudem wird ein großer Teil der Kapazität vermietet, und die Unternehmen mieten teils selbst Rechenleistung von anderen. Weitere Cloud-Anbieter, Firmen und Regierungen besitzen ebenfalls Kapazitäten, zu denen laut Bericht wenig öffentliche Daten vorliegen.
Ausführlich lesen
Der Bericht schätzt die KI-Rechenkapazität von Google, Microsoft, Meta und Amazon und vergleicht sie anhand der Rechenleistung mit NVIDIA-H100-Beschleunigern. Nach Einschätzung des Autors verfügen diese großen Technologieunternehmen jeweils über Rechenleistung im Umfang Hunderttausender H100-Äquivalente. Sie nutzen sie für eigene KI-Entwicklung und vermieten einen erheblichen Teil an Cloud-Kunden, darunter führende KI-Labore.
Die Schätzungen beruhen auf NVIDIA-Umsätzen von 2022 bis Mitte 2024 und Auslieferungen von Google-TPUs. Für NVIDIA-Chips verbindet Epoch AI Daten zu Gesamtverkäufen mit Schätzungen, welcher Anteil an einzelne Kunden ging. Googles TPU-Kapazität wird anhand von Branchenanalysen geschätzt. Die Chip-Leistung wird in H100-Äquivalente umgerechnet, und zwar nach der Rechenleistung bei Tensor-FP16-Operationen. Die Google-Angabe umfasst Alphabet insgesamt.
Als mittlere Schätzwerte nennt die Abbildung für NVIDIA-Beschleuniger 320.000 H100-Äquivalente bei Google, 660.000 bei Microsoft, 400.000 bei Meta und 290.000 bei Amazon. Für Googles TPUs werden zusätzlich 920.000 H100-Äquivalente ausgewiesen. Das stützt die Aussage des Berichts, Google könne insgesamt Zugriff auf mehr als eine Million H100-äquivalente Rechenleistung haben, überwiegend durch TPUs. Microsoft wird als Unternehmen mit dem wahrscheinlich größten Bestand an NVIDIA-Beschleunigern eingeschätzt. Für NVIDIA-Kapazität außerhalb der vier Unternehmen liegt der Median bei 1,4 Millionen H100-Äquivalenten.
Die Tabelle enthält außerdem jeweils das 25. und 75. Perzentil als Schätzbereiche: etwa 540.000 bis 800.000 für Microsofts NVIDIA-Kapazität, 330.000 bis 490.000 für Meta und 240.000 bis 370.000 für Amazon. Für Googles TPUs reicht der Bereich von 670.000 bis 1,1 Millionen. Diese Werte sind Schätzungen, keine verifizierte Bestandsaufnahme.
Der Bericht betont, dass Rechenleistung nicht allein den vier genannten Unternehmen gehört. Weitere Cloud-Anbieter, Unternehmen mit hohem Rechenbedarf wie Tesla und xAI sowie Regierungen halten ebenfalls beträchtliche Kapazitäten; zu ihnen gebe es jedoch wenig öffentliche Daten. Außerdem entspricht Besitz nicht unbedingt tatsächlichem Zugriff: Die großen Anbieter vermieten Kapazität an andere, während sie selbst Rechenleistung von Dritten mieten können. Deshalb bilden die Zahlen weder die exklusive Nutzung durch ein Unternehmen noch eine vollständige weltweite Bestandsübersicht ab.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Zusammenfassungen sind weitgehend treu; die Auslassung der 500.000-Angabe für Microsoft sowie die Abweichung zur Tabelle sollten jedoch kenntlich gemacht werden. Bei der Einordnung wurden nur die drei Sammelfragen bewertet, da keine Teilfragen angegeben waren.
Im Bericht, aber nicht in der Zusammenfassung
- Der Bericht nennt im Text für Microsoft rund 500.000 H100-Äquivalente, während die Tabelle einen Median von 660.000 ausweist; diese Abweichung wird nicht erwähnt.
- Konkrete Beispiele für Vermietung, etwa OpenAI mietet bei Microsoft und Anthropic bei Amazon und Google, fehlen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 27 %Hintergrund, keine Belege
- Luna 71 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 34 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung Hintergrund, keine Belege
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 32 %Hintergrund, keine Belege
- Luna 49 %Hintergrund, keine Belege
- JEV 51 %Hintergrund, keine Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 65 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 35 %Hintergrund, keine Belege
- Luna 45 %Hintergrund, keine Belege
- JEV 51 %Hintergrund, keine Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 49 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 85 %Hintergrund, keine Belege
- JEV 48 %Hintergrund, keine Belege
- amos 34 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 45 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %Hintergrund, keine Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 27 %Hintergrund, keine Belege
- Luna 72 %Hintergrund, keine Belege
- JEV 43 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 47 %Hintergrund, keine Belege
- Haiku-Prüfung Hintergrund, keine Belege
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %Hintergrund, keine Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- Alle Berichte im Archiv