The computational performance of machine learning hardware has doubled every 2.3 years
Zusammenfassung
Kurz
Epoch AI behauptet, dass sich die FP16-Spitzenleistung von ML-Hardware im Schnitt alle 2,3 Jahre verdoppelt; für FP32 gelte ein ähnlicher Trend. Der Bericht führt dies auf Fertigungsfortschritte und KI-spezialisierte Hardware zurück und enthält Leistungsdaten verschiedener Formate, erläutert aber weder die Berechnung des Trends noch die Vergleichbarkeit der Werte.
Mittel
Epoch AI zufolge ist die Rechenleistung von ML-Hardware in FP16 im Mittel um 36 Prozent pro Jahr gestiegen und hat sich etwa alle 2,3 Jahre verdoppelt. Für FP32 beschreibt der Bericht einen ähnlichen Verlauf; optimierte Zahlenformate und Tensor-Kerne hätten zusätzliche Leistungsgewinne gebracht. Als Ursachen nennt er mehr Transistoren, Fortschritte in der Halbleiterfertigung und speziell für KI entwickelte Hardware. Das habe Kosten pro Rechenoperation gesenkt, die Energieeffizienz verbessert und großes KI-Training ermöglicht.
Eine Abbildung samt Tabellen listet Spitzenwerte in FLOP/s für FP32, FP16, TF32 und Tensor-FP16/BF16 sowie Geräte, Hersteller und Veröffentlichungsdaten auf. Die Einträge umfassen verschiedene Anbieter und reichen bis zu Hardware mit Datumsangaben aus 2025. Der bereitgestellte Text erklärt jedoch weder die Berechnung der Wachstumsrate noch die Auswahl und Vergleichbarkeit der Geräte. Auch bleibt offen, wie die aufgeführten Spitzenwerte mit der Leistung in konkreten Anwendungen zusammenhängen. Die Aussagen zu Kosten, Effizienz und Training werden nicht durch zusätzliche Messungen oder Fallbeispiele belegt.
Ausführlich lesen
Der Bericht von Epoch AI behandelt die Entwicklung der maximalen Rechenleistung von Hardware für maschinelles Lernen in verschiedenen Zahlenformaten. Seine zentrale Aussage lautet: Gemessen in FP16 habe sich die Leistung demnach im Mittel um 36 Prozent pro Jahr erhöht und etwa alle 2,3 Jahre verdoppelt. Für FP32 beschreibt der Text einen ähnlichen Trend. Optimierte Zahlenformate und spezialisierte Tensor-Kerne hätten laut Bericht zusätzliche Leistungssteigerungen ermöglicht.
Als treibende Faktoren nennt der Bericht steigende Transistorzahlen und weitere Fortschritte in der Halbleiterfertigung sowie die gezielte Auslegung von Chips für KI-Aufgaben. Diese Entwicklungen hätten die Kosten pro Gleitkommaoperation gesenkt, die Energieeffizienz verbessert und das Training großer KI-Modelle ermöglicht. Das sind die Erklärungen und Folgen, die der Bericht behauptet; konkrete Belege oder eine ausführliche Herleitung stehen im bereitgestellten Text nicht.
Die begleitende Abbildung und die Tabellen führen Spitzenwerte in FLOP/s für FP32, FP16, TF32 mit 19 Bit sowie Tensor-FP16/BF16 auf. Die Einträge nennen Hardware, Hersteller und Veröffentlichungsdatum. Sie umfassen unter anderem Beschleuniger von NVIDIA, AMD, Intel, Google, Amazon, Meta und weiteren Anbietern und reichen in den aufgeführten Daten von älteren Geräten bis zu Modellen mit Veröffentlichungsdaten im Jahr 2025. Die Übersicht zeigt damit sowohl Unterschiede zwischen Formaten als auch die große Spannweite der angegebenen Spitzenwerte. Ein Teil der Tabelle ist im bereitgestellten Quelltext doppelt enthalten.
Der Text legt keine Berechnungsmethode für die jährliche Wachstumsrate offen und erläutert weder die Auswahl der Geräte noch, wie die Werte zwischen Herstellern vergleichbar gemacht wurden. Er unterscheidet auch nicht ausdrücklich zwischen ausgewiesener Spitzenleistung und tatsächlich erreichter Leistung bei konkreten Anwendungen. Daher lässt sich aus dem Auszug allein nicht beurteilen, wie die Trendangabe ermittelt wurde oder in welchem Maß sie sich auf reale Trainingszeiten übertragen lässt. Die Aussagen zu Kosten, Energieeffizienz und großmaßstäblichem Training werden zusammenfassend genannt, aber nicht durch eigene Messwerte oder Fallstudien belegt.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Zusammenfassungen sind inhaltlich korrekt und erfinden nichts, lassen aber in der Kurzfassung zentrale Angaben aus. Die Einordnung ist zurückhaltend, weil der Bericht die Sammelfragen nur am Rande berührt. Für Teilfragen liegen keine Einordnungen vor.
Im Bericht, aber nicht in der Zusammenfassung
- Kurzfassung: Die jährliche Wachstumsrate von 36 Prozent für FP16 fehlt.
- Kurzfassung: Ursachen wie steigende Transistorzahlen, Fortschritte in der Halbleiterfertigung und KI-spezialisiertes Design fehlen.
- Kurzfassung: Die Folgen geringere Kosten pro FLOP, höhere Energieeffizienz und großskaliges KI-Training fehlen.
- Kurzfassung: Der Hinweis auf optimierte Zahlenformate und Tensor-Kerne fehlt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 58 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 43 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 43 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 49 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 45 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 53 %Hintergrund, keine Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 66 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 76 %Hintergrund, keine Belege
- JEV 35 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv