How much energy does ChatGPT use?
Zusammenfassung
Kurz
Der Bericht schätzt den Stromverbrauch einer typischen GPT-4o-Anfrage auf etwa 0,3 Wh statt der oft zitierten 3 Wh; die Zahl beruht auf unsicheren Annahmen und ist keine direkte Messung. Lange Eingaben und Reasoning-Modelle können deutlich mehr verbrauchen, während Trainings- und Herstellungskosten zusätzliche, schwer zu quantifizierende Aufwände darstellen.
Mittel
Der Bericht schätzt den Stromverbrauch einer typischen textbasierten Anfrage an GPT-4o auf rund 0,3 Wattstunden (Wh), etwa ein Zehntel der oft zitierten älteren Schätzung von 3 Wh. Das ist eine Modellrechnung, keine direkte Messung. Sie beruht unter anderem auf angenommenen 100 Milliarden aktiven Parametern, 500 Ausgabe-Token, NVIDIA-H100-GPUs, 10 Prozent Rechenauslastung und durchschnittlich 70 Prozent der Spitzenleistung. Die Autoren halten ihre Schätzung für eher hoch angesetzt, weisen aber auf beträchtliche Unsicherheit bei Modellgröße, Hardware und Auslastung hin.
Lange Eingaben können den Verbrauch stark erhöhen: Für 10.000 Eingabe-Token schätzt der Bericht etwa 2,5 Wh, für 100.000 fast 40 Wh. Dieser Einleseaufwand fällt vor allem einmalig an, wenn ein Dokument in einen Chat eingebracht wird. Die ältere Schätzung sei höher, weil sie mehr Ausgabe-Token und weniger effiziente Hardware annahm. Andere Modelle können deutlich abweichen: kleinere Modelle könnten sparsamer sein, Reasoning-Modelle wegen längerer Antworten energieintensiver. Der dazu angeführte Vergleich ist informell und nicht repräsentativ. Training und Herstellung von Hardware verursachen zusätzliche, schwer genau zu bilanzierende Kosten; der Bericht schätzt sie als vergleichbar mit oder geringer als den direkten Inferenzverbrauch ein.
Ausführlich lesen
Der Bericht von Epoch-AI-Forscher Josh You schätzt den Stromverbrauch einer typischen ChatGPT-Anfrage neu ein. Eine oft zitierte ältere Schätzung liegt bei rund 3 Wattstunden (Wh) pro Anfrage. Die Autoren halten diesen Wert für wahrscheinlich zu hoch und veranschlagen für eine typische textbasierte Anfrage an GPT-4o etwa 0,3 Wh – ungefähr ein Zehntel davon. Es handelt sich um eine Modellrechnung, nicht um eine direkte Messung des ChatGPT-Betriebs.
Für die Rechnung setzen die Autoren unter anderem voraus, dass GPT-4o ungefähr 100 Milliarden aktive Parameter hat und eine typische Antwort 500 Token umfasst. Daraus leiten sie einen Rechenbedarf von etwa 10¹⁴ Gleitkommaoperationen ab. Sie nehmen an, dass die Inferenz auf NVIDIA-H100-GPUs läuft, rechnen mit rund 10 Prozent Rechenauslastung und mit einem durchschnittlichen Stromverbrauch von 70 Prozent der Spitzenleistung einschließlich angenommener Rechenzentrumsinfrastruktur. Diese Annahmen ergeben ungefähr 0,3 Wh pro Anfrage. Die Autoren bezeichnen ihre Schätzung als eher hoch angesetzt, betonen aber, dass die tatsächlichen Modellgrößen, Hardware, Auslastung und Nutzung nicht vollständig bekannt sind.
Besonders lange Eingaben können den Verbrauch deutlich erhöhen: Für 10.000 Eingabe-Token und eine Antwort von 500 Token schätzt der Bericht etwa 2,5 Wh, für 100.000 Eingabe-Token fast 40 Wh. Dieser Aufwand fällt demnach vor allem beim Einlesen des Dokuments an und nicht erneut mit jeder Nachricht eines anschließenden längeren Chats. Die Rechnung beruht auf einer angenommenen quadratischen Skalierung der Verarbeitung langer Eingaben; der Bericht merkt an, dass andere Modelle und Optimierungen diese Kosten senken können und unklar ist, welche Verfahren OpenAI verwendet.
Als Gründe für die Abweichung von der älteren 3-Wh-Schätzung nennt der Bericht vor allem deren angenommene 2.000 Ausgabe-Token pro Anfrage, die ältere und weniger effiziente A100-Hardware sowie abweichende Annahmen zur Leistungsaufnahme. Der Autor hält 500 Ausgabe-Token für eine pessimistische, aber repräsentativere Annahme. Messungen anderer Modelle und Einsatzbedingungen lassen sich laut Bericht nur eingeschränkt auf ChatGPT übertragen.
Für andere Modelle seien die Verbräuche unterschiedlich und unsicher: kleinere Modelle könnten pro Token weniger benötigen, während Reasoning-Modelle wegen längerer Ausgaben mehr verbrauchen könnten. Ein kleiner, informeller Vergleich des Autors deutet auf deutlich längere Antworten bei o1 und o3-mini hin, ist aber ausdrücklich nicht repräsentativ. Auch Training, Hardwareherstellung und weitere vorgelagerte Kosten werden behandelt. Die Autoren schätzen den Trainingsstrom vergleichbarer Modelle auf 20–25 Megawatt über etwa drei Monate und argumentieren, dass sich dieser Aufwand auf viele Nutzende verteilt. Eine vollständige Bilanz sei schwierig; die vorgelagerten Kosten könnten mit dem direkten Inferenzverbrauch vergleichbar oder geringer sein. Insgesamt könnten effizientere Chips und Verfahren den Energiebedarf je vergleichbarer Aufgabe senken, während anspruchsvollere Anwendungen und längere Reasoning-Ausgaben mögliche Einsparungen teilweise aufzehren.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung ist im Kern treu und enthält keine erfundenen Angaben; ihr fehlen vor allem der Gesamtverbrauch der ChatGPT-Inferenz und der Alltagsvergleich. Die Einordnung wurde unabhängig von Lunas Stufen und Anteilen vorgenommen. Lunas Eintrag zu den Teilfragen ist leer, daher gibt es dazu keine Bewertung.
Im Bericht, aber nicht in der Zusammenfassung
- Gesamtverbrauch der ChatGPT-Inferenz (rund 1 Mrd. Nachrichten pro Tag, etwa 12,5 MW) und deren Einordnung
- Vergleich mit Alltagsstrom: 0,3 Wh entsprechen etwa dem Verbrauch einer LED-Lampe oder eines Laptops in wenigen Minuten
- Messung von BLOOM (etwa 4 Wh pro Anfrage) und warum sie wegen fehlendem Batching und geringer Auslastung nicht übertragbar ist
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 82 %Hintergrund, keine Belege
- JEV 26 %Hintergrund, keine Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung Hintergrund, keine Belege
Tempo und Grenzen
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 55 %Hintergrund, keine Belege
- JEV 27 %einzelne zitierbare Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 44 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv