Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
epoch25. Februar 2026 · Q006825

The least understood driver of AI progress

epoch.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht schätzt, dass KI-Software die für vergleichbare Fähigkeiten nötige Trainingsrechenleistung womöglich jedes Jahr um ein Mehrfaches senkt; Ho nennt persönlich etwa den Faktor zehn, betont aber die große Unsicherheit der Schätzung. Ein Teil der gemessenen Fortschritte könnte von besseren Daten und wenigen Innovationen stammen, deren Nutzen mit größerem Trainingscompute wächst. Diese Compute-Abhängigkeit könnte eine selbstverstärkende KI-Forschung bremsen, doch die Belege reichen laut Autor nicht für eine sichere Prognose.

Mittel

Anson Ho argumentiert, dass KI-Software Fortschritte ermöglicht, mit weniger Trainingscompute ähnliche Fähigkeiten zu erreichen. Seine vorläufige Schätzung beträgt etwa das Zehnfache pro Jahr, doch das angegebene 80-Prozent-Intervall reicht von zwei- bis fünfzigfach. Die verfügbaren Studien seien unsicher: Es fehlen verlässliche Daten zu Rechenaufwand, langfristig vergleichbaren Fähigkeiten und Post-Training; außerdem hängen die Ergebnisse von statistischen Annahmen ab und könnten durch Benchmark-Optimierung verzerrt sein.

Ho zufolge stammen gemessene Effizienzgewinne möglicherweise zu großen Teilen aus besseren, teils synthetischen Daten und Destillation. Zudem könnten wenige Innovationen, deren Wirkung mit der Trainingsgröße zunimmt, einen erheblichen Anteil erklären. Eine angeführte Transformer-LSTM-Analyse stützt diese Möglichkeit, beruht aber auf weitreichender Extrapolation und berücksichtigt wichtige Faktoren nicht vollständig.

Für eine mögliche KI-Forschungsrückkopplung wirken die Befunde in beide Richtungen: Eine höhere Fortschrittsrate macht eine Explosion plausibler, während die Abhängigkeit von größerem Trainingscompute sie bremsen könnte. Ho hält eine solche Explosion für weniger wahrscheinlich als zuvor, aber weiterhin möglich. Er betont, dass die Belege begrenzt sind und bessere Daten sowie größere Experimente nötig wären.

Ausführlich lesen

Der Bericht von Anson Ho untersucht, wie stark Fortschritte bei KI-Software die benötigte Trainingsrechenleistung senken und was diese Fortschritte antreibt. Der Autor betont, dass die Frage für Debatten über den Aufholprozess verschiedener KI-Labore, mögliche AGI-Zeitpunkte und eine automatisierte Beschleunigung der KI-Forschung zentral sei. Die Beiträge der Reihe „Gradient Updates“ spiegeln laut Hinweis die Ansichten ihrer Autoren wider, nicht zwingend die von Epoch AI insgesamt.

Ho wertet veröffentlichte Schätzungen aus und kommt zu dem vorläufigen Eindruck, dass für vergleichbare Fähigkeiten jedes Jahr ein Mehrfaches weniger Trainingscompute nötig sein könnte. Seine persönliche Schätzung liegt bei etwa dem Zehnfachen pro Jahr; ein von ihm genanntes 80-Prozent-Intervall reicht jedoch von zwei- bis fünfzigfach. Diese Zahlen seien äußerst unsicher. Die Studien beruhen auf Beobachtungsdaten, in denen häufig Rechenaufwand, langfristig vergleichbare Fähigkeitsmessungen oder Veröffentlichungszeitpunkte fehlen. Schätzungen aus wenigen Datenpunkten können stark schwanken; statistische Modelle wiederum hängen von Annahmen ab, etwa dass die Softwarequalität zwischen Laboren vergleichbar sei. Auch Post-Training werde wegen fehlender öffentlicher Compute-Daten unzureichend erfasst. Benchmark-Optimierung könne Fortschritt überzeichnen, wenn Leistungen nicht auf reale Anwendungen übertragbar seien. Verschiedene Ansätze und Fallbeispiele stützen laut Ho dennoch die Möglichkeit schnellen Fortschritts, erlaubten aber keine verlässliche präzise Jahresrate.

Der Bericht stellt infrage, ob die gemessenen Effizienzgewinne hauptsächlich aus neuen Algorithmen stammen. Ein erheblicher Anteil könne auf bessere Daten zurückgehen: kuratierte oder synthetische Daten, Datenfilterung, gezielte Datenmischungen und Destillation. Als Beispiel nennt Ho eine frühe Destillationsmethode, die laut Bericht einen großen Teil der Fähigkeiten bei deutlich geringerem Trainingsaufwand bewahrte. Solche Vergleiche hängen allerdings davon ab, ob der Aufwand für das trainierte Ausgangsmodell mitgezählt wird.

Ein weiterer möglicher Treiber sind „skalierungsabhängige“ Innovationen, deren Nutzen mit mehr Trainingscompute wächst. Eine angeführte Studie vergleicht Transformer mit LSTMs und führt einen großen Teil des geschätzten Effizienzgewinns auf den Wechsel zur Transformer-Architektur und eine veränderte Balance zwischen Daten und Parametern zurück. Sie leitet für bestimmte Größenordnungen einen jährlichen Fortschritt von etwa 2,23-fach ab. Ho hält das für einen Hinweis, aber keinen abschließenden Beleg: Die Analyse extrapoliere weit über kleine Experimente hinaus und berücksichtige Datenverbesserungen sowie Post-Training nicht vollständig. Insgesamt könnten schnelle Messwerte daher sowohl bessere Daten als auch das Hochskalieren weniger wichtiger Innovationen abbilden, statt einer stetigen Folge vieler neuer Algorithmen.

Für die Debatte über eine mögliche „Software-Intelligenzexplosion“ sieht Ho gegenläufige Effekte. Frühere Modelle könnten Softwarefortschritt zu niedrig angesetzt haben; eine höhere Rate ließe eine sich selbst verstärkende Forschungsrückkopplung wahrscheinlicher erscheinen. Zugleich könnten diese Modelle überschätzen, wie viel zusätzlicher Forschungsaufwand bewirkt, weil sie Trainingscompute als Quelle des Softwarefortschritts nicht ausreichend berücksichtigen. Daraus entstehe möglicherweise eine Compute-Bremse: Sehr schnelle Fortschritte könnten schwer sein, wenn sie zugleich größere Trainingsläufe erfordern. Wie stark diese Bremse ist, bleibe empirisch unsicher; bessere Daten oder besonders wirksame Innovationen könnten sie teilweise umgehen. Ho hält eine Explosion deshalb für weniger wahrscheinlich als zuvor, aber nicht ausgeschlossen.

Der Bericht liefert keine abschließende Messung. Er hebt offene Fragen zu Post-Training, Datenqualität und Compute-Abhängigkeit hervor und plädiert für Experimente bei größeren Rechenskalen sowie bessere Datengrundlagen. Die Aussagen beruhen auf einer Literaturauswertung und ausgewählten Fallstudien; der Autor kennzeichnet seine Schätzungen und Schlussfolgerungen ausdrücklich als unsicher.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die drei Fassungen von Luna sind inhaltlich treu und enthalten keine erfundenen Angaben; ihnen fehlen vor allem die Einzelbeispiele und die Antworten auf die Leitfragen. Die sechs bewerteten Fragen (SF-T2, SF-E4, SF-T1, SF-T3-T08, SF-T1-T08, SF-V5-T01) gehören nicht zum Kern des Berichts über Software-Fortschritt, daher fallen die Stufen durchweg niedrig aus.

Im Bericht, aber nicht in der Zusammenfassung

  • Fallbeispiele wie DeepSeek (Aufholen von o1 mit weniger Compute) und der Vergleich GPT-2 zu DeepSeek-V3 mit rund einer Million facher Effizienzdifferenz
  • Die Kernaussage, dass bestehende Modelle einer Software-Intelligenz-Explosion die Forschungsrendite überschätzen, weil Skalierung des Trainingscompute als Fortschrittsquelle fehlt
  • Die Antworten auf die drei Leitfragen zu DeepSeek, AGI-Zeitplan und Automatisierung der KI-Forschung

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 31 %Hintergrund, keine Belege
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 27 %Hintergrund, keine Belege
    • Luna 50 %Hintergrund, keine Belege
    • JEV 39 %nur am Rande erwähnt
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

  2. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 39 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 30 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 29 %Hintergrund, keine Belege
    • Luna 73 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 36 %Hintergrund, keine Belege
    • Luna 87 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung kein Bezug

  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 21 %Hintergrund, keine Belege
    • Luna 50 %Hintergrund, keine Belege
    • JEV 49 %Hintergrund, keine Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 45 %Hintergrund, keine Belege

    • SF-T3-T01 Welches messbare Zeichen, also welche beobachtbare Änderung in der Fähigkeit eines Modells, die Abläufe zu verbessern, mit denen seine eigenen Fähigkeiten entwickelt werden, würden Labore und Staaten gemeinsam als Beginn der Selbstverbesserung anerkennen, und wer darf im Labor danach suchen? Welche beobachtbare Änderung markiert den Schritt von beaufsichtigter automatisierter Forschung zu voll selbstständiger Selbstverbesserung, und welche öffentliche Stelle darf diesen Schritt nach Prüfung der Belege für menschliche Kontrolle erlauben oder ablehnen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-T3-T06 Wenn ein unabhängiger Prüfer, der mit Zugang wie ein Mitarbeiter in einem Labor arbeitet, meldet, dass die für die Selbstverbesserung relevante Automatisierung schon schneller voranschreitet, als der diplomatische Zeitplan für gemeinsame Prüfungen, Tempogrenzen der Selbstverbesserung und eine umfassende Verlangsamung annimmt: Kehrt sich die Reihenfolge der Verhandlungen um, weil die Prüfung zeigt, dass die Vereinbarung schon zu spät kommt? Und muss der Prüfer das den Regierungen melden, oder ist es ihm freigestellt? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 33 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 35 %Hintergrund, keine Belege
    • Luna 63 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 32 %nur am Rande erwähnt
    • Luna 37 %Hintergrund, keine Belege
    • JEV 67 %nur am Rande erwähnt
    • amos 28 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 35 %nur am Rande erwähnt
    • d3-ultra 49 %nur am Rande erwähnt

    • SF-H1-T05 Wie können Staaten zusammenarbeiten, um die Ausbreitung von Fähigkeiten zu beobachten, die durch Destillation aus großen, auf Sicherheit ausgerichteten Modellen in kleinere, weniger geregelte Modelle gelangen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 25 %Hintergrund, keine Belege
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  3. SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
    • clef 100 %kein Bezug
    • Luna 72 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-H5-T02 Beziehen sich die Technologiemaßnahmen eines Staates und die Einwände des betroffenen Staates auf dieselben Listen, etwa Listen beschränkter Unternehmen und Personen (Entity Lists) und Exportkontrollen? Gefragt wurde das zu Chinas Einwänden gegen Monopol und Vorherrschaft und zu den US-Maßnahmen, die Dario Amodei (Anthropic) in seinem Essay „We Must Pace the Frontier“ befürwortet: Verbote für Chips und Anlagen, Vorgehen gegen unerlaubte Destillation (das Trainieren eines eigenen Modells mit den Ausgaben fremder Modelle) und Schutz der Modellgewichte (der gelernten Parameter). Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 31 %Hintergrund, keine Belege
    • Luna 83 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 56 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →