Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
epoch17. Mai 2024 · Q004234

Do the returns to software R&D point towards a singularity?

epoch.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht findet Hinweise, dass Software-F&E hohe Erträge haben könnte: Stockfish liegt mit einer Schätzung von 0,83 knapp unter der Schwelle für hyperbolisches Wachstum, während andere untersuchte Softwarebereiche unsichere, nicht signifikante Schätzungen oberhalb der Schwelle zeigen. Wegen begrenzter Daten, vereinfachender Modellannahmen und der historischen Abhängigkeit von Hardware sieht der Autor keine starke Evidenz für eine Singularität durch Software allein; schnelles Wachstum aus dem Zusammenspiel von Software und Hardware bleibt möglich.

Mittel

Der Bericht fragt, ob Software-F&E bei automatisierter KI-Forschung überproportionale Fortschritte erzeugen könnte. In einem vereinfachten Modell wäre hyperbolisches Wachstum möglich, wenn mehr Forschungsaufwand zu mehr als proportionalem Forschungsoutput führt. Das Modell setzt jedoch unter anderem voraus, dass KI-Effizienz allein durch kognitive Arbeit steigt; ein hoher Bedarf an Experimenten könnte die Singularitätsaussichten geringer machen.

Die besten Daten untersucht die Studie für die Schachengine Stockfish. Die geschätzten Erträge aus Forschungsaufwand betragen 0,83 bei einem Standardfehler von 0,15: knapp unter der für hyperbolisches Wachstum relevanten Schwelle, aber mit Unsicherheit, die einen höheren Wert nicht ausschließt. Für Computer Vision, SAT-Löser, lineare Programmierung und Reinforcement Learning liegen die medianen Schätzungen über der Schwelle, sind jedoch nicht statistisch signifikant. Diese Analysen beruhen jeweils im Wesentlichen auf einem Datenpunkt; zudem messen einige Kennzahlen Trainings- oder Stichprobeneffizienz und sind daher nur eingeschränkt mit dem Modell vergleichbar.

Der Bericht hält hohe Software-F&E-Erträge für plausibel, bewertet die Daten aber nicht als starke Evidenz für eine Singularität durch Software allein. Software- und Hardwarefortschritt verliefen historisch oft gemeinsam. Rasches Wachstum durch ihr Zusammenwirken bleibt möglich; bessere Daten und Methoden sind nötig.

Ausführlich lesen

Der Bericht untersucht, ob die Erträge aus Softwareforschung und -entwicklung (F&E) groß genug sein könnten, um bei einer weitgehenden Automatisierung der KI-Forschung eine sich selbst beschleunigende, möglicherweise hyperbolische Entwicklung auszulösen. Bisherige KI-Fortschritte führt der Autor auf mehr Rechenleistung und auf Softwareverbesserungen zurück, die vorhandene Rechenleistung effizienter nutzen. Zusammen erhöhen diese Faktoren die für KI-Entwicklung verfügbare „effektive Rechenleistung“.

Für automatisierte KI-F&E unterscheidet der Bericht zwei mögliche Dynamiken: Bei „Foom“ führt mehr Forschungsleistung zu überproportional mehr Forschungsfortschritt, sodass die Entwicklung an Tempo gewinnt. Bei „Fizzle“ fällt der zusätzliche Fortschritt unterproportional aus und das Wachstum verlangsamt sich. In einem vereinfachten Modell mit vollständig automatisierter Forschung und gleichbleibendem Rechenbestand entsteht hyperbolisches Wachstum demnach nur, wenn eine proportionale Steigerung des Forschungsaufwands mehr als proportionale Fortschritte hervorbringt. Der Bericht betont, dass dies ein vereinfachendes Modell ist: Es unterstellt unter anderem, dass Verbesserungen allein durch kognitive Arbeit entstehen. Wenn Experimente weiterhin viel Rechenaufwand erfordern, könnte das Modell die Wahrscheinlichkeit einer Software-Singularität überschätzen. Auch ein wachsender Rechenbestand könnte die Forschungsleistung zusätzlich erhöhen.

Empirisch schätzt die Studie solche Erträge in mehreren Softwarebereichen. Die aussagekräftigsten Daten stammen laut Bericht von der quelloffenen Schachengine Stockfish: Die Forschenden verbinden Verbesserungen der Spielstärke mit einer Schätzung des Algorithmusfortschritts und nutzen die Zahl der Fishtest-Tests als Maß für Forschungsaufwand. Ihre zentrale Schätzung der Erträge liegt bei 0,83, mit einem Standardfehler von 0,15. Der Wert liegt damit knapp unter der Schwelle für überproportionale Erträge; die Schätzung schließt einen Wert über der Schwelle aber nicht aus. Falls KI-F&E der Entwicklung von Schachengines ähnelt, wäre das schwache Evidenz gegen „Foom“.

Für Computer Vision, SAT-Löser, lineare Programmierung und Reinforcement Learning liegen weniger aussagekräftige Daten vor. Die Studie verwendet dafür bayesianische Schätzungen, die je Bereich im Wesentlichen auf einem einzelnen Datenpunkt zum Effizienzzuwachs beruhen. Die medianen Schätzungen liegen in allen vier Bereichen über der Schwelle, sind laut Bericht aber statistisch nicht signifikant. Die Autorinnen und Autoren gewichten deshalb Stockfish stärker. Zudem messen einige Kennzahlen Trainings- oder Stichprobeneffizienz statt Laufzeit- oder Inferenzkosten; die theoretische Schwelle lässt sich auf diese Größen nicht ohne Weiteres übertragen.

Insgesamt hält der Bericht hohe Erträge aus Software-F&E für plausibel, sieht aber keine starke empirische Evidenz dafür, dass Softwarefortschritt allein eine Singularität auslösen würde. Historisch gingen Software- und Hardwarefortschritt häufig Hand in Hand; die Abhängigkeit von Hardwareverbesserungen könnte eigenständigen Softwarefortschritt begrenzen. Die Schlussfolgerung schließt rasches oder hyperbolisches Wachstum durch das Zusammenwirken von Software und Hardware nicht aus. Bessere Daten und verfeinerte Methoden seien nötig, um die langfristigen Erträge und ihr Zusammenspiel genauer zu bestimmen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Der Bericht beantwortet die Sicherheits- und Governance-Fragen nicht; seine Einordnungen fallen deshalb niedrig aus. Die Zusammenfassung von Luna gibt den Bericht treu wieder, lässt aber die Replikation von Bloom et al. und den Foom/Fizzle-Rahmen aus.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Replikation von Bloom et al. (2020) ergibt für die US-Gesamtwirtschaft einen noch pessimistischeren Median als die Originalstudie.
  • Der Rahmen von „Foom“ und „Fizzle“ (Ajeya Cotra) als zwei Ausgänge automatisierter KI-F&E wird nicht erwähnt.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
Unabhängig prüfen
  1. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 30 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 30 %Hintergrund, keine Belege
    • Luna 75 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 32 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 22 %Hintergrund, keine Belege
    • Luna 57 %Hintergrund, keine Belege
    • JEV 54 %Hintergrund, keine Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 25 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 50 %Hintergrund, keine Belege
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren? Luna: Stufe 3 · 57 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 37 %Hintergrund, keine Belege
    • Luna 38 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 56 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →