Literature review of transformative artificial intelligence timelines
Zusammenfassung
Kurz
Der Bericht vergleicht unterschiedliche Prognosen zu TAI/AGI: Modellbasierte Schätzungen reichen von einem Median um 2052 bis über 2100, während der gewichtete Durchschnitt urteilsbasierter Vorhersagen einen Median von 2045 ergibt. Epoch AI bewertet Cotras Bio-Anker-Modell und Samotsvety relativ hoch, betont aber, dass uneinheitliche Definitionen, subjektive Gewichtungen, Interpolationen und weitere Unsicherheiten die Vergleiche begrenzen.
Mittel
Der Epoch-AI-Bericht vergleicht modellbasierte und urteilsbasierte Schätzungen zum Zeitpunkt, an dem transformative oder allgemeine KI entstehen könnte. Er beschreibt die Ansätze und bildet interne Gewichte für ihre relative Vertrauenswürdigkeit, betont aber, dass diese keine exakten Überzeugungen des Teams darstellen.
Modellbasierte Prognosen streuen stark: Cotras Bio-Anker-Modell nennt 2052 als Median, während „Semi-informative priors“ einen Median nach 2100 ergibt. Ihr gewichteter Durchschnitt schätzt die Wahrscheinlichkeit für TAI/AGI bis 2050 auf 27 Prozent. Urteilsbasierte Vorhersagen sind im Mittel früher; ihr gewichteter Durchschnitt liegt bei 57 Prozent bis 2050 und einem Median von 2045. Epoch AI bewertet Cotras Modell und die Samotsvety-Prognose in ihren jeweiligen Gruppen am höchsten.
Der Bericht deutet die früheren Schätzungen von Inside-View-Modellen und urteilsbasierten Prognosen unter anderem als Folge der stärkeren Berücksichtigung jüngerer KI-Fortschritte. Er warnt jedoch, dass die Vergleiche unsicher sind: TAI/AGI wird nicht einheitlich definiert, Ergebnisse hängen von subjektiven Gewichten und Aggregationsverfahren ab, und manche Werte wurden interpoliert. Auch Umfrageverzerrungen und Unsicherheiten langfristiger Prognosen begrenzen die Aussagekraft.
Ausführlich lesen
Der Bericht von Epoch AI bündelt einflussreiche Schätzungen dazu, wann transformative oder allgemeine künstliche Intelligenz (TAI/AGI) entstehen könnte. Er will verschiedene Methoden und Prognosen zugänglich machen und ihre Verteilungen sowie eine interne Einschätzung ihrer relativen Vertrauenswürdigkeit vergleichen. Die Gewichtungen spiegeln laut Bericht keine exakten Überzeugungen oder ein abschließendes Gesamturteil des Teams wider. Die Autorinnen und Autoren betonen, dass der Überblick beschreibend gemeint ist.
Die Untersuchung unterscheidet modellbasierte Prognosen von urteilsbasierten Vorhersagen. Erstere berechnen Zeiträume mithilfe expliziter Modelle; sie werden grob in Inside-View-Ansätze mit konkreten Faktoren wie Rechenleistung und Forschungsfortschritt sowie Outside-View-Ansätze mit allgemeinen Basisraten eingeteilt. Urteilsbasierte Prognosen stammen etwa von Expertengruppen, Umfragen oder Prognoseplattformen. Für die interne Aggregation schätzten Epoch-AI-Teammitglieder die Zuverlässigkeit der Modellannahmen beziehungsweise die Kalibrierung der Prognostizierenden. Die Gewichte wurden normiert und je Kategorie aggregiert.
Die modellbasierten Ergebnisse gehen weit auseinander. Cotras Bio-Anker-Modell, das den Rechenaufwand biologischer Intelligenz mit künftiger Rechenverfügbarkeit verknüpft, setzt seine mediane Ankunftsschätzung auf 2052; die Wahrscheinlichkeit für TAI/AGI bis 2050 beträgt 47 Prozent. Das Outside-View-Modell „Semi-informative priors“ kommt auf eine mediane Schätzung nach 2100 und 11 Prozent bis 2050. Weitere Modelle betrachten Fortschritte bei nötigen Einsichten, Whole-Brain-Emulation oder historische wirtschaftliche Phasenwechsel. Der gewichtete Durchschnitt der modellbasierten Wahrscheinlichkeiten liegt bei 8 Prozent bis 2030, 27 Prozent bis 2050 und 54 Prozent bis 2100; der Median ist 2089.
Die urteilsbasierten Prognosen sind im Mittel näher liegend: Ihr gewichteter geometrischer Durchschnitt ergibt 25 Prozent bis 2030, 57 Prozent bis 2050 und 88 Prozent bis 2100, mit einem Median von 2045. Samotsvety kommt auf einen Median von 2043, Metaculus auf 2039. Epoch AI bewertet Cotras Bio-Anker-Modell unter den Modellen und Samotsvety unter den urteilsbasierten Vorhersagen am höchsten. Diese Rangfolge ist eine interne Einschätzung, keine Bestätigung der Prognosen.
Als zentrale Deutung des Berichts sind Inside-View-Modelle tendenziell optimistischer als Outside-View-Modelle; letztere weisen teils erhebliche Wahrscheinlichkeitsmasse sehr weit in der Zukunft auf. Urteilsbasierte Vorhersagen fallen häufig noch früher aus, möglicherweise weil sie jüngere Fortschritte im maschinellen Lernen stärker berücksichtigen. Die Gründe für die Abweichungen bleiben laut Bericht unklar.
Die Zahlen sind mit wesentlichen Einschränkungen zu lesen: Die Ansätze definieren TAI/AGI nicht einheitlich, Aggregationen hängen von subjektiven Gewichten und der Rechenmethode ab, und manche Werte wurden aus vorhandenen Datenpunkten interpoliert. Die Umfrage von AI Impacts hatte eine Rücklaufquote von 17 Prozent und könnte verzerrt sein; die langfristige Genauigkeit der Metaculus-Prognosen speziell zu KI sei unklar. Auch die Modelle selbst beruhen auf unsicheren Annahmen, etwa zu Fortschrittsraten, Referenzklassen und Abhängigkeiten zwischen Faktoren.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Zusammenfassungen geben den Bericht im Kern treu wieder: Zahlen wie 27 Prozent bis 2050 im modellbasierten Mittel, 57 Prozent und Median 2045 bei den urteilsbasierten Prognosen sowie die Hervorhebung von Cotra und Samotsvety stimmen mit dem Quelltext überein. Es fehlen jedoch einige Punkte zur Samotsvety-Aktualisierung, zur internen Spaltung des Teams und zum beschreibenden Anspruch des Berichts. Keine der drei Sammelfragen betrifft die im Bericht behandelten Zeitprognosen direkt, weshalb die Einordnungen niedrig ausfallen.
Im Bericht, aber nicht in der Zusammenfassung
- Die Samotsvety-Aktualisierung verkürzt die Zeitlinien gegenüber dem ursprünglichen Bericht, vor allem wegen der Verschiebung hin zu Inside-View-Modellen
- Das Epoch-Team ist intern gespalten: Manche gewichten Inside-View- und Outside-View-Modelle gleich, andere Inside-View höher
- Der Bericht versteht sich ausdrücklich als beschreibend und nicht als bewertend
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 50 %gleiches Oberthema, hilft nicht
- JEV 38 %gleiches Oberthema, hilft nicht
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 62 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 86 %Hintergrund, keine Belege
- JEV 58 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 30 %gleiches Oberthema, hilft nicht
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 53 %beantwortet direkt und ausführlich
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 83 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 38 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv