Grokking “Semi-informative priors over AI timelines”
Zusammenfassung
Kurz
Der Bericht erklärt ein Modell für AGI-Zeitpläne, das historische Vergleichswerte und Annahmen zu Erfolgswahrscheinlichkeit, Startzeitpunkt und Versuchseinheit kombiniert. Es schätzt die Wahrscheinlichkeit für transformative KI auf etwa 6 Prozent vor 2030, 11 Prozent vor 2050 und 20 Prozent vor 2100, betont aber die subjektiven Annahmen und methodischen Grenzen dieser Werte.
Mittel
Anson Ho erläutert Tom Davidsons Modell zur Vorhersage von AGI-Zeitplänen. Es behandelt die Entwicklung als Folge von Versuchen mit konstanter Erfolgswahrscheinlichkeit. Um die Probleme einer einfachen Anwendung von Laplaces Regel zu begrenzen, legt das Modell eine anfängliche Erfolgswahrscheinlichkeit, virtuelle Erfolge, einen Startzeitpunkt und eine Versuchseinheit fest. Die zentrale Anfangsschätzung von 4 Prozent beruht auf subjektiv ausgewählten historischen Vergleichsklassen. Meist wird ein virtueller Erfolg angesetzt; als Startpunkt wird vor allem 1956 betrachtet. Als Versuchseinheiten dienen Kalenderjahre, Forscherjahre oder Zuwächse der Rechenleistung.
Für AGI bis 2036 nennt der Bericht zentrale Schätzungen von 4 Prozent (Kalenderjahre), 8 Prozent (Forscherjahre) und 15 Prozent (Rechenleistung). Die drei Definitionen werden gleich gewichtet. Für transformative KI werden etwa 6 Prozent vor 2030, 11 Prozent vor 2050 und 20 Prozent vor 2100 angegeben. Als Grenzen gelten subjektive Annahmen, begrenzte Evidenz, zu hohe kurzfristige Vorhersagen und die Annahme konstanter Erfolgswahrscheinlichkeit. Die Zahlen sind Ergebnisse dieses Modells, keine Gewissheiten.
Ausführlich lesen
Der Bericht von Anson Ho erklärt Tom Davidsons Modell „Semi-informative priors over AI timelines“ anhand von Diagrammen und fasst dessen Annahmen, Ergebnisse und Grenzen zusammen. Das Modell versucht nicht, den technischen Weg zur allgemeinen künstlichen Intelligenz (AGI) im Detail zu prognostizieren. Stattdessen behandelt es AGI-Entwicklung als Folge von Versuchen, bei denen jeweils eine gleichbleibende Erfolgswahrscheinlichkeit angenommen wird. Der Bericht betont, dass diese Vereinfachung eine Annahme des Modells ist.
Eine einfache Anwendung von Laplaces Regel der Sukzession würde aus vergangenen Misserfolgen eine Wahrscheinlichkeit für künftige Erfolge ableiten. Der Bericht hält diese Ausgangsform für problematisch: Sie kann vor Berücksichtigung von Beobachtungen sehr hohe Anfangswahrscheinlichkeiten nahelegen und hängt stark davon ab, was als einzelner Versuch zählt. Davidson ergänzt das Verfahren daher um vier Festlegungen: die Wahrscheinlichkeit eines Erfolgs beim ersten Versuch, die Zahl virtueller Erfolge, den Beginn des betrachteten Zeitraums und die Definition eines Versuchs. Virtuelle Erfolge bestimmen, wie stark beobachtete Fehlschläge die Schätzung verändern.
Für die erste Erfolgswahrscheinlichkeit zieht Davidson laut Bericht mehrere historische Vergleichsklassen heran, etwa ambitionierte, aber für erreichbar gehaltene Technologievorhaben, transformative Technologien und mathematische Vermutungen. Diese Auswahl und ihre Übertragung auf AGI beruhen auf subjektiven Urteilen und sind besonders einflussreich. Als beste Schätzung nennt Davidson 4 Prozent. Meist setzt er einen virtuellen Erfolg an. Beim Beginn des relevanten Zeitraums legt er besonderes Gewicht auf 1956, untersucht aber auch andere Startpunkte. Für weit zurückliegende Jahre gewichtet er die Versuche anhand von Weltbevölkerung oder wirtschaftlicher Aktivität ab.
Verglichen werden drei Versuchseinheiten: Kalenderjahre, Zuwächse der maximal eingesetzten Rechenleistung und Zuwächse der kumulierten Forscherjahre. Unter den Annahmen eines virtuellen Erfolgs und eines Startjahrs 1956 nennt der Bericht für AGI bis 2036 zentrale Schätzungen von 4 Prozent bei Kalenderjahren, 8 Prozent bei Forscherjahren und 15 Prozent bei Rechenleistung; die jeweiligen angegebenen niedrigen und hohen Werte reichen von 1,5 bis 9, von 2 bis 15 und von 2 bis 25 Prozent. Davidson gewichtet die drei Definitionen jeweils zu einem Drittel. Erweiterungen, die mehrere unabhängige Teilaufgaben, Hyperprioren über Aktualisierungsregeln oder die Möglichkeit unmöglicher AGI berücksichtigen, verändern die Endwerte laut Bericht meist nicht wesentlich.
Für transformative KI (TAI) nennt der Bericht ungefähr 6 Prozent Wahrscheinlichkeit vor 2030, 11 Prozent vor 2050 und 20 Prozent vor 2100. Als Stärken gelten die nachvollziehbare Aktualisierung anhand beobachteter Fehlschläge und die Sichtbarkeit zentraler Annahmen. Als Grenzen führt der Bericht die begrenzte Nutzung aussagekräftiger Evidenz, zu hohe kurzfristige Vorhersagen angesichts der Fähigkeiten heutiger Systeme, geringe Empfindlichkeit gegenüber kleinen Änderungen der AGI-Definition und die konstante Erfolgswahrscheinlichkeit je Versuch an. Das Modell soll außerdem ungeeignet sein, wenn sich der bereits erreichte Fortschrittsanteil für ein Ziel sinnvoll bestimmen lässt. Ho schließt, dass AGI in diesem Jahrhundert zumindest plausibel sei und die bisherigen Fehlschläge für sich genommen keine starke Evidenz gegen eine baldige Entwicklung darstellten. Die Zahlen sind modellabhängige Schätzungen, keine im Bericht belegten Gewissheiten.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Liste der Teilfragen ist leer, daher wurden nur die drei Sammelfragen bewertet. Die Anteilswerte aus Lunas Einordnung wurden nicht übernommen, weil sie nicht Teil der vorgegebenen Skala sind.
Im Bericht, aber nicht in der Zusammenfassung
- Die erste Versuchswahrscheinlichkeit gilt als wichtigster Eingabefaktor, und die Wahl der Vergleichsklassen bestimmt die Ergebnisse stark
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 61 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 79 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 72 %beantwortet direkt und ausführlich
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv