Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
metr20. August 2025 · Q002270

Forecasting the Impacts of AI R&D Acceleration: Results of a Pilot Study

metr.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

In einer kleinen Pilotbefragung hielten Fachleute und Superforecaster eine Verdreifachung des KI-Fortschritts durch automatisierte KI-Forschung für möglich, aber eher unwahrscheinlich; offene, einmonatige Forschungsaufgaben würden ihre Einschätzungen nach oben verschieben. Bei extremen gesellschaftlichen Folgen gingen die Gruppen stark auseinander: Fachleute schätzten die Risiken deutlich höher ein als Superforecaster. Wegen der kleinen, nicht repräsentativen Stichprobe und der subjektiven, teils stark abweichenden Prognosen sind die Ergebnisse laut Bericht nur vorläufige Hinweise.

Mittel

Der METR-Bericht fasst eine Pilotbefragung zu möglichen Folgen der Automatisierung von KI-Forschung zusammen. Acht KI-Prognosefachleute und zehn Superforecaster schätzten ein, ob KI-Fähigkeiten den Fortschritt stark beschleunigen und extreme gesellschaftliche Folgen auslösen könnten. „Effective compute“ bündelt dabei zusätzliche Rechenleistung und algorithmische Verbesserungen; die Forschenden weisen darauf hin, dass dieser Maßstab und die Szenarien unterschiedlich verstanden worden sein könnten.

Ohne zusätzliche Bedingungen lag die mediane Chance einer Verdreifachung des Fortschrittstempos bis 2029 bei 20 Prozent unter den Fachleuten und acht Prozent unter den Superforecastern. Bei angenommenen Erfolgen in offenen, einmonatigen Forschungsprojekten stiegen die Werte auf 20,5 beziehungsweise 18 Prozent. Ergebnisse bei eintägigen Aufgaben hielten beide Gruppen für weniger aufschlussreich. Bei extremen gesellschaftlichen Folgen war die Kluft groß: Superforecaster schätzten jedes der vier Risiken im Median auf unter 0,5 Prozent, Fachleute auf über 18 Prozent. Eine starke Beschleunigung erhöhte die Schätzungen beider Gruppen, beseitigte die Differenz jedoch nicht.

Der Bericht wertet die Befunde wegen der kleinen, nicht repräsentativen Stichprobe, subjektiver Prognosen und teils sehr großer Abweichungen als vorläufig. Er empfiehlt, die Meinungsunterschiede genauer zu untersuchen und aussagekräftigere Evaluationen zu entwickeln.

Ausführlich lesen

Der METR-Bericht stellt Ergebnisse einer Pilotbefragung dazu vor, wie Fachleute und erfahrene Prognostiker mögliche Folgen einer Automatisierung von KI-Forschung einschätzen. Ausgangspunkt ist die Frage, ob KI-Systeme, die menschliche Forschende bei anspruchsvollen KI-Forschungsaufgaben erreichen oder übertreffen, den Fortschritt in der KI-Entwicklung stark beschleunigen könnten – und welche gesellschaftlichen Folgen eine solche Beschleunigung hätte.

Befragt wurden acht KI-Prognosefachleute und zehn sogenannte Superforecaster. Die Teilnehmenden schätzten unter anderem die Wahrscheinlichkeit ein, dass sich das Wachstum des „effective compute“ bis 2029 verdreifacht. Dieser Begriff fasst Zuwächse durch mehr Rechenleistung und bessere Algorithmen zusammen. Anschaulich sollte eine solche Beschleunigung bedeuten, dass Fortschritte, für die zwischen 2018 und 2024 etwa ein Jahr nötig war, innerhalb eines Zeitraums von zwei Jahren vor 2029 jeweils in vier Monaten erreicht würden. Die Forschenden räumen ein, dass der Vergleich der Leistungsfähigkeit unterschiedlich entwickelter Modelle schwierig ist. Sie ließen die relative wirtschaftliche Bedeutung der Modelle gedanklich durch ein Fachgremium bewerten. Trotz sorgfältiger Definition könnten Teilnehmende die Szenarien unterschiedlich verstanden haben.

Unbedingt, also ohne zusätzliche hypothetische Testergebnisse, stuften beide Gruppen eine Verdreifachung als möglich, aber eher unwahrscheinlich ein: Die mediane Wahrscheinlichkeit lag bei 20 Prozent unter den Fachleuten und acht Prozent unter den Superforecastern. Beide Gruppen hielten eine starke Beschleunigung der physischen Rechenkapazität für unwahrscheinlich; rasche Fortschritte bei Nachtrainingsverfahren erschienen ihnen plausibler. Wenn KI-Systeme bei offenen, einmonatigen Forschungsprojekten besser als Menschen abschnitten, stiegen die Medianprognosen für eine Verdreifachung auf 20,5 beziehungsweise 18 Prozent. Gute Ergebnisse bei eintägigen RE-Bench-Aufgaben galten dagegen als wenig aussagekräftig, da die Befragten erwarteten, dass dieser Maßstab bis 2027 ausgeschöpft sein könnte. Bei weiteren Annahmen gingen die Einschätzungen auseinander: Die Fachleute sahen eine Zustimmung eines Expertengremiums zur Ersetzbarkeit menschlicher Forschender als Hinweis, der eine Verdreifachung wahrscheinlicher als unwahrscheinlicher machen könnte; manche Superforecaster blieben skeptischer.

Besonders groß war die Uneinigkeit bei vier möglichen extremen gesellschaftlichen Folgen, darunter außergewöhnliche Veränderungen des weltweiten Energieverbrauchs und höhere Risiken katastrophaler Ereignisse. Für alle vier lagen die medianen unbedingten Risikoschätzungen der Superforecaster unter 0,5 Prozent, während sie bei den Fachleuten jeweils über 18 Prozent lagen. Eine angenommene drei- oder sogar zehnfache Beschleunigung verringerte den Abstand nicht, erhöhte laut beiden Gruppen aber die geschätzten Risiken. Die Begründungen unterschieden sich: Viele Fachleute verbanden die Beschleunigung mit künstlicher allgemeiner Intelligenz und erwarteten massive Veränderungen beim Energieverbrauch. Die Superforecaster waren uneinheitlich darin, ob das Szenario AGI bedeute, und verwiesen auf technische und physische Grenzen sowie menschliche Eingriffe.

Der Bericht behandelt diese Resultate ausdrücklich als vorläufige Hinweise, nicht als belastbare Vorhersagen. Die Stichprobe ist klein und nicht repräsentativ; die Einschätzungen beruhen auf subjektiven Prognosen, und einzelne zusammengefasste Werte sind fragil, weil Teilnehmende teils um mehrere Größenordnungen auseinanderlagen. Die Autorinnen und Autoren empfehlen, die Ursachen der Meinungsverschiedenheiten genauer zu untersuchen, etwa durch längere KI-Forschungsaufgaben als Evaluationen und bessere Modelle möglicher Folgen, bevor eine größere, repräsentativere Befragung folgt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die mittlere Zusammenfassung ist sachlich korrekt, die kurze ebenfalls; beide lassen die Verbindung zwischen Beschleunigung und gesellschaftlichen Folgen und die fehlende Zielgrößendefinition aus. Die Einordnung der Sammelfragen bezieht sich nur auf Teilaspekte des Berichts.

Im Bericht, aber nicht in der Zusammenfassung

  • Beide Gruppen stimmen weitgehend darin überein, dass automatisierte KI-Forschung die Beschleunigung stark vorantreiben könnte; die Hauptdifferenz liegt bei den gesellschaftlichen Folgen
  • Die Zielgrößen für extreme Ereignisse (Verdopplung oder Halbierung des Energieverbrauchs, COVID-ähnliche Katastrophen, Anstieg des Katastrophenrisikos) werden nicht genannt
  • Die Experten sahen eine Verdreifachung größtenteils als AGI-Indikator, die Superforecaster waren uneins; dies fehlt in beiden Zusammenfassungen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 36 %Hintergrund, keine Belege
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 31 %gleiches Oberthema, hilft nicht
    • amos 30 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 36 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 34 %Hintergrund, keine Belege
    • Luna 50 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

  3. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 32 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 30 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-P4-T01 Würden Regierungen Messdaten aus der Lieferkette von Chips (Telemetrie), den Stromverbrauch, gemeldete Verzeichnisse von Trainingsläufen und eine unabhängig überwachte Abrechnung von Strom, Hardware und Rechenaufwand als vertragstauglichen Nachweis für die Größe der Trainingsläufe eines anderen Staates anerkennen, ohne Modellgewichte (die gelernten Parameter) oder Code anzurühren? Und wie sähe eine Prüfordnung für Rechenschwellen aus, die nichts über das Innere der Modelle verrät? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 36 %Hintergrund, keine Belege
    • Luna 77 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 32 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra 38 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 40 %gleiches Oberthema, hilft nicht
    • JEV 100 %kein Bezug
    • amos 36 %Hintergrund, keine Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 20 %Hintergrund, keine Belege
    • Luna 46 %einzelne zitierbare Belege
    • JEV 34 %umfangreiche Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 25 %einzelne zitierbare Belege
    • drex 31 %umfangreiche Belege
    • d3-ultra 41 %einzelne zitierbare Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-T3-T01 Welches messbare Zeichen, also welche beobachtbare Änderung in der Fähigkeit eines Modells, die Abläufe zu verbessern, mit denen seine eigenen Fähigkeiten entwickelt werden, würden Labore und Staaten gemeinsam als Beginn der Selbstverbesserung anerkennen, und wer darf im Labor danach suchen? Welche beobachtbare Änderung markiert den Schritt von beaufsichtigter automatisierter Forschung zu voll selbstständiger Selbstverbesserung, und welche öffentliche Stelle darf diesen Schritt nach Prüfung der Belege für menschliche Kontrolle erlauben oder ablehnen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren? Luna: Stufe 3 · 55 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 37 %Hintergrund, keine Belege
    • Luna 57 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 33 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 34 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 56 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →