Most AI value will come from broad automation, not from R&D
Zusammenfassung
Kurz
Die Autoren argumentieren, dass KI ihren größten wirtschaftlichen Nutzen wahrscheinlich durch die Automatisierung von Arbeit in vielen Branchen entfaltet, nicht allein durch beschleunigte Forschung. Sie stützen dies auf Wachstumsdaten und Aufgabenanalysen, betonen aber Unsicherheiten bei der Messung von F&E-Beiträgen, bei möglichen Forschungsengpässen und bei der Übertragbarkeit ihrer Einordnungen.
Mittel
Der Beitrag bestreitet, dass der größte wirtschaftliche Nutzen von KI vor allem aus automatisierter Forschung und Entwicklung (F&E) kommen wird. Die Autoren halten F&E-Automatisierung zwar für wertvoll, erwarten aber mehr Wachstum durch den breiten Einsatz von KI zur Automatisierung von Arbeit in vielen Branchen.
Sie verweisen auf US-Schätzungen, nach denen F&E von 1988 bis 2022 etwa 20 Prozent des Arbeitsproduktivitätswachstums erklärt habe; den größeren Anteil führen sie unter anderem auf Kapitalvertiefung und andere Produktivitätsfaktoren zurück. Diese Schätzung ist umstritten: F&E-Effekte könnten unterschätzt sein, und die Daten sagen nicht direkt voraus, wie KI wirken wird. Eine mögliche KI-Forschungssingularität erscheint den Autoren ebenfalls unsicher, weil Fortschritt neben geistiger Arbeit wohl Experimente, Daten, Rechenleistung und Hardware erfordert. Für die Bedeutung dieser Engpässe gebe es keine verlässliche Schätzung.
Als Hinweis auf die Anforderungen von Forschung ordnen sie medizinische Berufstätigkeiten und Aufgaben aus zwölf Forschungsberufen ein. Viele erforderten mehr als abstraktes Denken, etwa Laborarbeit, Gerätebedienung und Koordination. Die Autoren prognostizieren deshalb, dass breite Automatisierung konventioneller Arbeit einer vollständigen Automatisierung von F&E vorausgehen könnte. Ihre Aufgabenbewertungen sind Einordnungen, kein experimenteller Beweis.
Ausführlich lesen
Der Beitrag von Ege Erdil und Matthew Barnett stellt die verbreitete Erwartung infrage, dass der größte wirtschaftliche Nutzen künstlicher Intelligenz vor allem aus automatisierter Forschung und Entwicklung (F&E) entstehen werde. Die Autoren halten eine vollständige Automatisierung von F&E zwar für wertvoll. Sie bestreiten aber, dass sie in der Praxis der wichtigste Einsatzbereich wäre. Ihrer Einschätzung nach wird KI vor allem dadurch Wachstum und Produktivität steigern, dass sie Arbeitsaufgaben breit über die Wirtschaft hinweg automatisiert.
Als wirtschaftlichen Anhaltspunkt führen sie US-Daten an: Nach Schätzungen des Bureau of Labor Statistics habe privat finanzierte F&E von 1988 bis 2022 etwa 0,2 Prozentpunkte zum jährlichen Wachstum der totalen Faktorproduktivität beigetragen. Zusammen mit öffentlichen Ausgaben schätzen sie den F&E-Anteil auf rund 0,4 Prozentpunkte und damit ungefähr die Hälfte des TFP-Wachstums beziehungsweise etwa 20 Prozent des Arbeitsproduktivitätswachstums. Kapitalvertiefung und weitere Faktoren wie besseres Management, Lernen durch Praxis und Wissensverbreitung erklären demnach einen großen Teil des übrigen Wachstums. Die Autoren vergleichen zudem die jährlichen US-Ausgaben für Kapitalinvestitionen von rund fünf Billionen Dollar mit etwa einer Billion Dollar für private F&E. Diese Zahlen dienen ihrer Argumentation, sind aber keine direkte Messung des künftigen KI-Nutzens. Sie räumen ein, dass F&E-Effekte unterschätzt sein könnten; selbst eine angeführte alternative Modellannahme ergebe jedoch eine geringere Produktionselastizität für F&E als für Arbeit.
Auch die Möglichkeit einer sich selbst beschleunigenden KI-Forschung bewerten sie vorsichtig. Frühere Modellierungen könnten eine „Software-Singularität“ plausibel erscheinen lassen, wenn Forschungsfortschritt allein von geistiger Arbeit abhinge. Die Autoren halten diese Annahme für fraglich: Fortschritt benötige wahrscheinlich auch Daten, Experimente und Rechenleistung. Wenn diese Inputs einander ergänzen, begrenzen Engpässe bei Hardware und physischer Infrastruktur die Beschleunigung. Für die Stärke solcher Ergänzungen gebe es nach Darstellung des Beitrags keine gute Schätzung. Hinweise aus anderen Wirtschaftsbereichen und das bisherige Ausbleiben eines dramatischen Forschungsschubs trotz teilautomatisierter Arbeit stützen die Vorsicht, beweisen sie aber nicht.
Ein weiterer Kernpunkt ist, dass Forschung mehr als abstraktes Denken umfasst. Anhand von 14 Aufgaben medizinischer Forschender, übernommen aus einer Berufserhebung, ordnen die Autoren sechs als allein durch abstraktes Denken ausführbar ein. Viele wichtige Aufgaben verlangten dagegen Laborarbeit, Gerätebedienung, Koordination, komplexe Computerinteraktion oder langfristige Planung. Für zwölf Forschungsberufe ließen sie GPT-4.5 Aufgaben in drei Kategorien einordnen: abstraktes Denken, komplexe Computerbedienung oder physische Anwesenheit. Die Autoren folgern, dass für eine vollständige Automatisierung von F&E breite Fähigkeiten nötig wären. Bis KI diese erreicht, könnten viele Routineberufe bereits automatisiert sein. Die Aufgabenbewertungen sind dabei eine Einordnung der Autoren beziehungsweise eine GPT-4.5-Klassifikation, kein experimenteller Nachweis.
Das daraus entwickelte Szenario nennen sie eine breite, sichtbare Automatisierungswelle: KI werde nach und nach in vielen Branchen eingesetzt, Arbeitsmärkte spürbar verändern und später auch Wachstum sowie wissenschaftlichen Fortschritt beschleunigen. Selbst dann könne ein großer Teil des Nutzens indirekt entstehen, etwa indem KI Infrastruktur und andere Voraussetzungen für Forschung bereitstellt. Der Beitrag vertritt somit eine begründete, aber unsichere Prognose; seine Angaben belegen nicht, dass F&E künftig stets eine untergeordnete Rolle spielen wird.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung von Luna; die kurze Fassung ist knapper und enthält weniger Zahlen. Lunas Anteilsangaben und Stufen sind nicht Teil des Schemas und wurden nur unabhängig eingeordnet. Der Bericht behandelt die wirtschaftliche Wirkung von KI, nicht Sicherheitsregeln oder Governance, weshalb die Stufen bei den Sicherheitsfragen niedrig ausfallen.
Im Bericht, aber nicht in der Zusammenfassung
- Die These, dass KI-Automatisierung zuerst breit und sichtbar wirkt, bevor transformative Effekte eintreten (diffuse und salient Takeoff)
- Das Gegenbild der general automation explosion zur intelligence explosion
- Die Aussage, dass R&D-Aufgaben Agency, Multimodalität und lange Kontextkohärenz erfordern
- Der Hinweis, dass ein großer Teil des F&E-Nutzens extern anfällt und die Anreize der Unternehmen dadurch sinken
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 28 %nur am Rande erwähnt
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 24 %Hintergrund, keine Belege
- Luna 45 %beantwortet teilweise oder widerspricht
- JEV 26 %beantwortet teilweise oder widerspricht
- amos 28 %einzelne zitierbare Belege
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 23 %Hintergrund, keine Belege
- d3-ultra 28 %Hintergrund, keine Belege
- Haiku-Prüfung Hintergrund, keine Belege
- SF-T3-T01 Welches messbare Zeichen, also welche beobachtbare Änderung in der Fähigkeit eines Modells, die Abläufe zu verbessern, mit denen seine eigenen Fähigkeiten entwickelt werden, würden Labore und Staaten gemeinsam als Beginn der Selbstverbesserung anerkennen, und wer darf im Labor danach suchen? Welche beobachtbare Änderung markiert den Schritt von beaufsichtigter automatisierter Forschung zu voll selbstständiger Selbstverbesserung, und welche öffentliche Stelle darf diesen Schritt nach Prüfung der Belege für menschliche Kontrolle erlauben oder ablehnen?
- SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist?
- SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen?
- SF-T3-T07 Wenn mehrere Anbieter je verschiedene Stufen von Forschung, Training und Prüfung automatisieren und erst ihre ausgetauschten Ergebnisse zusammen einen Kreislauf der Selbstverbesserung schließen, ohne dass eine Firma den ganzen Ablauf betreibt: Welche Regel stellt diesen gemeinsamen Kreislauf unter Aufsicht?
- SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %einzelne zitierbare Belege
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 31 %Hintergrund, keine Belege
- Luna 42 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 30 %Hintergrund, keine Belege
- Luna 39 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 33 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv