The eternal complement
Zusammenfassung
Kurz
Die Autoren vertreten die These, dass Erkenntnisse erst durch Infrastruktur und koordinierte Umsetzung zu Fortschritt werden. KI könnte entweder mit weniger realen Ressourcen mehr Wissen erschließen oder so viele neue Ideen erzeugen, dass Experimente und Organisation zum Engpass werden; welcher Weg eintritt, bleibt offen.
Mittel
Der Essay von Hemanth Asirvatham und Elliott Mokski untersucht, ob KI künftig vor allem neue Ideen liefern oder deren praktische Umsetzung organisieren wird. Die Autoren betonen, dass Erkenntnisse auf komplementäre Ressourcen angewiesen sind: Geräte, Finanzierung, Institutionen, Lieferketten und viele koordinierte Arbeitsschritte. Diese Ausführungsleistung nennen sie „institutionelle Intelligenz“. Anhand von Forschung, dem James-Webb-Teleskop und der Halbleiterproduktion argumentieren sie, dass Fortschritt zunehmend aufwendige Unterstützung erfordert; die angeführten Beispiele belegen jedoch keine bestimmte Zukunft.
KI könne heute schon Programmierung, Literaturrecherche und Prototypenbau erleichtern und so mehr Menschen eigene Projekte ermöglichen. Zugleich könnte sie mehr gute Ideen erzeugen, als die vorhandene Infrastruktur bewältigen kann. Der Essay entwirft deshalb zwei Möglichkeiten: In einer „Zivilisation der Tiefe“ würden bessere Schlussfolgerungen, vorhandene Daten und Simulationen den Bedarf an neuen Experimenten senken. In einer „Zivilisation der Breite“ wüchsen Experimente und physischer Ausbau schneller als die Effizienzgewinne; selbst eine sehr leistungsfähige KI müsste dann lange auf reale Ergebnisse warten. Die Autoren lassen offen, welcher Weg überwiegt, und halten menschliche Neugier und kreative Vielfalt weiterhin für wertvoll.
Ausführlich lesen
Der Essay „The eternal complement“ von Hemanth Asirvatham und Elliott Mokski fragt, ob künstliche Intelligenz künftig vor allem neue Erkenntnisse hervorbringen oder die umfangreiche Arbeit zu ihrer Umsetzung leisten wird. Die Autoren kennzeichnen den Text als ihre eigene Sicht auf eine mögliche AGI-Zukunft, nicht als Position von OpenAI oder dessen Mitarbeitenden.
Ausgangspunkt ist eine Spannung: Menschen können das Universum theoretisch weitgehend erklären, haben sich körperlich aber kaum über die Erde hinausbewegt. Die Autoren sehen dafür zwei mögliche Deutungen. Vielleicht lassen sich grundlegende Wahrheiten durch Denken und effiziente Instrumente erschließen, ohne große Expansion. Oder die Fähigkeit, Ideen praktisch umzusetzen, hält mit dem Erkenntnisdrang nicht Schritt. Als Hinweise auf steigenden Aufwand nennen sie unter anderem, dass für die Aufrechterhaltung des Mooreschen Gesetzes inzwischen über 18-mal so viele Forschende nötig seien wie Anfang der 1970er-Jahre, während die gemessene Forschungsproduktivität laut der angeführten Studie stark gesunken sei. Das James-Webb-Teleskop dient als Beispiel für den institutionellen und technischen Aufwand moderner Forschung. Diese Zahlen und Beispiele werden im Essay als Belege für wachsende Umsetzungskosten angeführt; sie beweisen für sich genommen nicht, wie sich die Zukunft entwickeln wird.
Die zentrale These lautet, dass Erkenntnis und Umsetzung einander ergänzen. Eine gute Idee braucht Belege, Geräte, Finanzierung, Regeln, Lieferketten und viele abgestimmte Arbeitsschritte. Die Autoren nennen diese oft unsichtbare Fähigkeit zur Ausführung „institutionelle Intelligenz“. Fortschritt beruhe daher nicht nur auf herausragenden Einfällen, sondern auch auf dem Personal und den Institutionen, die sie verwirklichen.
KI erleichtere nach Darstellung des Essays bereits Teile dieser Umsetzung: Sie könne etwa programmieren, Fachliteratur durchsuchen und aus Skizzen Prototypen machen. Dadurch könnten mehr Einzelne eigene Vorhaben verfolgen. Zugleich könnte leistungsfähigere KI so viele neue Hypothesen und Projekte hervorbringen, dass die knappe Ressource erneut die Infrastruktur zu ihrer Prüfung und Umsetzung werde. Die Autoren stellen diese Entwicklung als Möglichkeit dar, nicht als gesicherte Prognose.
Daraus entwickeln sie zwei Zukunftsbilder. In einer „Zivilisation der Tiefe“ könnten bessere Schlussfolgerungen, die erneute Auswertung vorhandener Daten und gezielte Simulationen den Bedarf an aufwendigen Experimenten verringern. Ganz ohne Kontakt zur Wirklichkeit käme auch diese Zukunft nicht aus: Experimente und physische Prozesse brauchen weiterhin Zeit. In einer „Zivilisation der Breite“ dagegen würden neue Einsichten immer mehr Versuche, Material, Energie, Labore und Koordination erfordern. Als Beispiel nennen die Autoren Medizin: Simulationen könnten Arzneimittelforschung unterstützen, ersetzten nach ihrer Darstellung aber keine umfangreichen Studien am Menschen. Eine weit entwickelte KI könnte dann viele Experimente entwerfen, während deren Durchführung lange dauert. Die Ausweitung physischer Infrastruktur und die Grenzen von Zeit und Licht könnten den Fortschritt verlangsamen.
Abschließend argumentieren die Autoren, menschliche Neugier bleibe auch bei sehr leistungsfähiger KI bedeutsam: Menschen hätten weiterhin Gründe, selbst zu forschen, könnten relativ stärker bei originellen Ideen sein und zur Vielfalt von Perspektiven beitragen. Welche Zukunft tatsächlich eintritt, bleibt laut Essay offen. Entscheidend sei, ob neue Erkenntnisse zunehmend mit weniger Ressourcen auskommen oder immer mehr reale Umsetzungskapazität verlangen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung „mittel“ ist im Wesentlichen treu, lässt aber die zentrale Pointe aus, dass der Beitrag der KI vor allem im Monotonen der Umsetzung liegen könnte. Die „kurze“ Fassung ist knapper und lässt die Zivilisationen der Tiefe und der Breite ebenfalls weitgehend aus. Die Anteilswerte in Lunas Einordnung wurden nicht bewertet, nur die Stufen.
Im Bericht, aber nicht in der Zusammenfassung
- Die Aussage, dass die Überlegenheit einer Superintelligenz vor allem in der Bereitschaft liegen könnte, die Bürokratie zu übernehmen, und dass dann der größte Teil der Maschinenintelligenz für das Monotone statt das Brillante eingesetzt würde
- Das Beispiel des Dyson-Sphären-Baus als Bild einer Zivilisation der Breite mit langsamem Fortschritt
- Die Begründung für den Wert menschlicher Neugier: Verpflichtung zur Aufklärung, komparativer Vorteil bei Frontier-Intelligenz und der Wert kreativer Vielfalt
- Die Einschätzung, dass Geschmack (Taste) zur knappen Ressource werden könnte, wenn Ausführung durch KI weniger knapp wird
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 54 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 52 %einzelne zitierbare Belege
- JEV 51 %Hintergrund, keine Belege
- amos 34 %nur am Rande erwähnt
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 80 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 49 %beantwortet teilweise oder widerspricht
- amos 30 %Hintergrund, keine Belege
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 29 %Hintergrund, keine Belege
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 75 %Hintergrund, keine Belege
- JEV 44 %Hintergrund, keine Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung kein Bezug
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 74 %Hintergrund, keine Belege
- JEV 30 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 75 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 74 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 44 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 85 %Hintergrund, keine Belege
- JEV 40 %Hintergrund, keine Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 38 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv