What AI can currently do is not the story
Zusammenfassung
Kurz
Erdil argumentiert, dass Fortschritte der KI nicht verlässlich aus heutigen Fähigkeiten abgeleitet werden können, weil neue Kompetenzen entstehen können, die bisherige Prognosen übersehen. Für längerfristige Vorhersagen empfiehlt er, Aufgabenanforderungen und verfügbare Ressourcen einzubeziehen; seine Schätzung einer etwa zehnprozentigen Chance auf menschliches KI-Leistungsniveau bis 2030 beruht jedoch auf ausdrücklich unsicheren Annahmen.
Mittel
Ege Erdil vergleicht zwei Wege, KI-Fortschritt vorherzusagen: bestehende Fähigkeiten und Trends fortzuschreiben oder die Schwierigkeit von Aufgaben und die nötigen Ressourcen zu untersuchen. Extrapolation könne bei Aufgaben helfen, die KI bereits teilweise beherrscht, unterschätze aber oft Fähigkeiten, die erst künftig entstehen. Als Beispiele nennt Erdil frühere Prognosen, die Programmierregeln oder die damalige Stärke von KI bei Vorhersagen in den Mittelpunkt stellten. Fähigkeiten wie Sprachverständnis, Programmieren und generative Bildproduktion seien in einer Übersicht von 2016 noch nicht als zentrale Kompetenzen erschienen.
Eine Wirtschaftsprognose von Acemoglu, die laut Erdil auf heutigen Automatisierungsmöglichkeiten und Kosteneinsparungen beruht, hält er für plausibel, falls künftige KI heutigen Sprachmodellen lediglich überlegen wird. Er meint jedoch, sie erfasse neue Fähigkeiten nicht ausreichend. Für bislang kaum automatisierbare Aufgaben schlägt er vor, die Ressourcen des menschlichen Gehirns als Orientierung zu nutzen. Er schätzt die Chance, bis Ende des Jahrzehnts geeignete Algorithmen für menschliches Leistungsniveau zu finden, zunächst auf etwa 20 Prozent und nach einem Abschlag für Unsicherheit auf rund 10 Prozent für menschliches Leistungsniveau bis 2030. Diese Zahlen sind spekulative Einschätzungen; besonders unsicher seien der nötige Algorithmensuchaufwand und der mögliche Ausgleich durch mehr Rechenleistung.
Ausführlich lesen
Der Beitrag von Ege Erdil behandelt zwei Ansätze zur Vorhersage künftiger KI-Fähigkeiten: die Fortschreibung beobachteter Fähigkeiten und Trends sowie eine Abschätzung ausgehend von den Anforderungen verschiedener Aufgaben und den Ressourcen, die das menschliche Gehirn zu ihrer Bewältigung benötigt. Erdil hält Extrapolation für brauchbar, wenn KI eine Aufgabe bereits auf niedrigem Niveau beherrscht. Für Aufgaben, die heutige Systeme kaum oder gar nicht bewältigen, sei sie jedoch besonders anfällig für Fehleinschätzungen.
Als Beleg für diese Schwäche führt der Autor frühere Prognosen an. 2013 hätten Frey und Osborne die Automatisierbarkeit stark davon abhängig gemacht, ob Programmierer Regeln für verschiedene Situationen festlegen können. Später hätten große Sprachmodelle viele Aufgaben erledigt, ohne dass Menschen ihre internen Berechnungen verstehen. Auch die verbreitete Vorstellung von KI als „Vorhersagemaschine“ habe sich laut Erdil an den damaligen Stärken überwachter Lernverfahren orientiert und spätere Fortschritte durch unüberwachtes Lernen und generative KI nicht erfasst. Eine Übersicht über KI-Fähigkeiten im Jahr 2016 enthalte Fähigkeiten, die 2025 besonders sichtbar seien – etwa Fragen beantworten, Texte verstehen, Bilder erzeugen, programmieren und Mathematik betreiben – noch nicht. Erdil folgert daraus, dass in den kommenden Jahren erneut zuvor unerwartete Fähigkeiten entstehen könnten.
Der Beitrag wendet diese Kritik auf eine wirtschaftliche Schätzung von Acemoglu aus dem Jahr 2024 an. Dessen Annahmen zu automatisierbaren Aufgaben und möglichen Kosteneinsparungen ergäben laut der dargestellten Rechnung einen Produktivitätseffekt von ungefähr 0,8 Prozent, während Acemoglu einen Anstieg der Wirtschaftsleistung um 0,7 Prozent über zehn Jahre schätze. Erdil hält das für eine plausible Berechnung unter der Annahme, dass künftige KI im Wesentlichen heutige Sprachmodelle in besserer Form seien. Er beanstandet, dass die Rechnung neu entstehende Fähigkeiten nicht angemessen berücksichtige. Als Beispiel nennt er verbesserte Mathematikleistungen durch mehr Rechenaufwand zur Laufzeit.
Für Aufgaben, bei denen heutige KI noch nicht kompetent ist, schlägt Erdil vor, die Ressourcen des menschlichen Gehirns als Orientierung zu verwenden. Er nennt dafür vier Bedingungen: ausreichend Rechenleistung während der Ausführung, Trainingsrechenleistung, einen hinreichend leistungsfähigen Lernalgorithmus und Trainingsdaten in einer mit menschlicher Lebenserfahrung vergleichbaren Größenordnung. Seiner Einschätzung nach seien die nötigen Rechenleistungen und Daten für viele Aufgaben inzwischen grundsätzlich erreichbar; der größte Unsicherheitsfaktor sei weiterhin, ob passende Algorithmen gefunden werden. Unter einer von ihm gewählten Annahme zur Verteilung des nötigen Suchaufwands schätzt er die Chance, bis Ende des Jahrzehnts einen geeigneten Algorithmus zu finden, auf etwa 20 Prozent. Nach einem pauschalen Abschlag für Modellunsicherheit nennt er rund 10 Prozent für menschliches Leistungsniveau bis 2030; zusätzliche Möglichkeiten, Training, Suche und Inferenz gegeneinander abzuwägen, könnten seine Einschätzung erhöhen.
Der Beitrag schließt mit der These, dass Prognosen über längere Zeiträume stärker auf der Schwierigkeit einzelner Aufgaben und den Ressourcen zu ihrer Automatisierung beruhen sollten als auf heutigen Fähigkeiten. Die Zahlen und Schlussfolgerungen sind Erdils Einschätzungen, keine gesicherten Vorhersagen. Der Text betont selbst Unsicherheiten, besonders bei den Anforderungen an die Algorithmensuche und bei der Frage, wie stark zusätzliche Rechenressourcen diese ausgleichen können.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat zwei Zusammenfassungen in unterschiedlicher Länge geliefert; beide wurden gemeinsam geprüft. Die angegebenen Anteilswerte in Prozent sind im Prüfschema nicht vorgesehen und wurden nicht bewertet. Für die Teilfragen gab es keine Einträge, daher entfällt deren Einordnung.
Im Bericht, aber nicht in der Zusammenfassung
- Die Acemoglu-Schätzung von rund 0,7 % Outputzuwachs in zehn Jahren und ihre Herleitung aus Eloundou, Svanberg und den Kostenannahmen
- Das Moravec-Paradoxon als Ordnungsprinzip: Aufgaben mit Datenvorteil und algorithmischem Nachteil gegenüber Menschen werden zuerst automatisiert
- Die Kernthese, dass der größte künftige wirtschaftliche Nutzen aus Aufgaben stammt, die heutige KI noch gar nicht kann
- Das Beispiel Kurzweil (1999, Prognose 2029) als Vertreter der First-Principles-Methode
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 60 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 70 %Hintergrund, keine Belege
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 77 %Hintergrund, keine Belege
- JEV 47 %einzelne zitierbare Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 31 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 37 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 38 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 74 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 64 %Hintergrund, keine Belege
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 58 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv