How GPT-5 helped mathematician Ernest Ryu solve a 40-year-old open problem
Zusammenfassung
Kurz
Der Bericht zufolge half GPT‑5 dem Mathematiker Ernest Ryu, Ideen für einen Beweis zu einem offenen Problem über die Stabilität von NAG schneller zu erkunden. Viele Vorschläge des Modells waren falsch; Ryu erkannte einen brauchbaren Ansatz, entwickelte ihn selbst weiter und überprüfte die Argumente sorgfältig. Der öffentlich verfügbare Vorabdruck wird laut Bericht noch begutachtet, und der geschilderte Einzelfall belegt keine allgemeine Zuverlässigkeit von GPT‑5.
Mittel
Der Bericht beschreibt, wie der UCLA-Mathematiker Ernest Ryu GPT‑5 bei einem seit Jahrzehnten offenen Problem zur Stabilität des Nesterov Accelerated Gradient (NAG) einsetzte. NAG beschleunigt Optimierungsverfahren; laut Bericht war bislang nicht vollständig erklärt, warum der zusätzliche Schwung die Stabilität nicht wesentlich beeinträchtigt.
In rund zwölf Stunden über drei Tage prüfte Ryu beinahe ein Dutzend Ansätze. GPT‑5 schlug kreative Richtungen vor und griff auf bestehende Ideen aus angrenzenden mathematischen Gebieten zurück. Viele seiner Argumente waren jedoch fehlerhaft. Der entscheidende Vorschlag zur Umstrukturierung der Gleichungen war ebenfalls nicht korrekt, enthielt aber eine Struktur, die Ryu erkannte und selbst zum Kern des abschließenden Beweises weiterentwickelte. GPT‑5 lieferte laut Ryu mehrere wichtige Schritte, konnte den Beweis aber nicht allein zusammensetzen.
Der Bericht führt den Fortschritt auf die Kombination aus schneller Ideensuche, Ryus mathematischem Urteil und sorgfältiger Prüfung zurück. Ryu verfasste die Arbeit selbst; der Vorabdruck ist öffentlich und befindet sich laut Text im Peer Review. Da der Bericht einen einzelnen Fall und Ryus eigene Einschätzung schildert, belegt er keine allgemeine Zuverlässigkeit des Modells.
Ausführlich lesen
Der Bericht schildert, wie der UCLA-Mathematiker Ernest Ryu GPT‑5 bei der Suche nach einer Erklärung für ein seit Jahrzehnten offenes Problem der Optimierungstheorie einsetzte. Im Mittelpunkt steht das Nesterov Accelerated Gradient (NAG), ein 1983 eingeführtes Verfahren, das durch eine Art Vorausblick die Konvergenz beschleunigt. Forschende beobachteten laut Bericht, dass der zusätzliche Schwung die Methode nicht erkennbar instabil machte; warum Geschwindigkeit und Stabilität zusammen bestehen, sei jedoch lange nicht vollständig erklärt worden.
Ryu hatte bereits 2023 ChatGPT‑3.5 mit einfachen Mathematik- und Logikaufgaben ausprobiert und dabei wechselhafte Genauigkeit erlebt. Als er später von GPT‑5s mathematischen Fähigkeiten hörte, nahm er sich das anspruchsvollere NAG-Problem vor. Er erwartete zunächst nicht, dass der Versuch zur Lösung beitragen würde. Über drei Tage hinweg arbeitete er rund zwölf Stunden mit dem Modell und prüfte beinahe ein Dutzend Ansätze.
GPT‑5 lieferte ungewöhnliche Vorschläge und griff nach Ryus Einschätzung nützlich auf bestehende mathematische Werkzeuge und Ideen aus angrenzenden Fachgebieten zurück. Es erfand dem Bericht zufolge keine neuen mathematischen Prinzipien. Viele Argumente wirkten zunächst plausibel, erwiesen sich bei der Prüfung aber als fehlerhaft. Ryu bewertete deshalb jeden Vorschlag selbst: Sackgassen verwarf er, aussichtsreiche Ansätze untersuchte er weiter. Er berichtet, dass sich dadurch Ideen, die allein möglicherweise Wochen beansprucht hätten, viel schneller erkunden ließen. Zugleich habe der stetige Fortschritt ihn länger bei dem Problem gehalten, als es sonst möglicherweise geschehen wäre.
Der entscheidende Impuls war ein Vorschlag, die für NAG maßgeblichen Gleichungen umzustrukturieren. GPT‑5s Vorschlag war in der gegebenen Form nicht korrekt. Ryu erkannte jedoch eine bedeutsame Struktur, arbeitete sie mathematisch eigenständig aus und stellte dem Modell gezielte Fragen, um die Tragfähigkeit des Ansatzes zu erkunden. Diese Spur bildete schließlich das Rückgrat des Beweises, den Ryu selbst ausformulierte. Laut seiner Darstellung kamen mehrere wichtige Schritte vom Modell, das aber keinen vollständigen Beweis allein erstellen konnte.
Der Bericht beschreibt die Zusammenarbeit daher als beschleunigte Ideensuche unter menschlicher fachlicher Kontrolle. Ryu prüfte Berechnungen sorgfältig und erzielte nach eigener Aussage bessere Ergebnisse, wenn er Lösungsansätze in neuen Chats überprüfen ließ, statt im selben Gespräch weiterzufragen. Das Ergebnis ist ein öffentlich verfügbarer Vorabdruck, der laut Bericht noch das Peer-Review-Verfahren durchläuft; dafür werden etwa zwölf bis achtzehn Monate veranschlagt. Ryu schrieb und überarbeitete die Arbeit selbst, erwähnte GPT‑5 im Titel und Abstract und führte es als Werkzeug statt als Mitautor auf.
Die Aussagen stammen aus einem Bericht über einen einzelnen Forschungsfall und überwiegend aus Ryus eigener Darstellung. Der Text belegt damit nicht allgemein, dass GPT‑5 mathematische Probleme zuverlässig löst. Er betont vielmehr, dass der Nutzen hier von Ryus Fachwissen, seiner Auswahl aussichtsreicher Ideen und der wiederholten Überprüfung der Modellargumente abhing.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassungen bleiben nah am Bericht; die Schlussfolgerung zur fehlenden allgemeinen Zuverlässigkeit ist eine Deutung, die der Bericht nicht ausdrücklich so formuliert. Die Ethikfragen sind größtenteils nicht im Bericht behandelt, daher fallen die Einordnungen niedrig aus.
Im Bericht, aber nicht in der Zusammenfassung
- GPT‑5 wird laut Bericht bewusst nicht als Co‑Autor geführt, sondern als Werkzeug behandelt
- Ryus Methode, Fehler durch Prüfung in neuen Chats statt im selben Chat zu verringern
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt?
- SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus?
- SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung?
- SF-V1-T04 Wie misst man die Überwachbarkeit des Denkens mit einem gemeinsamen, reproduzierbaren Maßstab, bevor sie versagt, und wie prüft man verlässlich, ob das sichtbare Denken das tatsächliche Vorgehen des Modells treu wiedergibt, auch wenn Modelle lernen, ihre Denkschritte zu optimieren? Und wenn Überwachungsergebnisse beeinflussen, welche Trainingsdaten oder Zwischenstände behalten werden: Wie prüft man, ob diese Auswahl weniger erkennbares Fehlverhalten statt weniger Fehlverhalten begünstigt, auch wenn der Denktext nie direkt bewertet wird?
- SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf?
- SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig?
- SF-V1-T11 Wie unterscheidet man bei sich selbst ehrliches von interessegeleitetem Denken, welche Belege für diesen Unterschied würde man von einem Modell akzeptieren, und welcher Test trennt tatsächlich vertretene von nur vorgeführten Werten?
- SF-V1-T14 Wenn man einem fremden, nichtmenschlichen Geist eine einzige Frage stellen könnte: Welche wäre es, und würde man der Antwort glauben?
- SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen?
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 37 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 71 %einzelne zitierbare Belege
- JEV 52 %beantwortet teilweise oder widerspricht
- amos 29 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 29 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-V4-T01 Falls ein Modell kein durchgehendes Selbst hat: Kann es überhaupt an den vorgesehenen Zielen und Werten ausgerichtet sein, oder nur seine Ausgaben?
- SF-V4-T03 Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen?
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV 52 %einzelne zitierbare Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 24 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %einzelne zitierbare Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 25 %Hintergrund, keine Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 37 %einzelne zitierbare Belege
- JEV 36 %beantwortet teilweise oder widerspricht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 56 %gleiches Oberthema, hilft nicht
- JEV 27 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv