Evolution through large models
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der bereitgestellte Text ist nur ein Auszug mit Abstract und Abbildungsüberschriften. Er beschreibt ELM als Einsatz großer Code-Sprachmodelle zur Verbesserung genetischer Programmierung und berichtet von Hunderttausenden erzeugten Sodarace-Roboterprogrammen, die das Training eines geländespezifischen Modells anstoßen sollen. Versuchsdaten und Einzelheiten zur Überprüfung fehlen im Auszug.
Mittel
Der bereitgestellte Quelltext ist nur ein Auszug: Er umfasst das Abstract und Abbildungsüberschriften, nicht den vollständigen Bericht. Darin wird „Evolution through large models“ (ELM) als Ansatz beschrieben, bei dem große, auf Codeerzeugung trainierte Sprachmodelle Mutationen in der genetischen Programmierung verbessern sollen. Weil sie Änderungsfolgen aus Trainingsdaten kennen, könnten sie laut Abstract wahrscheinliche menschliche Modifikationen nachbilden.
Im Hauptexperiment kombiniert der Beitrag ELM mit MAP-Elites. So entstehen dem Abstract zufolge Hunderttausende funktionierende Python-Programme für laufende Roboter in Sodarace, einem dem ursprünglichen Modell unbekannten Bereich. Die Beispiele dienen dazu, ein bedingtes Sprachmodell zu trainieren, das Walker für bestimmtes Gelände erzeugen soll. Der Beitrag sieht darin Potenzial, kontextgerechte Modelle auch ohne vorherige Trainingsdaten aus dem jeweiligen Bereich aufzubauen, und erörtert mögliche Folgen für offene Evolution, Deep Learning und Reinforcement Learning.
Der Auszug enthält keine Methoden- oder Ergebnisdetails, anhand derer sich diese Aussagen unabhängig prüfen ließen.
Ausführlich lesen
Der bereitgestellte Quelltext enthält nur das Abstract sowie nachgeholte Abbildungsüberschriften und Bildverweise; der vollständige Bericht liegt hier nicht vor. Die Zusammenfassung kann deshalb nur die im Abstract dargestellten Aussagen wiedergeben.
Der Beitrag untersucht die Idee „Evolution through large models“ (ELM): Große Sprachmodelle, die darauf trainiert wurden, Code zu erzeugen, könnten Mutationsoperatoren in der genetischen Programmierung verbessern. Laut Abstract liegt ein möglicher Grund darin, dass solche Modelle aus Trainingsdaten mit aufeinanderfolgenden Änderungen lernen und dadurch wahrscheinliche, von Menschen vorgenommene Modifikationen annähern können.
Im Hauptexperiment wird ELM mit MAP-Elites kombiniert. Das Verfahren erzeugt laut Bericht Hunderttausende funktionsfähige Python-Programme, die gehende Roboter im Sodarace-Bereich ausgeben. Dieser Bereich sei dem ursprünglichen Sprachmodell während des Vortrainings unbekannt gewesen. Die erzeugten Beispiele dienen anschließend dazu, das Training eines neuen bedingten Sprachmodells anzustoßen. Dieses soll für ein bestimmtes Gelände den passenden Walker ausgeben.
Als mögliche Bedeutung dieses Vorgehens nennt das Abstract, dass sich neue Modelle mit geeigneten Ausgaben für einen jeweiligen Kontext aufbauen lassen könnten, selbst wenn zuvor keine Trainingsdaten aus dem betreffenden Bereich verfügbar waren. Der Beitrag ordnet diese Möglichkeit in Fragen der offenen Evolution, des Deep Learning und des Reinforcement Learning ein und will damit neue Forschungsrichtungen anregen.
Die Grenzen der vorliegenden Quelle sind erheblich: Sie enthält keine Details zu Versuchsaufbau, Messgrößen, Vergleichsverfahren, Resultaten über die allgemeine Beschreibung hinaus oder möglichen Fehlern. Die genannten Erfolge und weiterreichenden Implikationen sind daher hier nur als Aussagen des Abstracts wiederzugeben, nicht unabhängig zu bewerten. Die Abbildungsüberschriften nennen neben der ELM-Grafik drei Markenlogos, liefern im Text aber keine zusätzlichen Erläuterungen dazu.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 53 %einzelne zitierbare Belege
- JEV 47 %einzelne zitierbare Belege
- amos 24 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 47 %gleiches Oberthema, hilft nicht
- SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat?
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %einzelne zitierbare Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %nur am Rande erwähnt
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv