RoboCat: A self-improving robotic agent
Zusammenfassung
Kurz
DeepMind berichtet, dass RoboCat Aufgaben an verschiedenen Roboterarmen erlernen und sich durch selbst erzeugte Trainingsdaten verbessern kann. Bei ungesehenen Aufgaben stieg die berichtete Erfolgsquote nach 500 Demonstrationen von 36 auf 74 Prozent; die Angaben stammen aus ausgewählten Versuchen des Teams und sind keine unabhängige Bewertung.
Mittel
Der Bericht beschreibt RoboCat als Roboteragenten, der verschiedene Aufgaben an unterschiedlichen Armen erlernen und durch selbst erzeugte Trainingsdaten verbessern soll. Seine Grundlage ist Gato, trainiert mit Bild- und Aktionsfolgen aus simulierten und realen Umgebungen. Für neue Aufgaben sammeln Menschen laut Bericht 100 bis 1.000 Demonstrationen. Eine spezialisierte Modellvariante übt die Aufgabe durchschnittlich 10.000-mal; die dabei erzeugten Daten fließen in den Datensatz für spätere Versionen ein. Insgesamt umfasse dieser Millionen von Bewegungsabläufen.
Die Autoren berichten, RoboCat habe sich binnen weniger Stunden an verschiedene Roboterarme angepasst. An einem komplexeren Arm habe es nach 1.000 Demonstrationen Zahnräder in 86 Prozent der Versuche aufgenommen. Bei zuvor ungesehenen Aufgaben stieg die Erfolgsquote nach 500 Demonstrationen laut Vergleich von 36 Prozent bei der anfänglichen Version auf 74 Prozent bei der umfangreich trainierten Version. Das Team führt den Zuwachs auf die größere Aufgabenvielfalt zurück. Der Blog gibt ausgewählte Ergebnisse wieder; eine unabhängige Prüfung oder umfassende Bewertung des Einsatzes außerhalb der beschriebenen Versuche bietet er nicht.
Ausführlich lesen
Der Bericht stellt RoboCat vor, einen von DeepMind beschriebenen lernfähigen Roboteragenten. Er soll unterschiedliche Aufgaben an verschiedenen Roboterarmen bewältigen und seine Fähigkeiten mithilfe selbst erzeugter Trainingsdaten erweitern. Die Autoren sehen den hohen Aufwand, reale Trainingsdaten zu sammeln, als ein Hindernis für allgemein einsetzbare Robotik. RoboCat soll diesen Aufwand verringern, indem es aus einer breiten Sammlung von Beispielen lernt und neue Aufgaben schneller aufgreift.
Als Grundlage dient Gato, ein Modell, das Sprache, Bilder und Aktionen verarbeiten kann. Für RoboCat wurde es mit Bild- und Aktionsabfolgen trainiert, in denen verschiedene Roboterarme Hunderte Aufgaben in simulierten und realen Umgebungen ausführen. Der anschließende Verbesserungszyklus besteht laut Bericht aus fünf Schritten: Menschen liefern 100 bis 1.000 Demonstrationen für eine neue Aufgabe oder einen neuen Arm; daraus wird eine spezialisierte Variante des Agenten trainiert. Diese übt die Aufgabe im Durchschnitt 10.000-mal und erzeugt weitere Trainingsdaten. Demonstrationen und selbst erzeugte Daten fließen in den bestehenden Datensatz ein, mit dem anschließend eine neue RoboCat-Version trainiert wird. Der kumulierte Datensatz umfasse Millionen von Bewegungsabläufen. Die Autoren geben an, dafür vier Robotertypen und zahlreiche Arme verwendet zu haben.
Die beschriebenen Ergebnisse betreffen sowohl neue Hardware als auch neue Aufgaben. RoboCat habe innerhalb weniger Stunden gelernt, verschiedene Arme zu bedienen. Obwohl es zunächst mit zweiarmigen Greifern trainiert worden sei, habe es sich an einen komplexeren Arm mit drei Fingern und doppelt so vielen steuerbaren Eingaben angepasst. Nach 1.000 menschlich gesteuerten Demonstrationen habe dieser Arm Zahnräder in 86 Prozent der Versuche erfolgreich aufnehmen können. Mit 500 bis 1.000 Demonstrationen habe RoboCat außerdem Aufgaben wie das Herausnehmen einer bestimmten Frucht aus einer Schale und ein Formzuordnungspuzzle bewältigt.
Ein Vergleich auf zuvor ungesehenen Aufgaben soll den Effekt der breiteren Trainingserfahrung zeigen: Nach jeweils 500 Demonstrationen lag die Erfolgsquote der anfänglichen Version laut Bericht bei 36 Prozent, die der umfangreich trainierten späteren Version bei 74 Prozent. Die Autoren führen die Verbesserung auf die größere Aufgabenvielfalt und den Selbstverbesserungszyklus zurück und argumentieren, dass der Agent dadurch auch weitere Aufgaben leichter erlernen könne.
Die Zahlen und Schlussfolgerungen werden im Blog als Ergebnisse des RoboCat-Teams wiedergegeben; der Text ist eine Zusammenfassung der zugehörigen Forschungsarbeit, keine unabhängige Prüfung. Er beschreibt ausgewählte Aufgaben, Hardware und Erfolgswerte. Eine umfassende Bewertung des Einsatzes außerhalb dieser Versuche oder eine systematische Darstellung verbleibender Grenzen enthält der Bericht nicht.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Beide Zusammenfassungen (kurz und mittel) wurden gemeinsam geprüft; die Angabe zu ausgewählten Versuchen ist eine Schlussfolgerung, die der Bericht nicht ausdrücklich macht. Die Sammelfragen sind nur am Rande berührt, weil der Bericht reine Robotik-Fähigkeiten beschreibt und keine Fragen zu Werten, Aufsicht oder Verantwortung klärt.
Im Bericht, aber nicht in der Zusammenfassung
- RoboCat sei laut Bericht der erste Agent, der mehrere Aufgaben über verschiedene echte Roboter hinweg löst und sich daran anpasst.
- Der Bericht behauptet, RoboCat lerne deutlich schneller als andere aktuelle Modelle; die Zusammenfassungen lassen diesen Vergleich weg.
- Die Anpassung an einen komplexeren Arm mit Dreifingergreifer und doppelt so vielen Steuereingaben fehlt in der mittleren Zusammenfassung.
- Die Aussage, der Gato-Grundlage sei Bild- und Aktionsfolgen aus simulierten und realen Umgebungen, ist nur eine verkürzte Lesart; die Datensatzangabe steht im Bericht bei RoboCat, nicht bei Gato.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Die Angabe, die Ergebnisse stammten aus ausgewählten Versuchen (kurz und mittel), steht so nicht im Bericht; er spricht nur von Versuchen des Teams.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %gleiches Oberthema, hilft nicht
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 25 %Hintergrund, keine Belege
- Luna 45 %umfangreiche Belege
- JEV 45 %beantwortet teilweise oder widerspricht
- amos 29 %einzelne zitierbare Belege
- SubQ 30 %gleiches Oberthema, hilft nicht
- drex 23 %nur am Rande erwähnt
- d3-ultra 29 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-T3-T01 Welches messbare Zeichen, also welche beobachtbare Änderung in der Fähigkeit eines Modells, die Abläufe zu verbessern, mit denen seine eigenen Fähigkeiten entwickelt werden, würden Labore und Staaten gemeinsam als Beginn der Selbstverbesserung anerkennen, und wer darf im Labor danach suchen? Welche beobachtbare Änderung markiert den Schritt von beaufsichtigter automatisierter Forschung zu voll selbstständiger Selbstverbesserung, und welche öffentliche Stelle darf diesen Schritt nach Prüfung der Belege für menschliche Kontrolle erlauben oder ablehnen?
- SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat?
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 54 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 68 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %einzelne zitierbare Belege
- amos 26 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 61 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 67 %umfangreiche Belege
- JEV 41 %beantwortet teilweise oder widerspricht
- amos 25 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung umfangreiche Belege
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %gleiches Oberthema, hilft nicht
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv