OpenAI Robotics Symposium 2019
Zusammenfassung
Kurz
Das OpenAI Robotics Symposium 2019 brachte laut Bericht rund 80 Gäste vor Ort und etwa 200 Livestream-Zuschauer zusammen, um verschiedene Ansätze für lernfähige Roboter zu diskutieren. Die Veranstalter bewerteten das Format positiv; unabhängige Belege für den Erfolg oder die Leistungsfähigkeit der vorgestellten Methoden liefert der Bericht nicht.
Mittel
Der Bericht schildert das OpenAI Robotics Symposium 2019 als Austauschformat für Robotik, maschinelles Lernen, Wissenschaft und Industrie. Rund 80 externe Gäste waren laut Veranstaltern vor Ort, etwa 200 nahmen per Livestream teil. Im Mittelpunkt standen sechs Vorträge zu lernfähigen Robotern: darunter die Übertragung von Training aus Simulationen auf reale Roboter, selbstüberwachtes Lernen durch Spiel, Lernen während Entwicklung und Einsatz, die Modellierung menschlichen Verhaltens in der Mensch-Roboter-Interaktion, die praktische Nützlichkeit von Lernverfahren sowie Anpassung an Schäden und unerwartete Bedingungen. OpenAI zeigte außerdem eine Roboterhand bei der Manipulation eines Zauberwürfels.
Die Veranstalter bewerteten das experimentelle Symposium als erfolgreicher als erwartet. Sie berichten von anregenden Diskussionen, neuen Ideen wie Selbstüberwachung und einem besseren Verständnis der unterschiedlichen Forschungsansätze. Eine Wiederholung, möglicherweise jährlich, wurde in Aussicht gestellt. Diese Erfolgs- und Nutzenbewertungen beruhen auf der Darstellung der Organisatoren. Eine unabhängige Prüfung, systematische Rückmeldungen oder vergleichende Leistungsdaten zu den vorgestellten Methoden enthält der Bericht nicht.
Ausführlich lesen
Der Bericht stellt das OpenAI Robotics Symposium 2019 vor. Die Veranstaltung sollte Menschen aus Robotik, maschinellem Lernen, Wissenschaft und Industrie zusammenbringen, damit sie unterschiedliche Ansätze zum Bau lernfähiger Roboter diskutieren. OpenAI begründet das damit, dass solche Roboter nach eigener Einschätzung künftig Teil des Alltags werden könnten und ihre Entwicklung neben technischem Wissen auch Fragen des sicheren Einsatzes und der Interaktion mit Menschen in der realen Welt berührt.
Laut Bericht nahmen rund 80 externe Gäste vor Ort teil; etwa 200 weitere verfolgten das Symposium per Livestream. Unter den Teilnehmenden waren Vertreter von Unternehmenslaboren, Hochschulen, Studierende und Forschende sowie Hobbyisten, Künstler und Robotiker. Das Programm umfasste sechs Vorträge mit unterschiedlichen Schwerpunkten:
- Wojciech Zaremba stellte OpenAIs Arbeit „Learning Dexterity“ vor. Der Bericht beschreibt einen Ansatz, der Simulationen mit Übertragung auf reale Roboter, zufällige Variation der Simulationsbedingungen und verstärkendes Lernen mit speichererweiterten Richtlinien verbindet. Dadurch soll eine Übertragung auf den physischen Roboter möglich sein, ohne zuvor auf diesem trainiert zu haben. - Pierre Sermanet von Google Brain erläuterte, wie spielerisches Erkunden selbstüberwachtes Lernen von Repräsentationen unterstützen könne. So könnten vielfältige Fähigkeiten ohne vorgegebene Bezeichnungen oder Belohnungen erworben und für neue Aufgaben kombiniert werden. - Leslie Kaelbling vom MIT behandelte Lernen sowohl während der Entwicklung eines Roboters als auch nach seinem Einsatz. Sie stellte eine Architektur für intelligente Roboter vor, die neue Fähigkeiten erwerben können soll. - Anca Dragan von UC Berkeley diskutierte, wie menschliches Verhalten für die Mensch-Roboter-Interaktion modelliert werden kann. Ihr Rahmen berücksichtigt neben annähernd rationalem Verhalten auch strategische Entscheidungen und systematische Fehler, etwa aufgrund unvollständigen Wissens oder noch ungeklärter Präferenzen. - Chris Atkeson von der Carnegie Mellon University thematisierte die Lücke zwischen Forschung zum Roboterlernen und praktischer Roboterprogrammierung und fragte, was lernende Roboter tatsächlich nützlich machen würde. - Jeff Clune stellte Arbeiten zur Anpassungsfähigkeit von Robotern nach Schäden vor. Der Bericht beschreibt das Ziel, dass Roboter sich während des Betriebs rasch an Defekte oder unerwartete Umweltbedingungen anpassen.
Zusätzlich zeigte OpenAI eine Geschicklichkeitsdemonstration mit einer Roboterhand, die einen Zauberwürfel manipulierte. Die Veranstalter bewerteten das experimentelle Format als erfolgreicher als erwartet. Nach ihrer Darstellung führten die Vorträge zu internen Diskussionen, neuen Ideen – darunter Selbstüberwachung – und einer stärkeren Wahrnehmung der Vielfalt möglicher Forschungswege. Sie berichten außerdem, Teilnehmende und Vortragende hätten von der Veranstaltung profitiert und ein gemeinsames Verständnis dieser unterschiedlichen Ansätze gewonnen. OpenAI kündigte an, das Format möglicherweise jährlich zu wiederholen.
Die Aussagen zu Erfolg, Nutzen und Rückmeldungen stammen von den Veranstaltern. Der Bericht nennt keine unabhängige Auswertung, quantitativen Ergebnisse zu den vorgestellten Forschungsansätzen oder Nachweise für deren praktische Leistungsfähigkeit; er gibt vor allem die Themen und die Einschätzung der Organisatoren wieder.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Bewertung der Zusammenfassung bezieht sich auf beide Fassungen; die kurze Fassung ist vollständig, lässt aber die Vorträge aus. Luna hat die Fragen SF-E1, SF-E4 und SF-T3 mit Stufe 3 bewertet, was der Bericht nicht stützt, da er keine dieser Fragen behandelt. Die Anteilsangaben sind nicht prüfbar und wurden nicht übernommen.
Im Bericht, aber nicht in der Zusammenfassung
- In der kurzen Fassung fehlen die sechs Vorträge und ihre Inhalte, etwa Learning Dexterity, Learning From Play oder die Arbeiten zu Anpassung an Schäden.
- In der kurzen Fassung fehlt die Absicht, das Format möglicherweise jährlich zu wiederholen.
- In der mittleren Fassung fehlen die beteiligten Institutionen (Google, Facebook, NVIDIA, Stanford, Berkeley, CMU, MIT) und der Hinweis, dass die Arbeiten teils in Nature veröffentlicht wurden.
- In beiden Fassungen fehlt, dass OpenAI zu dem Symposium einlud, um Ideen zu sammeln, und dass Mensch-Roboter-Sicherheit als Teil des Anliegens genannt wird.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 35 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 75 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 24 %gleiches Oberthema, hilft nicht
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 49 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 75 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 70 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 65 %Hintergrund, keine Belege
- JEV 34 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV 34 %nur am Rande erwähnt
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv