OpenAI Scholars 2018: Final projects
Zusammenfassung
Kurz
Der Bericht präsentiert die Abschlussprojekte und Lernerfahrungen der acht Teilnehmenden des ersten OpenAI-Scholars-Programms. Die Projekte reichen von Musik- und Kunstgenerierung bis zu Sprachverarbeitung und Reinforcement Learning; detaillierte Leistungsdaten oder ein systematischer Vergleich fehlen, und Demo-Tag sowie Folgeprogramm werden als künftige Vorhaben angekündigt.
Mittel
Der Bericht zieht Bilanz des ersten dreimonatigen OpenAI-Scholars-Programms. OpenAI zufolge schlossen alle acht Teilnehmenden ein Machine-Learning-Projekt ab. Die Arbeiten umfassten unter anderem Musikgenerierung, Ähnlichkeitsbewertung von Texten, emotionale Bildwelten, KI-gestützte Kunstkomposition, intuitive Physik, semantische Bäume für Sprachmodelle und einen sprachgesteuerten Gridworld-Agenten. Ein Projekt zu emotionalen Landschaften erzielte laut Bericht je nach Modell unterschiedlichen Erfolg; für das als gut beschriebene STS-Modell werden keine Kennzahlen genannt. Zu einem weiteren Projekt, Deephypebot, liefert der Text vor allem Links und ein Infrastrukturdiagramm.
Die Teilnehmenden berichten von Fortschritten mit TensorFlow, PyTorch und Keras sowie von mehr Sicherheit beim Entwickeln und Lesen von ML-Arbeiten. Ihre nächsten Schritte reichen von Forschung, Lehre und weiterer Ausbildung bis zu Tätigkeiten im ML-Engineering. OpenAI kündigt einen Demo-Tag, eine mögliche Neuauflage 2019 und eine Fallstudie für andere Organisationen an. Der Artikel präsentiert Projektbeschreibungen und persönliche Rückblicke, aber keine vergleichende Bewertung oder detaillierten Leistungsdaten; die angekündigten Veranstaltungen und Vorhaben liegen zum Veröffentlichungszeitpunkt noch in der Zukunft.
Ausführlich lesen
Der Bericht stellt den Abschluss des ersten dreimonatigen OpenAI-Scholars-Programms vor. OpenAI erklärt, alle acht Teilnehmenden hätten ein Abschlussprojekt erstellt und sich in kurzer Zeit von erfahrenen Softwareentwicklern zu Machine-Learning-Praktikern weiterentwickelt. Der Text beschreibt ihre Lernerfahrungen und nächsten Schritte und kündigt einen Demo-Tag sowie eine mögliche Neuauflage des Programms 2019 an. Das Programm richte sich an Menschen aus in der Branche unterrepräsentierten Gruppen; OpenAI begründet dies mit dem Ziel, die Repräsentation im KI-Feld zu verbessern. Eine Fallstudie zur ersten Gruppe solle später anderen Organisationen bei ähnlichen Initiativen helfen.
Die Projekte reichen von kreativen Anwendungen bis zu Sprachverarbeitung und physikalischer Vorhersage. Ein Musikmodell erzeugt Klavier- oder Kammermusik, entweder allgemein oder mit Training auf bestimmte Komponisten und Stile. Dafür kombiniert es noten- und akkordbasierte Modellierung mit Kritikernetzen, die Echtheit und mutmaßliche Urheberschaft bewerten. Ein weiteres Projekt befasste sich mit dem SemEval-STS-Task, Track 4, und erprobte dafür unterschiedliche Modellarchitekturen, darunter LSTMs, Transformer und RNNs; der Bericht bezeichnet die Leistung als gut, nennt aber keine Messwerte. Ein zweiwöchiges Projekt erzeugte emotionale Landschaften mit GAN- und VAE-Varianten, laut Bericht mit unterschiedlichem Erfolg. Zuvor war ein Datensatz zu Stand-up-Comedy-Pointeversen untersucht worden, doch seine Bearbeitung hätte länger als die verfügbare Zeit gedauert.
Ein Kunstprojekt kombinierte ein auf acht Bildkompositionsmerkmale angepasstes ResNet50 mit einem CycleGAN. Durch vorgegebene Zielwerte für diese Merkmale sollten unterschiedliche Bildkompositionen erzeugt werden. Ein anderes Modell sollte aus Beobachtungen lernen, wie sich Objekte im Raum bewegen, ohne Begriffe wie Kraft, Reibung oder Impuls ausdrücklich vorzugeben. Für die Sprachverarbeitung untersuchte ein Projekt semantische Bäume in LSTMs, um Beziehungen zwischen Satzbestandteilen besser abzubilden. Ein als Deephypebot bezeichnetes Projekt wird im Text mit einem Infrastrukturdiagramm sowie Blog- und Repository-Links aufgeführt; eine genauere Beschreibung seiner Funktion enthält der Bericht nicht. Das achte Projekt verbindet NLP und Reinforcement Learning: Ein Agent soll in einer Gridworld auf Sprachbefehle hin Zielzellen erreichen. Eine stärkere Sprachkonditionierung wird als nächster Entwicklungsschritt beschrieben.
Die Teilnehmenden berichten außerdem von vertieften Kenntnissen in Frameworks wie TensorFlow, PyTorch und Keras, von Erfahrungen mit Reinforcement Learning, generativen Modellen und NLP sowie von mehr Sicherheit beim Lesen von Forschungsarbeiten und beim Entwickeln eigener Modelle. Ihre geplanten nächsten Schritte umfassen Forschung und Lehre, ML-Engineering, Beratung, weitere Ausbildung und die Fortführung eigener Projekte. Diese persönlichen Einschätzungen werden im Artikel als Erfahrungsberichte wiedergegeben, nicht durch unabhängige Messungen belegt.
Der für den 20. September angekündigte Demo-Tag sollte Präsentationen, Gespräche und Fragen mit der Machine-Learning-Community umfassen; die Vorträge sollten später aufgezeichnet und geteilt werden. Zum Zeitpunkt des Berichts sind dies Ankündigungen und Zukunftspläne. Insgesamt beschreibt der Text Projekte und individuelle Lernerfahrungen, liefert aber keine vergleichende Evaluation der acht Arbeiten, keine detaillierten Leistungsdaten und keine Angaben dazu, wie die Ergebnisse außerhalb der vorgestellten Beispiele geprüft wurden.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Zusammenfassung wurde als Gesamtheit beider Fassungen (kurz und mittel) geprüft; beide geben den Bericht sachlich korrekt wieder, lassen aber die Ausrichtung des Programms auf unterrepräsentierte Gruppen aus. Die Anteilsangaben in Lunas Einordnung (52 %, 37 %, 59 %) lassen sich aus dem Bericht nicht prüfen.
Im Bericht, aber nicht in der Zusammenfassung
- Das Programm richtet sich an Menschen aus unterrepräsentierten Gruppen, und die Begründung dafür (bessere Repräsentation, damit KI allen nützt) fehlt.
- Die zentrale Beobachtung, dass erfahrene Softwareentwickelnde sich in kurzer Zeit zu ML-Praktikern entwickeln können, fehlt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 80 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 80 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %Hintergrund, keine Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 52 %einzelne zitierbare Belege
- JEV 38 %einzelne zitierbare Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 59 %gleiches Oberthema, hilft nicht
- JEV 24 %einzelne zitierbare Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung Hintergrund, keine Belege
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv