OpenAI Scholars 2019: Final projects
Zusammenfassung
Kurz
Der Bericht präsentiert acht Abschlussprojekte der OpenAI Scholars von 2019 zu Sprachmodellen, Robotik, Bildung, Medizin, Sentimentanalyse und Bildgenerierung. Die beschriebenen Erfolge – darunter 75 bis 90 Prozent Genauigkeit für einen Projekt-Prototypen – sind Projektangaben; unabhängige Prüfungen oder ein Nachweis klinischer Wirksamkeit enthält der Beitrag nicht.
Mittel
Der Bericht stellt acht Abschlussprojekte der zweiten OpenAI-Scholar-Klasse von 2019 vor. Die Teilnehmenden kamen aus unterschiedlichen Fachgebieten und arbeiteten laut Artikel binnen drei Monaten mit Lernmaterialien und Mentoring an maschinellem Lernen. Vorgestellt werden unter anderem GPT-2 Small für Fragebeantwortung, neugiergetriebene Exploration für Robotik in einer Simulation und CREATURE, ein Prototyp zur automatischen Kennzeichnung von Online-Lernprojekten, für den eine Genauigkeit von 75 bis 90 Prozent angegeben wird.
Weitere Arbeiten behandelten Reinforcement Learning für Therapieempfehlungen anhand historischer Gesundheitsdaten, Sentimentanalyse, den Diskontfaktor in Deep Q-Networks, die visuelle Auswertung generativer Bildmodelle sowie Wissensdestillation für kleinere Transformer-Modelle. Die jeweiligen Projektbeschreibungen berichten etwa von gelösten Simulationsaufgaben, besseren Ergebnissen in bestimmten Modellvergleichen und verbesserten Leistungen in angepassten Gridworld-Umgebungen. Die medizinische Auswertung verglich gelernte Strategien mit historischen Behandlungen; klinische Wirksamkeit wird nicht belegt.
Der Beitrag präsentiert die Ergebnisse als Beispiele für den Lernfortschritt und die selbstständige Arbeit der Scholars. Einheitliche Versuchsdetails oder eine unabhängige Überprüfung der Resultate enthält er nicht. Leistungs- und Genauigkeitsangaben sind deshalb als Behauptungen des Berichts zu verstehen.
Ausführlich lesen
Der Bericht stellt die Abschlussprojekte der zweiten Klasse des OpenAI-Scholar-Programms von 2019 vor. Laut Artikel hatten acht Teilnehmende über drei Monate hinweg mit Lernmaterialien und Mentoring den Einstieg in maschinelles Lernen gefunden. Sie kamen aus unterschiedlichen Fachgebieten und verfügten dem Bericht zufolge zuvor meist nur über begrenzte Erfahrung mit maschinellem Lernen. Die Projekte wurden bei einem Demo Day bei OpenAI präsentiert. Der Artikel führt sie als Beispiele für technische Fähigkeiten und selbstständiges Arbeiten an; als Beitrag zur Finanzierung von Rechenleistung werden AWS-Guthaben genannt.
Die acht Projekte untersuchten verschiedene Anwendungen und Methoden. Ein Projekt passte GPT-2 Small für Fragebeantwortung an und nutzte die Auswertung von Erfolgen und Fehlern bei solchen Aufgaben, um Schlussfolgerungen über die Reasoning-Fähigkeiten des Modells zu ziehen. Ein anderes setzte neugiergetriebene Exploration für Robotikaufgaben mit spärlichen oder fehlenden externen Belohnungen ein. Die interne Belohnung beruhte dabei auf dem Fehler bei der Vorhersage des nächsten Zustands. Der Bericht sagt, das Verfahren habe mehrere schwierige Manipulationsaufgaben in einer Simulation gelöst.
CREATURE sollte Lehrkräften helfen, passende Online-Lernprojekte zu finden, indem es Projekte automatisch kennzeichnet. Der Artikel bezeichnet es als Machbarkeitsnachweis und nennt eine Genauigkeit von 75 bis 90 Prozent. Ein Projekt zur medizinischen Anwendung von Reinforcement Learning nutzte historische elektronische Gesundheitsdaten, um Empfehlungen für die Dosierung von intravenösen Flüssigkeiten und Vasopressoren anhand von Vital- und Laborwerten zu entwickeln. Untersucht wurden Policy Iteration und tabellarisches Q-Learning mit diskreten Zustands- und Aktionsräumen. Laut Bericht empfahl die gelernte optimale Politik weniger Flüssigkeit und mehr Vasopressoren als die tatsächlich dokumentierten ärztlichen Behandlungen. Eine Off-Policy-Auswertung ergab beim Q-Learning eine höhere Belohnung als bei Policy Iteration. Der Artikel beschreibt eine Erweiterung auf kontinuierliche Räume und weitere Algorithmen als mögliche nächste Schritte.
Ein weiteres Projekt verband über eine Belohnungsfunktion Reinforcement Learning mit überwachten Sprachverarbeitungsmethoden zur Sentimentanalyse. Die Verfassenden berichten von Verbesserungen gegenüber einem Transformer-Modell und vergleichbaren Ergebnissen mit einem vortrainierten BERT-Modell; sie betonen die Bedeutung einer geeigneten Belohnungsdefinition. Ein Projekt zu Deep Q-Networks untersuchte den Diskontfaktor und schlug ein Verfahren mit zeitlich veränderlichem Faktor vor. Experimente in angepassten Gridworld-Umgebungen hätten laut Artikel robuste Verbesserungen gezeigt, auch über DQN und diskrete Räume hinaus. Ein weiteres Vorhaben verwendete Activation Atlases, um generative Bildmodelle numerisch und visuell zu untersuchen und Unterschiede zwischen echten und generierten Bildern sichtbar zu machen. Schließlich erkundete ein Projekt Wissensdestillation: Ein großes, trainiertes Transformer-Modell sollte als Lehrermodell für ein kleineres, untrainiertes Modell dienen, damit Sprachmodelle leichter auf mobilen Geräten nutzbar werden könnten.
Der Bericht dokumentiert die Vorhaben und fasst ihre Ergebnisse aus Sicht der Beteiligten beziehungsweise des Programms zusammen. Er liefert jedoch keine einheitlichen Versuchsprotokolle, Vergleichsdaten oder unabhängige Prüfung der Resultate. Die Aussagen zu Genauigkeit, Leistungsverbesserungen und Übertragbarkeit sind daher als im Artikel berichtete Projektergebnisse zu verstehen; insbesondere werden die medizinischen Empfehlungen anhand historischer Daten ausgewertet und nicht als Nachweis klinischer Wirksamkeit dargestellt.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat zwei Fassungen der Zusammenfassung geliefert; beide wurden gemeinsam geprüft. Die Anteilsangaben in Lunas Einordnung wurden nicht bewertet, nur die Stufen wurden unabhängig neu vergeben. Die Aussage, dass klinische Wirksamkeit nicht belegt ist, ist eine sinnvolle Einordnung und kein Befund des Berichts.
Im Bericht, aber nicht in der Zusammenfassung
- Die medizinische Studie fand, dass die optimalen Richtlinien niedrigere IV-Flüssigkeitsdosen und höhere Vasopressordosen empfehlen als die tatsächlichen ärztlichen Behandlungen, und Q-Learning schnitt laut Off-Policy-Auswertung besser ab als Policy Iteration
- Der Rahmen Scholars Demo Day bei OpenAI wird nicht genannt
- Die Danksagung an AWS für Rechenguthaben und an die Community-Mentoren fehlt
- Die Ankündigung, dass im Juli Informationen zur nächsten Scholar-Klasse folgen, fehlt
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 28 %Hintergrund, keine Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 25 %einzelne zitierbare Belege
- JEV 33 %nur am Rande erwähnt
- amos 30 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 25 %einzelne zitierbare Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 23 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv