OpenAI Scholars 2021: Final projects
Zusammenfassung
Kurz
OpenAI stellt neun Forschungsprojekte der Scholars-Klasse 2021 vor, darunter Arbeiten zu Sprachmodellen, Feedback, Tokenisierung, Transformer-Architekturen und verstärkendem Lernen. Die Seite nennt einzelne von den Teilnehmenden berichtete Befunde, macht aber deutlich, dass manche Arbeiten explorativ oder vorläufig sind, und ergänzt die Projektübersicht um persönliche Rückblicke auf Mentoring und berufliche Entwicklung.
Mittel
Der Bericht stellt die neun Projekte der OpenAI-Scholars-Klasse von 2021 vor. OpenAI zufolge schlossen die Teilnehmenden ein sechsmonatiges Mentoringprogramm ab und entwickelten mit Unterstützung des Unternehmens Open-Source-Forschungsprojekte. Die Themen reichen von Sprachtransfer und kontrastivem Lernen über Meinungsmodelle und Belohnungsmodelle bis zu Graph-Netzen, Tokenisierung, Transformer-Skalierung und verstärkendem Lernen.
Einige konkrete Befunde werden genannt: Christina Kim berichtet, dass englisches Vortraining beim Transfer am meisten für Deutsch, danach für Spanisch und schließlich für Chinesisch half und der Transfer mit Modellgröße, Daten und Rechenaufwand vorhersagbar skaliere. Legg Yeung zufolge konnten nicht-kontrastive Modelle beim SET-Spiel Aufgaben lösen, an denen kontrastive Modelle mit mehr als doppelt so vielen Parametern scheiterten. Andere Projekte untersuchten Fragestellungen, ohne im Bericht abschließende Ergebnisse zu nennen. Kitanidis bezeichnet ihre Resultate als vorläufig; Ensigns Arbeit wird als explorativ beschrieben.
Die Scholars schildern Mentoring, praktische Forschungserfahrung und berufliche Orientierung als wichtige Programmwirkungen. Insgesamt ist die Seite eine Sammlung knapper Projekt- und Erfahrungsberichte, keine vergleichende methodische Auswertung der Arbeiten.
Ausführlich lesen
Der Bericht stellt die neun Projekte der OpenAI-Scholars-Klasse von 2021 vor. OpenAI erklärt, die Teilnehmenden hätten ein sechsmonatiges Mentoringprogramm abgeschlossen und mit Stipendien und Unterstützung des Unternehmens Open-Source-Forschungsprojekte erarbeitet. Sie hätten mit Forschenden von OpenAI an Themen wie KI-Sicherheit, kontrastivem Lernen, generativen Modellen, Skalierungsgesetzen, Sprachverarbeitung und Lernen aus menschlichem Feedback gearbeitet. Die Seite verbindet kurze Projektbeschreibungen mit Angaben zu den beruflichen Hintergründen und persönlichen Erfahrungen der Scholars.
Christina Kim untersuchte, wie stark englisches Vortraining beim Transfer auf Deutsch, Spanisch und Chinesisch hilft. Nach ihrer Darstellung war der Nutzen für Deutsch am größten, gefolgt von Spanisch und dann Chinesisch; außerdem skaliere der Transfer mit Modellparametern, Daten und Rechenaufwand vorhersagbar. Danielle Ensign untersuchte Rückkopplungen in Meinungsmodellen und die möglichen Folgen, wenn Modelle wiederholt mit Ausgaben früherer Modelle trainiert werden. Der Bericht beschreibt ihr Vorhaben als explorativ und nennt keine abschließenden Ergebnisse.
Ellie Kitanidis trainierte ein Sprachrepräsentationsmodell ausschließlich mit einem kontrastiven Lernziel. Sie wollte dessen Übertragbarkeit und Skalierbarkeit mit traditionellen Sprachmodellierungszielen vergleichen und Einflussfaktoren auf die Leistung untersuchen; die vorgestellten Resultate bezeichnet sie als vorläufig. Jonathan Ward zeigte laut eigener Beschreibung, dass Belohnungsmodelle mit groß angelegtem, strukturiertem Feedback aus Websites trainiert werden können. Kudzo Ahegbebu fragte, ob kleinere adaptive Modelle bei begrenztem Trainingsaufwand durch zusätzliche Berechnung während der Auswertung Nachteile geringerer Parameterzahl ausgleichen können. Er untersuchte dies in mehreren Modellbereichen und nannte Ansätze, die bei Graph-Neuronalen Netzen Kosten senken und Leistung verbessern könnten.
Legg Yeung nutzte das Kartenspiel SET, um den Zusammenhang zwischen der Dimension von Vektorrepräsentationen und der Zusammensetzung von Aufgaben zu untersuchen. Er berichtet, dass nicht-kontrastive Modelle mit einer bestimmten Parameterzahl Spiele lösen konnten, an denen kontrastive Modelle mit mehr als der doppelten Parameterzahl scheiterten. Sam Gbafa verglich Tokenisierungsverfahren und deren Skalierung und betrachtete, ob sich die Segmentierung einer Sequenz erlernen lässt, statt sie vorab festzulegen. Shola Oyedele untersuchte Skalierungsgesetze verschiedener Transformer-Architekturen und die Abwägung zwischen Modellleistung und Trainingskosten. Florentine (Tyna) Eloundou beschrieb mit „Multiple Experts, Multiple Objectives“ einen Ansatz, bei dem eine bedienende Person eine bedingte Strategie darauf ausrichten kann, welche von mehreren Zielsetzungen verfolgt wird; dafür soll ein Agent Erfolgsvorbilder mehrerer Experten nutzen.
Die Teilnehmenden schildern das Programm als Gelegenheit, Forschungserfahrung zu sammeln, Interessen zu präzisieren und beruflich in die KI-Forschung oder -Entwicklung zu wechseln. Mehrere heben Mentoring und den Zugang zu Forschenden hervor; manche betonen außerdem, dass sie ihre Fähigkeit, selbst zur Forschung beizutragen, neu einschätzten. Die Seite bietet damit vor allem Projektüberblicke und persönliche Rückblicke. Sie liefert keine einheitliche methodische Auswertung der neun Arbeiten und nur bei einzelnen Projekten konkrete Befunde; mehrere Vorhaben werden als explorativ oder vorläufig beschrieben.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Stufen und Anteilswerte wurden nicht übernommen. Die Teilfragen-Einordnung ist leer, daher fehlt dort nichts zu bewerten. Die mittlere Zusammenfassung ist im Wesentlichen treu, die kurze lässt die konkreten Befunde weg.
Im Bericht, aber nicht in der Zusammenfassung
- Die Scholars arbeiteten mit OpenAI-Forschenden zusammen, die GPT-3 und DALL·E entwickelt hatten
- Ellie Kitanidis vortrainierte ein Sprachmodell rein mit kontrastivem Ziel
- Florentine Eloundou stellt den MEMO-Ansatz (multiple experts, multiple objectives) vor
- Sam Gbafa untersucht tokenisierungsübergreifende Skalierung und das Lernen einer Segmentierung
- Shola Oyedele untersucht Skalierungsgesetze für Transformer-Varianten
- Die Kurzfassung nennt keine der konkreten Befunde, nur Themenlisten
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 23 %nur am Rande erwähnt
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %nur am Rande erwähnt
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 37 %gleiches Oberthema, hilft nicht
- JEV 31 %Hintergrund, keine Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 29 %nur am Rande erwähnt
- amos 30 %nur am Rande erwähnt
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 42 %gleiches Oberthema, hilft nicht
- JEV 38 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 30 %nur am Rande erwähnt
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv