Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai10. Mai 2021 · Q008438

OpenAI Scholars 2021: Final projects

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI stellt neun Forschungsprojekte der Scholars-Klasse 2021 vor, darunter Arbeiten zu Sprachmodellen, Feedback, Tokenisierung, Transformer-Architekturen und verstärkendem Lernen. Die Seite nennt einzelne von den Teilnehmenden berichtete Befunde, macht aber deutlich, dass manche Arbeiten explorativ oder vorläufig sind, und ergänzt die Projektübersicht um persönliche Rückblicke auf Mentoring und berufliche Entwicklung.

Mittel

Der Bericht stellt die neun Projekte der OpenAI-Scholars-Klasse von 2021 vor. OpenAI zufolge schlossen die Teilnehmenden ein sechsmonatiges Mentoringprogramm ab und entwickelten mit Unterstützung des Unternehmens Open-Source-Forschungsprojekte. Die Themen reichen von Sprachtransfer und kontrastivem Lernen über Meinungsmodelle und Belohnungsmodelle bis zu Graph-Netzen, Tokenisierung, Transformer-Skalierung und verstärkendem Lernen.

Einige konkrete Befunde werden genannt: Christina Kim berichtet, dass englisches Vortraining beim Transfer am meisten für Deutsch, danach für Spanisch und schließlich für Chinesisch half und der Transfer mit Modellgröße, Daten und Rechenaufwand vorhersagbar skaliere. Legg Yeung zufolge konnten nicht-kontrastive Modelle beim SET-Spiel Aufgaben lösen, an denen kontrastive Modelle mit mehr als doppelt so vielen Parametern scheiterten. Andere Projekte untersuchten Fragestellungen, ohne im Bericht abschließende Ergebnisse zu nennen. Kitanidis bezeichnet ihre Resultate als vorläufig; Ensigns Arbeit wird als explorativ beschrieben.

Die Scholars schildern Mentoring, praktische Forschungserfahrung und berufliche Orientierung als wichtige Programmwirkungen. Insgesamt ist die Seite eine Sammlung knapper Projekt- und Erfahrungsberichte, keine vergleichende methodische Auswertung der Arbeiten.

Ausführlich lesen

Der Bericht stellt die neun Projekte der OpenAI-Scholars-Klasse von 2021 vor. OpenAI erklärt, die Teilnehmenden hätten ein sechsmonatiges Mentoringprogramm abgeschlossen und mit Stipendien und Unterstützung des Unternehmens Open-Source-Forschungsprojekte erarbeitet. Sie hätten mit Forschenden von OpenAI an Themen wie KI-Sicherheit, kontrastivem Lernen, generativen Modellen, Skalierungsgesetzen, Sprachverarbeitung und Lernen aus menschlichem Feedback gearbeitet. Die Seite verbindet kurze Projektbeschreibungen mit Angaben zu den beruflichen Hintergründen und persönlichen Erfahrungen der Scholars.

Christina Kim untersuchte, wie stark englisches Vortraining beim Transfer auf Deutsch, Spanisch und Chinesisch hilft. Nach ihrer Darstellung war der Nutzen für Deutsch am größten, gefolgt von Spanisch und dann Chinesisch; außerdem skaliere der Transfer mit Modellparametern, Daten und Rechenaufwand vorhersagbar. Danielle Ensign untersuchte Rückkopplungen in Meinungsmodellen und die möglichen Folgen, wenn Modelle wiederholt mit Ausgaben früherer Modelle trainiert werden. Der Bericht beschreibt ihr Vorhaben als explorativ und nennt keine abschließenden Ergebnisse.

Ellie Kitanidis trainierte ein Sprachrepräsentationsmodell ausschließlich mit einem kontrastiven Lernziel. Sie wollte dessen Übertragbarkeit und Skalierbarkeit mit traditionellen Sprachmodellierungszielen vergleichen und Einflussfaktoren auf die Leistung untersuchen; die vorgestellten Resultate bezeichnet sie als vorläufig. Jonathan Ward zeigte laut eigener Beschreibung, dass Belohnungsmodelle mit groß angelegtem, strukturiertem Feedback aus Websites trainiert werden können. Kudzo Ahegbebu fragte, ob kleinere adaptive Modelle bei begrenztem Trainingsaufwand durch zusätzliche Berechnung während der Auswertung Nachteile geringerer Parameterzahl ausgleichen können. Er untersuchte dies in mehreren Modellbereichen und nannte Ansätze, die bei Graph-Neuronalen Netzen Kosten senken und Leistung verbessern könnten.

Legg Yeung nutzte das Kartenspiel SET, um den Zusammenhang zwischen der Dimension von Vektorrepräsentationen und der Zusammensetzung von Aufgaben zu untersuchen. Er berichtet, dass nicht-kontrastive Modelle mit einer bestimmten Parameterzahl Spiele lösen konnten, an denen kontrastive Modelle mit mehr als der doppelten Parameterzahl scheiterten. Sam Gbafa verglich Tokenisierungsverfahren und deren Skalierung und betrachtete, ob sich die Segmentierung einer Sequenz erlernen lässt, statt sie vorab festzulegen. Shola Oyedele untersuchte Skalierungsgesetze verschiedener Transformer-Architekturen und die Abwägung zwischen Modellleistung und Trainingskosten. Florentine (Tyna) Eloundou beschrieb mit „Multiple Experts, Multiple Objectives“ einen Ansatz, bei dem eine bedienende Person eine bedingte Strategie darauf ausrichten kann, welche von mehreren Zielsetzungen verfolgt wird; dafür soll ein Agent Erfolgsvorbilder mehrerer Experten nutzen.

Die Teilnehmenden schildern das Programm als Gelegenheit, Forschungserfahrung zu sammeln, Interessen zu präzisieren und beruflich in die KI-Forschung oder -Entwicklung zu wechseln. Mehrere heben Mentoring und den Zugang zu Forschenden hervor; manche betonen außerdem, dass sie ihre Fähigkeit, selbst zur Forschung beizutragen, neu einschätzten. Die Seite bietet damit vor allem Projektüberblicke und persönliche Rückblicke. Sie liefert keine einheitliche methodische Auswertung der neun Arbeiten und nur bei einzelnen Projekten konkrete Befunde; mehrere Vorhaben werden als explorativ oder vorläufig beschrieben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Stufen und Anteilswerte wurden nicht übernommen. Die Teilfragen-Einordnung ist leer, daher fehlt dort nichts zu bewerten. Die mittlere Zusammenfassung ist im Wesentlichen treu, die kurze lässt die konkreten Befunde weg.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Scholars arbeiteten mit OpenAI-Forschenden zusammen, die GPT-3 und DALL·E entwickelt hatten
  • Ellie Kitanidis vortrainierte ein Sprachmodell rein mit kontrastivem Ziel
  • Florentine Eloundou stellt den MEMO-Ansatz (multiple experts, multiple objectives) vor
  • Sam Gbafa untersucht tokenisierungsübergreifende Skalierung und das Lernen einer Segmentierung
  • Shola Oyedele untersucht Skalierungsgesetze für Transformer-Varianten
  • Die Kurzfassung nennt keine der konkreten Befunde, nur Themenlisten

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 23 %nur am Rande erwähnt
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 37 %gleiches Oberthema, hilft nicht
    • JEV 31 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 29 %nur am Rande erwähnt
    • amos 30 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 42 %gleiches Oberthema, hilft nicht
    • JEV 38 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 30 %nur am Rande erwähnt
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →