Team update
Zusammenfassung
Kurz
Der Beitrag stellt zehn neue oder zeitlich befristet mit OpenAI arbeitende Personen vor und fasst ihre Erfahrungen in KI, maschinellem Lernen, Robotik, Neurowissenschaften und Kommunikation zusammen. Er ist eine Teamankündigung; Angaben zu Leistungen und technischen Erfolgen werden behauptet, aber nicht unabhängig geprüft.
Mittel
Der OpenAI-Beitrag stellt fünf neue Vollzeitkräfte sowie fünf Praktikanten und zeitlich begrenzte Besucher vor. Die Kurzbiografien heben ihre Erfahrungen in maschinellem Lernen, Sprachtechnik, Robotik, Neurowissenschaften, Programmierung, Journalismus und Kommunikation hervor.
Zu den Vollzeitkräften gehören Dario Amodei, der laut Text an Deep Speech 2 und einer Arbeit zu KI-Sicherheit mitwirkte, sowie Filip Wolski mit Erfahrung in Modellierung und Programmierwettbewerben. Jack Clark soll Strategie und Kommunikation verantworten. Scott Gray wird für GPU-Optimierungen tiefer Netze genannt; Zain Shah für frühere Deep-Learning-Arbeiten und eine GIF-Suchmaschine. Unter den zeitlich befristeten Gästen entwickelte Catherine Olsson die OpenAI-Gym-REST-API. Die übrigen forschen unter anderem zu anpassungsfähigen Modellen, optimaler Steuerung und Robotik, gruppenäquivarianten Faltungsnetzen sowie kooperativem Reinforcement Learning.
Der Beitrag ist eine Teamankündigung, keine unabhängige Prüfung. Leistungsangaben und erwartete Verbesserungen sind Behauptungen des Textes. Vier Abbildungen werden nur knapp visuell beschrieben.
Ausführlich lesen
Der Bericht „Team update“ kündigt neue Mitarbeitende bei OpenAI an. Er ordnet sie in Vollzeitkräfte sowie Praktikanten und zeitlich begrenzte Besucher ein und beschreibt vor allem deren bisherige Arbeit und Fachgebiete. Als Anlass nennt der Text das Wachstum des Teams zur Unterstützung der Unternehmensziele.
Zu den fünf Vollzeitkräften zählt Dario Amodei. Laut Bericht war er einer der leitenden Autoren des Spracherkennungssystems Deep Speech 2, das bei vielen Sprachaufgaben nahezu menschliche Leistung erreicht habe. Außerdem sei er Hauptmitautor einer Arbeit zu Sicherheitsproblemen und möglichen Unfällen in maschinellen Lernsystemen gewesen und habe zuvor bei Google Brain gearbeitet. Filip Wolski bringt dem Text zufolge Erfahrung mit praktischer Modellierung aus dem Hochfrequenzhandel mit und gewann früher Wettbewerbe im Programmieren. Jack Clark, zuvor Journalist bei Bloomberg und BusinessWeek, übernimmt die Leitung für Strategie und Kommunikation. Seine Zuständigkeiten sollen Öffentlichkeitsarbeit, Politik, Kommunikation und Strategie umfassen. Scott Gray wird als Ingenieur mit Erfahrung in der Leistungsoptimierung tiefer Netze auf GPUs vorgestellt; seine Optimierungen für lineare Algebra und Faltungen seien zum Zeitpunkt des Berichts die schnellsten verfügbaren. Zain Shah habe zuvor Deep-Learning-Arbeiten an einem Mensch-Maschine-System bei Clara Labs geleitet und außerdem an Sprachsynthese und Computational Neuroscience gearbeitet, ein Unternehmen gegründet und eine GIF-Suchmaschine entwickelt.
Für einen begrenzten Zeitraum kommen fünf weitere Personen hinzu. Catherine Olsson entwickelte laut Bericht die REST-API von OpenAI Gym, für die bereits Anbindungen in mehreren Programmiersprachen entstanden seien. Sie habe am MIT Informatik sowie Brain and Cognitive Science mit Bestnoten abgeschlossen und Forschungserfahrung in Computational Neuroscience und Psychologie. Harri Edwards, Doktorand in Edinburgh, untersucht Modelle, die sich durch das Lernen von Datensatzrepräsentationen schnell an neue Situationen anpassen sollen. Igor Mordatch arbeitet an optimaler Steuerung, maschinellem Lernen und Anwendungen unter anderem für Robotik, Biomechanik und Neurowissenschaften; im September 2017 sollte er eine Professur an der CMU antreten. Taco Cohen forscht zu Repräsentationslernen und habe gruppenäquivariante Faltungsnetze entwickelt, die Symmetrien nutzen und dadurch die statistische Effizienz verbessern sollen. Tambet Matiisen, Doktorand aus Tartu, wird mit Projekten zu kooperierenden Deep-Reinforcement-Learning-Agenten und zur Vorhersage des Aufenthaltsorts einer Ratte anhand ihrer Hirnaktivität beschrieben.
Der Beitrag ist eine Teamvorstellung mit Kurzbiografien, keine Untersuchung oder systematische Auswertung. Die Aussagen zu Leistungen, Geschwindigkeitsrekorden und erwarteten Verbesserungen werden im Text behauptet und hier nicht unabhängig überprüft. Vier nachgeholte Abbildungen werden lediglich durch Bildbeschreibungen zu Blumenwiese, pastellfarbenem Himmel und abstrakten Farbflächen erläutert; sie tragen keine zusätzlichen textlichen Ergebnisse bei.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Es liegen zwei Zusammenfassungen vor (kurz und mittel). Bewertet wurde die mittlere, da sie die Details enthält. Die kurze ist ebenfalls treu, nennt aber keine Namen. Die Sammelfrage SF-T3 wurde einmal bewertet; Teilfragen gab es keine.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- erwartete Verbesserungen (der Bericht nennt keine solchen Erwartungen)
- Jack Clark soll Strategie und Kommunikation verantworten (der Bericht sagt nur, er helfe dabei)
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 79 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra