Rolling out age prediction
Zusammenfassung
Kurz
OpenAI führt laut Bericht ein Modell ein, das anhand von Konto- und Nutzungssignalen einschätzen soll, ob ein ChatGPT-Konto wahrscheinlich einer minderjährigen Person gehört, und dann zusätzliche Inhaltsbeschränkungen aktiviert. Fälschlich eingestufte Nutzerinnen und Nutzer sollen ihr Alter per Selfie bestätigen können; Angaben zu Genauigkeit und Fehlerraten fehlen im Bericht.
Mittel
OpenAI beschreibt die Einführung eines Modells, das bei ChatGPT-Konten im Verbraucherbereich abschätzen soll, ob sie wahrscheinlich einer Person unter 18 Jahren gehören. Dafür kombiniere es laut Bericht Signale wie Kontodauer, typische Nutzungszeiten, Nutzungsmuster und das angegebene Alter. Bei einer vermuteten Minderjährigkeit sollen zusätzliche Schutzmaßnahmen vor unter anderem drastischer Gewalt, Selbstverletzungsdarstellungen, riskanten Herausforderungen und bestimmten Inhalten zu Sexualität oder Körperbildern greifen. Bei unsicherer oder unvollständiger Altersinformation werde eine stärker geschützte Erfahrung gewählt.
Wer fälschlich als minderjährig eingeordnet werde, könne laut OpenAI sein Alter per Selfie über Persona bestätigen und den vollständigen Zugang wiederherstellen. Eltern könnten außerdem Nutzungszeiten und bestimmte Funktionen steuern sowie Hinweise auf Anzeichen akuter Belastung erhalten. OpenAI erklärt, die Schutzmaßnahmen beruhten auf fachlichen Einschätzungen und wissenschaftlicher Literatur und würden fortlaufend verbessert. Der Bericht nennt jedoch weder Genauigkeitswerte noch Fehlerraten oder Einzelheiten zur Gewichtung und Speicherung der Signale. Der EU-Rollout habe begonnen; zugleich beschreibt der Text die Einführung dort als in den kommenden Wochen vorgesehen.
Ausführlich lesen
Der Bericht beschreibt OpenAIs Einführung einer Altersprognose für ChatGPT-Konten im Verbraucherbereich. Nach Darstellung des Unternehmens soll ein Modell einschätzen, ob ein Konto wahrscheinlich einer Person unter 18 Jahren gehört. Dadurch sollen altersgerechte Erfahrungen und zusätzliche Schutzmaßnahmen greifen. OpenAI ordnet das Vorhaben in seine bestehenden Bemühungen zum Schutz von Jugendlichen ein: Wer bei der Anmeldung angibt, minderjährig zu sein, erhält dem Bericht zufolge bereits automatisch zusätzliche Schutzvorkehrungen.
Für die Einschätzung kombiniert das Modell laut OpenAI Verhaltens- und Kontosignale. Genannt werden das Alter des Kontos, typische Nutzungszeiten, längerfristige Nutzungsmuster und das von der Person angegebene Alter. Das Unternehmen erklärt, die Einführung solle zugleich Erkenntnisse darüber liefern, welche Signale die Genauigkeit verbessern; diese Erkenntnisse wolle es zur fortlaufenden Weiterentwicklung des Modells nutzen.
Wird ein Konto möglicherweise einer minderjährigen Person zugeordnet, aktiviert ChatGPT laut Bericht zusätzliche Einschränkungen. Sie sollen den Kontakt mit sensiblen Inhalten verringern, darunter drastische Gewalt, riskante virale Herausforderungen, sexuelles, romantisches oder gewalttätiges Rollenspiel, Darstellungen von Selbstverletzung sowie Inhalte zu extremen Schönheitsidealen, ungesundem Abnehmen oder Beschämung des Körpers. OpenAI erklärt, die Schutzmaßnahmen stützten sich auf fachliche Einschätzungen und wissenschaftliche Literatur zur Entwicklung von Kindern und Jugendlichen. Dabei würden unter anderem Unterschiede bei Risikowahrnehmung, Impulskontrolle, Gruppeneinfluss und Gefühlsregulation berücksichtigt. Wenn das Alter unklar sei oder Informationen fehlten, solle vorsichtshalber eine stärker geschützte Erfahrung gelten.
Für Personen, die nach Einschätzung des Modells fälschlich in die Minderjährigen-Erfahrung fallen, beschreibt OpenAI einen Weg zur Korrektur: Sie könnten ihr Alter über ein Selfie mit dem Dienst Persona bestätigen und den vollständigen Zugang wiederherstellen. Die Prüfung und der Start des Vorgangs seien unter „Einstellungen > Konto“ möglich. Eltern könnten außerdem bestimmte Nutzungszeiten festlegen, Funktionen wie Erinnerung oder Modelltraining steuern und Benachrichtigungen zu Anzeichen akuter Belastung erhalten.
Der Bericht nennt keine Messwerte zur Genauigkeit, keine konkreten Fehlerraten und keine detaillierten Angaben dazu, wie einzelne Signale gewichtet oder gespeichert werden. OpenAI sagt, es werde die Einführung beobachten und das Modell weiter verbessern, insbesondere mit Blick auf Umgehungsversuche. Der Text nennt den Start in der EU als laufend und verweist auf regionale Anforderungen; an anderer Stelle heißt es, die Einführung dort erfolge in den kommenden Wochen. Als laufendes Vorhaben kündigt das Unternehmen weitere Updates und den Austausch mit Fachorganisationen an.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung ist im Kern treu und erfindet nichts; die Lücken betreffen vor allem die Selbstauskunft Minderjähriger und den Expertendialog. Die Einordnung stützt sich auf den Bericht, der ein Produktankündigung zur Altersvorhersage ist und die breiteren Governance-Fragen nur teilweise berührt.
Im Bericht, aber nicht in der Zusammenfassung
- Minderjährige, die bei der Anmeldung selbst angeben, unter 18 zu sein, erhalten automatisch zusätzliche Schutzmaßnahmen
- Die Einordnung als Fortsetzung früherer Schutzmaßnahmen sowie der Verweis auf Teen Safety Blueprint und Under-18 Principles fehlen
- Der Dialog mit Fachleuten wie der American Psychological Association und ConnectSafely wird nicht erwähnt
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 25 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 27 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist?
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 32 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 38 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus?
- SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung?
- SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig?
- SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt?
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV 44 %einzelne zitierbare Belege
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“?
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 67 %einzelne zitierbare Belege
- JEV 48 %beantwortet teilweise oder widerspricht
- amos 33 %einzelne zitierbare Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 22 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung einzelne zitierbare Belege
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 28 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 36 %einzelne zitierbare Belege
- JEV 42 %einzelne zitierbare Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung einzelne zitierbare Belege
- SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage?
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 32 %gleiches Oberthema, hilft nicht
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 49 %einzelne zitierbare Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 42 %einzelne zitierbare Belege
- JEV 32 %beantwortet teilweise oder widerspricht
- amos 25 %einzelne zitierbare Belege
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv