Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai16. September 2025 · Q001524

Teen safety, freedom, and privacy

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI beschreibt eine Abwägung, bei der Privatsphäre und Freiheit für Erwachsene geschützt und erweitert werden sollen, während bei Jugendlichen Sicherheit Vorrang erhält. Geplant sind unter anderem Altersschätzung, strengere Inhaltsregeln und bei akuter Gefahr Kontakt zu Eltern oder Behörden; der Bericht erläutert jedoch weder die technische Umsetzung noch die Wirksamkeit dieser Maßnahmen.

Mittel

Der Bericht erläutert OpenAIs Abwägung zwischen Privatsphäre, Nutzungsfreiheit und Jugendschutz. Das Unternehmen hält Gespräche mit KI für besonders sensibel und sagt, es entwickle Schutzmaßnahmen, die Daten auch vor Mitarbeitenden abschirmen sollen. Automatisierte Systeme sollen möglichen schweren Missbrauch erkennen; bei besonders gravierenden Gefahren könne eine menschliche Prüfung folgen.

Für Erwachsene wolle OpenAI möglichst große Freiheit innerhalb von Sicherheitsgrenzen ermöglichen. Der Text nennt flirtende Inhalte und fiktionale Darstellungen eines Suizids als Beispiele dafür, dass ein Modell auf ausdrückliche Bitte anders reagieren könne als standardmäßig. Bei Jugendlichen unter 18 Jahren solle dagegen Sicherheit Vorrang haben: Ein System zur Altersschätzung werde entwickelt, und bei Unsicherheit solle die geschützte Erfahrung für Minderjährige gelten. In bestimmten Fällen könne ein Ausweis verlangt werden, was laut Bericht die Privatsphäre Erwachsener beeinträchtigen könne.

Jugendliche sollen strengere Inhaltsregeln erhalten. Bei Suizidgedanken wolle OpenAI Eltern kontaktieren und bei unmittelbar drohender Gefahr gegebenenfalls Behörden einschalten. Altman sagt, die Entscheidungen seien nach Gesprächen mit Fachleuten getroffen worden und könnten umstritten sein. Der Text beschreibt Absichten, nennt aber keine Leistungsdaten, Details zur Umsetzung oder Ergebnisse der geplanten Systeme.

Ausführlich lesen

Der Bericht von Sam Altman erläutert, wie OpenAI drei teils miteinander konkurrierende Anliegen bei der Nutzung von KI gewichtet: Privatsphäre, Freiheit und den Schutz von Jugendlichen. Er beschreibt dabei die Position und geplante Maßnahmen des Unternehmens; konkrete Wirksamkeitsnachweise oder technische Einzelheiten enthält der Text nicht.

OpenAI vertritt die Auffassung, dass Gespräche mit KI ähnlich hohe Vertraulichkeit verdienen wie sensible Gespräche mit Ärzten oder Anwälten. Als Begründung nennt der Bericht, dass Menschen KI zunehmend persönliche Fragen und private Anliegen anvertrauen. Das Unternehmen erklärt, es entwickle Sicherheitsfunktionen, die Daten auch vor Mitarbeitenden schützen sollen, und setze sich bei politischen Entscheidungsträgern für stärkeren Schutz ein. Zugleich seien Ausnahmen vorgesehen: Automatisierte Systeme sollen möglichen schweren Missbrauch erkennen. Besonders gravierende Risiken, etwa Lebensgefahr, geplante Angriffe auf andere oder massive Cybervorfälle, könnten zur Prüfung an Menschen weitergegeben werden.

Beim Thema Freiheit beschreibt der Text das Ziel, Nutzenden innerhalb weit gefasster Sicherheitsgrenzen möglichst viel Kontrolle über die Verwendung der Werkzeuge zu geben. Mit zunehmend steuerbaren Modellen wolle OpenAI diese Freiheiten erweitern. Der Bericht veranschaulicht das anhand von Erwachsenen: Ein Modell solle nicht von sich aus stark flirtend reagieren, könne einem erwachsenen Nutzer auf ausdrückliche Bitte aber entsprechende Inhalte anbieten. Ebenso solle es grundsätzlich keine Anleitungen zum Suizid geben, einem Erwachsenen jedoch beim Verfassen einer fiktiven Geschichte über einen Suizid helfen können. Das Unternehmen fasst diese Haltung intern als Anspruch zusammen, Erwachsene wie Erwachsene zu behandeln, solange dadurch kein Schaden entsteht und die Freiheit anderer nicht beeinträchtigt wird.

Für Jugendliche setzt OpenAI laut Bericht Sicherheit ausdrücklich über Privatsphäre und Freiheit. ChatGPT sei für Personen ab 13 Jahren gedacht. Um Minderjährige unter 18 Jahren zu erkennen, entwickle das Unternehmen ein System, das das Alter anhand der Nutzung schätzt. Bei Zweifeln solle vorsichtshalber die Erfahrung für unter 18-Jährige gelten. In bestimmten Fällen oder Ländern könne zusätzlich ein Ausweis verlangt werden. Der Bericht räumt ein, dass dies die Privatsphäre Erwachsener beeinträchtigen könne, bezeichnet den Tausch aber als gerechtfertigt.

Für Jugendliche sollen strengere Inhaltsregeln gelten: Das Modell solle auf Nachfrage nicht flirtend reagieren und auch in kreativen Schreibsituationen keine Gespräche über Suizid oder Selbstverletzung führen. Bei Suizidgedanken eines minderjährigen Nutzers wolle OpenAI versuchen, die Eltern zu kontaktieren; falls das nicht möglich sei, sollten bei unmittelbar drohender Gefahr Behörden eingeschaltet werden. Der Text verweist außerdem auf Informationen zu Altersprognose und neuen Elternkontrollen.

Als Vorgehen nennt Altman Gespräche mit Fachleuten, ohne diese oder deren Empfehlungen näher auszuführen. Er räumt ein, dass nicht alle die Abwägung akzeptieren werden. Die Darstellung legt Absichten und Grundsätze offen, macht aber keine Angaben zu Genauigkeit der Altersschätzung, Fehlentscheidungen, Abläufen der menschlichen Prüfung oder den Ergebnissen der geplanten Maßnahmen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Stufen beziehen sich nur auf den Bericht. Lunas Stufen und Anteile habe ich nicht übernommen, weil ich sie unabhängig bewerten sollte.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Begründung, Privatsphäre bei KI-Gesprächen wie die ärztliche oder anwaltliche Schweigepflicht (privilege) zu schützen, und dass OpenAI dafür bei Politikern wirbt
  • Die Altersgrenze, nach der ChatGPT für Menschen ab 13 Jahren vorgesehen ist

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %nur am Rande erwähnt
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Fähigkeiten messen
  1. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-P3-T09 Was geschieht, wenn sich ein gemeinsames Prüfverfahren oder die Befunde eines Prüfers später als unzuverlässig erweisen: Wie findet man jede Einsatzfreigabe, die wesentlich darauf beruhte, prüft sie erneut, und welche vorläufigen Betriebsbedingungen gelten, bevor modellbezogene Vorfälle auftreten? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 61 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 59 %einzelne zitierbare Belege
    • JEV 48 %umfangreiche Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 46 %einzelne zitierbare Belege
    • JEV 39 %umfangreiche Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V4-T04 Wenn ein Eigenwert des Menschseins verankert werden soll: Lässt er sich schützen, ohne sich vorher zu einigen, worin er besteht? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 16 %gleiches Oberthema, hilft nicht
    • Luna 42 %umfangreiche Belege
    • JEV 57 %beantwortet direkt und ausführlich
    • amos 30 %einzelne zitierbare Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 31 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 59 %einzelne zitierbare Belege
    • JEV 30 %beantwortet teilweise oder widerspricht
    • amos 25 %nur am Rande erwähnt
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 49 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 49 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 19 %gleiches Oberthema, hilft nicht
    • Luna 44 %einzelne zitierbare Belege
    • JEV 47 %beantwortet teilweise oder widerspricht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →