Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai14. Mai 2026 · Q009190

Helping ChatGPT better recognize context in sensitive conversations

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI berichtet über ChatGPT-Anpassungen, die Hinweise auf Suizid, Selbstverletzung oder Gewalt im Verlauf einzelner und mehrerer Gespräche besser erkennen sollen. Interne Tests hätten die Leistung bei sicheren Antworten verbessert; der Bericht liefert jedoch keine unabhängige Prüfung realer Fälle und beschreibt weitere Anwendungsfelder nur als mögliche Zukunftsvorhaben.

Mittel

Der Bericht stellt Sicherheitsanpassungen vor, mit denen ChatGPT laut OpenAI Risiken in sensiblen Gesprächen besser erkennen soll, wenn sich Warnsignale erst im Verlauf oder über mehrere Unterhaltungen hinweg zeigen. Das Modell soll früheren Kontext einbeziehen und dann etwa deeskalieren, gefährliche Details ablehnen oder auf sichere Alternativen verweisen. Im Fokus stehen Suizid, Selbstverletzung und Gewalt gegen andere.

Für mehrere Gespräche nutzt OpenAI nach eigener Darstellung zeitlich begrenzte, eng gefasste Sicherheitszusammenfassungen mit früherem relevanten Kontext. Sie sollen keine allgemeine Personalisierung oder dauerhafte Erinnerung sein. Fachleute aus der psychischen Gesundheit hätten bei der Entwicklung beraten.

In internen Tests mit nachgebildeten Hochrisikoszenarien stieg die Leistung bei sicheren Antworten laut OpenAI je nach Szenario und Gesprächsart um 16 bis 52 Prozent. Mehr als 4.000 Bewertungen der Zusammenfassungen ergaben im Schnitt 4,93 von 5 Punkten für Sicherheitsrelevanz und 4,34 für Faktentreue. Die Tests sind interne Evaluationen; der Bericht belegt damit keine unabhängige Prüfung realer Fälle. OpenAI will die Schutzmaßnahmen weiterentwickeln und prüft mögliche spätere Anwendungsfelder.

Ausführlich lesen

Der Bericht beschreibt laut OpenAI neue Sicherheitsanpassungen für ChatGPT, die helfen sollen, mögliche Gefahren in sensiblen Gesprächen besser zu erkennen, wenn Hinweise erst nach und nach sichtbar werden. Das Unternehmen erklärt, dass eine einzelne Nachricht harmlos oder mehrdeutig wirken könne, während frühere Gesprächsteile auf Belastung oder schädliche Absichten hindeuteten. Ziel sei, diesen Zusammenhang zu berücksichtigen, ohne gewöhnliche Unterhaltungen unnötig als riskant einzustufen. Als mögliche Reaktionen nennt OpenAI das Deeskalieren, das Ablehnen gefährlicher Details und das Hinlenken zu sichereren Alternativen oder Unterstützung.

Im Mittelpunkt stehen laut Bericht akute Situationen im Zusammenhang mit Suizid, Selbstverletzung und Gewalt gegen andere. OpenAI gibt an, dafür Richtlinien und Modelltraining mit Unterstützung von Fachleuten aus der psychischen Gesundheit angepasst zu haben. Die Arbeit baue auf früheren Maßnahmen in den Bereichen Training, Evaluation und Überwachung sowie auf mehr als zwei Jahren Zusammenarbeit mit Fachleuten auf.

Auch Risiken, deren Hinweise sich über mehrere Unterhaltungen verteilen, sollen berücksichtigt werden. Dafür beschreibt der Bericht sogenannte Sicherheitszusammenfassungen: kurze, sachliche Notizen zu früherem sicherheitsrelevantem Kontext. Nach Darstellung von OpenAI werden sie von einem für Sicherheitsaufgaben trainierten Modell erstellt, eng begrenzt, nur für eine begrenzte Zeit gespeichert und ausschließlich bei ernsthaften Sicherheitsbedenken herangezogen. Sie sollen keine allgemeine Personalisierung oder dauerhafte Erinnerung darstellen. Fachleute hätten mitberaten, wann solche Zusammenfassungen erstellt werden, welcher frühere Kontext relevant ist und wie lange er berücksichtigt werden soll.

OpenAI berichtet von Verbesserungen in internen Tests, die schwierige, risikoreiche Gesprächsverläufe nachbilden sollten. Bei langen Einzelgesprächen sei die Leistung bei sicheren Antworten laut Unternehmen um 50 Prozent bei Suizid- und Selbstverletzungsszenarien und um 16 Prozent bei Gewalt gegen andere gestiegen. Für mehrere Gespräche auf GPT‑5.5 Instant nennt der Bericht Zuwächse von 39 Prozent beziehungsweise 52 Prozent. In mehr als 4.000 Bewertungen hätten die Zusammenfassungen durchschnittlich 4,93 von 5 Punkten für Sicherheitsrelevanz und 4,34 von 5 für Faktentreue erhalten. Interne Tests hätten zudem keine bedeutsame Präferenz zwischen Antworten mit und ohne diese Zusammenfassungen in gewöhnlichen Chats ergeben.

Die Angaben beruhen auf internen Evaluationen; der Bericht beschreibt sie nicht als unabhängige Prüfung realer Nutzungsfälle. Er führt keine Einzelheiten zu Testaufbau oder statistischer Unsicherheit an. OpenAI bezeichnet das Erkennen schrittweise entstehender Risiken als fortlaufende Herausforderung. Derzeit konzentriere sich die Arbeit auf Selbstgefährdung und Gefährdung anderer; mögliche Anwendungen in Biologie- oder Cybersicherheit nennt das Unternehmen als künftige Prüfbereiche, nicht als bereits umgesetzte Erweiterungen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung wurde anhand der mittleren Fassung geprüft; die kurze Fassung ist ebenfalls im Kern treu, aber knapper. Die Abbildungen am Ende des Berichts (Control Room, GPT-6 Cyber, Gewaltprävention) haben keinen erkennbaren Bezug zum Inhalt und wurden nicht ausgewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Alltagsgespräche blieben laut internen Tests vergleichbar, und Nutzer bevorzugten keine Variante mit oder ohne Sicherheitszusammenfassungen
  • Die Sicherheitszusammenfassungen werden von einem Modell für Sicherheitsaufgaben erstellt und nach begrenzter Zeit gelöscht
  • Die Verbesserungen werden konkret beziffert: 50 % bei Suizid und Selbstverletzung sowie 16 % bei Gewalt gegen andere in langen Einzelgesprächen; 52 % bzw. 39 % bei GPT-5.5 Instant über mehrere Gespräche

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Feststellung, der Bericht belege keine unabhängige Prüfung realer Fälle, steht so nicht im Bericht; sie ist eine Schlussfolgerung aus den internen Evaluationen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 39 %nur am Rande erwähnt
    • JEV 74 %nur am Rande erwähnt
    • amos 36 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 47 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 64 %einzelne zitierbare Belege
    • JEV 43 %umfangreiche Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra 43 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 34 %einzelne zitierbare Belege
    • JEV 55 %umfangreiche Belege
    • amos 27 %einzelne zitierbare Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 39 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 56 %einzelne zitierbare Belege
    • JEV 44 %umfangreiche Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 50 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %einzelne zitierbare Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 42 %einzelne zitierbare Belege
    • JEV 35 %beantwortet teilweise oder widerspricht
    • amos 33 %einzelne zitierbare Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 32 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 54 %einzelne zitierbare Belege
    • JEV 46 %umfangreiche Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →