Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai29. Oktober 2025 · Q002011

gpt-oss-safeguard technical report

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur ein Auszug aus der Einleitung: OpenAI beschreibt gpt-oss-safeguard-120b und -20b als offene Modelle zur Klassifizierung von Inhalten anhand vorgegebener Richtlinien und empfiehlt sie nicht als Kernfunktion für Endnutzer-Chats. Er erwähnt Sicherheits- und mehrsprachige Chat-Prüfungen sowie die Übertragung früherer Risikoabschätzungen, enthält aber keine konkreten Methoden oder Resultate.

Mittel

Der bereitgestellte Quelltext ist nur ein Auszug und enthält die Einleitung, nicht die angekündigten Evaluationsmethoden, Messwerte oder Ergebnisse. OpenAI beschreibt gpt-oss-safeguard-120b und -20b als offene, textbasierte Reasoning-Modelle, die Inhalte anhand einer vorgegebenen Richtlinie klassifizieren sollen. Laut Bericht stehen sie unter Apache 2.0 und der OpenAI-Nutzungsrichtlinie und unterstützen unter anderem verschiedene Reasoning-Stufen sowie Structured Outputs.

Empfohlen werden sie für die Richtlinien-basierte Inhaltsklassifizierung, nicht als zentrale Funktion für Gespräche mit Endnutzern; dafür seien die ursprünglichen gpt-oss-Modelle besser geeignet. Die genannten Sicherheitsprüfungen betreffen Chats, obwohl dieser Einsatz nicht vorgesehen ist. OpenAI prüfte ihn laut Einleitung, weil er bei offenen Modellen möglich sei. Eine erste mehrsprachige Chat-Evaluation wird ebenfalls erwähnt, bildet aber nicht direkt die Klassifizierung nach einer vorgegebenen Richtlinie ab. Da die Modelle ohne zusätzliche biologische oder Cybersecurity-Daten feinabgestimmt wurden, hält OpenAI frühere Worst-Case-Risikoabschätzungen für übertragbar. Begründung und Ergebnisse dieser Prüfungen sind im Auszug nicht enthalten.

Ausführlich lesen

Der bereitgestellte Quelltext ist nur ein Auszug: Er enthält die Einleitung des technischen Berichts zu gpt-oss-safeguard-120b und gpt-oss-safeguard-20b, aber keine konkreten Evaluationsmethoden, Messwerte oder Ergebnisse. Die Zusammenfassung kann daher nur die Aussagen der Einleitung wiedergeben.

OpenAI beschreibt die beiden Modelle als offene, textbasierte Reasoning-Modelle, die aus den jeweiligen gpt-oss-Modellen weitertrainiert wurden. Sie sollen Inhalte anhand einer vorgegebenen Richtlinie klassifizieren. Laut Bericht stehen sie unter Apache 2.0 und der OpenAI-Nutzungsrichtlinie. Genannt werden außerdem Anpassbarkeit, verschiedene Reasoning-Stufen, Structured Outputs und die Ausgabe vollständiger Gedankengänge. Die Entwicklung habe Rückmeldungen aus der Open-Source-Gemeinschaft einbezogen; die Modelle seien mit der Responses API kompatibel.

Der Bericht empfiehlt, die Modelle zur Richtlinien-basierten Inhaltsklassifizierung einzusetzen und nicht als zentrale Funktion für direkte Gespräche mit Endnutzern. Für solche Anwendungen seien die ursprünglichen gpt-oss-Modelle besser geeignet. Die angekündigten Sicherheitskennzahlen beziehen sich auf den Einsatz in Chat-Situationen, obwohl die Safeguard-Modelle dafür nicht vorgesehen sind. OpenAI begründet die Prüfung damit, dass ein solcher Einsatz bei offenen Modellen dennoch möglich ist. Außerdem erwähnt die Einleitung eine erste Untersuchung der Leistung in mehreren Sprachen im Chat. Diese bewertet ausdrücklich nicht unmittelbar die Klassifizierung anhand einer vorgegebenen Richtlinie.

Laut Bericht wurden die Safeguard-Modelle ohne zusätzliche biologische oder Cybersecurity-Daten feinabgestimmt. OpenAI folgert daraus, dass frühere Arbeiten zu möglichen Worst-Case-Risiken der gpt-oss-Veröffentlichung auch auf die neuen Modelle übertragbar seien. Wie diese Übertragung begründet oder geprüft wurde, ist im vorliegenden Auszug nicht ausgeführt. Die tatsächlichen Sicherheits- und Leistungsresultate, die der Titel des Berichts ankündigt, fehlen ebenfalls.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 23 %Hintergrund, keine Belege
    • Luna 53 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra 44 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 42 %nur am Rande erwähnt
    • amos 30 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 29 %nur am Rande erwähnt
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %Hintergrund, keine Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 54 %einzelne zitierbare Belege
    • JEV 60 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 43 %gleiches Oberthema, hilft nicht

Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

    • SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 24 %Hintergrund, keine Belege
    • d3-ultra 42 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 21 %Hintergrund, keine Belege
    • Luna 59 %einzelne zitierbare Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra 25 %gleiches Oberthema, hilft nicht

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 73 %einzelne zitierbare Belege
    • JEV 55 %beantwortet teilweise oder widerspricht
    • amos 37 %einzelne zitierbare Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 27 %gleiches Oberthema, hilft nicht

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 36 %nur am Rande erwähnt
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 36 %gleiches Oberthema, hilft nicht
    • JEV 56 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →