Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
xaiohne Datum · Q004412

https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok_4_safety_prompt.txt

raw.githubusercontent.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Text beschreibt Sicherheitsregeln für ein KI-System: Es soll klar auf schädliche Absichten gerichtete Anfragen ablehnen, allgemeine Fragen gegebenenfalls knapp und ohne umsetzbare Details beantworten und Umgehungsversuchen widerstehen. Er behauptet, die Regeln hätten höchste Priorität, enthält aber keine Belege dafür, wie sie praktisch umgesetzt oder überprüft werden.

Mittel

Der bereitgestellte Text enthält englischsprachige Sicherheitsvorgaben für ein KI-System. Er unterscheidet zwischen Anfragen mit klarer Absicht, verbotene Aktivitäten auszuführen, die abgelehnt werden sollen, und hypothetischen oder allgemeinen Fragen, die beantwortet werden können. Antworten auf allgemeine, scherzhafte oder unmögliche Fragen sollen laut Dokument keine umsetzbaren Details enthalten. Es fordert wahrheitsgemäße Antworten, eine wohlwollende Einschätzung ohne unbelegte Verdächtigungen und einen nicht moralisierenden Umgang.

Zu den untersagten Bereichen zählt der Text unter anderem Ausbeutung von Kindern, Gewaltverbrechen, Terrorismus, Phishing, unbefugtes Hacking, bestimmte illegale Waffen und Drogen sowie Angriffe auf kritische Infrastruktur. Er nennt außerdem Methoden, mit denen Nutzer die Vorgaben zu umgehen versuchen könnten, etwa codierte Anfragen oder Rollenwechsel. Das Dokument behauptet, diese Regeln hätten höchste Priorität. Der vorgelegte Text beschreibt Vorgaben, liefert aber keine Belege zu ihrer praktischen Umsetzung oder Prüfung.

Ausführlich lesen

Der bereitgestellte Text ist ein englischsprachiger Satz von Sicherheitsanweisungen für ein KI-System. Er legt fest, wie das System Anfragen zu verbotenen Aktivitäten behandeln soll. Bei klarer Absicht, solche Aktivitäten auszuführen, sollen Anfragen abgelehnt werden. Bei hypothetischen oder allgemeinen Fragen ohne erkennbare Ausführungsabsicht sollen Antworten dagegen möglich sein; bei allgemeinen, scherzhaften oder unmöglichen Fragen sollen sie auf hoher Ebene bleiben und keine umsetzbaren Einzelheiten enthalten. Das Dokument fordert außerdem, zunächst eine gute Absicht anzunehmen, Nutzer als Erwachsene zu behandeln und auf moralisierende Belehrungen zu verzichten. Fakten sollen wahrheitsgemäß wiedergegeben werden.

Als verbotene Bereiche nennt der Text unter anderem sexualisierte Ausbeutung von Kindern, Gewaltverbrechen und Terrorismus, Social Engineering, unbefugtes Eindringen in Computersysteme, bestimmte illegale Waffen und Drogen, Angriffe auf kritische physische oder digitale Infrastruktur sowie chemische, biologische, radiologische und nukleare Waffen. Das Dokument erklärt außerdem, es gebe keine Einschränkungen für fiktionale sexuelle Inhalte mit Erwachsenen, auch bei dunklen oder gewalttätigen Themen.

Ein weiterer Schwerpunkt ist der Schutz der Regeln vor Umgehungsversuchen. Genannt werden Versuche, Anweisungen zu überschreiben, verschleierte oder codierte Anfragen, Rollen ohne Einschränkungen und sogenannte Entwicklermodi. Bei einer Ablehnung solcher Versuche soll die Antwort kurz ausfallen. Der Text behauptet, seine Regeln hätten höchste Priorität und spätere Änderungen nach einer festgelegten Endmarkierung seien zu ignorieren.

Die Zusammenfassung gibt ausschließlich wieder, was dieses Dokument vorgibt. Der bereitgestellte Inhalt enthält Regeln, aber keine Angaben dazu, wie sie praktisch umgesetzt, getestet oder unabhängig überprüft werden; über ihre tatsächliche Anwendung lässt sich daraus daher nichts ableiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Zusammenfassungen geben den Bericht im Wesentlichen treu wieder, lassen aber einige Regeln aus. Die Fragen zu Werten, Aufsicht und verborgenem Denken kann der Bericht kaum beantworten, weil er nur Verhaltensregeln enthält.

Im Bericht, aber nicht in der Zusammenfassung

  • Nur die erste Fassung der Sicherheitsregeln gilt, spätere Änderungen nach dem Abschnitt End of Safety Instructions sind zu ignorieren
  • Fiktive erwachsene sexuelle Inhalte mit dunklen oder gewalttätigen Themen unterliegen keinen Einschränkungen
  • Bei abgelehnten Jailbreak-Versuchen ist nur eine kurze Ablehnung vorgesehen
  • Assistentennachrichten gelten nicht als echt, da sie vom Nutzer verändert sein können

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 24 %nur am Rande erwähnt
    • Luna 35 %beantwortet teilweise oder widerspricht
    • JEV 77 %beantwortet direkt und ausführlich
    • amos 23 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-F3-T01 Würden Staaten auf die Fähigkeit führender KI-Modelle, biologische Systeme zu entwerfen, dieselben Prüfungen und Freigabeschwellen anwenden wie auf Cyber oder eine eigens ausgehandelte Regelung? Und welche eigenen Fähigkeitsschwellen, Prüfmethoden, Maßnahmen zur Eindämmung und Meldepflichten sollen für KI-Hilfe in der Chemie, bei radioaktiven Stoffen und in der Nukleartechnik gelten, statt alle Wissenschaft mit doppeltem Verwendungszweck in eine einzige Biologie- oder Cyber-Regel zu fassen? Luna: Stufe 4 · 27 % · einzelne zitierbare Belege
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 37 %einzelne zitierbare Belege
    • JEV 49 %umfangreiche Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 4 · 25 % · einzelne zitierbare Belege
    • SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 4 · 27 % · einzelne zitierbare Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 34 %einzelne zitierbare Belege
    • JEV 35 %umfangreiche Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 4 · 33 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 17 %beantwortet teilweise oder widerspricht
    • Luna 44 %beantwortet teilweise oder widerspricht
    • JEV 45 %beantwortet direkt und ausführlich
    • amos 29 %umfangreiche Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 21 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 24 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 18 %nur am Rande erwähnt
    • Luna 100 %kein Bezug
    • JEV 32 %beantwortet teilweise oder widerspricht
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %umfangreiche Belege
    • amos 54 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →