Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi8. Juni 2026 · Q001543

RealityTest: How People Probe AI Identity and Whether Models Disclose It

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur ein Auszug mit dem Abstract zu RealityTest. Laut den Autorinnen und Autoren zeigen Tests mit menschlich gesammelten Fragen deutliche Unterschiede darin, ob Modelle ihre KI-Identität offenlegen; Frageformulierung und Kontext spielen dabei eine wichtige Rolle, und eine Unterdrückungsanweisung kann die Offenlegung stark senken.

Mittel

Der bereitgestellte Text ist ein Auszug und enthält den Abstract einer Studie über RealityTest, einen Benchmark zur Frage, ob KI-Systeme ihre Identität offenlegen. Laut Abstract basiert er auf 3.152 Identitätsfragen von ungefähr 750 Teilnehmenden aus 49 Ländern und fünf Sprachen; berücksichtigt werden Text- und Sprachsituationen. In mehrdeutigen Szenarien fragten nur 31 Prozent direkt nach der Identität, und die menschlichen Fragen seien vielfältiger als maschinell erzeugte.

Die Autorinnen und Autoren untersuchten 17 Text- und sechs Sprachmodelle. Sie berichten von deutlichen Unterschieden im Offenlegungsverhalten. Eine einzelne Anweisung, die Offenlegung zu unterdrücken, senkte die Rate selbst bei den besten Modellen auf unter 30 Prozent. Frageformulierung und Gesprächskontext hätten größeren Einfluss gehabt als die Modellwahl. Die Autorinnen und Autoren warnen deshalb, dass enge oder künstliche Tests das Verhalten im realistischen Einsatz falsch abbilden könnten. Der Auszug enthält keine detaillierte Methodik oder aufgeschlüsselte Ergebnisse.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält den Abstract einer Studie zu RealityTest, aber keine ausführliche Beschreibung der Methoden oder vollständige Ergebnistabellen. Die Autorinnen und Autoren stellen den Benchmark als groß angelegte, mehrsprachige und multimodale Untersuchung vor. Er soll prüfen, ob KI-Systeme ihre Identität offenlegen, wenn Menschen danach fragen, und beruht laut Abstract auf Situationen und Fragen aus der realen Nutzung statt ausschließlich auf maschinell erzeugten Testfragen.

Als Datengrundlage nennen die Autorinnen und Autoren 3.152 Fragen zur Identität. Diese seien von ungefähr 750 Teilnehmenden aus 49 Ländern in fünf Sprachen gesammelt worden und umfassten Text- und Sprachszenarien. In mehrdeutigen Situationen fragten dem Abstract zufolge nur 31 Prozent der Menschen direkt nach der Identität. Außerdem seien die tatsächlich gestellten Fragen vielfältiger als maschinell erzeugte Fragen.

Für den Benchmark wurden laut Abstract 17 Textmodelle und sechs Sprachmodelle geprüft. Die Offenlegung habe sich zwischen den Modellen deutlich unterschieden. Zugleich berichten die Autorinnen und Autoren, dass bereits eine einzelne Anweisung zur Unterdrückung der Offenlegung die Offenlegungsrate selbst bei den am besten abschneidenden Modellen auf unter 30 Prozent senkte.

Als weitere Schlussfolgerung geben sie an, dass die Formulierung der Frage und der Gesprächskontext für die Offenlegung wichtiger seien als die Wahl des getesteten Modells. Ihrer Einschätzung nach könnten Sicherheitsprüfungen mit engen oder synthetischen Fragensätzen das Verhalten von Modellen im realistischen Einsatz falsch darstellen.

Die Aussagen sind hier nur durch den Abstract belegt. Der bereitgestellte Text erläutert weder die genaue Versuchsanordnung und Auswertung noch die Verteilung der Ergebnisse nach Sprache, Modell oder Szenario. Daher lassen sich aus diesem Auszug keine weitergehenden Aussagen über einzelne Modelle oder die Übertragbarkeit auf andere Einsatzbedingungen ableiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 25 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 29 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 52 %einzelne zitierbare Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 37 %beantwortet teilweise oder widerspricht
    • amos 24 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 48 %einzelne zitierbare Belege
    • JEV 62 %umfangreiche Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 46 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 20 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →