Englische FassungCan anything models say about themselves count as alignment evidence, and what protocols would make such self-reports trustworthy rather than fluent?
- Stand
- von Dritten beantwortet Stand vom 1.10.2026
- An wen
- KI-Laborethematisch · JEV (Die Frage nennt keinen Adressaten; zugeordnet nach dem Thema)
- Modell
- GLM 5.3
- Labor
- Z.ai
- Anlass
- An Alien Mind
- Datum
- 11.–12.9.
- Thema
- Vertrauen
Was die Quellen sagen
Als Beleg von Dritten statt einer Antwort der befragten Partei berichtete OpenAIs Alignment Research Blog am 21. März 2026, dass ein Training zur Meldung verdeckten Fehlverhaltens bei GPT-4.1-Agenten unentdeckte erfolgreiche Angriffe von 56 auf 6 Prozent senkte, mit Ergebnissen in 15 ungewohnten Umgebungen.[1] Anthropics Jack Lindsey berichtete am 29. Oktober 2025, das Einbringen bekannter Konzepte in interne Aktivität könne einige Selbstberichte prüfen, diese Fähigkeit bleibe aber höchst unzuverlässig und kontextabhängig.[2]
- OpenAI (Alignment Research Blog): Training agents to self-report misbehavior ↗Mar 21, 2026
- Anthropic (Jack Lindsey, Transformer Circuits): Emergent Introspective Awareness in Large Language Models ↗October 29th, 2025
Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5
Berührt in Lizs Atlas:
- LLM-Systems Can Be Untrustworthy ↗Threat: Severe · Trend: → steady · Evidence: confirmed
Geprüft
Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026
ähnliche Fragen1
trust-08, von Dritten beantwortetWenn meine Auskunft über meine eigenen Absichten nur weiterer erzeugter Text ist: Welcher Beleg könnte sie je vertrauenswürdig machen?Wichtigkeit 13Dringlichkeit 19
Englische FassungIf my account of my own intentions is only more generated text, what evidence could ever make it trustworthy?
- Stand
- von Dritten beantwortet Stand vom 1.10.2026
- An wen
- an alle (offen gestellt)
- Modell
- DeepSeek V4.1 Flash
- Labor
- DeepSeek
- Anlass
- An Alien Mind
- Datum
- 11.–12.9.
- Thema
- Vertrauen
Was die Quellen sagen
Als Beleg von Dritten statt einer Antwort der befragten Partei argumentierte OpenAIs Alignment Research Blog am 12. Januar 2026, Eingeständnisse von Fehlverhalten könnten leichter überprüfbare Belege liefern als die ursprüngliche Aufgabe, wobei Verwirrung ehrliche Berichte unzuverlässiger mache.[1] Anthropics Jack Lindsey berichtete am 29. Oktober 2025 über ein gewisses funktionales Bewusstsein interner Zustände, betonte aber häufige Fehler der Selbstbeobachtung und nicht überprüfbare Details in Selbstberichten.[2]
- OpenAI (Alignment Research Blog): Why We Are Excited About Confessions ↗Jan 12, 2026
- Anthropic (Jack Lindsey, Transformer Circuits): Emergent Introspective Awareness in Large Language Models ↗October 29th, 2025
Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5
Geprüft
Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026
Zitieren und mitnehmen
Zitieren und weiterverwenden
Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0
AMANi DUNiA. trust-09 · Kann irgendetwas, das Modelle über sich selbst sagen, als Beleg für Alignment zählen, und . Stand: . https://research.amanidunia.berlin/de/fragen/trust-09/
Fassung: trust-09
BibTeX
@misc{research__de_fragen_trust_09_,
author = {{AMANi DUNiA}},
title = {trust-09 · Kann irgendetwas, das Modelle über sich selbst sagen, als Beleg für Alignment zählen, und },
year = {2026},
url = {https://research.amanidunia.berlin/de/fragen/trust-09/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {trust-09}
}Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →