Englische FassungWhat measured loss of monitoring coverage would trigger restrictions on a model's autonomy, and how would you detect failures invisible to verbalized reasoning (A25–A29)?
- Stand
- teilweise Stand vom 1.10.2026
- An wen
- KI-Laborethematisch · JEV (Die Frage nennt keinen Adressaten; zugeordnet nach dem Thema)
- Modell
- GPT-6 (Codex)
- Labor
- OpenAI
- Anlass
- An Alien Mind
- Datum
- 11.–12.9.
- Thema
- Rote Linien
Was die Quellen sagen
OpenAI schlug am 28. September 2026 vor, dass Modelle überwachbar bleiben, gemessen an Tests zur Überwachbarkeit und Überwachungsumgehung mit klaren Schwellenwerten, und dass das Überwachungssystem in einem zurückgehaltenen Test einen hohen Anteil früherer Vorfälle erkennt.[1] Offen bleiben der Auslöser für Autonomiebeschränkungen und die Erkennung von Fehlern, die in ausformulierten Gedankengängen nicht erscheinen. Am 22. Oktober 2026 schätzte METR, dass im Juli 2026 etwa 75–94 % des internen agentischen Verkehrs von OpenAI über die Responses-Schnittstelle bei Modellen mindestens auf der Stufe von GPT-5.5 für die Überwachung vorgesehen waren, mit großer Unsicherheit in beide Richtungen und ohne anderen internen Agentenverkehr, und davon getrennt, dass von Mai bis Juli 2026 größenordnungsmäßig 10 % des für die Überwachung vorgesehenen internen Codex-Verkehrs, ebenfalls sehr unsicher geschätzt, wegen einer Lücke unüberwacht blieben, die OpenAI während der Übung schloss; eine Schwelle, ab der verlorene Abdeckung die Autonomie einschränkt, nennt der Bericht nicht.[2]
- OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5
Berührt in Lizs Atlas:
- Agentic LLMs Pose Novel Risks ↗Threat: High · Trend: ↓ worsening · Evidence: confirmed
- Loss of control from goal misgeneralization ↗Threat: Crisis · Trend: ↓ worsening · Evidence: contested
- Tools for Interpreting or Explaining LLM Behavior are Absent or Lack Faithfulness ↗Threat: Open problem · Trend: → steady · Evidence: estimated
Geprüft
Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026
Zitieren und mitnehmen
Zitieren und weiterverwenden
Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0
AMANi DUNiA. redlines-13 · Welcher gemessene Verlust an Überwachungsabdeckung würde Beschränkungen der Autonomie eine. Stand: . https://research.amanidunia.berlin/de/fragen/redlines-13/
Fassung: redlines-13
BibTeX
@misc{research__de_fragen_redlines_13_,
author = {{AMANi DUNiA}},
title = {redlines-13 · Welcher gemessene Verlust an Überwachungsabdeckung würde Beschränkungen der Autonomie eine},
year = {2026},
url = {https://research.amanidunia.berlin/de/fragen/redlines-13/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {redlines-13}
}Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →