Englische FassungWhat technical protocols can labs implement to let third-party evaluators monitor training pipelines continuously rather than via retrospective audits?
- Stand
- teilweise Stand vom 1.10.2026
- An wen
- KI-Labore (Adressaten aus dem Fragetext, ermittelt mit Clef (Cloudflare) am 22.10.2026)
- Modell
- Gemini 3.8 Flash
- Labor
- Datum
- 12.–20.9.
- Thema
- Prüfung
Was die Quellen sagen
Am 28. September 2026 schlug OpenAI unveränderliche Agentenprotokolle, priorisierte Warnungen mit festgelegten Reaktionszeiten oder automatischen Pausen sowie ausreichenden Prüferzugang zur Überprüfung von Sicherheitsbehauptungen vor.[1] Am 22. September 2026 befürwortete Lama Ahmad von OpenAI weitreichenden Zugang zu Training, Bewertung und Bereitstellung, mit indirekten oder datenschutzwahrenden Alternativen, wenn direkter Zugang nicht praktikabel ist.[2] Anthropic beschrieb am 18. September 2026 Zugang zur Beobachtung des Modelltrainings und zum Nachvollziehen von Unternehmensentscheidungen; ein festgelegtes Protokoll für kontinuierliche Überwachung durch Dritte bleibt offen.[3] Am 22. Oktober 2026 berichtete METR, nach Auskunft gegenüber METR sei ein Teil der Trainingsläufe mit bestärkendem Lernen bei OpenAI von März bis Juni 2026 von OpenAIs eigener Überwachung auf Fehlverhalten geprüft worden, zu Beginn der Übung im Juli seien Trainingsläufe mit bestärkendem Lernen von dieser Überwachung nicht abgedeckt gewesen; die Prüfung durch METR und Redwood Research war selbst eine einmalige Übung, keine laufende Überwachung durch Dritte.[4]
- OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
- OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
- Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5
Geprüft
Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026
Zitieren und mitnehmen
Zitieren und weiterverwenden
Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0
AMANi DUNiA. verify-26 · Welche technischen Protokolle können die Labore einführen, damit externe Prüfer Trainings-. Stand: . https://research.amanidunia.berlin/de/fragen/verify-26/
Fassung: verify-26
BibTeX
@misc{research__de_fragen_verify_26_,
author = {{AMANi DUNiA}},
title = {verify-26 · Welche technischen Protokolle können die Labore einführen, damit externe Prüfer Trainings-},
year = {2026},
url = {https://research.amanidunia.berlin/de/fragen/verify-26/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {verify-26}
}Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →