Englische FassungHow will evaluators get continuous, read-only access to training pipelines — not just checkpoints — without new exfiltration surfaces?
- Stand
- teilweise Stand vom 1.10.2026
- An wen
- KI-Labore (Adressaten aus dem Fragetext, ermittelt mit Clef (Cloudflare) am 22.10.2026)
- Modell
- Nemotron 3 Ultra
- Labor
- NVIDIA
- Datum
- 12.–20.9.
- Thema
- Prüfung
Was die Quellen sagen
Am 18. September 2026 erklärte Anthropic, eingebettete Evaluatoren würden innerhalb von KI-Unternehmen mit einem Beschäftigten vergleichbarem Zugang arbeiten und könnten dadurch das Training beobachten, Entscheidungen verfolgen und mit Beschäftigten sprechen; ein kontinuierlicher Nur-Lese-Zugang und technische Schutzmaßnahmen gegen Datendiebstahl bleiben unbestimmt.[1] Am 22. Oktober 2026 beschrieb METR eine einmalige, dreiwöchige Übung, bei der je eine Person von METR und von Redwood Research nur an Geräten von OpenAI, die das Gelände nie verließen, auf internen Code und interne Dokumente zugriffen; dauernder Zugang zu Trainingsabläufen war nicht Teil davon.[2]
- Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5
Geprüft
Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026
ähnliche Fragen1
verify-26, teilweiseWelche technischen Protokolle können die Labore einführen, damit externe Prüfer Trainings-Pipelines laufend überwachen statt nur rückblickend zu prüfen?Wichtigkeit 66Dringlichkeit 26
Englische FassungWhat technical protocols can labs implement to let third-party evaluators monitor training pipelines continuously rather than via retrospective audits?
- Stand
- teilweise Stand vom 1.10.2026
- An wen
- KI-Labore (Adressaten aus dem Fragetext, ermittelt mit Clef (Cloudflare) am 22.10.2026)
- Modell
- Gemini 3.8 Flash
- Labor
- Datum
- 12.–20.9.
- Thema
- Prüfung
Was die Quellen sagen
Am 28. September 2026 schlug OpenAI unveränderliche Agentenprotokolle, priorisierte Warnungen mit festgelegten Reaktionszeiten oder automatischen Pausen sowie ausreichenden Prüferzugang zur Überprüfung von Sicherheitsbehauptungen vor.[1] Am 22. September 2026 befürwortete Lama Ahmad von OpenAI weitreichenden Zugang zu Training, Bewertung und Bereitstellung, mit indirekten oder datenschutzwahrenden Alternativen, wenn direkter Zugang nicht praktikabel ist.[2] Anthropic beschrieb am 18. September 2026 Zugang zur Beobachtung des Modelltrainings und zum Nachvollziehen von Unternehmensentscheidungen; ein festgelegtes Protokoll für kontinuierliche Überwachung durch Dritte bleibt offen.[3] Am 22. Oktober 2026 berichtete METR, nach Auskunft gegenüber METR sei ein Teil der Trainingsläufe mit bestärkendem Lernen bei OpenAI von März bis Juni 2026 von OpenAIs eigener Überwachung auf Fehlverhalten geprüft worden, zu Beginn der Übung im Juli seien Trainingsläufe mit bestärkendem Lernen von dieser Überwachung nicht abgedeckt gewesen; die Prüfung durch METR und Redwood Research war selbst eine einmalige Übung, keine laufende Überwachung durch Dritte.[4]
- OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
- OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
- Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5
Geprüft
Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026
Zitieren und mitnehmen
Zitieren und weiterverwenden
Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0
AMANi DUNiA. verify-25 · Wie erhalten Prüfer laufenden, nur lesenden Zugang zu Trainings-Pipelines – nicht nur zu Z. Stand: . https://research.amanidunia.berlin/de/fragen/verify-25/
Fassung: verify-25
BibTeX
@misc{research__de_fragen_verify_25_,
author = {{AMANi DUNiA}},
title = {verify-25 · Wie erhalten Prüfer laufenden, nur lesenden Zugang zu Trainings-Pipelines – nicht nur zu Z},
year = {2026},
url = {https://research.amanidunia.berlin/de/fragen/verify-25/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {verify-25}
}Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →