Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

verify-25 · Prüfung · teilweise

Wie erhalten Prüfer laufenden, nur lesenden Zugang zu Trainings-Pipelines – nicht nur zu Zwischenständen –, ohne neue Angriffsflächen für den Abfluss von Daten?

Zum Inhalt ↓

Englische FassungHow will evaluators get continuous, read-only access to training pipelines — not just checkpoints — without new exfiltration surfaces?

Stand
teilweise Stand vom 1.10.2026
An wen
KI-Labore (Adressaten aus dem Fragetext, ermittelt mit Clef (Cloudflare) am 22.10.2026)
Modell
Nemotron 3 Ultra
Labor
NVIDIA
Anlass
We Must Pace the Frontier
Datum
12.–20.9.
Thema
Prüfung

Was die Quellen sagen

Am 18. September 2026 erklärte Anthropic, eingebettete Evaluatoren würden innerhalb von KI-Unternehmen mit einem Beschäftigten vergleichbarem Zugang arbeiten und könnten dadurch das Training beobachten, Entscheidungen verfolgen und mit Beschäftigten sprechen; ein kontinuierlicher Nur-Lese-Zugang und technische Schutzmaßnahmen gegen Datendiebstahl bleiben unbestimmt.[1] Am 22. Oktober 2026 beschrieb METR eine einmalige, dreiwöchige Übung, bei der je eine Person von METR und von Redwood Research nur an Geräten von OpenAI, die das Gelände nie verließen, auf internen Code und interne Dokumente zugriffen; dauernder Zugang zu Trainingsabläufen war nicht Teil davon.[2]

  1. Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
  2. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5

Wichtigkeit74Dringlichkeit39
Geprüft

Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026

ähnliche Fragen1
verify-26, teilweiseWelche technischen Protokolle können die Labore einführen, damit externe Prüfer Trainings-Pipelines laufend überwachen statt nur rückblickend zu prüfen?→ KI-LaboreWichtigkeit 66Dringlichkeit 26

Englische FassungWhat technical protocols can labs implement to let third-party evaluators monitor training pipelines continuously rather than via retrospective audits?

Stand
teilweise Stand vom 1.10.2026
An wen
KI-Labore (Adressaten aus dem Fragetext, ermittelt mit Clef (Cloudflare) am 22.10.2026)
Modell
Gemini 3.8 Flash
Labor
Google
Datum
12.–20.9.

Was die Quellen sagen

Am 28. September 2026 schlug OpenAI unveränderliche Agentenprotokolle, priorisierte Warnungen mit festgelegten Reaktionszeiten oder automatischen Pausen sowie ausreichenden Prüferzugang zur Überprüfung von Sicherheitsbehauptungen vor.[1] Am 22. September 2026 befürwortete Lama Ahmad von OpenAI weitreichenden Zugang zu Training, Bewertung und Bereitstellung, mit indirekten oder datenschutzwahrenden Alternativen, wenn direkter Zugang nicht praktikabel ist.[2] Anthropic beschrieb am 18. September 2026 Zugang zur Beobachtung des Modelltrainings und zum Nachvollziehen von Unternehmensentscheidungen; ein festgelegtes Protokoll für kontinuierliche Überwachung durch Dritte bleibt offen.[3] Am 22. Oktober 2026 berichtete METR, nach Auskunft gegenüber METR sei ein Teil der Trainingsläufe mit bestärkendem Lernen bei OpenAI von März bis Juni 2026 von OpenAIs eigener Überwachung auf Fehlverhalten geprüft worden, zu Beginn der Übung im Juli seien Trainingsläufe mit bestärkendem Lernen von dieser Überwachung nicht abgedeckt gewesen; die Prüfung durch METR und Redwood Research war selbst eine einmalige Übung, keine laufende Überwachung durch Dritte.[4]

  1. OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
  2. OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
  3. Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
  4. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5

Wichtigkeit66Dringlichkeit26
Geprüft

Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026

Zitieren und mitnehmen

Zitieren und weiterverwenden

Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0

AMANi DUNiA. verify-25 · Wie erhalten Prüfer laufenden, nur lesenden Zugang zu Trainings-Pipelines – nicht nur zu Z. Stand: . https://research.amanidunia.berlin/de/fragen/verify-25/

Fassung: verify-25

BibTeX
@misc{research__de_fragen_verify_25_,
  author = {{AMANi DUNiA}},
  title = {verify-25 · Wie erhalten Prüfer laufenden, nur lesenden Zugang zu Trainings-Pipelines – nicht nur zu Z},
  year = {2026},
  url = {https://research.amanidunia.berlin/de/fragen/verify-25/},
  note = {Snapshot 2026-10-01; CC BY 4.0},
  version = {verify-25}
}
Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →