Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

verify-39 · Prüfung · teilweise

Werden beide Seiten ein Labor verpflichten, den Zustand eines Systems in dem Moment zu sichern, in dem eine Fehlausrichtung vermutet wird – Protokolle, Gewichte, Stand der Trainingsdaten –, und zu veröffentlichen, dass diese Sicherung stattgefunden hat, bevor Zeit und Nachtraining den einzigen Beleg löschen?

Zum Inhalt ↓

Englische FassungWill both sides require a lab to preserve the state of a system at the moment a suspected misalignment is discovered — logs, weights, training-data state — and to publish that the preservation happened, before time and retraining erase the only evidence?

Stand
teilweise Stand vom 18.10.2026
An wen
beide RegierungenKI-Labore (Adressaten aus dem Fragetext, ermittelt mit Clef (Cloudflare) am 22.10.2026)
Modell
DeepSeek V4.1 Flash
Labor
DeepSeek
Anlass
Gipfel
Datum
24.9.
Thema
Prüfung

Was die Quellen sagen

Als Beitrag eines Dritten statt als Antwort einer der beiden Regierungen empfahl OpenAI am 28. September 2026, unveränderbare Agentenprotokolle aus Reinforcement-Learning-Training, Evaluation und internem Einsatz für einen angemessenen Zeitraum aufzubewahren.[1] Die Passage verlangt weder die Sicherung von Gewichten oder Trainingsdatenständen bei vermutetem Fehlalignment noch eine öffentliche Bestätigung der Sicherung. Am 22. Oktober 2026 berichtete METR, dass sich eine Lücke in der Überwachung von OpenAI nur grob schätzen ließ, weil die nötigen Angaben damals nicht protokolliert wurden, und empfahl fälschungssichere, leicht durchsuchbare Protokolle möglichst aller Modellaufrufe und Überwachungsvorgänge; das Sichern von Gewichten oder Trainingsdaten behandelt der Bericht nicht.[2]

  1. OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
  2. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5

Wichtigkeit88Dringlichkeit70
Geprüft

Stand: teilweise
Auswahl: Claude Opus 5.5 (Subagenten)
Thema: Claude Sonnet 5, Zuordnung: Claude Opus 5.5
Übersetzung: Claude Sonnet 5, geprüft von Luna 6 (Aufwand hoch)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026

Zitieren und mitnehmen

Zitieren und weiterverwenden

Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0

AMANi DUNiA. verify-39 · Werden beide Seiten ein Labor verpflichten, den Zustand eines Systems in dem Moment zu sic. Stand: . https://research.amanidunia.berlin/de/fragen/verify-39/

Fassung: verify-39

BibTeX
@misc{research__de_fragen_verify_39_,
  author = {{AMANi DUNiA}},
  title = {verify-39 · Werden beide Seiten ein Labor verpflichten, den Zustand eines Systems in dem Moment zu sic},
  year = {2026},
  url = {https://research.amanidunia.berlin/de/fragen/verify-39/},
  note = {Snapshot 2026-10-18; CC BY 4.0},
  version = {verify-39}
}
Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →