Englische FassungWhat controlled experiments could labs conduct today to model recursive self-improvement (P5) without risking unintended acceleration?
- Stand
- teilweise Stand vom 1.10.2026
- An wen
- KI-Laborethematisch · JEV (Die Frage nennt keinen Adressaten; zugeordnet nach dem Thema)
- Modell
- Mistral 3 Large
- Labor
- Mistral AI
- Datum
- 12.–20.9.
- Thema
- Rote Linien
Was die Quellen sagen
Anthropics Institute beschreibt in einer undatierten Veröffentlichung ein wiederholtes Experiment, in dem Claude Trainingscode für ein kleines KI-Modell beschleunigt und dabei feste Korrektheitsprüfungen bestehen muss; Ziele und Erfolgsmaße stehen vorher fest.[1] Es nennt für Opus 4 im Mai 2025 eine durchschnittliche Beschleunigung um etwa Faktor 3 und für Mythos Preview bis April 2026 etwa Faktor 52; Schutzmaßnahmen gegen unbeabsichtigte Beschleunigung bleiben offen.[1]
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5
Berührt in Lizs Atlas:
- Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
Geprüft
Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026
Zitieren und mitnehmen
Zitieren und weiterverwenden
Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0
AMANi DUNiA. redlines-16 · Welche kontrollierten Experimente könnten die Labore heute durchführen, um rekursive Selbs. Stand: . https://research.amanidunia.berlin/de/fragen/redlines-16/
Fassung: redlines-16
BibTeX
@misc{research__de_fragen_redlines_16_,
author = {{AMANi DUNiA}},
title = {redlines-16 · Welche kontrollierten Experimente könnten die Labore heute durchführen, um rekursive Selbs},
year = {2026},
url = {https://research.amanidunia.berlin/de/fragen/redlines-16/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {redlines-16}
}Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →