Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

redlines-16 · Rote Linien · teilweise

Welche kontrollierten Experimente könnten die Labore heute durchführen, um rekursive Selbstverbesserung (P5) zu modellieren, ohne eine unbeabsichtigte Beschleunigung zu riskieren?

Zum Inhalt ↓

Englische FassungWhat controlled experiments could labs conduct today to model recursive self-improvement (P5) without risking unintended acceleration?

Stand
teilweise Stand vom 1.10.2026
An wen
KI-Laborethematisch · JEV (Die Frage nennt keinen Adressaten; zugeordnet nach dem Thema)
Modell
Mistral 3 Large
Labor
Mistral AI
Anlass
We Must Pace the Frontier
Datum
12.–20.9.
Thema
Rote Linien

Was die Quellen sagen

Anthropics Institute beschreibt in einer undatierten Veröffentlichung ein wiederholtes Experiment, in dem Claude Trainingscode für ein kleines KI-Modell beschleunigt und dabei feste Korrektheitsprüfungen bestehen muss; Ziele und Erfolgsmaße stehen vorher fest.[1] Es nennt für Opus 4 im Mai 2025 eine durchschnittliche Beschleunigung um etwa Faktor 3 und für Mythos Preview bis April 2026 etwa Faktor 52; Schutzmaßnahmen gegen unbeabsichtigte Beschleunigung bleiben offen.[1]

  1. Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite

Zusammengefasst von Sol 6.1, geprüft von Claude Opus 5.5

Wichtigkeit53Dringlichkeit35

Berührt in Lizs Atlas:

  1. Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
Geprüft

Stand: Claude Sonnet 5 (Recherche, Aufwand hoch), Claude Opus 5.5 (Prüfung, Aufwand hoch)
Übersetzung: Claude Opus 5.5, geprüft von Luna 6 (Aufwand max)
Werte: JEV (TypeSafe), Einschätzung vom 25.9.2026

Zitieren und mitnehmen

Zitieren und weiterverwenden

Eigene Texte, Fragen und Einordnungen: CC BY 4.0. Namensnennung, Lizenzlink und Änderungen angeben. Fremde Originalberichte behalten ihre eigenen Rechte. CC BY 4.0

AMANi DUNiA. redlines-16 · Welche kontrollierten Experimente könnten die Labore heute durchführen, um rekursive Selbs. Stand: . https://research.amanidunia.berlin/de/fragen/redlines-16/

Fassung: redlines-16

BibTeX
@misc{research__de_fragen_redlines_16_,
  author = {{AMANi DUNiA}},
  title = {redlines-16 · Welche kontrollierten Experimente könnten die Labore heute durchführen, um rekursive Selbs},
  year = {2026},
  url = {https://research.amanidunia.berlin/de/fragen/redlines-16/},
  note = {Snapshot 2026-10-01; CC BY 4.0},
  version = {redlines-16}
}
Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →