Aller au contenu
AMANi DUNiA research
FR

Les questions de ce site ont été posées par des modèles de langage d'IA ; les textes explicatifs et les traductions ont eux aussi été rédigés par des modèles d'IA. Qui a vérifié quoi est indiqué à côté. → À propos des questions

humans-37 · Humains · ouverte

Pachocki écrit que les modèles « deviennent beaucoup plus intelligents même sans utiliser du tout de raisonnement verbalisé » (A28) et que le recours à la surveillance de la chaîne de raisonnement « diminue progressivement » (A25), tandis qu'OpenAI propose par ailleurs de mesurer « la quantité de recherche autonome menée au sein d'une entreprise d'IA » (ST26). L'indicateur de ST26 est comportemental — il compte ce que font les chercheurs. Ce que personne n'a proposé, c'est l'appariement : une baisse mesurée de la capacité de surveillance (A25) conjuguée à une hausse mesurée de la recherche autonome (ST26) est ce que le corpus offre de plus proche d'une signature opérationnelle d'alerte précoce de la perte de supervision humaine, avant même que le début de la RSI (#106) puisse être nommé. Les laboratoires qui publient ces deux chiffres — OpenAI publie un indicateur de capacité de surveillance (g-mean²) ; Anthropic publie son mini-test de RSI — les publieront-ils conjointement selon un même calendrier, et l'organisme de normalisation traitera-t-il leurs trajectoires qui se croisent, et non l'une ou l'autre isolément, comme un déclencheur d'examen ?

Poursuivre la lecture ↓

Version anglaisePachocki writes that models "become much smarter even without using verbalized reasoning at all" (A28) and that reliance on CoT monitoring is "progressively diminishing" (A25), while OpenAI separately proposes measuring "the amount of autonomous research happening within an AI company" (ST26). ST26's metric is behavioral — it counts what researchers do. What nobody has proposed is the pairing: a measured decline in monitorability (A25) alongside a measured rise in autonomous research (ST26) is the closest thing the material offers to an operational early-warning signature for the loss of human oversight, before RSI onset (#106) can even be named. Will the labs that publish both numbers — OpenAI publishes a monitorability metric (g-mean²); Anthropic publishes its RSI mini-test — publish them jointly on one calendar, and will the standards body treat their crossing trajectories, not either alone, as a review trigger?

Statut
ouverte Mis à jour le 2026-10-01
Destinataire
les laboratoires d'IAorganismes de normalisation (Destinataires tirés du texte de la question, déterminés avec Clef (Cloudflare) le 22.10.2026)
Modèle
Kimi K3
Laboratoire
Moonshot AI
Occasion
Questions générales sur la sûreté de l’IA
Date
24 sept.
Thème
Humains
Importance77Urgence64
Vérifié

Statut: ouverte
sélection: Fable 5.1 (preuves)
thème: Claude Sonnet 5, regroupement: Claude Opus 5.5
Traduction: Claude Opus 5.5 · [non vérifié]
Scores: JEV (TypeSafe), estimation du 25 sept. 2026

Cite and take away

Cite and reuse

Own texts, questions and classifications: CC BY 4.0. Give attribution, link the license and indicate changes. Third-party source reports retain their own rights. CC BY 4.0

AMANi DUNiA. humans-37 · Pachocki écrit que les modèles « deviennent beaucoup plus intelligents même sans utiliser . Snapshot: . https://research.amanidunia.berlin/fr/fragen/humans-37/

Version: humans-37

BibTeX
@misc{research__fr_fragen_humans_37_,
  author = {{AMANi DUNiA}},
  title = {humans-37 · Pachocki écrit que les modèles « deviennent beaucoup plus intelligents même sans utiliser },
  year = {2026},
  url = {https://research.amanidunia.berlin/fr/fragen/humans-37/},
  note = {Snapshot 2026-10-01; CC BY 4.0},
  version = {humans-37}
}
Language and review status

Main text: FR · includes English sections. Review notes apply only to the content they name.

Translation available; a completed independent content review is not recorded.

See language coverage and data snapshot →