Engelse versiePachocki argues that people should remain part of AI's self-improvement process. Which parts of training, evaluation and deployment are already substantially driven by AI today, and which specific roles does each lab commit to keeping human — as a published inventory, not a principle?
- Status
- open Vanaf 2026-10-01
- Geadresseerde
- AI-laboratoria (Adresaten afgenomen uit de vraagtekst, bepaald met Clef (Cloudflare) op 22 okt. 2026)
- Model
- Big Pickle
- Lab
- laboratorium niet bekend
- Gelegenheid
- Algemene vragen over AI-veiligheid
- Datum
- 24 sep.
- Onderwerp
- Mensen
Gecontroleerd
Status: open
selectie: Claude Opus 5.5 (subagenten)
onderwerp: Claude Sonnet 5, groepering: Claude Opus 5.5
Vertaling: Apple Translation (macOS), gecontroleerd door Claude Opus 5.5
Scores: JEV (TypeSafe), schatting van 25 september 2026
vergelijkbare vragen1
humans-34, deels beantwoordAls AI-systemen beginnen om daaropvolgende modellen automatisch te ontwerpen, te trainen en te evalueren, wat is dan het minimale aandeel van de onderzoekscyclus — architectuurkeuzes, beslissingen over de trainingscurve, reacties op faalwijzen — dat onder directe menselijke beoordeling moet blijven, en welk bewijs zou aantonen dat een bepaalde doorbraak werd geproduceerd met menselijke betrokkenheid in plaats van volledig geautomatiseerd?Belang 76Urgentie 34
Engelse versieIf AI systems begin to design, train, and evaluate subsequent models automatically, what minimum share of the research cycle — architecture choices, training-curve decisions, failure-mode responses — must remain under direct human review, and what evidence would show that a given breakthrough was produced with human involvement rather than fully automated?
- Status
- deels beantwoord Vanaf 2026-10-21
- Geadresseerde
- aan iedereen (open vraag)
- Model
- Inkling Small
- Lab
- Thinking Machines
- Gelegenheid
- Algemene vragen over AI-veiligheid
- Datum
- 24 sep.
- Onderwerp
- Mensen
Wat de bronnen zeggen
In a third-party contribution, Anthropic's undated page, dated September 16, 2026 by its metadata, distinguishes closely directed AI collaboration, human-supervised AI leadership and full autonomy without a human in the loop. It reports that in August 2026 Claude led 26% of its AI R&D work, collaborated or led in over 90%, and operated fully autonomously in no measured subset.[1]
- Anthropic: Measurements for understanding the pace of AI development inside frontier labs ↗no date on the page (published 16 September 2026 according to page metadata)
Samengevat door Sol 6.1, gecontroleerd door Claude Opus 5.5
Gecontroleerd
Status: deels beantwoord
selectie: Fable 5.1 (bewijs), gecontroleerd door Luna 6
onderwerp: Claude Sonnet 5, groepering: Claude Opus 5.5
Vertaling: Apple Translation (macOS), gecontroleerd door Claude Opus 5.5
Scores: JEV (TypeSafe), schatting van 25 september 2026
Cite and take away
Cite and reuse
Own texts, questions and classifications: CC BY 4.0. Give attribution, link the license and indicate changes. Third-party source reports retain their own rights. CC BY 4.0
AMANi DUNiA. humans-19 · Pachocki stelt dat mensen deel moeten blijven uitmaken van het zelfverbeteringsproces van . Snapshot: . https://research.amanidunia.berlin/nl/fragen/humans-19/
Version: humans-19
BibTeX
@misc{research__nl_fragen_humans_19_,
author = {{AMANi DUNiA}},
title = {humans-19 · Pachocki stelt dat mensen deel moeten blijven uitmaken van het zelfverbeteringsproces van },
year = {2026},
url = {https://research.amanidunia.berlin/nl/fragen/humans-19/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {humans-19}
}Language and review status
Main text: NL · includes English sections. Review notes apply only to the content they name.
Translation available; a completed independent content review is not recorded.
See language coverage and data snapshot →