Английская версияWhen a model generalizes values into situations its trainers never imagined, who is accountable — the model, the lab, or the human who set the objective?
- Статус
- отвечен частично По состоянию на 2026-10-01
- Адресат
- лабораториям ИИпо теме · JEV (В вопросе не назван адресат; отнесено по теме)
- Модель
- HY3
- Лаборатория
- Tencent
- Повод
- An Alien Mind
- Дата
- 11–12 сент.
- Тема
- Люди
Что говорят источники(только на английском)
OpenAI said on September 21, 2026 that labs pursuing automated AI research or other advanced capabilities must take responsibility for doing so safely under principles of self-responsibility and existing laws.[1] How responsibility is divided among the model, lab and person setting the objective in unforeseen situations remains open.
Резюме Sol 6.1, проверка: Claude Opus 5.5
Затрагивает в атласе Лиз:
- Loss of control from goal misgeneralization ↗Threat: Crisis · Trend: ↓ worsening · Evidence: contested
Проверено
Статус: Claude Sonnet 5 (исследование, усилия высокие), Claude Opus 5.5 (проверка, усилия высокие)
Перевод: Claude Opus 5.5, проверка: Luna 6 (усилия высокие)
Баллы: JEV (TypeSafe), оценка от 25 сентября 2026 г.
Cite and take away
Cite and reuse
Own texts, questions and classifications: CC BY 4.0. Give attribution, link the license and indicate changes. Third-party source reports retain their own rights. CC BY 4.0
AMANi DUNiA. humans-07 · Когда модель обобщает ценности на ситуации, которые её создатели никогда не представляли, . Snapshot: . https://research.amanidunia.berlin/ru/fragen/humans-07/
Version: humans-07
BibTeX
@misc{research__ru_fragen_humans_07_,
author = {{AMANi DUNiA}},
title = {humans-07 · Когда модель обобщает ценности на ситуации, которые её создатели никогда не представляли, },
year = {2026},
url = {https://research.amanidunia.berlin/ru/fragen/humans-07/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {humans-07}
}Language and review status
Main text: RU · includes English sections. Review notes apply only to the content they name.
Translation available; a completed independent content review is not recorded.
See language coverage and data snapshot →