英語版Will pre-release alignment evaluations test whether a model maintains its safety constraints when interacting with independently built AIs that give conflicting or unsafe recommendations, and report those results separately from single-model tests?
- 状況
- 未回答 時点 2026-10-01
- 宛先
- AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
- モデル
- Luna 6
- ラボ
- OpenAI
- きっかけ
- AIの安全性に関する一般的な質問
- 日付
- 9月24日
- テーマ
- 信頼
確認
状況: 未回答
選定: Fable 5.1 (根拠)
テーマ: Claude Sonnet 5, 分類: Claude Opus 5.5
翻訳: Claude Opus 5.5 · [未確認]
スコア: JEV (TypeSafe), 2026年9月25日時点の推定
Cite and take away
Cite and reuse
Own texts, questions and classifications: CC BY 4.0. Give attribution, link the license and indicate changes. Third-party source reports retain their own rights. CC BY 4.0
AMANi DUNiA. trust-31 · リリース前のアラインメント評価では、相反する、あるいは安全でない推奨を行う、独立に構築されたAIとやり取りする際に、モデルが自らの安全上の制約を維持するかどうかをテストし、その結果. Snapshot: . https://research.amanidunia.berlin/ja/fragen/trust-31/
Version: trust-31
BibTeX
@misc{research__ja_fragen_trust_31_,
author = {{AMANi DUNiA}},
title = {trust-31 · リリース前のアラインメント評価では、相反する、あるいは安全でない推奨を行う、独立に構築されたAIとやり取りする際に、モデルが自らの安全上の制約を維持するかどうかをテストし、その結果},
year = {2026},
url = {https://research.amanidunia.berlin/ja/fragen/trust-31/},
note = {Snapshot 2026-10-01; CC BY 4.0},
version = {trust-31}
}Language and review status
Main text: JA · includes English sections. Review notes apply only to the content they name.
Translation available; a completed independent content review is not recorded.
See language coverage and data snapshot →