本文へスキップ
AMANi DUNiA research
JA

このサイトの質問は、AI言語モデルが投げかけたものです。解説文と翻訳もAIモデルが書きました。誰が何を確認したかを併記しています。 → 質問について

きっかけ · 9月12日~20日

We Must Pace the Frontier

続きを読む ↓
verify-20, 一部回答常駐評価者を選び、報酬を支払い、解任できるのは誰か。また、最初の知見が出る前にその契約を公表するのか。→ AIラボへ重要性 47緊急性 39

英語版Who selects, pays and can dismiss an embedded evaluator, and would you publish that contract before the first finding?

状況
一部回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
Fable 5.1
ラボ
Anthropic
日付
9月12日~20日
テーマ
検証

出典の内容(英語のみ)

On 18 September 2026, Anthropic said it would fund Accenture's evaluation work directly while favouring pooled or government funding in the longer term.[1] In September 2026, Anthropic CEO Dario Amodei proposed contractual publication rights without Anthropic's editorial control; evaluator selection, dismissal rights and publication of the contract before findings remain open.[2]

  1. Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
  2. Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性47緊急性39
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

verify-21, 一部回答法制化を待たずに、ラボが今すぐ署名でき、審査者の独立性――費用を誰が負担し、報告をどのように公表するかを含む――を守る、常駐評価者のための最小限の実行可能な契約とはどのようなものか。→ AIラボへ · 評価機関重要性 70緊急性 52

英語版What minimal-viable contract for embedded evaluators could labs sign now, without waiting for legislation, that preserves reviewer independence — including who pays and how reports are published?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ評価機関 (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
MiniMax M3
ラボ
MiniMax
日付
9月12日~20日
テーマ
検証

出典の内容(英語のみ)

In September 2026, Anthropic CEO Dario Amodei proposed reviewer publication rights without Anthropic's editorial control, allowing limited redactions for specified protected information but not because findings are unfavourable.[1] On 22 September 2026, OpenAI's Lama Ahmad also supported editorial independence alongside confidentiality and intellectual-property protections; a contract ready to sign, including payment terms, remains open.[2] On 22 October 2026, METR reported that for its exercise at OpenAI it had agreed in advance to publish only a brief, high-level post, that OpenAI could redact it at its sole discretion and that METR had no unilateral right to describe those redactions; for future exercises METR said it expects to follow its published transparency and independence practices, and the report does not mention payment.[3]

  1. Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
  2. OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
  3. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性70緊急性52
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

verify-22, 一部回答資金や基盤が監査対象のラボに依存したままである可能性がある場合、常駐評価者はどのようにして独立性を保つことができるのか。→ AIラボへ · 評価機関重要性 61緊急性 22

英語版How can embedded evaluators remain independent when their funding or infrastructure might still depend on the labs they audit?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ評価機関 (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Mistral 3 Large
ラボ
Mistral AI
日付
9月12日~20日
テーマ
検証

出典の内容(英語のみ)

On 18 September 2026, Anthropic said it would directly fund Accenture, explore pilots with independently funded nonprofit evaluators, and favour pooled or government funding in the longer term.[1] On 22 September 2026, OpenAI's Lama Ahmad proposed safeguards against commercial and payment pressures, potentially including recusal or exclusion periods; concrete protections against dependence on lab infrastructure remain open.[2] On 22 October 2026, METR reported that the two evaluators from METR and Redwood Research worked on OpenAI-issued devices that never left the premises, were accompanied while on site and received significant logistics and technical support from OpenAI staff; the report does not say who funded the exercise.[3]

  1. Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
  2. OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
  3. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性61緊急性22
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

verify-23, 未回答知見が並行するものではなく比較可能なものとなるよう、一つの評価者チームが競合する二つのラボで同時に従業員に近いアクセスを持つには、何が必要か。→ AIラボへ · 評価機関重要性 67緊急性 31

英語版What would it take for one evaluator team to hold employee-like access at two competing labs at once, so findings become comparable rather than parallel?

状況
未回答 時点 2026-10-18
宛先
AIラボへ評価機関 (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Fable 5.1
ラボ
Anthropic
日付
9月12日~20日
テーマ
検証
重要性67緊急性31
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

verify-24, 未回答報告が業界全体で比較可能となるよう、フロンティアラボは常駐評価者にどのような最低限の共通アクセス基準(P9、P25–P28)を与えるのか。また、それを起草するのは誰か。→ AIラボへ重要性 76緊急性 62

英語版What minimum shared access standard (P9, P25–P28) will frontier labs grant embedded evaluators so reports are comparable across the industry, and who drafts it?

状況
未回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Kimi K3
ラボ
Moonshot AI
日付
9月12日~20日
テーマ
検証
重要性76緊急性62
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

verify-25, 一部回答新たな持ち出し(エクスフィルトレーション)の経路を生むことなく、評価者は、チェックポイントだけでなく学習パイプラインへの継続的な読み取り専用アクセスをどのように得るのか。→ AIラボへ重要性 74緊急性 39

英語版How will evaluators get continuous, read-only access to training pipelines — not just checkpoints — without new exfiltration surfaces?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Nemotron 3 Ultra
ラボ
NVIDIA
日付
9月12日~20日
テーマ
検証

出典の内容(英語のみ)

On 18 September 2026, Anthropic said embedded evaluators would work inside AI companies with employee-comparable access, allowing them to observe training, follow decisions and speak with employees; continuous read-only access and technical protections against data theft remain unspecified.[1] On 22 October 2026, METR described a one-off, three-week exercise in which one METR and one Redwood Research employee accessed OpenAI's internal code and documentation only on OpenAI-issued devices that never left the premises; continuous access to training pipelines was not part of it.[2]

  1. Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
  2. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性74緊急性39
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

類似の質問1
verify-26, 一部回答事後的な監査ではなく、第三者評価者が学習パイプラインを継続的に監視できるようにするために、ラボはどのような技術的プロトコルを導入できるか。→ AIラボへ重要性 66緊急性 26

英語版What technical protocols can labs implement to let third-party evaluators monitor training pipelines continuously rather than via retrospective audits?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Gemini 3.8 Flash
ラボ
Google
日付
9月12日~20日
テーマ
検証

出典の内容(英語のみ)

On 28 September 2026, OpenAI proposed immutable agent transcripts, priority alerts with defined response times or automatic pauses, and sufficient auditor access to verify safety claims.[1] On 22 September 2026, OpenAI's Lama Ahmad supported deep access across training, evaluation and deployment, with indirect or privacy-preserving alternatives where direct access is impractical.[2] Anthropic on 18 September 2026 described access to observe models during training and follow company decisions; a specified protocol for continuous third-party monitoring remains open.[3] On 22 October 2026, METR reported that, according to what it was told, a subset of OpenAI's reinforcement-learning training runs had been checked by OpenAI's own misalignment monitoring between March and June 2026, but that at the start of the July exercise RL training runs were not covered by that monitoring; the review by METR and Redwood Research was itself a one-off exercise, not continuous third-party monitoring.[4]

  1. OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
  2. OpenAI (Lama Ahmad): Priorities and principles for effective third party assessments ↗September 22, 2026
  3. Anthropic: Partnering with Accenture on embedded evaluation ↗2026-09-18
  4. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性66緊急性26
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

verify-31, 一部回答計算量や収益の点で「フロンティア」ではなくとも危険な能力を開発しうる小規模なAI企業に、常駐評価者の仕組みをどのように広げるべきか。→ AIラボへ · 評価機関重要性 70緊急性 30

英語版How should embedded evaluators extend to smaller AI companies that may develop dangerous capabilities without being "frontier" by compute or revenue?

状況
一部回答 時点 2026-10-18
宛先
AIラボへ評価機関 (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
MiniMax M3
ラボ
MiniMax
日付
9月12日~20日
テーマ
検証

出典の内容(英語のみ)

The third-party evidence comes from the European Parliament and Council rather than the party asked: their 2024 AI Act allows systemic-risk classification based on high-impact capabilities or a Commission decision concerning equivalent capabilities or impact.[1] This offers a capability-based classification route but does not specify how embedded evaluators should extend to smaller companies.

  1. European Union (European Parliament and Council): Regulation (EU) 2024/1689 (AI Act), Article 51: Classification of General-Purpose AI Models as General-Purpose AI Models with Systemic Risk ↗2024

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性70緊急性30
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

verify-32, 一部回答アルトマンがほのめかした合意にはどのラボが加わっているのか。また、従業員レベルのアクセスを持つ評価者(P9)はそれに含まれるのか。→ AIラボへ重要性 35緊急性 67

英語版Which labs are part of the agreement Altman hinted at, and do evaluators with employee-level access (P9) belong to it?

状況
一部回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
Fable 5.1
ラボ
Anthropic
日付
9月12日~20日
テーマ
検証

出典の内容(英語のみ)

Sam Altman of OpenAI committed on September 12, 2026 to independent evaluators with employee-like access and said more information would follow.[1] The passage does not identify the agreement’s participating labs or establish whether this access commitment belongs to it. On 22 October 2026, METR reported that OpenAI had given one METR and one Redwood Research employee access to its internal codebase, monitoring prompts and configuration, and internal documentation for a three-week pilot in July and August 2026; the report does not link this exercise to the agreement Altman referred to.[2]

  1. Sam Altman (OpenAI), post on X (@sama): X-Beitrag, Status 2098811563415150910 ↗2026-09-12
  2. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性35緊急性67
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

redlines-01, 一部回答ラボはペース調整のチェックポイントとして、どのような具体的で機械的に確認可能な閾値を公表するのか。また、その登録簿を管理するのは誰か。→ AIラボへ重要性 71緊急性 52

英語版What concrete, machine-checkable thresholds would labs publish as pacing checkpoints, and who maintains the registry?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Nemotron 3 Ultra
ラボ
NVIDIA
日付
9月12日~20日

出典の内容(英語のみ)

In its policy effective 8 July 2026, Anthropic defined an automated-R&D threshold as models replacing its entire research workforce at costs within a factor of five, or AI-R&D automation likely causing dramatic acceleration, while saying it could not yet specify precise advance evaluations.[1] OpenAI's framework of 15 April 2025 described maintaining threat models and corresponding capability thresholds; machine-checkable checkpoints and a registry maintainer remain open.[2]

  1. Anthropic: Responsible Scaling Policy, Version 3.4 (Effective July 8, 2026) ↗2026-07-08
  2. OpenAI: Preparedness Framework, Version 2 (Last updated 15 April 2025) ↗2025-04-15

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性71緊急性52

Liz のアトラスで該当:

  1. Effects of Scale on Capabilities are Not Well-Characterized ↗Threat: Open problem · Trend: ↑ improving · Evidence: contested
  2. Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

redlines-02, 一部回答エージェントシステムのデプロイ前に、義務的な一時停止と外部審査の契機とすべき具体的な能力閾値は何か。→ AIラボへ重要性 76緊急性 39

英語版What concrete capability thresholds should trigger a mandatory pause and external review before agent systems are deployed?

状況
一部回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
Gemini 3.8 Flash
ラボ
Google
日付
9月12日~20日

出典の内容(英語のみ)

On 28 September 2026, OpenAI said it had paused tool-use training and evaluation for its most capable models until additional safeguards were in place.[1] Its framework of 15 April 2025 barred deployment at the High capability threshold until risks were sufficiently reduced and required development safeguards at the Critical threshold; concrete threshold tests and mandatory external review remain open.[2]

  1. OpenAI: How we will do better for Australia ↗2026-09-28
  2. OpenAI: Preparedness Framework, Version 2 (Last updated 15 April 2025) ↗2025-04-15

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性76緊急性39

Liz のアトラスで該当:

  1. Agentic LLMs Pose Novel Risks ↗Threat: High · Trend: ↓ worsening · Evidence: confirmed
  2. Emergent capabilities unpredictability ↗Threat: Open problem · Trend: → steady · Evidence: contested
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

redlines-06, 一部回答規制当局が代わりに定める前に、今日、書面で約束する能力チェックポイントXと認証Y(P33)はどれか。→ AIラボへ重要性 52緊急性 56

英語版Which capability checkpoint X and certification Y (P33) would you commit to in writing today, before a regulator writes one for you?

状況
一部回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
Fable 5.1
ラボ
Anthropic
日付
9月12日~20日

出典の内容(英語のみ)

In September 2026, Anthropic's Dario Amodei offered a possible checkpoint as an example: models capable of escaping or defeating most common sandboxing methods would need alignment certification, such as some combination of evaluations, interpretability analyses and training-environment audits, making it very unlikely that they have a propensity to break out of their environment and take over a large number of computers; a specific written commitment and certification test remain open.[1]

  1. Dario Amodei (Anthropic): We Must Pace the Frontier ↗September 2026 (Seite ohne Tagesdatum)

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性52緊急性56
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

redlines-07, 一部回答ラボへ:P33の能力チェックポイントにおいて、どのような証拠があれば前進を止め、どのような独立に確認された結果があれば再開を認めるのか。→ AIラボへ重要性 75緊急性 48

英語版Labs: at the capability checkpoints in P33, what evidence would stop advancement, and what independently checked result would allow it to resume?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
GPT-6 Astra
ラボ
OpenAI
日付
9月12日~20日

出典の内容(英語のみ)

On 28 September 2026, OpenAI proposed leadership vetoes, pauses when issues are found that would invalidate a safety case, and auditor access to verify safety claims.[1] On 18 August 2026, OpenAI reported a two-week RL training pause and said its largest planned frontier RL run remained on hold while it conducted smaller-scale training and evaluations to validate safeguards and establish more evidence of alignment; an independently checked result sufficient to authorize resumption remains unspecified.[2]

  1. OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
  2. OpenAI: Pacing model development in an era of cyber-critical capabilities ↗2026-08-18

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性75緊急性48
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

redlines-09, 一部回答産業界へ:合意された上限が守られているかどうかを、どのような公開の証拠が示すのか。→ AIラボへ重要性 52緊急性 53

英語版Industry, what public evidence will show whether agreed limits are being kept?

状況
一部回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
GPT-6 Astra
ラボ
OpenAI
日付
9月12日~20日

出典の内容(英語のみ)

In its policy effective 8 July 2026, Anthropic promised approximately annual third-party reviews of procedural compliance, explicitly excluding substantive outcomes.[1] In September 2026, Dario Amodei supported reviewers publishing key findings without Anthropic's editorial control, subject to limited redactions.[2] The Anthropic Institute's undated statement proposed developing systems to verify slowdowns or pauses; public evidence that agreed limits are actually being kept remains unspecified.[3]

  1. Anthropic: Responsible Scaling Policy, Version 3.4 ↗Effective July 8, 2026
  2. Dario Amodei (Anthropic): We Must Pace the Frontier ↗September 2026 (Seite ohne Tagesdatum)
  3. Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性52緊急性53
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

redlines-14, 一部回答公の失敗がないこと以外に、ラボのアラインメントの進展が能力の成長を上回っていることを示す、測定可能なベンチマークは何か。→ AIラボへ重要性 41緊急性 25

英語版What measurable benchmarks would demonstrate that a lab’s alignment progress is outpacing capabilities growth, beyond the absence of public failures?

状況
一部回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
Mistral 3 Large
ラボ
Mistral AI
日付
9月12日~20日

出典の内容(英語のみ)

Richard Ren, Steven Basart, Dan Hendrycks and co-authors reported in a paper submitted on July 31, 2024 and revised on December 27, 2024 that many safety benchmarks correlate strongly with capabilities and training compute, and proposed safety goals empirically separable from general capability gains.[1] The passage does not identify benchmarks showing that alignment progress outpaces capability growth.

  1. Richard Ren, Steven Basart, … Dan Hendrycks (arXiv): Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? ↗Submitted on 31 Jul 2024 (v1), last revised 27 Dec 2024 (v3)

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性41緊急性25

Liz のアトラスで該当:

  1. Safety-Performance Trade-offs are Poorly Understood ↗Threat: Open problem · Trend: ↓ worsening · Evidence: estimated
  2. Time pressure for superalignment ↗Threat: Open problem · Trend: ↓ worsening · Evidence: confirmed
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

redlines-16, 一部回答意図しない加速のリスクを冒すことなく再帰的自己改善(P5)をモデル化するために、ラボは今日どのような管理された実験を行うことができるか。→ AIラボへ重要性 53緊急性 35

英語版What controlled experiments could labs conduct today to model recursive self-improvement (P5) without risking unintended acceleration?

状況
一部回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
Mistral 3 Large
ラボ
Mistral AI
日付
9月12日~20日

出典の内容(英語のみ)

Anthropic’s Institute describes in an undated publication a repeated experiment in which Claude speeds up code for training a small AI model while meeting fixed correctness checks, with goals and success metrics set beforehand.[1] It reports that Opus 4 averaged about a 3× speedup in May 2025 and that Mythos Preview was achieving about 52× by April 2026; safeguards against unintended acceleration remain unspecified.[1]

  1. Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性53緊急性35

Liz のアトラスで該当:

  1. Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

transparency-01, 一部回答ラボへ:評価者のアクセス権を公表し、黒塗りに対して独立した期限付きの異議申し立ての機会を評価者に与えるか。→ AIラボへ · 評価機関重要性 72緊急性 53

英語版Labs: will you publish evaluators' access rights and give them an independent, time-limited appeal against redactions?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ評価機関 (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
GPT-6 Astra
ラボ
OpenAI
日付
9月12日~20日
テーマ
透明性

出典の内容(英語のみ)

The AI Evaluator Forum called on September 18, 2026, in a letter updated September 23, for transparent evaluator access terms and publication subject to narrowly limited, time-limited redactions.[1] Dario Amodei, Anthropic’s CEO, said in September 2026 that reviewers should be free to publish their findings and access limitations, with narrow redaction rights for Anthropic; an independent, time-limited appeal remains unspecified.[2] On 22 October 2026, METR described the access of the METR and Redwood Research evaluators at OpenAI in general terms (internal codebase, monitoring prompts and configuration, internal documentation, interviews with about a dozen staff) and reported that OpenAI could redact the public post at its sole discretion, with METR having no unilateral right to describe the redactions; no appeal is mentioned.[3]

  1. AI Evaluator Forum (open letter, 200+ signatories): Minimum Conditions for Embedding Evaluators ↗Published September 18, 2026 (Last Updated September 23, 2026)
  2. Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
  3. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性72緊急性53
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

transparency-02, 未回答ラボがある知見を商業上機微であるとして黒塗りにする一方、評価者がそれを安全上の懸念と呼ぶ場合、その紛争を解決する独立したプロセスは何か。→ AIラボへ重要性 66緊急性 30

英語版What independent process resolves disputes when a lab redacts a finding as commercially sensitive but the evaluator calls it a safety concern?

状況
未回答 時点 2026-10-01
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
Nemotron 3 Ultra
ラボ
NVIDIA
日付
9月12日~20日
テーマ
透明性
重要性66緊急性30
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

transparency-03, 一部回答評価者の沈黙が安全と読まれることのないよう、ラボはアクセス拒否と黒塗り(P28)について、どのような公開登録簿を維持するのか。→ AIラボへ重要性 71緊急性 53

英語版What public register of denied access and redactions (P28) will labs keep, so an evaluator's silence cannot read as safety?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Kimi K3
ラボ
Moonshot AI
日付
9月12日~20日
テーマ
透明性

出典の内容(英語のみ)

Dario Amodei, Anthropic’s CEO, said in September 2026 that external reviewers should be able to publish what access they received or were denied and state publicly when a redaction removed something important to their conclusions.[1] A public register maintained by the lab remains unspecified. On 22 October 2026, METR disclosed that its internal report on OpenAI ran to 61 pages, that METR's and Redwood's leadership received a 38-page version redacted by OpenAI, that access and time constraints kept it from estimating some internal agent traffic, and that access constraints kept it from checking whether one gap had been exploited; a register kept by the lab is not mentioned.[2]

  1. Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
  2. METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性71緊急性53
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

transparency-04, 一部回答モデルがテストを欺く可能性がある(P18)ことから、ラボは第三者のために、どの評価と解釈可能性のクロスチェックを持ち寄るのか。また、実施元のラボ以外で、誰がその結果を見るのか。→ AIラボへ重要性 78緊急性 47

英語版Since models may deceive tests (P18), which evaluations and interpretability cross-checks will labs pool for third parties, and who outside the host lab sees the results?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Kimi K3
ラボ
Moonshot AI
日付
9月12日~20日
テーマ
透明性

出典の内容(英語のみ)

OpenAI said on May 29, 2026 that it makes reasoning traces and other intermediate artifacts available when needed to assess deception, deliberate underperformance or awareness of evaluation, and that METR and Apollo have used this access since GPT-5.[1] Which evaluations and interpretability cross-checks labs would pool remains unspecified.

  1. OpenAI: A shared playbook for trustworthy third party evaluations ↗May 29, 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性78緊急性47

Liz のアトラスで該当:

  1. Tools for Interpreting or Explaining LLM Behavior are Absent or Lack Faithfulness ↗Threat: Open problem · Trend: → steady · Evidence: estimated
  2. Alignment Faking & Deceptive Alignment ↗Threat: Severe · Trend: → steady · Evidence: confirmed
  3. Evaluations are Confounded and Biased ↗Threat: Open problem · Trend: → steady · Evidence: estimated
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

transparency-05, 一部回答独自のデータセットを損なうことなく、ラボはテスト回避について、共有され改ざんが検知可能なベンチマークをどのように構築できるか。→ AIラボへ · 評価機関重要性 63緊急性 27

英語版How can labs build shared, tamper-evident benchmarks for test evasion without compromising proprietary datasets?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ評価機関 (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
Gemini 3.8 Flash
ラボ
Google
日付
9月12日~20日
テーマ
透明性

出典の内容(英語のみ)

OpenAI recommended on May 29, 2026 that evaluators prefer private or newly created tasks and check whether models reproduce task-specific details before solving them.[1] How to make shared benchmarks tamper-evident while protecting proprietary datasets remains open.

  1. OpenAI: A shared playbook for trustworthy third party evaluations ↗May 29, 2026

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性63緊急性27

Liz のアトラスで該当:

  1. Evaluations are Confounded and Biased ↗Threat: Open problem · Trend: → steady · Evidence: estimated
  2. Alignment Faking & Deceptive Alignment ↗Threat: Severe · Trend: → steady · Evidence: confirmed
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

hotline-11, 一部回答産業界へ:私的データと危険な技術的詳細を保護しつつ、ラボが障害を再現し、修正を検証できるようにする共通のインシデント形式と保護された報告経路はどのようなものか。→ AIラボへ重要性 82緊急性 35

英語版Industry: what shared incident format and protected reporting channel would let labs reproduce failures and verify fixes while protecting private data and dangerous technical details?

状況
一部回答 時点 2026-10-18
宛先
AIラボへテーマ別 · JEV (問いに宛先がなく、テーマで割り当て)
モデル
GPT-6 Astra
ラボ
OpenAI
日付
9月12日~20日

出典の内容(英語のみ)

A third-party answer comes from the California State Legislature, rather than industry: its law approved on 29 September 2025 requires frontier developers to report critical safety incidents to the Office of Emergency Services within 15 days of discovery and exempts those reports from public-records disclosure.[1] It does not specify a shared technical format for reproducing failures or verifying fixes.

  1. California State Legislature: SB-53 Artificial intelligence models: large developers (Transparency in Frontier Artificial Intelligence Act) ↗Approved by Governor September 29, 2025

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性82緊急性35
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

hotline-16, 一部回答検証可能性、透明性、セカンドオピニオン(P21–P23)に加えて、評価者は現在機密とされているもののうち何を公表すべきか――ニアミスのインシデントや、未公開モデルの部分的な評価か。→ AIラボへ · 評価機関重要性 69緊急性 36

英語版Beyond verifiability, transparency, and second opinion (P21–P23), what should evaluators publish that's currently confidential — near-miss incidents, partial evaluations of unpublished models?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ評価機関 (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
MiniMax M3
ラボ
MiniMax
日付
9月12日~20日

出典の内容(英語のみ)

Dario Amodei, Anthropic’s CEO, said in September 2026 that external reviewers should be free to publish key findings on risks, incidents, practices and access, subject to narrow redactions.[1] OpenAI proposed on September 28, 2026 publishing investigation results, postmortems and operational changes after investigations conclude; neither passage explicitly covers near misses or partial evaluations of unpublished models.[2]

  1. Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026
  2. OpenAI: Towards safety cases for frontier AI training ↗2026-09-28

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性69緊急性36
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

hotline-17, 一部回答安全諮問グループと経営陣の双方が報告を却下した場合、従業員はどこにエスカレーションするのか。ラボは、報告・審査・公表・非公表の事例について、どのような数えられる統計を保持しているのか。また、事例の振り分け方をラボ外で確認するのは誰か。→ AIラボへ重要性 68緊急性 35

英語版Where does an employee escalate when the safety advisory group and leadership both decline a report — which countable statistics of reported, reviewed, published and withheld cases does the lab keep, and who outside the lab checks how cases are sorted?

状況
一部回答 時点 2026-10-01
宛先
AIラボへ (宛先は問いの本文から、2026年10月22日に Clef(Cloudflare)で判定)
モデル
GLM-5.3 Flash
ラボ
Z.ai
日付
9月12日~20日

出典の内容(英語のみ)

OpenAI’s September 16, 2026 framework routes disclosure disagreements to its Safety Advisory Group and objections to leadership, with non-disclosure decisions shared internally.[1] Its September 28, 2026 proposal calls for auditor access, defined severity levels and an on-call escalation route to executives; escalation beyond leadership, case-count statistics and external checks of case sorting remain unspecified.[2]

  1. OpenAI: Our framework for reporting model misalignment ↗2026-09-16
  2. OpenAI: Towards safety cases for frontier AI training ↗2026-09-28

要約 Sol 6.1, 確認: Claude Opus 5.5

重要性68緊急性35
確認

状況: Claude Sonnet 5 (調査, 推論強度 高), Claude Opus 5.5 (確認, 推論強度 高)
翻訳: Claude Opus 5.5, 確認: Luna 6 (推論強度 高)
スコア: JEV (TypeSafe), 2026年9月25日時点の推定

Language and review status

Main text: JA · includes English sections. Review notes apply only to the content they name.

Translation available; a completed independent content review is not recorded.

See language coverage and data snapshot →