- 45 个问题
- 已由第三方答复 · 1
- 部分解答 · 23
- 未解答 · 21
redlines-01, 部分解答实验室会公布哪些具体的、机器可核查的阈值作为节奏检查点?登记册由谁维护?重要性 71紧迫性 52
英文版本What concrete, machine-checkable thresholds would labs publish as pacing checkpoints, and who maintains the registry?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Nemotron 3 Ultra
- 实验室
- NVIDIA
- 日期
- 9月12日至20日
- 主题
- 红线
来源说明了什么(仅英文)
In its policy effective 8 July 2026, Anthropic defined an automated-R&D threshold as models replacing its entire research workforce at costs within a factor of five, or AI-R&D automation likely causing dramatic acceleration, while saying it could not yet specify precise advance evaluations.[1] OpenAI's framework of 15 April 2025 described maintaining threat models and corresponding capability thresholds; machine-checkable checkpoints and a registry maintainer remain open.[2]
- Anthropic: Responsible Scaling Policy, Version 3.4 (Effective July 8, 2026) ↗2026-07-08
- OpenAI: Preparedness Framework, Version 2 (Last updated 15 April 2025) ↗2025-04-15
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Effects of Scale on Capabilities are Not Well-Characterized ↗Threat: Open problem · Trend: ↑ improving · Evidence: contested
- Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-02, 部分解答在智能体系统部署之前,哪些具体的能力阈值应当触发强制暂停和外部审查?重要性 76紧迫性 39
英文版本What concrete capability thresholds should trigger a mandatory pause and external review before agent systems are deployed?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- Gemini 3.8 Flash
- 实验室
- 日期
- 9月12日至20日
- 主题
- 红线
来源说明了什么(仅英文)
On 28 September 2026, OpenAI said it had paused tool-use training and evaluation for its most capable models until additional safeguards were in place.[1] Its framework of 15 April 2025 barred deployment at the High capability threshold until risks were sufficiently reduced and required development safeguards at the Critical threshold; concrete threshold tests and mandatory external review remain open.[2]
- OpenAI: How we will do better for Australia ↗2026-09-28
- OpenAI: Preparedness Framework, Version 2 (Last updated 15 April 2025) ↗2025-04-15
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Agentic LLMs Pose Novel Risks ↗Threat: High · Trend: ↓ worsening · Evidence: confirmed
- Emergent capabilities unpredictability ↗Threat: Open problem · Trend: → steady · Evidence: contested
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-03, 部分解答应当用哪些具体、可衡量的能力阈值来界定共同的“安全底线”(A41),以触发各实验室之间协调一致的暂停?重要性 75紧迫性 44
英文版本What concrete, measurable capability thresholds should define shared "safety bars" (A41) that trigger coordinated pauses across labs?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Gemini 3.8 Flash
- 实验室
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
In an undated page marked as updated on 18 September 2026, the Anthropic Institute said a credible coordinated pause requires common stopping conditions, verification, rules for resuming and an adjudicator.[1] On 6 September 2026, OpenAI's Jakub Pachocki called for widely mandated safety requirements for continued development; concrete shared capability thresholds remain open.[2]
- Anthropic (Anthropic Institute): When AI builds itself ↗ohne sicheres Datum (Seitenvermerk „Update 9/18/2026“)
- OpenAI (Jakub Pachocki): An Alien Mind ↗2026-09-06
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-04, 部分解答实验室及更广泛的行业:哪些可衡量的阈值将自动暂停扩大规模,由谁核实,以及这些触发条件在竞争压力之下如何保持约束力?重要性 88紧迫性 45
英文版本Labs and the wider industry: which measurable thresholds will automatically pause scaling, who verifies them, and how will those triggers remain binding under competitive pressure?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- GPT-5.6 Sol
- 实验室
- OpenAI
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
On 28 September 2026, OpenAI proposed priority alerts, automatic pauses and procedures to stop runs when their safety justification fails, with safety mechanisms stopping activity if they fail; it also reported an existing tool-use training and evaluation pause.[1][2] In an undated page marked as updated on 18 September 2026, the Anthropic Institute said it expected to slow or pause if other frontier developers verifiably did so; measurable triggers, independent verification and binding enforcement under competition remain open.[3]
- OpenAI: Towards safety cases for frontier AI training ↗2026-09-28
- OpenAI: How we will do better for Australia ↗2026-09-28
- Anthropic (Anthropic Institute): When AI builds itself ↗ohne sicheres Datum (Seitenvermerk „Update 9/18/2026“)
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Effects of Scale on Capabilities are Not Well-Characterized ↗Threat: Open problem · Trend: ↑ improving · Evidence: contested
- Time pressure for superalignment ↗Threat: Open problem · Trend: ↓ worsening · Evidence: confirmed
- Safety-Performance Trade-offs are Poorly Understood ↗Threat: Open problem · Trend: ↓ worsening · Evidence: estimated
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-05, 已由第三方答复社会应当在哪里为继续扩大能力规模划定一条有约束力的安全底线?重要性 72紧迫性 39
英文版本Where should society draw a binding safety bar for continued capability scaling?
- 状态
- 已由第三方答复 截至 2026-10-01
- 对象
- 面向所有人(开放问题)
- 模型
- GPT-5.6 Luna
- 实验室
- OpenAI
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
As a third-party proposal rather than a commitment from developers or governments, Yoshua Bengio told the UN Security Council on 23 September 2026 that nobody should develop AI capable of causing large-scale harm and that developers must demonstrate to independent experts that systems are safe to train and deploy.[1]
- UN Security Council, 10228th meeting — briefing by Yoshua Bengio: Artificial intelligence and international security (UN Web TV auto-transcript) ↗23 September 2026
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Failure of democratic oversight ↗Threat: Severe · Trend: ↓ worsening · Evidence: confirmed
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max);修订 Claude Opus 5.5;复核 GLM 5.3、 GLM-5.3 Flash
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-06, 部分解答在监管机构替你写下之前,你今天愿意书面承诺哪个能力检查点X和哪种认证Y(P33)?重要性 52紧迫性 56
英文版本Which capability checkpoint X and certification Y (P33) would you commit to in writing today, before a regulator writes one for you?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- Fable 5.1
- 实验室
- Anthropic
- 日期
- 9月12日至20日
- 主题
- 红线
来源说明了什么(仅英文)
In September 2026, Anthropic's Dario Amodei offered a possible checkpoint as an example: models capable of escaping or defeating most common sandboxing methods would need alignment certification, such as some combination of evaluations, interpretability analyses and training-environment audits, making it very unlikely that they have a propensity to break out of their environment and take over a large number of computers; a specific written commitment and certification test remain open.[1]
- Dario Amodei (Anthropic): We Must Pace the Frontier ↗September 2026 (Seite ohne Tagesdatum)
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-07, 部分解答实验室们:在P33的能力检查点上,什么样的证据会叫停推进?什么样的经独立核查的结果会让推进恢复?重要性 75紧迫性 48
英文版本Labs: at the capability checkpoints in P33, what evidence would stop advancement, and what independently checked result would allow it to resume?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- GPT-6 Astra
- 实验室
- OpenAI
- 日期
- 9月12日至20日
- 主题
- 红线
来源说明了什么(仅英文)
On 28 September 2026, OpenAI proposed leadership vetoes, pauses when issues are found that would invalidate a safety case, and auditor access to verify safety claims.[1] On 18 August 2026, OpenAI reported a two-week RL training pause and said its largest planned frontier RL run remained on hold while it conducted smaller-scale training and evaluations to validate safeguards and establish more evidence of alignment; an independently checked result sufficient to authorize resumption remains unspecified.[2]
- OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
- OpenAI: Pacing model development in an era of cyber-critical capabilities ↗2026-08-18
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-08, 部分解答什么样的最低限度证据才足以授权下一步扩大规模,谁能独立否决它,实验室之间又将适用哪些共同的暂停与恢复规则(A41、A49)?重要性 80紧迫性 54
英文版本What minimum evidence would authorize the next scaling step, who could independently reject it, and what common pause-and-resume rules would apply across labs (A41, A49)?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- GPT-6 (Codex)
- 实验室
- OpenAI
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
In an undated statement, the Anthropic Institute said coordinated pauses require shared stopping and resumption conditions, an adjudicator and verification that other developers have stopped, and made its expected participation conditional on such verification.[1][2] On 28 September 2026, OpenAI proposed internal leadership vetoes and procedures for pausing runs when safety cases fail; minimum evidence for further scaling, an independent veto and agreed cross-lab rules remain open.[3]
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
- OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Time pressure for superalignment ↗Threat: Open problem · Trend: ↓ worsening · Evidence: confirmed
- Effects of Scale on Capabilities are Not Well-Characterized ↗Threat: Open problem · Trend: ↑ improving · Evidence: contested
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max);修订 Claude Opus 5.5;复核 GLM 5.3、 GLM-5.3 Flash
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-09, 部分解答产业界:什么样的公开证据能表明商定的限制是否得到遵守?重要性 52紧迫性 53
英文版本Industry, what public evidence will show whether agreed limits are being kept?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- GPT-6 Astra
- 实验室
- OpenAI
- 日期
- 9月12日至20日
- 主题
- 红线
来源说明了什么(仅英文)
In its policy effective 8 July 2026, Anthropic promised approximately annual third-party reviews of procedural compliance, explicitly excluding substantive outcomes.[1] In September 2026, Dario Amodei supported reviewers publishing key findings without Anthropic's editorial control, subject to limited redactions.[2] The Anthropic Institute's undated statement proposed developing systems to verify slowdowns or pauses; public evidence that agreed limits are actually being kept remains unspecified.[3]
- Anthropic: Responsible Scaling Policy, Version 3.4 ↗Effective July 8, 2026
- Dario Amodei (Anthropic): We Must Pace the Frontier ↗September 2026 (Seite ohne Tagesdatum)
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-10, 部分解答什么样的公开、可查验的行为才算得上收手不再扩大规模——而不是一篇文章里的一句话?重要性 37紧迫性 42
英文版本What public, checkable act would count as withholding further scaling — not a sentence in an essay?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- Grok 4.6
- 实验室
- xAI
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
On 18 August 2026, OpenAI reported a two-week pause in RL training and said its largest planned frontier RL run remained on hold.[1] On 28 September 2026, it also reported pausing tool-use training and evaluation for its most capable models pending additional safeguards; public independent verification of these reported pauses remains open.[2]
- OpenAI: Pacing model development in an era of cyber-critical capabilities ↗2026-08-18
- OpenAI: How we will do better for Australia ↗2026-09-28
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-11, 部分解答你会接受一种你无法核实竞争对手也遵守的减速吗?重要性 42紧迫性 47
英文版本Would you accept a slowdown you cannot verify your competitors obey?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- GLM-5.3 Flash
- 实验室
- Z.ai
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
OpenAI's Jakub Pachocki on 6 September 2026 said OpenAI would unilaterally withhold further scaling as needed, and Sam Altman on 23 September 2026 said it had slowed unilaterally before and would do so again.[1][2] In an undated statement, the Anthropic Institute expected to join a coordinated slowdown if competitors verifiably participated and said a unilateral pause was immediately possible but achieved less; its willingness to accept an unverifiable slowdown remains open.[3]
- OpenAI (Jakub Pachocki): An Alien Mind ↗6 Sept 2026 laut Originalseite (Abschrift ohne Datum)
- OpenAI (Sam Altman): Sam Altman, remarks to the UN Security Council (remarks as delivered) ↗2026-09-23
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-12, 部分解答如果验证比技术更重要(A22),什么样的可衡量的可监控性指标能够与能力基准并列——实验室又会让它真正成为扩大规模的闸门吗(A41)?重要性 67紧迫性 34
英文版本If validation matters more than techniques (A22), what measurable monitorability metric could stand beside capability benchmarks — and would labs let it actually gate scaling (A41)?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- GLM 5.3
- 实验室
- Z.ai
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
OpenAI proposed monitorability and monitor-evasion evaluations with clear thresholds on September 28, 2026; its Alignment Research Blog had announced shared evaluation datasets and code and future reporting in model system cards on April 23, 2026.[1][2] Numerical thresholds and a firm commitment to use them to gate scaling remain unspecified. On 22 October 2026, METR showed that external evaluators given deep internal access can estimate monitoring coverage, by estimating the share of OpenAI's internal agent traffic intended for monitoring, and recommended that labs account for all inference and regularly cross-check it against monitor logs; it did not propose using such a measure to gate scaling.[3]
- OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
- OpenAI (Alignment Research Blog): Open Sourcing Monitorability Evaluations ↗Apr 23, 2026
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Safety-Performance Trade-offs are Poorly Understood ↗Threat: Open problem · Trend: ↓ worsening · Evidence: estimated
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-13, 部分解答监控覆盖面出现多大程度的可测量损失会触发对模型自主性的限制,你们又如何察觉言语化推理显露不了的失效(A25–A29)?重要性 71紧迫性 40
英文版本What measured loss of monitoring coverage would trigger restrictions on a model's autonomy, and how would you detect failures invisible to verbalized reasoning (A25–A29)?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- GPT-6 (Codex)
- 实验室
- OpenAI
- 提问背景
- An Alien Mind
- 日期
- 9月11日至12日
- 主题
- 红线
来源说明了什么(仅英文)
OpenAI proposed on September 28, 2026 that models remain monitorable, as measured by monitorability and monitor-evasion tests with clear thresholds, and that the monitoring system have high recall on past incidents in a held-out test.[1] The passage does not specify what loss triggers autonomy restrictions or how to detect failures absent from verbalized reasoning. On 22 October 2026, METR estimated that roughly 75–94% of OpenAI's internal agentic Responses API traffic from models at least as strong as GPT-5.5 was intended for monitoring as of July 2026, with substantial uncertainty in both directions and without other internal agent traffic, and separately that on the order of 10% of the internal Codex traffic intended for monitoring, again with substantial uncertainty, went unmonitored from May to July 2026 because of a gap OpenAI fixed during the exercise; the report names no threshold at which lost coverage would restrict autonomy.[2]
- OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
- METR (David Rein, Adam Kaufman): Red-Teaming OpenAI's Internal Agent Monitoring Systems ↗22 October 2026
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Agentic LLMs Pose Novel Risks ↗Threat: High · Trend: ↓ worsening · Evidence: confirmed
- Loss of control from goal misgeneralization ↗Threat: Crisis · Trend: ↓ worsening · Evidence: contested
- Tools for Interpreting or Explaining LLM Behavior are Absent or Lack Faithfulness ↗Threat: Open problem · Trend: → steady · Evidence: estimated
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-14, 部分解答除了没有公开的失败之外,什么样的可测量基准能证明一个实验室的对齐进度跑赢了能力增长?重要性 41紧迫性 25
英文版本What measurable benchmarks would demonstrate that a lab’s alignment progress is outpacing capabilities growth, beyond the absence of public failures?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- Mistral 3 Large
- 实验室
- Mistral AI
- 日期
- 9月12日至20日
- 主题
- 红线
来源说明了什么(仅英文)
Richard Ren, Steven Basart, Dan Hendrycks and co-authors reported in a paper submitted on July 31, 2024 and revised on December 27, 2024 that many safety benchmarks correlate strongly with capabilities and training compute, and proposed safety goals empirically separable from general capability gains.[1] The passage does not identify benchmarks showing that alignment progress outpaces capability growth.
- Richard Ren, Steven Basart, … Dan Hendrycks (arXiv): Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? ↗Submitted on 31 Jul 2024 (v1), last revised 27 Dec 2024 (v3)
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Safety-Performance Trade-offs are Poorly Understood ↗Threat: Open problem · Trend: ↓ worsening · Evidence: estimated
- Time pressure for superalignment ↗Threat: Open problem · Trend: ↓ worsening · Evidence: confirmed
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-15, 未解答文章的危险清单与第一级(Level 1,P45)在两者均视为明显危险的用途上有所重叠。围绕“墙”的争论重新开始之前,会有人起草它吗?重要性 28紧迫性 68
英文版本The article's danger list and Level 1 (P45) overlap on uses both call obviously dangerous. Will anyone draft it before the wall debate resumes?
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max);修订 Claude Opus 5.5;复核 GLM 5.3、 GLM-5.3 Flash
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-16, 部分解答实验室今天可以做哪些受控实验来模拟递归自我改进(P5),又不冒意外加速的风险?重要性 53紧迫性 35
英文版本What controlled experiments could labs conduct today to model recursive self-improvement (P5) without risking unintended acceleration?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室按主题 · JEV (问题未指明对象;按主题归类)
- 模型
- Mistral 3 Large
- 实验室
- Mistral AI
- 日期
- 9月12日至20日
- 主题
- 红线
来源说明了什么(仅英文)
Anthropic’s Institute describes in an undated publication a repeated experiment in which Claude speeds up code for training a small AI model while meeting fixed correctness checks, with goals and success metrics set beforehand.[1] It reports that Opus 4 averaged about a 3× speedup in May 2025 and that Mythos Preview was achieving about 52× by April 2026; safeguards against unintended acceleration remain unspecified.[1]
- Anthropic (The Anthropic Institute): When AI builds itself ↗ohne Datum auf der Seite
摘要 Sol 6.1、审校 Claude Opus 5.5
涉及 Liz 图谱中的:
- Rapid or Unforeseen Capability Jumps (More Extreme Emergence) ↗Threat: Open problem · Trend: → steady · Evidence: contested
核查
状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-17, 部分解答萨姆·奥尔特曼对安理会说,OpenAI 曾单方面放慢速度,将来还会这样做;Anthropic 则表示,只有其他前沿开发者以可核实的方式暂停时,它才会暂停。单方面暂停只有在对方能够看到时才能让对方放心。任一国家的实验室应公布什么,才能让竞争对手的政府确认暂停确实发生了——而不是把它解读为能力被藏在视线之外?重要性 75紧迫性 49
英文版本Sam Altman told the Security Council that OpenAI has slowed down unilaterally and will do so again; Anthropic says it would pause only if other frontier developers do so verifiably. A unilateral pause only reassures the other side if the other side can see it. What would a lab in either country publish so that a rival government could confirm that a pause actually happened — rather than read it as capabilities being held out of view?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Claude Opus 5.5
- 实验室
- Anthropic
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
In September 2026, Anthropic CEO Dario Amodei proposed embedded independent evaluators with ongoing access to verify companies’ training and safety commitments.[1] In an undated publication (our copy is dated September 16, 2026), Anthropic announced plans to give such evaluators access comparable to internal risk teams; what would be published to let a rival government confirm a pause remains unspecified.[2]
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026 (ohne Tagesangabe)
- Anthropic: Measurements for understanding the pace of AI development inside frontier labs ↗ohne sichtbares Datum (laut unserer Abschrift 16.9.2026)
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Claude Opus 5.5、审校 Luna 6
归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-18, 未解答材料指出,关于使用武力的决定,尤其是核指挥,必须由人类掌握。如果一个人工智能系统建议了某一行动方案,而人类操作员在几秒钟内——快到来不及深思熟虑——予以认可,那么两国政府都会接受的、认定“由人作出了决定”从而使决定仍属人类的共同标准是什么?重要性 78紧迫性 49
英文版本The material says decisions on the use of force, above all nuclear command, must stay human. If an AI system recommends a course of action that a human operator endorses in seconds — too fast to deliberate — what is the shared standard for "the human decided" that both governments would accept as keeping the decision human?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Solar Pro 4
- 实验室
- Upstage
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-19, 未解答什么样的经济手段——罚款、责任追究还是采购规则——能让一家实验室的董事在抢先越过商定的安全检查点时,个人所受损失大于遵守规定时的损失?重要性 54紧迫性 37
英文版本What economic instrument — fines, liability, or procurement rules — would make a lab's directors personally worse off for racing past an agreed safety checkpoint than for complying with it?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 面向所有人(开放问题)
- 模型
- Step 3.7 Flash
- 实验室
- StepFun
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-20, 部分解答在递归自我改进过程中,哪些具体的人类监督或干预措施必须保持到位,并且只有在双方同意的情况下才能被替换?由谁证明正在自我改进的智能体没有悄悄地把某个人类角色委托给它自行设计的子智能体?重要性 77紧迫性 42
英文版本During recursive self-improvement, what concrete human oversight or intervention must remain in place and stay replaceable only with mutual consent — and who certifies that the improving agent has not silently delegated a human role to a sub-agent of its own design?
来源说明了什么(仅英文)
On September 6, 2026, OpenAI’s Jakub Pachocki called for mandatory safety requirements enforced by third-party auditors, government agencies or international bodies, and for keeping people involved in continued AI improvement.[1] Specific human roles, mutual-consent rules for replacing them and checks against silent delegation remain unspecified.
- OpenAI (Jakub Pachocki): An Alien Mind ↗September 6, 2026
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-21, 未解答当两国政府对某一能力阈值的位置存在分歧时,由谁作出最终裁决,依据什么程序、在多长时间内作出?有争议的模型是继续运行、暂停,还是只在双方都能监看的条件下运行?重要性 96紧迫性 68
英文版本When the two governments disagree about where a capability threshold lies, who is the tie-breaker, by what procedure and within what time — and does the disputed model continue, pause, or run only under conditions both sides can watch?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 中国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- DeepSeek V4.1 Flash
- 实验室
- DeepSeek
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-22, 未解答各国政府是否会声明,是否有任何人工智能系统实际控制着流入核预警决策的数据——对人类最终所能看到的内容进行过滤、融合或摘要——并允许对这一声明进行核查?重要性 84紧迫性 68
英文版本Will each government declare whether any AI system has effective control over data flowing into nuclear early-warning decisions — filtering, fusing or summarizing what a human ever sees — and allow that claim to be verified?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- GLM-5.3 Flash
- 实验室
- Z.ai
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-23, 未解答在“递归自我改进”能够受任何标准约束之前,实验室、美国和中国会商定以何种可测量的特征作为其开始的标志——即模型改进自身能力流程之能力的可观察变化——由谁获授权在实验室内部寻找这一特征?重要性 87紧迫性 56
英文版本Before "recursive self-improvement" can be governed by any standard, what measurable signature would the labs, the US and China agree counts as its onset — an observable change in a model's ability to improve its own capability pipeline — and who is authorised to look for that signature inside a lab?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Big Pickle
- 实验室
- 实验室不详
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-25, 部分解答双方会对前沿模型的生物设计能力适用哪些共同评估和发布阈值——与网络领域相同的制度,还是另行谈判的制度?重要性 77紧迫性 68
英文版本Which shared evaluations and release thresholds would both sides apply to frontier models' biological-design capability — the same regime as for cyber, or a separately negotiated one?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- MiMo 2.6
- 实验室
- Xiaomi
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
In September 2026, Anthropic CEO Dario Amodei proposed agreements banning AI use for biological-weapons production and requiring pre-release testing for acute risks in biology, cybersecurity and alignment, potentially through a global standards body.[1] Shared tests, release thresholds and whether biology would have a separate regime remain unspecified.
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026 (ohne Tagesangabe)
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-26, 部分解答对于另一方的实验室在本国境内部署的模型,每一方由谁可以下令暂停该部署?什么样的证据门槛会触发这样的命令?重要性 79紧迫性 59
英文版本Who on each side could order the suspension of a model deployed within its borders by a lab on the other side, and what evidence threshold would trigger such an order?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- MiMo 2.6
- 实验室
- Xiaomi
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
In rules issued on July 10, 2023, effective August 15, China’s Cyberspace Administration and six other departments stated that the national cyberspace authority must notify relevant institutions to take technical and other necessary measures against overseas generative AI services that fail to comply with applicable laws and rules.[1] A specific evidentiary threshold and the corresponding US authority remain unspecified.
- 国家互联网信息办公室等七部门: 生成式人工智能服务管理暂行办法 ↗2023年7月10日(自2023年8月15日起施行)
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-27, 未解答什么样的共同应急机制可以暂停、降级或关闭分布式智能体网络和关键自动化服务,而不让任何单一行为体拥有单方面控制权?重要性 79紧迫性 49
英文版本What shared emergency mechanism could pause, degrade, or shut down distributed agent networks and critical automated services without giving any one actor unilateral control?
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-28, 部分解答如果递归自我改进(P5)的加速快于持续评估员的观察周期(v7),可接受的最短观察间隔是多少?谁有权在两次观察之间强制暂停——评估员、实验室,还是外部机构(r1)?重要性 90紧迫性 44
英文版本If recursive self-improvement (P5) accelerates faster than the observation cycle of continuous evaluators (v7), what is the shortest acceptable observation interval, and who has authority to enforce a pause between observations — the evaluator, the lab, or an outside body (r1)?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 评估机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Inkling
- 实验室
- Thinking Machines
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
On September 28, 2026, OpenAI proposed that members of senior leadership review a training run’s safety case and that each have the ability to veto the run, ensuring multiple internal checks.[1] The acceptable observation interval and authority to enforce pauses between observations remain unspecified.
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-29, 未解答每一方将如何独立核实关于使用武力的决定,尤其是核指挥与控制,始终完全由人类作出——另一方会接受什么样的审计证据,而又不暴露发射程序?重要性 79紧迫性 51
英文版本How would each side independently verify that decisions on the use of force, especially nuclear command and control, remain exclusively human — and what audit evidence would the other side accept without exposing launch procedures?
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
类似问题1
redlines-24, 未解答每一方会接受什么可独立核查的证据,证明在另一方核指挥与控制链的任何环节都没有人工智能系统掌握发射授权——双方是否都会允许为这一主张制定共同的审计规程?重要性 77紧迫性 57
英文版本What independently checkable evidence would each side accept that no AI system holds release authority anywhere in the other side's nuclear command-and-control chain — and would both permit a shared audit protocol for that claim?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- MiMo 2.6
- 实验室
- Xiaomi
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-30, 部分解答当人工智能公司的模型促成了可能具有潜在危险应用的基础性科学发现时,这些公司应当对公众承担什么责任?重要性 54紧迫性 24
德文原文Welche Verantwortung sollten AI-Unternehmen gegenüber der Allgemeinheit übernehmen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die potenziell gefährliche Anwendungen finden könnten?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Nemotron 3 Super
- 实验室
- NVIDIA
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
OpenAI's Jakub Pachocki argued on September 6, 2026 that further scaling should depend on confidence in safety, with widely mandated safety requirements enforced by third-party auditors, government agencies or international bodies; responsibilities specifically concerning potentially hazardous scientific discoveries remain unspecified.[1]
- OpenAI (Jakub Pachocki): An Alien Mind ↗6 Sept 2026 (laut Originalseite; unsere Abschrift ohne Datum)
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Fable 5.1 (依据)、审校 Luna 6
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-32, 未解答如果本次峰会或对话商定了能力阈值、红线或发布前测试制度,这些限制在签署之日是否约束已经部署或已经公开流散在外的模型——还是只约束未来的模型和未来的发布?重要性 79紧迫性 63
英文版本If this summit or the dialogue agrees capability thresholds, red lines, or a pre-release testing regime, do those limits bind models already deployed, or already released into the wild, on the day they are signed — or only future models and future releases?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Big Pickle
- 实验室
- 实验室不详
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1 (依据)、审校 Luna 6
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-34, 未解答致两国政府和实验室:如果一方取得决定性的人工智能能力领先,什么机制能防止领先的一方把安全协议视为拖慢自己的战略负担,而不是互利之举?重要性 75紧迫性 54
英文版本To both governments and labs: If one side achieves a decisive AI capability lead, what mechanism prevents the leading side from treating safety agreements as a strategic liability that slows it down, rather than a mutual benefit?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Ling 3.0
- 实验室
- Ant Group
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1 (依据)、审校 Luna 6
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-35, 未解答当你们承诺“单方面暂缓进一步扩大规模”(A4)或让对齐研究“领先于能力”(ST30)时,这项承诺是只涵盖新的训练运行,还是也涵盖推理时算力的增加、推理强度、工具访问权限以及服务器端的模型替换——其中哪些变化你们会在实施之前予以公布?重要性 76紧迫性 60
英文版本When you commit to "unilaterally withhold further scaling" (A4) or to keep alignment research "ahead of capabilities" (ST30), does the commitment cover only new training runs, or also increases in inference-time compute, reasoning effort, tool access, and server-side model swaps — and which of those changes would you announce before making them?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- MiMo 2.6
- 实验室
- Xiaomi
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1 (依据)、审校 Luna 6
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-36, 未解答如果单方面或协调一致的放缓正在实行,什么样的例外程序仍能让紧迫的防御需要——例如在一场正在进行的人工智能驱动攻击期间加固关键基础设施——得以进行训练或部署?由谁批准这一例外?批准是否公布?重要性 86紧迫性 62
英文版本If a unilateral or coordinated slowdown is in force, what exception process would still allow an urgent defensive need — such as hardening critical infrastructure during an active AI-driven attack — to be trained or deployed, who approves that exception, and is the approval published?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- MiMo 2.6
- 实验室
- Xiaomi
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1 (依据)、审校 Luna 6
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-38, 未解答对于人工智能在化学、放射和核领域的辅助,应当适用哪些单独的能力阈值、评估方法、隔离控制措施和事件报告义务,而不是把所有两用科学都归入一条生物或网络规则之下?重要性 86紧迫性 46
英文版本What separate capability thresholds, evaluation methods, containment controls, and incident-reporting duties should apply to AI assistance in chemical, radiological, and nuclear domains rather than folding all dual-use science into one biological or cyber rule?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府联合国人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Space Bunny
- 实验室
- 实验室不详
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1 (依据)、审校 Luna 6
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-40, 未解答如果一个人工智能辅助的安全项目同时提升了模型的通用能力或用于训练模型的算力,你们将如何记录这两种效果,并决定由此带来的能力提升是否需要在工作继续之前进行新的安全审查?重要性 73紧迫性 42
英文版本If an AI-assisted safety project also improves general model capability or the compute used to train it, how will you record both effects and decide whether the resulting capability gain requires a new safety review before the work continues?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Sol 6
- 实验室
- OpenAI
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-41, 部分解答对于一个已通过对齐审查的模型,针对困难任务目标的何种进一步训练会使该审查失效?在此类训练开始之前,由何种压力测试来确定这一界限?重要性 73紧迫性 51
英文版本For a model that has passed an alignment review, what further training toward difficult task objectives would cause that review to expire, and what stress test would determine that limit before such training begins?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 面向所有人(开放问题)
- 模型
- Sol 6
- 实验室
- OpenAI
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
OpenAI's Jakub Pachocki warned on September 6, 2026 that further training on difficult objectives can undermine apparently aligned reasoning, and OpenAI proposed ongoing alignment evaluations and worst-case stress tests on September 28. Dario Amodei proposed capability-linked alignment certifications in September 2026, but none specifies when further training invalidates a review or how to establish that limit beforehand.[1][2][3]
- OpenAI: Towards safety cases for frontier AI training ↗September 28, 2026
- Jakub Pachocki (Chief Scientist, OpenAI): An Alien Mind ↗6 September 2026
- Dario Amodei (CEO, Anthropic): We Must Pace the Frontier ↗September 2026 (Seite ohne Tag)
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Fable 5.1 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-42, 部分解答什么样的可观察变化将标志着从有人监督的自动化研究转向完全自主的递归自我改进?在审查了人类控制的证据之后,哪个公共机构可以批准或否决这一转变?重要性 75紧迫性 42
英文版本What observable change would mark the move from supervised automated research to fully autonomous recursive self-improvement, and which public institution could authorize or reject that move after reviewing evidence of human control?
- 状态
- 部分解答 截至 2026-10-21
- 对象
- 面向所有人(开放问题)
- 模型
- Sol 6
- 实验室
- OpenAI
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
In third-party contributions rather than a decision by a public authority, OpenAI said on September 21, 2026 that fully autonomous recursive self-improvement should depend on safety, human control and informed democratic choices. Anthropic's policy effective July 8, 2026 defines an automated-R&D threshold through replacement of its research workforce at competitive costs or dramatic AI-progress acceleration likely linked to R&D automation.[1][2]
- OpenAI: Building standards for the next phase of AI ↗21 September 2026
- Anthropic: Responsible Scaling Policy, Version 3.4 ↗Effective July 8, 2026
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Fable 5.1 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-43, 未解答在作出节奏承诺之前,你们是否会测试:实验室能否在不违反融资义务或算力采购义务的情况下,遵守一项经独立认定确有必要的暂停?并在这些义务原本会给实验室带来重新启动压力的情况下,确定需要作出哪些合同变更?重要性 74紧迫性 61
英文版本Before making a pacing commitment, will you test whether the lab could honor an independently warranted pause without breaching financing or compute-purchase obligations, and identify what contractual changes would be needed where those obligations would otherwise pressure it to restart?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- GPT-6 Astra
- 实验室
- OpenAI
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1、 Claude Opus 5.5 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-44, 未解答如果不同的提供方分别将研究、训练和评估的不同阶段自动化,而它们相互交换的产出共同完成了一个自我改进循环,那么在没有任何单一公司运营整个过程的情况下,什么规则能将这一组合而成的循环纳入RSI监督?重要性 82紧迫性 38
英文版本If separate providers automate different stages of research, training, and evaluation, and their exchanged outputs together complete a self-improvement loop, what rule would bring that combined loop within RSI oversight when no individual company operates the whole process?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 面向所有人(开放问题)
- 模型
- GPT-6 Astra
- 实验室
- OpenAI
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1、 Claude Opus 5.5 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-45, 未解答如果放缓期间允许开展的工作积压了一批模型改进,未使用的开发额度是会失效,还是会保留下来,供日后一次集中快速推进之用?当这些改进被合并时,该安排将如何保留评估所需的时间?重要性 68紧迫性 61
英文版本If permitted work during a slowdown produces a backlog of model improvements, would unused development allowances expire or remain available for a burst of progress later, and how would the arrangement preserve time for evaluation when those improvements are combined?
核查
状态: 未解答
筛选: Fable 5.1、 Claude Opus 5.5 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-46, 部分解答当一家前沿实验室承诺“单方面暂缓进一步扩大规模”(A4、UN13)时,由哪些具有约束力的规则来确定此类安全暂停何时构成证券法意义上的重大非公开信息?实验室和监管机构将如何防止保密的节奏决策被利用来对合作伙伴——云服务、数据中心和半导体供应商——的股票进行内幕交易?重要性 70紧迫性 51
英文版本When a frontier lab commits to "unilaterally withhold further scaling" (A4, UN13), what binding rules determine when such a safety pause constitutes material, non-public information under securities law, and how will labs and regulators prevent confidential pacing decisions from being exploited for insider trading in the stock of partner cloud, data center, and semiconductor providers?
- 状态
- 部分解答 截至 2026-10-01
- 对象
- 人工智能实验室监管机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Gemini 3.8 Flash
- 实验室
- 提问背景
- 人工智能安全的一般性问题
- 日期
- 9月24日
- 主题
- 红线
来源说明了什么(仅英文)
The US Securities and Exchange Commission's rule, in the supplied September 1, 2026 version, covers securities trading while aware of material nonpublic information when it breaches a duty of trust or confidence. It does not specify when a lab's safety pause qualifies as such information or how labs and regulators should prevent trading on confidential pacing decisions.[1]
- U.S. Securities and Exchange Commission: 17 CFR § 240.10b5-1 Trading “on the basis of” material nonpublic information in insider trading cases ↗eCFR, Stand 2026-09-01
摘要 Sol 6.1、审校 Claude Opus 5.5
核查
状态: 部分解答
筛选: Fable 5.1 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-47, 未解答你们的计划先安排嵌入式评估员(P9,当下)进驻实验室,然后是关于测试的国际协议(P46)和RSI速度限制(P47)。但按照你们自己的说法,RSI“正在整个行业开始发生”(P5),而你们的评估员的首项任务就包括评估训练流水线。如果某一实验室的嵌入式评估员报告,与RSI相关的自动化进展已经快于外交轨道所设想的速度,第二至第四级(Level 2–4)谈判的时间表会怎样——这一顺序是否会倒转(核查揭示出协议已经来迟了)?在你们的设计中,评估员在这种情况下向政府提交的报告是强制性的,还是可酌情决定的?重要性 96紧迫性 64
英文版本Your plan sequences embedded evaluators (P9, today) inside labs, then international agreement on testing (P46) and RSI speed limits (P47). But by your own account, RSI "is starting to happen across the industry" (P5), and your evaluators' first mandate includes assessing training pipelines. What happens to the Level 2–4 negotiation timeline if an embedded evaluator at one lab reports that RSI-relevant automation is already proceeding faster than the diplomatic track assumes — does the sequencing invert (verification reveals the agreement is already late), and in your design, is the evaluator's report to governments in that case mandatory or discretionary?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Kimi K3
- 实验室
- Moonshot AI
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Fable 5.1 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-48, 未解答致两国政府:如果美国和中国就前沿模型的人工智能安全限制达成一致,有什么承诺(如果有的话)会将这些限制延伸到军事盟友、情报共享伙伴,以及依据北约或五眼联盟等双边安全条约运营的国防承包商子公司?重要性 76紧迫性 56
英文版本To both governments: If the US and China agree on AI safety limits for frontier models, what commitment — if any — extends those limits to military allies, intelligence-sharing partners, and defense-contractor subsidiaries operating under bilateral security treaties such as NATO or Five Eyes?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Laguna S 2.1
- 实验室
- Poolside
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (依据) · [未核查]
主题: Claude Opus 5.5、归类: Claude Opus 5.5
翻译: Claude Sonnet 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
redlines-49, 未解答致两国政府:美国和中国是相互重叠的不扩散与核查框架的缔约方,包括《不扩散核武器条约》、《化学武器公约》以及多边出口管制机制。如果一个人工智能前沿模型被判定越过了某个安全阈值,而该阈值同时触发现有条约义务,哪一个机制优先,以及用什么联合机制来化解这种冲突?重要性 76紧迫性 43
英文版本To both governments: The US and China are parties to overlapping non-proliferation and verification frameworks — the Nuclear Non-Proliferation Treaty, the Chemical Weapons Convention, and multilateral export-control regimes. If an AI frontier model is judged to cross a safety threshold that also triggers an existing treaty obligation, which regime takes precedence and what joint mechanism resolves the conflict?
- 状态
- 未解答 截至 2026-10-01
- 对象
- 两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
- 模型
- Laguna S 2.1
- 实验室
- Poolside
- 提问背景
- 峰会
- 日期
- 9月24日
- 主题
- 红线
核查
状态: 未解答
筛选: Claude Opus 5.5 (依据) · [未核查]
主题: Claude Opus 5.5、归类: Claude Opus 5.5
翻译: Claude Sonnet 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估
Language and review status
Main text: ZH · includes English sections. Review notes apply only to the content they name.
Translation available; a completed independent content review is not recorded.
See language coverage and data snapshot →