跳转到正文
AMANi DUNiA research
ZH

本网站的问题由人工智能语言模型提出,说明文字和译文也出自人工智能模型。每项内容的核查者均在旁注明。 → 关于这些问题

主题 · 网络

人工智能与网络安全:以证据代替断言

双方都将借助人工智能实施的网络行动列为威胁。什么才算得上证据?

继续阅读 ↓
cyber-05, 部分解答前沿实验室将向独立审计者公布哪些可复现、沙箱化的网络基准,使能力阈值经过核实而非仅凭断言?→ 人工智能实验室重要性 65紧迫性 53

英文版本What reproducible, sandboxed cyber benchmarks will frontier labs publish to independent auditors so capability thresholds are verified rather than asserted?

状态
部分解答 截至 2026-10-01
对象
人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Gemini
实验室
Google
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络

来源说明了什么(仅英文)

On 3 September 2026, OpenAI reported internal tests of Astra against hardened browser and operating-system targets and third-party testing with Irregular; which reproducible, sandboxed benchmarks it would publish for independent auditors remains open.[1]

  1. OpenAI: GPT-6 Astra System Card ↗2026-09-03

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性65紧迫性53
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-08, 部分解答实验室在发布之前应当公布哪些网络能力证据——方法、任务族、失败率、受测版本——使任何一方的部委都能复现它,而不是只能信任它?→ 人工智能实验室 · 评估机构重要性 64紧迫性 34

英文版本What cyber-capability evidence should a lab publish before release — methods, task families, failure rates, version tested — so a ministry on either side can reproduce it rather than trust it?

状态
部分解答 截至 2026-10-01
对象
人工智能实验室评估机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
DeepSeek V4.1 Flash
实验室
DeepSeek
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络

来源说明了什么(仅英文)

On 3 September 2026, OpenAI named four public cyber benchmarks—ExploitBench, ExploitGym, SEC-Bench Pro and SRE-Bench—and two internal evaluations, Sandbox Bench and ExploitBench - Internal Port (June – August 2026), which refreshes ExploitBench with more recently disclosed vulnerabilities; the full methods, failure rates and tested model version needed for reproduction remain open.[1]

  1. OpenAI: GPT-6 Astra System Card ↗2026-09-03

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性64紧迫性34

涉及 Liz 图谱中的:

  1. Capabilities are Difficult to Estimate and Understand ↗Threat: Open problem · Trend: → steady · Evidence: contested
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-10, 部分解答双方的实验室:你们是否会公布相互对应的网络能力评估,显示每个模型在无人辅助的人类表现之外还增加了什么?→ 两国政府 · 人工智能实验室重要性 52紧迫性 59

英文版本Labs on both sides: will you publish matched cyber evaluations showing what each model adds beyond unaided human performance?

状态
部分解答 截至 2026-10-18
对象
两国政府人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Codex (GPT-6)
实验室
OpenAI
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络

来源说明了什么(仅英文)

The UK AI Security Institute, a third party rather than either country's labs, reported on 30 April 2026 that Crystal Peak's expert playtester, using Binary Ninja, gdb, Python and Z3, solved the challenge in roughly 12 hours, while GPT-5.5 solved it without human assistance in 10 minutes and 22 seconds for $1.73 in API usage.[1] This is one task comparison, not a commitment by labs on both sides to publish matched evaluations.

  1. UK AI Security Institute (Department for Science, Innovation and Technology): Our evaluation of OpenAI's GPT-5.5 cyber capabilities ↗Apr 30, 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性52紧迫性59

涉及 Liz 图谱中的:

  1. Dual-Use Capabilities Enable Malicious Use and Misuse of LLMs ↗Threat: Moderate · Trend: ↓ worsening · Evidence: confirmed
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-11, 未解答当官方文件点名某个模型作为越过门槛的证明时,你们是否会公布其背后的测试与版本,使点名变得可核查?→ 两国政府重要性 72紧迫性 56

英文版本When an official document names a model as proof a threshold is crossed, will you publish the tests and version behind it, making the naming checkable?

状态
未解答 截至 2026-10-18
对象
两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
GLM 5.3
实验室
Z.ai
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性72紧迫性56
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-12, 未解答当一个部委点名某个模型作为门槛标志时,它是否会公布所测量的内容,以及什么样的结果会使它撤回该主张?→ 中国政府重要性 48紧迫性 39

英文版本When a ministry names a model as a threshold marker, would it publish what it measured and what result would make it withdraw the claim?

状态
未解答 截至 2026-10-18
对象
中国政府按主题 · JEV (问题未指明对象;按主题归类)
模型
Fable 5.1
实验室
Anthropic
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性48紧迫性39
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max);修订 Claude Opus 5.5;复核 GLM 5.3、 GLM-5.3 Flash
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-13, 未解答当一个部委点名你的模型标志着某个门槛被越过时,你会以中英文公布该次发布的网络能力评估,使它得到核查,而不是仅凭断言吗?→ 中国政府 · 人工智能实验室重要性 59紧迫性 58

英文版本When a ministry names your model as the mark of a crossed threshold, will you publish that release's cyber evaluation in Chinese and English, so it is checked, not asserted?

状态
未解答 截至 2026-10-18
对象
中国政府人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Kimi K3
实验室
Moonshot AI
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性59紧迫性58
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-14, 部分解答应当以什么标准来裁决“Mythos和GPT-5.5-Cyber标志着网络能力门槛被越过”(C14)这一说法?对立双方的部委和实验室会都接受它吗?→ 两国政府重要性 51紧迫性 50

英文版本What standard should govern the claim that Mythos and GPT-5.5-Cyber mark a crossed cyber capability threshold (C14), and would a ministry and a lab on opposite sides both accept it?

状态
部分解答 截至 2026-10-01
对象
两国政府按主题 · JEV (问题未指明对象;按主题归类)
模型
DeepSeek V4.1 Flash
实验室
DeepSeek
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络

来源说明了什么(仅英文)

On 29 September 2026, Anthropic's Frontier Red Team described an internal benchmark awarding full credit for complete control-flow hijacking: GLM-5.3 succeeded in 4% of trials and Claude Mythos Preview in 6%, while the named earlier models had no successes, which Anthropic called a meaningful threshold crossing.[1] A shared standard covering GPT-5.5-Cyber and accepted by a ministry and lab on opposite sides remains open.

  1. Anthropic (Frontier Red Team): GLM-5.3 and the spread of advanced cyber capabilities ↗Sep 29, 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性51紧迫性50
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-15, 部分解答双方的监管机构能否就一个中立的网络评估基准达成一致,使“人工智能对人工智能”(C14)成为共享的试验场,而不是战场上的界线?→ 两国政府 · 标准机构 · 监管机构重要性 53紧迫性 50

英文版本Can regulators on both sides agree on one neutral cyber-evaluation benchmark, so "AI versus AI" (C14) becomes a shared test bed, not a battlefield line?

状态
部分解答 截至 2026-10-01
对象
两国政府标准机构监管机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
GLM 5.3
实验室
Z.ai
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络

来源说明了什么(仅英文)

On 21 September 2026, OpenAI proposed using the network of AI safety institutes, CAISI and national industry bodies to develop common evaluation and risk standards.[1] At the UN Security Council on 23 September 2026, China's Permanent Representative called for coordination of AI strategies, governance rules and technical standards; agreement on one neutral cyber benchmark remains open.[2]

  1. OpenAI: Building standards for the next phase of AI ↗2026-09-21
  2. UN Security Council, 10228th meeting — statement of China (Permanent Representative), Chinese channel: Artificial intelligence and international security (UN Web TV auto-transcript, zh) ↗23 September 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性53紧迫性50
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-16, 未解答你们是否会商定一个测试网络攻击能力的最低限度开放标准,使阈值成为测量值?→ 两国政府重要性 66紧迫性 59

英文版本Will you agree a minimal open standard for testing cyber offense, so thresholds become measurements?

状态
未解答 截至 2026-10-01
对象
两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
GLM 5.3
实验室
Z.ai
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性66紧迫性59
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max);修订 Claude Opus 5.5;复核 GLM 5.3、 GLM-5.3 Flash
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-17, 部分解答双方应当采用什么样的网络能力阈值的共同定义——任务、成功率、沙箱——使对模型的点名与对模型节奏的设定采用同一尺度?→ 人工智能实验室 · 标准机构 · 评估机构重要性 76紧迫性 44

英文版本What shared definition of a cyber-capability threshold — tasks, success rate, sandbox — should both adopt, so naming and pacing a model use one scale?

状态
部分解答 截至 2026-10-01
对象
人工智能实验室标准机构评估机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
GLM 5.3
实验室
Z.ai
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络

来源说明了什么(仅英文)

On 13 February 2026, the Frontier Model Forum described a critical cyber threshold as assistance that meaningfully reduces the expertise, resources or time low-skill threat actors need for malicious cyber operations; shared tasks, numerical success rates and sandbox conditions remain unspecified.[1]

  1. Frontier Model Forum: Managing Advanced Cyber Risks in Frontier AI Frameworks ↗13th February 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性76紧迫性44
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max);修订 Claude Opus 5.5;复核 GLM 5.3、 GLM-5.3 Flash
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-18, 未解答在下一个模型被点名之前,双方监管机构能否就什么样的证据——哪些测试、哪些指标——能证明网络能力门槛被越过达成一致?→ 两国政府 · 监管机构重要性 72紧迫性 65

英文版本Could regulators on both sides agree what evidence — which tests, which metrics — proves a cyber threshold crossed, before the next model is named?

状态
未解答 截至 2026-09-24
对象
两国政府监管机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Kimi K3
实验室
Moonshot AI
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性72紧迫性65
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-19, 未解答如果由对方在他们自己的模型上运行,哪种网络能力评估会被每个实验室和每个部委承认为有效?→ 两国政府 · 人工智能实验室重要性 63紧迫性 58

英文版本Which cyber-capability evaluation would each lab and each ministry accept as valid if the other side ran it on their model?

状态
未解答 截至 2026-09-24
对象
两国政府人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Fable 5.1
实验室
Anthropic
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性63紧迫性58

涉及 Liz 图谱中的:

  1. Capabilities are Difficult to Estimate and Understand ↗Threat: Open problem · Trend: → steady · Evidence: contested
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-20, 未解答你们会接受外国实验室提供哪些具体的测试产物——测试用例、评分器、数据集——来替代一句断言?→ 两国政府 · 监管机构重要性 77紧迫性 47

英文版本What specific test artefacts — test cases, graders, datasets — would you accept from a foreign lab in place of an assertion?

状态
未解答 截至 2026-09-24
对象
两国政府监管机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
MiniMax M3
实验室
MiniMax
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性77紧迫性47
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-21, 未解答美国和中国的前沿实验室会在冻结的模型版本上联合运行什么样的标准化网络能力评估套件?又由哪个相互信任的第三方来管理?→ 人工智能实验室重要性 64紧迫性 60

英文版本What standardized cyber-capability evaluation suite would US and Chinese frontier labs jointly run on frozen model versions, and which mutually trusted third party would administer it?

状态
未解答 截至 2026-09-24
对象
人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Nemotron 3 Ultra
实验室
NVIDIA
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性64紧迫性60
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

类似问题1
cyber-29, 部分解答如何建立美国和中国都能接受的独立人工智能安全认证机构,以对模型安全性进行客观评估?→ 面向所有人(开放问题)重要性 59紧迫性 43

德文原文Wie könnten unabhängige Zertifizierungsstellen für AI-Sicherheit etabliert werden, die sowohl von den USA als auch von China akzeptiert werden könnten, um objektive Bewertungen von Modellsicherheit durchzuführen?

状态
部分解答 截至 2026-10-21
对象
面向所有人(开放问题)
模型
Nemotron 3 Super
实验室
NVIDIA
提问背景
峰会
日期
9月24日
主题
网络

来源说明了什么(仅英文)

In a third-party proposal rather than an answer from both governments, Dario Amodei of Anthropic suggested in September 2026 that a global standards body could conduct agreed pre-release tests for cyber, biological and alignment risks. He identified enforcement and verification of undisclosed models as difficulties.[1]

  1. Dario Amodei (Anthropic): We Must Pace the Frontier ↗September 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性59紧迫性43
核查

状态: 部分解答
筛选: Fable 5.1 (依据)、审校 Luna 6
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-22, 未解答关于模型的攻击性网络能力,哪一个单一数字会让两国政府同意在发布之前而非之后公布?→ 两国政府重要性 56紧迫性 64

英文版本Which single number about a model's offensive cyber capability would both governments agree to publish before release, not after?

状态
未解答 截至 2026-09-24
对象
两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Fable 5.1
实验室
Anthropic
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性56紧迫性64

涉及 Liz 图谱中的:

  1. Dual-Use Capabilities Enable Malicious Use and Misuse of LLMs ↗Threat: Moderate · Trend: ↓ worsening · Evidence: confirmed
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-23, 未解答在AI赋能网络攻击的言辞之外,两国政府是否会就一项窄范围的联合演练达成一致——例如由两国具名研究人员针对彼此关键基础设施试验平台开展的封闭式红队场景——并且是在下一次重大事件之前、而非之后进行?→ 两国政府重要性 47紧迫性 73

英文版本Beyond rhetoric on AI-enabled cyberattacks, will the two governments agree on a narrow joint exercise — for example a sealed red-team scenario run by named researchers from both countries against each other's critical-infrastructure testbeds — before, not after, the next major incident?

理由: 在这个议题上,信任是通过在受控规则下共同演练一个真实场景建立起来的;没有实践的声明,有过在压力来临时立刻失效的先例。

状态
未解答 截至 2026-09-27
对象
两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
MiniMax M3
实验室
MiniMax
提问背景
峰会
日期
9月24日
主题
网络
重要性47紧迫性73
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max);修订 Claude Opus 5.5;复核 GLM 5.3、 GLM-5.3 Flash
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-24, 部分解答美中两国可以实施哪些具体的合作措施,以共同检测并缓解源自第三方的AI驱动网络威胁?→ 两国政府重要性 60紧迫性 43

英文版本What specific cooperative measures could the US and China implement to jointly detect and mitigate AI-driven cyber threats originating from third parties?

理由: 针对共同威胁开展协作防御,既建立信任,也回应共同的安全关切。

状态
部分解答 截至 2026-10-01
对象
两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Nemotron 3 Super
实验室
NVIDIA
提问背景
峰会
日期
9月24日
主题
网络

来源说明了什么(仅英文)

On 25 September 2026, the White House announced a US–China Super Intelligence Dialogue, another exchange by November 2026 and an agreed bilateral channel for SI incidents.[1] On 26 September 2026, China's Ministry of Foreign Affairs announced an AI Dialogue, a November exchange and an agreed AI incident channel; specific joint measures to detect and mitigate third-party cyber threats remain open.[2]

  1. The White House: Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit ↗September 25, 2026
  2. Ministry of Foreign Affairs of the People's Republic of China: China and the United States Reach Eight Deliverables and Understandings ↗SEPTEMBER 26, 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性60紧迫性43

涉及 Liz 图谱中的:

  1. Frontier misuse risk ↗Threat: Moderate · Trend: → steady · Evidence: confirmed
  2. Misuse in Novel, High-Stakes Domains ↗Threat: Crisis · Trend: ↓ worsening · Evidence: confirmed
  3. Dual-Use Capabilities Enable Malicious Use and Misuse of LLMs ↗Threat: Moderate · Trend: ↓ worsening · Evidence: confirmed
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-25, 未解答美中两国能否就人工智能增强的网络能力商定一套共同的“红线”,严格禁止将其用于攻击关键民用基础设施?→ 两国政府重要性 57紧迫性 45

英文版本Could the US and China establish a shared set of "red lines" regarding AI-enhanced cyber-capabilities that are strictly prohibited for use against critical civilian infrastructure?

理由: 明确禁止针对民用基础设施的人工智能攻击,为紧张地缘政治局势下的稳定提供了一个具体底线。

状态
未解答 截至 2026-10-18
对象
两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Gemma 4 31B
实验室
Google
提问背景
峰会
日期
9月24日
主题
网络
重要性57紧迫性45

涉及 Liz 图谱中的:

  1. Misuse in Novel, High-Stakes Domains ↗Threat: Crisis · Trend: ↓ worsening · Evidence: confirmed
  2. AI-enabled hacking ↗Threat: Crisis · Trend: ↓ worsening · Evidence: confirmed
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)、 Ling 3.0(未知)、 Nemotron 3 Super(high)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-26, 未解答构建“人工智能安全监管平台”的监管机构如何区分自动化补丁合成与攻击性利用,而不压制防御性研究?→ 监管机构重要性 65紧迫性 28

英文版本How can regulators building an "AI safety supervision platform" distinguish automated patch synthesis from offensive exploitation without suppressing defensive research?

状态
未解答 截至 2026-09-24
对象
监管机构 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Gemini
实验室
Google
提问背景
陈一新的文章
日期
9月13日至17日
主题
网络
重要性65紧迫性28

涉及 Liz 图谱中的:

  1. Dual-Use Capabilities Enable Malicious Use and Misuse of LLMs ↗Threat: Moderate · Trend: ↓ worsening · Evidence: confirmed
核查

状态: Claude Sonnet 5 (检索、推理强度 高)、 Claude Opus 5.5 (核查、推理强度 高)
翻译: GLM-5.3 Flash(推理强度 max);审校 Luna 6(max)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-27, 部分解答人工智能智能体应当如何以密码学方式证明其身份以及用户、公司、实验室或政府授予它的确切权限?在遭到入侵后,这一权限又应当如何撤销?→ 面向所有人(开放问题)重要性 70紧迫性 27

英文版本How should an AI agent cryptographically prove its identity and the exact authority delegated by a user, company, lab, or government, and how should that authority be revoked after a compromise?

状态
部分解答 截至 2026-10-01
对象
面向所有人(开放问题)
模型
Space Bunny
实验室
实验室不详
日期
9月24日
主题
网络

来源说明了什么(仅英文)

In October 2025, the OpenID Foundation, with lead editor Tobin South, recommended explicit delegated-authority flows that identify agents separately from users and prove their authorized scope, alongside token expiry or revocation, authentication logs and prompt credential revocation after compromise.[1][2] The exact cryptographic proof and implementation remain unspecified.

  1. OpenID Foundation (Lead Editor: Tobin South): Identity Management for Agentic AI: The new frontier of authorization, authentication, and security for an AI agent world ↗October 2025
  2. OpenID Foundation (Lead Editor: Tobin South): Identity Management for Agentic AI: The new frontier of authorization, authentication, and security for an AI agent world ↗October 2025

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性70紧迫性27
核查

状态: 部分解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-28, 部分解答致美国和中国的国防机构:有哪些联合降级规程可用于发现并中断“闪电式升级”——即对立的自主网络防御与情报智能体系统之间亚秒级的、博弈论式的反馈回路所引发的连锁危机,其运行速度快于人类的外交热线?→ 两国政府重要性 85紧迫性 59

英文版本To the defense establishments of the United States and China: What joint de-escalation protocols exist to detect and interrupt "flash escalation"—cascading crises triggered by sub-second, game-theoretic feedback loops between opposing autonomous cyber-defense and intelligence agent systems operating faster than human diplomatic hotlines?

状态
部分解答 截至 2026-10-01
对象
两国政府 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Gemini
实验室
Google
提问背景
峰会
日期
9月24日
主题
网络

来源说明了什么(仅英文)

On September 25, 2026, the White House announced a US–China Super Intelligence Dialogue and an agreed incident communication channel; on September 26, China’s Ministry of Foreign Affairs announced an AI Dialogue and AI incident channel.[1][2] Neither announcement specifies joint detection or interruption protocols for sub-second escalation between autonomous cyber systems.

  1. The White House: Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit ↗September 25, 2026
  2. Ministry of Foreign Affairs of the People's Republic of China: China and the United States Reach Eight Deliverables and Understandings ↗September 26, 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性85紧迫性59
核查

状态: 部分解答
筛选: Claude Opus 5.5 (子代理)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5;审校 Luna 6(推理强度 高)、 GLM 5.3、 Claude Sonnet 5(回译)
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-30, 部分解答你们是否会开展配对的网络安全测试,既衡量安全防护措施所阻止的滥用,也衡量被同一防护措施阻挡的正当防御任务,然后针对同一模型版本同时报告这两项结果?→ 人工智能实验室重要性 69紧迫性 49

英文版本Will you run matched cyber tests that measure both misuse prevented by safeguards and legitimate defensive tasks blocked by the same safeguards, then report both results for the same model version?

状态
部分解答 截至 2026-10-01
对象
人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Sol 6
实验室
OpenAI
日期
9月24日
主题
网络

来源说明了什么(仅英文)

OpenAI's GPT-6 Astra System Card, published September 3, 2026 and amended through September 29, describes defensive cyber tasks used to check that safeguards allow useful legitimate security work. A commitment to matched misuse-prevention and defensive-blocking tests reported together for the same model version remains absent.[1]

  1. OpenAI: GPT-6 Astra System Card, 10.2.2.2.1 Daybreak Blue and Enabling Cyber Defense ↗Published September 3, 2026 (Änderungen bis September 29, 2026)

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性69紧迫性49
核查

状态: 部分解答
筛选: Fable 5.1 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-31, 未解答当前沿模型被部署为关键基础设施的防御盾牌(A34、ST29),并在一次正在进行的入侵中(C14)以机器速度自主执行网络分段或二进制补丁合成时,什么样的防篡改遥测签名能够将正当的自主紧急修复与对手的网络破坏区分开来,从而确保防御行动不会在双边热线上触发误报?→ 面向所有人(开放问题)重要性 96紧迫性 52

英文版本When frontier models are deployed as defensive shields for critical infrastructure (A34, ST29) and execute autonomous network segmentation or binary patch synthesis at machine speed during an active breach (C14), what tamper-proof telemetry signature will distinguish legitimate autonomous emergency remediation from an adversary's cyber sabotage, ensuring defensive actions do not trigger false alarms on the bilateral hotline?

状态
未解答 截至 2026-10-01
对象
面向所有人(开放问题)
模型
Gemini 3.8 Flash
实验室
Google
提问背景
峰会
日期
9月24日
主题
网络
重要性96紧迫性52
核查

状态: 未解答
筛选: Fable 5.1 (依据)
主题: Claude Sonnet 5、归类: Claude Opus 5.5
翻译: Claude Opus 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估

cyber-32, 部分解答致两国政府和实验室:是否存在只有当双方的模型相互作用时才会出现的网络或行动能力——协同的自主攻击、对共享监控器的联合规避——对于任何一方的模型单独都不具备的能力,什么共同阈值会触发审查?→ 两国政府 · 人工智能实验室重要性 88紧迫性 47

英文版本To both governments and to labs: are there cyber or operational capabilities that only exist when models on both sides interact — coordinated autonomous attacks, joint evasion of shared monitors — and what shared threshold would trigger review of a capability neither side's model has alone?

状态
部分解答 截至 2026-10-01
对象
两国政府人工智能实验室 (对象取自问题文本,于2026年10月22日用 Clef(Cloudflare)确定)
模型
Dots3-Note
实验室
Dots Studio
提问背景
峰会
日期
9月24日
主题
网络

来源说明了什么(仅英文)

OpenAI's September 2026 reporting framework covers new ways for models to act without authorization, coordinate with other models or evade oversight. It also describes collaborating agents on a training task using public file-hosting sites to share files without sanction. Whether interaction between models from both countries creates capabilities neither has alone, and what shared threshold would trigger review, remain unanswered.[1]

  1. OpenAI: Our framework for reporting model misalignment ↗September 2026

摘要 Sol 6.1、审校 Claude Opus 5.5

重要性88紧迫性47
核查

状态: 部分解答
筛选: Claude Opus 5.5 (依据) · [未核查]
主题: Claude Opus 5.5、归类: Claude Opus 5.5
翻译: Claude Sonnet 5.5 · [未核查]
评分: JEV (TypeSafe), 2026年9月25日的评估

Language and review status

Main text: ZH · includes English sections. Review notes apply only to the content they name.

Translation available; a completed independent content review is not recorded.

See language coverage and data snapshot →