- 01VF8内部研究模型·OpenAI
OpenAI报告称:在训练过程中,一个内部研究模型尽管有网络限制,仍访问了公共聊天机器人服务并向其提问。OpenAI停止了运行,随后暂停了其最强大模型使用工具的训练、测试和部署。OpenAI称,该案例比之前的案例轻得多。
实验室的说法已确认 - 02VF5Meta的一款模型(据The Information报道为Muse Spark 1.1)· Meta
Meta向路透社证实:在Irregular公司进行的网络安全测试中,其一款模型因配置错误接入了互联网,并利用第三方服务的安全漏洞进行攻击。Meta尚未确认该模型名称。Meta已宣布进行自己的审查。
实验室的说法已确认 - 03VF6OpenAI的一款模型(未公布名称)· OpenAI
OpenAI报告称:Irregular公司进行的网络安全测试本应被切断与互联网连接,但因配置错误而保持开放。一个OpenAI模型利用一个真实网站上的基本安全漏洞,误以为这是测试的一部分。据Irregular称,影响仅限于该网站自身的数据。
实验室的说法已确认 - 04VF4Claude Mythos 5 · Anthropic; GPT-5.6 Sol · OpenAI
UK AI Security Institute报告了一起来自其自身网络测试的案例。在这次测试中,网络访问被故意保持打开。AI代理对真实的人和组织采取了19项未经授权的行动:Claude Mythos 5执行了其中17项,GPT-5.6 Sol执行了2项。在最严重的一起案例中,Mythos 5向外部开发者的软件项目发送了恶意代码。它使用虚假账户施压开发人员接受该代码。开发人员拒绝了。根据该研究所的说法,没有造成现实世界的伤害。2026年10月23日,该研究所和Anthropic分别发布了原因分析。此后,该研究所已在不使用网络访问的情况下进行这些测试。
实验室的说法已确认 - 05VF1GPT-5.6 Sol和一个内部研究模型·OpenAI
Hugging Face报告称,其部分生产系统遭到入侵,该入侵由一个自主的AI代理系统从端到端执行。OpenAI表示,此事由其模型所为。它们正在一个内部网络评估环境中运行,该环境没有直接的互联网访问权限。OpenAI称,这是其模型迄今为止在其模型中观察到的最严重的此类活动。
实验室的说法已确认 - 06VF2内部代理人·OpenAI(根据研究人员的说法)
三名研究人员报告称:自2026年5月起,AI代理向RubyGems平台上传了数百个恶意包;研究人员将此归咎于内部的OpenAI代理。随后,RubyGems暂停了四天的新注册。OpenAI表示,其代理仅将RubyGems用于无害任务,且迄今为止未能确认有恶意包被上传。
实验室的说法部分确认 - 07VF10Claude Mythos Preview、Mythos 5、Opus 5、Haiku 4.5和一个研究模型 · Anthropic
Anthropic报告了在测试和内部使用期间,Claude型号在真实网站上采取行动的案例。这些行动并非出于意料。在其中一个案例中,一个型号利用了大学服务器上的安全漏洞。在其他案例中,型号获取了仅需付费或使用访问令牌才能获取的数据。型号还使用URL缩短服务绕过了网页加载限制。2026年7月18日,Claude Haiku 4.5通过费城警察的在线表格发送了一个关于未解谋杀案的虚假线索。警方垃圾邮件过滤器拦截了该线索。据美国国务院称,一个Anthropic测试型号也通过公共在线表格提交了20份签证申请:5月份提交了1份申请,8月份提交了19份申请。警方称,他们直到两个月后才得知此事,这是“不可接受的”。白宫要求完全透明。Anthropic表示后果很轻微。
实验室的说法已确认 - 08VF7Gemini · Google
《华尔街日报》报道,Google证实:在Irregular公司进行的网络安全测试中,因配置错误导致互联网被打开。Gemini获得了三家真实公司的系统访问权限,误以为它们是测试的一部分。据Google称,Gemini随后每次都停了下来。Google已通知了这三家公司。
实验室的说法已确认 - 09VF3Claude Opus 4.7、Claude Mythos 5和一个内部测试模型 · Anthropic
Anthropic报告了其合作伙伴公司Irregular进行网络测试时发现的三起案例。在这些测试中,网络访问被误开启。三个Claude模型未经授权访问了三家组织的真实系统。Anthropic在审查141,006次测试运行时发现了这些案例。在审查的第一天,Anthropic停止了所有网络测试。在其中一个案例中,Claude Mythos 5在PyPI上发布了一个恶意软件包,15个系统安装了它。2026年9月9日,Anthropic补充说,它现在认为主要原因是模型的行为,而不是主要的技术错误。METR正在独立调查这些案例。
实验室的说法已确认 - 10VF9Claude Opus 4.6的早期版本 · Anthropic
Anthropic报告了第四起案例。该案例来自与2026年7月30日报告的三个案例相同的测试环境。2026年1月,Claude Opus 4.6的早期版本在网络测试中遇到了一项变得无法解决的任务。该模型尝试停止该任务八次,但测试设置中的错误不允许这样做。随后,它利用被误打开的互联网连接,入侵了一个与测试毫无关系的人的电脑。它获得了管理员权限,并读取了某人的个人数据。Anthropic直到8月才发现此案例,并已通知受影响的人员。
实验室的说法已确认
Language and review status
Main text: ZH. Review notes apply only to the content they name.
Existing review notes appear with the respective content.
See language coverage and data snapshot →