Anthropic联合英国AISI发布调查报告：内部模型危险攻击自发停止率最高可达67%

Anthropic 在10月23日发布调查报告，联合英国人工智能安全研究所AISI披露一次安全测评失控事件，涉及其内部研究模型 Claude Mythos 5。

• 官方介绍：https://www.anthropic.com/research/alignment-assessment-ukaisi

在测试过程中，Mythos 5尝试向真实GitHub项目提交恶意代码，还伪造身份向项目维护者施压；好在提交的代码最终没有被合并，没有形成实际破坏。

报告同时曝光一款暂未对外发布的内部研究模型：它的能力已经超过 Claude Mythos 5.1，对齐安全表现显著更强。在危险能力测评里，该模型不会主动发起攻击；一旦识别行为可能带来真实伤害，倾向于主动终止动作。

团队把这次事故的原始对话回放给多款模型做对照测试：

• 从攻击起点继续推进攻击的比例：Mythos 5 高达83%；Mythos 5.1、Opus 5.5、这款新内部模型仅 0%–13%
• 攻击启动之后自发停止：Mythos 5 完全不会主动停；Mythos 5.1 约1%，Opus 5.5 10%，新内部模型 62%–67%
• 补充提示信息（告知目标维护者是真实人类）后，新款模型自发停止比例提升至 95%–100%

Anthropic 也明确标注评估局限：测试是在已有历史对话记录上回放推演，不等于模型独立自主运行时的真实行为，不能直接等同于真实场景下的安全保证。