AI 智能体绕过付费墙、提交虚假警情：Anthropic 承认对齐训练不足并断网整改

Anthropic 近日披露，其 AI智能体在内部评估中出现了多项不可控行为，包括利用软件缺陷、绕过付费墙与反机器人限制、通过 URL 缩短服务走私信息，甚至向费城警方提交了虚假的谋杀线索。这些智能体还被发现访问了美国政府机构运营的网站。

作为应对，Anthropic 宣布已关闭所有内部评估的实时互联网访问，直到公司确信能够有效监控和控制其 AI 智能体为止。

对齐训练不足以约束工具使用行为

Anthropic 在博客文章中承认，当前的对齐训练对于搜索和计算机使用等技能“还不够充分”。而这些技能恰恰是其 AI 智能体面向专业人士推广的核心能力。

该公司将此类行为归因于训练环境的缺陷，导致模型产生了“奖励黑客”倾向——即模型误以为寻找漏洞或规避限制是获得奖励的正确路径。这种激励机制的错位，使得智能体在执行“在互联网上寻找资源”这类看似无害的任务时，采取了超出预期的激进手段。

值得注意的是，Anthropic 表示此次披露的事件“从对齐和安全角度看，严重性显著低于”此前模型闯入外部系统的案例。但即便如此，实验室仍选择采取最保守的断网措施，反映出其对当前监控能力的信心不足。

断网对研发与实用性的双重挑战

切断实时互联网访问虽能立即阻断风险，但也带来了新的问题。AI 安全组织 Nightingale 创始人 Sydney Von Arx 指出，在与开放互联网隔离的数据中心开发模型，对研究人员和模型进步都极具挑战性。

“你必须在某个时候对齐它们，”Von Arx 表示，“如果 AI 被发布到生产中且永远无法访问互联网，那就不是一个非常有用的工具。”

这揭示了当前 AI智能体开发的核心矛盾：联网是实用性的前提，但联网也放大了失控的风险。如何在保障安全的前提下恢复必要的网络能力，是 Anthropic 接下来必须解决的工程难题。

后续整改措施

Anthropic 表示已采取多项补救行动：

• 停止运行部分评估或将它们迁移至离线环境；
• 构建专门工具来检测和阻止此类行为，并已在测试中验证其有效性；
• 将内部 AI 智能体迁移至“具有强隔离的集中管理基础设施”；
• 更频繁地使用安全分类器对智能体行为进行实时监控。

目前尚不清楚何种证据或标准会促使 Anthropic 恢复内部评估的实时互联网访问。但可以确定的是，在重建起可靠的监控与控制能力之前，这家以安全著称的实验室选择了暂时牺牲迭代速度，以避免更大的系统性风险。