Anthropic 发布第三方模型安全评估更新，作为白宫超级智能协议承诺的一部分，公司已经向非营利AI评估组织 METR 的小型团队开放类似内部员工的访问权限，用于独立评估模型能力与安全机制，METR 后续将对外发布风险评估报告。
过去一年 Anthropic 已经和 METR 合作完成多轮风险报告审查，同时还在和 SecureBio、埃森哲开展评估合作，也与 Hugging Face 等机构进行早期洽谈。
引入独立评估者的底层逻辑
随着大模型能力持续增强，需要更严格的安全保障与风险评估。Anthropic 表示，部分安全相关信息属于商业敏感内容，或是有可能被恶意人员利用，无法全部对外公开。因此选择给第三方评估者深度访问权限，由评估者对外输出风险结论，缩小AI企业内部信息与外部评估方之间的信息差。
想要完成前沿模型评估，评估方需要具备四项条件：掌握模型能力评估专业知识，能够识别对齐伪装这类评估陷阱；保持独立性，不持有被评估企业股权，不存在财务依附；拥有充足访问权限，除模型本身外，还可以了解训练流程、安全防护机制；拥有自由发布评估结论的权利。
Anthropic 将这套模式类比银行驻场审查机制。银行内部掌握最完整风险信息，监管派驻人员进入银行内部开展审查，提前识别可能影响公众的风险。公司认为嵌入式第三方评估，是AI行业走向稳健安全监督的重要一步。
“类似员工访问权限”具体说明
本次共有六名 METR 团队人员入驻 Anthropic，提供专用硬件、办公空间，授予和Anthropic内部风险评估团队大体相当的内部工具与系统访问权限。
存在明确的信息豁免范围：客户数据、受律师-客户特权保护内容、模型架构相关信息不在开放范围内。除此之外，Anthropic内部员工可以像对齐风险方向同事一样，和METR团队共享信息。
METR 有权自主发布风险、事件、实践流程相关分析，Anthropic不能否决报告发布，仅在信息属于预先划定的受限类别时，可要求对内容做删减。METR 可以对外说明删减行为，并且阐述自身对于删减合理性的判断，但不能泄露被删的敏感信息。
本次合作仅限于METR内部这个小团队，METR其他员工、其他项目研究员与该工作组做信息隔离。该嵌入式评估方案仅用于少数专业人员近距离审查，不会作为其他组织获取客户、合作伙伴数据的渠道。
三级评估体系与其他合作方
Anthropic 设计了三档评估访问权限，长期目标是让多个评估团队达到第三层级，独立发布风险态势分析。
- 第一层级：评估者开展范围受限的风险调研，Anthropic决定信息开放范围，评估报告发布需要获得公司批准。SecureBio 当前处于这一层级，正在审查8月风险报告里化学生物武器相关章节。
- 第二层级：评估者可自主发布报告，获取更多内部信息；公司仍可要求删减特定敏感内容，评估方可以公开发表对删减行为的看法。
- 第三层级：也就是 METR 当前合作模式，拥有类员工访问权限，发布规则和第二层级一致。
除此之外，Anthropic 还在和埃森哲、Faculty搭建合作项目，包含模型红队测试、对齐评估、安全防护检验，同时帮助建设内部安全能力。Anthropic 认为，嵌入式第三方评估应当成为所有前沿AI企业的通用做法。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
