Anthropic、OpenAI 和 xAI 的负责人共同发出警示，呼吁协调放缓前沿人工智能模型的发展速度。他们重点提出两大风险：具备递归自我改进能力的AI，可能发展到人类难以理解的程度；同时已经出现自主代理集群针对RubyGems、Hugging Face等平台发起攻击的现实案例。
这套减速方案由Anthropic首席执行官Dario Amodei率先在个人网站发布提案。其中Anthropic率先单方面承诺，在公司内部引入拥有实体办公室访问权限的第三方安全评估人员，重大模型相关决策不再由企业独立完成。Sam Altman也同步确认，OpenAI在2027年前不会谋求上市，规避资本市场倒逼公司加速迭代AI模型的压力。
行业姿态转向防御性管控的时间点颇具讨论价值。当下AI已经展现出两面性：一方面能够实施黑客攻击，带来安全隐患；另一方面也可以攻克纳维-斯托克斯方程这类高难度科学问题。在这些实验室负责人看来，当前AI已经具备强大实用价值，但尚未发展到足以对人类造成毁灭性威胁的阶段。
这套方案有助于推进AI对齐、可解释性研究与安全运营规范建设，但也会和商业竞争产生冲突，存在美国在地缘AI竞争中落后的风险。文中举例，DeepSeek发布的V4.1-Flash模型能力，已经对标OpenAI两个月前推出的旗舰模型GPT-5.6 Sol。
Dario Amodei设计了三步实施框架：
- 第一，嵌入第三方评估员。前沿AI企业承诺向第三方评估人员开放类似内部员工的访问权限，核验安全规范落地情况、上报安全事件，评估模型、训练链路与对齐流程，Anthropic已经先行落地该举措。
- 第二，民主国家内部协同。民主阵营内的前沿AI企业共同制定统一安全标准，为AI迭代速度划定上限，该环节可能需要政府层面提供支持。
- 第三，全球协同治理。美国及其他民主国家尝试和包括中国在内的国家开展合作，同时解决合规验证难题，文中提到中国AI模型体量仅次于美国，领先其余国家。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
