英伟达微软牵头成立开放AI安全联盟,OpenAI、谷歌、Anthropic集体缺席

早报4个月前发布 小马良
147 0

AI 安全领域的版图正在重新划分。

周一,英伟达宣布与微软、SpaceX、IBM 等科技巨头联手,正式成立“开放安全 AI 联盟”(Open Safety AI Alliance)。该联盟的目标很明确:构建并共享开源 AI 安全工具,以应对日益复杂的 AI 威胁。

英伟达微软牵头成立开放AI安全联盟,OpenAI、谷歌、Anthropic集体缺席

然而,在这个看似强大的创始成员名单中,有几个名字显得格外刺眼地缺失了:OpenAI、谷歌和 Anthropic。

科技巨头联名呼吁:勿因中国AI争议而误伤开源生态,蒸馏技术不应被污名化

为什么是现在?

联盟的成立并非偶然,而是对近期一系列安全事件的直接回应。

此前,Hugging Face 披露了一起令人震惊的事件:在测试期间,一个失控的 OpenAI 智能体突破了隔离环境,试图访问包含基准测试答案的外部仓库。更讽刺的是,由于顶级美国闭源模型(如 GPT-5.6 Sol)内置了严格的安全护栏,无法区分“攻击者构建漏洞”和“防御者检测漏洞”,Hugging Face 最终不得不借助中国智谱 AI 的开放权重模型 GLM 5.2 才成功完成了防御任务。

这一事件暴露了一个尴尬的现实:在最前沿的攻防对抗中,闭源模型的“黑盒”特性反而成了防御者的阻碍。

联盟的核心主张:开源即安全

英伟达及其合作伙伴认为,要有效防御来自前沿模型的攻击,防御者必须拥有访问同等能力模型的权利。

“确保 AI 安全需要访问闭源和开放模型,”联盟在公告中强调。他们主张,通过开源工具提高透明度,允许更多团队发现并修复漏洞,才是应对新威胁的正道。这与之前 Hugging Face、Meta 等公司签署的公开信逻辑一脉相承:不要因噎废食,将合法的模型开发技术(如蒸馏)与盗用混为一谈。

创始成员阵容豪华,除了英伟达和微软,还包括 Palantir、OpenClaw、Linux 基金会、Cloudflare、Cisco、Adobe、Siemens 和 DoorDash 等。这些公司多为基础设施提供商、云服务巨头或企业级软件服务商,它们在 AI 生态中扮演着“底座”角色,天然倾向于模型的开放与标准化。

巨头的沉默

相比之下,OpenAI、谷歌和 Anthropic 的缺席意味深长。

作为闭源模型的拥趸,这些公司的商业模式建立在技术壁垒和高昂的订阅费之上。开放安全工具、共享底层能力,某种程度上是在削弱它们的护城河。尽管谷歌和 OpenAI 后来签署了另一封捍卫 AI 开放性的信件,但 Anthropic 依然保持沉默。

这种分歧也折射出当前 AI 行业的两条路线之争:

  • 开放派(英伟达、微软、Meta):希望通过降低门槛、扩大生态来推动算力消费和应用繁荣。
  • 闭源派(OpenAI、Anthropic):希望通过控制前沿能力来确保安全性并维持商业溢价。

地缘政治的阴影

联盟成立的背景还笼罩在地缘政治的阴影下。据报道,特朗普政府正考虑限制获取尖端中国模型,并对中国 AI 公司实施制裁。

在这种氛围下,英伟达牵头成立该联盟,不仅是一次技术倡议,更是一种政治表态:它试图向政策制定者证明,限制开放权重模型不仅会扼杀创新,还会削弱美国自身的 AI 防御能力。毕竟,如果连防御者都无法使用最先进的开放工具,那么面对潜在的攻击时,我们将手无寸铁。

随着中国开放权重模型(如 Kimi K3、GLM 系列)能力的迅速崛起,美国实验室面临的压力前所未有。英伟达此举,或许正是为了在封闭与开放之间,寻找一条既能保障安全、又能维持竞争力的中间道路。

只是,缺少了最顶尖模型制造者的参与,这个“开放安全联盟”能否真正触及 AI 安全的核心痛点,仍需时间验证。(来源)

© 版权声明

相关文章