信任危机!英伟达、Palantir 等巨头因隐私担忧限制高级 AI 模型使用

早报1个月前发布 小马良
71 0

随着企业级 AI 应用的深入,一场关于数据主权和知识产权(IP)保护的信任危机正在科技巨头之间蔓延。据《The Information》报道,包括 英伟达、Palantir、Northrop Grumman 和 诺和诺德(Novo Nordisk) 在内的多家大型公司,正出于对专有数据可能被用于训练模型的担忧,开始严格限制员工使用 Anthropic 的 Claude 和 OpenAI 的 GPT 等高级商业模型。

这种被称为“偏执”的情绪并非空穴来风,而是源于 AI 提供商在数据保留政策上的模糊地带以及近期政策的变动。

核心争议:数据保留与“思维链”黑箱

1. Anthropic 的政策转向

争议的导火索之一是 Anthropic 在 6 月对其旗舰模型 Fable(注:此处指代其最新前沿模型系列)政策的调整。Anthropic 现在允许保留部分客户数据,辩称这是为了防止模型滥用。尽管该公司承诺拥有特定企业合同的客户数据不会用于训练,但这种“默认保留”的姿态引发了广泛焦虑。

2. 元数据与“思维链”的不透明

即使主要文本数据不被用于训练,AI 公司仍会收集大量的技术使用元数据。

  • C Spire 的担忧:电信公司 C Spire 指出,OpenAI 和 Anthropic 收集的元数据可能包含模型连接了哪些应用、生成了什么响应中间状态(即“思维链” Chain-of-Thought)等敏感信息。
  • 缺乏清晰度:虽然 OpenAI 声称不使用“思维链”数据进行训练,但企业客户认为两家巨头在“究竟收集了什么”这一问题上缺乏足够的透明度。

企业的应对策略:从限制到隔离

面对信任赤字,大型企业采取了不同程度的防御措施:

公司应对策略原因/细节
英伟达 (NVIDIA)内部替代CEO 黄仁勋鼓励员工大量使用 AI,但对于敏感任务,英伟达拒绝使用缺乏**零数据保留(ZDR)**保证的外部模型,转而使用内部开发的 AI 解决方案。
Northrop Grumman气隙服务器 (Air-Gapped)这家航空航天巨头完全不信任云端 API,选择在完全隔离的物理服务器上运行开源 AI 模型,确保数据绝不出境。
诺和诺德 (Novo Nordisk)严格禁令允许使用 Claude 处理非敏感任务,但严禁将任何专有数据输入模型。
某美国公用事业公司终止合作原计划测试 Fable模型以管理核心电力基础设施,但因 Anthropic 拒绝签署不可撤销的零数据保留协议而取消计划。
微软 (Microsoft)提供私有云方案趁机推广其隔离云环境,在私有服务器上运行 AI 模型,不向外部发送数据,但高昂的成本让部分客户犹豫。

行业影响:信任是 AI 商业化的货币

这一趋势揭示了一个关键事实:对于企业级 AI 而言,性能不再是唯一的决定因素,信任和安全同样至关重要。

  1. 零数据保留(ZDR)成为标配需求:大型客户不再满足于“默认不训练”的承诺,他们要求具有法律约束力的、不可撤销的 ZDR 政策。
  2. 混合部署模式兴起:未来,企业可能会采用“混合云”策略——非敏感任务使用云端高性能模型,核心业务和敏感数据则在本地或气隙环境中运行开源或私有模型。
  3. 开源模型的复兴:由于对闭源巨头的不信任,像 Llama、Qwen 等高质量开源模型在企业内部的部署率可能会进一步上升,因为它们提供了完全的数据控制权。
© 版权声明

相关文章