Salesforce联合英伟达推出Koa推理模型:企业AI赛道,正在和通用大模型实验室走向分叉

早报1个月前发布 小马良
62 0

Salesforce在Dreamforce大会上公布重磅模型Koa,这也是Salesforce首款自研推理模型。该模型基于英伟达开源权重Nemotron大模型二次后训练打造,面向销售、营销、客户服务等企业场景深度优化。

  • 官方介绍:https://www.salesforce.com/agentforce/koa

Koa的亮相,也折射出一个关键趋势:企业端AI需求,正在和OpenAI、Anthropic这类前沿通用AI实验室的路线产生明显分歧。通用大模型厂商倾向企业把文档、业务提示词、业务反馈全部上传至他们的模型平台,为此收取高额服务费。而Salesforce Koa,则为企业客户提供另一条路线。

Salesforce联合英伟达推出Koa推理模型:企业AI赛道,正在和通用大模型实验室走向分叉

Koa能给企业客户带来这些核心价值:

  • 作为闭源顶尖模型的开放权重替代方案;
  • 专门针对销售、客服等业务任务优化,而非主攻复杂数学等通用基准测试;
  • 训练全程没有使用真实客户业务数据,规避数据泄露风险;
  • 完成同等业务任务消耗更少Token,降低AI使用成本;
  • 可经由AI网关,根据任务需求自动路由调度;
  • 原生适配Salesforce全套客户数据安全规范。

Koa会作为Salesforce Agentforce智能体平台的备选模型,企业可以基于Agentforce搭建智能代理,自动处理客服问答、预约安排等重复性业务工作。

Salesforce AI执行副总裁Jayesh Govindarajan介绍,此前Agentforce生态已经拥有不少小型任务专用模型,但复杂多步骤推理任务,一直依赖外部前沿模型,比如ChatGPT、Claude。当智能体遇到长链路、多步骤任务时,请求会经由AI网关转发给第三方大模型。

而迟迟没有自研企业级推理模型的核心阻碍,是缺少合适的底座预训练模型。在英伟达Nemotron出现之前,很难找到同时满足三点要求的底座:美国主权可控、性能顶尖、训练数据来源清晰。

在底座Nemotron基础上做后训练微调,Salesforce和英伟达全程没有使用任何真实客户数据,而是生成大量合成数据模拟业务场景:模拟愤怒客户致电客服、销售跟进洽谈等各类真实业务对话,完成模型微调,让模型精通营销与客户服务工作。

英伟达企业生成式AI软件副总裁Kari Ann Briski表示,Nemotron本身具备独特推理架构,拥有不错的Token使用效率。这套组合集齐企业AI最看重的三大要素:主权可控、首token响应速度、兼顾成本的Token经济性。

实测目标是:在Salesforce企业智能体的业务场景下,Koa表现优于Claude、ChatGPT,同时Token开销更低。

当然,Salesforce并没有彻底抛弃Anthropic这类通用大模型厂商。本次大会同步官宣和Anthropic合作推出Claudeforce方案,企业可选用Claude作为AI交互入口,业务数据保留在Salesforce系统内,由Salesforce基础设施做安全托管。

核心看点

  1. 场景优先,而非榜单优先

Koa不追求在通用数学、逻辑竞赛榜单刷分,全部优化围绕销售、客服这类企业高频任务,属于典型的业务专用推理模型。企业AI的评价标准,从“模型有多全能”变成“能不能低成本搞定本职工作”。

  1. 主权可控是企业选型关键

Salesforce高管提到了底座模型数据溯源、地域主权的考量,这也是很多大型企业、政企客户选择私有化/开放权重模型的重要原因,不想把业务数据交给外部闭源大模型服务商。

  1. 合成数据训练,规避数据隐私红线

不拿真实客户对话训练,依靠合成业务对话微调,从源头打消企业对于业务数据被模型吸收、泄露的顾虑,这是企业模型非常重要的设计思路。

  1. 混合模型策略:不是二选一,而是网关调度

Salesforce的方案不是完全替换Claude、ChatGPT,而是搭建AI网关:简单业务交给Koa这类低成本专用模型;超高难度复杂任务依旧可以路由到Anthropic等通用顶尖模型,按需调度。

局限

Koa的能力边界限定在销售、营销、客户服务这类企业业务场景,属于垂直推理模型,通用能力上限对比Claude、GPT系列会存在差距,不适合泛化的通用创作、复杂科研类任务。

© 版权声明

相关文章