音频视频原生输入!Cloudflare推出Clef-omni多模态决策模型,Clef家族同步降价提速

继上周发布Clef与Clef-flash开放权重决策模型后,Cloudflare进一步扩充Clef产品家族,正式推出Clef-omni,这是一款原生支持文本、图像、音频、视频四模态输入的决策模型。同时官方对原有两款模型进行优化:下调Clef-flash定价,托管版Clef依托底层基础设施优化实现推理提速。

  • 模型:https://huggingface.co/Cloudflare/clef-omni

Clef-omni:首款原生音视频输入的开放权重决策模型

此前主流决策模型如Jev、Drex 1.5大多局限于文本输入,Clef-omni打破这一边界,单个模型API可同时接收文本、图片、WAV/MP3音频、MP4/WebM视频,不再需要单独搭建语音转写、视频帧提取的串联管道,直接对多模态混合信息完成选项打分与决策判断。

音频视频原生输入!Cloudflare推出Clef-omni多模态决策模型,Clef家族同步降价提速

模型基座基于Qwen3-Omni-30B-A3B-Instruct MoE混合专家模型改造,保留多模态理解主干,移除TTS文本生成模块。推理时不再生成输出token,规避媒体转写带来的额外开销;视频、音频与图像帧做同步联合编码,统一映射至嵌入空间。采用两阶段注意力路由机制,从各类模态的输入证据中提取信息,再通过交叉注意力计算各个候选选项的置信分数,搭配内置词法语法保障选项语义稳定。训练方式延续Clef系列方案:冻结Qwen3骨干网络,训练LoRA低秩适配器,结合标签平滑交叉熵损失与Brier分数校准,保证在不同schema、字段顺序变化下依然稳定输出决策结果。

性能时延表现亮眼:纯文本决策中位数约130ms,图像输入约150ms;音频片段数百毫秒;即便是长达21秒带声音的完整视频,单次API调用评分仅需约1.5秒。权重已开源发布在HuggingFace,开发者文档附带完整curl调用示例,可直接传入base64编码的图片、音视频文件。

在多项公开基准与TypeSafe自建工作流测试中,Clef-omni综合性能和Clef、Clef-flash、Jev处于同一梯队,在BFCL、API-Bank、BANKING77、CLINC150+OOS等任务上有不错表现,部分场景略低于原版Clef,这是新增多模态能力带来的取舍。

Clef家族定价调整与上下文变化

本次更新重点调整Clef-flash价格,大幅降低开发者接入成本:

  • Clef-flash:原每百万输入token $0.09 → $0.038,价格已经低于Jev;托管版上下文窗口缩减至24k(HuggingFace开源权重不受限制,原生支持256k上下文)。Cloudflare解释,产品日志显示仅有0.24%请求超过24k token,因此牺牲部分长上下文能力换取更低定价。
  • Clef:维持每百万输入token $0.24,托管版保留64k上下文。
  • Clef-omni:全新上线,定价每百万输入token $0.15。

    所有Clef系列模型均无输出token计费,符合决策模型行业惯例。

Clef推理基础设施升级,原版Clef速度显著提升

本次Clef提速没有更新模型权重,优化全部落在服务侧基础设施。Cloudflare接入SGLang作为推理后端,并且向SGLang社区提交适配Clef的PR,将在SGLang 0.5.22版本正式合并。提速效果:

输入规模原中位数/p95(ms)优化后中位数/p95(ms)加速倍数
~800 token262 / 438152 / 3511.7倍
~3400 token616 / 777305 / 5312.0倍
~16000 token2721 / 32501635 / 18051.7倍

开发者既可以使用Cloudflare Workers AI托管API,也可以基于开源权重搭配新版SGLang自行部署。

Clef真实落地场景

Cloudflare内部已经把Clef投入多项业务,展示决策模型的实用价值:

  1. GitHub公共仓库:自动识别并关闭垃圾Issue;
  2. CMS系统EmDash:检测插件库中的钓鱼内容;
  3. 数据防泄漏团队:扫描文档识别身份证等个人敏感信息PII;
  4. 威胁情报团队:识别恶意域名。

在这套方案下,分类、风险检测能力下沉至模型层,不用专门组建机器学习团队训练领域分类器,开发者仅需要构造对应的选项schema,调用模型即可完成判断。

要点小结

  1. Clef-omni是行业内首批原生支持文本、图像、音频、视频四模态输入的开放权重决策模型,依托Qwen3-Omni MoE基座改造,无需多工具串联,单API完成多媒体决策。
  2. Clef-flash降价至$0.038/百万输入token,价格低于Jev;托管版压缩上下文至24k,自托管版本依旧支持256k。
  3. 原版Clef依托SGLang后端优化,推理速度最高提升2倍,权重不变。
  4. 模型定位依旧是决策打分而非文本生成,无输出token开销,适合智能体工作流里的分类、风险识别、多模态核验场景。
  5. 短板:新增音视频能力后,部分纯文本基准略逊于原版Clef;Clef-flash托管版长上下文能力受限,超长任务建议选用Clef。
© 版权声明

相关文章