OpenAI 全面开放 Decisions API,对标 TypeSafe Jev,毫秒级低延迟决策推理

早报4天前更新 小马良
25 0

OpenAI 正式向所有用户开放 Decisions API,正式入局高速决策模型赛道,直接对标TypeSafe的Jev模型。TypeSafe由OpenAI前研究员创立,依靠Jev决策模型,估值已达到76亿美元。

OpenAI 全面开放 Decisions API,对标 TypeSafe Jev,毫秒级低延迟决策推理

赛道背景:什么是决策模型(System One)

Jev开创了超级分类器这一类别:接收一组候选选项,快速输出选择结果,附带置信度。这类System One决策模型,可在大量业务流程中替代通用大模型,速度更快、成本更低,适合需要瞬时判断的场景。

OpenAI Decisions API 核心细节

OpenAI的方案并非从零训练专用决策模型,而是改造ChatGPT Luna,优化推理链路实现提速降本:

  • 延迟大幅压缩:原来1–3秒的任务,缩短至100~180毫秒;
  • 新增能力:公版追加视觉、语音多模态支持;
  • 优化部署:推理资源做地理就近调度,降低全球用户访问延迟;
  • 落地案例:
    • Speak 借助Decisions API,动作响应耗时从1.4秒降到0.13秒;
    • OpenAI内部用于提升Dots语音助手的响应速度;
    • 试点客户包含Box、Datadog、Ramp等企业。

OpenAI表示未来会专门训练原生决策模型;当前版本依靠Luna就可以完成任务,图像分类场景下Luna的输出校准表现优秀,后续还计划继续压缩延迟至60ms,探索视频逐帧调用这类新场景。

行业对比与基准现状

多家厂商同台竞争:Liquid D1 Ultra、Base Lab Elephant-1、TypeSafe Jev、OpenAI Decisions。

  • AIM System One Index、Artificial Analysis Decision Index这类公开基准:Liquid D1 Ultra表现突出,新版Jev保持较强竞争力,OpenAI决策模型排名相对靠后;
  • 趣味基准JevMan(吃豆人PacMan):最新Jev登顶。该基准考验模型持续、高压力、毫秒级连续决策;
  • 实际热度:TypeSafe Jev仍是OpenRouter上调用量最高的决策模型。

行业共识上,决策模型缺少统一、普适的评价标准,性能、成本、置信度校准随业务场景差异巨大,厂商更推荐用户在自身业务实测。TypeSafe也在持续迭代Jev,新增图像输入、智能if语句等功能。

© 版权声明

相关文章