OpenAI 准备扩大 Ultrafast API 开放范围,Playground 将上线三档速度选择,DevDay前后大规模可用

早报1个月前发布 小马良
71 0

OpenAI 正计划将 Ultrafast 高速API模式开放给更多开发者,该能力预计在9月29日DevDay大会前后大范围落地,并且会登陆OpenAI Playground。

OpenAI 准备扩大 Ultrafast API 开放范围,Playground 将上线三档速度选择,DevDay前后大规模可用

开发者TestingCatalog在平台与API文档中,发现了隐藏的速度选择器,Responses API Playground将提供三档推理模式:Standard标准、Fast快速、Ultrafast极速。

Ultrafast最早在GPT-5.6 Sol上预览,由Cerebras算力支持,最高输出速度可达每秒750 token,推理性能最高达到Standard模式的14倍。目前该模式还处于小范围定向客户内测阶段。

OpenAI 准备扩大 Ultrafast API 开放范围,Playground 将上线三档速度选择,DevDay前后大规模可用

随着GPT-6 Sol、GPT-6 Astra新系列模型发布,能否支持Ultrafast已经成为重点关注点。不过官方尚未确认,所有GPT-6系列模型上线时都会配套该极速档位。

开发者核心取舍:延迟与成本分级

Standard、Fast、Ultrafast三档,让开发者可以根据业务负载灵活选型。对延迟敏感、直接影响收入与生产力的场景,可以选用更高成本的极速推理;普通业务则使用标准档位控制开销。

背后基础设施规划

这项能力依托OpenAI与Cerebras的750MW大型算力合作项目,算力资源将在2028年前分阶段部署。同时平台还发现了新的入门层级,新增面向生产负载的Accelerate选项。
综合这些信息,本次DevDay的核心看点会聚焦在API底层基础设施、算力分级方案,以及面向生产级AI系统的开发者工具。

适用场景:实时语音、客服对话、电商交互、Agent开发、金融分析、安全应急响应等低延迟需求业务。

© 版权声明

相关文章