OpenAI 正计划将 Ultrafast 高速API模式开放给更多开发者,该能力预计在9月29日DevDay大会前后大范围落地,并且会登陆OpenAI Playground。

开发者TestingCatalog在平台与API文档中,发现了隐藏的速度选择器,Responses API Playground将提供三档推理模式:Standard标准、Fast快速、Ultrafast极速。
Ultrafast最早在GPT-5.6 Sol上预览,由Cerebras算力支持,最高输出速度可达每秒750 token,推理性能最高达到Standard模式的14倍。目前该模式还处于小范围定向客户内测阶段。

随着GPT-6 Sol、GPT-6 Astra新系列模型发布,能否支持Ultrafast已经成为重点关注点。不过官方尚未确认,所有GPT-6系列模型上线时都会配套该极速档位。
开发者核心取舍:延迟与成本分级
Standard、Fast、Ultrafast三档,让开发者可以根据业务负载灵活选型。对延迟敏感、直接影响收入与生产力的场景,可以选用更高成本的极速推理;普通业务则使用标准档位控制开销。
背后基础设施规划
这项能力依托OpenAI与Cerebras的750MW大型算力合作项目,算力资源将在2028年前分阶段部署。同时平台还发现了新的入门层级,新增面向生产负载的Accelerate选项。
综合这些信息,本次DevDay的核心看点会聚焦在API底层基础设施、算力分级方案,以及面向生产级AI系统的开发者工具。
适用场景:实时语音、客服对话、电商交互、Agent开发、金融分析、安全应急响应等低延迟需求业务。
© 版权声明
文章版权归作者所有,未经允许请勿转载。















