OpenAI 披露 Performance Factory:Codex 驱动的性能优化系统,保障 ChatGPT 稳定提速

早报7小时前发布 小马良
2 0

OpenAI 对外介绍内部系统 Performance Factory,这是一套由 Codex 驱动、专门处理性能退化问题的自动化平台,用于排查 ChatGPT 的性能回归、输出修复方案,以此维持服务响应速度。

软件版本迭代时常出现性能下滑,传统排查流程需要工程师核对指标、链路追踪、定位代码、验证方案。随着编码智能体大量参与代码修改,人工性能审核已经成为研发流程里明显的瓶颈,Performance Factory 正是为解决这一痛点搭建。

上线三个多月,该系统累计完成 1700 余次调查,定位出 600 多起问题的根本原因,平均每天自动化开展 17 次调查。这套方案也展示了编码智能体的演进方向:从单次代码任务,升级为一套人机协同的自动化流水线,把人力释放给需要主观判断的关键决策。

OpenAI 披露 Performance Factory:Codex 驱动的性能优化系统,保障 ChatGPT 稳定提速

从人工调试到自动化流水线

性能团队早期依靠人工排查,出现卡顿后翻阅日志、追踪链路、比对代码变更,还自研了三十多款配套工具。Codex 接入之后,工程师可以直接向它询问服务变慢的原因,由智能体读取日志、调用工具给出结论,但整个过程依旧需要工程师引导。

团队封装了可复用的 Codex 能力 perf-forensics,固化性能排查流程。最初工程师只是把告警信息复制给 Codex,再把结果同步到 Slack;后续直接将告警信号对接云端 Codex 会话。
但早期流程的局限是,诊断完成之后仍然需要工程师接手审查和落地。随着性能回归工单持续增多,团队搭建回归跟踪系统,并衍生出基于任务的架构:每一条性能退化事件,都作为独立任务交给 Codex,自动走完定位根因、生成修复方案、验证效果等环节,也就是 Performance Factory。

系统架构与运行机制

Performance Factory 以任务为核心,任务自带状态与调查记录,不同智能体可以在不同阶段接力处理同一个问题。任务记录只保存关键指标、查询语句与高层结论,不灌入海量原始遥测数据,后续智能体可以按需重跑查询核验证据,控制上下文负载。

它包含四大核心组件:

  • 任务服务:存储任务进度,工程师通过配置文件定义工作流,用 Markdown 提示词约定每个阶段智能体的工作内容;
  • 调度循环:持续巡检任务,任务满足推进条件时唤起 Codex 会话、分配任务,智能体更新任务进度与结论;
  • 内部 Codex API:云端运行 Codex,具备访问代码仓库、可观测平台的权限,权限与操作全程可控可追溯;
  • 订阅机制:对接外部事件,例如智能体提交 PR 之后,任务暂停,等待工程师在 GitHub 给出反馈再继续。

当前落地的主流程为回归工作流:性能告警触发后新建任务,智能体调用 perf-forensics 开展排查,先确认受影响指标、退化起始时间与请求范围,再结合代码变更、日志、追踪信息定位根源。

为了规避智能体过早采信看似合理、证据不足的结论,系统增加对抗性审查环节:单独启动一组 Codex 会话,专门挑出原始诊断里的证据缺口、验证替代解释。目前大约 25% 的诊断会被审查打回重查。

诊断通过对抗审查后,Codex 生成修复方案并提交拉取请求,由工程师审核合并。在 600 多个定位到根因的案例中,约 400 个走到生成修复方案阶段;最终上线的修复里,约 50 条参考了智能体建议,15 条是 Codex 直接编写并提交的完整 PR。

简单、边界清晰的问题更适合 Codex 处理,例如重复序列化对话这类冗余逻辑;架构改动、新增功能带来的延迟上涨等复杂场景依旧难度较高,智能体可能给出过度复杂的方案,或是引入缓存脏数据等次生问题,因此修复方案同样要经过对抗审查。

修复部署完成后,会有智能体复核性能是否恢复,问题未解决则回退重新调查。系统还会对大量调查结果做聚合、评估影响、生成带指标图表的精简报告,降低工程师筛选信息的负担。

可供企业 AI 团队参考的经验

文档里总结了这套系统沉淀的通用实践,不只局限在性能工程场景:

  1. 避免 AI 疲劳,给审核人员精简、高价值信息,不要堆砌原始输出;
  2. 留存可复现的证据,同时控制上下文体积,方便多智能体接力协作;
  3. 单独评估智能体输出、人机交互链路,通过历史事件回测检验准确度;
  4. 对智能体自身做监控,自动识别工具调用失败、权限异常等阻碍,生成对应的优化任务。

后续规划

现阶段 Performance Factory 只响应预设告警,团队计划扩展为主动优化:让智能体对比不同版本 CPU、内存、请求追踪数据,发现告警之外的隐性减速,同时探索服务扩缩容配置优化等场景。远期方向包括让智能体自主部署部分低风险修复。

自动化排查工单之后,工程师得以从高频应急事件中抽身,投入长期性能优化;同时把单次排查沉淀的经验固化成工作流,在全团队复用,减少重复调试。(信息来源)

© 版权声明

相关文章