
Not Diamond 今日推出 Not Diamond Code,这是一款专为长时程编码代理设计的智能模型路由工具。该工具可与 Claude Code 等任意代理 harness 及网关集成,在会话每一步自动选择最优模型与推理力度组合。企业早期访问数据显示,其在保持接近 Opus 4.8 Xhigh 质量水平的前提下,实现 20% 以上的成本节约。核心技术在于缓存感知的跨步骤奖励预测,以及仅依赖本地派生元数据的隐私保护架构。

基准测试中的帕累托最优表现
Not Diamond Code 在 Poly-SWE-bench(多语言仓库级 GitHub 问题基准)和 LongCodeQA(真实仓库长上下文代码理解基准)上完成评估,测试框架为 Claude Code,路由池包含 Haiku 4.5、Sonnet 4.6、Opus 4.8 及不同推理力度配置。
- 单一提供商内路由:相比固定模型配置,任务完成率接近 Opus 4.8 Xhigh,成本降低 39%–61%
- 混合开源闭源路由:加入 GLM 5.2 与 DeepSeek V4 Flash 后,性能提升 3.6%,成本节约幅度从 39% 扩大至 66%
结果表明,跨提供商、跨开源闭源的路由策略在性能与成本维度上均优于单一模型或单一提供商方案。对于已采用多模型架构的团队,这一增益可直接转化为预算空间;对于仍依赖单一供应商的团队,则提供了量化迁移收益的参照基准。
缓存感知路由与本地隐私架构
编码代理会话具有多轮次、状态依赖强的特点,单步最优选择不等于全局最优。Not Diamond Code 的路由决策基于以下输入变量:
- 当前及历史会话状态、消息序列与 token 数量
- 任务复杂度评估与隐式开发者反馈信号
- KV 缓存命中状态与切换成本预估
路由器对每个候选模型与推理力度组合建模其未来奖励与未来成本,优化目标为整个会话的累积结果而非单次请求。当缓存热度较高时,系统可能保留较贵模型以维持缓存经济性;当强模型能显著缩短后续轮次或上下文利用率较低时,则主动打破缓存切换模型。
隐私保护通过本地代理实现。该代理运行于开发者机器,仅提取匿名派生元数据发送至 Not Diamond 优化服务,原始代码、输入输出及代理载荷不出本地。返回的模型推荐由本地代理执行,请求仍经由用户自有网关发出。这一架构使 Not Diamond Code 成为目前唯一同时兼容任意 harness 与任意网关的智能路由方案,且满足企业级数据驻留要求。
企业部署特性与自适应机制
Not Diamond Code 针对企业环境设计了以下能力:
- SOC 2 合规与 ISO 27001 认证
- 细粒度成本与节约仪表板
- 管理员级访问控制与安全策略配置
- 基于隐式反馈信号的个性化路由自适应
早期访问计划中,相对于 Opus 4.8 基线,开发者体验指标提升 33%,成本节约超 20%。路由决策对终端用户完全透明,使用体验与未启用路由时一致。系统随使用时间推移持续学习个体工作负载特征与偏好,无需手动调参。
对于正在评估推理成本优化方案的工程团队,建议优先在代表性长时程任务上运行 A/B 测试,验证实际节约幅度是否与基准测试区间吻合。混合路由的收益高度依赖可用模型组合与任务类型分布,单一场景的测试结果不宜直接外推至全量工作负载。
相关导航


Gizmo

问卷式PRD撰写

基金经理 · 郑希观点库 Skill

12306-mcp

NiubiGEO

MCP-B






