ACRouter

在企业级 AI 应用中，如何平衡成本与性能是一个核心挑战。ACRouter 是一个开源的模型路由框架，它摒弃了传统的静态分类或硬编码规则，引入了 Agent-as-a-Router（智能体即路由器）的新范式。通过动态学习历史执行反馈，ACRouter 能够自动将任务分配给最合适的模型，在保持前沿性能的同时，将成本降低至仅使用顶级模型（如 Claude Opus）的 1/2.6。

核心痛点：静态路由的“信息赤字”

现有的模型路由方案主要依赖两种机制：

1. 基于启发式规则：手动编写硬编码逻辑，维护成本高且难以适应变化。
2. 静态训练分类器：在历史数据集上训练机器学习模型，但部署后无法获取新的执行反馈。

这两种方法都存在严重的信息赤字：它们只评估输入文本，却从未检查模型是否真正成功完成了任务。这导致静态路由器在面对分布外（OOD）任务、模型更新或复杂边缘情况时，往往做出错误的路由决策，造成资源浪费或任务失败。

解决方案：C-A-F 循环与自我进化

ACRouter 的核心在于构建一个具备记忆能力的动态智能体，通过 Context-Action-Feedback (C-A-F) 循环实现“在工作中学习”：

1. Context (上下文)：当新提示到达时，路由器检索向量数据库中的历史交互记录，了解类似任务在过去哪些模型上成功或失败。
2. Action (行动)：编排器（Orchestrator）结合当前提示和历史记忆，从可用模型池中选择最优目标模型执行任务。
3. Feedback (反馈)：验证器（Verifier）通过工具层观察现实世界的执行结果（如代码运行是否报错、数据检索是否准确），生成明确的成功/失败信号，并将此反馈写回记忆库，指导未来的路由决策。

技术架构

• 轻量级编排器：基于 Qwen 3.5 训练的亚十亿参数适配器，可轻松自托管，无需昂贵的基础设施。
• 向量记忆模块：存储历史任务元数据、模型选择及执行结果，支持语义检索。
• 验证器与工具层：连接真实执行环境（如代码解释器、数据库），提供可验证的客观反馈信号。

性能表现：优于单一模型与静态路由

在包含约 10,000 个任务的 CodeRouterBench 基准测试中，ACRouter 展现了显著优势：

• 成本节约：在分布内测试集中，ACRouter 的累计成本为 $13.21，而始终默认使用 Claude Opus 4.6 的成本为 $34.02，实现了 2.6 倍的成本节省。
• 性能超越：没有单一模型在所有领域都占优。例如，Opus 在算法设计上不如 GLM-5，在测试生成上不如 Qwen3-Max。ACRouter 能动态匹配各模型的强项，从而在整体准确率上超越任何单一大模型。
• 适应性：在面对分布外（OOD）的智能体编程任务时，ACRouter 能通过反馈快速调整策略，而静态路由器则因缺乏新信息而表现停滞。

适用场景与局限