AutoTTS

在大语言模型（LLM）的应用中，测试时扩展（Test-Time Scaling） 是提升模型性能的关键手段，但传统的策略设计严重依赖人工直觉，导致计算资源分配往往处于次优状态。Meta、谷歌及多所高校的研究人员共同推出了 AutoTTS，一个能够自动发现最优测试时扩展策略的框架。通过自动化搜索，AutoTTS 在不牺牲准确率的前提下，将 Token 消耗量降低了高达 69.5%，为大规模部署高级推理模型提供了极具吸引力的成本优化方案。

核心突破：自动化策略发现

1. 告别人工启发式规则

传统方法依靠工程师手动设定分支、剪枝和停止推理的规则，受限于人类直觉，难以探索广阔的策略空间。AutoTTS 将策略设计转化为算法搜索问题：

• 探索型 LLM 代理：自主迭代提出并优化“控制器”代码，定义模型如何分配计算预算。
• 离线重放环境：利用历史数据进行快速评估，代理通过分析执行轨迹诊断失败模式，并重写代码以改进准确性与成本的权衡。

2. AI 设计的非直观机制

AutoTTS 发现的控制器包含了一些人类难以直觉想到的复杂逻辑：

• 基于趋势的停止（Trend-Based Stopping）：不依赖易产生误导的瞬时置信度峰值，而是跟踪置信度的指数移动平均线，仅在整体置信度高且趋势未下降时停止推理。
• 耦合的宽度-深度控制：建立闭环反馈，将“拓宽新路径”与“加深当前路径”动态关联，而非独立决策。
• 对齐感知的深度分配：识别与领先答案一致的分支，集中计算资源进行“爆发式”验证，加速共识形成。

性能表现：显著降本增效

在 Qwen3（0.6B-8B）及蒸馏版 DeepSeek-R1（8B）模型上的实验显示：

• 峰值性能提升：在增加推理预算时，AutoTTS 在 8 个测试用例中的 5 个上将准确率推至新高。
• 泛化能力强：在 DeepSeek-R1 模型上，Token 花费减少近一半的同时实现了最高准确率。

落地优势：低成本与高灵活性

• 💰 极低定制成本：整个策略发现过程仅耗时 160 分钟，成本约 $39.90，使得企业能够针对特定任务低成本定制最优推理策略。
• 🔧 动态优化：无需手动调整阈值，系统可根据目标动态平衡准确性与计算成本。
• 📦 开源可用：AutoTTS 框架及发现的 Confidence Momentum Controller 已开源，方便开发者集成与应用。

对于希望在生产环境中平衡成本与性能的 AI 从业者而言，AutoTTS 提供了一套高效、灵活且经过验证的解决方案。立即探索 AutoTTS，让你的 LLM 推理更聪明、更经济！