EnvHarness

2个月前发布 214 00

Google Cloud AI Research 联合圣路易斯华盛顿大学和北卡罗来纳大学教堂山分校的研究团队发布了 EnvHarness。这是一个开源的可编程层,解决 LLM 代理在静态环境中学习效率低下的问题。通过将冻结的基准测试环境包装在动态插件中,EnvHarness 能够根据代理的策略缺陷自动调整训练难度和场景,从而显著提升代理的...

所在地:
美国
收录时间:
2026-08-31
其他站点:
 EnvHarness EnvHarness

Google Cloud AI Research 联合圣路易斯华盛顿大学和北卡罗来纳大学教堂山分校的研究团队发布了 EnvHarness。这是一个开源的可编程层,解决 LLM 代理在静态环境中学习效率低下的问题。通过将冻结的基准测试环境包装在动态插件中,EnvHarness 能够根据代理的策略缺陷自动调整训练难度和场景,从而显著提升代理的泛化能力和执行效率。

 EnvHarness

核心理念:包装而非创作

传统的代理训练依赖于生成新的静态环境,但这往往面临领域特定流水线不可迁移、验证器可信度低等挑战。EnvHarness 反其道而行之:

  • 不触碰底层模拟器:保持原始任务逻辑和人工构建的验证器不变,确保评估的严谨性。
  • 标准化接口包装:通过标准的 reset() / step() 接口拦截并重塑状态、动作和观察,实现对环境的“软修改”。

三大核心组件

EnvHarness 提供了三个可自由组合的插件组件,用于重塑交互过程:

组件功能描述示例应用
Stage重放固定动作列表,改变情节起始状态将目标物品藏在关闭的抽屉中,迫使代理先执行搜索动作
Contract安装每步钩子,限制动作或重写观察阻止无效动作、截断冗余观察信息,强制代理更精准决策
Chain组合多个环境,共享步骤预算将两个相关任务串联,要求代理在有限步数内完成复合目标

EnvRigger:自动化的环境设计师

EnvRigger 是 EnvHarness 的大脑,它是一个基于 LLM 的设计器循环,负责为特定策略量身定制环境:

  1. 观察 (Observe):运行五次基线轨迹,收集代理行为数据。
  2. 诊断 (Diagnose):识别代理的系统性缺陷(如搜索能力弱、步骤冗余)。
  3. 编写 (Code):自动生成 Python 代码形式的包装器组件。
  4. 验证 (Verify):在新轨迹上测试包装器效果,拒绝过难或过易的候选者。

整个过程在隔离子进程中运行,确保一次错误的变异不会导致整个系统崩溃。

性能表现

在五个主流基准测试中,EnvHarness 均展现出显著优势:

  • ALFWorld:分布外(OOD)拆分得分提升 9.0 分(62.4 → 68.3)。
  • SWE-bench Verified:解决率从 49.88% 提升至 52.58%,平均执行步骤减少 9.8%(55.01 → 49.61)。
  • 对比生成式环境:在 SWE-bench 上以少 5.11 步的优势击败 SWE-smith,得分高出 2.46 分。
  • 强化学习效果:在 Qwen3-8B-base 上使用 GRPO 训练,重新塑造的环境在 ALFWorld 分布内指标上从 81.4 提升至 87.9。

部署与兼容性

  • 许可证:Apache-2.0。
  • 前置要求:环境必须是可重置的(排除实时用户账户和物理机器人)。
  • 接入方式:新基准只需实现 reset / step / observe / evaluate 等标准接口即可无缝接入,无需修改下游代码。
  • 成本考量:主要成本在于 EnvRigger 设计器循环中的 Token 消耗。

相关导航

Cua-S1

Cua-S1

cua-s1-forms 是一款轻量、对标 Jev(System One)的单遍选项评分模型,定位为 GUI 表单自动填写场景下的决策层,作为 cua-driver 的底层决策核心。它和常规自回归大语言模型存在本质差异:**不输出文本**。输入 UI 界面元素、带类型的候选选项集合(每条实体对应一个选项,额外包含勾选 / 点击 / 跳过动作),模型仅通过一次前向传播输出各个选项的概率,输入输出接口契约和 TypeSafe 的 Jev 保持一致。