阿里通义推出MAI-Gym:面向GUI智能体的一体化训练评测平台,一套框架同时支持手机/电脑/网页,最高支持2万并发环境

阿里巴巴通义团队推出 MAI-Gym,是面向GUI图形界面智能体的一体化开放平台,用于智能体评估、交互轨迹采集、在线强化学习训练,覆盖移动端、桌面电脑、网页浏览器三类GUI环境,框架源代码即将发布。依托该平台,团队训练出MAI-Gym-9B,一款9B参数、可同时操控手机与电脑的GUI智能体。

  • 项目主页:https://tongyi-mai.github.io/MAI-Gym/
  • GitHub:https://github.com/Tongyi-MAI/MAI-Gym
  • 模型:https://huggingface.co/Tongyi-MAI/MAI-Gym-9B

GUI智能体依靠屏幕截图理解界面,模拟点击、输入等操作操控软件。传统训练方案存在三大痛点:真实App无法反复重放、训练与评测两套执行代码造成结果虚高、难以同时支持多类设备大规模并发。MAI-Gym通过统一交互链路、可重置模拟App、大规模容器环境调度,解决这些问题。

阿里通义推出MAI-Gym:面向GUI智能体的一体化训练评测平台,一套框架同时支持手机/电脑/网页,最高支持2万并发环境

核心框架能力

  1. 统一执行链路,消除训练评测漂移
    评测、轨迹采集、强化学习复用同一套Agent harness、提示构造、动作解析、交互循环,保证训练与测试行为一致,避免跑分虚高。
  2. 跨平台统一环境管理
    EnvClient提供标准化接口,底层环境可部署在Kubernetes、Docker、物理真机,支持手机、电脑、网页实例,平台已验证最高20000个并发隔离环境。环境具备任务自动重置、会话租约、幂等操作、故障隔离,基础设施崩溃不会污染训练奖励信号。
  3. 高效多模态历史缓存
    窗口式历史机制复用KV缓存,仅保留近期截图;粘性路由把同一条交互轨迹固定在对应的推理引擎,降低长序列GUI交互的算力开销。
  4. 可验证任务与诊断系统
    任务附带代码验证器+VLM评委生成奖励;完整保存交互轨迹、截图、模型输出、动作、验证结果,配套可视化面板,方便定位失败原因。
  5. 可扩展环境与任务合成
    支持生成可重置模拟应用、连贯跨应用虚拟世界;提供4个扩展点:代理harness、任务、环境适配器、环境规范。项目附带49个模拟App、2000道经过校验的任务,包含复刻真实业务的模拟软件以及全新虚构界面。
  6. 原生在线强化学习
    轨迹缓冲区对接同步/异步训练后端,通过Slime支持GRPO、DAPO、GSPO、REINFORCE++、SAO、PPO等主流算法。

MAI-Gym-9B模型效果

基于Qwen3.5‑9B底座,采用手机+电脑任务联合强化学习训练。

  • MobileWorld(未见过的手机任务)成功率78.4%;OSWorld-Verified电脑任务成功率76.2%,在10B内开源GUI智能体中处于第一梯队。
  • 联合训练优于分开训练:分别训练手机、电脑专家模型再合并,效果不如同一套训练流程混合两类任务联合训练。
  • 迁移测试:仅在12306模拟复刻App训练,迁移到真实手机真机测试,任务成功率由28.8%提升至48.1%;但模拟环境的高分无法完全复现到真机,存在迁移落差。
  • 智能体习得复合策略:电脑端可适时调用命令行批量处理文件;手机端懂得放大截图阅读小字,主动精简操作步骤。

现存局限

  1. 定位为科研基础设施,并非普通用户直接使用的成品工具;模拟App仅用于训练,无法执行真实支付、交易。
  2. 模拟界面、业务逻辑和真实App存在差异,模拟环境学到的能力向真实设备迁移存在损耗。
  3. 两万并发集群需要大量GPU与容器算力资源,个人设备无法完整运行大规模训练。
  4. 超长复杂多步骤任务下,GUI智能体仍会出现操作失误。
© 版权声明

相关文章