阿里巴巴通义团队推出 MAI-Gym,是面向GUI图形界面智能体的一体化开放平台,用于智能体评估、交互轨迹采集、在线强化学习训练,覆盖移动端、桌面电脑、网页浏览器三类GUI环境,框架源代码即将发布。依托该平台,团队训练出MAI-Gym-9B,一款9B参数、可同时操控手机与电脑的GUI智能体。
- 项目主页:https://tongyi-mai.github.io/MAI-Gym/
- GitHub:https://github.com/Tongyi-MAI/MAI-Gym
- 模型:https://huggingface.co/Tongyi-MAI/MAI-Gym-9B
GUI智能体依靠屏幕截图理解界面,模拟点击、输入等操作操控软件。传统训练方案存在三大痛点:真实App无法反复重放、训练与评测两套执行代码造成结果虚高、难以同时支持多类设备大规模并发。MAI-Gym通过统一交互链路、可重置模拟App、大规模容器环境调度,解决这些问题。

核心框架能力
- 统一执行链路,消除训练评测漂移
评测、轨迹采集、强化学习复用同一套Agent harness、提示构造、动作解析、交互循环,保证训练与测试行为一致,避免跑分虚高。 - 跨平台统一环境管理
EnvClient提供标准化接口,底层环境可部署在Kubernetes、Docker、物理真机,支持手机、电脑、网页实例,平台已验证最高20000个并发隔离环境。环境具备任务自动重置、会话租约、幂等操作、故障隔离,基础设施崩溃不会污染训练奖励信号。 - 高效多模态历史缓存
窗口式历史机制复用KV缓存,仅保留近期截图;粘性路由把同一条交互轨迹固定在对应的推理引擎,降低长序列GUI交互的算力开销。 - 可验证任务与诊断系统
任务附带代码验证器+VLM评委生成奖励;完整保存交互轨迹、截图、模型输出、动作、验证结果,配套可视化面板,方便定位失败原因。 - 可扩展环境与任务合成
支持生成可重置模拟应用、连贯跨应用虚拟世界;提供4个扩展点:代理harness、任务、环境适配器、环境规范。项目附带49个模拟App、2000道经过校验的任务,包含复刻真实业务的模拟软件以及全新虚构界面。 - 原生在线强化学习
轨迹缓冲区对接同步/异步训练后端,通过Slime支持GRPO、DAPO、GSPO、REINFORCE++、SAO、PPO等主流算法。
MAI-Gym-9B模型效果
基于Qwen3.5‑9B底座,采用手机+电脑任务联合强化学习训练。
- MobileWorld(未见过的手机任务)成功率78.4%;OSWorld-Verified电脑任务成功率76.2%,在10B内开源GUI智能体中处于第一梯队。
- 联合训练优于分开训练:分别训练手机、电脑专家模型再合并,效果不如同一套训练流程混合两类任务联合训练。
- 迁移测试:仅在12306模拟复刻App训练,迁移到真实手机真机测试,任务成功率由28.8%提升至48.1%;但模拟环境的高分无法完全复现到真机,存在迁移落差。
- 智能体习得复合策略:电脑端可适时调用命令行批量处理文件;手机端懂得放大截图阅读小字,主动精简操作步骤。
现存局限
- 定位为科研基础设施,并非普通用户直接使用的成品工具;模拟App仅用于训练,无法执行真实支付、交易。
- 模拟界面、业务逻辑和真实App存在差异,模拟环境学到的能力向真实设备迁移存在损耗。
- 两万并发集群需要大量GPU与容器算力资源,个人设备无法完整运行大规模训练。
- 超长复杂多步骤任务下,GUI智能体仍会出现操作失误。
© 版权声明
文章版权归作者所有,未经允许请勿转载。















