至知创新研究院开源IQuest-Q1 :320B 稀疏 MoE,专为 CLI 命令行智能体打造,单 Token 仅激活 15B 参数36氪

至知创新研究院近日正式推出 IQuest-Q1,这是一款专为命令行界面(CLI)系统打造的开源代理式基础模型。该模型采用稀疏专家混合(MoE)架构,总参数量达 3200 亿,每 token 激活 150 亿参数,深度融合了通用推理、代码生成与 CLI 交互能力,旨在为中长期复杂代理任务提供高效的计算支持。

  • 官方介绍:https://iquestlab.github.io
  • GitHub:https://github.com/IQuestLab/IQuest-Q1
  • 模型:https://huggingface.co/IQuestLab/IQuest-Q1
  • ModelScope:https://www.modelscope.cn/IQuestLab/IQuest-Q1
至知创新研究院开源IQuest-Q1 :320B 稀疏 MoE,专为 CLI 命令行智能体打造,单 Token 仅激活 15B 参数36氪

核心架构与进阶训练范式

IQuest-Q1 的设计目标是让代理系统能够贯穿复杂任务的完整生命周期:从收集信息、调用工具、阅读反馈,到在多步操作中从错误中自我恢复。为实现这一目标,研究团队在预训练和中期训练奠定代码与 STEM 数据基础后,引入了三个关键的后训练阶段:

  1. 合成环境构建:团队构建了高度仿真的任务环境,涵盖基于真实 API、MCP 服务器和工作区文件的通用代理任务,以及在可执行代码仓库中运行的编码任务。
  2. 多 Harness 强化学习(RL):模型在多个独立的代理框架(harness)中进行策略训练,每个框架保留其专属的工具和上下文管理能力。训练过程中引入了严格的错误归因机制,确保只有策略自身的错误才会转化为学习信号,从而提升模型在真实代理系统内的鲁棒性。
  3. MOPD 与模型合并:RL 阶段孵化出四个专长各异的专家模型(分别聚焦代理用户体验、多框架协同、长视野任务和通用代理工作)。随后,通过多教师同策略蒸馏(MOPD)技术,将这些专家的知识整合到一个从 SFT 检查点初始化的学生模型中。最终,通过跨阶段和专家分支的稳定模型合并,生成了最终的 IQuest-Q1。

典型应用场景与能力展示

IQuest-Q1 在多个复杂场景中展现了出色的端到端执行与自我纠错能力:

  • 交互式前端生成:模型能够将书面需求简报直接转化为包含游戏、个人工具、复杂布局及科学可视化的交互式网页代码。
  • 复杂办公工作流自动化:通过 lark-cli,IQuest-Q1 能够在飞书环境中独立处理高复杂度的办公任务。在一个模拟的“澜川证券数据泄露”事件中,模型作为数据平台负责人,从三个冲突的群聊、策略文档和 Drive 草稿中重建了事件全貌。它准确将事件定级为 1 级(涉及 37,214 次跨客户读取),并裁定需通知所有六个受影响客户。随后,它自动更新了暴露列表、预订了审查会议、生成了分析报告与六页管理演示文稿、分配了七个带负责人的修复任务,并通过 11 份回执和进度板持续追踪。在遇到“无效 assignee ID”导致任务分配失败时,模型主动阅读命令帮助文档,将名称映射为消息发送者的 app_id,重新分配并读回验证,展现了强大的自主恢复能力。
  • 模型开发与自我诊断修复:在协助开发自身训练框架时,IQuest-Q1 在 Claude Code 环境中成功定位了一条异常的奖励曲线。它追踪到解码文本中插入了一个额外的空格,该空格破坏了前缀匹配,导致只有最后一轮对话进入了训练损失计算。模型随后给出了修复方案:在保留生成空白的同时禁用注入的分隔空格,并保持流式和存储文本的一致性,最终使多轮训练和平均奖励恢复正常。

部署方式与生态兼容

IQuest-Q1 已作为开源模型正式发布。开发者可以下载模型权重,使用兼容 OpenAI API 标准的推理引擎进行本地或服务端部署。此外,该模型原生支持在 Claude Code 或 Codex 等主流代理式编程环境中直接调用,无缝融入现有的开发者工作流。

当前局限性与未来展望

尽管 IQuest-Q1 在代理式 CLI 任务中展现了巨大潜力,但作为一个早期阶段的开源项目,它仍面临一些客观限制:

  • 模态限制:当前检查点仅支持纯文本输入,暂不具备原生的图像、音频或视频多模态处理能力。
  • 输出可靠性:生成的代码或解释可能存在偏差,关键代码更改仍需开发者进行严格的代码审查和自动化测试验证。
  • 工具集成门槛:模型的工具调用依赖于 IQuest 特定的聊天模板格式,结构化的工具执行和推理提取需要配套的服务解析器与代理框架支持。
  • 真实世界挑战:在处理真实的 CLI 任务时,模型有时可能会忽略特定约束、重复失败的尝试或遗留未解决的问题,仍需要人类开发者的适度监督与干预。
© 版权声明

相关文章