小红书开源 dots3-note Preview:280B 参数多模态长程智能体,迈向真实生活 AI

大语言模型3个月前发布 小马良
133 0

小红书 dots-studio 正式开源 dots3-note Preview,这是 dots3 系列中最轻量的模型,总参数量达 280B(激活参数 16B),支持 512K 超长上下文。该模型具备文本、视觉和语音的多模态理解能力,并针对复杂推理和长程 Agent 任务进行了深度优化。此次发布不仅开放了 Apache 2.0 协议的模型权重,还同步推出了面向真实生活场景的评测基准 VibeSearchBench 与 VibeLifeBench,旨在推动 AI 从封闭的可验证任务走向开放、模糊的真实世界。

  • 官方介绍:https://studio.dots.ai/dots/dots3-zh.html
  • GitHub:https://github.com/studio-dots-ai/dots3-note-prev
  • 模型:https://huggingface.co/dots-studio/dots3-note-prev

核心突破:TEMPO 与递归自我评价

为了解决长程任务中强化学习训练效率低、奖励稀疏的问题,dots3-note 引入了 TEMPO(Test-time-scaled Value Estimation with Macro-step Policy Optimization)技术:

  • 宏观步骤优化:将长程任务拆分为多个 macro-step,在每个步骤结束时,Agent 从执行者(actor)切换为评估者(critic)。
  • 测试时缩放价值估计:利用 Agent 自身的推理、反思和工具调用能力来估计当前状态的预期剩余回报,而非依赖固定的前向计算。这使得在单次运行需数十小时的复杂任务上进行有效强化学习成为可能。
  • 递归自我评价:研究发现“评价比生成更简单”。在 IMO 2026 测试中,基于该技术的分支版本通过递归生成证明并自我评估,取得了满分金牌成绩。这种能力被视为解决真实世界中缺乏明确奖励信号任务的关键。
小红书开源 dots3-note Preview:280B 参数多模态长程智能体,迈向真实生活 AI

持续学习与记忆更新

dots3-note 在陌生环境中展现了类似人类的“研究性”思维:

  • 在线学习:在 ARC-AGI-3 等需要数千轮交互的陌生环境中,模型能主动提出假设、验证并更新记忆。
  • 记忆泛化:这种从交互中学习并更新决策记忆的能力,能够泛化到从未训练过的其他环境(如《杀戮尖塔 2》游戏场景)。
小红书开源 dots3-note Preview:280B 参数多模态长程智能体,迈向真实生活 AI

多模态感知与真实世界模拟

为了弥合虚拟环境与真实生活的差距,dots3-note 首次集成了文本、视觉和语音的多模态基座,并构建了复杂的模拟环境:

  • VibeSearchBench:评估意图逐步披露条件下的多轮搜索能力。包含 20 个领域的 200 项任务,通过 persona-driven 用户模拟器逐步揭示约束,主要指标为 Triplet F1。
  • VibeLifeBench:评估非静态环境中的跨阶段任务执行。包含 10 个领域的 20 项长程任务(如家庭旅行规划),模拟天气、航班等外部状态的异步变化,通过 1,247 项原子检查评估状态一致性与工具执行结果。

技术规格与开源信息

  • 模型架构:280B 总参数 / 16B 激活参数,512K 上下文窗口。
  • 多模态能力:支持文本、图像、语音输入。
  • 开源协议:Apache 2.0。
  • 获取方式:模型权重已发布于 Hugging Face 和 GitHub,结构已提交至 Transformers。API 申请通道已开启。
  • 后续计划:详细的技术报告、训练细节及完整的 dots3 系列(包括 jazz 和 aria)将在近期陆续发布。
© 版权声明

相关文章