美团龙猫发布原生多模态模型 LongCat-2.5 ,1.6T 参数专注长程智能体与 Visual Coding 任务

美团龙猫正式发布了面向长程智能体任务的原生多模态 AI 模型 LongCat-2.5。该模型在 LongCat-2.0 的基础上实现了架构与能力的双重跃升,总参数量达到 1.6 万亿,单次前向传播激活约 480 亿参数,进一步强化了原生视觉理解与智能体编程能力。

  • 在线体验:https://longcat.chat
  • API 接入:https://longcat.chat/platform/product
美团龙猫发布原生多模态模型 LongCat-2.5 ,1.6T 参数专注长程智能体与 Visual Coding 任务

核心架构与多模态统一表征

LongCat-2.5 在多模态融合机制上进行了深度优化,实现了真正的“原生”多模态处理:

  • 多层级离散 Token 化:模型创新性地将视觉信号表示为多层级离散 token。
  • 统一处理范式:主干模型能够以完全统一的 token 形式处理视觉与文本输入,消除了传统多模态模型中模态对齐的损耗。
  • Visual Coding 突破:原生视觉理解与智能体编程能力的深度结合,使模型在 Visual Coding(视觉编程)任务中表现出色,并有效拓展了其在创意设计、3D 建模等复杂跨模态任务中的应用边界。

长程强化学习与端到端工程能力

针对复杂代码库开发与完整项目构建等长程任务,LongCat-2.5 引入了更为深度的训练策略:

  • 长程轨迹数据增强:在训练阶段注入了更大规模的长程交互轨迹数据,并通过大规模长程强化学习(RL)提升模型的端到端工程能力。
  • 失败轨迹转化机制:团队建立了一套闭环的数据迭代链路,将真实 Agent 在实际执行中的失败轨迹转化为可复现、可验证的训练任务,从而精准、高效地填补模型的能力短板。
  • 跨 Harness 混合训练:围绕数据合成与环境构建,官方持续扩展训练链路,确保模型在不同智能体执行环境(Harness)中均能保持稳定的性能表现。

底层基础设施与工程优化

支撑 1.6 万亿参数模型高效运行的,是美团龙猫持续演进的底层基础设施:

  • 国产算力深度优化:针对国产算力平台,专项优化了长上下文(Long-Context)的训练效率与调度机制。
  • W4A4 量化推理:引入并优化了 W4A4(权重 4-bit,激活值 4-bit)推理技术,在大幅降低显存占用与推理延迟的同时,保障了模型输出的高质量。
  • 训推一致性与 Rollout 优化:通过严格的训推数值一致性校验,以及长上下文 rollout(展开)的底层工程优化,有效支撑了大规模长程强化学习的高效、稳定运行。
美团龙猫发布原生多模态模型 LongCat-2.5 ,1.6T 参数专注长程智能体与 Visual Coding 任务
© 版权声明

相关文章