JetBrains 开源 Mellum 2:120亿参数 MoE 编码模型,激活仅 25 亿参数,支持 128K 上下文与智能体工作流,Apache 2.0 许可赋能私有部署

大语言模型5个月前更新 小马良
208 0

JetBrains 正式宣布开源 Mellum 2,一款专为软件工程系统设计的 120 亿参数混合专家(MoE) 大语言模型。作为 Mellum 系列的继任者,Mellum 2 不仅在参数量上实现了三倍增长,更通过稀疏激活架构大幅提升了推理速度,旨在成为现代 AI 工作流中高效、低成本的“焦点模型”。与此同时,JetBrains 宣布停止 DataSpell 独立 IDE 的开发,将其功能整合至 PyCharm Pro。

  • 模型:https://huggingface.co/collections/JetBrains/mellum-2
JetBrains 开源 Mellum 2:120亿参数 MoE 编码模型,激活仅 25 亿参数,支持 128K 上下文与智能体工作流,Apache 2.0 许可赋能私有部署

Mellum 2 核心亮点:高效、专注、可控

1. 极致效率:MoE 架构带来的速度飞跃

  • 稀疏激活:总参数 120 亿,但每个 Token 仅激活 25 亿 参数。
  • 低延迟高吞吐:相比同规模稠密模型,推理时间缩短至不到一半,显著降低生产环境中的延迟与算力成本。
  • 标准硬件友好:专为在常规服务器甚至本地设备上快速运行而设计。

2. 全能编码助手:超越简单补全

  • 长上下文支持:上下文窗口从 8K 扩展至 131,072 (128K) Token,轻松处理大型代码库与长文档。
  • 智能体工作流:支持生成/编辑代码、调用外部工具、执行多步骤任务及显式推理,具备完整的 Agent 能力。
  • 自然语言与代码双修:从零开始训练,针对代码、数学及自然语言数据进行优化,胜任路由、总结、问答等多重角色。

3. 完全自主:Apache 2.0 开源许可

  • 数据主权:支持基础版、指令版和思考版模型下载,允许企业在本地或私有云中部署,确保代码与数据绝不外泄。
  • 灵活定制:宽松的许可证允许自由微调、集成及商业化使用,为构建私有 AI 基础设施提供坚实基础。
JetBrains 开源 Mellum 2:120亿参数 MoE 编码模型,激活仅 25 亿参数,支持 128K 上下文与智能体工作流,Apache 2.0 许可赋能私有部署

主要应用场景:AI 系统的“高速引擎”

JetBrains 提出“焦点模型”理念,认为 Mellum 2 并非要取代超大模型,而是作为协同系统中的高效组件:

场景应用方式
路由与编排分析用户提示,快速判断意图并分发给合适的专用模型或工具。
低延迟 RAG快速检索、总结相关上下文,即时生成回答,提升知识库问答体验。
子智能体驱动在复杂 Agent 工作流中,承担上下文收集、规划验证等高频、快速任务。
私有化部署在对数据安全极其敏感的金融、医疗等领域,实现完全离线的 AI 辅助。

性能对比:Mellum vs. Mellum 2

特性Mellum (v1)Mellum 2
架构稠密 (Dense)混合专家 (MoE)
总参数40 亿120 亿
激活参数40 亿25 亿
上下文窗口8,192 Token131,072 Token
核心定位代码补全智能体工作流 / 路由 / 推理
许可证Apache 2.0Apache 2.0

生态调整:DataSpell 并入 PyCharm

在发布 Mellum 2 的同时,JetBrains 宣布了一项重要的产品线调整:

  • 停止 DataSpell:自 2026 年 5 月 28 日起停止更新,9 月 1 日自动将活跃订阅转换为 PyCharm Professional。
  • 功能整合:所有数据科学功能(如 Jupyter 支持、数据视图、科学模式)将直接内置于 PyCharm Pro 中,旨在为 Python 开发者提供更统一、强大的集成体验。
© 版权声明

相关文章