Cohere 开源 North Mini Code：30B MoE 编码智能体模型，单张 H100 即可运行，专为代理软件工程打造，吞吐量超越 Mistral Devstral Small 2

在代理编码（Agentic Coding）日益成为软件开发核心的今天，Cohere 正式开源了 North Mini Code。这是一款专为代理软件工程打造的 300 亿参数混合专家（MoE）模型，旨在为构建生产级代理编码管道的团队提供一个强大的、可本地部署的开源替代方案。尽管其生成内容较为冗长，但凭借在单张 H100 上的高效运行能力及卓越的吞吐量，它正在重塑企业对 AI 编码助手的成本与控制权考量。

• 官方介绍：https://cohere.com/blog/north-mini-code
• 模型：https://huggingface.co/CohereLabs/North-Mini-Code-1.0

核心亮点：专用、高效、可控

1. 专为代理软件工程构建

• 非通用改编：不同于从通用基础模型微调而来的竞品，North Mini Code 从头针对代理工作流优化，涵盖子智能体编排、架构映射、代码审查及终端命令执行。
• 全栈能力：不仅能写代码，还能理解系统依赖关系、执行 Shell 交互及包管理脚本，真正融入开发闭环。

2. 极致性能与低资源占用

• 稀疏 MoE 架构：总参数 30B，但每个 Token 仅激活 3B 参数（128 个专家中激活 8 个）。推理计算需求极低，内存占用约 20 GB，可在 单张 H100 甚至 Mac Studio (MLX) 上流畅运行。
• 高吞吐量：在相同硬件配置下，输出吞吐量比 Mistral Devstral Small 2 高 2.8 倍，Token 间延迟低 30%。Artificial Analysis 独立测试显示其输出速度达 210 tokens/s，位列开源模型第 8。

3. 长上下文与强化学习

• 256k 上下文窗口：支持处理大型代码库的整体分析与重构。
• RLVR 训练：经过两阶段监督微调后，利用超过 70,000 个可验证任务（覆盖 5,000+ 仓库）进行具有可验证奖励的强化学习（RLVR），显著提升代码准确性。
• 多框架兼容：未在单一框架上过拟合，而是在三个主流代理框架上训练，确保在 OpenCode 评估中取得领先，同时保持 SWE-Agent 兼容性。

关键权衡：冗长性与成本

尽管性能强劲，North Mini Code 存在一个显著的隐藏成本：

• Token 消耗巨大：独立测试显示，其生成的输出 Token 数量是同类模型的 3 倍（完成智能指数测试需 7500 万 Token，而中位数仅为 2500 万）。
• 成本建模必要：虽然免去了每百万 Output Token $50 的托管费用，但在高吞吐量场景下，本地 GPU 的电费、折旧及推理时间成本需仔细核算。对于追求极致速度的团队，这是一种用“计算资源”换“数据主权”的交易。

规格对比

开发者必须清醒认识到其“冗长性”带来的隐性成本。在选择 North Mini Code 还是 Claude Fable 5 时，不再仅仅是性能之争，更是数据主权、运维复杂度与长期运营成本之间的战略抉择。对于具备强大工程能力的团队而言，North Mini Code 无疑是一把锋利的利器。