网易有道开源 Confucius4：基于 Qwen3.5-27B，SFT-RL 迭代优化实现多模态数学推理 SOTA

网易有道 AI 团队正式开源 Confucius4，这是一款基于 Qwen3.5-27B 架构开发的多模态大语言模型，专为复杂的数学推理任务设计。通过创新的 SFT-RL 迭代训练框架 与 紧凑思维链优化技术，Confucius4 在多个权威数学及多模态推理基准测试中取得了同尺寸模型的 SOTA（State-of-the-Art）水平。

• 模型：https://huggingface.co/netease-youdao/Confucius4

目前，该模型已在 Hugging Face 等平台开放，遵循 Apache 2.0 协议，可供社区自由研究与商用。

核心突破：三大技术创新驱动性能飞跃

1. SFT-RL 迭代训练：构建高性价比多模态能力

Confucius4 摒弃了传统的单一训练模式，采用 「监督微调（SFT）+ 强化学习（RL）」 的迭代范式：

• 数据筛选：利用图像增益筛选技术，剔除低价值的视觉冗余信息，构建高质量、高性价比的多模态训练集。
• 全场景提升：通过 SFT 夯实基础，再通过 RL 持续拉高模型在纯文本、图形题等复杂场景下的解题上限，实现了推理能力与多模态感知的协同进化。

2. 纯文本推理增强：加固多模态“推理底座”

研究发现，强大的纯文本推理能力是多模态解题的基石。Confucius4 在 SFT 阶段注入了大量纯文本推理数据：

• 混合训练范式：构建「纯文本推理 + 多模态解题」的混合训练集，使模型在处理包含复杂逻辑的数学题时更加稳健。
• 显著效果：在内部高难度数据集 Math-Hard-500 上，相比基线模型实现了 23.2% 的性能提升。

3. 紧凑思维链：解决“过度思考”难题

针对大模型在简单问题上容易“过度思考”（Overthink leading to errors）的问题，Confucius4 提出了双管齐下的解决方案：

• 重写思维链 SFT：对思维链（CoT）进行重构，剔除冗余步骤，构建“简洁、高效、关键信息无遗漏”的高质量推理路径。
• 长度感知 RL (Length-Aware RL)：在强化学习阶段引入 Length-Aware Advantage 机制，在优势计算中加入探索-利用权衡（explore-exploit tradeoff），对非难题的推理长度进行约束。
• 成效：整体思维链长度减少 43.2%，在提升推理效率的同时，反而提高了准确率，实现了速度与精度的双赢。

此外，模型还经过针对性的中文数据优化输出更符合中国用户的阅读习惯。

性能实测：全面超越同级模型

在多个关键基准测试中，Confucius4 展现了卓越的竞争力，不仅超越了同尺寸的 Qwen3.5-27B，甚至在多项指标上优于参数更大的 Qwen3.5-35B-A3B 及新一代的 Qwen3.6-27B。

注：Math-Hard-500 聚焦初高中难题及竞赛题；Math-Figure 为内部闭源多模态数据集。

关键亮点：

• 高难数学攻坚：在 Math-Hard-500 上得分 0.814，大幅领先 Qwen3.6-27B (0.756)，证明其在复杂逻辑推理上的强大实力。
• 多模态理解提升：在 MathVision 和 logicVista 等视觉推理基准上，Confucius4 均取得显著领先，表明其视觉编码器与语言模型的融合更加紧密。
• 效率与精度平衡：在保持甚至提升准确率的同时，大幅缩短了推理过程，降低了 Token 消耗和延迟。

应用前景

Confucius4 的发布，为开源社区提供了一个在数学推理领域极具竞争力的 27B 参数级模型。其核心价值在于：

1. 高性价比：以中等参数量实现了超越更大模型的性能，适合部署在资源受限的环境中。
2. 高效推理：通过紧凑思维链技术，显著降低了推理成本，提升了响应速度。
3. 开源友好：Apache 2.0 协议使其能够广泛应用于教育辅导、智能解题助手、科研辅助等场景。

对于需要处理复杂数学问题、图表分析或逻辑推理的开发者和企业而言，Confucius4 是一个值得深入探索和集成的强大基座模型。随着社区的进一步微调和应用开发，我们有理由期待它在更多垂直领域展现出巨大潜力。