华为开源盘古 Embedded-7B-V1.1：支持“快慢思考”的高效大模型

华为正式开源新一代高效大语言模型 —— openPangu-Embedded-7B-V1.1。该模型是基于昇腾 NPU 从零训练的 7B 级别密集架构模型（不含词表 Embedding），在通用能力、数学推理和代码生成等多个维度展现出优异表现。

• 模型：https://ai.gitcode.com/ascend-tribe/openPangu-Embedded-7B-V1.1

其最大特色在于引入了快慢思考融合机制与自适应切换能力，在不显著牺牲准确率的前提下，大幅缩短简单任务的响应延迟，为高效率推理提供了新范式。

模型架构：专为昇腾平台优化的高性能设计

openPangu-Embedded-7B-V1.1 针对国产硬件生态进行了深度适配，尤其面向昇腾 NPU 架构做了系统性优化。核心参数如下：

💡 GQA 的优势：相比 MHA 更轻量，相比 MQA 保留更多表达能力，在推理速度与性能之间取得良好平衡。

该模型完全脱离主流国际框架依赖，在国产算力平台上完成端到端训练，标志着中国在基础大模型研发上的自主化进程再进一步。

核心创新：快慢思考融合 + 自适应决策

传统大模型在处理所有问题时通常采用统一的“深度思考”模式（即长思维链 CoT），导致简单任务响应过慢。而 openPangu-Embedded-7B-V1.1 引入了双模式推理机制：

✅ 慢思考（Slow Thinking）

• 启用完整思维链，逐层推导；
• 适用于复杂数学、逻辑推理等高难度任务；
• 输出更长、更严谨。

✅ 快思考（Fast Thinking）

• 直接输出答案或简短推理路径；
• 类似人类“直觉反应”，用于简单问答、常识判断等；
• 显著降低延迟与计算开销。

🔁 自适应切换机制

通过内部质量评估策略，模型能自动判断任务难度，并动态选择使用快或慢思考路径。

这意味着：

• 面对“1+1等于几？”这类问题，不再生成千字推导；
• 而遇到 AIME 数学竞赛题时，仍可展开详尽解题过程。

这种“智能节能”机制，使模型在真实应用场景中更具实用性。

测评结果：全面对比三种模式性能

评测均在 128k 序列长度下进行，且未使用任何 system prompt 或显式思维链提示（no CoT prompting），确保结果反映模型原生能力。

1. 准确率对比（Accuracy）

📌 关键观察：

• v1.1 相比 v1.0 全面提升，尤其在数学任务上进步显著（AIME24 +7.8pts）；
• 自适应模式精度基本持平，仅在部分通用任务略有下降，但在数学和代码上几乎无损。

2. 输出长度对比（效率验证）

🔍 分析结论：

• 在通用知识类任务中，自适应模式将平均输出长度压缩超过 30%，几乎减半；
• 在高难度数学与编程任务中，模型倾向于维持慢思考，输出长度变化不大，保障了解题完整性；
• 实现了“难事深思，易事速答”的设计目标。

意义与定位：高效推理的新方向

openPangu-Embedded-7B-V1.1 并非追求极致规模的“巨无霸”模型，而是聚焦于实用化、低成本、高效率的大模型部署场景。

它的出现具有多重意义：

1. 推动国产软硬协同落地
   基于昇腾 NPU 训练，为国产 AI 基础设施提供高质量模型样本。
2. 探索动态推理范式
   “自适应快慢思考”是一种接近人类认知机制的尝试，未来可能成为轻量化模型的标准配置。
3. 降低服务成本
   减少不必要的长输出，意味着更低的 token 消耗、更快的响应速度和更少的 GPU 占用。