商汤开源日日新 SenseNova Loop-9B-Preview：Looped Transformer 循环架构，9B 参数对标 27B 模型

商汤近期开源了日日新 SenseNova Loop-9B-Preview 模型。这是商汤在下一代大模型架构领域的一项前沿探索，该模型采用创新的 Looped Transformer（循环 Transformer）架构，旨在通过增加有效计算深度来释放模型潜力，在仅 90 亿（9B）参数规模下，实现媲美 270 亿（27B）参数模型的处理能力。

• Github：https://github.com/OpenSenseNova/SenseNova-Loop
• Hugging Face：https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview

核心架构：循环计算与信息交互机制

传统的模型能力提升高度依赖参数规模的扩大，而 SenseNova Loop-9B-Preview 探索了通过扩展计算深度来提升性能的新路径。

• Looped Transformer 结构设计：该模型以 9B 尺度模型为基座，保留了首尾各 4 层原始解码器模块，将中间层改造为参数共享的循环计算模块。通过多轮迭代，有效扩展了模型的计算深度，填补了社区在可直接面向日常使用的 Looped Transformer 模型方面的空白。
• mHC 信息交互机制：为解决多轮计算中的信息传递与训练稳定性问题，模型引入了流形约束超连接（mHC, Manifold-Constrained Hyper-Connections）。该机制利用多路残差连接与受约束的信息混合，增强了特征交互，并有效维持了深层信号传播的稳定性。

性能表现：小参数规模下的复杂任务潜力

在当前的评测设置下，SenseNova Loop-9B-Preview 在保持轻量级参数规模的同时，在多项复杂任务中展现出显著优势。

• 跨任务性能领先：在代码生成、办公场景和智能体任务等多个方向上表现优异。在 WorkBuddy Bench、RaccoonPPT Bench 和 AutomationBench 等特定评测中，其成绩甚至超过了参数量更大的 Qwen3.5-27B 模型。
• 消融实验验证：商汤通过消融实验评估了 mHC 机制的实际收益。引入该机制后，模型在复杂推理任务（GPQA Diamond）中提升了 4.42 分，在多步骤 Agent 任务（TeamBench）中提升了 13.34 分，验证了该架构在提升推理能力方面的有效性。

未来演进与探索方向

SenseNova Loop-9B-Preview 的发布标志着商汤在下一代模型架构探索上的重要一步。面向未来的 SenseNova 系列，商汤计划从以下几个维度持续推进：

1. 更大规模的 Scaling 潜力：探索 Looped Transformer 架构在更大模型参数规模下的表现与扩展规律。
2. 自适应计算机制：研究自适应“快慢思考”机制以及自适应迭代次数，以进一步提升模型的推理效率。
3. 深度挖掘参数共享潜能：探索如 DSA（Dynamic Sparse Attention，动态稀疏注意力）等更多机制，以更灵活的计算方式和更高的参数效率，持续突破模型能力与推理效率的边界。