商汤科技开源 SenseNova U1.5 Lite:8B 参数实现原生统一多模态,突破视觉创作瓶颈

图像模型2个月前发布 小马良
168 0

商汤科技正式开源了其轻量级、原生统一多模态大模型 SenseNova U1.5 Lite。与预览版相比,正式版不再仅仅追求“画面美感”,而是聚焦于真实视觉工作流的稳定性与可控性。通过 NEO-unify 统一架构和 MOPD 蒸馏技术,该模型在仅 8B 参数量下,实现了媲美超大模型的复杂指令遵循、高清细节生成及精准图像编辑能力,旨在推动 AI 视觉生成从“玩具”走向“生产力工具”。

  • GitHub:https://github.com/OpenSenseNova/SenseNova-U1
  • Hugging Face:https://huggingface.co/collections/sensenova/sensenova-u15
  • 魔搭社区:https://modelscope.cn/models/SenseNova/SenseNova-U1.5-8B-MoT
  • SenseNova Studio在线体验:https://unify.light-ai.top
商汤科技开源 SenseNova U1.5 Lite:8B 参数实现原生统一多模态,突破视觉创作瓶颈

核心突破:解决创作者的“崩溃瞬间”

SenseNova U1.5 Lite 针对实际生产中的痛点进行了深度优化:

  • 3-4k 字符超长复杂指令遵循:
    • 打破开源模型通常在 1k 字符后易崩溃或遗漏细节的瓶颈。
    • 能同时处理主体、数量、空间关系、文字、布局、风格等多重约束,确保模型精准执行用户的完整意图,而非仅解析部分提示词。
  • 更可靠的原生图像编辑:
    • 增强对非编辑区域(如背景、主角面部)的保持能力,避免“改一只杯子换整张脸”的尴尬。
    • 支持局部修改、元素替换、文字精修及多参考图融合,实现像素级的精细控制。
  • 卓越的文字与复杂布局能力:
    • 加强中英文渲染、海报排版及信息图生成,从单纯的“生成内容”进化为“组织完整的视觉表达”。
    • 在处理文字与物体遮挡时,能维持光影的自然连贯,展现对三维空间叠加关系的深刻理解。
  • 原生 4K 高分辨率输出:
    • 在高分辨率生成中兼顾整体构图与极精细的肌理、微小文字及光影折射,满足商业交付标准。

技术架构:NEO-unify 与 MOPD 蒸馏

SenseNova U1.5 Lite 摒弃了业界常见的显式 Router(路由)或多专家协同机制,采用更高效的统一架构:

  1. 解耦训练与交付 (MOPD 蒸馏):
    • 训练阶段:针对文字、美学、编辑等任务独立训练专家模型(Expert)。
    • 交付阶段:通过多专家在线策略蒸馏技术 (MOPD),将多专家的能力无损融合至单体 8B 模型中。
  2. 理解与生成双向反哺:
    • 视觉语义理解与空间建模形成的认知直接反哺生成过程,使模型能自然消化多层级指令,同时在多模态理解榜单上保持强劲表现。
  3. 极致性价比:
    • 8B 参数量支持单卡流畅运行,无需频繁切换模型,单次 Pass 即可兼顾语义理解与像素生成,极大降低调用成本与推理延迟。

实战场景验证

  • 复杂视觉表达:
    • 创意海报:高精度掌控文字与留白节奏,处理空间遮挡时光影自然。
    • 高密度信息图:准确呈现中英文数据细节,实现复杂信息可视化的一次性高质量交付。
  • 原生图像编辑:
    • 草图转漫画:精准遵循超长指令,保留线稿分镜,上色细腻。
    • 多参考图融合:如“橘猫骑摩托坐在咖啡馆内”,能提取多图核心特征并在新空间中自然重组,光影比例浑然天成。
    • 局部精细编辑:支持指定区域修改,完美保留非目标区域结构。

强化学习后训练 (RL) 的三大维度

正式版通过任务导向的 RL 后训练,重点优化了:

  1. 指令遵循 (Instruction Compliance):轻松解析超长 Prompt,精准执行严苛限制。
  2. 视觉偏好 (Visual Preference):全面优化构图、材质与光影,提升画面质感。
  3. 编辑保持 (Editing Preservation):实现像素级局部修改,完美保留非目标区域。
商汤科技开源 SenseNova U1.5 Lite:8B 参数实现原生统一多模态,突破视觉创作瓶颈
© 版权声明

相关文章