MiniMax H3 开源权重并在 ComfyUI 实现 Day-0 支持:原生立体声、2K 分辨率,RTX 3060 可本地运行

工作流3个月前更新 小马良
391 0

MiniMax 今日正式发布了其第三代视频生成模型 H3,并同步开放了模型权重。作为该公司首个开源权重的视频模型,H3 在发布当天即获得了 ComfyUI 的原生支持(Day-0 Support)。

  • 官方文档:https://docs.comfy.org/zh/tutorials/video/minimax/minimax-h3
  • Hugging Face:https://huggingface.co/Comfy-Org/MiniMax-H3
  • ModelScope:https://modelscope.cn/models/Comfy-Org/MiniMax-H3/summary
  • 工作流:https://pan.quark.cn/s/0b8f64b50eca
  • GGUF:https://huggingface.co/realrebelai/MiniMax-H3_GGUFs

H3 是一个通用全模态生成系统,能够在单一上下文中联合理解文本、图像、视频和音频。其核心突破在于生成的视频自带原生立体声音频(语音、音效和音乐),这些声音是在单次前向传播中与画面同步建模的,而非后期叠加。输出最高支持 2K 分辨率、24fps,单片段时长最长可达 15 秒。

核心亮点:全模态与原生音频

  • 多模态上下文理解:H3 能同时接收文本、图像、视频或音频输入,并根据提示词解析它们之间的关系。无论是让静态图像动起来,还是通过参考视频锁定动作和运镜,模型都能在一个工作流中处理。
  • 原生立体声:音频是模型生成的固有属性。这意味着口型、动作与声音的节奏能够实现高度契合,解决了传统视频生成模型“音画不同步”或需后期配音的痛点。
  • 灵活的生成模式:
    • 文生视频 (T2V):仅凭提示词生成带音效的视频。
    • 图生视频 (I2V):支持首帧、尾帧或双帧控制,精准填充中间运动。
    • 参考生视频 (R2V):通过参考图像、视频和音频,锁定角色身份、风格、动作或声音。

ComfyUI 优化:让 RTX 3060 也能跑 2K

为了让 H3 在消费级硬件上运行,ComfyUI 团队进行了大量的工程优化:

  1. 权重剪枝与查找表替换:模型中约 40% 的调制权重被剪枝并替换为功能等效的查找表,大幅缩小内存占用且无损画质。
  2. Int8 量化与自定义内核:采用精确高效的 int8 convrot 量化,配合自定义内核降低推理过程中的峰值 VRAM 使用。
  3. 动态 VRAM 卸载:结合上述优化,总内存占用从全精度的 123.6 GB 降至最小变体的 42.5 GB。这使得包括 RTX 3060 在内的主流显卡也能本地运行下一代 2K 视频模型。

快速上手指南

ComfyUI 已更新至 0.30.0 或更高版本以支持 H3。用户可以通过模板库直接获取三种示例工作流:

1. 文生视频 (T2V)

  • 节点:使用 MiniMaxH3TextToVideo。
  • 技巧:在提示词中详细描述场景、镜头运动及伴随的音频(对话、音效)。分辨率短边默认为 768px,上限 768×1344。

2. 图像转视频 (I2V)

  • 节点:使用 MiniMaxH3ImageToVideo。
  • 技巧:连接 first_frame 或 last_frame 以控制关键帧。提示词需描述镜头间的运动及音频细节。

3. 参考转视频 (R2V)

  • 节点:使用 MiniMaxH3ReferenceToVideo。
  • 技巧:最多支持 9 张图、3 个视频和 3 个音频片段。在提示词中使用 <Picture 1>、<Video 1> 等标签明确指定每个参考素材的作用(如身份、动作、声音)。建议使用 res_multistep 采样器以获得更佳效果。
© 版权声明

相关文章