ComfyUI MiniMax H3 Hybrid Loader:融合 FL2VA 画质与 Ref2VA 参考能力的方案

插件3个月前发布 小马良
462 0

MiniMax H3 发布了两个权重布局相同但训练侧重点不同的检查点:FL2VA(高质量,仅支持首尾帧关键帧)和 Ref2VA(支持多模态参考,但画质较差)。

  • GitHub:https://github.com/scottmudge/ComfyUI_MinimaxH3HybridLoader
  • 模型:https://huggingface.co/smhfacct/Minimax-H3-fl2va-ref2va-hybrid-models

ComfyUI MiniMax H3 Hybrid Loader 是一个自定义节点,它允许用户将这两个模型的“精华”部分合并,从而在保留 Ref2VA 强大参考能力(如角色一致性、音频同步)的同时,获得 FL2VA 卓越的视觉和音频生成质量。

ComfyUI MiniMax H3 Hybrid Loader:融合 FL2VA 画质与 Ref2VA 参考能力的方案

核心原理:精准替换 AdaLN 调制层

通过逐张量分析发现,FL2VA 和 Ref2VA 之间超过 97% 的权重(包括注意力机制、MLP、RMSNorm 等)在比特级别完全一致。两者真正的差异在于负责路由不同模态条件(文本、音频、视频、参考)的 AdaLN 调制投影层(adaln_proj.linear.*)以及输出头。

Hybrid Loader 的工作逻辑是:

  1. 以 FL2VA 为基础模型,继承其高质量的注意力机制和生成能力。
  2. 从 Ref2VA 中仅提取并覆盖关键的 adaln_proj 权重,从而激活其对图像、视频和音频参考的理解能力。

推荐配置:最佳平衡点

经过大量主观测试,以下设置能在参考能力和生成质量之间取得最佳平衡:

  • Base Model: minimax_h3_fl2va
  • Overlay Model: minimax_h3_ref2va
  • Preset: block_range_adaln
  • Block Range Start: 25
  • Block Range End: 49
  • Final Adaln from Overlay: 可选开启(若需最大化参考能力,但可能轻微影响画质)

这种配置仅替换了模型后半部分(深层网络)的 AdaLN 层,既保留了浅层网络对基础画质的贡献,又引入了深层网络对复杂参考条件的处理能力。

功能亮点

  • 🧠 内存友好:采用 mmap 方式流式加载张量,峰值内存占用与加载单个模型相当(约 19.5 GB for int8),无需双倍显存。
  • 🔒 只读安全:不会修改原始的 safetensors 文件,确保源模型完整性。
  • ⚡ 兼容性强:当不使用覆盖功能时,其行为与标准 Load Diffusion Model 完全一致,支持多 GPU deepclone 和量化感知(int8/FP8)。
  • 🛠️ 高度可定制:除了预设,还支持通过 glob 字符串自定义需要覆盖或回退的特定权重键,满足高级实验需求。

预设说明

预设名称描述适用场景
none纯基础加载等同于标准加载器
ref2va_adaln_over_fl2va仅覆盖每块的 adaln_proj默认推荐,平衡画质与参考能力
ref2va_all_adaln_over_fl2va额外覆盖 final_layer.adaln_proj需要极强参考一致性,可接受轻微画质损失
block_range_adaln覆盖指定块范围的 adaln_proj进阶推荐,通过调整范围微调效果
custom完全自定义覆盖规则极客实验,探索不同权重组合

安装与使用

  1. 将仓库克隆至 ComfyUI/custom_nodes/ 目录。
  2. 重启 ComfyUI。
  3. 在 model/loaders 类别下找到 MiniMax H3 Hybrid Loader 节点。
  4. 分别连接 FL2VA 和 Ref2VA 的检查点路径,选择预设并开始生成。
© 版权声明

相关文章