ComfyUI-SelfLift:免训练渐进分辨率采样插件,适配图像与 MiniMax H3 视频模型

插件1个月前发布 小马良
298 0

ComfyUI-SelfLift 是一个基于 SelfLift-zero 论文理念的 ComfyUI 自定义节点包。它通过渐进分辨率采样技术,在前期去噪步骤使用低分辨率 latent,随后提升至全分辨率并收尾,从而在不增加去噪评估次数(NFE)的前提下显著加速图像生成。此外,该插件还包含针对 MiniMax H3 音视频模型的实验性适配及时间稳定性校正工具。

  • GitHub:https://github.com/facok/comfyui-SelfLift
  • 项目主页:https://happygirlty.github.io/SelfLift_res
ComfyUI-SelfLift:免训练渐进分辨率采样插件,适配图像与 MiniMax H3 视频模型

核心功能

1. SelfLift Progressive Sampler (Image)

专为 Rectified-Flow 图像模型(如 FLUX, Z-Image-Turbo)设计。

  • 工作原理:前 transition_step 步在低分辨率(lowres_scale)下运行,随后将 Latent 上采样至目标分辨率,并利用 VAE 像素锚点(Pixel Anchor)进行修正,最后完成剩余去噪步骤。
  • 优势:保持相同的 NFE,但大幅减少早期高分辨率计算的开销。
  • 关键参数:
    • transition_step: 低分辨率阶段步数(例如 FLUX.2-Klein 4步取3,Z-Image-Turbo 8步取6)。
    • rho: 向像素 VAE 锚点修正的比例(FLUX.2-Klein 建议 0.4,0 为关闭)。
    • latent_upsample: 插值方式(nearest/bilinear)。
    • model_hires: 可选的高分辨率阶段专用模型(需同架构)。

2. SelfLift Progressive Sampler (MiniMax H3)

针对 MiniMax H3 音视频模型的实验性适配。

  • 两种模式:
    1. 外部 Upscaler(默认):配合学习式 Latent Upscaler 模型使用,rho=0。
    2. SelfLift-zero 模式:upscaler_model=none 且 rho>0。利用 H3 VAE 进行像素级锚点修正。
      • H3 推荐起点:rho=0.6, w_min=w_max=1。
  • Highres Tiling(实验性):将高分辨率阶段切分为 1-8 个空间块以节省显存,但会牺牲部分全局注意力一致性。

3. H3 Temporal State Transport (TST)

一个免训练的 MODEL 补丁节点,用于提升 H3 视频生成的时间稳定性。

  • 作用:抑制帧间闪烁、纹理变形、身份漂移及非物理运动。
  • 原理:测量帧级注意力算子的“谱张力”,仅对失衡的注意力头进行校正,并在深层和早期去噪步施加更强校正。
  • 开销:极低(约 1-2% 运行时间增加)。
  • 推荐参数:tau=0.2。

安装与依赖

  1. 安装插件:通过 ComfyUI Manager 搜索 comfyui-SelfLift 或手动克隆至 custom_nodes。
  2. 可选 H3 Upscaler:

使用指南与最佳实践

图像生成 (FLUX/Z-Image)

  • 采样器限制:必须使用 Standard Euler 采样器,调度器沿用模型默认。其他采样器会被拒绝。
  • VAE 匹配:必须使用与生成模型所属相同的 VAE,以确保像素锚点在同一 Latent 空间。
  • Noise Mask 支持:支持局部重绘语义(1=生成,0=保留),Mask 会自动缩放至 Latent 网格。

MiniMax H3 视频生成

  • 诊断测试:建议固定 Prompt 和 Seed,对比不同 rho 和 upscaler 组合的效果。
    • 直接路径 (rho=0, upscaler=none): 速度快,但可能有伪影。
    • 强修正 SelfLift-zero (rho=0.6, w=1): 消除主要伪影,推荐起点。
  • TST 启用:在 Model 加载后连接 H3 TST 节点,无需更改采样流程。若出现控制台警告,请检查是否与 highres_tiling 冲突(二者不兼容)。

调试与环境变量

环境变量作用
SELFLIFT_TIMING_SYNC=1启用 CUDA 同步计时(更慢,仅诊断)
SELFLIFT_MEMORY_LOG=1记录阶段边界的内存快照
SELFLIFT_DEBUG=1导出过渡中间结果为 PNG 到 debug/ 目录
SELFLIFT_TST_EXACT=1开启 TST 精确算子校准探针(极慢,仅调试)

日志关键词:

  • [SelfLift plan]: 显示实际的 Latent 形状、NFE 数及提升路径。
  • [H3 TST]: 输出每帧的张力校正诊断数据。

注意事项与限制

  1. 仅限 Euler 采样器:不支持 s_churn > 0 或其他高级采样器。
  2. H3 分辨率分布:768px 短边在 lowres_scale=0.5 时为 384px,可能超出骨干训练分布,需自行验证画质。
  3. 兼容性:
    • noise_mask 与 highres_tiling 不兼容。
    • H3 TST 与 highres_tiling 不兼容。
    • TST 仅支持 MiniMax H3,其他模型静默跳过。
  4. SelfLift-rich:需要蒸馏训练的进阶版本不在本插件范围内。
© 版权声明

相关文章