MOSS-Image-EntroPack

26 00

阿里DiffSynth-Studio项目组放出MOSS-Image(Base、SFT版本)的EntroPack预量化权重,基于EntroPack熵编码方案从原版BF16权重转换而来,最低仅需4GB显存就能跑,可在DiffSynth-Studio、DiffSynth-ComfyUI加载使用。

作者
阿里DiffSynth-Studio
基础模型
MOSS-Image
MOSS-Image-EntroPack

阿里DiffSynth-Studio项目组放出MOSS-Image(Base、SFT版本)的EntroPack预量化权重,基于EntroPack熵编码方案从原版BF16权重转换而来,最低仅需4GB显存就能跑,可在DiffSynth-Studio、DiffSynth-ComfyUI加载使用。

MOSS-Image-EntroPack

基础说明

  • 原模型:MOSS-Image-Base / MOSS-Image-SFT
  • 量化工具链:EntroPack,输出safetensors权重 + 配套json量化配置文件
  • 文本编码器:Base、SFT共用同一套文本编码器权重包
  • 推理环境:INT8 GEMM路径依赖Triton,要求CUDA算力≥8.0;BF16 GEMM路径无此限制

量化档位划分

BF16 GEMM 混合量化
  • 3.5bit(仅SFT):显存最低档;敏感层保留5.0bpp,其余3.2516bpp,整体均值3.526bpp
  • 4.5bit(均衡款):敏感层5.0bpp,其余4.4172bpp,整体均值4.545bpp
  • 6bit(BF16路径最高精度):统一熵编码,整体均值6.055bpp
INT8 GEMM 混合分配(带ConvRot旋转)
  • int8_6bit(速度优先):嵌入、时间嵌入、调制、输出等敏感线性层熵编码+BF16 GEMM;其余线性层W8A8 INT8 GEMM,整体均值5.999bpp
  • int8_7bit(INT8路径最高精度):分配策略同上,整体均值7.004bpp

实际bpp计算公式:actual bpp = 8 × Σ storage bytes / Σ numel,由权重文件真实存储数据算出。

适配与场景

  • 部署前端:DiffSynth-Studio原生支持、DiffSynth-ComfyUI节点可用
  • 面向设备:小显存消费级显卡,4GB显存门槛适合本地跑MOSS-Image图像生成
  • 量化特点:熵编码,不是普通均匀量化;敏感层单独保高比特,兼顾显存、速度、画质损失

相关图书

MOSS-Image微调模型合集

MOSS-Image微调模型合集

MOSS-Image社区已经形成丰富生态,包含全量Checkpoint微调(画质、人像、电影风)、风格FT、DMD2快速采样LoRA,还有MOSSkr2这种零训练注意力嫁接方案;绝大多数模型兼容原有ComfyUI MOSS工作流,直接替换基座即可。
MOSS-Image-Edit-HQ

MOSS-Image-Edit-HQ

MOSS-Image-Edit-HQ armV4 是 MOSS-Image-SFT 社区图像编辑 LoRA,依靠掩码损失解决旧版全局色彩漂移问题,面部编辑明显变强;同时提供原生 ComfyUI 和插件两种接入格式,适合做局部改写、光影重绘,但显存开销较高,不兼容 Base 系列模型。
moss_image_base_dmd2

moss_image_base_dmd2

moss_image_base_dmd2 是面向 MOSS-Image-Base 的 8 步 LoRA,rank=128,采用分布匹配蒸馏方案。它用 CFG=1 条件下的 8 次前向,替代原基础模型 50 步引导采样,蒸馏信息已经内置在 LoRA 权重里,不需要负面提示词。
MOSS-Image CharRef

MOSS-Image CharRef

CharRef v2 是MOSS-Image生态里实用性很强的角色固定方案,依托KV缓存参考编辑路线,省去逐个角色微调LoRA的成本,非常适合漫画、二次元角色跨场景生成;短板集中在写实人脸、精细发型、单参考限制。