ComfyUI-Drama3:8GB 显卡跑 Fish Audio Drama 3(35B MoE TTS),支持多角色对话、声音克隆与 ASR 转录

插件8小时前发布 小马良
5 0

ComfyUI-Drama3 是一款专为在消费级硬件上运行 Fish Audio Drama 3(35B 参数文本转语音模型)而设计的 ComfyUI 自定义节点包。该工具通过创新的显存管理策略,成功打破了庞大 MoE(混合专家)模型的硬件壁垒,使 8 GB 显存的显卡也能流畅实现高质量的声音克隆、多角色对话生成及精细的情感控制。

  • GitHub:https://github.com/PedroMarinhoDev/ComfyUI-Drama3
ComfyUI-Drama3:8GB 显卡跑 Fish Audio Drama 3(35B MoE TTS),支持多角色对话、声音克隆与 ASR 转录

Fish Audio发布Drama 3 :情感表现力升级TTS,发音稳健性榜单第一,权重开源

核心特性与技术突破

  • 突破显存限制的 MoE 调度:Drama 3 模型 90% 的权重为路由专家。该节点包通过自定义 CUDA 内核,将约 6 GB 的基础权重常驻 GPU,而将 32 GB 的专家权重保留在系统 RAM 中。GPU 仅缓存最常用的专家,未命中时通过 PCIe 直接从 RAM 读取或由 CPU 辅助计算(int8 格式下),实现了显存占用与推理速度的完美平衡。
  • 极速推理体验:经过 2026 年 10 月的底层优化(CUDA 图重放),一块 RTX 3090 生成 9 秒台词仅需 6.7 秒(约为实时的 1.3 倍),而在双卡(如 3090 + 4090)配置下更是缩短至 2.8 秒。
  • 精细的语音控制:
    • 多角色对话:支持单文本中最多 16 位说话者,通过 <|speaker:N|> 标签精准分配音色。
    • 内联提示与导演指导:支持 [sighs]、[whispers] 等点标签,<whisper>...</whisper> 等范围标签,以及自然语言风格前缀(如 [with bright eager excitement]),实现对语气、停顿和情感的精准把控。
  • 无缝的声音克隆与复用:仅需几秒干净音频及其转录稿即可完成声音编码。编码后的声音可保存为仅几 KB 的 .safetensors 文件,后续可直接加载使用,无需重复运行编解码器。
  • 原生集成 Qwen3-ASR:内置 1.7B 和 0.6B 版本的 Qwen3-ASR 语音识别模型,支持 30 种语言的自动转录与强制对齐,无需安装任何额外依赖包。

硬件适配与量化格式选择

为适应不同配置的硬件,该包提供了多种量化格式的模型文件,用户可根据自身显存和系统 RAM 灵活选择:

  • FP8:保留最原始的权重精度,适合 24 GB 及以上显存且系统 RAM 充足(约 48 GB)的用户。
  • int8 (ConvRot):在 24 GB 以下显存的显卡上表现最佳。当 VRAM 缓存未命中时,CPU 可高效参与 int8 专家的计算,显著减少沉默或卡顿现象。
  • W6A8 / W4A8:进一步压缩模型体积(最低约 24.6 GB 系统 RAM 占用),适合系统内存受限的场景,但在使用真实语音片段克隆时,出现沉默的概率略高于 int8。

核心工作流节点

ComfyUI-Drama3 提供了一套完整且模块化的节点,支持高度定制化的音频生产管线:

  1. Load Drama 3 / Codec:加载主模型与编解码器(编解码器仅在生成前后调用,不常驻显存)。
  2. Drama 3 Encode / Save / Load Voice:完成声音的编码、持久化存储与快速加载。
  3. Drama 3 Generate:核心生成节点,支持长文本自动分块处理,并提供多种说话人生成策略(如逐行生成、带上下文生成或全剧本联合生成)。
  4. Drama 3 Editor:提供可视化编辑界面,支持逐词对齐检查、静音调整、轨道分离及音量设置,修改后的配置可直接反馈回生成节点。
  5. Qwen3-ASR Transcribe:一键将音频转为带语言检测的精确文本,极大简化了声音克隆的准备工作。

使用建议与注意事项

  • 提示词策略:官方建议保持 temperature 1.0、top_p 0.9。避免使用过高的 top_k(如 30),这可能导致模型在停顿处异常沉默。
  • 长文本处理:节点会自动将长文本切分为约 300 字节的块,建议将“导演指导”(Direction)与其对应的“台词”(Line)保持在同一个块内,以确保情感指令不被截断。
  • 克隆质量:模型倾向于模仿参考音频的“交付风格”。平淡的参考音频会产生平淡的生成结果,建议提供富有表现力的干净录音以获得最佳效果。
© 版权声明

相关文章