一文看懂FP8 Scaled量化:Wan-Dancer如何为14B扩散模型节省显存
一文看懂FP8 Scaled量化:Wan-Dancer如何为14B扩散模型节省显存
🎵 Wan-Dancer 是 Wan2.2-Dancer-14B 音乐舞蹈视频生成模型的 FP8 Scaled 量化版,专为 ComfyUI 重新打包。它用 FP8 量化技术把 14B 扩散模型的文件体积和显存占用直接砍掉近一半,让原本装不下 14B 大模型的显卡也能流畅运行。本文带你一文看懂 FP8 Scaled 量化原理、Wan-Dancer 模型包内容,以及最快速的安装使用步骤。
📌 Wan-Dancer 是什么?
Wan-Dancer 是一个"音乐 → 舞蹈视频"的生成模型:给一段音乐,它就能生成与之节奏匹配的舞蹈视频。原始模型为 Wan2.2-Dancer-14B,参数规模 14B(140 亿)。
本仓库 Wan-Dancer 提供了两个重新打包的权重文件,放在 diffusion_models/ 目录下:
| 文件 | 说明 | 实际大小 |
|---|---|---|
| diffusion_models/wan2.2_dancer_14b_global_fp8_scaled.safetensors | global 全局模型 | 18,342,596,856 字节 ≈ 17.1 GB |
| diffusion_models/wan2.2_dancer_14b_local_fp8_scaled.safetensors | local 局部模型 | 18,342,596,856 字节 ≈ 17.1 GB |
Wan2.2 系列采用"双专家"分工设计:
- global 全局模型:负责生成整体的舞蹈动作结构与运动框架
- local 局部模型:负责细化局部细节,让肢体动作、画面质感更精致
两个文件各司其职,由 ComfyUI 工作流在采样不同阶段自动调度,安装时两个文件缺一不可。
🧮 FP8 Scaled 量化是什么?为什么能省显存?
用更少的位存一个数
模型权重的存储精度(数据类型)直接决定体积和显存占用:
| 数据类型 | 每参数位宽 | 14B 模型权重体积(约) |
|---|---|---|
| FP32 | 32 bit | 56 GB |
| BF16 / FP16 | 16 bit | 28 GB |
| FP8 | 8 bit | ≈ 17 GB(含 scale 等开销) |
FP8 把每个权重从 16 bit 压缩到 8 bit,体积直接减半。Wan-Dancer 中每个模型文件约 17.1 GB,而同样精度的 BF16 版本需要 28 GB 左右——显存占用近乎减半。
"scaled" 是关键:压缩不失真的秘密
FP8(E4M3 格式)的数值动态范围很小,直接存权重会大量溢出。Wan-Dancer 的解法是 Scaled 缩放:
- 保存时:对每个张量计算一个缩放系数(scale),把权重等比缩放到 FP8 可表示的范围内再存储;
- 加载时:ComfyUI 读取权重和 scale,自动做反向缩放,还原成 BF16 精度参与计算。
也就是说,磁盘和显存里存的是 8 bit,GPU 上算的仍是 16 bit,精度损失被压到极低。这也是文件名中 fp8_scaled 后缀的含义——它是 ComfyUI 原生识别的量化格式。
🚀 最快安装步骤:3 步跑通 Wan-Dancer
第 1 步:下载模型文件
由于模型文件通过 Git LFS 管理(单个约 17 GB),建议安装 LFS 后克隆仓库:
git lfs install
git clone https://gitcode.com/hf_mirrors/Comfy-Org/Wan-Dancer
⚠️ 避坑提示:克隆后请检查文件大小,应为约 17 GB 每个。如果只有几百字节,说明拿到的是 LFS 指针文件,需补执行:
git lfs pull
也可以直接去镜像站下载这两个 .safetensors 文件,效果相同。
第 2 步:放入 ComfyUI 模型目录
按 README.md 的说明,把两个文件放入:
📂 ComfyUI/
└── 📂 models/
└── 📂 diffusion_models/
├── wan2.2_dancer_14b_global_fp8_scaled.safetensors
└── wan2.2_dancer_14b_local_fp8_scaled.safetensors
第 3 步:加载权重,选择工作流
- 在 ComfyUI 的 UNET Loader 节点中分别选择 global / local 两个模型,ComfyUI 会自动识别
fp8_scaled格式并动态反量化,无需任何额外节点或参数; - 导入官方配套的 "Music to Dance" 音乐转舞蹈工作流,填入音乐文件即可开始生成。
💡 显存优化效果与适用显卡
| 场景 | 大致需求 |
|---|---|
| BF16 原版 14B 权重 | 仅权重就需约 28 GB 显存 |
| FP8 Scaled 量化版 | 权重降至约 17 GB,24 GB 显卡可轻松容纳 |
再叠加 ComfyUI 的按需加载与模型卸载机制,配合低分辨率出图,16 GB 级别的显卡也有机会跑起来。需要注意:
- FP8 反量化在 Ampere / Ada / Hopper 及更新架构(RTX 30 系及以上)上效率最佳,更早的显卡加载后会自动回退到 16 bit 计算,体积优势仍在、速度优势减弱;
- 量化主要压缩的是权重,采样过程中的中间激活仍按全精度计算,因此"省显存"不等于"零成本",仍建议配合 ComfyUI 的
--lowvram等低显存参数使用。
📝 小结
- Wan-Dancer = Wan2.2-Dancer-14B 的 ComfyUI 量化打包版,用于音乐生成舞蹈视频;
- FP8 Scaled 量化:8 bit 存储 + per-tensor 缩放,权重体积和显存占用近乎减半,加载时自动还原精度;
- global + local 双文件缺一不可,放入
ComfyUI/models/diffusion_models/即可被 UNET Loader 直接识别; - 17 GB/文件的体积,让 14B 大模型在 24 GB 消费级显卡上从"跑不动"变成"跑得动"。