为什么建议把模型存到本地?Qwen-Image-2.1-Turbo-MFlux-Q8 离线部署与 hf download 使用指南
为什么建议把模型存到本地?Qwen-Image-2.1-Turbo-MFlux-Q8 离线部署与 hf download 使用指南
Qwen-Image-2.1-Turbo-MFlux-Q8 是 Qwen-Image-2.1-Turbo 文生图模型的 MFlux Q8 量化版本,专为 Apple Silicon Mac 本地 AI 绘图设计。本文讲清楚为什么建议把模型权重存到本地,以及如何用 hf download 命令完成离线部署、用本地路径生成第一张图片。
先认识一下:Qwen-Image-2.1-Turbo-MFlux-Q8 是什么?
- 官方模型的社区量化版:由 MFlux-Community 转换,体积约 17.8 GB(BF16 原版约 32.5 GB),量化级别已写入权重,使用时无需
--quantize参数 - 原生 MLX 运行:基于 MFlux 框架,在 Mac 上以原生 MLX 推理,无需额外 GPU 驱动
- Turbo 特性:管道配置 model_index.json 中仅定义了 8 个采样步长(sample_sigmas),出图速度快
各量化版本体积对比 📦
| 量化级别 | 体积 |
|---|---|
| BF16 | 32.5 GB |
| Q8(本文主角) | 17.8 GB |
| Q6 | 13.9 GB |
| Q5 | 11.9 GB |
| Q4 | 10.0 GB |
| Q3 | 8.0 GB |
💡 内存紧张可以选更小的量化档,质量优先则选 Q8/BF16。
仓库目录结构速览
整个模型仓库结构清晰,下载后本地目录也保持同样布局:
| 路径 | 说明 |
|---|---|
| model_index.json | 管道入口配置,定义 processor、scheduler、text_encoder、transformer、vae 各组件 |
| processor/ | Qwen3VLProcessor 分词与预处理配置 |
| scheduler/ | FlowMatchEulerDiscreteScheduler 采样调度配置 |
| text_encoder/ | 文本编码器权重(Qwen3VLForConditionalGeneration,5 个分片) |
| transformer/ | 图像生成主干网络权重(QwenImage21Transformer2DModel,4 个分片) |
| vae/ | 变分自编码器权重(AutoencoderKLQwenImage21,1 个分片) |
| manifest.json | 仓库文件完整性校验和(sha256) |
为什么建议把模型存到本地?
默认情况下,MFlux 会在首次使用时在线拉取约 17.8 GB 的权重。对普通用户来说,主动用 hf download 下载到本地有这些好处:
- ⚡ 首次生成不再"现下载":避免每次第一次启动都要长时间等待下载,也不怕下载到一半网络波动导致失败
- 🔌 离线可用:没有网络、公司内网、出差途中也能正常出图
- 🚀 加载更快更稳:本地磁盘读取速度快于网络下载,每次启动加载时间更短
- 💾 省流量:不用反复传输 17.8 GB 的大文件
- 🖥️ 多设备共享方便:拷贝到 NAS 或移动硬盘后,各台 Mac 只需把
--model参数指向对应本地路径 - ✅ 版本可控:文件齐全与否一目了然,还可对照 manifest.json 中的校验和核对完整性
一键安装 MFlux
uv tool install --upgrade mflux
该命令会安装并升级 MFlux(依赖 uv 环境管理工具),安装后即可使用 mflux-generate-qwen-2.1 命令。
用 hf download 把模型下载到本地
hf download mflux-community/qwen-image-2-1-turbo-mflux-q8 --local-dir ./qwen-image-2-1-turbo-mflux-q8
要点:
--local-dir指定本地存放目录,下载完成后权重分片与全部配置文件都在该目录中- 建议预留至少 20 GB 磁盘空间
- 支持断点续传:网络中断后重新执行同一条命令即可接着下
用本地模型路径生成第一张图片
下载完成后,把 --model 指向本地目录即可(注意:不再写远程仓库名):
mflux-generate-qwen-2.1 \
--model ./qwen-image-2-1-turbo-mflux-q8 \
--base-model qwen-image-2.1-turbo \
--prompt "A puffin standing on a cliff" \
--width 1024 \
--height 1024 \
--seed 42 \
--output image.png
常用参数说明
| 参数 | 说明 |
|---|---|
--model |
模型来源:远程仓库名或本地目录路径(离线部署的关键) |
--base-model |
基础模型名,此处固定为 qwen-image-2.1-turbo |
--prompt |
提示词,描述你想生成的画面 |
--width / --height |
输出尺寸,如 1024×1024 |
--seed |
随机种子,固定后可复现同样结果 |
--output |
输出图片文件路径 |
如果 --model 直接写 mflux-community/qwen-image-2-1-turbo-mflux-q8,则首次运行时会自动在线下载——这正是本地部署想要避免的场景。
常见问题与避坑建议
- 内存要求:Q8 版约 17.8 GB,建议在统一内存 24 GB 及以上的 Apple Silicon Mac 上运行
- 想换更省内存的版本? 把
--model换成对应量化档的仓库名(如 Q6、Q5)或本地目录即可 - 下载中断了? 重跑同一条
hf download命令,会自动续传
许可证说明
本仓库继承原始模型的 qwen-research 许可证,请查阅原始模型卡中的完整条款与使用限制。权重相对原始发布版本仅做了 MLX 转换与量化处理。
小结
| 场景 | 推荐做法 |
|---|---|
| 偶尔体验 | --model 直接写远程仓库名,首次自动下载 |
| 日常使用 / 离线出图 | 先 hf download 到本地,--model 指向本地目录 |
一句话总结:首次花十几分钟下载一次,之后每次生成都是秒级加载、离线可用——这就是把 Qwen-Image-2.1-Turbo-MFlux-Q8 存到本地的全部价值。
登录后查看全文