在消费级GPU上跑通Supra2-IMG:AI文生图模型的CUDA、MPS与CPU三种部署实战
在消费级GPU上跑通Supra2-IMG:AI文生图模型的CUDA、MPS与CPU三种部署实战
Supra2-IMG 是一个仅需 1 亿参数就能输出 SOTA 级画质的开源文生图(Text-to-Image)模型,由 SupraLabs 从零训练。它把"专业级 AI 绘图"的门槛拉到了极低:普通消费级 GPU、Mac 笔记本甚至纯 CPU 环境都能本地部署运行,全程只需一条命令。本文带你从零开始,完成 CUDA、Apple MPS、CPU 三种环境的完整部署。
🎯 Supra2-IMG 是什么?为什么值得本地部署
Supra2-IMG 是一个超轻量扩散 Transformer(DiT)文生图模型,在 560 万张高质量合成数据上训练了 10 个 epoch。它最吸引人的特点:
- 参数量仅 104.1M:对比动辄数十亿参数的文生图大模型,它的部署成本极低
- 画质越级:官方宣称在同尺寸级别模型中达到 SOTA 图像质量
- 架构简洁:冻结的 Flan-T5-Base 文本编码器 + SD-VAE 解码器 + SupraDiT 主干,256×256 分辨率出图
核心规格一览(详见 README.md):
| 项目 | 规格 |
|---|---|
| 参数总量 | 104.1M(SupraDiT) |
| 文本编码器 | Flan-T5-Base(冻结) |
| 图像解码器 | SD-VAE-FT-MSE |
| 输出分辨率 | 256 × 256 |
| 潜在空间尺寸 | 32 × 32(patch=2) |
| 注意力头数 | 9 头,D_MODEL=576,深度 14 层 |
| 上下文长度 | 128 tokens |
整个推理逻辑集中在单文件 inference.py 中,模型权重为 model_final_ema.pt(约 417MB,EMA 精度权重),结构定义参考 config.json。没有复杂的依赖树,对新手非常友好。
🖥️ 三种运行环境怎么选?
打开 inference.py 可以看到 pick_device() 函数:脚本会自动探测设备,无需任何手动配置:
- 优先 CUDA:检测到 NVIDIA GPU 即自动启用(并开启 bf16 混合精度加速)
- 其次 MPS:Apple 芯片(M 系列)自动走 Metal 加速
- 兜底 CPU:纯 CPU 运行,脚本会提示 "this will be slow",适合验证流程
选择建议:
| 环境 | 适用硬件 | 体验 |
|---|---|---|
| CUDA | NVIDIA 独显(6GB 显存以上体验舒适) | ⭐⭐⭐ 最快,默认推荐 |
| MPS | Mac(M1/M2/M3/M4 芯片) | ⭐⭐ 流畅,无需装 NVIDIA 驱动 |
| CPU | 任意 PC | ⭐ 慢,适合调试与流程验证 |
显存方面完全不用担心:1 亿参数模型 + Flan-T5-Base + SD-VAE 的峰值占用只有几个 GB,主流消费级显卡都能轻松承载。
🚀 快速部署:三步跑通推理
第 1 步:获取项目代码
git clone https://gitcode.com/hf_mirrors/SupraLabs/Supra2-IMG
cd Supra2-IMG
💡 仓库使用 Git-LFS 管理模型文件,clone 后若 model_final_ema.pt 只有几 KB 的指针文件,需执行
git lfs pull拉取真实权重。
第 2 步:安装 Python 依赖
需要 PyTorch、transformers、diffusers 等库。CUDA 环境请安装对应 GPU 版本的 PyTorch:
pip install torch torchvision transformers diffusers huggingface_hub tqdm
Apple Silicon 的 MPS 版本 PyTorch 与 CUDA 版安装命令相同,自动适配 Metal 后端。
第 3 步:执行推理
python inference.py --prompt "a sea jellyfish floating in the pitch-black ocean depths" --seed 0 --cfg 3.0 --steps 50 --n 1 --out jellyfish.png
首次运行时,ensure_checkpoint() 函数(inference.py#L239-L270)会自动检测本地权重,若 model_final_ema.pt 缺失会尝试联网下载;Flan-T5-Base 与 SD-VAE 也会通过 Hugging Face 自动拉取并缓存。
成功运行后的典型日志:
=== Supra2-IMG inference ===
[device] CUDA: NVIDIA GeForce RTX 4060 (8.6 GB)
[ckpt] found ./model_final_ema.pt
[model] building SupraDiT ...
[model] 104.1M parameters
[sample] Euler flow, 50 steps ...
[done] saved 1 image(s) -> jellyfish.png
🔧 三种环境部署要点
场景一:NVIDIA CUDA 环境(推荐)
部署后先自检:
python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"
输出 True 和设备名即环境就绪。CUDA 路径下脚本会在 inference.py#L332-L335 自动启用 bfloat16 混合精度——文本编码、去噪采样、VAE 解码全程加速,这也是消费级 GPU 上体验最佳的原因。
场景二:Apple MPS 环境(Mac 用户)
M 系列芯片的 Mac 无需额外安装,只要 PyTorch 支持 MPS 后端,torch.backends.mps.is_available() 返回 True 即可直接使用。注意脚本仅在 CUDA 下启用 bf16 自动混合精度(见 inference.py#L332 的 use_amp 判断),MPS 走 fp32 推理,速度同样可接受。若个别算子不支持 Metal,PyTorch 会自动回退 CPU 计算,一般无需干预。
场景三:纯 CPU 环境(验证流程用)
没有 GPU 也能跑通。建议调低步数以节省时间:
python inference.py --prompt "a cute cat" --steps 30 --out cat.png
CPU 环境下 256×256 单图耗时较长,适合用来调试参数、验证 Prompt 效果,不建议批量出图。
📋 推荐参数速查表
官方推荐采样配置:--seed 0、--cfg 3.0、--steps 50(见 README.md)。全部参数如下(定义于 inference.py#L387-L399):
| 参数 | 默认值 | 说明 |
|---|---|---|
--prompt |
水母示例句 | 文生图提示词(英文效果最佳,上限 128 tokens,超出自动截断并告警) |
--seed |
0 | 随机种子,同参数同种子可复现 |
--cfg |
3.0 | 无分类器引导强度,越大越贴提示词 |
--steps |
50 | Euler 流采样步数,越多越精细但越慢 |
--n |
1 | 一次性生成图片数量 |
--out |
jellyfish.png | 输出图片路径,目录不存在会自动创建 |
❓ 常见问题排查
- 权重文件只有 4KB? clone 时 Git-LFS 未拉取大文件,执行
git lfs pull即可;或手动下载权重放到项目根目录。 - 提示词太长被截断? 日志出现
WARNING: prompt has N tokens, truncated to ctx_len=128属正常现象,建议精简 Prompt。 - 想生成多张图? 加
--n 4,脚本会以网格形式拼接保存到同一张 PNG。 - 想复现某张图? 固定
--seed和--cfg即可,采样过程完全确定。
✅ 结语
Supra2-IMG 证明了"小而强"的路线:1 亿参数、单文件脚本、一条命令,消费级硬件即可本地跑通高质量文生图。无论你是 NVIDIA 显卡用户、Mac 玩家还是 CPU 党,都能按本文三步完成部署,把开源 AI 绘图模型真正装进自己的电脑。