在消费级GPU上跑通Supra2-IMG:AI文生图模型的CUDA、MPS与CPU三种部署实战

原创2026-10-21 11:00:461,459 阅读

在消费级GPU上跑通Supra2-IMG:AI文生图模型的CUDA、MPS与CPU三种部署实战

Supra2-IMG 是一个仅需 1 亿参数就能输出 SOTA 级画质的开源文生图(Text-to-Image)模型,由 SupraLabs 从零训练。它把"专业级 AI 绘图"的门槛拉到了极低:普通消费级 GPU、Mac 笔记本甚至纯 CPU 环境都能本地部署运行,全程只需一条命令。本文带你从零开始,完成 CUDA、Apple MPS、CPU 三种环境的完整部署。

🎯 Supra2-IMG 是什么?为什么值得本地部署

Supra2-IMG 是一个超轻量扩散 Transformer(DiT)文生图模型,在 560 万张高质量合成数据上训练了 10 个 epoch。它最吸引人的特点:

  • 参数量仅 104.1M:对比动辄数十亿参数的文生图大模型,它的部署成本极低
  • 画质越级:官方宣称在同尺寸级别模型中达到 SOTA 图像质量
  • 架构简洁:冻结的 Flan-T5-Base 文本编码器 + SD-VAE 解码器 + SupraDiT 主干,256×256 分辨率出图

核心规格一览(详见 README.md):

项目 规格
参数总量 104.1M(SupraDiT)
文本编码器 Flan-T5-Base(冻结)
图像解码器 SD-VAE-FT-MSE
输出分辨率 256 × 256
潜在空间尺寸 32 × 32(patch=2)
注意力头数 9 头,D_MODEL=576,深度 14 层
上下文长度 128 tokens

整个推理逻辑集中在单文件 inference.py 中,模型权重为 model_final_ema.pt(约 417MB,EMA 精度权重),结构定义参考 config.json。没有复杂的依赖树,对新手非常友好。

🖥️ 三种运行环境怎么选?

打开 inference.py 可以看到 pick_device() 函数:脚本会自动探测设备,无需任何手动配置:

  1. 优先 CUDA:检测到 NVIDIA GPU 即自动启用(并开启 bf16 混合精度加速)
  2. 其次 MPS:Apple 芯片(M 系列)自动走 Metal 加速
  3. 兜底 CPU:纯 CPU 运行,脚本会提示 "this will be slow",适合验证流程

选择建议:

环境 适用硬件 体验
CUDA NVIDIA 独显(6GB 显存以上体验舒适) ⭐⭐⭐ 最快,默认推荐
MPS Mac(M1/M2/M3/M4 芯片) ⭐⭐ 流畅,无需装 NVIDIA 驱动
CPU 任意 PC ⭐ 慢,适合调试与流程验证

显存方面完全不用担心:1 亿参数模型 + Flan-T5-Base + SD-VAE 的峰值占用只有几个 GB,主流消费级显卡都能轻松承载。

🚀 快速部署:三步跑通推理

第 1 步:获取项目代码

git clone https://gitcode.com/hf_mirrors/SupraLabs/Supra2-IMG
cd Supra2-IMG

💡 仓库使用 Git-LFS 管理模型文件,clone 后若 model_final_ema.pt 只有几 KB 的指针文件,需执行 git lfs pull 拉取真实权重。

第 2 步:安装 Python 依赖

需要 PyTorch、transformers、diffusers 等库。CUDA 环境请安装对应 GPU 版本的 PyTorch:

pip install torch torchvision transformers diffusers huggingface_hub tqdm

Apple Silicon 的 MPS 版本 PyTorch 与 CUDA 版安装命令相同,自动适配 Metal 后端。

第 3 步:执行推理

python inference.py --prompt "a sea jellyfish floating in the pitch-black ocean depths" --seed 0 --cfg 3.0 --steps 50 --n 1 --out jellyfish.png

首次运行时,ensure_checkpoint() 函数(inference.py#L239-L270)会自动检测本地权重,若 model_final_ema.pt 缺失会尝试联网下载;Flan-T5-Base 与 SD-VAE 也会通过 Hugging Face 自动拉取并缓存。

成功运行后的典型日志:

=== Supra2-IMG inference ===
[device] CUDA: NVIDIA GeForce RTX 4060 (8.6 GB)
[ckpt] found ./model_final_ema.pt
[model] building SupraDiT ...
[model] 104.1M parameters
[sample] Euler flow, 50 steps ...
[done] saved 1 image(s) -> jellyfish.png

🔧 三种环境部署要点

场景一:NVIDIA CUDA 环境(推荐)

部署后先自检:

python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

输出 True 和设备名即环境就绪。CUDA 路径下脚本会在 inference.py#L332-L335 自动启用 bfloat16 混合精度——文本编码、去噪采样、VAE 解码全程加速,这也是消费级 GPU 上体验最佳的原因。

场景二:Apple MPS 环境(Mac 用户)

M 系列芯片的 Mac 无需额外安装,只要 PyTorch 支持 MPS 后端,torch.backends.mps.is_available() 返回 True 即可直接使用。注意脚本仅在 CUDA 下启用 bf16 自动混合精度(见 inference.py#L332 的 use_amp 判断),MPS 走 fp32 推理,速度同样可接受。若个别算子不支持 Metal,PyTorch 会自动回退 CPU 计算,一般无需干预。

场景三:纯 CPU 环境(验证流程用)

没有 GPU 也能跑通。建议调低步数以节省时间:

python inference.py --prompt "a cute cat" --steps 30 --out cat.png

CPU 环境下 256×256 单图耗时较长,适合用来调试参数、验证 Prompt 效果,不建议批量出图。

📋 推荐参数速查表

官方推荐采样配置:--seed 0、--cfg 3.0、--steps 50(见 README.md)。全部参数如下(定义于 inference.py#L387-L399):

参数 默认值 说明
--prompt 水母示例句 文生图提示词(英文效果最佳,上限 128 tokens,超出自动截断并告警)
--seed 0 随机种子,同参数同种子可复现
--cfg 3.0 无分类器引导强度,越大越贴提示词
--steps 50 Euler 流采样步数,越多越精细但越慢
--n 1 一次性生成图片数量
--out jellyfish.png 输出图片路径,目录不存在会自动创建

❓ 常见问题排查

  • 权重文件只有 4KB? clone 时 Git-LFS 未拉取大文件,执行 git lfs pull 即可;或手动下载权重放到项目根目录。
  • 提示词太长被截断? 日志出现 WARNING: prompt has N tokens, truncated to ctx_len=128 属正常现象,建议精简 Prompt。
  • 想生成多张图? 加 --n 4,脚本会以网格形式拼接保存到同一张 PNG。
  • 想复现某张图? 固定 --seed 和 --cfg 即可,采样过程完全确定。

✅ 结语

Supra2-IMG 证明了"小而强"的路线:1 亿参数、单文件脚本、一条命令,消费级硬件即可本地跑通高质量文生图。无论你是 NVIDIA 显卡用户、Mac 玩家还是 CPU 党,都能按本文三步完成部署,把开源 AI 绘图模型真正装进自己的电脑。

登录后查看全文
Supra2-IMG