stable-diffusion.cpp项目构建体积优化指南

在stable-diffusion.cpp项目中，使用CUDA加速构建时可能会遇到生成的可执行文件体积过大的问题。本文将深入分析这一现象的原因，并提供有效的优化方案。

问题现象

当使用CUBLAS支持编译stable-diffusion.cpp项目时，默认配置下生成的可执行文件体积可能达到348MB。相比之下，Vulkan构建版本仅6.7MB，CPU构建版本仅4.5MB。这种显著的体积差异主要源于CUDA构建的特殊性。

原因分析

CUDA构建产生大体积二进制文件的主要原因包括：

1. 多架构支持：默认情况下，CUDA编译器会为多种SM(Streaming Multiprocessor)架构生成PTX(Parallel Thread Execution)代码，以兼容不同代的NVIDIA GPU。

2. 胖二进制(Fat Binary)：CUDA构建会包含多个版本的设备代码，确保在不同架构的GPU上都能运行。

3. 优化级别：Release模式下编译器会保留更多优化信息，虽然提高了性能，但也增加了体积。

优化方案

方案一：指定特定GPU架构

通过CMAKE_CUDA_ARCHITECTURES参数指定目标GPU的SM架构，可以显著减少二进制体积。例如，对于RTX 4080显卡(SM 89架构)：

cmake .. -DCMAKE_BUILD_TYPE=Release -DSD_CUBLAS=ON -DCMAKE_CUDA_ARCHITECTURES=89

优化效果：

• 默认多架构(52;61;70;75)构建：348MB
• 仅SM 89架构构建：115MB

方案二：禁用架构特定优化

项目代码中提供了一个更激进的优化选项：

set(CMAKE_CUDA_ARCHITECTURES "OFF")

这种配置下：

• 构建速度大幅提升
• 生成的可执行文件仅54MB
• 仅支持F16(Float16)模型

性能影响

经过实际测试，优化后的构建在保持相同性能的前提下显著减小了体积。例如，在RTX 4080上：

• 推理速度保持约5.3 iterations/秒
• 显存占用保持不变(约3.7GB VRAM)
• 生成时间保持约7.3秒(768x768分辨率)

最佳实践建议

1. 生产环境部署：建议使用CMAKE_CUDA_ARCHITECTURES指定目标GPU的具体架构，平衡体积和兼容性。

2. 开发环境：可以使用OFF选项快速构建，提高开发效率。

3. 多架构支持：如果需要支持多种GPU，可以指定多个架构，如-DCMAKE_CUDA_ARCHITECTURES="75;89"。

4. 模型兼容性：注意禁用架构优化(OFF)时仅支持F16模型，需确保模型格式匹配。

通过合理配置构建参数，开发者可以在保持高性能的同时，有效控制stable-diffusion.cpp项目的构建体积，优化部署和分发体验。