Stable Diffusion WebUI DirectML 项目中的 ONNX 模型转换问题分析与解决方案

问题背景

在 Stable Diffusion WebUI DirectML 项目中，用户在使用 ONNX 运行时进行模型转换时遇到了一个常见的技术问题。当尝试将特定模型转换为 ONNX 格式时，系统会抛出错误信息："Exporting the operator 'aten::scaled_dot_product_attention' to ONNX opset version 14 is not supported"。

问题现象

用户在使用特定模型（如 corneos-7th-heaven-mix）进行图像生成时，控制台会显示以下关键错误信息：

ERROR: missing-standard-symbolic-function
Exporting the operator 'aten::scaled_dot_product_attention' to ONNX opset version 14 is not supported.

这个错误会导致模型转换失败，进而影响后续的图像生成过程。错误表明当前版本的 PyTorch 不支持将 scaled_dot_product_attention 操作符导出到 ONNX opset 版本 14。

技术原理分析

1. ONNX 模型转换：ONNX（Open Neural Network Exchange）是一种用于表示深度学习模型的开放格式。在 Stable Diffusion 中，将 PyTorch 模型转换为 ONNX 格式可以带来性能优化。

2. scaled_dot_product_attention：这是 PyTorch 2.0 引入的一个关键注意力机制操作符，用于优化 Transformer 架构中的注意力计算。该操作符在较新版本的 PyTorch 中才得到完整支持。

3. 版本兼容性问题：错误表明当前环境中的 PyTorch 版本可能过低，或者 ONNX 导出功能不完整，无法处理这个特定的操作符。

解决方案

经过项目维护者和社区成员的验证，确认以下解决方案有效：

1. 升级 PyTorch 版本： 执行以下命令升级 PyTorch 到 2.2.0 版本：

   .\venv\Scripts\activate
   pip install torch==2.2.0 torchvision --upgrade
   

2. 清理缓存： 如果升级后问题仍然存在，建议删除 models/ONNX/cache 目录中的缓存文件，这些文件可能在之前的转换尝试中已损坏。

3. 环境重置： 对于顽固性问题，可以尝试完全删除 venv 虚拟环境目录，然后重新初始化项目环境。

其他相关问题的处理

1. VAE 模型问题：

   • 部分用户报告 VAE 模型选择后自动重置为"Automatic"
   • 解决方案：确保使用 .safetensors 格式的 VAE 模型
   • 最新版本已修复此问题

2. 提示词长度限制：

   • ONNX 运行时默认限制提示词长度为 77 个 token
   • 项目正在开发支持更长提示词的功能

3. SDXL 模型支持：

   • 确保在设置中选择正确的 Diffusers 管道类型（ONNX Stable Diffusion XL）
   • 检查 FP16/FP32 优化选项的配置

最佳实践建议

1. 安装注意事项：

   • 避免在 webui-user.bat 中使用 --use-directml 参数与 ONNX 同时使用
   • 确保项目路径不包含特殊字符或空格

2. 模型转换：

   • 首次使用新模型时，系统会自动进行 ONNX 转换
   • 转换过程可能需要较长时间和大量系统资源

3. 故障排查：

   • 查看控制台日志获取详细错误信息
   • 对于路径相关问题，检查 config.json 中的绝对路径设置

结论

ONNX 模型转换是 Stable Diffusion WebUI DirectML 项目中的重要功能，能够显著提升性能。遇到 scaled_dot_product_attention 导出错误时，通过升级 PyTorch 版本可以有效解决问题。项目维护团队持续优化 ONNX 支持，建议用户关注更新以获取更好的使用体验和功能支持。