在kohya-ss/sd-scripts项目中加载SD3.5-Large模型进行LoRA训练的问题解析

在使用kohya-ss/sd-scripts项目进行Stable Diffusion 3.5-Large模型的LoRA训练时，开发者可能会遇到模型加载失败的问题。本文将从技术角度分析这一问题的原因及解决方案。

问题现象

当尝试使用Diffusers格式（文件夹结构）的Stable Diffusion 3.5-Large模型进行LoRA训练时，系统会抛出"OSError: No such device (os error 19)"错误。这一错误发生在尝试加载safetensors文件时，表明当前脚本不支持这种加载方式。

根本原因

kohya-ss/sd-scripts项目在设计时对模型加载方式做了特定限制：

1. 不支持Diffusers格式的模型加载（即文件夹结构的模型）
2. 仅支持单一safetensors格式的模型文件

解决方案

要解决这个问题，开发者需要：

1. 获取单一文件格式的SD3.5-Large模型文件（sd3.5_large.safetensors）
2. 在训练脚本中指定该文件路径而非文件夹路径

技术建议

1. 模型格式转换：如果只有Diffusers格式的模型，需要先将其转换为单一safetensors文件
2. 路径配置：确保训练脚本中的pretrained_model_name_or_path参数指向正确的safetensors文件
3. 版本兼容性：检查所用脚本版本是否支持SD3.5-Large模型

最佳实践

对于LoRA训练工作流，建议：

1. 始终使用官方提供的单一文件格式模型
2. 在训练前验证模型加载是否正常
3. 保持训练脚本和依赖库的最新版本

通过遵循这些指导原则，开发者可以避免模型加载问题，顺利开展LoRA训练工作。