ADetailer项目在Forge UI下的UnpicklingError问题分析与解决方案

问题背景

在Debian GNU/Linux系统下使用Forge UI运行ADetailer扩展时，用户遇到了一个特定问题：ADetailer只能在首次运行时正常工作，后续尝试使用时会出现UnpicklingError错误，必须重启WebUI才能再次使用。这个问题的核心在于PyTorch 2.6版本对模型加载机制的变更。

技术分析

错误根源

PyTorch 2.6版本将torch.load函数的weights_only参数默认值从False改为True。这一变更旨在提高安全性，防止潜在的恶意代码执行。然而，这也导致了一些依赖旧行为的模型加载出现问题。

具体到ADetailer项目中，错误信息显示：

UnpicklingError: Weights only load failed. This file can still be loaded...

错误表明系统尝试加载ultralytics.nn.tasks.DetectionModel时失败，因为该模型类不在PyTorch默认允许的全局变量列表中。

影响范围

这一问题主要影响：

1. 使用PyTorch 2.6及以上版本的环境
2. 需要加载包含复杂模型结构的场景（如ADetailer的人脸检测功能）
3. 多次连续运行ADetailer的情况

解决方案

方法一：修改torch.serialization.py

1. 定位到文件：venv/lib/python3.11/site-packages/torch/serialization.py
2. 找到三处weights_only参数设置：
   • 第一处：weights_only = _default_to_weights_only(pickle_module)
   • 另外两处：weights_only = True
3. 将所有三处都修改为weights_only = False

注意：此方法直接修改库文件，可能在PyTorch更新后被覆盖。

方法二：环境变量解决方案

更优雅的解决方案是设置环境变量：

export TORCH_FORCE_NO_WEIGHTS_ONLY_LOAD=true

然后再运行webui.sh脚本。

这种方法：

• 不需要修改任何代码文件
• 在系统层面解决问题
• 不会影响其他PyTorch功能

方法三：代码级解决方案

对于开发者而言，可以在代码中添加：

from ultralytics.nn.tasks import DetectionModel
import torch.serialization

torch.serialization.add_safe_globals([DetectionModel])

这种方法将DetectionModel显式添加到安全全局变量列表中，既解决了问题又保持了安全性。

潜在问题与注意事项

1. 黑色图像问题：有用户报告修改后生成黑色图像，这可能是由于：

   • 模型加载不完整
   • GPU兼容性问题
   • 特定环境配置问题

2. 安全性考虑：将weights_only设为False会降低安全性，只应在信任模型来源的情况下使用。

3. 环境差异：不同Forge版本（如reForge）可能有不同的表现，需要针对性测试。

最佳实践建议

1. 优先使用环境变量解决方案，它最干净且可维护
2. 如果必须修改代码，考虑在项目启动时动态添加安全全局变量
3. 对于生产环境，建议等待ADetailer官方更新以完全兼容PyTorch 2.6+

总结

ADetailer在Forge UI下的这一问题是PyTorch安全机制升级带来的兼容性问题。通过理解错误本质和可用的解决方案，用户可以根据自身环境和需求选择最适合的解决方法。随着PyTorch生态的演进，这类问题有望在框架层面得到更好的处理。