DeepFilterNet模型在Voicebank Demand测试集上的性能复现问题分析

问题背景

DeepFilterNet是一个开源的语音增强项目，包含多个版本模型。用户在使用过程中发现，在Voicebank Demand测试集上，DeepFilterNet1模型的性能与论文报告结果一致，但DeepFilterNet2和DeepFilterNet3模型的性能明显低于预期。

现象描述

测试结果显示，DeepFilterNet1的各项指标与论文相符，STOI达到0.942，PESQ为2.809。然而DeepFilterNet2的STOI仅为0.813，PESQ为2.714，SISDR甚至出现负值(-22.458)。DeepFilterNet3的表现更差，STOI低至0.619，虽然PESQ达到3.109，但SISDR为-24.651。

问题排查与解决

经过多次测试和版本对比，发现问题可能与PyTorch版本有关。当用户将PyTorch从1.13.1升级到2.2版本后，模型性能得到显著改善：

• DeepFilterNet2的STOI提升至0.925
• PESQ提升至2.823
• SISDR从负值变为正值13.759

技术分析

PyTorch版本差异可能导致以下方面的影响：

1. 计算精度差异：不同版本PyTorch的浮点运算实现可能有细微差别，影响模型推理结果。

2. 优化器行为变化：PyTorch内部优化算法在不同版本间可能有调整，影响模型权重加载和推理。

3. CUDA兼容性问题：如果使用GPU，不同PyTorch版本对CUDA的支持程度不同。

4. 算子实现变更：底层数学运算的实现方式可能随版本更新而变化。

建议解决方案

1. 使用匹配的PyTorch版本：推荐使用PyTorch 2.2或更高版本运行DeepFilterNet项目。

2. 检查依赖包版本：确保所有相关Python包(pystoi、pesq等)版本与项目要求一致。

3. 验证模型权重：确认使用的模型检查点文件完整无损。

4. 环境隔离：使用虚拟环境或容器技术确保运行环境一致性。

总结

在复现深度学习论文结果时，软件环境的一致性至关重要。PyTorch作为核心依赖，其版本差异可能导致模型性能的显著变化。本案例表明，即使模型架构和权重文件相同，运行环境的差异也可能导致结果不一致。建议研究者在复现结果时，首先确保软件环境与原始研究一致，特别是深度学习框架的版本。