RustDesk远程桌面中VP9编码器黑色块问题的技术分析

问题现象

在使用RustDesk 1.3.2版本进行Windows 10到Windows 10的远程连接时，当使用VP9编码器且远程桌面背景为黑色时，会出现黑色方块显示异常。这些方块部分会在一段时间后消失，但部分会持续存在。该问题在窗口调整大小操作后尤为明显。

技术背景

VP9是由Google开发的开源视频编码格式，是VP8的后继者。它具有以下特点：

• 支持更高的压缩效率
• 专为网络传输优化
• 支持硬件加速
• 采用基于块的编码方式

在远程桌面应用中，编码器的选择直接影响图像质量和传输效率。RustDesk支持多种编码器，包括VP8、VP9和AV1等。

问题复现条件

经过测试，该问题具有以下特征：

1. 仅在VP9编码器下出现
2. 仅当远程桌面背景为纯黑色时发生
3. 窗口调整大小操作会触发该问题
4. 使用其他编码器(如AV1或VP8)时表现正常

问题排查过程

开发团队进行了多轮测试和参数调整尝试：

1. 尝试不同版本的libvpx库(1.31.1)
2. 测试多个自定义编译版本，逐步移除VP9编码参数：
   • 基础参数版本：无黑块但性能极差
   • 移除线程参数：问题依旧
   • 移除量化参数：问题依旧
   • 移除GOP参数：问题依旧
3. 测试不同参数组合对问题的影响

技术分析

从测试结果可以得出以下结论：

1. 问题与VP9编码器的特定实现有关
2. 黑色背景下的压缩算法可能存在问题
3. 参数调整无法完全解决问题
4. AV1编码器表现更优，建议作为替代方案

解决方案建议

基于测试结果，建议用户：

1. 使用AV1编码器替代VP9
2. 避免使用纯黑色背景
3. 等待后续版本更新

对于开发者：

1. 考虑默认使用AV1编码器
2. 深入研究VP9在黑色背景下的编码问题
3. 优化编码参数组合

总结

RustDesk中的VP9编码器在特定条件下会出现黑色方块显示异常的问题。经过多轮测试和参数调整，确认该问题是VP9编码器的固有缺陷。目前最佳解决方案是使用AV1编码器，它不仅没有这个问题，而且在动态场景下表现更为流畅。开发团队计划在后续版本中将AV1设为默认编码器，以提供更好的用户体验。