FreeRDP音频编码问题分析与解决方案

问题背景

FreeRDP是一款开源的远程桌面协议(RDP)实现，允许用户连接到Windows远程桌面。近期在使用FreeRDP进行Teams视频通话时发现了一个音频编码相关的稳定性问题：首次通话正常，但第二次通话会导致会话崩溃。

问题现象

具体表现为：

1. 使用xfreerdp连接Windows主机
2. 在Teams中进行测试通话
3. 结束通话后再次测试通话时
4. 会话崩溃并断开连接

错误分析

从日志中可以看到关键错误信息：

[aac @ 0x7fa3a855ed00] Qavg: 591.233
[aac @ 0x7fa3a855ed00] 2 frames left in the queue on closing
[aac @ 0x7fa3a86af600] Input contains (near) NaN/+-Inf
[ERROR][com.freerdp.dsp.ffmpeg] - [ffmpeg_encode_frame]: Error submitting the packet to the encoder Invalid argument [-22]

这表明问题出在FFmpeg的AAC编码器上，编码过程中出现了非法数值(NaN/±Inf)，导致编码失败并最终使会话崩溃。

根本原因

经过深入分析，发现以下关键因素：

1. FFmpeg AAC编码器的不稳定性：FFmpeg内置的AAC编码器在某些情况下会产生非法数值，特别是在编码队列处理时。

2. ALSA音频后端的限制：当前配置使用了ALSA音频后端，这在处理连续音频流时存在已知问题。

3. 编码器资源清理问题：在通话结束后，编码器资源未能完全清理干净，影响后续通话。

解决方案

针对上述问题，推荐以下解决方案：

1. 使用FDK-AAC替代FFmpeg AAC编码器

   • FDK-AAC编码器更加稳定可靠
   • 避免了FFmpeg编码器中的除以零等问题
   • 需要在编译时启用FDK-AAC支持

2. 改用PulseAudio音频后端

   • PulseAudio比ALSA更适合处理连续音频流
   • 提供更好的音频设备管理和混音能力
   • 减少音频缓冲区欠载(underrun)问题

3. 更新编译配置

   • 在构建FreeRDP时添加FDK-AAC支持
   • 禁用FFmpeg的AAC编码功能
   • 确保使用PulseAudio作为默认音频后端

实施建议

对于系统管理员或终端用户：

1. 检查系统是否安装了FDK-AAC库
2. 重新编译FreeRDP时添加-DWITH_FDK_AAC=ON选项
3. 在运行时配置中使用PulseAudio后端而非ALSA
4. 监控音频编码质量指标，确保稳定性

对于开发者：

1. 在音频编码模块中添加更严格的输入验证
2. 改进编码器资源的清理机制
3. 增加对异常情况的恢复处理
4. 考虑实现编码器热切换功能

总结

FreeRDP在音频处理特别是AAC编码方面存在稳定性问题，主要源于FFmpeg编码器的实现缺陷。通过改用FDK-AAC编码器和PulseAudio后端，可以显著提高音频通话的稳定性。这一解决方案已在FreeRDP的夜间构建版本中实施，用户可以通过更新到最新版本获得这些改进。