PJSIP项目中视频编解码器导致的死锁问题分析与解决

问题背景

在PJSIP多媒体通信项目中，开发人员遇到了一个严重的死锁问题。当进行IP到IP的快速连续呼叫和挂断操作时，系统会出现"Timed-out trying to acquire PJSUA mutex"的错误，导致呼叫无法正常挂断。这个问题发生在Android 11系统上，使用PJSIP 2.12版本。

问题现象

从日志中可以观察到以下关键现象：

1. 当快速发起并挂断呼叫时，系统报出"Timed-out trying to acquire PJSUA mutex"错误
2. 挂断操作在pj_mutex_lock处被阻塞
3. 视频流处理过程中出现"Object is busy (PJ_EBUSY)"错误
4. 系统最终无法完成呼叫释放流程

问题根源分析

经过深入排查，发现问题根源在于自定义视频编解码器的实现上：

1. 视频RTP包处理异常：自定义的H.264编解码器在处理RTP包时进入了无限循环
2. 资源锁未释放：视频配置锁(vid-config lock)在处理过程中未能正确释放
3. 死锁形成：由于视频处理线程持有了vid-config锁，而挂断操作需要获取PJSUA互斥锁，形成了资源竞争

技术细节

锁竞争机制

PJSIP项目中存在多层次的锁机制来保证线程安全：

• PJSUA互斥锁：保护核心呼叫状态
• 视频配置锁：保护视频编解码器配置
• 媒体传输锁：保护RTP/RTCP传输

在本案例中，视频处理线程在持有vid-config锁的情况下，尝试进行资源释放，而释放过程又需要获取PJSUA互斥锁，而此时主线程可能正持有PJSUA锁并等待vid-config锁，从而形成典型的死锁场景。

视频处理流程异常

自定义H.264编解码器的RTP包处理逻辑存在缺陷：

1. 未能正确处理某些异常格式的RTP包
2. 错误处理路径中缺少锁释放机制
3. 缓冲区管理不当导致处理循环无法退出

解决方案

针对这一问题，我们采取了以下解决措施：

1. 修复视频编解码器实现：

   • 增加RTP包格式校验
   • 完善异常处理路径，确保资源释放
   • 优化缓冲区管理逻辑

2. 改进锁管理机制：

   • 减少锁的持有时间
   • 采用一致的锁获取顺序
   • 增加锁超时处理

3. 增强系统健壮性：

   • 添加死锁检测机制
   • 完善错误日志记录
   • 实现资源自动回收

经验总结

通过这个案例，我们可以得出以下重要经验：

1. 自定义编解码器开发需要格外注意资源管理和异常处理
2. 多线程环境下的锁管理必须遵循一致的获取顺序
3. 系统级死锁问题的排查需要结合日志分析和代码走查
4. 压力测试对于发现并发问题至关重要

预防措施

为避免类似问题再次发生，建议采取以下预防措施：

1. 在自定义模块中加入完善的错误处理机制
2. 对关键资源操作实现超时控制
3. 建立模块化的压力测试用例
4. 定期进行代码审查，特别是锁使用相关的代码

这个案例展示了在多媒体通信系统中，一个小小的编解码器实现缺陷可能导致系统级故障。通过深入分析和系统性解决，不仅修复了当前问题，也为项目积累了宝贵的经验。