Janus Gateway中的多线程死锁问题分析与修复

问题背景

Janus Gateway作为一款开源的WebRTC服务器，在处理高并发场景时可能会遇到性能瓶颈和稳定性问题。近期在项目开发过程中，我们发现了一个严重的系统稳定性问题：Janus服务器在高负载情况下会出现服务卡死现象，表现为无法创建新会话，同时日志中不断输出"Destroying WebSocket client"信息。

问题现象分析

根据实际生产环境中的观察，问题表现为两种形式：

1. 服务卡死：Janus停止接受新会话创建请求，日志中持续输出WebSocket客户端销毁信息，但无法处理新连接。此时服务器并未崩溃，而是进入了某种阻塞状态。

2. 资源耗尽崩溃：在崩溃前，日志中会出现线程创建失败的错误信息"Error creating thread: Resource temporarily unavailable"，表明系统资源可能已被耗尽。

问题定位过程

通过逐步排查和代码分析，我们发现了几个可能导致问题的关键点：

1. UDP套接字创建时的锁未释放：在创建UDP套接字失败的情况下，代码直接跳转到错误处理路径，但未释放已获取的锁，导致锁泄漏。

2. 锁获取顺序不一致：在VideoRoom插件中，存在两处代码以不同顺序获取streams_mutex和room->mutex的情况，这可能导致经典的AB-BA死锁问题。

技术细节分析

锁泄漏问题

在UDP套接字创建失败的处理路径中，代码直接跳转到错误处理而忽略了锁的释放。这种资源泄漏会逐渐消耗系统资源，最终导致服务不可用。

死锁问题

VideoRoom插件中存在两处关键代码路径：

1. 通知发布者路径：先获取streams_mutex，然后在通知函数内部获取room->mutex
2. 列出参与者路径：先获取room->mutex，然后尝试获取streams_mutex

这种交叉获取锁的顺序违反了锁获取的一致性原则，在高并发场景下极有可能导致死锁。

解决方案

针对上述问题，我们提出了以下解决方案：

1. 修复锁泄漏：确保在所有错误处理路径中都正确释放已获取的锁，特别是在UDP套接字创建失败的情况下。

2. 统一锁获取顺序：重构代码以确保所有路径都以相同顺序获取锁。具体来说，可以考虑：

   • 将room->mutex的获取移到通知函数外部
   • 或者将streams_mutex的获取移到通知函数内部

第一种方案虽然会增加锁的持有时间，但能确保锁获取顺序的一致性；第二种方案则需要仔细评估可能的竞态条件。

验证与测试

在修复方案实施后，我们进行了以下验证：

1. 功能测试：确保基本功能不受影响
2. 压力测试：在高并发场景下验证系统稳定性
3. 长期运行测试：验证资源泄漏问题是否真正解决

测试结果表明，修复后的版本在高负载下运行稳定，未再出现服务卡死或崩溃的情况。

经验总结

通过这次问题的排查和修复，我们获得了以下经验：

1. 锁管理：在多线程编程中，必须严格管理锁的获取和释放顺序，特别是在错误处理路径中。

2. 资源管理：所有资源（包括锁、内存、文件描述符等）的获取和释放必须成对出现，最好使用RAII模式管理。

3. 死锁预防：在设计多线程系统时，应制定并严格遵守锁获取顺序规则，避免交叉获取锁的情况。

4. 测试验证：修复并发问题后，必须进行充分的压力测试和长期运行测试，以确保问题真正解决。

这些经验对于开发高并发、高可用的实时通信系统具有普遍指导意义。