Jetty项目中WebSocket的Permessage-Deflate扩展内存泄漏问题分析

问题背景

在Jetty项目中，当使用WebSocket协议并启用了permessage-deflate扩展时，发现存在内存泄漏问题。具体表现为：服务器会持续保留发送给客户端的最后一条消息的内存，直到WebSocket连接关闭或发送下一条新消息。

技术细节分析

permessage-deflate是WebSocket协议的一个扩展，用于支持消息压缩。Jetty实现中，当这个扩展被激活时，系统会使用Deflater类来处理消息压缩。问题出在压缩处理完成后，系统未能及时释放已压缩消息占用的内存。

关键的技术点在于：

1. Deflater对象管理：Jetty使用Deflater实例来处理消息压缩，压缩完成后，输入缓冲区（包含原始消息数据）未被清空

2. 内存保留机制：系统保留了最后发送消息的byte数组，这些数组通过HeapByteBuffer被两个地方引用：

   • 消息帧的payload部分
   • Deflater对象的内部缓冲区

3. 影响范围：对于高并发场景（如1000+个WebSocket连接），如果消息较大（几MB级别），加上较长的超时设置，可能导致GB级别的内存被无效占用

问题复现与验证

通过修改Jetty的示例代码可以复现此问题：

1. 创建一个返回10MB随机数据的WebSocket端点
2. 配置小内存池（50MB）以放大内存问题
3. 建立多个WebSocket连接并发送消息

内存分析工具显示：

• 每个连接都保留了完整的10MB消息数据
• 这些数据被Deflater和消息帧同时引用

当禁用permessage-deflate扩展时，内存占用立即恢复正常，验证了问题确实与该扩展相关。

解决方案

Jetty团队提出的修复方案是：

1. 不清空压缩表：不能简单地重置Deflater，因为这会同时清除滑动窗口和压缩表，影响后续消息的压缩效率

2. 清空输入缓冲区：在消息处理完成后，向Deflater设置一个空缓冲区，从而释放对原始消息的引用

这种解决方案既解决了内存泄漏问题，又保持了WebSocket连接的压缩效率，是一个平衡的修复方案。

最佳实践建议

对于使用Jetty WebSocket的开发人员，建议：

1. 评估压缩必要性：如果传输的数据本身已经是压缩格式（如JPEG、MPEG等），可以考虑禁用permessage-deflate扩展

2. 监控内存使用：在高并发WebSocket应用中，应密切监控内存使用情况，特别是当启用压缩时

3. 合理设置超时：根据业务需求设置适当的连接超时，避免不活跃连接长期占用内存

4. 及时升级版本：采用包含此修复的Jetty版本，避免潜在的内存问题

总结

WebSocket的压缩功能虽然能减少网络传输量，但也带来了内存管理的复杂性。Jetty团队通过精细化的内存管理修复了这个问题，展示了开源项目对性能优化的持续关注。对于开发者而言，理解底层实现细节有助于构建更健壮的高性能WebSocket应用。