Apache ShenYu 2.4.1版本中Netty直接内存泄漏问题分析与解决方案

问题现象

在生产环境中使用Apache ShenYu 2.4.1版本网关时，出现了Netty直接内存溢出的严重问题。具体表现为系统抛出io.netty.util.internal.OutOfDirectMemoryError异常，错误信息显示无法分配16MB的直接内存，而此时已使用的直接内存达到约3.8GB，接近最大限制4GB。

问题背景

该问题在TPS较低（每秒低于20次请求）的生产环境中出现，系统仅启用了divide、context_path、sign和monitor这几个插件。最初通过临时增加JVM内存参数（从2GB增加到4GB）暂时缓解了问题，但最终问题再次出现。

技术分析

直接内存与堆内存的区别

在Java中，直接内存（Direct Memory）是JVM堆外的内存空间，由操作系统直接管理。与堆内存相比：

• 直接内存的分配和释放不受GC管理
• 直接内存的I/O操作效率更高，适合网络通信
• 直接内存的大小通过-XX:MaxDirectMemorySize参数控制

Netty的内存管理机制

Netty使用直接内存进行高效网络数据传输，其内存管理特点包括：

1. 使用内存池技术减少内存分配开销
2. 采用引用计数机制确保内存及时释放
3. 通过ByteBuf对象封装底层内存操作

问题根源

从异常堆栈分析，问题发生在Netty的ByteToMessageDecoder组件尝试扩展缓冲区时。可能的原因包括：

1. 内存泄漏：ByteBuf未被正确释放
2. 配置不当：直接内存上限设置不合理
3. 框架兼容性问题：与底层Netty版本的兼容性缺陷

解决方案

短期解决方案

1. 调整JVM参数：增加直接内存限制

   -XX:MaxDirectMemorySize=4g
   

2. 监控内存使用：通过JMX或Netty自带的监控工具观察内存变化

长期解决方案

1. 升级Spring Boot版本：该问题与reactor-netty组件相关，新版本已修复类似问题
2. 检查插件实现：确保所有自定义插件正确释放网络资源
3. 优化配置：根据实际负载调整Netty相关参数

最佳实践建议

1. 定期检查Netty版本与框架的兼容性
2. 在生产环境实施严格的内存监控
3. 对网关组件进行压力测试，评估内存使用情况
4. 考虑使用Netty提供的泄漏检测工具：

   ResourceLeakDetector.setLevel(ResourceLeakDetector.Level.ADVANCED);
   

总结

Apache ShenYu作为高性能API网关，其底层依赖Netty的网络通信能力。直接内存泄漏问题虽然不常见，但一旦发生影响严重。通过理解Netty内存管理机制，合理配置参数，并保持框架版本更新，可以有效预防和解决此类问题。对于生产环境，建议在升级版本前进行充分的测试验证。