ShenYu项目中的端口占用与JVM退出问题分析与解决方案

问题背景

在微服务架构中，网关作为流量入口承担着重要角色。ShenYu作为一款高性能的API网关，其稳定性直接影响整个系统的可靠性。近期在ShenYu 2.6.0版本中发现了一个值得关注的问题：当部署在Kubernetes环境中时，shenyu-bootstrap模块在特定条件下会出现端口占用和JVM无法正常退出的情况。

问题现象

端口占用问题

当通过Kubernetes的liveness探针频繁访问/actuator/health/liveness端点并模拟Pod重启时，系统日志中会出现端口9195被占用的错误：

org.springframework.boot.web.server.PortInUseException: Port 9195 is already in use

JVM退出问题

当通过/actuator/shutdown端点尝试优雅关闭应用时，JVM进程无法完全退出。通过线程堆栈分析发现，多个线程处于WAITING或TIMED_WAITING状态，包括：

• logback日志线程
• boundedElastic线程池中的线程
• 插件加载线程
• 定时器线程等

根本原因分析

端口占用问题

这个问题源于Netty的SO_REUSEADDR套接字选项配置不当。在默认配置下，当应用快速重启时，操作系统可能还没有完全释放之前的端口绑定，导致新实例无法绑定相同端口。

JVM退出问题

JVM无法正常退出的原因主要有：

1. 非守护线程未终止：如HierarchicalWheelTimer等自定义线程未正确实现shutdown逻辑
2. 资源未释放：某些资源（如网络连接、文件句柄）未被正确关闭
3. 线程池未关闭：特别是那些使用ScheduledThreadPoolExecutor的线程池
4. 异步日志处理：Logback的AsyncAppender工作线程未正确终止

解决方案

端口占用问题

通过修改Netty的SO_REUSEADDR配置可以解决此问题：

shenyu:
  netty:
    http:
      serverSocketChannel:
        soReuseAddr: true
      socketChannel:
        soReuseAddr: true

这个配置允许新的套接字立即重用处于TIME_WAIT状态的端口，解决了快速重启时的端口冲突问题。

JVM退出问题

需要从多个层面进行优化：

1. 线程管理优化：

   • 确保所有自定义线程实现shutdown钩子
   • 将非必要线程设置为守护线程
   • 实现Spring的DisposableBean接口，在销毁时关闭所有线程池

2. 资源释放：

   • 实现Closeable接口的资源需要显式关闭
   • 使用try-with-resources语法管理资源

3. 日志系统优化：

   • 配置Logback在JVM关闭时优雅停止AsyncAppender
   • 设置适当的队列大小和等待策略

最佳实践建议

1. Kubernetes部署建议：

   • 配置合理的liveness探针检查间隔
   • 设置适当的terminationGracePeriodSeconds
   • 实现preStop钩子进行优雅关闭

2. 应用开发建议：

   • 对所有线程池实现shutdown逻辑
   • 使用Spring的@PreDestroy注解确保资源释放
   • 定期进行重启测试验证优雅关闭功能

3. 监控建议：

   • 监控应用关闭时间
   • 记录未完成的任务和线程状态
   • 设置JVM退出超时报警

总结

ShenYu网关作为关键基础设施，其稳定性至关重要。通过合理配置Netty参数和完善资源管理逻辑，可以有效解决端口占用和JVM退出问题。建议开发团队在后续版本中：

1. 默认启用SO_REUSEADDR选项
2. 完善所有组件的生命周期管理
3. 提供更详细的关闭日志
4. 增加关闭过程中的状态监控

这些改进将显著提升ShenYu在高可用场景下的表现，为生产环境提供更可靠的服务。