Redisson升级后Kryo序列化StackOverflow问题分析与解决

问题背景

在使用Redisson客户端从3.18.1版本升级到3.34.1版本后，用户在执行RBucket.set()操作时遇到了StackOverflowError错误。错误信息表明Kryo序列化过程中可能出现了循环引用导致的无限递归问题。

错误现象

具体错误表现为：

com.esotericsoftware.kryo.KryoException: A StackOverflow occurred. The most likely cause is that your data has a circular reference resulting in infinite recursion. Try enabling references with Kryo.setReferences(true). If your data structure is really more than 1740 levels deep then try increasing your Java stack size.

根本原因分析

1. Kryo序列化机制变化：Redisson在3.34.1版本中对Kryo序列化组件进行了升级，默认配置下对循环引用的处理方式与旧版本不同。

2. 循环引用问题：当被序列化的对象图中存在循环引用时，Kryo在没有启用引用跟踪的情况下会陷入无限递归，最终导致堆栈溢出。

3. 安全考虑：新版本出于安全考虑，默认不启用Kryo的引用跟踪功能，这虽然提高了安全性但也可能导致序列化失败。

解决方案演进

初始解决方案（不推荐）

使用Kryo5Codec并设置Kryo.setReferences(true)可以临时解决问题，但这种方法存在已知的安全风险（CVE-2023-42809），不推荐在生产环境使用。

推荐解决方案

1. 使用SerializationCodec：

   • 这是最安全的替代方案，使用Java原生序列化机制
   • 配置简单，无需额外设置
   • 缺点是性能略低于Kryo

2. 使用更新后的Kryo5Codec：

   • 最新版本已增加allowedClasses参数，可以指定允许序列化的类白名单
   • 同时增加了useReferences设置，可安全启用引用跟踪
   • 示例配置：

     new Kryo5Codec(allowedClasses, useReferences)
     

最佳实践建议

1. 评估序列化需求：

   • 如果不需要高性能序列化，优先考虑SerializationCodec
   • 如果需要高性能且确保数据安全，使用更新后的Kryo5Codec

2. 安全配置Kryo：

   • 始终设置allowedClasses白名单
   • 仅在必要时启用引用跟踪
   • 考虑设置registrationRequired=true以增强安全性

3. 升级策略：

   • 升级Redisson时，应测试所有序列化/反序列化场景
   • 对于复杂对象图，提前识别可能的循环引用问题

技术原理深入

Kryo序列化在处理对象图时有两种模式：

• 无引用跟踪：简单快速，但遇到循环引用时会递归直到堆栈溢出
• 启用引用跟踪：维护已序列化对象引用表，可以正确处理循环引用，但略微增加开销

Redisson的更新使这两种模式都可以安全使用，同时通过类白名单机制防止了反序列化风险。

总结

Redisson的这次升级带来了更安全的默认配置，虽然可能导致原有代码出现序列化问题，但提供了多种解决方案。开发者应根据自身应用的安全需求和性能要求，选择合适的序列化策略。对于大多数应用，使用SerializationCodec或配置了白名单的Kryo5Codec都是安全可靠的选择。