Envoy Redis集群代理在集群配置变更时出现段错误问题分析

问题背景

在Istio服务网格环境中，当使用Envoy作为Redis集群代理时，发现了一个严重的稳定性问题。具体表现为：当与Redis相关的DestinationRule配置被添加或移除时，Envoy进程会出现段错误(Segmentation fault)导致崩溃。这个问题在Envoy 1.30版本中不存在，但在1.31.5及更高版本中可重现。

问题现象

当通过Istio的DestinationRule对Redis服务进行流量策略配置变更时，Envoy代理会意外崩溃。典型的DestinationRule配置如下：

apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata:
  name: test
spec:
  host: test.com
  trafficPolicy:
    tls:
      mode: DISABLE

崩溃发生时，从核心转储分析得到的调用栈显示问题出在Redis集群发现会话的处理过程中：

#0  __pthread_kill_implementation
#1  __pthread_kill_internal
#2  __GI_raise
#3  Envoy::SignalAction::sigHandler
#4  <signal handler called>
#5  0x0000000000000000
#6  Envoy::Extensions::Clusters::Redis::RedisCluster::RedisDiscoverySession::startResolveRedis()
#7  event_process_active_single_queue
#8  event_base_loop
#9  Envoy::Server::InstanceBase::run()

问题复现与验证

通过简化测试环境，可以独立于Istio复现该问题。使用以下Envoy配置直接运行Redis集群代理：

clusters:
  - name: outbound|6379||redis-service
    lb_policy: CLUSTER_PROVIDED
    cluster_type:
      name: envoy.clusters.redis
      typed_config:
        "@type": type.googleapis.com/envoy.extensions.clusters.redis.v3.RedisClusterConfig
        cluster_refresh_rate: 5s
    load_assignment:
      cluster_name: outbound|6379||redis-service
      endpoints:
        - lb_endpoints:
          - endpoint:
              address:
                socket_address:
                  address: redis-service
                  port_value: 6379

当动态更新配置将Redis集群移除（即设置resources: []）时，Envoy会立即崩溃。通过LLDB调试器分析核心转储，可以确认崩溃发生在Redis集群发现会话的解析过程中。

根本原因分析

从技术实现角度看，这个问题源于Envoy的Redis集群实现中对发现会话生命周期的管理缺陷。具体表现为：

1. 异步事件处理问题：Redis集群使用异步事件机制进行节点发现和维护。当集群配置被移除时，相关的发现会话没有被正确清理。

2. 悬垂指针问题：在集群销毁过程中，可能仍有未完成的发现请求在事件循环中等待处理。当这些请求被处理时，它们尝试访问已被释放的集群资源。

3. 版本差异：1.30版本和1.31+版本之间的实现差异导致了不同的行为，表明相关修改引入了这个回归问题。

解决方案建议

针对这个问题，建议从以下几个方面着手解决：

1. 完善资源清理机制：在Redis集群销毁时，应该确保所有相关的发现会话都被正确取消和清理。

2. 引用计数管理：对集群资源使用引用计数，确保没有异步操作会访问已释放的资源。

3. 同步销毁流程：在销毁集群前，等待所有未完成的发现操作完成或显式取消它们。

4. 添加防护性检查：在发现会话处理逻辑中添加对父集群有效性的检查。

临时规避措施

在生产环境中遇到此问题时，可以考虑以下临时解决方案：

1. 保持配置稳定：避免频繁添加/移除Redis相关的DestinationRule配置。

2. 使用固定版本：暂时使用Envoy 1.30版本，直到问题被修复。

3. 监控与自动恢复：部署监控系统检测Envoy崩溃并自动重启实例。

总结

这个Envoy Redis集群代理的段错误问题展示了在复杂网络代理系统中资源生命周期管理的重要性。特别是在异步事件处理与动态配置更新的场景下，需要格外注意资源的创建和销毁顺序。对于使用Envoy作为Redis代理的用户，建议关注官方修复进展，并在测试环境中充分验证配置变更的稳定性。