Kyuubi项目HA模式下ZooKeeper服务发现策略优化方案

2025-07-04 08:24:33作者：韦蓉瑛

项目地址：https://gitcode.com/gh_mirrors/kyu/kyuubi

背景与现状分析

在分布式系统中，高可用性(HA)是核心需求之一。Apache Kyuubi作为企业级数据湖管理平台，其HA实现依赖于ZooKeeper进行服务注册与发现。当前版本中，Kyuubi Hive JDBC驱动从ZooKeeper获取服务节点时仅支持随机(Random)选择策略，这种简单策略可能导致集群负载不均衡，某些节点可能因随机命中率过高而出现过载情况。

技术挑战

模块隔离性：Kyuubi-hive-jdbc作为独立驱动模块，无法直接读取Kyuubi主项目的配置(kyuubiConf)
策略扩展性：需要保持对现有随机策略的兼容性，同时支持新策略的动态扩展
用户自定义：需要提供接口允许用户实现自定义选择策略

解决方案设计

核心架构改进

策略接口抽象：

package org.apache.kyuubi.jdbc.hive.strategy;

public interface ChooseServerStrategy {
    String chooseServer(List<String> serverHosts);
}

内置策略实现：

RandomStrategy：保持现有随机选择逻辑
PollingStrategy：新增轮询选择策略，实现负载均衡

配置传递机制：通过JDBC连接参数传递策略配置，例如：

jdbc:hive2://zk_host:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=kyuubi;zooKeeperStrategy=poll

高级特性支持

自定义策略加载：支持用户实现ChooseServerStrategy接口后，通过全限定类名指定策略：

zooKeeperStrategy=com.company.custom.WeightedStrategy

策略缓存优化：对ZooKeeper获取的服务列表进行本地缓存，减少ZK访问压力
异常处理机制：

策略类加载失败时回退到默认随机策略
记录策略执行日志用于监控分析

实现细节

策略选择器核心逻辑

public class StrategySelector {
    private static final Map<String, ChooseServerStrategy> BUILTIN_STRATEGIES = 
        ImmutableMap.of(
            "random", new RandomStrategy(),
            "poll", new PollingStrategy()
        );

    public static ChooseServerStrategy getStrategy(String strategyName) {
        // 1. 检查内置策略
        // 2. 尝试反射加载用户自定义策略
        // 3. 失败时返回默认策略
    }
}

轮询策略实现要点

public class PollingStrategy implements ChooseServerStrategy {
    private final AtomicInteger counter = new AtomicInteger(0);
    
    @Override
    public String chooseServer(List<String> serverHosts) {
        if (serverHosts.isEmpty()) {
            throw new IllegalArgumentException("Server list is empty");
        }
        int index = counter.getAndIncrement() % serverHosts.size();
        return serverHosts.get(Math.abs(index));
    }
}