elastic-scaler InplaceScaling深度解析:Leader与Follower副本如何按比例联动编排

原创2026-11-15 15:29:211,444 阅读
文章标签:云原生弹性伸缩后端AI 应用

elastic-scaler InplaceScaling深度解析:Leader与Follower副本如何按比例联动编排

在 Kubernetes 集群中同时运行多组关联工作负载时(例如推理场景的 Prefill/Decode 分离部署、网关与后端服务配比),最头疼的问题是:手动同步多组副本数极易出错。elastic-scaler 提供的 ResourceScalingGroup(简称 RSG)正是为解决这一痛点而生——它内置的 InplaceScaling 策略允许你指定一个 Leader 工作负载,并让一个或多个 Follower 按固定比例(followRatio)自动联动伸缩,实现"一处定义、多端联动"的副本编排。

🎯 InplaceScaling 是什么?

RSG 支持两种扩缩策略,通过 spec.scalingStrategy.type 字段选择:

策略 行为 适用场景
GroupReplication 按组数量克隆整个工作负载组 多副本组水平扩容
InplaceScaling 以 Leader 副本数为基准,按比例原地更新 Follower 副本数 Leader-Follower 配比联动

二者的核心区别在于:GroupReplication 是"复制组",InplaceScaling 是"改副本"。InplaceScaling 不会克隆任何工作负载,而是直接 patch 已有负载的 spec.replicas,因此得名"原地扩缩"。

策略类型常量定义在 resourcescalinggroup_types.go 中:

// ScalingStrategyInplaceScaling scales followers in-place based on a leader.
ScalingStrategyInplaceScaling ScalingStrategyType = "InplaceScaling"

📋 核心配置:leaderFollowerConfig 参数一览

InplaceScaling 的全部行为由 leaderFollowerConfig 决定,结构定义见 resourcescalinggroup_types.go:

参数 位置 必填 说明
leader.resourceName Leader ✅ 引用 targetResources 中的逻辑名,作为联动基准
leader.replicas Leader ✅ Leader 的目标副本数,取值 ≥ 0
follower[].resourceName Follower ✅ 引用 targetResources 中的逻辑名,支持配置多个
follower[].followRatio Follower ✅ 跟随比例,整数且 ≥ 1

计算公式非常简单直接:

Follower 副本数 = Leader 副本数 × followRatio

📝 一个最小可用示例

假设集群中有 prefill 和 decode 两个 Deployment,希望 decode 按 3 倍于 prefill 的副本数运行,RSG 声明如下:

apiVersion: autoscaling.openfuyao.com/v1alpha1
kind: ResourceScalingGroup
metadata:
  name: pd-scaling
spec:
  targetResources:
    - name: prefill
      resourceRef:
        apiVersion: apps/v1
        kind: Deployment
        name: prefill
    - name: decode
      resourceRef:
        apiVersion: apps/v1
        kind: Deployment
        name: decode
  scalingStrategy:
    type: InplaceScaling
    leaderFollowerConfig:
      leader:
        resourceName: prefill
        replicas: 2
      follower:
        - resourceName: decode
          followRatio: 3

Reconciler 执行一轮调和后:prefill 副本被 patch 为 2,decode 副本被 patch 为 2 × 3 = 6。该行为由数据面测试用例 resourcescalinggroup_dt_test.go 中的 TestDT_InplaceScaling_LeaderFollower 完整验证。

⚙️ 调和流程:控制器内部发生了什么?

InplaceScaling 的调和入口是 resourcescalinggroup_controller.go 中的 reconcileInplaceScaling,流程分为 5 步:

  1. 前置检查:leaderFollowerConfig 缺失时直接报错 leaderFollowerConfig is required for InplaceScaling。
  2. 解析目标:将 targetResources 建索引,按名称定位 Leader 与每个 Follower 对应的实际工作负载;目标不存在时按 5 秒延迟(targetNotFoundDelay)重新入队,避免频繁重试。
  3. 更新 Leader:通过 replica_planner.go 中的 InplaceLeaderReplicas 取出 leader.replicas,patch 到 Leader 工作负载上。
  4. 联动 Follower:遍历 follower 列表,对每一项计算 leaderReplicas × followRatio 并 patch 副本数。多个 Follower 各自独立计算、互不影响。
  5. 更新状态:将 Ready 条件置为 True(Reconciled / inplace scaling reconciled),并清空 currentReplicas、lastDesiredReplicas 与 selector 字段——这些字段服务于 GroupReplication,InplaceScaling 不使用它们。

策略的注册与分发则采用引擎模式:strategy_engines.go 中 inplaceScalingEngine 按策略类型路由到 ReconcileInplaceScaling,主调谐循环依据 scalingStrategy.type 选择对应引擎,扩展新策略只需实现 StrategyEngine 接口即可。

🛡️ Webhook 前置校验:错误配置无法进入集群

除了控制器侧校验,Validating Webhook 会在资源创建/更新前拦截不合法的配置,校验逻辑位于 resourcescalinggroup_webhook.go:

校验规则 错误信息
leaderFollowerConfig 必须存在 required
leader.resourceName 必须引用 targetResources must reference targetResources
leader.replicas ≥ 0 must be >= 0
至少配置一个 Follower required
followRatio ≥ 1(不支持小数比例) must be >= 1
Follower 不能与 Leader 引用同一资源 must not reference leader
Follower 之间不能重复 Duplicate value

这意味着配置错误会在 kubectl apply 时立即暴露,而不是等控制器跑起来才报错,大幅降低排障成本。

💡 适用场景与限制

典型场景:Prefill/Decode 分离推理、网关:后端配比伸缩、任何"基准资源 + 从属资源"成比例伸缩的架构。

需要注意的限制:

  • followRatio 是整数且不小于 1,即 Follower 副本数必然 ≥ Leader 副本数,不支持 1:2 这类小于 1 的配比(可将配比方向反过来,让副本更多的一方做 Follower);
  • Leader 副本数由 RSG 声明直接决定,若你希望 Leader 自身也受 HPA 控制,InplaceScaling 会与其争夺 spec.replicas 的写入权,应选其一作为唯一事实来源;
  • 工作负载被删除后,控制器会持续以 5 秒间隔重试等待其恢复,而非直接放弃。

📚 相关源码与配置路径速查

内容 路径
策略类型与配置结构定义 resourcescalinggroup_types.go
调和主逻辑 resourcescalinggroup_controller.go
策略引擎注册 strategy_engines.go
副本规划器 replica_planner.go
Webhook 校验 resourcescalinggroup_webhook.go
CRD 定义 autoscaling.openfuyao.com_resourcescalinggroups.yaml
Helm Chart 实例模板 rsg-instance.yaml
端到端数据面测试 resourcescalinggroup_dt_test.go

总结

InplaceScaling 用"一个 Leader + 若干 Follower + 整数比例"三要素,把多工作负载的副本联动收敛为一次声明式配置:控制器负责按 leader.replicas × followRatio 原地 patch 副本,Webhook 负责在入口处拦截非法配置,策略引擎模式则让这一能力可插拔、可扩展。对于需要维护多组件固定配比的 Kubernetes 用户,这是 elastic-scaler 中最实用、也最容易上手的扩缩策略之一。

登录后查看全文
elastic-scaler