elastic-scaler InplaceScaling深度解析:Leader与Follower副本如何按比例联动编排
elastic-scaler InplaceScaling深度解析:Leader与Follower副本如何按比例联动编排
在 Kubernetes 集群中同时运行多组关联工作负载时(例如推理场景的 Prefill/Decode 分离部署、网关与后端服务配比),最头疼的问题是:手动同步多组副本数极易出错。elastic-scaler 提供的 ResourceScalingGroup(简称 RSG)正是为解决这一痛点而生——它内置的 InplaceScaling 策略允许你指定一个 Leader 工作负载,并让一个或多个 Follower 按固定比例(followRatio)自动联动伸缩,实现"一处定义、多端联动"的副本编排。
🎯 InplaceScaling 是什么?
RSG 支持两种扩缩策略,通过 spec.scalingStrategy.type 字段选择:
| 策略 | 行为 | 适用场景 |
|---|---|---|
GroupReplication |
按组数量克隆整个工作负载组 | 多副本组水平扩容 |
InplaceScaling |
以 Leader 副本数为基准,按比例原地更新 Follower 副本数 | Leader-Follower 配比联动 |
二者的核心区别在于:GroupReplication 是"复制组",InplaceScaling 是"改副本"。InplaceScaling 不会克隆任何工作负载,而是直接 patch 已有负载的 spec.replicas,因此得名"原地扩缩"。
策略类型常量定义在 resourcescalinggroup_types.go 中:
// ScalingStrategyInplaceScaling scales followers in-place based on a leader.
ScalingStrategyInplaceScaling ScalingStrategyType = "InplaceScaling"
📋 核心配置:leaderFollowerConfig 参数一览
InplaceScaling 的全部行为由 leaderFollowerConfig 决定,结构定义见 resourcescalinggroup_types.go:
| 参数 | 位置 | 必填 | 说明 |
|---|---|---|---|
leader.resourceName |
Leader | ✅ | 引用 targetResources 中的逻辑名,作为联动基准 |
leader.replicas |
Leader | ✅ | Leader 的目标副本数,取值 ≥ 0 |
follower[].resourceName |
Follower | ✅ | 引用 targetResources 中的逻辑名,支持配置多个 |
follower[].followRatio |
Follower | ✅ | 跟随比例,整数且 ≥ 1 |
计算公式非常简单直接:
Follower 副本数 = Leader 副本数 × followRatio
📝 一个最小可用示例
假设集群中有 prefill 和 decode 两个 Deployment,希望 decode 按 3 倍于 prefill 的副本数运行,RSG 声明如下:
apiVersion: autoscaling.openfuyao.com/v1alpha1
kind: ResourceScalingGroup
metadata:
name: pd-scaling
spec:
targetResources:
- name: prefill
resourceRef:
apiVersion: apps/v1
kind: Deployment
name: prefill
- name: decode
resourceRef:
apiVersion: apps/v1
kind: Deployment
name: decode
scalingStrategy:
type: InplaceScaling
leaderFollowerConfig:
leader:
resourceName: prefill
replicas: 2
follower:
- resourceName: decode
followRatio: 3
Reconciler 执行一轮调和后:prefill 副本被 patch 为 2,decode 副本被 patch 为 2 × 3 = 6。该行为由数据面测试用例 resourcescalinggroup_dt_test.go 中的 TestDT_InplaceScaling_LeaderFollower 完整验证。
⚙️ 调和流程:控制器内部发生了什么?
InplaceScaling 的调和入口是 resourcescalinggroup_controller.go 中的 reconcileInplaceScaling,流程分为 5 步:
- 前置检查:
leaderFollowerConfig缺失时直接报错leaderFollowerConfig is required for InplaceScaling。 - 解析目标:将
targetResources建索引,按名称定位 Leader 与每个 Follower 对应的实际工作负载;目标不存在时按 5 秒延迟(targetNotFoundDelay)重新入队,避免频繁重试。 - 更新 Leader:通过 replica_planner.go 中的
InplaceLeaderReplicas取出leader.replicas,patch 到 Leader 工作负载上。 - 联动 Follower:遍历
follower列表,对每一项计算leaderReplicas × followRatio并 patch 副本数。多个 Follower 各自独立计算、互不影响。 - 更新状态:将
Ready条件置为True(Reconciled / inplace scaling reconciled),并清空currentReplicas、lastDesiredReplicas与selector字段——这些字段服务于 GroupReplication,InplaceScaling 不使用它们。
策略的注册与分发则采用引擎模式:strategy_engines.go 中 inplaceScalingEngine 按策略类型路由到 ReconcileInplaceScaling,主调谐循环依据 scalingStrategy.type 选择对应引擎,扩展新策略只需实现 StrategyEngine 接口即可。
🛡️ Webhook 前置校验:错误配置无法进入集群
除了控制器侧校验,Validating Webhook 会在资源创建/更新前拦截不合法的配置,校验逻辑位于 resourcescalinggroup_webhook.go:
| 校验规则 | 错误信息 |
|---|---|
leaderFollowerConfig 必须存在 |
required |
leader.resourceName 必须引用 targetResources |
must reference targetResources |
leader.replicas ≥ 0 |
must be >= 0 |
| 至少配置一个 Follower | required |
followRatio ≥ 1(不支持小数比例) |
must be >= 1 |
| Follower 不能与 Leader 引用同一资源 | must not reference leader |
| Follower 之间不能重复 | Duplicate value |
这意味着配置错误会在 kubectl apply 时立即暴露,而不是等控制器跑起来才报错,大幅降低排障成本。
💡 适用场景与限制
典型场景:Prefill/Decode 分离推理、网关:后端配比伸缩、任何"基准资源 + 从属资源"成比例伸缩的架构。
需要注意的限制:
followRatio是整数且不小于 1,即 Follower 副本数必然 ≥ Leader 副本数,不支持 1:2 这类小于 1 的配比(可将配比方向反过来,让副本更多的一方做 Follower);- Leader 副本数由 RSG 声明直接决定,若你希望 Leader 自身也受 HPA 控制,InplaceScaling 会与其争夺
spec.replicas的写入权,应选其一作为唯一事实来源; - 工作负载被删除后,控制器会持续以 5 秒间隔重试等待其恢复,而非直接放弃。
📚 相关源码与配置路径速查
| 内容 | 路径 |
|---|---|
| 策略类型与配置结构定义 | resourcescalinggroup_types.go |
| 调和主逻辑 | resourcescalinggroup_controller.go |
| 策略引擎注册 | strategy_engines.go |
| 副本规划器 | replica_planner.go |
| Webhook 校验 | resourcescalinggroup_webhook.go |
| CRD 定义 | autoscaling.openfuyao.com_resourcescalinggroups.yaml |
| Helm Chart 实例模板 | rsg-instance.yaml |
| 端到端数据面测试 | resourcescalinggroup_dt_test.go |
总结
InplaceScaling 用"一个 Leader + 若干 Follower + 整数比例"三要素,把多工作负载的副本联动收敛为一次声明式配置:控制器负责按 leader.replicas × followRatio 原地 patch 副本,Webhook 负责在入口处拦截非法配置,策略引擎模式则让这一能力可插拔、可扩展。对于需要维护多组件固定配比的 Kubernetes 用户,这是 elastic-scaler 中最实用、也最容易上手的扩缩策略之一。