Solo.io Gloo 中的 Upstream Groups 功能详解

什么是 Upstream Groups

在微服务架构中，我们经常需要对流量进行精细化管理，特别是在进行金丝雀发布(Canary Deployment)或蓝绿部署时。Solo.io Gloo 提供的 Upstream Groups 功能就是为了解决多路由共享相同加权目标(weighted destinations)的问题。

简单来说，Upstream Group 是一个自定义资源(Custom Resource)，它允许你将多个上游服务(upstreams)及其权重(weights)定义在一个独立的资源中，然后被多个路由(route)或虚拟服务(virtual service)引用。这样当你需要调整权重时，只需修改 Upstream Group 一处，所有引用它的路由都会自动继承新的权重配置。

为什么需要 Upstream Groups

想象这样一个场景：你正在对购物车服务进行金丝雀发布，新版本(v4)需要逐步替换旧版本(v3)。同时，库存服务和订单服务都需要调用这个购物车服务。如果没有 Upstream Groups，你需要在每个调用购物车服务的路由中都配置相同的权重分配，当需要调整权重时(比如从90% v3/10% v4调整为50% v3/50% v4)，就必须修改所有相关路由。

Upstream Groups 解决了这个问题，它提供了：

1. 一致性：确保所有调用方使用相同的权重分配
2. 可维护性：权重调整只需修改一处
3. 解耦：路由不需要知道具体的权重分配细节

Upstream Groups 使用指南

1. 创建 Upstream Group

首先需要定义一个 Upstream Group 资源，指定各个上游服务及其权重：

apiVersion: gloo.solo.io/v1
kind: UpstreamGroup
metadata:
  name: my-service-group
  namespace: gloo-system
spec:
  destinations:
  - destination:
      upstream:
        name: default-myservice-v1-8080
        namespace: gloo-system
    weight: 9
  - destination:
      upstream:
        name: default-myservice-v2-8080
        namespace: gloo-system
    weight: 1

这个例子中，我们创建了一个名为 my-service-group 的 Upstream Group，包含两个上游服务：

• default-myservice-v1-8080 权重为 9
• default-myservice-v2-8080 权重为 1

这意味着 90% 的流量会路由到 v1 版本，10% 路由到 v2 版本。

2. 在路由中引用 Upstream Group

创建好 Upstream Group 后，可以在路由配置中引用它：

routes:
- matchers:
   - prefix: /myservice
  routeAction:
    upstreamGroup:
      name: my-service-group
      namespace: gloo-system
- matchers:
   - prefix: /some/other/path
  routeAction:
    upstreamGroup:
      name: my-service-group
      namespace: gloo-system

在这个示例中，两个不同的路由(/myservice 和 /some/other/path)都引用了同一个 Upstream Group my-service-group。这意味着它们都会遵循相同的权重分配规则。

实际应用场景

金丝雀发布

Upstream Groups 特别适合金丝雀发布场景。你可以：

1. 初始阶段：设置新版本权重为 1%，旧版本 99%
2. 观察阶段：如果没有问题，逐步增加新版本权重
3. 完成发布：最终将新版本权重调整为 100%

整个过程只需更新 Upstream Group 的权重配置，所有相关路由会自动更新。

A/B 测试

同样适用于 A/B 测试场景，你可以：

1. 为不同版本的服务设置不同权重
2. 根据测试结果动态调整流量分配
3. 无需修改路由配置，只需更新 Upstream Group

最佳实践

1. 命名规范：为 Upstream Group 使用有意义的名称，如 shopping-cart-canary-group
2. 权重总和：保持权重总和为 10 或 100，便于百分比计算
3. 监控：在调整权重时密切监控系统指标
4. 版本控制：考虑将 Upstream Group 配置纳入版本控制系统

总结

Solo.io Gloo 的 Upstream Groups 功能为微服务流量管理提供了强大而灵活的解决方案。通过将权重配置与路由解耦，它简化了金丝雀发布、A/B 测试等场景下的流量管理，提高了配置的一致性和可维护性。对于需要精细控制流量分配的系统来说，这是一个不可或缺的功能。