Envoy Gateway中Shutdown Manager资源配额配置实践指南
2025-07-07 21:33:50作者:傅爽业Veleda
背景解析
在Kubernetes环境中,Envoy Gateway默认部署的Envoy代理Pod会附带一个Shutdown Manager侧边容器。该容器当前仅配置了requests资源请求值,未设置limits限制值。这种配置方式会导致Pod无法获得Guaranteed级别的服务质量(QoS),而该级别是启用某些高级Kubernetes功能(如CPU核心绑定策略、NUMA感知内存管理)的必要条件。
核心问题
Kubernetes的QoS分级机制中,只有当容器同时设置requests和limits且两者相等时,Pod才能被归类为Guaranteed级别。Envoy Gateway的默认配置缺失limits设置,使得用户无法直接利用以下特性:
- CPU核心绑定(CPU pinning)
- NUMA节点级内存分配
- 更精确的资源调度保障
解决方案
虽然Shutdown Manager的资源配置在代码中是硬编码的,但Envoy Gateway提供了灵活的patch机制来实现自定义配置。用户可以通过以下方式覆盖默认配置:
apiVersion: gateway.envoyproxy.io/v1
kind: EnvoyProxy
metadata:
name: custom-resources
spec:
provider:
kubernetes:
patch:
- apiVersion: apps/v1
kind: Deployment
name: envoy-proxy
patch:
spec:
template:
spec:
containers:
- name: shutdown-manager
resources:
requests:
cpu: "100m"
memory: "64Mi"
limits:
cpu: "100m"
memory: "64Mi"
配置建议
- 资源对等原则:确保requests和limits设置相同值以获得Guaranteed QoS
- 容量规划:根据实际负载测试确定合适的资源值
- 监控调整:部署后通过监控观察实际资源使用情况
- 批量部署:对于大规模部署建议使用Kustomize或Helm进行模板化管理
技术影响
正确配置后,Envoy Gateway将获得:
- 更稳定的性能表现(避免CPU节流)
- 更低的内存访问延迟(NUMA优化)
- 更精确的资源隔离能力
- 更好的调度优先级(kubelet优先保障Guaranteed Pod)
注意事项
- 过度分配limits可能导致容器被OOMKilled
- 生产环境建议进行逐步灰度发布
- 需要结合节点资源容量规划整体方案
- 不同Kubernetes版本对QoS的实现可能有细微差异
通过合理配置Shutdown Manager的资源配额,可以显著提升Envoy Gateway在关键业务场景中的运行稳定性和性能表现。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0231
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
JoyAI-VL-Interaction-Preview京东开源首个开源、视觉驱动的实时交互模型——它能实时监控视频流,并自主决定何时发言、保持沉默或委托任务。Jinja00
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0149
kornia🐍 空间人工智能的几何计算机视觉库Python02
PaddleParallel Distributed Deep Learning: Machine Learning Framework from Industrial Practice (『飞桨』核心框架,深度学习&机器学习高性能单机、分布式训练和跨平台部署)C++02
项目优选
收起
暂无描述
Dockerfile
781
5.11 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
891
2.05 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
473
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
708
1.42 K
deepin linux kernel
C
32
16
Ascend Extension for PyTorch
Python
762
973
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
2.27 K
680
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.11 K
1.15 K
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
272
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
2.16 K
228