HAProxy中基于路径的速率限制配置优化实践
2025-06-07 03:08:23作者:谭伦延
问题背景
在HAProxy 2.2版本中实现基于API路径的请求速率限制时,开发人员发现一个异常现象:当配置多个不同路径的速率限制规则后,某些特定路径的请求会被错误地限制。例如配置了/ann/user和/ann/user/remoteDestinations两个路径的不同速率限制,但后者总是被错误地拒绝。
根本原因分析
经过深入排查,发现问题源于stick-table的键值存储配置不当。原始配置中使用了二进制类型存储路径:
stick-table type binary len 8 size 100k expire 10s store http_req_rate(1s)
这里的关键问题在于len 8参数限制了键值的最大长度为8字节。当路径长度超过8字节时,HAProxy只会存储前8个字节作为键值。这导致类似/ann/user和/ann/user/remoteDestinations这样的路径在存储时都被截断为相同的前缀,从而共享同一个计数器。
解决方案
方案一:增加键值长度
最直接的解决方案是增加键值长度,确保能完整存储所有路径:
stick-table type string len 256 size 100k expire 10s store http_req_rate(1s)
这种方法简单直接,但需要注意:
- 需要预估最大路径长度
- 较长的键值会占用更多内存
方案二:使用哈希值作为键
更优雅的解决方案是使用哈希函数将路径转换为固定长度的整数:
http-request set-var(req.path_key) path,xxh32
stick-table type integer size 100k expire 10s store http_req_rate(1s)
http-request track-sc0 var(req.path_key)
这种方法优势明显:
- 固定长度的整数键节省内存
- 哈希计算确保不同路径有不同键值
- 查找速度更快
完整优化配置示例
frontend http
bind 127.0.0.1:84 tfo accept-proxy
acl is_ssl fc_rcvd_proxy
option nolinger
# 使用哈希值作为键
http-request set-var(req.path_key) path,xxh32
stick-table type integer size 100k expire 10s store http_req_rate(1s)
http-request track-sc0 var(req.path_key)
acl remoteDestinations_ep1 path_end /remoteDestinations
http-request set-var(req.rate_limit) path,map_beg(/usr/haproxyrates.map,500) unless remoteDestinations_ep1
http-request set-var(req.rate_limit) int(10) if remoteDestinations_ep1
http-request set-var(req.request_rate) var(req.path_key),table_http_req_rate()
acl rate_abuse var(req.rate_limit),sub(req.request_rate) lt 0
http-request deny deny_status 503 if rate_abuse remoteDestinations_ep1
use_backend slowservers if rate_abuse
default_backend usemultipleports
最佳实践建议
- 对于路径较长的场景,优先考虑使用哈希方案
- 定期监控stick-table的使用情况,避免内存耗尽
- 考虑升级到HAProxy 3.0+版本,获取更好的性能和功能
- 在map文件中明确定义所有需要特殊限制的路径
- 为不同的API端点设置合理的速率限制值
通过这种优化,可以确保HAProxy准确地对不同路径实施独立的速率限制,避免误限制的情况发生,同时保持高效的性能表现。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0218
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0139
uni-appA cross-platform framework using Vue.jsJavaScript09
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03
最新内容推荐
项目优选
收起
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
465
deepin linux kernel
C
32
16
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
2.09 K
218
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
700
1.4 K
暂无描述
Dockerfile
780
5.08 K
Ascend Extension for PyTorch
Python
758
968
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
271
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
880
2.03 K
MindQuantum is a general software library supporting the development of applications for quantum computation.
Python
183
111
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.11 K
682