首页
/ HAProxy中基于路径的速率限制配置优化实践

HAProxy中基于路径的速率限制配置优化实践

2025-06-07 03:08:23作者:谭伦延

问题背景

在HAProxy 2.2版本中实现基于API路径的请求速率限制时,开发人员发现一个异常现象:当配置多个不同路径的速率限制规则后,某些特定路径的请求会被错误地限制。例如配置了/ann/user/ann/user/remoteDestinations两个路径的不同速率限制,但后者总是被错误地拒绝。

根本原因分析

经过深入排查,发现问题源于stick-table的键值存储配置不当。原始配置中使用了二进制类型存储路径:

stick-table type binary len 8 size 100k expire 10s store http_req_rate(1s)

这里的关键问题在于len 8参数限制了键值的最大长度为8字节。当路径长度超过8字节时,HAProxy只会存储前8个字节作为键值。这导致类似/ann/user/ann/user/remoteDestinations这样的路径在存储时都被截断为相同的前缀,从而共享同一个计数器。

解决方案

方案一:增加键值长度

最直接的解决方案是增加键值长度,确保能完整存储所有路径:

stick-table type string len 256 size 100k expire 10s store http_req_rate(1s)

这种方法简单直接,但需要注意:

  1. 需要预估最大路径长度
  2. 较长的键值会占用更多内存

方案二:使用哈希值作为键

更优雅的解决方案是使用哈希函数将路径转换为固定长度的整数:

http-request set-var(req.path_key) path,xxh32
stick-table type integer size 100k expire 10s store http_req_rate(1s)
http-request track-sc0 var(req.path_key)

这种方法优势明显:

  1. 固定长度的整数键节省内存
  2. 哈希计算确保不同路径有不同键值
  3. 查找速度更快

完整优化配置示例

frontend http
  bind 127.0.0.1:84 tfo accept-proxy
  acl is_ssl fc_rcvd_proxy
  option nolinger
  
  # 使用哈希值作为键
  http-request set-var(req.path_key) path,xxh32
  stick-table type integer size 100k expire 10s store http_req_rate(1s)
  http-request track-sc0 var(req.path_key)
  
  acl remoteDestinations_ep1 path_end /remoteDestinations
  http-request set-var(req.rate_limit) path,map_beg(/usr/haproxyrates.map,500) unless remoteDestinations_ep1
  http-request set-var(req.rate_limit) int(10) if remoteDestinations_ep1
  http-request set-var(req.request_rate) var(req.path_key),table_http_req_rate()
  
  acl rate_abuse var(req.rate_limit),sub(req.request_rate) lt 0
  http-request deny deny_status 503 if rate_abuse remoteDestinations_ep1
  use_backend slowservers if rate_abuse
  default_backend usemultipleports

最佳实践建议

  1. 对于路径较长的场景,优先考虑使用哈希方案
  2. 定期监控stick-table的使用情况,避免内存耗尽
  3. 考虑升级到HAProxy 3.0+版本,获取更好的性能和功能
  4. 在map文件中明确定义所有需要特殊限制的路径
  5. 为不同的API端点设置合理的速率限制值

通过这种优化,可以确保HAProxy准确地对不同路径实施独立的速率限制,避免误限制的情况发生,同时保持高效的性能表现。

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
kernelkernel
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
465
kernelkernel
deepin linux kernel
C
32
16
atomcodeatomcode
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get Started
Rust
2.09 K
218
ops-nnops-nn
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
700
1.4 K
docsdocs
暂无描述
Dockerfile
780
5.08 K
pytorchpytorch
Ascend Extension for PyTorch
Python
758
968
flutter_flutterflutter_flutter
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
271
ops-transformerops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
880
2.03 K
mindquantummindquantum
MindQuantum is a general software library supporting the development of applications for quantum computation.
Python
183
111
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.11 K
682