Apache APISIX 中 limit-count 插件与自定义错误处理的实践
2025-05-15 02:06:23作者:段琳惟
问题背景
在 Apache APISIX 网关的实际使用中,开发者发现当 limit-count 插件触发限流并返回 429 状态码时,这些响应状态码并未被正确记录到监控指标中。这导致监控系统无法准确反映实际的限流情况,给系统运维和性能分析带来了困扰。
问题分析
经过深入排查,发现问题并非出在 APISIX 本身,而是由于自定义的错误页面处理配置覆盖了默认行为。在 Nginx 配置中,开发者设置了 error_page 指令将所有错误状态码(包括 429)重定向到一个自定义的错误处理位置 @error,这导致:
- 原始响应状态码被"隐藏"
- 监控插件无法捕获真实的限流响应
- 虽然日志中仍能看到限流警告,但指标数据不完整
解决方案
方案一:调整错误页面配置
最简单的解决方案是修改 Nginx 配置,不对 429 状态码进行错误页面重定向:
error_page 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 421 422 423 424 425 426 428 431 451 500 501 502 503 504 505 506 507 508 510 511 @error;
注意这里从列表中移除了 429 状态码,这样限流响应将保持原始状态,可以被监控插件正确捕获。
方案二:开发自定义插件
对于需要更精细控制错误响应的场景,可以开发一个自定义插件。以下是一个处理 429 响应的插件示例:
local core = require("apisix.core")
local schema = {
type = "object",
properties = {},
required = {},
}
local _M = {
version = 0.1,
priority = 10,
name = "custom-error-handler",
schema = schema,
}
function _M.check_schema(conf)
return core.schema.check(schema, conf)
end
local function is_limit_reached()
return ngx.status == 429
end
function _M.header_filter(conf, ctx)
if is_limit_reached() then
core.response.clear_header_as_body_modified()
end
end
function _M.body_filter(conf, ctx)
if is_limit_reached() then
local body = core.response.hold_body_chunk(ctx)
if not body then
return
end
ngx.arg[1] = "<html><head><title>" .. ngx.status .. " " .. ngx.var.status_text .. "</title></head><body><center><h1>" .. ngx.status .. " " .. ngx.var.status_text .. "</h1></center></html>\n"
end
end
return _M
这个插件实现了以下功能:
- 检测 429 状态码
- 清除可能被修改的响应头
- 生成自定义的错误响应体
- 保持原始状态码不变,确保监控系统能正确记录
最佳实践建议
- 监控完整性:确保监控系统能捕获所有重要的 HTTP 状态码,特别是 4xx 和 5xx 系列
- 错误处理策略:根据业务需求设计合理的错误处理策略,平衡用户体验和系统可观测性
- 插件开发:当标准功能无法满足需求时,考虑开发自定义插件,但要注意插件优先级和执行顺序
- 测试验证:任何配置变更后,都应通过实际请求验证监控数据是否如预期收集
总结
在 APISIX 网关中正确处理限流响应和错误状态码是保证系统可观测性的重要环节。通过合理配置或开发自定义插件,开发者可以确保监控系统获得完整准确的数据,为系统运维和性能优化提供可靠依据。本文提供的两种解决方案各有适用场景,开发者应根据实际需求选择最合适的实现方式。
登录后查看全文
热门项目推荐
相关项目推荐
ERNIE-4.5-VL-28B-A3B-ThinkingERNIE-4.5-VL-28B-A3B-Thinking 是 ERNIE-4.5-VL-28B-A3B 架构的重大升级,通过中期大规模视觉-语言推理数据训练,显著提升了模型的表征能力和模态对齐,实现了多模态推理能力的突破性飞跃Python00
unified-cache-managementUnified Cache Manager(推理记忆数据管理器),是一款以KV Cache为中心的推理加速套件,其融合了多类型缓存加速算法工具,分级管理并持久化推理过程中产生的KV Cache记忆数据,扩大推理上下文窗口,以实现高吞吐、低时延的推理体验,降低每Token推理成本。Python03
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
Spark-Prover-7BSpark-Prover-7B is a 7B-parameter large language model developed by iFLYTEK for automated theorem proving in Lean4. It generates complete formal proofs for mathematical theorems using a three-stage training framework combining pre-training, supervised fine-tuning, and reinforcement learning. The model achieves strong formal reasoning performance and state-of-the-art results across multiple theorem-proving benchmarksPython00
MiniCPM-V-4_5MiniCPM-V 4.5 是 MiniCPM-V 系列中最新且功能最强的模型。该模型基于 Qwen3-8B 和 SigLIP2-400M 构建,总参数量为 80 亿。与之前的 MiniCPM-V 和 MiniCPM-o 模型相比,它在性能上有显著提升,并引入了新的实用功能Python00
Spark-Formalizer-7BSpark-Formalizer-7B is a 7B-parameter large language model by iFLYTEK for mathematical auto-formalization. It translates natural-language math problems into precise Lean4 formal statements, achieving high accuracy and logical consistency. The model is trained with a two-stage strategy combining large-scale pre-training and supervised fine-tuning for robust formal reasoning.Python00
GOT-OCR-2.0-hf阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile014
Spark-Scilit-X1-13B科大讯飞Spark Scilit-X1-13B基于最新一代科大讯飞基础模型,并针对源自科学文献的多项核心任务进行了训练。作为一款专为学术研究场景打造的大型语言模型,它在论文辅助阅读、学术翻译、英语润色和评论生成等方面均表现出色,旨在为研究人员、教师和学生提供高效、精准的智能辅助。Python00- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00
最新内容推荐
SteamVR 1.2.3 Unity插件:兼容Unity 2019及更低版本的VR开发终极解决方案 ZLIB 1.3 静态库 Windows x64 版本:高效数据压缩解决方案完全指南 2023年最新HTMLCSSJS组件库:提升前端开发效率的必备资源 Qt控件CSS样式实例大全 - 打造现代化GUI界面的终极指南 Adobe Acrobat XI Pro PDF拼版插件:提升排版效率的专业利器 Photoshop作业资源文件下载指南:全面提升设计学习效率的必备素材库 32位ECC纠错Verilog代码:提升FPGA系统可靠性的关键技术方案 STDF-View解析查看软件:半导体测试数据分析的终极工具指南 PhysioNet医学研究数据库:临床数据分析与生物信号处理的权威资源指南 海康威视DS-7800N-K1固件升级包全面解析:提升安防设备性能的关键资源
项目优选
收起
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
305
2.68 K
deepin linux kernel
C
24
7
Ascend Extension for PyTorch
Python
136
163
React Native鸿蒙化仓库
JavaScript
233
309
暂无简介
Dart
596
130
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
630
227
仓颉编译器源码及 cjdb 调试工具。
C++
123
642
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.06 K
614
TorchAir 支持用户基于PyTorch框架和torch_npu插件在昇腾NPU上使用图模式进行推理。
Python
195
71
仓颉编程语言测试用例。
Cangjie
36
642