Kong Gateway 数据平面中 LMDB 读取器数量超限问题分析与解决

问题背景

在使用 Kong Gateway 3.7.1.2 版本搭建数据平面(DP)集群时，系统报出 MDB_READERS_FULL: Environment maxreaders limit reached 错误。该问题在 Ubuntu 22.04.3 LTS 系统上出现，但在 CentOS 7 上运行正常，表明这是一个与环境相关的配置问题。

问题现象

当尝试将 Kong Gateway 配置为数据平面角色运行时，系统日志中会出现以下关键错误信息：

2024/10/23 03:31:58 [crit] 3019#0: unable to open LMDB read only transaction: MDB_READERS_FULL: Environment maxreaders limit reached

此错误表明 LMDB(轻量级内存数据库)的读取器数量已达到系统预设的上限，无法再创建新的读取器会话。

技术分析

LMDB 读取器机制

LMDB 是 Kong Gateway 用于高效存储和检索配置数据的嵌入式数据库引擎。它采用多版本并发控制(MVCC)机制，其中：

1. 每个工作进程需要创建一个独立的读取器会话
2. 默认情况下，LMDB 的最大读取器数量限制为 126
3. 每个读取器会占用一定的内存资源

Kong 工作进程模型

Kong Gateway 基于 Nginx 的事件驱动架构，其工作特点包括：

1. 默认情况下，Kong 会为每个 CPU 核心创建一个工作进程
2. 每个工作进程需要独立的 LMDB 读取器
3. 在高核心数服务器(如128核)上，工作进程数量会超过 LMDB 的默认读取器限制

问题根源

在128核的服务器环境中：

1. Kong 自动创建128个工作进程
2. 每个工作进程尝试创建 LMDB 读取器
3. 当创建第127个读取器时，超出 LMDB 默认126的限制
4. 系统抛出 MDB_READERS_FULL 错误

解决方案

临时解决方案

通过设置环境变量限制工作进程数量：

export KONG_NGINX_WORKER_PROCESSES=115
kong start

建议值说明：

• 115：为主进程和其他系统组件预留11个读取器
• 可根据实际负载情况调整，但不应超过120

长期建议

对于生产环境的高核心数服务器：

1. 评估实际并发需求，合理设置工作进程数
2. 监控系统资源使用情况
3. 等待官方增加 LMDB 最大读取器限制的更新

配置建议

在 kong.conf 配置文件中，可以添加以下参数：

nginx_worker_processes = 115

或者在启动前设置环境变量：

KONG_NGINX_WORKER_PROCESSES=115 kong start

总结

Kong Gateway 在高核心数服务器上作为数据平面运行时，可能因 LMDB 读取器数量限制而导致启动失败。通过合理配置工作进程数量，可以有效解决此问题。对于128核及以上的服务器环境，建议将工作进程数设置为115左右，为系统预留足够的资源空间。

此问题的根本原因是 LMDB 的默认读取器限制与高核心数服务器自动创建工作进程机制之间的不匹配，理解这一原理有助于更好地规划和优化 Kong Gateway 的部署架构。