HAProxy内存分配错误问题分析与修复

问题背景

在HAProxy 2.9.4版本作为L7反向代理的使用过程中，随着流量逐渐增加，系统出现了频繁崩溃的情况。经过分析发现，这些崩溃主要与Lua功能的内存分配问题有关，特别是在使用Lua fetch和action时出现的内存分配失败。

问题表现

系统崩溃主要呈现两种典型场景：

1. Lua fetch调用hmac时崩溃：在调用txn.c:hmac函数时，内存分配失败导致空指针解引用。具体表现为check_crypto_hmac函数尝试分配内存失败后，错误处理代码尝试解引用NULL指针。

2. Lua action调用时崩溃：在创建新Lua线程时，luaM_malloc_函数无法分配内存，最终导致进程中止。

根本原因分析

深入分析后发现，这些问题与jemalloc内存分配器的行为有关：

1. jemalloc与vm.max_map_count限制：系统设置了vm.overcommit_memory=2和较低的vm.max_map_count=65530，当进程的内存映射数量达到上限时，即使系统仍有可用内存，jemalloc也会返回分配失败。

2. HAProxy错误处理不完善：

   • hlua_ctx_renew()函数作为安全函数使用时，未对可能抛出错误的Lua库函数进行保护
   • 部分样本函数假设错误指针参数永远非NULL，而HLua调用时传递了NULL

解决方案

针对这些问题，开发团队实施了以下修复措施：

1. 修复hlua_ctx_renew()函数：

   • 添加了安全LJMP保护
   • 正确处理内存分配失败情况
   • 确保资源正确释放

2. 改进样本函数错误处理：

   • 为HLua调用提供有效的错误指针
   • 正确处理错误消息内存
   • 避免NULL指针解引用

3. 系统配置建议：

   • 适当增加vm.max_map_count值
   • 监控进程的内存映射数量
   • 考虑jemalloc的调优参数

最佳实践建议

对于在生产环境中使用HAProxy+Lua组合的用户，建议：

1. 系统配置方面：

   • 监控/proc/<pid>/maps数量
   • 根据负载情况调整vm.max_map_count
   • 考虑jemalloc的内存分配策略

2. HAProxy使用方面：

   • 定期更新到包含这些修复的版本
   • 监控内存分配失败日志
   • 合理设计Lua脚本，避免过度内存消耗

3. 性能调优方面：

   • 考虑设置tune.lua.maxmem限制
   • 监控Lua内存使用情况
   • 在高负载环境下进行充分测试

总结

这次问题的解决不仅修复了HAProxy中的具体bug，也揭示了jemalloc在特定系统配置下可能出现的问题。对于使用类似技术栈的用户，理解这些底层机制对于构建稳定可靠的生产环境至关重要。建议用户根据自身负载特点，合理配置系统和HAProxy参数，确保服务稳定性。