Amazon EKS-AMI中AL2023节点OOM问题的分析与解决

问题背景

在Amazon EKS使用Amazon Linux 2023(AL2023)作为节点操作系统时，部分应用程序如Redis和Elixir会出现立即被OOM Killer终止的情况。这些应用在Amazon Linux 2(AL2)上运行正常，但在AL2023上却无法启动。

问题现象

当在AL2023节点上部署Redis或Elixir应用时，容器会立即进入崩溃循环状态。具体表现为：

• Redis容器启动后立即被OOM Killer终止
• Elixir容器启动后立即退出并返回137(OOM)错误码
• 这些现象在设置内存限制为1GB时尤为明显

根本原因分析

经过深入调查，发现问题的根源在于AL2023中文件描述符限制的变化：

1. 系统级变化：

   • AL2023中systemd版本升级到240及以上，将LimitNOFILE的默认值设为"infinity"
   • 在AL2023中，"infinity"实际表示2^63-1(9223372036854775807)
   • containerd继承了这一极高的文件描述符限制

2. 应用行为：

   • Erlang/Elixir的BEAM虚拟机会根据文件描述符限制动态调整端口表大小
   • Redis会尝试将文件描述符限制提升到最大值
   • 这些应用会根据文件描述符限制分配大量内存，导致超出容器内存限制而被OOM Killer终止

解决方案

Amazon EKS-AMI团队已经针对此问题提出了修复方案：

1. 短期解决方案：

   • 对于Elixir/Erlang应用，可以通过设置+Q 1024参数限制端口表大小
   • 对于Redis应用，可以显式设置合理的文件描述符限制

2. 长期解决方案：

   • 调整containerd的LimitNOFILE设置，避免继承系统的"infinity"值
   • 将默认值改为更合理的范围(如1024:65536)
   • 该修复已通过PR提交，将在下一版AMI中发布

技术细节

1. Erlang/Elixir方面：

   • BEAM虚拟机的super carrier机制会尝试分配大块内存
   • 端口表大小与文件描述符限制直接相关
   • 可以通过+MMsco、+Musac和+MMscs参数调整内存分配策略

2. Redis方面：

   • Redis启动时会尝试最大化文件描述符限制
   • 事件循环的实现会基于文件描述符数量分配内存
   • 高文件描述符限制导致内存分配过大

3. 系统层面：

   • AL2023使用cgroups v2，内存限制机制与AL2不同
   • 文件描述符限制的传播路径：systemd → containerd → 容器
   • OOM Killer的行为在cgroups v2下更为严格

最佳实践

对于需要在AL2023节点上运行类似应用的开发者，建议：

1. 了解应用的内存分配特性，特别是与系统资源限制相关的部分
2. 为容器设置合理的内存限制和请求
3. 对于Erlang/Elixir应用，考虑使用+Q参数限制端口表大小
4. 关注Amazon EKS-AMI的更新，及时升级到包含修复的版本
5. 在应用部署前进行充分测试，特别是内存使用方面的测试

该问题的修复将显著提高AL2023节点上内存敏感型应用的稳定性，为开发者提供更好的运行环境。