Aeron项目中MDS订阅关闭时的传输资源泄漏问题分析
2025-05-29 11:20:20作者:齐添朝
问题背景
在分布式系统开发中,Aeron作为高性能消息传输库被广泛应用。近期发现Aeron在处理多目的地订阅(MDS)时存在一个资源管理问题:当关闭带有动态添加目的地的订阅时,底层传输资源未能被正确释放。
问题现象
开发人员观察到以下异常现象:
- 创建并关闭MDS订阅后,系统持续输出"NAME_RESOLUTION_RESOLVE"日志
- 随着时间推移,这些日志信息会无限增长
- 系统资源使用量(CPU和内存)会逐渐增加
- 该问题在Aeron 1.46.7和1.34.0版本中均存在
技术分析
问题的核心在于Aeron驱动层的资源管理机制。具体表现为:
- 传输资源泄漏:当关闭带有动态添加目的地的MDS订阅时,DataTransportPoller中的channelAndTransports数组会持续增长
- 持续轮询:泄漏的资源会继续被轮询,导致不必要的CPU消耗
- 名称解析开销:系统会持续尝试解析已关闭连接的主机名和IP地址
这种资源泄漏在以下场景尤为严重:
- 高频创建和销毁订阅
- 长时间运行的应用程序
- 高负载环境
解决方案
Aeron开发团队已经修复了这个问题。修复的核心是确保在关闭MDS订阅时正确清理相关的目的地传输资源。
对于临时解决方案,可以考虑:
- 使用普通订阅替代MDS订阅(如果业务场景允许)
- 定期重启应用(不推荐用于生产环境)
最佳实践建议
- 版本升级:及时升级到已修复该问题的Aeron版本
- 资源监控:对Aeron相关资源使用情况进行监控
- 订阅管理:避免不必要的订阅创建/销毁操作
- 连接复用:多个订阅可共享同一接收端点(相同通道和流ID)
总结
资源管理是高性能消息系统的核心挑战之一。Aeron团队对此问题的快速响应体现了项目对稳定性的重视。开发者在使用MDS功能时应当注意资源释放问题,特别是在需要频繁操作订阅的场景下。通过合理的设计和版本管理,可以充分发挥Aeron的高性能特性,同时避免资源泄漏风险。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0172
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook097
Step-3.7-FlashStep-3.7-Flash是一个拥有 1980 亿参数的稀疏混合专家(MoE)视觉语言模型,由 1960 亿参数的语言主干网络和 18 亿参数的视觉编码器组合而成,具备原生图像理解能力。Python00
BitCPM-CANN-8BBitCPM-CANN 是首个基于华为昇腾 NPU 原生构建的端到端 1.58 位(三值化)大语言模型训练系统。该系统将量化感知训练(QAT)集成到 Megatron-LM 框架中,并结合 MindSpeed 加速,覆盖了从自定义三值算子到基于昇腾 910B 的分布式并行训练的完整训练栈。Python00
MiniCPM5-1BMiniCPM5-1B,这是 MiniCPM5 系列的首款模型。它是一个专为端侧、本地部署和资源受限场景打造的 10 亿参数密集型 Transformer 模型,达到了 10 亿参数级开源模型的 SOTA 水平Jinja00
skillhubopenJiuwen 生态的 Skill 托管与分发开源方案,支持自建与可选 ClawHub 兼容。Python0239
热门内容推荐
最新内容推荐
项目优选
收起
deepin linux kernel
C
32
16
暂无描述
Dockerfile
750
4.87 K
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
1.58 K
172
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
841
1.84 K
Ascend Extension for PyTorch
Python
689
834
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
229
97
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
451
418
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.02 K
1.04 K
暂无简介
Dart
999
259
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
642
1.27 K