SPDK项目中内存泄漏问题的分析与解决
2025-06-26 13:12:20作者:齐冠琰
问题背景
在SPDK项目的持续集成测试中,发现了一个与内存泄漏相关的间歇性故障。该问题主要出现在accel_assign_opcode测试用例执行过程中,当等待spdk_tgt进程结束时,系统检测到了内存泄漏情况。
问题现象
测试日志显示,在终止spdk_tgt进程并等待其结束时,系统报告了以下关键错误信息:
- 检测到多个内存泄漏情况,总计约10.9KB内存未被释放
- 泄漏主要来自两个地方:
- 32个对象共9984字节的间接泄漏,源自PCI设备扫描函数
pci_scan_one - 32个对象共977字节的间接泄漏,源自内存分配函数
vasprintf和asprintf
- 32个对象共9984字节的间接泄漏,源自PCI设备扫描函数
技术分析
泄漏源头分析
通过分析调用栈和测试日志,可以确定内存泄漏主要发生在DPDK的PCI设备扫描过程中。具体来说:
pci_scan_one函数在扫描PCI设备时分配了内存但未正确释放- 字符串格式化函数
vasprintf和asprintf在设备信息处理过程中也存在内存泄漏
版本相关性
进一步调查发现:
- 该问题在SPDK master分支与DPDK 22.11版本组合时100%复现
- 使用更新的DPDK 23.11版本时问题消失
- 问题与新增的
accel_scan_dsa_modules测试用例有关,因为它使spdk_tgt也开始使用DSA设备
历史背景
实际上,类似的PCI扫描内存泄漏问题在DPDK早期版本中就存在过。社区曾经为此专门打过补丁修复。虽然DPDK官方后来修复了这个问题,但在特定版本组合下问题仍然会重现。
解决方案
经过深入分析,确定了以下解决方案:
- 升级到DPDK 22.11.3或更新版本可以彻底解决此问题
- 该版本包含了PCI扫描相关内存管理的完整修复
- 需要同步更新CI测试环境以使用修复后的DPDK版本
技术启示
这个案例给我们几个重要的技术启示:
- 开源组件间的版本兼容性需要特别关注
- 内存泄漏问题可能在特定功能组合下才会显现
- 持续集成测试对发现这类隐蔽问题至关重要
- 历史问题可能在特定条件下复现,需要建立完善的问题追踪机制
后续改进
为了避免类似问题,建议:
- 建立更严格的版本依赖管理机制
- 对关键内存操作增加更详细的日志记录
- 在CI中增加内存泄漏的专项检测
- 定期更新依赖组件的版本
通过这次问题的分析和解决,SPDK项目在内存管理和版本兼容性方面又积累了宝贵的经验。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0448
源启盛夏_AtomGit暑期开发者成长计划「源启盛夏」暑期校园开发者成长计划旨在激活校园开源力量,通过积分激励、认证扶持、资源倾斜等形式,引导高校组织和开发者完成「入驻 — 建项目 — 做贡献 — 获认证 — 得资源」的完整闭环。无论你是想带领社团入驻平台的组织者,还是希望用代码贡献证明自己的开发者,都能在这里找到属于你的成长路径。Markdown00
jiuwenswarmJiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。Python0769
Hy3Hy3 是由腾讯混元团队研发的快慢思考融合的混合专家模型,总参数量 295B,激活参数 21B,MTP 层参数 3.8B。4 月底发布 Hy3 Preview 后,我们在 50 多个业务中获得了广泛的反馈,修复了各种体验问题,进一步提升了后训练的质量和规模。今天,我们发布 Hy3。它展现出显著强于同尺寸并比肩旗舰(参数规模往往是 Hy3 的 2~5 倍)开源模型的智能水平,显著提升了在各类产品和生产力任务中的实用价值。Python00
AscendNPU-IRAscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优C++0312
DragonOSDragonOS is an operating system developed from scratch using Rust, with Linux compatibility. It is designed for **Serverless** scenarios. 使用Rust从0自研内核,具有Linux兼容性的操作系统,面向云计算Serverless场景而设计。Rust00
最新内容推荐
项目优选
收起
暂无描述
Markdown
827
5.49 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
494
518
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
786
1.58 K
作为 Ascend for PyTorch 社区的核心组件,TorchNPU 是昇腾专为 PyTorch 打造的深度学习适配插件,使 PyTorch 框架能够直接调用昇腾 NPU,为开发者提供昇腾 AI 处理器的超强算力。
Python
803
1.14 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
973
2.29 K
deepin linux kernel
C
32
16
AscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优
C++
482
312
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
3.02 K
769
CANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体,本仓库为其提供可复用的 Skills 模块。
Markdown
1.26 K
811
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
648
287