Glommio项目中大文件读取导致进程D状态阻塞问题分析

2025-06-25 01:24:28作者：管翌锬

Glommio is a thread-per-core crate that makes writing highly parallel asynchronous applications in a thread-per-core architecture easier for rustaceans.

项目地址：https://gitcode.com/gh_mirrors/gl/glommio

在Linux内核5.15环境下使用Glommio异步I/O库时，开发者发现当执行超过6MB的大文件读取操作时，进程会进入不可中断的D状态(D-state)，导致系统资源被永久占用且无法通过常规手段终止进程。本文将从技术角度深入分析该问题的成因、影响范围及解决方案。

问题现象

当使用Glommio的ImmutableFile进行大文件读取时（特别是超过6MB的请求），进程会表现出以下异常行为：

进程状态变为D状态（不可中断睡眠）
CPU占用率持续保持100%
即使使用kill -9也无法终止进程
必须重启系统才能恢复

根本原因分析

经过深入排查，发现问题与Linux块设备层的队列限制直接相关。具体表现为：

设备队列限制：每个块设备都有max_sectors_kb参数（可通过/sys/block/[device]/queue/max_sectors_kb查看），该值决定了单次I/O请求的最大大小。
内核版本差异：在5.15内核中存在缺陷，当I/O请求大小超过设备限制的一半时，会导致不可恢复的阻塞。而在更新的6.6内核中该问题已修复。
Glommio处理机制：当前版本的Glommio未自动处理超出设备限制的I/O请求拆分，需要开发者手动控制请求大小。

解决方案与实践建议

临时解决方案

手动拆分请求：将大请求分解为多个小于设备限制的小请求：

let reads = file.read_many(
    iovs,
    MergedBufferLimit::NoMerging,
    ReadAmplificationLimit::NoAmplification
)
.with_concurrency(16)
.with_memory_limit(None);