Rust futures-rs 项目中的异步 WaitGroup 实现探讨
2025-06-06 02:06:16作者:郁楠烈Hubert
在并发编程中,WaitGroup 是一种常见的同步原语,用于协调多个并发任务的完成。传统的 WaitGroup 实现(如 crossbeam 提供的版本)是针对同步上下文设计的,而在异步编程场景下,我们需要一个专门的异步 WaitGroup 实现。
异步 WaitGroup 的设计动机
异步 WaitGroup 的核心需求是在异步环境中实现类似 fork-join 模式的同步机制。典型使用场景包括:
- 服务器启动时等待所有组件初始化完成
- 并行任务执行后等待所有任务完成
- 分布式系统中等待多个节点响应
与同步版本不同,异步 WaitGroup 需要与异步运行时集成,能够被 await,并且高效地唤醒所有等待的任务。
实现方案分析
一个基本的异步 WaitGroup 实现可以基于 Arc 和 AtomicWaker 构建:
#[derive(Clone)]
pub struct WaitGroup {
inner: Arc<Inner>,
}
struct Inner {
waker: AtomicWaker,
}
这种实现的核心思想是:
- 每个 WaitGroup 持有一个 Arc 引用计数
- 克隆 WaitGroup 会增加引用计数
- 当所有克隆被 drop 后,引用计数归零,触发唤醒
关键实现细节
唤醒机制
最初的实现只唤醒最后一个注册的 Waker,这在多等待者场景下会有问题。正确的做法是:
- 使用多个 AtomicWaker 或类似结构存储所有等待者
- 在内部状态变化时唤醒所有注册的等待者
引用计数管理
WaitGroup 使用 Arc 的引用计数来跟踪活跃工作者的数量。通过 Arc::strong_count() 可以查询当前活跃工作者数量,这在调试和监控中很有用。
异步集成
通过实现 IntoFuture 和 Future trait,WaitGroup 可以直接被 await:
impl IntoFuture for WaitGroup {
type Output = ();
type IntoFuture = WaitGroupFuture;
// ...
}
impl Future for WaitGroupFuture {
type Output = ();
// ...
}
使用示例
典型的使用模式如下:
let wg = WaitGroup::new();
// 启动多个异步任务
for _ in 0..10 {
let wg = wg.clone();
runtime.spawn(async move {
// 执行任务...
drop(wg); // 任务完成
});
}
// 等待所有任务完成
wg.await;
实现考量
- 无标准库支持:当前实现不依赖标准库,可以在 no_std 环境中使用
- 线程安全:Arc 保证了跨线程的安全性
- 高效唤醒:精心设计的唤醒机制避免不必要的上下文切换
生态系统定位
目前,异步 WaitGroup 更适合作为一个独立库存在,而非直接进入标准库或 futures-rs,原因包括:
- 使用场景相对特定
- 实现细节可能随异步运行时发展而变化
- 社区尚未形成统一的最佳实践
开发者可以根据具体需求选择现有实现或自行构建,但需要注意正确处理多等待者场景下的唤醒逻辑。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0242
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
JoyAI-VL-Interaction-Preview京东开源首个开源、视觉驱动的实时交互模型——它能实时监控视频流,并自主决定何时发言、保持沉默或委托任务。Jinja00
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0181
kornia🐍 空间人工智能的几何计算机视觉库Python03
PaddleParallel Distributed Deep Learning: Machine Learning Framework from Industrial Practice (『飞桨』核心框架,深度学习&机器学习高性能单机、分布式训练和跨平台部署)C++02
项目优选
收起
暂无描述
Dockerfile
786
5.15 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
898
2.08 K
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
721
1.45 K
deepin linux kernel
C
32
16
Ascend Extension for PyTorch
Python
767
989
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
481
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
483
181
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.13 K
1.17 K
昇腾LLM分布式训练框架
Python
189
240
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
157
249