NCCL4Py Communicator 全生命周期实战指南:创建、拆分、集合通信、注册与设备通信
NCCL4Py Communicator 全生命周期实战指南:创建、拆分、集合通信、注册与设备通信
NCCL4Py 是 NCCL 官方的 Python 绑定层,而 Communicator 是 nccl.core 模块中管理多 GPU 通信的核心对象。本文以 docs/userguide/source/nccl4py/communicator.rst 及其 7 个子文档(class / lifecycle / collectives / p2p / registration / device_setup / status)为骨架,结合 communicator.py 的完整源码实现与 examples 中的可运行示例,系统讲解 Communicator 的构造方式、身份属性、拆分/增长/销毁等生命周期操作、集体与点对点通信 API、零拷贝注册、设备通信端(device communicator)引导以及错误查询与资源清理。读完本文,你将能够用 NCCL4Py 从零搭建多进程多 GPU 通信程序,并理解每个 API 背后的 C 绑定调用与适用约束。
一、Communicator 是什么:核心概念与文档脉络
1.1 从 NCCL 到 NCCL4Py
NCCL(NVIDIA Collective Communications Library)提供优化的多 GPU 集体通信原语。NCCL4Py 将其封装为 Python 友好的 API,核心入口即 nccl.core.Communicator:
A communicator represents a group of ranks that can perform collective operations (e.g. allreduce, broadcast) and point-to-point operations (send/recv). Each rank has a unique ID in
[0, nranks).
也就是说,一个 Communicator 代表一组可以进行集体操作与点对点操作的 rank,每个 rank 在 <a href="https://link.gitcode.com/i/2f9d6e4c4fce380475b7b95b1f7d2aa7" target="_blank">0, nranks) 范围内拥有唯一 ID。源码位于 [bindings/nccl4py/nccl/core/communicator.py,其内部持有:
_comm_box:底层 NCCL 通信指针(ncclComm_t)的包装;_resources:该通信器拥有的注册资源(buffer、window、自定义归约算子、设备通信资源)列表;_nranks/_device/_rank/_comm_properties:按需查询并缓存的元数据。
1.2 文档结构
communicator.rst 本身是一个 toctree 索引页,按“生命周期阶段 + 操作类型”将 Communicator 的全部 API 划分为 7 个主题,各子文档分别对应:
| 子文档 | 覆盖内容 |
|---|---|
| class.rst | 类本身、构造函数、身份与设备 API 能力属性 |
| lifecycle.rst | 创建、拆分、增长、销毁、暂停/恢复 |
| collectives.rst | allreduce、broadcast、gather 等集体方法 |
| p2p.rst | send / recv / signal / wait_signal / put_signal |
| registration.rst | buffer 与 window 注册(零拷贝与 RMA) |
| device_setup.rst | 设备通信器(device communicator)的主机侧引导 |
| status.rst | 错误查询与资源清理 |
下文按此脉络展开,并在每一节补充源码级证据与运行示例。
二、Communicator 的构造:init / init_all / initialize
2.1 直接构造与 ptr
Communicator.__init__(ptr: int = 0) 支持用原始 NCCL 指针构造实例。与 init 类方法不同,它允许 ptr=0 创建 null communicator——例如 split 排除了某 rank 时返回的就是 null 实例。null 通信器之后可以通过 initialize 补初始化,或作为 grow 的调用者加入既有通信器。源码见 communicator.py#L238-L260。
ptr 属性暴露底层指针,is_valid 属性返回 ptr != 0 的判断结果,用于区分“已销毁/空”与“可用”状态。
2.2 类方法 init:多进程标准路径
Communicator.init(nranks, rank, unique_id, config=None) 是典型的 MPI 多进程初始化入口,是集体操作:所有 rank 必须用相同的 nranks 和 unique_id、不同的 rank 调用。其中:
unique_id可传单个UniqueId或UniqueId序列;传序列时会走ncclCommInitRankScalable路径;config为NCCLConfig对象,默认None。
底层绑定调用链为 comm_init_rank_scalable,见 communicator.py#L407-L449。
2.3 类方法 init_all:单进程多 GPU 便捷路径
Communicator.init_all(devices=None) 为单进程控制多 GPU 的场景优化:一个进程内为每个设备创建一个通信器,不需要 MPI 协调。参数语义:
devices=None(默认):初始化所有可见 CUDA 设备;devices为整数n:为设备[0, 1, ..., n-1]各建一个;devices为整数序列:按显式设备 ID 列表创建。
返回列表的下标即该通信器的 rank,底层通过 comm_init_all 一次完成所有设备的初始化(ncclCommInitAll 会内部保持当前设备上下文),见 communicator.py#L347-L405。注意:这些通信器必须逐一手动 destroy()。
2.4 initialize:null 通信器的就地初始化
initialize(nranks, rank, unique_id, config=None) 是 init 的实例方法版,允许“先建 null 通信器、后初始化”。若实例已初始化会抛 NcclInvalid。
2.5 UniqueId 与 get_unique_id:跨 rank 引导
UniqueId 是 NCCL 通信器初始化的唯一标识(对应 ncclUniqueId,128 字节),由**一个 rank(通常 rank 0)**通过 get_unique_id() 生成,再广播给所有参与 rank,各 rank 将其传入 init。UniqueId 支持三条序列化路径(见 utils.py#L133-L206):
- Bytes:
bytes(uid)/uid.as_bytes生成,接收端用UniqueId.from_bytes(b)还原,可经任意字节通道(TCP socket、共享文件系统)传输; - NumPy:
uid.as_ndarray返回底层缓冲区的就地视图,适合mpi4py.MPI.Comm.Bcast(大写 B)这类 NumPy 感知的传输; - Pickle:实例可直接 pickle,
mpi4py.MPI.Comm.bcast(小写 b)等对象广播开箱即用。
模块级 get_unique_id(empty=False) 生成新 UID;empty=True 时返回空 UID 供后续 from_bytes 填充。示例代码可见 01_allreduce.py:
unique_id = nccl.get_unique_id() if rank == root else None
unique_id = comm_mpi.bcast(unique_id, root=root)
nccl_comm = nccl.Communicator.init(nranks=nranks, rank=rank, unique_id=unique_id)
三、身份与能力属性:Properties
class.rst 将属性分为两组,均来自底层 ncclCommProperties_t(部分通过 comm_query_properties 查询并缓存,见 communicator.py#L293-L305)。
3.1 身份属性
| 属性 | 说明 | 底层绑定 |
|---|---|---|
ptr |
底层 ncclComm_t 指针(0 表示已销毁或 null) |
— |
is_valid |
是否有效(未销毁且非 null) | — |
nranks |
通信器总 rank 数 | comm_count |
device |
关联的 cuda.core.Device 对象,可继续获得 NVML 设备、属性与同步能力 |
comm_cu_device |
rank |
当前调用者的 rank(0 到 nranks-1) | comm_user_rank |
3.2 设备 API 能力属性
这些属性反映通信器对设备端(device-side)NCCL 能力的支持,直接影响能否创建设备通信器:
cuda_dev:关联的 CUDA 设备 ID;nvml_dev:NVML 索引空间下的设备 ID(可能与 CUDA 索引不同);device_api_support:平台是否支持设备端 NCCL 操作,False时无法创建设备通信器;multimem_support:同一 LSA team 内 rank 是否可用 multimem 通信,False时无法创建带 multimem 资源的设备通信器;gin_type:GPU Interconnect Network(GIN)类型,见下文枚举;n_lsa_teams:本通信器的 Local Shared Array(LSA)team 数;host_rma_support:是否支持 host RMA;railed_gin_type:本通信器支持的 railed GIN 类型。
实现见 communicator.py#L826-L926。GIN 相关枚举(NcclGinType / NcclGinConnectionType)在 typing.py#L137-L176 中定义:
NcclGinType.NONE / PROXY / GDAKI / GPI:分别表示无 GIN、代理转发(CPU proxy 线程转发)、GPUDirect Async Kernel-Initiated(内核直发 NIC、绕过 CPU proxy)、GPU-Push Interface(GPU 线程直接向 NIC 可见的 MMIO 队列推送描述符,无 CPU 参与、无内存屏障);NcclGinConnectionType.NONE / FULL / RAIL:分别表示不请求 GIN 连接、全连接(任意 rank 间均需 GIN 可达)、rail 内受限连接。
四、生命周期:拆分、增长、暂停与销毁
4.1 split:按颜色拆分
split(color=None, key=0, config=None) 将通信器按 color 拆成子通信器:
- 传相同
color的 rank 归入同一组;color=None的 rank 不属于任何组,得到 null 通信器; key决定新通信器内的排序,key 越小 rank 越小;key 相同则按原通信器 rank 排序;- 这是集体操作:所有 rank(包括
color=None的)都必须调用,且调用前不得有未完成的 NCCL 操作,否则可能死锁; config=None时继承父通信器配置;底层走ncclCommSplit。
源码见 communicator.py#L452-L499。
4.2 shrink:剔除 rank
shrink(exclude_ranks=None, config=None, flag=CommShrinkFlag.DEFAULT) 通过剔除指定 rank 得到新通信器,剩余 rank 重编号为连续 [0, n)。语义要点:
exclude_ranks中的 rank 被排除,被排除的 rank 不得调用本方法;CommShrinkFlag.DEFAULT(默认):要求无未完成操作(可与config.shrink_share=True组合复用父资源);CommShrinkFlag.ABORT:先终止进行中的操作再 shrink,不共享父资源。
CommShrinkFlag 定义于 constants.py#L43-L56。底层走 ncclCommShrink,见 communicator.py#L501-L555。
4.3 get_unique_id(实例方法)与 grow:扩容
通信器扩容(grow)引入三种角色(见 communicator.py#L579-L641):
- Existing root:唯一调用
existing_comm.get_unique_id()的老 rank,调用方式new_comm = existing_comm.grow(nranks, uid); - Existing non-root:其余老 rank,
new_comm = existing_comm.grow(nranks)(unique_id=None); - New ranks:用 null 通信器加入,
new_comm = Communicator().grow(nranks, uid, rank=assigned_rank),其中rank必须>=父通信器规模。
实例方法 get_unique_id() 生成绑定到本通信器的 UID,与创建通信器用的全局 get_unique_id 不同;一个 UID 只能用一次,需等待对应 grow 完成后才能再次生成。底层走 comm_get_unique_id / comm_grow。
4.4 销毁三件套:finalize / destroy / abort
| 方法 | 语义 | 说明 |
|---|---|---|
finalize() |
冲刷未完成操作与网络资源 | 非阻塞通信器上本身非阻塞:成功将状态置为 ncclInProgress,全部完成后转为 ncclSuccess;通常先于 destroy 调用(集体操作) |
destroy() |
销毁通信器并释放本地资源 | 若未显式 finalize 会内部调用;需保证状态为 ncclSuccess;销毁前自动关闭所有注册资源;同节点所有 rank 需一起调用避免挂起 |
abort() |
中止通信器,终止进行中操作 | 出现不可恢复错误时使用,不等操作完成;所有活跃 rank 都需调用 |
三者都会先调用 close_all_resources()(尽力清理、忽略错误、幂等)。实现见 communicator.py#L643-L716。
4.5 暂停 / 恢复:suspend / resume / revoke
suspend(flags=CommSuspendFlag.MEM):挂起通信器以释放资源,挂起期间不能通信,resume()恢复;CommSuspendFlag.MEM表示释放动态 GPU 内存分配(constants.py#L59-L67);resume():恢复所有被挂起的资源;revoke(flags=0):停止全部进行中操作并将状态置为ncclInProgress,状态转回ncclSuccess(通信器静默)后即可安全执行 destroy / split / shrink;revoke 之后调用 finalize 是非法的,且 revoke 期间禁用 split-share / shrink-share 的资源共享;flags保留给未来使用,当前必须为 0。
五、集体通信方法:allreduce 家族
collectives.rst 列出 9 个集体方法,全部是流式异步操作(stream=None 时使用默认流)。其共同的 buffer 语义为:元素计数自动推断、dtype 必须匹配、buffer 必须与通信器同设备(_validate_buffer_device 会校验,见 communicator.py#L275-L291)。
5.1 reduce / allreduce:归约双模式
reduce(sendbuf, recvbuf, op, root=None, stream=None) 支持两种模式(communicator.py#L1199-L1282):
- AllReduce 模式(
root=None,默认):所有 rank 在recvbuf中得到相同归约结果; - Reduce 模式(指定
root):只有 root rank 接收归约结果,其他 rank 的recvbuf被忽略。
元素计数由 sendbuf 推断(count = sendcount);AllReduce 模式要求所有 rank recvcount >= sendcount,Reduce 模式仅 root 需要。当 sendbuf 与 recvbuf 指向同一设备内存时自动就地(in-place)操作。allreduce 是 reduce 的等价变体,直接委托实现。
op 支持 NcclRedOp 内置算子(typing.py#L117-L135):SUM / PROD / MAX / MIN / AVG,或 CustomRedOp(见 6.3 节)。
可运行示例(来自 01_allreduce.py,运行方式 mpirun -np 4 python 01_allreduce.py):
import nccl.core as nccl
# ... 经 MPI 获取 rank/nranks、bcast unique_id、创建 nccl_comm ...
data = torch.tensor([float(rank)], dtype=torch.float32, device=device)
nccl_comm.reduce(data, data, nccl.SUM) # 就地 allreduce
torch.cuda.synchronize()
# rank 0 期望得到 nranks*(nranks-1)//2
nccl_comm.destroy() # 集体调用
5.2 broadcast / scatter / gather
broadcast(sendbuf, recvbuf, root, stream=None):root rank 的sendbuf广播到所有 rank 的recvbuf;非 root 的sendbuf被忽略;root 上要求 dtype 匹配且sendcount == recvcount,计数由recvbuf推断(communicator.py#L1137-L1197);scatter(sendbuf, recvbuf, root, stream=None):root 将sendbuf + i * count分发给 ranki;root 要求sendcount >= nranks且sendcount / nranks == recvcount,计数由recvbuf推断(communicator.py#L1512-L1580);gather(sendbuf, recvbuf, root=None, stream=None):AllGather 模式(root=None)下所有 rank 得到拼接结果的相同副本;Gather 模式(指定 root)仅 root 接收。ranki的数据落在recvbuf + i * sendcount。AllGather 模式要求recvcount >= nranks * sendcount,Gather 模式仅 root 需要(communicator.py#L1434-L1510)。allgather是gather的等价变体。
5.3 reduce_scatter / alltoall
reduce_scatter(sendbuf, recvbuf, op, stream=None):归约后分片,ranki在recvbuf中收到第 i 块;计数推断为count = sendcount / nranks,要求sendcount >= nranks且recvcount >= count(communicator.py#L1305-L1370);alltoall(sendbuf, recvbuf, stream=None):每个 rank 向/从其他每个 rank 收发count个元素;发往 rankj的数据取自sendbuf + j * count,来自 ranki的数据放入recvbuf + i * count;要求sendcount >= nranks且recvcount >= sendcount(communicator.py#L1372-L1432)。
以上方法均先通过 _check_valid 校验通信器已初始化,再调用 _nccl_bindings 中的 all_reduce / reduce / broadcast / scatter / gather / all_gather / reduce_scatter / allto_all 等底层绑定,与 docs/userguide/source/api 中的 C API 一一对应。
六、点对点与信号方法:send / recv / signal 家族
p2p.rst 覆盖传统点对点收发与新一代信号(signal/wait)同步原语,对应 C 层的 ncclSend / ncclRecv / ncclSignal / ncclWaitSignal / ncclPutSignal。
6.1 send / recv
send(sendbuf, peer, *, stream=None):向 peer rank 发送 buffer;recv(recvbuf, peer, *, stream=None):从 peer rank 接收数据到 buffer。
两者都会解析 NcclBufferSpec 并校验 buffer 与通信器同设备。死锁注意:send/recv 的调用顺序需要精心编排(例如所有 rank 先 send 再 recv,或偶数 rank send-then-recv、奇数 rank recv-then-send),否则可能互相等待。仓库的 02_send_recv.py 演示了用 nccl.group() 上下文避免死锁的推荐做法:
with nccl.group():
nccl_comm.send(send_data, peer=other_rank) # 任意顺序,不会死锁
nccl_comm.recv(recv_data, peer=other_rank)
运行方式为 mpirun -np 2 python 02_send_recv.py。
6.2 signal / wait_signal / put_signal
这是为 RMA/GPUDirect 场景设计的新一代同步机制:
signal(peer, signal_index=0, context=0, flags=0, *, stream=None):在指定流上入队一个信号操作,通知目标 peer;peer 可用wait_signal等待。当前signal_index、context、flags均必须为 0(flags 保留给未来);wait_signal(descs, *, stream=None):按WaitSignalDesc描述在流上入队等待操作,阻塞直到收到来自 peer 的指定数量信号。WaitSignalDesc的字段(communicator.py#L135-L156):peer:等待哪个 peer rank 的信号;op_count(默认 1,底层字段op_cnt):等待来自该 peer 的多少个信号操作;signal_index(默认 0,底层sig_idx):当前必须为 0;context(默认 0,底层ctx):当前必须为 0。
put_signal(local_buffer, peer, peer_window, peer_window_offset=0, signal_index=0, context=0, flags=0, *, stream=None):把本地 buffer 内容写入 peer 的已注册 window 并发信号。peer_window必须是 peer 经register_window得到的RegisteredWindowHandle(通常通过 allgather 交换 window handle 获得);peer_window_offset以元素为单位偏移。
实现见 communicator.py#L983-L1112。
七、内存注册:register_buffer / register_window
registration.rst 对应 C 层 ncclCommRegister / ncclCommWindowRegister,为零拷贝与 RMA 提供基础。两种注册返回的 handle 都由通信器跟踪,可显式 close(),或在通信器 destroy / abort 时自动释放。
7.1 register_buffer:零拷贝优化
register_buffer(buffer) -> RegisteredBufferHandle(communicator.py#L1583-L1617):
- 将用户 buffer 注册到通信器,使 NCCL 操作获得性能优化机会;
- buffer 大小自动由
count * dtype.itemsize推导; - 底层在
RegisteredBufferHandle._allocate中调用comm_register,close()时调用comm_deregister(resources.py#L98-L156)。
7.2 register_window:RMA 窗口
register_window(buffer, flags=None) -> RegisteredWindowHandle | None(communicator.py#L1619-L1672):
- 集体调用:所有 rank 必须参与,默认要求各 rank 的 buffer 大小相等;
- 在 group 内调用时,handle 值可能要到
ncclGroupEnd完成后才填充;对非阻塞通信器,handle 可能保持 0,直到get_async_error报告成功; - 若通信器状态为
ncclSuccess而 handle 仍为 null(例如平台不支持 window),返回None; - 注销(deregister)是本地操作。
WindowFlag 取值(constants.py#L71-L87):DEFAULT(默认)、COLL_SYMMETRIC(集体对称窗口注册)、STRICT_ORDERING(窗口操作严格排序)。底层通过 RegisteredWindowHandle._allocate 调用 comm_window_register(resources.py#L159-L214),注销走 comm_window_deregister。window handle 正是 put_signal 等 RMA 原语的目标。
7.3 create_pre_mul_sum:自定义归约算子
create_pre_mul_sum(scalar, datatype=None) -> CustomRedOp(communicator.py#L1675-L1785)创建执行 output = scalar * sum(inputs) 的 PreMulSum 自定义归约算子,常用于求平均(scalar = 1/N)或加权归约。scalar 支持三种形式:
- Python
int/float:转为单元素 NumPy 数组(host 内存),datatype=None时分别推断为int64/float64; - NumPy 数组:必须恰好 1 个元素,使用 host 内存;
- 设备 buffer(
NcclSupportedBuffer类):必须恰好 1 个元素,按设备内存处理;若显式给出datatype,必须与 buffer 的 dtype 一致。
实现细节:host 标量会存到 resource 内部(resource._scalar_array)防止被垃圾回收;底层对应 ncclRedOpCreatePreMulSum。
八、设备通信器引导:create_dev_comm
device_setup.rst 说明:设备端通信原语本身只能从 CUDA kernel 内使用(对应 C 设备 API,见 docs/userguide/source/api/device),本页覆盖的是 Python(host)侧为引导设备通信器暴露的接口。
8.1 create_dev_comm
create_dev_comm(requirements=None) -> DevCommResource(communicator.py#L1787-L1826):
- 从一个 host 通信器可创建多个设备通信器,使 GPU kernel 能直接访问 NCCL 通信原语;
requirements传NCCLDevCommRequirements,默认None时使用默认配置;- 返回的
DevCommResource被通信器跟踪,可显式close()或随 destroy / abort 自动释放;通过resource.ptr或resource.dev_comm.ptr取设备通信器指针; - 底层对应
ncclDevCommCreate。
NCCLDevCommRequirements(communicator.py#L158-L220)的关键字段与默认值:
| 字段 | 含义 | 默认 |
|---|---|---|
lsa_multimem |
在 LSA team 上启用 multimem | False |
barrier_count |
需要的 barrier 数量 | 0 |
lsa_barrier_count |
LSA barrier 数量 | 0 |
rail_gin_barrier_count |
railed GIN barrier 数量 | 0 |
lsa_ll_a2a_block_count |
LSA 低延迟 all-to-all 块数 | 0 |
lsa_ll_a2a_slot_count |
LSA 低延迟 all-to-all 槽数 | 0 |
gin_force_enable |
强制启用 GIN | False |
gin_context_count |
GIN 上下文数(提示值,实际可能不同) | 4 |
gin_signal_count |
GIN 信号数(保证从 id=0 起) | 0 |
gin_counter_count |
GIN 计数器数(保证从 id=0 起) | 0 |
8.2 能力前置检查
创建设备通信器前,应结合第 3 节的属性做能力检查:device_api_support == False 时无法创建设备通信器;multimem_support == False 时不能请求 multimem 资源;gin_type == NcclGinType.NONE 时不能请求 GIN 资源;railed_gin_type == NcclGinType.NONE 时不能请求 NcclGinConnectionType.RAIL 连接。这些约束直接写在各属性的 docstring 中(communicator.py#L850-L926)。
九、状态查询与资源清理
status.rst 覆盖错误查询与资源清理,对应 C 层 ncclCommGetAsyncError / ncclCommGetLastError / ncclCommMemAlloc 等。
9.1 close_all_resources
close_all_resources() 关闭通信器拥有的全部资源(注册 buffer、window、自定义算子、设备通信器),幂等、尽力清理(忽略单个资源释放错误,避免掩盖用户异常或阻碍销毁),见 communicator.py#L1828-L1843。destroy 与 abort 都会自动调用它。
9.2 错误查询
get_last_error() -> str:返回本通信器最近一次错误的字符串;get_async_error() -> Result:查询异步 NCCL 操作的进度与潜在错误,返回ncclSuccess、ncclInProgress或错误码。使用规则(communicator.py#L1855-L1886):- 无 stream 参数的操作(如
finalize)返回ncclSuccess即完成; - 有 stream 参数的操作(如
reduce)提交即返回ncclSuccess,但错误可能通过本方法延迟上报; - 任何 NCCL 函数返回
ncclInProgress时,必须持续查询直到变为ncclSuccess才能调用下一个 NCCL 函数; - 状态变为
ncclSuccess之前,不要在 NCCL 使用的流上发起 CUDA kernel;出错后用abort()销毁通信器,出错后无法假定已入队操作的完成或正确性;
- 无 stream 参数的操作(如
get_mem_stat(stat: NcclCommMemStat) -> int:查询通信器内存统计。NcclCommMemStat取值(typing.py#L90-L114):GPU_MEM_SUSPEND(可被suspend释放的 GPU 内存,字节)、GPU_MEM_SUSPENDED(是否处于挂起态,0/1)、GPU_MEM_PERSIST(不可挂起的 GPU 内存,字节)、GPU_MEM_TOTAL(NCCL 跟踪的通信器 GPU 内存总量,字节);get_error_string(nccl_result):模块级辅助函数,将 NCCL 结果码渲染为可读字符串(utils.py#L229-L238)。
十、实践要点与常见陷阱
- 初始化是集体操作:
init/split/shrink/grow/destroy都要求所有相关 rank 参与,漏调或顺序不一致会挂起或死锁; - UID 生成与广播:
get_unique_id()只在 rank 0 调用一次,经 MPI(或任意字节通道)广播;grow的 UID 绑定具体通信器、只能用一次; - P2P 顺序与 group:裸 send/recv 需要严格编排调用顺序,推荐用
nccl.group()上下文包裹以任意顺序安全收发; - Buffer 约束:集体与 P2P 方法的 buffer 必须与通信器同设备、dtype 匹配,计数按文档规则推断(如 allreduce 取 sendcount、broadcast 取 recvcount、reduce_scatter 取
sendcount / nranks); - 设备通信器的能力检查:创建
create_dev_comm前先检查device_api_support、multimem_support、gin_type、railed_gin_type,避免请求不支持的资源; - 异步错误处理:非阻塞通信器上用
get_async_error()轮询状态直到ncclSuccess,出错走abort()而非destroy(); - 资源自动回收:
register_buffer/register_window/create_pre_mul_sum/create_dev_comm返回的资源随通信器销毁自动关闭,无需手动逐个清理,但也可显式close()提前释放。
如需深入,可继续阅读 bindings/nccl4py/nccl/core/resources.py(资源句柄实现)、bindings/nccl4py/nccl/core/constants.py 与 bindings/nccl4py/nccl/core/typing.py(枚举定义)、bindings/nccl4py/nccl/core/utils.py(UID 与版本工具),以及 bindings/nccl4py/examples/01_basic 下的两个完整可运行示例。