PyPTO SIMT 原子操作(atomic)API 全面指南:从直方图统计到无锁并发
PyPTO SIMT 原子操作(atomic)API 全面指南:从直方图统计到无锁并发
PyPTO(Parallel Tensor/Tile Operation)的 SIMT 编程范式在 pypto_pro.language.simt 命名空间下提供了一整套原子操作 API,用于在多线程并行访问同一 Tile/Tensor 元素时保证"读-改-写"的原子性。本指南以 atomic 目录索引 为骨架,逐一拆解 atomic_add、atomic_sub、atomic_exch、atomic_max、atomic_min、atomic_inc、atomic_dec、atomic_cas、atomic_and、atomic_or、atomic_xor 共 11 个接口的功能语义、数据类型支持、返回值规则与典型应用场景。读完本文,你将能够在 SIMT 向量函数中熟练实现直方图统计、计数器分配、极值归约、无锁状态机与位掩码合并等并发原语。
一、原子操作在 SIMT 编程中的位置
1.1 为什么要使用原子操作
在 SIMT 模式下,一个 vector_function(mode="simt") 会以多线程(thread)形式并行执行,每个线程通过 linear_thread_idx 获得自身的线程编号。当多个线程同时读写同一内存单元时(例如多个线程同时向同一个计数器累加),如果采用普通的"读-改-写"序列,就会出现竞态条件:线程 A 读到的旧值可能在线程 B 写入之后被覆盖,导致结果错误。
原子操作(atomic operation)把"读取旧值 → 计算新值 → 写回"整个过程作为一个不可分割的整体执行,硬件保证任意时刻只有一个线程能够完成对目标元素的完整更新,从而在无需加锁的前提下实现多线程之间的安全数据交换。这在并行编程中是构造同步原语、计数器、直方图、归约结果等共享数据结构的基石。
1.2 原子操作 API 的接口组织
所有原子操作均作为 pypto_pro.language.simt 模块下的静态方法提供。在 Python 前端声明 中,11 个接口的签名与源码级语义注释如下:
atomic_add(target: Scalar, value: Scalar) -> Scalar | None # 原子累加,FP16/BF16 无返回值
atomic_sub(target: Scalar, value: Scalar) -> Scalar # 原子减法
atomic_exch(target: Scalar, value: Scalar) -> Scalar # 原子交换(写入新值)
atomic_max(target: Scalar, value: Scalar) -> Scalar | None # 原子取较大值,FP16/BF16 无返回值
atomic_min(target: Scalar, value: Scalar) -> Scalar | None # 原子取较小值,FP16/BF16 无返回值
atomic_inc(target: Scalar, limit: Scalar) -> Scalar # 原子递增(带回绕)
atomic_dec(target: Scalar, limit: Scalar) -> Scalar # 原子递减(带回绕)
atomic_cas(target: Scalar, compare: Scalar, value: Scalar) -> Scalar # 原子比较并交换
atomic_and(target: Scalar, value: Scalar) -> Scalar # 原子按位与
atomic_or(target: Scalar, value: Scalar) -> Scalar # 原子按位或
atomic_xor(target: Scalar, value: Scalar) -> Scalar # 原子按位异或
在 IR 层,这些接口对应 simt_ops.py 中的原子操作节点,最终由编译器后端映射到硬件支持的原子指令。
1.3 共同约束与使用前提
所有 11 个原子操作都遵循两条共同约束,在使用前务必确认:
- 调用位置:只能在由
@pypto_pro.language.vector_function(mode="simt")定义的 SIMT 入口函数或其辅助函数中调用,不能在普通标量/向量函数中调用。 - target 写法:
target参数必须是Tile或Tensor的单元素下标访问表达式,例如ub_tile[0, 0]或gm_tensor[0, 0],不允许传入间接计算出的 Scalar 变量。这保证了编译器能够静态识别被原子更新的内存位置。
二、算术类原子操作:add / sub / exch
2.1 atomic_add:原子累加
功能:以原子方式将源操作数 value 累加到目的操作数 target 中。
函数原型:
pypto_pro.language.simt.atomic_add(
target: Scalar,
value: Scalar,
) -> Optional[Scalar]
参数说明:
| 参数 | 输入/输出 | 说明 |
|---|---|---|
| target | 输入 | 目的操作数,Scalar 类型,必须直接传入 Tile 或 Tensor 的单元素下标访问表达式(如 ub_tile[0, 0] 或 gm_tensor[0, 0])。- UB Tile:必须位于 UB,使用 ND 格式,支持 DT_INT32、DT_UINT32、DT_FP16、DT_BF16、DT_FP32。- GM Tensor:必须为 ND 格式,支持 DT_INT32、DT_UINT32、DT_FP16、DT_BF16、DT_FP32、DT_INT64、DT_UINT64。 |
| value | 输入 | 源操作数,Scalar 类型,表示累加值。数据类型必须与 target 一致;数值字面量按 target 的数据类型处理,整数目的操作数不接受浮点字面量。 |
返回值:
- target 的数据类型为
DT_FP16或DT_BF16时无返回值,只能作为独立语句调用; - 其他受支持的数据类型返回更新前的 target 值,返回值类型与 target 一致。
调用示例:多线程直方图统计
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def atomic_add_histogram_gm(
histogram: pl.Tensor[[1, 16], pl.DT_INT32],
):
tid = pl.simt.linear_thread_idx()
pl.simt.atomic_add(histogram[0, tid % 16], 1)
@pl.jit()
def simt_atomic_add_histogram_gm(
histogram: pl.Tensor[[1, 16], pl.DT_INT32],
):
with pl.section_vector():
atomic_add_histogram_gm256
该示例是原子操作的经典入门场景:256 个线程将各自编号取模 16 后作为桶索引,向直方图的对应桶原子累加 1。由于 histogram 位于 GM(Global Memory),跨线程的累加必须依赖原子性,否则桶内计数会丢失。注意这里 value 传入整数字面量 1,它按 target 的 DT_INT32 类型处理。
2.2 atomic_sub:原子减法
功能:以原子方式从目的操作数 target 中减去源操作数 value。
函数原型:
pypto_pro.language.simt.atomic_sub(
target: Scalar,
value: Scalar,
) -> Scalar
参数说明:
| 参数 | 输入/输出 | 说明 |
|---|---|---|
| target | 输入 | 目的操作数,Scalar 类型,单元素下标访问表达式。 - UB Tile:必须位于 UB,ND 格式,支持 DT_INT32、DT_UINT32、DT_FP32。- GM Tensor:ND 格式,支持 DT_INT32、DT_UINT32、DT_FP32、DT_INT64、DT_UINT64。 |
| value | 输入 | 源操作数,Scalar 类型,表示减数。数据类型必须与 target 一致;数值字面量按 target 的数据类型处理,整数目的操作数不接受浮点字面量。 |
返回值:返回更新前的 target 值,返回值类型与 target 一致。
调用示例:共享配额扣减
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def consume_quota(
remaining: pl.Tensor[[1, 1], pl.DT_UINT32],
requests: pl.Tensor[[1, 256], pl.DT_UINT32],
old_remaining: pl.Tensor[[1, 256], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
old_remaining[0, tid] = pl.simt.atomic_sub(remaining[0, 0], requests[0, tid])
@pl.jit()
def atomic_sub_kernel(
remaining: pl.Tensor[[1, 1], pl.DT_UINT32],
requests: pl.Tensor[[1, 256], pl.DT_UINT32],
old_remaining: pl.Tensor[[1, 256], pl.DT_UINT32],
):
with pl.section_vector():
consume_quota256
示例中,多个线程并发从共享的 remaining 计数器中扣减各自的请求量。atomic_sub 的返回值(扣减前的剩余量)被写回每个线程对应的 old_remaining 槽位,供后续逻辑判断本次扣减是否成功(例如剩余量是否充足)。
2.3 atomic_exch:原子交换
功能:以原子方式将源操作数 value 写入目的操作数 target。
函数原型:
pypto_pro.language.simt.atomic_exch(
target: Scalar,
value: Scalar,
) -> Scalar
参数说明:
| 参数 | 输入/输出 | 说明 |
|---|---|---|
| target | 输入 | 目的操作数,Scalar 类型,单元素下标访问表达式。 - UB Tile:位于 UB,ND 格式,支持 DT_INT32、DT_UINT32、DT_FP32。- GM Tensor:ND 格式,支持 DT_INT32、DT_UINT32、DT_FP32、DT_INT64、DT_UINT64。 |
| value | 输入 | 源操作数,Scalar 类型,表示待写入的新值。数据类型与 target 一致;数值字面量按 target 的数据类型处理,整数目的操作数不接受浮点字面量。 |
返回值:返回写入前的 target 值,返回值类型与 target 一致。
调用示例:故障状态发布
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def publish_fault(
fault_flags: pl.Tensor[[1, 256], pl.DT_UINT32],
status: pl.Tensor[[1, 1], pl.DT_UINT32],
old_status: pl.Tensor[[1, 256], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
if fault_flags[0, tid] != 0:
old_status[0, tid] = pl.simt.atomic_exch(status[0, 0], 1)
@pl.jit()
def atomic_exch_kernel(
fault_flags: pl.Tensor[[1, 256], pl.DT_UINT32],
status: pl.Tensor[[1, 1], pl.DT_UINT32],
old_status: pl.Tensor[[1, 256], pl.DT_UINT32],
):
with pl.section_vector():
publish_fault256
atomic_exch 是"无条件写入"的原子操作。示例中,任何一个检测到故障的线程都会把共享 status 置 1,同时通过返回值获知自己之前的状态值,从而可以判断"谁是第一个发布故障的线程"。
三、极值类原子操作:max / min
3.1 atomic_max:原子取最大值
功能:以原子方式比较目的操作数 target 的旧值与源操作数 value,将较大值写回目的操作数。
函数原型:
pypto_pro.language.simt.atomic_max(
target: Scalar,
value: Scalar,
) -> Optional[Scalar]
参数说明:
| 参数 | 输入/输出 | 说明 |
|---|---|---|
| target | 输入 | 目的操作数,Scalar 类型,单元素下标访问表达式。 - UB Tile:位于 UB,ND 格式,支持 DT_INT32、DT_UINT32、DT_FP16、DT_BF16、DT_FP32。- GM Tensor:ND 格式,支持 DT_INT32、DT_UINT32、DT_FP16、DT_BF16、DT_FP32、DT_INT64、DT_UINT64。 |
| value | 输入 | 源操作数,Scalar 类型,表示比较值。数据类型与 target 一致;数值字面量按 target 的数据类型处理,整数目的操作数不接受浮点字面量。 |
返回值:
- target 的数据类型为
DT_FP16或DT_BF16时无返回值,只能作为独立语句调用; - 其他受支持的数据类型返回更新前的 target 值。
调用示例:多线程极值归约
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def reduce_max(
scores: pl.Tensor[[1, 256], pl.DT_INT32],
max_score: pl.Tensor[[1, 1], pl.DT_INT32],
) -> None:
tid = pl.simt.linear_thread_idx()
pl.simt.atomic_max(max_score[0, 0], scores[0, tid])
@pl.jit()
def atomic_max_kernel(
scores: pl.Tensor[[1, 256], pl.DT_INT32],
max_score: pl.Tensor[[1, 1], pl.DT_INT32],
):
with pl.section_vector():
reduce_max256
这是用原子操作实现跨线程归约(reduction)的标准写法:每个线程将自己槽位中的值原子性地"竞争"写入共享的 max_score,最终该元素即保存全局最大值,无需额外的两级归约同步。
3.2 atomic_min:原子取最小值
功能:以原子方式比较目的操作数 target 的旧值与源操作数 value,将较小值写回目的操作数。
函数原型:
pypto_pro.language.simt.atomic_min(
target: Scalar,
value: Scalar,
) -> Optional[Scalar]
参数说明:与 atomic_max 完全对称,UB Tile 支持 DT_INT32、DT_UINT32、DT_FP16、DT_BF16、DT_FP32;GM Tensor 额外支持 DT_INT64、DT_UINT64。value 表示参与比较的值,类型必须与 target 一致。
返回值:FP16/BF16 目标无返回值;其余类型返回更新前的 target 值。
调用示例:延迟最小值统计
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def reduce_min(
latency: pl.Tensor[[1, 256], pl.DT_UINT32],
min_latency: pl.Tensor[[1, 1], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
pl.simt.atomic_min(min_latency[0, 0], latency[0, tid])
@pl.jit()
def atomic_min_kernel(
latency: pl.Tensor[[1, 256], pl.DT_UINT32],
min_latency: pl.Tensor[[1, 1], pl.DT_UINT32],
):
with pl.section_vector():
reduce_min256
四、计数类原子操作:inc / dec
4.1 atomic_inc:带回绕的原子递增
功能:以原子方式递增目的操作数 target。目的操作数的旧值大于等于源操作数 limit 时写入 0,否则将旧值加 1。limit 采用闭区间上界。
函数原型:
pypto_pro.language.simt.atomic_inc(
target: Scalar,
limit: Scalar,
) -> Scalar
参数说明:
| 参数 | 输入/输出 | 说明 |
|---|---|---|
| target | 输入 | 目的操作数,Scalar 类型,单元素下标访问表达式。 - UB Tile:位于 UB,ND 格式,仅支持 DT_UINT32。- GM Tensor:ND 格式,支持 DT_UINT32、DT_UINT64。 |
| limit | 输入 | 源操作数,Scalar 类型,表示计数上界,采用闭区间上界(即旧值 ≥ limit 时回绕到 0)。数据类型必须与 target 一致;整数字面量按 target 的数据类型处理。 |
返回值:返回递增前的 target 值,返回值类型与 target 一致。
调用示例:环形槽位分配器
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def allocate_ring_slot(
ticket: pl.Tensor[[1, 1], pl.DT_UINT32],
slots: pl.Tensor[[1, 256], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
slots[0, tid] = pl.simt.atomic_inc(ticket[0, 0], 255)
@pl.jit()
def atomic_inc_kernel(
ticket: pl.Tensor[[1, 1], pl.DT_UINT32],
slots: pl.Tensor[[1, 256], pl.DT_UINT32],
):
with pl.section_vector():
allocate_ring_slot256
atomic_inc 非常适合实现环形缓冲区/环形队列的槽位分配:256 个线程并发调用 atomic_inc(ticket, 255),ticket 从 0 递增到 255 后回绕到 0,每个线程拿到唯一的票号(返回值),天然实现了对 256 个槽位的互斥分配。
4.2 atomic_dec:带回绕的原子递减
功能:以原子方式递减目的操作数 target。目的操作数的旧值为 0 或大于源操作数 limit 时,将 limit 写入目的操作数,否则将旧值减 1。
函数原型:
pypto_pro.language.simt.atomic_dec(
target: Scalar,
limit: Scalar,
) -> Scalar
参数说明:与 atomic_inc 对称。UB Tile 仅支持 DT_UINT32;GM Tensor 支持 DT_UINT32、DT_UINT64。limit 表示计数上界,数据类型必须与 target 一致。
返回值:返回递减前的 target 值,返回值类型与 target 一致。
调用示例:反向环形槽位分配
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def allocate_reverse_ring_slot(
ticket: pl.Tensor[[1, 1], pl.DT_UINT32],
slots: pl.Tensor[[1, 256], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
slots[0, tid] = pl.simt.atomic_dec(ticket[0, 0], 255)
@pl.jit()
def atomic_dec_kernel(
ticket: pl.Tensor[[1, 1], pl.DT_UINT32],
slots: pl.Tensor[[1, 256], pl.DT_UINT32],
):
with pl.section_vector():
allocate_reverse_ring_slot256
与 atomic_inc 配合,atomic_dec 可以支持从 255 向 0 递减的逆序分配,二者结合即可实现双向环形缓冲区的槽位管理。
五、比较交换类原子操作:cas
功能:以原子方式比较目的操作数 target 的旧值与源操作数 compare。两者相等时将源操作数 value 写入目的操作数,否则保持目的操作数不变。
函数原型:
pypto_pro.language.simt.atomic_cas(
target: Scalar,
compare: Scalar,
value: Scalar,
) -> Scalar
参数说明:
| 参数 | 输入/输出 | 说明 |
|---|---|---|
| target | 输入 | 目的操作数,Scalar 类型,单元素下标访问表达式。 - UB Tile:位于 UB,ND 格式,支持 DT_INT32、DT_UINT32、DT_FP32。- GM Tensor:ND 格式,支持 DT_INT32、DT_UINT32、DT_FP32、DT_INT64、DT_UINT64。 |
| compare | 输入 | 源操作数,Scalar 类型,表示期望值。数据类型必须与 target 一致;数值字面量按 target 的数据类型处理,整数目的操作数不接受浮点字面量。 |
| value | 输入 | 源操作数,Scalar 类型,表示比较相等时写入的新值。数据类型必须与 target 一致;数值字面量按 target 的数据类型处理。 |
返回值:返回比较前的 target 值,返回值类型与 target 一致。可通过返回值是否等于 compare 判断本次交换是否成功。
调用示例:无锁"首个获胜者"判定
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=32)
def atomic_cas_winner_gm(
state: pl.Tensor[[1, 1], pl.DT_INT32],
old_values: pl.Tensor[[1, 32], pl.DT_INT32],
):
tid = pl.simt.linear_thread_idx()
old_values[0, tid] = pl.simt.atomic_cas(state[0, 0], 0, 1)
@pl.jit()
def simt_atomic_cas_winner_gm(
state: pl.Tensor[[1, 1], pl.DT_INT32],
old_values: pl.Tensor[[1, 32], pl.DT_INT32],
):
with pl.section_vector():
atomic_cas_winner_gm32
atomic_cas(Compare-And-Swap)是构造无锁并发原语的核心指令。示例中,32 个线程同时尝试将共享 state 从 0 交换为 1:只有第一个成功的线程会拿到返回值 0(等于 compare),其余线程拿到 1。通过检查返回值即可无锁地选出"第一个到达的线程",这是实现 spinlock、屏障、单次初始化等同步机制的通用模式。
六、位运算类原子操作:and / or / xor
6.1 atomic_and:原子按位与
功能:以原子方式对目的操作数 target 与源操作数 value 执行按位与,并将结果写回目的操作数。
函数原型:
pypto_pro.language.simt.atomic_and(
target: Scalar,
value: Scalar,
) -> Scalar
参数说明:
| 参数 | 输入/输出 | 说明 |
|---|---|---|
| target | 输入 | 目的操作数,Scalar 类型,单元素下标访问表达式。 - UB Tile:位于 UB,ND 格式,支持 DT_INT32、DT_UINT32。- GM Tensor:ND 格式,支持 DT_INT32、DT_UINT32、DT_INT64、DT_UINT64。 |
| value | 输入 | 源操作数,Scalar 类型,表示按位与掩码。数据类型必须与 target 一致;整数字面量按 target 的数据类型处理。 |
返回值:返回更新前的 target 值,返回值类型与 target 一致。
调用示例:并发清除状态位
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def clear_status_bits(
flags: pl.Tensor[[1, 1], pl.DT_UINT32],
masks: pl.Tensor[[1, 256], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
pl.simt.atomic_and(flags[0, 0], masks[0, tid])
@pl.jit()
def atomic_and_kernel(
flags: pl.Tensor[[1, 1], pl.DT_UINT32],
masks: pl.Tensor[[1, 256], pl.DT_UINT32],
):
with pl.section_vector():
clear_status_bits256
6.2 atomic_or:原子按位或
功能:以原子方式对目的操作数 target 与源操作数 value 执行按位或,并将结果写回目的操作数。
函数原型:
pypto_pro.language.simt.atomic_or(
target: Scalar,
value: Scalar,
) -> Scalar
参数说明:数据类型支持与 atomic_and 完全一致(UB Tile:DT_INT32、DT_UINT32;GM Tensor:DT_INT32、DT_UINT32、DT_INT64、DT_UINT64)。value 表示按位或掩码,类型必须与 target 一致。
返回值:返回更新前的 target 值。
调用示例:并发合并观察标志
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def merge_observed_flags(
observed_flags: pl.Tensor[[1, 256], pl.DT_UINT32],
flags: pl.Tensor[[1, 1], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
pl.simt.atomic_or(flags[0, 0], observed_flags[0, tid])
@pl.jit()
def atomic_or_kernel(
observed_flags: pl.Tensor[[1, 256], pl.DT_UINT32],
flags: pl.Tensor[[1, 1], pl.DT_UINT32],
):
with pl.section_vector():
merge_observed_flags256
atomic_or 是"多线程投票/事件聚合"的经典实现:任意线程置位的比特位都会通过或运算被保留在共享标志字中,最终 flags 聚合了所有线程观察到的事件,是布尔归约(any-reduction)的原子化实现。
6.3 atomic_xor:原子按位异或
功能:以原子方式对目的操作数 target 与源操作数 value 执行按位异或,并将结果写回目的操作数。
函数原型:
pypto_pro.language.simt.atomic_xor(
target: Scalar,
value: Scalar,
) -> Scalar
参数说明:数据类型支持与 atomic_and/atomic_or 一致(UB Tile:DT_INT32、DT_UINT32;GM Tensor:DT_INT32、DT_UINT32、DT_INT64、DT_UINT64)。value 表示按位异或掩码。
返回值:返回更新前的 target 值。
调用示例:并发奇偶校验计算
import pypto_pro.language as pl
@pl.vector_function(mode="simt", max_threads=256)
def compute_hit_parity(
hit: pl.Tensor[[1, 256], pl.DT_UINT32],
parity: pl.Tensor[[1, 1], pl.DT_UINT32],
) -> None:
tid = pl.simt.linear_thread_idx()
if hit[0, tid] != 0:
pl.simt.atomic_xor(parity[0, 0], 1)
@pl.jit()
def atomic_xor_kernel(
hit: pl.Tensor[[1, 256], pl.DT_UINT32],
parity: pl.Tensor[[1, 1], pl.DT_UINT32],
):
with pl.section_vector():
compute_hit_parity256
由于异或的自反性质,atomic_xor 天然适合奇偶性统计:每个命中线程对共享 parity 异或 1,最终 parity 为 1 当且仅当命中次数为奇数。
七、数据类型与返回值速查表
为便于开发时快速查阅,将 11 个接口的目标操作数数据类型支持与返回值规则汇总如下(UB Tile 均要求位于 UB 且使用 ND 格式;GM Tensor 均要求 ND 格式):
| 接口 | UB Tile 支持类型 | GM Tensor 支持类型 | 返回值 |
|---|---|---|---|
| atomic_add | INT32、UINT32、FP16、BF16、FP32 | INT32、UINT32、FP16、BF16、FP32、INT64、UINT64 | FP16/BF16 无返回值,其余返回旧值 |
| atomic_sub | INT32、UINT32、FP32 | INT32、UINT32、FP32、INT64、UINT64 | 返回旧值 |
| atomic_exch | INT32、UINT32、FP32 | INT32、UINT32、FP32、INT64、UINT64 | 返回旧值 |
| atomic_max | INT32、UINT32、FP16、BF16、FP32 | INT32、UINT32、FP16、BF16、FP32、INT64、UINT64 | FP16/BF16 无返回值,其余返回旧值 |
| atomic_min | INT32、UINT32、FP16、BF16、FP32 | INT32、UINT32、FP16、BF16、FP32、INT64、UINT64 | FP16/BF16 无返回值,其余返回旧值 |
| atomic_inc | UINT32 | UINT32、UINT64 | 返回旧值 |
| atomic_dec | UINT32 | UINT32、UINT64 | 返回旧值 |
| atomic_cas | INT32、UINT32、FP32 | INT32、UINT32、FP32、INT64、UINT64 | 返回比较前旧值,可用是否等于 compare 判断成败 |
| atomic_and | INT32、UINT32 | INT32、UINT32、INT64、UINT64 | 返回旧值 |
| atomic_or | INT32、UINT32 | INT32、UINT32、INT64、UINT64 | 返回旧值 |
| atomic_xor | INT32、UINT32 | INT32、UINT32、INT64、UINT64 | 返回旧值 |
几条通用的语义规则:
- 字面量类型跟随 target:所有
value/compare/limit参数传入数值字面量时,均按 target 的数据类型处理;整数类型的 target 不接受浮点字面量。 - FP16/BF16 的"只写"模式:
atomic_add、atomic_max、atomic_min在 target 为 FP16/BF16 时无返回值,只能作为独立语句调用,不可作为表达式嵌入赋值语句。 - 位运算仅支持整数:
atomic_and/atomic_or/atomic_xor只支持整数类型(INT32/UINT32/INT64/UINT64 视存储位置而定)。 - inc/dec 仅支持无符号整数:计数类操作只接受
DT_UINT32/DT_UINT64,其中 UB Tile 仅支持DT_UINT32。
八、产品支持情况与实战建议
8.1 产品支持范围
根据 API 文档的产品支持说明,全部 11 个原子操作接口的产品支持情况一致:
- Ascend 950PR / Ascend 950DT:支持;
- Atlas A3 训练系列产品 / Atlas A3 推理系列产品:不支持;
- Atlas A2 训练系列产品 / Atlas A2 推理系列产品:不支持。
在跨平台开发时,需要针对目标硬件的产品支持情况做适配或降级方案(例如使用原子操作替代为加锁临界区或向量化归约)。
8.2 编程模式建议
综合上述接口特性,PyPTO SIMT 原子操作的典型应用模式可以归纳为四类:
- 统计聚合:直方图(
atomic_add)、极值归约(atomic_max/atomic_min)、奇偶校验(atomic_xor)——目标元素位于 GM Tensor,多线程并发累加/竞争; - 资源分配:环形槽位分配(
atomic_inc/atomic_dec)、配额扣减(atomic_sub)——利用返回值获得互斥的票号或旧值; - 状态同步:无锁状态机(
atomic_cas)、状态发布(atomic_exch)——通过返回值判断操作成败或识别"首个"执行者; - 位掩码协作:事件聚合(
atomic_or)、状态位清除(atomic_and)——多个线程对共享标志字的并发位操作。
无论哪种模式,都必须遵守两条硬性约束:只能在 SIMT 入口/辅助函数中调用,且 target 必须是 Tile/Tensor 的单元素下标访问表达式。需要进一步了解 SIMT 线程模型可参考 SIMT-API 索引 中的 execution 部分(如 linear_thread_idx、thread_idx、block_idx),以及 SIMT 编程指南 中关于 vector_function(mode="simt") 的说明。