最近在昇腾 NPU 上做多卡算子开发，遇到一个绕不开的问题：卡间数据交互。用集合通信库（HCCL）吧，粒度太粗、模式固定；自己手搓 RDMA / DMA 吧，链路管理、内存注册、同步原语一堆坑，对个人开发者实在不友好。后来发现 CANN 官方在 GitCode 上开源了SHMEM——面向昇腾平台的多机多卡分布式内存通信加速库，用了一段时间，感觉思路被打开了，分享给大家。

最近在昇腾 NPU 上做多卡算子开发，遇到一个绕不开的问题：卡间数据交互。用集合通信库（HCCL）吧，粒度太粗、模式固定；自己手搓 RDMA / DMA 吧，链路管理、内存注册、同步原语一堆坑，对个人开发者实在不友好。后来发现 CANN 官方在 GitCode 上开源了SHMEM——面向昇腾平台的多机多卡分布式内存通信加速库，用了一段时间，感觉思路被打开了，分享给大家。

最近在折腾昇腾（Ascend）NPU 上的算子开发。用原生 Ascend C 写一个 Vector 算子，除了核心计算逻辑，还得自己搞定数据搬入搬出、Tiling 切分、多核调度这些底层活儿，一个简单算子写下来动辄几百行，对个人开发者实在不太友好。偶然发现 CANN 官方在 GitCode 上开源了一个项目——，用了一段时间，感觉确实省了不少事，分享给大家。

最近在折腾昇腾（Ascend）NPU 上的算子开发。用原生 Ascend C 写一个 Vector 算子，除了核心计算逻辑，还得自己搞定数据搬入搬出、Tiling 切分、多核调度这些底层活儿，一个简单算子写下来动辄几百行，对个人开发者实在不太友好。偶然发现 CANN 官方在 GitCode 上开源了一个项目——，用了一段时间，感觉确实省了不少事，分享给大家。