logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

CANN atvc模板库,解决手搓 Ascend C 算子太累

ATVC 是 CANN 官方开源的 Ascend C 算子模板库,项目地址:https://gitcode.com/cann/atvc,怎么使用请看文章详情

#算法
CANN SHMEM个人开发者的一点体验分享

最近在昇腾 NPU 上做多卡算子开发,遇到一个绕不开的问题:卡间数据交互。用集合通信库(HCCL)吧,粒度太粗、模式固定;自己手搓 RDMA / DMA 吧,链路管理、内存注册、同步原语一堆坑,对个人开发者实在不友好。后来发现 CANN 官方在 GitCode 上开源了SHMEM——面向昇腾平台的多机多卡分布式内存通信加速库,用了一段时间,感觉思路被打开了,分享给大家。

#算法#git#百度
CANN SHMEM个人开发者的一点体验分享

最近在昇腾 NPU 上做多卡算子开发,遇到一个绕不开的问题:卡间数据交互。用集合通信库(HCCL)吧,粒度太粗、模式固定;自己手搓 RDMA / DMA 吧,链路管理、内存注册、同步原语一堆坑,对个人开发者实在不友好。后来发现 CANN 官方在 GitCode 上开源了SHMEM——面向昇腾平台的多机多卡分布式内存通信加速库,用了一段时间,感觉思路被打开了,分享给大家。

#算法#git#百度
到底了