写文章
- @weixin_42514128
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
[AscendC算子开发]AllGatherAdd开发Tensor踩踏问题记录
该算子固定shape[480,256]，数据类型fp16_t（半精度浮点数）为2字节，当前AIV核数为40，若按字节编址，则预期的偏移大小为blockLength=480*256/40=6144。推测是在SetGlobalBuffer时，使用全局数据初始化GlobalTensor时bufferSize过大，导致靠后的核读到了预期之外的数据，因此靠前的核输出有数据但后面的核输出全0。发现起始地址多乘
[AscendC算子开发]AllGatherAdd开发Tensor踩踏问题记录
该算子固定shape[480,256]，数据类型fp16_t（半精度浮点数）为2字节，当前AIV核数为40，若按字节编址，则预期的偏移大小为blockLength=480*256/40=6144。推测是在SetGlobalBuffer时，使用全局数据初始化GlobalTensor时bufferSize过大，导致靠后的核读到了预期之外的数据，因此靠前的核输出有数据但后面的核输出全0。发现起始地址多乘
到底了