logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ascend C 算子性能优化实践指南

在 AI 计算场景中,算子的执行效率直接影响模型训练与推理的整体性能。Ascend C 作为面向昇腾 AI 处理器的算子开发语言,提供了丰富的编程接口与硬件抽象能力。然而,要充分发挥硬件潜力,开发者需要系统性地识别并消除性能瓶颈。本文从搬运、内存、API 使用、流水、Tiling 及头开销等六大方向出发,结合实际案例,总结了一套可复用的性能优化方法论,帮助开发者快速定位问题并实施有效优化。

#c语言#性能优化#开发语言 +2
Ascend C 算子性能优化实践指南

在 AI 计算场景中,算子的执行效率直接影响模型训练与推理的整体性能。Ascend C 作为面向昇腾 AI 处理器的算子开发语言,提供了丰富的编程接口与硬件抽象能力。然而,要充分发挥硬件潜力,开发者需要系统性地识别并消除性能瓶颈。本文从搬运、内存、API 使用、流水、Tiling 及头开销等六大方向出发,结合实际案例,总结了一套可复用的性能优化方法论,帮助开发者快速定位问题并实施有效优化。

#c语言#性能优化#开发语言 +2
稀疏矩阵向量乘法(SpMV)AscendC算子的设计与实现

从GM读取数据方法错误:在`Init`中需要直接从GM中读取`rowPtr`以计算`startValIdx`和`endValIdx`,这个步骤在`SetGlobalBuffer`之前,而`GM_ADDR`的类型是,因此需要`reinterpret_cast<__gm__ uint32_t*>(rowPtr)`强转后读取,否则读取出来的数据错误导致精度问题。对于每一行,执行`CopyIn` -> `

#深度学习#人工智能
到底了