本文介绍了基于昇腾CANN的Matmul+LeakyRelu算子融合技术，通过将矩阵乘法与激活函数整合为单一Kernel，消除中间数据存储与拷贝开销。关键实现包括：1) 共享内存分块优化，匹配NPU缓存容量；2) 线程二维布局提升内存连续性；3) 无中间张量的计算流程。测试显示，在10240×10240矩阵上，融合算子相比分离式实现降低37.9%时延，内存占用减少50%。该方案显著提升了AI模型在

本文介绍了基于昇腾CANN的Matmul+LeakyRelu算子融合技术，通过将矩阵乘法与激活函数整合为单一Kernel，消除中间数据存储与拷贝开销。关键实现包括：1) 共享内存分块优化，匹配NPU缓存容量；2) 线程二维布局提升内存连续性；3) 无中间张量的计算流程。测试显示，在10240×10240矩阵上，融合算子相比分离式实现降低37.9%时延，内存占用减少50%。该方案显著提升了AI模型在

本文介绍了基于昇腾CANN的Matmul+LeakyRelu算子融合技术，通过将矩阵乘法与激活函数整合为单一Kernel，消除中间数据存储与拷贝开销。关键实现包括：1) 共享内存分块优化，匹配NPU缓存容量；2) 线程二维布局提升内存连续性；3) 无中间张量的计算流程。测试显示，在10240×10240矩阵上，融合算子相比分离式实现降低37.9%时延，内存占用减少50%。该方案显著提升了AI模型在