登录社区云，与社区用户共同成长
邀请您加入社区
本文系统介绍了CANN7.0框架下使用AscendC开发AI算子的完整流程和关键技术。主要内容包括：1）AscendC编程模型与达芬奇架构的深度解析；2）从环境配置到编译部署的端到端开发流程；3）性能优化策略如Tiling优化、双缓冲技术等；4）企业级实战案例。通过模板化开发可降低60%工作量，合理Tiling策略实现3-5倍性能提升，动态Shape增强算子泛化能力。文章提供了完整的AddCust
本文深入解析了华为CANN架构中的算子融合技术，包含图融合和UB融合两大核心技术。通过数学等价变换和硬件亲和优化，算子融合能显著提升AI模型性能，实测在ResNet50等模型上可获得2-3倍加速。文章提供了完整的Conv+BN+ReLU融合代码示例、分步实现指南和常见问题解决方案，并分享了企业级应用案例。未来技术将向AI驱动的自动融合和跨平台统一方向发展。CANN算子融合技术通过软硬协同优化，为A
本文深入解析华为昇腾CANN架构中主机与设备交互的核心技术，重点探讨异步执行模型、Stream并行机制、零拷贝内存管理和流水线优化等关键技术。通过分层解耦设计理念，CANN实现了计算与通信的高效重叠，实测性能提升达3倍以上。文章提供完整代码示例和企业级实践案例，展示如何通过动态批处理、内存优化等技术在推荐系统中实现吞吐量3.2倍提升。同时给出系统化调试框架和故障排查指南，为开发者提供从入门到精通的
摘要：本文系统解析华为昇腾CANN架构中Tiling策略的优化方法与应用实践。重点介绍了Tiling技术的四个演进阶段、性能瓶颈分析方法及多层次内存访问优化技巧，包括多核并行优化实现3-5倍性能提升、数据重用策略提升计算密度2-8倍、双缓冲技术降低40-60%内存延迟等关键技术。通过MatMul算子优化实例展示了从基础实现到企业级应用的完整优化路径，并提供了性能分析数据和调优指南。文章还详细阐述了
本文深入解析如何在昇腾AI处理器上通过OpenAI Triton语言实现高性能算子开发与跨架构迁移。Triton-昇腾协同架构的深度解析、基于Block的并行编程模型端到端开发实战示例，以及迁移过程中的典型"坑"与解决方案。关键技术点包括：通过Triton Pythonic前端实现开发效率的5-10倍提升；利用自动代码生成与优化技术达到接近手写Ascend C的85-90%性能；掌握跨架构通用设计
本文深入探讨基于Python DSL的昇腾融合算子开发新范式。面对AI模型复杂度的指数级增长，传统C++手写算子方式已无法满足开发效率需求。文章系统介绍TVM/MLIR编译技术CANN AKG自动代码生成动态Shape符号推导三大核心技术，通过完整的Python DSL实现案例展示如何将开发周期从周级缩短至小时级。实测数据显示，基于DSL的融合算子开发在保持95%+硬件利用率的同时，提升5-8倍开
📝【摘要】本文系统阐述了昇腾AI处理器中动态Shape融合算子的关键技术，提出基于CANN架构的三维解决方案：1）动态Tiling机制实现运行时自适应分块；2）弹性Workspace内存管理；3）高效运行时参数传递。通过RMSNorm+SwiGLU融合算子的完整实现案例，验证单一二进制可适配B×S×H三维动态输入，实测性能较静态方案提升3.2倍。文章还涵盖企业级推荐系统优化实践（P99延迟降低5
本文探讨了在PyTorch框架中高效集成AscendC自定义算子的关键技术。通过CANN注册机制、张量适配和梯度传播三大核心技术，实现了从AscendC核函数到PyTorch模块的端到端集成方案。以SwiGLU融合算子为例，在昇腾910B硬件上实现了3.2倍的性能提升。文章详细介绍了架构设计、核心实现及性能优化策略，包括多级编译堆栈、形状推导、内存访问优化等关键环节，并提供了分布式训练集成方案和故
本文深入探讨了基于CANN架构的AscendC算子多场景调用技术，涵盖Kernel直调、AscendCL调用和PyTorch集成三种核心方案。文章首先分析了CANN分层架构与统一算子模型(UOM)的设计理念，重点介绍了零拷贝内存优化机制。随后详细解析了三种调用方式的技术特点、实现代码与优化技巧：Kernel直调提供极致性能但开发复杂度高；AscendCL在性能与易用性间取得平衡；PyTorch集成
摘要 本文系统解析了华为CANN架构中ops-nn算子库的核心技术与优化策略。作为连接AI算法与NPU硬件的关键组件，ops-nn通过三层优化模型实现高性能计算：1）基于AICore微架构的硬件感知设计；2）量化矩阵乘的深度优化，包括动态Tiling策略和双缓冲技术；3）存储层次协同的数据搬运优化。实践表明，该方案可使INT8矩阵乘算力达到128 TFLOPS，硬件利用率超80%。文章还提供了企业
本文基于CANN量化Matmul开发样例，系统解析从Ascend C Kernel编写到AI框架调用的完整技术链路。我将深入探讨ops-nn算子库架构、NPU硬件特性如何影响算子设计、量化矩阵乘的Tiling策略与Kernel实现，以及算子如何通过ATC编译、集成到PyTorch/TensorFlow等框架。通过实际开发案例展示从硬件特性到软件生态的垂直整合，提供可落地的算子开发部署方法论。硬件感
本文系统探讨了昇腾AscendC融合算子的工程化测试策略，提出基于测试金字塔模型的全流程质量保障方案。通过分层测试架构设计，覆盖核函数单元测试到框架集成的各环节，并实现容器化部署环境。重点展示了RMSNorm+SwiGLU融合算子的单元测试实现、多核协同测试框架及性能基准测试体系。基于GitLab CI构建的CI/CD流水线将测试周期从周级缩短至小时级，缺陷逃逸率降低至5%以下。企业级实践案例表明
本文系统探讨了AscendC Tiling技术的核心原理与优化策略。Tiling通过数据分块、多核并行和内存层次优化三大机制，有效解决AI处理器内存容量与大规模张量计算的矛盾。文章从硬件架构出发，详细解析了Tiling的数学模型、算法实现和性能特性，并通过动态Shape算子案例展示了从40%到85%的算力提升方法。重点介绍了多粒度优化框架和自适应分块策略，为高性能算子开发提供完整解决方案。文章还涵
本文系统介绍了昇腾CANN平台的调试与性能优化方法论。通过解析AscendC的孪生调试架构，详细阐述了CPU/NPU双域协同设计原理。文章重点讲解了Msprof工具链的使用技巧，包括性能数据采集、可视化分析和热点图解读。以MatMul+BiasAdd+ReLU融合算子为例，展示了从初始性能分析到优化实施的完整流程，最终实现60%的性能提升。同时介绍了企业级实践中的高级调试技巧，如精度保障、动态调试
本文深入解析了在昇腾AI处理器上优化通用矩阵乘法(GEMM)的核心技术。基于达芬奇架构的硬件特性，文章系统介绍了循环分块、双缓冲、寄存器优化等关键技术，将GEMM计算效率从基础实现的20%提升至接近硬件峰值算力的85%以上。通过完整的高度优化GEMM内核实现，展示了如何利用Cube计算单元、分层存储体系和指令级并行等硬件特性，为AI开发者提供了从理论到实践的完整优化指南。实测数据显示，优化后的GE
本文深入解析华为AscendC算子开发的两种范式：Kernel拆解开发与工程化开发。基于13年异构计算经验，文章对比了两种模式在昇腾芯片架构下的设计差异，重点阐述工程化开发在可维护性、性能优化和团队协作上的优势。通过Tiling策略数学建模、模块化Kernel设计、流水线优化等核心技术详解，结合企业级项目结构设计指南，展示了如何构建高性能算子。文章还提供常见问题解决方案、性能调优黄金法则及未来发展
本文深入探讨AscendC算子开发中Host侧的核心技术与工程实践，揭示其作为异构计算"指挥中枢"的关键作用。文章系统阐述了Host-Device协同架构、动态Shape自适应、Tiling机制等核心技术，并通过完整的矩阵乘法算子案例展示从参数校验到任务调度的全链路实现。重点分析了企业级性能优化策略，包括四维技术矩阵（内存优化、调度优化、计算优化、通信优化）和智能动态调优框架，
本文深入解析了基于昇腾AI处理器的MlaProlog核间同步机制，提出分层同步架构、细粒度通信优化和分布式流水线编排三大核心技术。通过256核环境下的实测数据验证，该方案相比传统MPI屏障同步可降低68.4%的同步开销，提升129.6%的训练吞吐量，实现近线性加速比。文章详细阐述了分布式注意力机制的完整实现，包括Softmax同步优化等关键技术，并分享了企业级应用中的性能优化技巧和故障排查方法，为
2025年昇腾CANN训练营第二季推出系列课程，助力开发者提升算子开发技能。训练营重点讲解图神经网络(GNN)的Message Passing机制，其核心是通过Gather-Scatter操作实现节点间信息传递。课程详细介绍了AscendC实现GNN算子的方法，包括Kernel类定义、计算流程及性能优化策略，如索引排序和稀疏矩阵乘法转换。掌握这些技术可优化AlphaFold等前沿模型，完成课程可获
本文深入探讨了昇腾AI处理器上融合算子开发的两种核心技术路径：AscendC与TBE（TensorBoostEngine）。通过真实项目实战经验，全面分析了两种开发范式的架构设计理念、性能特性差异及适用场景。文章包含完整的融合算子实现代码、性能对比数据和企业级优化实践，为开发者提供选型指南。关键发现：TBE适合快速原型验证，开发效率高；AscendC则能实现极致性能优化，适合核心算子开发。通过Ma
本文系统阐述了昇腾AI处理器上大规模张量计算的并行切分技术。从MlaProlog分核设计思想出发，详细解析了Tiling策略的数学原理与工程实现，包括多维张量切分算法、动态Tiling管理器和多核协同计算架构。通过矩阵乘法案例展示了完整的Tiling优化流程，并提供了性能分析工具和常见问题解决方案。实验数据显示，优化后的并行策略可使千亿参数模型训练性能提升131.4%。文章为AI开发者提供了从理论
昇腾
——昇腾
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
2048 AI社区
昇腾开源生态专区
