登录社区云，与社区用户共同成长
邀请您加入社区
端侧AI推理是移动设备实现智能化的关键技术，其核心挑战在于有限的计算资源与严格的功耗限制。通过神经网络算子优化，开发者能够显著提升模型在边缘设备上的执行效率。华为CANN计算架构为昇腾芯片提供了高性能的神经网络加速支持，结合Ascend C编程语言可实现算子级别的深度优化。在实际应用中，如鸿蒙系统的端侧大模型部署场景，量化矩阵乘法(QuantMatmul)等自定义算子开发成为突破性能瓶颈的关键。本
背景手写过昇腾自定义算子的人都懂这种痛：●Tiling怎么切？●DataCopy还是文档里两个 API 都存在，选哪个全靠经验● 编译通过 ≠ 结果正确，调一个算子反复折腾好几天是常态正好最近看到AtomGit上开源了CANNBot项目——面向CANN开发的用于提升开发效率的系列智能体，仓库内为其提供可复用的Skills模块。半信半疑，决定拿Swish激活函数算子实际跑一遍，看看到底有没有宣传的那
在通用计算领域，性能优化是一个系统工程，需要从多个层面综合考虑。GE（General Engine）作为一款通用计算框架，提供了丰富的性能优化策略和工具，帮助开发者充分发挥系统潜力，实现高效的计算任务执行。本文将详细介绍GE的性能优化策略、最佳实践和实际案例，为开发者提供全面的优化指南。GE作为一款通用计算框架，通过提供丰富的性能优化策略和工具，帮助开发者充分发挥系统潜力，实现高效的计算任务执行。
本文深度解析华为昇腾CANN异构计算架构，从达芬奇核心的3D Cube结构到AI应用实战。探讨了昇腾AI处理器的高效矩阵运算能力、CANN软件栈的智能调度优化，以及大模型训练中的通信与显存优化技巧，为开发者提供从硬件原理到部署优化的完整指南。
本文介绍了如何利用昇腾CANN提供的CANNBot工具和Claude Code AI助手简化Ascend C算子开发。CANNBot通过Skills机制注入领域知识，使AI能提供专业指导；Claude Code则通过自然语言交互理解开发者需求。两者配合可自动完成项目搭建、代码生成和测试验证。文章以开发Add算子为例，展示了从环境准备、需求提出到核函数实现的完整流程，特别说明了在没有NPU硬件时使用
多模态大模型作为AI领域的重要技术，能够同时处理文本、图像和语音等多种数据类型，广泛应用于智能客服、内容审核和医疗诊断等场景。其核心原理是通过深度学习框架整合不同模态的特征表示，实现跨模态理解。然而，这类模型通常参数量巨大，对计算资源要求极高，传统部署方式难以满足实时性需求。华为推出的CANN异构计算架构通过软硬件协同优化，显著提升了模型推理效率。在实际工程实践中，CANN Toolkit提供了完
《远控版OpenClaw上线：零门槛AI助手革命》摘要：ToDesk最新推出的ToClaw AI功能将OpenClaw集成到远程控制软件中，彻底简化了AI助手的使用流程。用户只需下载安装ToDesk，一键开启ToClaw即可使用，无需任何技术配置。实测显示，从下载到使用全程仅需2分31秒，支持多设备远程协同操作，实现"龙虾军团"式设备集群控制。该工具适合各类人群日常使用，包括办
大模型在昇腾AI平台上训练部署时面临Host-Device协同效率低、算子性能下滑、通信延迟大、模型下发慢等问题。传统调优工具（如MindStudio的msProf、msprof-analyze等）虽强大，但使用门槛高，涉及多维度综合分析。MindStudio团队自研msAgent，提供一站式性能分析解决方案。一、背景随着人工智能模型规模的不断扩大及应用场景的日益复杂，在昇腾AI计算平台上进行训练
大模型推理正从通用GPU加速转向专用AI芯片优化，其核心在于软硬协同的深度适配。理解CUDA与CANN的本质差异——前者强调线程级精细控制，后者依托AscendCL运行时实现计算图抽象——是迁移成功的前提。技术价值体现在性能、功耗与稳定性三重突破：昇腾950PR凭借Da Vinci 3.0架构和2.4TB/s HBM带宽，在128K长上下文场景下实现312ms P99延迟与62%功耗降幅；而Dyn
授课团队课程兼顾大模型基础原理、轻量化微调前沿技术与昇腾算力工程落地实践，以 Qwen3 系列模型为实操载体讲解核心技术，同步指导学员完成训练调参、Loss 与超参监控、多组实验对比等标准化科研流程，并依托昇腾 NPU 硬件、CANN 一站式开发平台开展 Ascend C 开发与 CANNBot 智能体实践，让全体学员完整完成算子开发、NPU 编译加速、大模型微调三大工程案例，亲手实践自主算力软硬
随着 DeepSeek 等越来越多国产大模型适配昇腾等国产软硬件环境，很多开发者也开始希望上手体验 NPU 训练与推理。如果你准备在昇腾 NPU 上基于 CANN 云开发环境运行 **Qwen2.5-1.5B-Instruct + verl**，这篇文档可以作为一条可复现、可验收的实践路径。
本课程将介绍在DeepSeek-V4网络上如何基于TorchTitan-NPU框架攻克超长文本训练瓶颈、实现512K级别长序列的大规模续训练，怎样结合大EP+FSDP以及torch.compile+AutoFuse编译入图方案达成极致训练吞吐性能的实践经验，分享如何帮助昇腾大模型开发者在超长上下文场景下快速开展 CPT/SFT算法验证并实现开箱即优。
CANN
——CANN
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
HarmonyOS开发者社区
龙虾开发者社区
AI Agent技术社区
人工智能6S服务平台
亚马逊云科技技术品牌专区
智能体开发者社区
