登录社区云,与社区用户共同成长
邀请您加入社区
如果这个定位成立,那么 FlashMLA 与 FlashAttention 这类通用注意力实现的关系就不是替代关系:前者是面向特定模型结构的深度优化 kernel,后者覆盖更广的注意力变体集合。对迁移者的实际含义是:如果模型不用 MLA 结构,FlashMLA 的价值有限;如果用 MLA 结构,那么它是推理/训练路径上的关键 kernel,其正确性与数值行为需要单独验证,包括 softmax 缩放
依托昇腾与麒麟NPU同源的达芬奇(DaVinci)架构,以及CANN软件开发能力,开发者在昇腾上完成的部分模型适配与算子实现,可以继续沿用于麒麟端侧,在降低开发投入的同时,也有助于降低云侧推理成本。通过量化与裁剪,形成约0.6B的端侧版本模型,其核心计算模块及相关算子结构与云侧保持一致,面向昇腾的计算设计仍然适用,也为底层代码的端云共用创造了条件。昇腾与麒麟NPU均基于DaVinci架构,底层统一
📲 关注【昇腾CANN】视频号,锁定最新直播信息,干货福利不错过!🎥 视频号、B站、昇腾社区多平台同步直播。🎁 戳链接参与互动,赢惊喜定制好礼。
👉 立即挑战,赢定制周边:https://gitcode.com/cann/cann-learning-hub/issues/777。📅 活动截止时间:10月29日 24:00。
近日,北京昇腾生态先锋中心在北京市门头沟区政府指导下,联合昇腾 CANN 开源社区、AtomGit AI 社区等,共同发起活动。门头沟区投促中心党组书记、主任杨帆、京西智谷董事长张鹏鹏、嘉环科技董事长宗琰、华为北京战略与业务发展部部长房思哲、华为昇腾生态发展部副部长陈海波等领导嘉宾共同参与本次活动。
CubeStudio是一款国产化、云原生的一站式开源AI平台,支持昇腾等国产算力,原生适配910B/310P NPU,实现DeepSeek等大模型的单机多卡与多机分布式推理。本文详解基于MindIE引擎的多机部署全流程:通过hccn_tool配置NPU参数面网络,生成ranktable.json拓扑文件,设置HCCL通信与环境变量(如RANK_TABLE_FILE、WORLD_SIZE),并结合C
定义LeNet模型华为的深度学习算法体系,以MindSpore框架为核心,以昇腾芯片为底座,以盘古大模型为标杆,构建了一个完整的国产AI技术栈。软硬协同:算法设计与芯片架构深度绑定,实现极致性能自动并行:大幅降低大规模分布式训练的门槛全栈自主:从芯片到框架再到模型,实现全链路自主可控展望未来,随着昇腾910B等新一代芯片的推出,以及盘古大模型向多模态、具身智能方向的演进,华为的深度学习算法将在更多
📅 活动截止时间:10月22日 24:00。
假设我们有一组独立同分布的观测数据Xx1x2xNXx1x2xN,它们来自某个概率分布px∣θpx∣θ,其中θ\thetaθ是待估计的参数。对于给定的参数θ\thetaθLθpX∣θ∏i1Npxi∣θLθpX∣θi1∏Npxi∣θ这个关于参数θ\thetaθ的函数LθL(\theta)Lθ被称为似然函数在参数空间中寻找一组参数θθ。
1、CANN整体技术架构与软件栈2、昇腾AI处理器计算核心概览3、主流算子开发编程语言对比4、 如何选择适合你的开发方式
本文按"算法演进 → 工程落地"的主线,系统梳理生成式推荐(Generative Recommendation, GR)这一方向的发展脉络。第一部分回顾传统级联推荐架构的系统性瓶颈;第二部分以 Meta GR(HSTU)和快手 OneRec 为代表,剖析两条主流的生成式推荐技术路线;第三部分聚焦工程落地,介绍 TorchRec 生态以及基于昇腾 NPU 打造的 RecSDK 框架,展示从算法到生产
CANN兴趣小组上新:多模态智能计算CANN代码仓上新:oil-gas-ops-prospect、crypto、cannbot-knowledgeCANN样例上新:GLM-5.3-Flash。
本文以图像分类中的卷积算子优化为例。卷积运算是深度学习中最核心、最耗时的算子之一。在昇腾AI平台上,我们可以通过自定义算子(Custom Operator)的方式,针对特定场景优化卷积计算效率。输入:形状为的特征图卷积核:形状为输出:形状为"""昇腾TBE自定义卷积算子"""# 定义计算过程# 使用TVM表达式描述卷积计算# 卷积计算逻辑# ... 此处省略具体TVM表达式# 调度与编译# ...
参与报名链接:CANN社区任务-昇腾社区
在昇腾异构架构中,AI Core 计算单元只能直接读写片上 Local Memory,无法直接访问全局内存 GM。DataCopy:AscendC 提供的内存拷贝内置函数,负责在全局内存。
本实训围绕具身智能工业视觉与物联监护开展,完成工业相机环境搭建、昇腾终端部署,实现摄像头 OCR 文字识别;在华为云 IoTDA 创建温湿度计、吸顶灯产品模拟设备通信;借助 CodeArts 完成智慧路灯项目的构建与部署。
本文展示了工业视觉与物联网融合的全流程应用:基于昇腾Atlas200IDKA2开发板,结合工业相机取流、OCR文字识别(RapidOCR)与目标检测,实现工业场景下产品标签识别与目标实时分析;通过MobaXterm与MVS工具构建视觉环境,完成摄像头接入与数据处理。同时,在华为云IoTDA平台完成温湿度计、吸顶灯等设备建模与模拟数据上报,并借助CodeArts实现智慧路灯应用的快速构建、部署与远程
本实训开展具身智能工业视觉与物联监护综合演练,使用海康工业相机,基于 Python 实现实时 OCR 文字识别;熟悉昇腾边缘终端模型部署。借助华为云 IoTDA 完成物模型配置与 MQTT 设备调试,通过 CodeArts 完成智慧路灯项目构建部署,打通视觉‑AI‑物联网业务链路,提升工程实践调试能力。
【昇腾CANN】视频号、B站、昇腾社区多平台直播 ,观看直播,参与互动赢取惊喜定制礼品。扫码关注【昇腾CANN】视频号,掌握最新直播信息。
本文基于具身智能与工业视觉技术,实现基于PaddleOCR的中文OCR实时识别系统。通过构建Python虚拟环境、配置昇腾终端与网络摄像机,完成非CUDA环境下CPU推理的快速编码与运行。系统支持中文文字识别、结果可视化及图像保存,结合IoTDA平台完成温湿度计与吸顶灯设备的产品建模、实例化及数据交互,并在CodeArts上实现智慧路灯应用的构建与部署,形成从感知到应用的完整工业视觉解决方案。
昇腾
——昇腾
联系我们(工作时间:8:30-22:00)
400-660-0108 kefu@csdn.net