登录社区云，与社区用户共同成长
邀请您加入社区
本次活动聚焦三维全波形反演、AI 储层建模、油气 CV 应用、算子优化、图机器学习适配、化工智能体与分子筛选等方向，与行业伙伴、技术专家面对面交流，共探 AI 落地路径。AI 加速走进油气化工行业，前沿技术如何落地业务、解决真实痛点，成为行业开发者共同关注的话题。🎁 欢迎油气化工企业技术负责人、开发者、服务商、科研人员及高校师生参会，与 CANN 开源社区专家交流碰撞，助力行业 AI 落地。20
本文介绍参赛者如何通过KernelSwift平台，从PyTorch语义描述出发，自动实现昇腾NPU上的CHEMM算子，历经九类场景调度与调优，1000项精度、200项性能全部通过，成功斩获2万+现金激励。该过程展现了AI驱动的算子生成工具在降低开发成本、提升跨硬件适配效率方面的显著优势。
在AI模型落地过程中，推理加速卡与训练卡在架构设计上有着本质区别。昇腾Atlas 300V 24G作为一款面向神经网络推理场景的专用NPU加速卡，通过AI Core阵列对卷积、矩阵乘等算子高效加速，并在功耗和TCO上具备显著优势。它并不适用于通用计算或模型训练，而是专注于将已训练的模型高效地运行起来。面对目标检测、视频分析等典型业务，常需要将PyTorch模型导出为ONNX，再经ATC工具转换为O
AI推理加速卡是专为已训练模型设计的高效计算设备，其核心原理在于通过专用架构（如NPU的达芬奇核心）加速前向推理，与强调训练能力的GPU形成互补。这类硬件不仅具备高吞吐、低延迟的技术价值，还以较低的功耗支撑视频流、目标检测等实时场景。在深度学习工程实践中，如何将PyTorch等框架训练的YOLO模型迁移到NPU平台，解决模型格式转换、算子适配与内存规划等关键问题，成为发挥硬件效能的重中之重。华为昇
本文详细介绍了在昇腾Atlas 800T上部署Llama-2-7B大语言模型的完整流程与性能调优技巧。通过对比测试，昇腾Atlas 800T在性价比和自主可控性上展现优势，提供从环境配置、模型下载到推理优化的全流程指导，帮助开发者高效实现大模型推理部署。
本文详细解析了Qwen-1.8B-Chat模型在昇腾Atlas 800T A2服务器上的生产环境部署与性能调优全流程。从硬件特性适配、模型部署优化到高级性能调优策略，提供了实战经验与关键代码示例，帮助开发者高效利用NPU加速AI应用落地。
本文详细介绍了在华为昇腾NPU上部署Mistral-7B-v0.3模型的实战指南，包括环境配置、模型适配、性能优化及完整性能测试数据。针对部署过程中的常见问题提供解决方案，帮助开发者高效利用昇腾NPU的计算能力，实现大模型的快速部署与优化。
本文详细介绍了在昇腾Atlas 800I A2服务器上部署W8A8量化模型的全流程，包括环境配置、量化实施、性能优化及常见问题解决方案。通过实战案例和性能对比，展示了W8A8量化在提升推理速度和降低内存占用方面的显著优势，为高吞吐场景如实时视频分析和工业质检提供了高效解决方案。
本文深度解析了搭载昇腾310B处理器的香橙派AIpro开发板。文章从开箱体验、硬件解析、系统配置到性能测试与AI实战，全面展示了其在边缘计算场景下的强大算力与丰富接口。重点探讨了如何利用其8 TOPS AI算力运行视觉模型与轻量大语言模型，并分享了SSD系统迁移、外部设备连接等进阶玩法，是探索国产化AI边缘开发的实用指南。
如果你身边有人对「模型调优、部署适配」比赛感兴趣，不妨把这个比赛转发给他。不管是精通 vLLM 等推理框架的资深技术大佬，还是未接触过昇腾模型部署的小白，这场比赛都有适合的赛道。主办方备好了昇腾硬件环境与 Model Agent 模型工具，零门槛快速上手。
算力作为衡量计算设备执行任务效率的核心指标，在人工智能和高性能计算领域通常以FLOPS为单位进行量化。其有效发挥不仅取决于硬件峰值性能，更依赖于从驱动、运行时到框架适配的完整软件栈协同。以昇腾NPU为代表的专用AI处理器，通过CANN软件栈将PyTorch、TensorFlow等主流框架的计算图高效映射到硬件，为深度学习模型提供了显著的加速能力。在实际的AI应用部署中，环境配置、算子兼容性和性能优
随着大模型参数规模突破千亿级，私有化部署与国产算力适配成为企业落地的关键挑战。MoE架构通过稀疏专家路由，在总参数高达505B的情况下仅激活少量专家，兼顾知识容量与推理效率。开源大模型的部署链路通常涉及权重转换、量化推理、张量并行等核心环节，而硬件原生的软件栈（如CANN、MindIE）能显著降低适配损耗。在需要数据合规的中文场景，基于昇腾910B的openPangu-2.0-Pro实测显示：IN
大模型推理部署是AI工程落地的关键环节，多模态模型因同时处理文本与视觉信息，对算力与显存提出更高要求。在国产算力生态中，昇腾NPU搭配MindIE推理引擎，为高效运行Qwen2.5-VL-32B这类多模态大模型提供了可行路径。MindIE通过图编译、算子融合、KV Cache量化等优化，将PyTorch模型高效转换并运行于昇腾硬件，适用于文档理解、图表推理、截图分析等场景，以较少的卡数即可获得生产
在机器人控制与具身智能领域，多模态感知与复杂动作生成的结合日益关键。扩散模型作为一种通用的生成范式，不仅能应用于图像生成，更可建模多峰动作分布，为决策策略提供表达复杂行为的能力；强化学习则通过交互试错持续优化策略，二者融合形成了感知-决策-优化的完整闭环。在国产算力平台上，多模态Diffusion强化学习框架的工程落地涉及模型转换、训练流水线及推理优化等关键环节。本文基于昇腾AI平台，系统梳理多模
强化学习在连续控制任务中面临动作分布多峰、策略表达单一等挑战，而扩散模型凭借从噪声中迭代生成动作的能力，为策略网络提供更丰富的分布建模。结合多模态特征融合，可让机器人同时理解视觉与语言指令，生成平滑且符合人类直觉的动作序列。这种技术路线正逐步应用于机械臂抓取、具身智能和自动驾驶决策。然而，在实际产业化部署中，模型需在昇腾等国产NPU上高效运行，面临算子适配、动态shape、推理延迟等工程问题。本文
AI推理加速是当前深度学习落地的关键环节，而昇腾Atlas 300V 24G作为一款面向数据中心的运算加速卡，凭借24GB大显存和约200TOPS INT8算力，成为YOLO等目标检测模型高效推理的国产化选择。与通用GPU不同，它专为神经网络推理设计，功耗低至72W，适合多路并行部署。实际应用中，从PyTorch导出ONNX、经ATC转换为OM格式，再到基于AscendCL编写推理脚本，每一步都需
随着AI应用深入各行业，推理加速硬件成为工程落地的关键环节。NPU（神经网络处理器）凭借专用架构，在目标检测等高并发推理场景中展现出显著能效优势。与GPU生态不同，昇腾Atlas平台整合了芯片、板卡及CANN工具链，为模型迁移提供了一体化解决方案。本文以Atlas 300V 24G推理加速卡为例，系统梳理YOLOv5/YOLOv8的部署链路：从驱动与CANN环境搭建，到ONNX模型经ATC工具转换
人工智能落地过程中，深度学习推理加速成为关键一环。不同于GPU通用计算，专用AI加速卡通过异构计算架构实现更高效的神经网络推理。昇腾Atlas 300V作为典型推理卡，采用达芬奇架构，支持将训练好的模型转换为.om格式，以高吞吐低时延特性服务于边缘计算、智慧安防等场景。本文系统讲解从硬件认知到YOLO模型部署的完整链路，涵盖CANN工具链、环境搭建、ONNX转om、AIPP预处理配置，以及Mind
AI推理加速卡是深度学习模型从训练走向落地的关键载体，其架构设计直接影响算子执行效率与显存利用率。昇腾Atlas 300V 24G基于达芬奇架构的昇腾310P芯片，具备24GB大显存和百TOPS级INT8算力，在工业视觉、安防视频分析和边缘计算服务器等场景中表现出色。针对YOLO系列目标检测模型，通过ONNX中间格式与CANN的ATC工具转换为OM离线模型，再借助pyACL或MindSpore L
AI模型从训练到落地，推理加速是工程化关键环节。华为昇腾Atlas 300V 24G作为专用AI推理加速卡，基于达芬奇AI Core架构，针对卷积、矩阵运算深度优化，为YOLO等目标检测模型提供了高能效比推理方案。本文围绕Atlas 300V 24G的硬件定位与部署实践展开，系统讲解了从驱动固件安装、CANN工具链配置，到PyTorch模型导出ONNX、ATC转换为OM离线模型，再到基于Ascen
在AI推理场景中，算力硬件与模型部署的效率直接决定业务落地成本。昇腾Atlas 300V 24G作为一款专为推理设计的运算加速卡，凭借昇腾310P3芯片与INT8高算力，在边缘服务器、视频分析等场景中展现出显著能效比优势。其部署流程与传统GPU有所不同，核心路径涵盖驱动固件安装、CANN工具链配置、PyTorch模型到ONNX再到OM的转换，以及基于ACL的推理代码编写。通过合理利用AIPP硬件预
推理加速卡是AI应用落地的关键算力基础，其核心价值在于将训练好的模型高效部署到生产环境。以目标检测任务为例，YOLO系列模型凭借实时性和准确性成为工业视觉的首选，而模型部署的难点在于格式转换与运行时优化。昇腾Atlas 300V 24G作为标准PCIe推理加速卡，通过ONNX到OM的离线转换，结合ATC工具链和AscendCL运行时，实现模型的编译与高效执行。24GB显存支持大batch和高分辨率
昇腾NPU（神经网络处理器）是为AI推理设计的专用加速芯片，与通用GPU不同，它通过达芬奇架构和AI Core阵列对卷积、矩阵乘等算子做硬件级优化，在功耗和算力效率上更具优势。部署YOLO这类目标检测模型时，借助CANN工具链的ATC（Ascend Tensor Compiler）完成PyTorch/ONNX到OM格式的转换，并结合pyACL接口编写推理代码，能充分发挥硬件潜力。Atlas 300
运算加速卡是专为AI推理设计的硬件，区别于通用GPU，其架构决定开发范式。华为昇腾Atlas 300V 24G正是这样一款推理加速卡，内置AI Core与DVPP，板载24GB显存，适合视觉模型批量处理。在技术原理上，它依赖CANN与AscendCL软件栈，模型需从PyTorch经ONNX转换为OM格式。通过合理的算子融合与硬件预处理，可大幅提升YOLO推理性能。针对社区高频关注的“Atlas部署
昇腾
——昇腾
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
CANN开发者社区
人工智能6S服务平台
地瓜机器人开发者社区
