在开发自定义算子（如使用 Ascend C 编程）时，SHMEM 是实现核间通信的关键组件。Token 传递机制：在算子内部，可以通过在 Local Memory (L1/UB) 和 Global Memory 之间传递“令牌”来实现复杂的生产-消费模型。数据预取 (Prefetching)：在深度学习训练循环的第iii次迭代计算过程中，利用空闲的 MTE 带宽，通过 SHMEM 预取第i1i+1

在当今科技飞速发展的时代，人工智能（AI）无疑是最具影响力和潜力的领域之一。随着 AI 技术的不断演进，各种先进的模型和平台层出不穷，为我们的生活和工作带来了巨大的变革。在这其中，DeepSeek 以其卓越的性能和强大的功能，成为了 AI 领域的一颗耀眼明星。而蓝耘智算平台，则为 DeepSeek 的应用和发展提供了坚实的基础和强大的支持。本文将深入探讨 DeepSeek 的特点以及如何通过蓝耘智

用管家婆的企业通常会遇到这么一个问题：系统装在公司服务器上，财务、库管、业务员都在局域网里操作没问题，但人一离开公司就登录不了。异地办公、出差、居家办公的时候，想查个库存或者审批个单据，根本连不上。

有没有那么一刻，想认真写点东西，但看了看公众号的规则、博客平台的通知、第三方站点的审核条款，最后放弃了？发布出去的内容，算法决定谁看得见，平台决定能不能发，数据在人家服务器上，哪天关停了什么都留不下。

在CANN训练营的这段旅程中，我仿佛经历了一场从学徒到工匠的蜕变。我学会了倾听硬件的低语，学会了为数据流铺设最优路径，甚至学会了指挥一支由数百个AI Core组成的交响乐团。我自信满满地将这些技艺应用到模型中的每一个算子上，将它们逐一打磨成了闪亮的、高性能的零件。

在CANN训练营的征途上，我们一路打怪升级，从掌握CPU与NPU的思维差异，到精通Tiling的排兵布阵，再到手持Profiler这把利器洞察性能的蛛丝马迹。我曾一度认为，只要将模型中的每一个算子都优化到极致，就能触及性能的“天花板”。

参加2025昇腾CANN训练营，对我而言，不只是一次学习，更是一场思维的“格式化”。作为一名习惯了在CPU上用for循环解决一切问题的开发者，我曾以为AI算子开发不过是换个平台写代码。然而，当我第一个算子的性能数字出来时，我被深深刺痛了——我用着最先进的NPU，却写出了比CPU还慢的代码。这篇心得，就是记录我如何从“CPU思维”的牢笼中挣脱，真正理解并拥抱昇腾Cube核心并行计算之美的过程。

在完成上一篇关于“告别CPU思维”的心得总结后，我满怀信心地投入到了一个更复杂的算子开发任务中——实现一个高性能的矩阵乘法（MatMul）。我熟练地运用了Ascend C的API，逻辑严谨，编译一次通过，功能验证完美无误。然而，当我用性能分析工具（Profiler）查看结果时，一盆冷水从头浇到脚：算子的执行时间长得离谱，GFLOPS（每秒十亿次浮点运算）低得可怜。我的代码是“正确”的，但它距离“高

我在CANN昇腾C语言领域的探索之旅，充满了持续的顿悟。我学会了并行思考，学会了用Tiling排兵布阵，学会了像大师级铁匠一样融合算子。我曾一度以为，自己已经驯服了多核并行这头猛兽。我的策略很简单，也自认为很有效：将问题分解成相等的几份，每一份指派给NPU众多的AI Core中的一个，然后让它们自由驰骋。对许多问题而言，这套方法效果卓著。Profiler性能分析器上，AI Core矩阵整齐划一地启

这意味着，一条简单的 PTO-ISA 算术指令，在硬件层面可能触发数千次并行的乘加运算，极大地降低了指令解码的带宽压力，让控制流不再成为计算流的瓶颈。通过特定的指令编排，可以在 Cube 进行矩阵乘法的同时，Vector 单元正在处理上一轮数据的 Bias Add 或 Quantization，从而实现算力单元的全负荷运转。CANN 架构的算力核心在于其专用的矩阵计算单元（Cube Unit）和向