logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

用昇腾 NPU 跑大模型,CANN 的 FlashAttention 算子到底帮了多少忙

因果掩码的传入方式的 mask 参数格式和 PyTorch 原生不一样,记得看仓库文档里的示例。KV Cache 的 Prefill/Decode 切换:Prefill 阶段处理完整 prompt,pre_toks要设大;Decode 阶段逐 token 生成,next_toks设为 1。参数搞混了结果不对。数据类型:昇腾 NPU 对 BF16 的支持比 FP16 更好(尤其在 Softmax 精

文章图片
#transformer#深度学习#人工智能 +1
FlashAttention 算子深度解析:让大模型在昇腾NPU上跑得更快

FlashAttention 是个好东西,尤其是在昇腾 NPU 上,它能让你的显存占用掉 75%,推理速度翻一倍。要在昇腾上用,记得去 AtomGit 上把 ops-transformer 仓库 clone 下来,里面有现成的 Ascend C 实现,直接编译就能用。踩坑的时候注意 seq_len 的对齐问题,还有不同 NPU 型号(训练卡 vs 推理卡)的 SRAM 大小不一样,分块参数得动态调

文章图片
#transformer#python
FlashAttention V2深度解析:反向传播显存优化让大模型训练不再OOM

FlashAttention V2通过IO感知的梯度计算、并行化优化、数值稳定性增强,让大模型训练显存降低90%,速度提升2.5倍。在昇腾NPU上,还有Cube/Vector流水线、指令优化、动态batch等独有优化。如果你在训练大模型时遇到显存不够或者速度太慢的问题,试试FlashAttention V2。一行代码切换,不用改模型架构。仓库地址:https://atomgit.com/cann/

文章图片
#机器学习
FlashAttention算子深度解读:让大模型在昇腾NPU上跑得更快

昇腾CANN平台上的ops-transformer算子库把FlashAttention的精髓搬到了昇腾NPU上,让大模型的Attention计算不再被显存带宽卡脖子。这个算子的核心思路特别简单:不把所有Attention矩阵摊开算,而是分小块算、边算边扔。标准Attention算10个token要来回搬运100次数据,FlashAttention只要10次。在昇腾NPU的达芬奇架构上,这个差异被放

文章图片
#人工智能
FlashAttention与知识蒸馏:Tiny-FlashAttention怎么蒸馏大模型的能力

某团队训练了一个强大的大模型(70B参数),在长上下文任务上表现优异。现在需要把这个能力迁移到一个小模型(1.3B参数)上,在昇腾NPU上高效部署。直接Fine-tuning小模型效果不好,因为小模型的容量不足以学习长距离依赖。问题出在知识蒸馏策略不对。标准的知识蒸馏只蒸馏输出logits,但FlashAttention学到的能力是结构化的——大模型的attention pattern、长距离依赖

文章图片
#深度学习#人工智能#机器学习
Flutter 无障碍(Accessibility)全平台适配实战:打造真正包容性应用=

Semantics无障碍不是“施舍”,而是基本人权在数字世界的延伸。Flutter 提供了强大语义能力,但真正的包容性源于开发者的设计意识。通过本文的五层体系,你不仅能规避法律风险,更能扩大用户群、提升品牌温度、践行科技向善。Flutter 官方Google 的Apple 的VoiceOver 设计指南如果你希望看到“Flutter 老年模式设计规范”、“认知障碍用户交互优化”或“无障碍设计系统(

文章图片
#harmonyos#华为
Flutter Web 性能优化:从首屏加载到 SEO 友好的全栈实践

/ web/sw.js(覆盖默认)'/',});});首次访问后,后续打开无需网络可添加到桌面,启动体验接近原生 AppFlutter Web 不是“移动端的简单移植”,而是需要独立优化的平台。通过本文的四层体系,你能让 Web 版兼具原生体验、搜索引擎可见性、离线可靠性,真正实现。Workbox(高级 PWA)Firebase Hosting(一键部署 + SSR 支持)

文章图片
#harmonyos#华为#flutter +2
Flutter 安全加固指南:从代码混淆到反调试的全链路防护实战

安全不是功能,而是持续的过程。Flutter 提供了跨平台便利,但也带来了新的攻击面。通过本文的五层防护体系,你不仅能抵御常见攻击,更能建立用户信任、满足合规要求、保护商业资产。MobSF(移动安全框架,开源)OWASP Mobile Top 10(安全 checklist)如果你希望看到“Flutter 生物识别认证深度集成”、“端到端加密聊天实现”或“安全合规(GDPR/等保)落地指南”等主题

文章图片
#harmonyos#华为
Flutter 多端状态管理终极方案:从 Provider 到 Riverpod + Redux 的演进之路

状态管理没有“银弹”,只有最适合当前业务与团队的方案。Riverpod 凭借其现代化设计已成为 2025 年主流,但 Redux 的严格性和 Bloc 的事件驱动在特定场景仍不可替代。真正的工程化,是在合适的地方用合适的工具,并建立清晰的边界与规范。Riverpod 官方文档Flutter Architecture Samples(GitHub 官方示例)freezed(不可变对象生成)bloc_

文章图片
#harmonyos#华为#flutter
Flutter 国际化(i18n)终极指南:从多语言到 RTL 与文化适配的全链路实践

国际化不是“翻译字符串”,而是对多元文化的尊重与工程能力的体现。通过本文的四层体系,你能让应用在任何国家、任何语言、任何文化背景下都提供原生级体验。(官方)(简化 ARB 管理)intl(格式化)Crowdin / Lokalise(翻译平台)Flutter i18n DevTools(调试插件)如果你希望看到“Flutter 多端适配:从手机到手表、车机与 TV 的响应式设计”、“无障碍(a11

文章图片
#harmonyos#华为#flutter
    共 135 条
  • 1
  • 2
  • 3
  • 14
  • 请选择