logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ascend C 实战:开发高性能自定义 Softmax 算子(支持大模型推理场景)

2025年昇腾CANN训练营第二季,基于CANN开源开放全场景,推出0基础入门系列、码力全开特辑、开发者案例等专题课程,助力不同阶段开发者快速提升算子开发技能。获得Ascend C算子中级认证,即可领取精美证书,完成社区任务更有机会赢取华为手机,平板、开发板等大奖。报名链接:https://www.hiascend.com/developer/activities/cann20252。此技巧确保所

文章图片
#c语言#开发语言
Ascend C 实战:开发高性能自定义 RMSNorm 算子,替代 LayerNorm 加速 LLaMA 类大模型

2025年昇腾CANN训练营第二季,基于CANN开源开放全场景,推出0基础入门系列、码力全开特辑、开发者案例等专题课程,助力不同阶段开发者快速提升算子开发技能。获得Ascend C算子中级认证,即可领取精美证书,完成社区任务更有机会赢取华为手机,平板、开发板等大奖。:developer@example.com | 昇腾社区ID: Ascend-AI-Dev。:避免运行时分支影响性能,建议编译两个

文章图片
#c语言#开发语言
Ascend C 实战:开发高性能自定义 GELU 算子,加速大模型激活函数(附完整代码与图解)

其中 (\Phi(x)) 是标准正态分布的累积分布函数(CDF),(\text{erf}) 是误差函数。:developer@example.com | 昇腾社区ID: Ascend-AI-Dev。:精度更高(最大误差 < 0.001),且可分解为基本运算。,实现比 PyTorch 快 3 倍以上的性能。:延迟再降 15%,适合对精度要求稍低的场景。在 BERT、GPT、ViT 等主流模型中,:本

文章图片
#c语言#开发语言
CANN FlashAttention 算子:让昇腾NPU的大模型推理快3倍

一个 70 亿参数的模型,推理时光 Attention 就要吃掉几十 GB 显存,序列长度一上来,直接爆卡。ATB 的优势是不用自己拼算子,但如果你只需要单独的 FlashAttention,ops-transformer 的 API 更轻量。更要命的是,这个注意力矩阵只是中间结果,算完就扔,真正需要的只是最终输出。技术上,昇腾的 FlashAttention 和 NVIDIA 的核心思路一样:分

文章图片
#harmonyos#架构
CANN FlashAttention 算子:让昇腾NPU的大模型推理快3倍

一个 70 亿参数的模型,推理时光 Attention 就要吃掉几十 GB 显存,序列长度一上来,直接爆卡。ATB 的优势是不用自己拼算子,但如果你只需要单独的 FlashAttention,ops-transformer 的 API 更轻量。更要命的是,这个注意力矩阵只是中间结果,算完就扔,真正需要的只是最终输出。技术上,昇腾的 FlashAttention 和 NVIDIA 的核心思路一样:分

文章图片
#harmonyos#架构
Ascend C 实战:开发自定义 RMSNorm 算子(专为大语言模型推理优化)

2025年昇腾CANN训练营第二季,基于CANN开源开放全场景,推出0基础入门系列、码力全开特辑、开发者案例等专题课程,助力不同阶段开发者快速提升算子开发技能。获得Ascend C算子中级认证,即可领取精美证书,完成社区任务更有机会赢取华为手机,平板、开发板等大奖。:developer@example.com | 昇腾社区ID: Ascend-AI-Dev。在 D=4096 时,单样本仅需 12K

文章图片
#c语言#语言模型#开发语言
Flutter 跨端测试革命:基于 AI 的视觉回归与交互验证实战

testWidgets('商品详情页布局', (tester) async {// 通过文本定位,非坐标// 触发 AI 视觉验证],});测试的终极目标不是“发现 Bug”,而是“预防 Bug”。通过 AI 视觉测试,你将把 UI 质量保障从被动响应转变为主动免疫。(基础快照)Applitools(商业 AI 视觉测试)如果你希望看到“Figma 到 Flutter 自动化一致性校验”、“无障碍

文章图片
#harmonyos
Flutter Web 极速加载实战:从 5s 到 800ms 的全链路优化指南

🛠️ Flutter 官方暂未原生支持代码分割,但可通过Dart 编译器插件或使用社区方案/reports页面:额外加载320KB(仅当访问时)Flutter Web 的性能瓶颈不在技术本身,而在是否采用 Web 最佳实践。通过预渲染、代码分割、智能缓存三板斧,你完全可以让 Flutter Web 应用达到“秒开”体验。Cloudflare Pages(免费自动优化)

文章图片
#harmonyos#华为
Flutter 与 Rust 深度融合实战:用 Cargo 构建跨平台核心逻辑

Flutter 负责 UI 与交互,Rust 负责性能与安全——这是跨平台开发的黄金组合。通过本文的深度整合方案,你不仅能调用 Rust,更能构建可维护、可扩展、高性能的混合架构。(包含完整 FFI 桥接、异步流、多平台构建脚本)如果你希望看到“Rust + Flutter 构建离线地图引擎”、“端到端加密消息系统”或“AI 推理框架集成”等实战,请在评论区告诉我!📚参考资料The Ruston

文章图片
#harmonyos#flutter#开发语言
    共 96 条
  • 1
  • 2
  • 3
  • 10
  • 请选择