logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

昇腾CANN大模型推理加速:ATB加速库的Transformer层融合优化

ATB是昇腾CANN里做大模型推理加速的核心组件。它把Transformer层的多个算子融合成一个大kernel,显著减少HBM读写,端到端吞吐可以提升3-5倍。在昇腾NPU上部署LLM推理,ATB几乎是必选项。CANN开源之后,ATB的融合策略完全透明,也可以根据特定模型做定制化融合。如果你正在做昇腾上的LLM推理优化,建议先把ATB的融合策略配置摸清楚,找到最适合你模型的融合组合。不要一上来就

文章图片
#transformer#深度学习#人工智能
昇腾CANN大模型推理加速:ATB加速库的Transformer层融合优化

ATB是昇腾CANN里做大模型推理加速的核心组件。它把Transformer层的多个算子融合成一个大kernel,显著减少HBM读写,端到端吞吐可以提升3-5倍。在昇腾NPU上部署LLM推理,ATB几乎是必选项。CANN开源之后,ATB的融合策略完全透明,也可以根据特定模型做定制化融合。如果你正在做昇腾上的LLM推理优化,建议先把ATB的融合策略配置摸清楚,找到最适合你模型的融合组合。不要一上来就

文章图片
#transformer#深度学习#人工智能
鸿蒙版Electron开发实战:Web前端秒变鸿蒙应用

在当今多端开发的时代,开发者们一直在寻求更高效的开发方式。Electron框架之所以大受欢迎,正是因为它允许开发者使用熟悉的Web技术来构建桌面应用。那么,在鸿蒙生态中,我们能否实现类似的开发体验呢?答案是肯定的!虽然鸿蒙没有官方的Electron框架,但通过Web组件 + ArkTS原生能力的组合,我们可以实现媲美Electron的开发模式。通过本文的实战演示,我们看到了在鸿蒙平台上实现Elec

#harmonyos#前端#electron
【鸿蒙Electron实战】在HarmonyOS上玩转Web技术:混合开发全指南

Electron的成功在于它让Web技术突破了浏览器沙箱,能够直接调用系统API。

#harmonyos#前端#electron
鸿蒙HarmonyOS上的跨平台开发:探索HarmonyOS-Electron实践

摘要:随着鸿蒙生态的不断发展,越来越多的开发者希望能将成熟的Web技术栈与鸿蒙应用结合。但是,鸿蒙系统内置的 ACE(Ability Cross-Platform Engine)引擎 和 Web组件,为我们提供了实现类似Electron开发模式的能力。我们将创建一个简单的应用。在Web页面中有一个按钮,点击后可以调用鸿蒙的原生弹窗(Toast)功能,并且原生侧也能向Web侧发送消息。| **传统

#鸿蒙
昇腾CANN:赋能AI应用的高性能计算架构深度解析

华为昇腾CANN架构是连接AI框架与昇腾芯片的关键中间层,通过对计算图的深度优化和软硬件协同设计,充分发挥芯片算力。其技术特性包括高性能算子库、自动算子开发工具和全栈性能调优能力,显著提升AI模型在昇腾平台的运行效率。典型应用流程涵盖模型转换、图优化、应用开发到部署执行,为开发者提供了从训练到推理的完整解决方案。作为昇腾AI生态的核心支撑,CANN将持续推动AI技术的商业化落地。

#人工智能#架构
Flutter:跨平台开发的未来

Flutter不仅支持iOS和Android,还扩展到了Web、桌面(Windows、macOS、Linux)甚至嵌入式设备,真正实现了"一次编写,处处运行"的梦想。'iOS风格按钮' : 'Material风格按钮','运行在iOS设备' : '运行在Android设备',appBar: AppBar(title: Text('响应式布局')),child: Text('Hello World'

#flutter
鸿蒙版Electron开发实战:Web前端秒变鸿蒙应用

在当今多端开发的时代,开发者们一直在寻求更高效的开发方式。Electron框架之所以大受欢迎,正是因为它允许开发者使用熟悉的Web技术来构建桌面应用。那么,在鸿蒙生态中,我们能否实现类似的开发体验呢?答案是肯定的!虽然鸿蒙没有官方的Electron框架,但通过Web组件 + ArkTS原生能力的组合,我们可以实现媲美Electron的开发模式。通过本文的实战演示,我们看到了在鸿蒙平台上实现Elec

#harmonyos#前端#electron
鸿蒙HarmonyOS上的跨平台开发:探索HarmonyOS-Electron实践

摘要:随着鸿蒙生态的不断发展,越来越多的开发者希望能将成熟的Web技术栈与鸿蒙应用结合。但是,鸿蒙系统内置的 ACE(Ability Cross-Platform Engine)引擎 和 Web组件,为我们提供了实现类似Electron开发模式的能力。我们将创建一个简单的应用。在Web页面中有一个按钮,点击后可以调用鸿蒙的原生弹窗(Toast)功能,并且原生侧也能向Web侧发送消息。| **传统

#鸿蒙
【鸿蒙Electron实战】在HarmonyOS上玩转Web技术:混合开发全指南

Electron的成功在于它让Web技术突破了浏览器沙箱,能够直接调用系统API。

#harmonyos#前端#electron
    共 41 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择