logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【昇腾CANN】ops-transformer算子库深度解析:让大模型训练快起来

【昇腾CANN】ops-transformer算子库深度解析:让大模型训练快起来

文章图片
#transformer#深度学习#人工智能
【昇腾CANN】自定义算子注册:从Schema到实际运行的完整链路

接上一篇文章聊的 metadef,这篇说一个完整的话题:自定义算子怎么从零注册到昇腾 CANN 里,让 PyTorch 或者 TensorFlow 能直接调用。这个过程涉及到几个环节:算子实现(核函数)、元数据定义(metadef)、算子注册(OpLoader)、框架适配(PyTorch 的 autograd 或者 TensorFlow 的 op 包装)。哪一步出了问题,调用都会失败。

文章图片
#人工智能#自然语言处理#深度学习
【昇腾CANN】自定义算子注册:从Schema到实际运行的完整链路

接上一篇文章聊的 metadef,这篇说一个完整的话题:自定义算子怎么从零注册到昇腾 CANN 里,让 PyTorch 或者 TensorFlow 能直接调用。这个过程涉及到几个环节:算子实现(核函数)、元数据定义(metadef)、算子注册(OpLoader)、框架适配(PyTorch 的 autograd 或者 TensorFlow 的 op 包装)。哪一步出了问题,调用都会失败。

文章图片
#人工智能#自然语言处理#深度学习
【昇腾CANN】metadef元数据:为什么你写的算子加载报格式错误

写自定义算子的时候,加载阶段报错是最让人崩溃的——代码逻辑明明没问题,但 ACL 就是说 `format error` 或者 `schema mismatch`。这类问题大多数出在 metadef(元数据定义)上。metadef 描述了算子的接口规范,包括输入输出的 shape、dtype、format 等信息。如果自定义算子的实现和 metadef 描述对不上,ACL 在加载阶段就会拒绝。

文章图片
#pytorch#深度学习#人工智能
【昇腾CANN】metadef元数据:为什么你写的算子加载报格式错误

写自定义算子的时候,加载阶段报错是最让人崩溃的——代码逻辑明明没问题,但 ACL 就是说 `format error` 或者 `schema mismatch`。这类问题大多数出在 metadef(元数据定义)上。metadef 描述了算子的接口规范,包括输入输出的 shape、dtype、format 等信息。如果自定义算子的实现和 metadef 描述对不上,ACL 在加载阶段就会拒绝。

文章图片
#pytorch#深度学习#人工智能
【昇腾CANN】材料化学模拟:昇腾NPU让分子动力学快起来

之前做分子动力学模拟,用CPU跑一个2000原子的体系,1天只能跑2纳秒。后来迁到昇腾NPU,用ops-math和ATB优化,1天能跑50纳秒。这篇文章就来讲讲这个实战项目。

文章图片
#服务器#网络#linux
【昇腾CANN】材料化学模拟:昇腾NPU让分子动力学快起来

之前做分子动力学模拟,用CPU跑一个2000原子的体系,1天只能跑2纳秒。后来迁到昇腾NPU,用ops-math和ATB优化,1天能跑50纳秒。这篇文章就来讲讲这个实战项目。

文章图片
#服务器#网络#linux
【昇腾CANN】release-management:搞清楚版本咋管理的

刚参与CANN开源社区那会,我最懵的就是:版本号咋定的?啥时候发新版本?我提交的PR啥时候能合入?后来把release-management这个仓库读明白,才算搞清楚整个发布流程。

文章图片
#数据库#语言模型#自然语言处理
【昇腾CANN】release-management:搞清楚版本咋管理的

刚参与CANN开源社区那会,我最懵的就是:版本号咋定的?啥时候发新版本?我提交的PR啥时候能合入?后来把release-management这个仓库读明白,才算搞清楚整个发布流程。

文章图片
#数据库#语言模型#自然语言处理
【昇腾CANN】release-management:搞清楚版本咋管理的

刚参与CANN开源社区那会,我最懵的就是:版本号咋定的?啥时候发新版本?我提交的PR啥时候能合入?后来把release-management这个仓库读明白,才算搞清楚整个发布流程。

文章图片
#数据库#语言模型#自然语言处理
    共 43 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择