logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【昇腾CANN】图执行器:Graph Executor怎么调度一个计算图

昇腾 Runtime 的计算调度核心是 Graph Executor。它把前端框架(PyTorch、TensorFlow)传入的计算图,拆解成算子序列,调度到 NPU 上执行。理解 Graph Executor 的工作原理,能帮你理解为什么有些操作在昇腾上比在 GPU 上慢,以及怎么优化调度效率。

文章图片
#人工智能#分布式
【昇腾CANN】图执行器:Graph Executor怎么调度一个计算图

昇腾 Runtime 的计算调度核心是 Graph Executor。它把前端框架(PyTorch、TensorFlow)传入的计算图,拆解成算子序列,调度到 NPU 上执行。理解 Graph Executor 的工作原理,能帮你理解为什么有些操作在昇腾上比在 GPU 上慢,以及怎么优化调度效率。

文章图片
#人工智能#分布式
CANN多设备协同计算:构建高性能分布式AI推理系统

CANN多设备协同计算:构建高性能分布式AI推理系统

文章图片
#分布式#人工智能
CANN模型部署最佳实践:从开发到生产的全生命周期管理

CANN模型部署最佳实践:从开发到生产的全生命周期管理

文章图片
#人工智能
到底了