logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型分布式训练中的NCCL应用

大模型训练框架,训练梯度需要用到 DDP。流水线如下图。

#跳槽
到底了