logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

torchrun分布式训练的配置踩坑

灵魂拷问:数据很多时少用append,预先分配好整个容器大小,每次用索引去修改内容;DP, DDP ,MP分布式训练,单机多卡,多机多卡训练;

文章图片
#pytorch
Python方法记录

一. LInux版本:Ubuntu,CentOS,Redhat虚拟机软件:VMware Workstation版安装包–虚拟机-操作系统Ubuntu安装Ubuntu系统:软件工具 rufus-3.15.exe: http://rufus.ie/zh/Ubuntu系统:https://ubuntu.com/安装步骤(双系统):https://www.bilibili.com/video/BV11k4

#python#pycharm#ubuntu
到底了