
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
torchrun分布式训练的配置踩坑
灵魂拷问:数据很多时少用append,预先分配好整个容器大小,每次用索引去修改内容;DP, DDP ,MP分布式训练,单机多卡,多机多卡训练;

Python方法记录
一. LInux版本:Ubuntu,CentOS,Redhat虚拟机软件:VMware Workstation版安装包–虚拟机-操作系统Ubuntu安装Ubuntu系统:软件工具 rufus-3.15.exe: http://rufus.ie/zh/Ubuntu系统:https://ubuntu.com/安装步骤(双系统):https://www.bilibili.com/video/BV11k4
到底了







