使用conda create -n lgt python=3.11创建虚拟环境lgt后。如果先install torch，在install lightning，很大可能会报错。直接使用python -m pip install lightning。使用conda activate lgt进入。这会自动install所匹配的torch包。

这是pytorch官网的安装命令，通常在安装torch、torchvision和torchaudio时速度尚可，但在安装依赖包时可能显示网络超时。很有可能找不到对应的torch版本，但是清华镜像站在下载依赖包时速度快。

1. torch.nn.parallel.DistributedDataParallel简单介绍Implements distributed data parallelism that is based onpackage at the module level.这个container通过在每个模型副本上同步梯度来提供数据并行性。要同步的设备是由输入process_group指定的，默认情况下它是