如果batch_size=8分配到7张卡去跑，主卡会占2个batch_size=1去跑，那么剩下7张卡每张占1个batch_size=1去跑，1、多卡训练对于数据的分配不是智能的，是主卡分最多，其他卡占平均。2、主卡中负担是最大的，各种数据和框架都要在这里面。如果batch_size=8分配到8张卡去跑，那么8张卡每张占1个batch_size=1去跑，不然batch_size=1都不能训练成功，

如果batch_size=8分配到7张卡去跑，主卡会占2个batch_size=1去跑，那么剩下7张卡每张占1个batch_size=1去跑，1、多卡训练对于数据的分配不是智能的，是主卡分最多，其他卡占平均。2、主卡中负担是最大的，各种数据和框架都要在这里面。如果batch_size=8分配到8张卡去跑，那么8张卡每张占1个batch_size=1去跑，不然batch_size=1都不能训练成功，

这是因为图像的存储是一个三维矩阵，包含RGB三种要素的信息，也就是我们所说的三通道。% 第一幅图的G B通道的灰度值全部变成0 这样就只有R通道的了。上面的代码是分别对R G B进行了采样，所以会得到三张图片。出现了三张图片，但是感觉应该只有一张啊。那么怎样得到三通道分别的图像呢？%提取图像三通道信息。

图像评测指标、PSNR/SSIM/MAE/MSE/RMSE/ISSM/SRE/LPIPS/PIQE/NIQE、Python代码、计算方式、图像处理

ckpt文件其实是TensorFlow的模型文件。里面存放着.pth文件。

训练数据(train)+验证数据(valid)：建立模型。（valid）：模型选择，辅助模型构建（可选）训练集（train）：帮助训练模型，确定。测试数据：检查模型，测试精确度。

图像评测指标、PSNR/SSIM/MAE/MSE/RMSE/ISSM/SRE/LPIPS/PIQE/NIQE、Python代码、计算方式、图像处理

多GPU启动指令:python -m torch.distributed.launch --nproc_per_node=8 --use_env train_multi_gpu_using_launch.py,指令,nproc_per_node参数为使用GPU数量。我们使用了use_env传入了这个参数，它就会在环境变量中存入一系列参数，包括RANK,WORLD_SIZE,LOCAL_RANK。