飞桨的GPU分布式训练使用的是基于NCCL2的通信方式，相比PRC通信方式，使用NCCL2（Collective通信方式）进行分布式训练，不需要启动Parameter server进程，每个Trainer进程保存一份完整的模型参数，在完成梯度计算之后通过Trainer之间的相互通信，Reduce梯度数据到所有节点的所有设备，然后每个节点在各自完成参数更新。如果模型的损失或者评估指标表现异常，通常需

github的网站访问及代码同步相当慢

github的网站访问及代码同步相当慢

Ubuntu20.04安装完后显卡驱动台式机 显卡2060 CPU是AMD的R7 3700X第一步 编辑文件blacklist.confsudo vim /etc/modprobe.d/blacklist.conf在最后添加：blacklist nouveauoptions nouveau modeset=0第二步 更新sudo update-initramfs -u然后重启，输入：lsmod |