【代码】linux centos安装gcc。

然后在https://github.com/meta-llama/llama.git 下载download.sh,并bash运行，输入发到邮箱的许可 链接。2.hugging-face，用snapshot_download。1.meta官网，申请权限。

1.1、新建conda环境。2、在新建好的conda环境中，安装基础的依赖。3.安装Pytoch：下面是对应pytorch版本链接，注意架构是x86还是aarch64，然后pip install4.安装pytorch-npu，找到自己适配的版本，然后pip install下载好指定版本后，使用pip install 安装下载好的包即可5、测试。使用以下命令测试，如果正常输出结果，说明环境搭建成功。

1.使用场景不同:DP支持单机多 GPU和多线程是一个的框架;而DDP支持多机多 GPU,同时也是的，此外，DDP还与模型并行化(model parallelism)兼容2.GPU的时间节点不同:对于DDP，在开始的时候主GPU(GPU0)就将模型复制给各个GPU，这个复制只发生一次;因为DDP在对local梯度做all reduce后(相当于单节点reduce+brodcast），每个节点用当前