安装CUDA

查看显卡驱动

在终端键入命令

nvidia-smi

查看第二行CUDA Version，本机为12.2，意为最高支持使用12.2的CUDA版本
一般的，建议把显卡驱动升级后再进行后续安装。
但不建议在实验室服务器上随意升级显卡驱动。

选择所需CUDA版本

前往pytorch官网命令复制页面查看其最新支持的CUDA版本，目前【2023.12.7】pytorch推荐使用的CUDA版本是11.8和12.1，一般选择较新的版本，除非你的机器不支持该版本。
如果你是要安装给定的Pytorch版本，请在较早版本的pytorch下载页面查询配套的CUDA版本进行下载。

下载安装器

前往CUDA下载地址，下载所需版本的CUDA toolkit。
如需查看CUDA的细节，查看CUDA帮助文档。

检验CUDA安装情况

在命令行键入（区分大小写）

nvcc -V

安装正确可以查看到所需的版本号

安装cudnn

前往cudnn下载地址，选择对应版本。解压到你的CUDA版本对应的文件夹下，在本机中该文件夹名为：

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1

并将解压出的文件夹名称重命名为cudnn。

添加cudnn环境变量

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\cudnn\bin

• 不确定是否必要

安装Torch

卸载旧版本Torch

conda uninstall pytorch

命令行安装

从pytorch官网命令复制页面根据你的需要复制安装命令。
我是conda版本安装，因此打开终端输入：

conda activate your_env_name
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

如果直接安装，则为：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

然后在可能出现的询问弹出键入y

• 如果使用一般的cmd终端，可能会出现CondaSSLError。改用conda自带的终端程序即可避免此问题。
• 其他方式官网安装助手

检查Torch可用性

import torch
x = torch.rand(5, 3)
print(x)

检查Torch.cuda可用性

import torch
torch.cuda.is_available()

• cuda.is_available()如为False，且安装的是conda版本，查看是否将torch安装到了其他环境。

检查Torch.cuda版本

print(torch.version.cuda)

输出应与你的cuda版本相同，若该值为None表示安装的是cpu版的pytorch，需要重新安装。

参考文档：
知乎：cuda 和 cudnn 库的卸载与安装