CUDA & CUDNN 安装与验证

CUDA安装

查看系统的GPU支持的CUDA版本

nvidia-smi

上图中红色方框框出的为当前系统支持的CUDA最高版本。接下来根据得到的版本信息开始下载CUDA相关安装包。
英伟达官方CUDA下载连接：https://developer.nvidia.cn/cuda-downloads
页面上方确认当前下载的版本：

按照下图红框依次

一般官方页面显示的为最新CUDA环境，历史版本下载链接：https://developer.nvidia.com/cuda-toolkit-archive，页面如下所示，根据当前系统自行选择。

以安装CUDA11.8.0为例：

1. 选择CUDA解压路径（与实际安装位置无关，安装后的解压文件会自动删除），下图是安装包解压路径配置和安装进程图。
   
   
2. 之后开始安装过程，初始界面点击“同意并继续”，接着自定义安装。
   
3. 安装选项部分除了CUDA，其余都取消勾选。
   
4. 选择安装位置（建议使用默认位置），点击“下一步”，等待安装完成。
5. 环境变量配置（这里安装路径为C盘）
   CUDA_PATH配置（安装后会自动生成）：
   
   PATH配置（根绝PATH中缺失的自行添加）：
   

CUDNN安装

英伟达官方CUDNN下载链接：https://developer.nvidia.com/rdp/cudnn-download

1. 下载CUDNN，CUDA11.8.0安装方式如下图。方框中为对应CUDNN版本，选择windows版本。如果是其他较早的版本，点击“Archived cuDNN Releases”选择对应上步中安装的CUDA版本的CUDNN。
2. 下载完成得到CUDNN的zip压缩包，再进行解压。
3. 将解压的文件分别放置于CUDA目录中。

验证CUDA和CUDNN安装情况

方法一、cuda指令（推荐）

查看CUDA版本 nvcc -V

方法二、运行官方demo

bandwidthTest.exe 和 deviceQuery.exe 文件，如果最后都显示 Result = PASS 则说明安装成功。
bandwidthTest.exe 运行情况：

deviceQuery.exe 运行情况：

方法三、利用Pytoch验证（需要当前环境安装好Pytoch）

import torch
# 查看当前系统的CUDA版本
print(torch.version.cuda)
# 查看当前系统的CUDNN版本
print(torch.backends.cudnn.version())

Pytorch安装与验证

Pytoch GPU版本安装

在线安装

如果需要cuda其他版本的，可以尝试将https://download.pytorch.org/whl/cu118末尾的cu118改为需要的版本

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

离线安装

方式一、pip离线安装whl文件（推荐）

需要查询当前环境的cuda版本和python版本

# cuda版本查询
nvcc -V
# python版本查询
python -V

在https://download.pytorch.org/whl/torch_stable.html网站下载需要的whl安装文件。

pip install ****.whl

下图展示的是torch和torchvision的下载示例。


python3.8、cuda11.8的离线安装方式如下：

pip install torch-2.0.1%2Bcu118-cp38-cp38-win_amd64.whl
pip install torchvision-0.15.2%2Bcu118-cp38-cp38-win_amd64.whl

特别注意，torch与torchvision的版本对应关系，参考官方 Github repo，对应如下表所示。

torch	torchvision	python
main / nightly	main / nightly	>=3.8, <=3.10
2.0.1	0.15.2	>=3.8, <=3.10
2.0.0	0.15.1	>=3.8, <=3.10
1.13.1	0.14.1	>=3.7.2, <=3.10
1.13.0	0.14.0	>=3.7.2, <=3.10
1.12.1	0.13.1	>=3.7, <=3.10
1.12.0	0.13.0	>=3.7, <=3.10
1.11.0	0.12.3	>=3.7, <=3.10
1.10.2	0.11.3	>=3.6, <=3.9
1.10.1	0.11.2	>=3.6, <=3.9
1.10.0	0.11.1	>=3.6, <=3.9
1.9.1	0.10.1	>=3.6, <=3.9
1.9.0	0.10.0	>=3.6, <=3.9
1.8.2	0.9.2	>=3.6, <=3.9
1.8.1	0.9.1	>=3.6, <=3.9
1.8.0	0.9.0	>=3.6, <=3.9
1.7.1	0.8.2	>=3.6, <=3.9
1.7.0	0.8.1	>=3.6, <=3.8
1.7.0	0.8.0	>=3.6, <=3.8
1.6.0	0.7.0	>=3.6, <=3.8
1.5.1	0.6.1	>=3.5, <=3.8
1.5.0	0.6.0	>=3.5, <=3.8
1.4.0	0.5.0	==2.7, >=3.5, <=3.8
1.3.1	0.4.2	==2.7, >=3.5, <=3.7
1.3.0	0.4.1	==2.7, >=3.5, <=3.7
1.2.0	0.4.0	==2.7, >=3.5, <=3.7
1.1.0	0.3.0	==2.7, >=3.5, <=3.7
<=1.0.1	0.2.2	==2.7, >=3.5, <=3.7

方式二、conda安装tar.gz文件

依赖下载地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/win-64/
下图展示的是torch和torchvision的下载示例。

# conda离线安装，需要先进入下载的目录，执行下面指令：
conda install --offline .\pytorch-2.0.1-py3.8_cuda11.8_cudnn8_0.tar.bz2
conda install --offline .\torchvision-0.15.2-py38_cu118.tar.bz2
# pip下载包的其他依赖，该指令不会重复下载torch和torchvision
pip install torch torchvision

验证Pytorch GPU版本安装情况

import torch
# 查看当前Pytorch版本
print(torch.__version__)
# 查看当前GPU是否可用
print(torch.cuda.is_available())