ubuntu 24.04 安装 Nvidia 显卡驱动 + CUDA + cuDNN，配置 AI 深度学习训练环境，简单易懂，一看就会！

1.查看本机显卡型号

lspci | grep -i nvidia

输出如下：

01:00.0 3D controller: NVIDIA Corporation GM108M [GeForce 920MX] (rev a2)

其中，GeForce 920MX就是我们的显卡型号。

2.下载 Nvidia 显卡驱动

官网：点击此处下载NVIDIA驱动

根据显卡型号搜索驱动：

选择查找

下载最新版驱动

3.安装显卡驱动

安装编译环境

sudo apt update
sudo apt install gcc make

运行安装程序

chmod +x NVIDIA-Linux-x86_64-560.31.02.run
sudo ./NVIDIA-Linux-x86_64-560.31.02.run

选择“Continue installation”，回车

进入编译中…

注意：在这里编译时会出现编译错误而中断，原因是下载的显卡驱动是最新的，需要用较高的 gcc 版本编译器来编译，默认 gcc 的版本是 11，小于编译所需要的 12 版本。因此需要安装 12 版本的，并调整 gcc 链接。

sudo apt install gcc-12
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/x86_64-linux-gnu-gcc-12 20

重新运行安装程序：

sudo ./NVIDIA-Linux-x86_64-560.31.02.run

编译通过后，接着运行到下面这里，选择“Yes”

安装过程中，会提示是否禁用 nouveau 驱动，选择是，NVIDIA 会自动屏蔽 nouveau 驱动，不用手动禁止。

在安装过程中，没有不是特别要求的话，提示选择是否的话，可以都选择“是”。

终端运行nvidia-smi：

输出如下，可以查看到版本号和显存：

安装完成，重启。

4.CUDA 安装

查看显卡支持的 CUDA 版本

nvidia-smi

输出如下：

CUDA 最高可用版本为 12.6

到官网下载 CUDA：https://developer.nvidia.com/cuda-toolkit-archive

注意：CUDA 需要注册登录 NVIDIA 官网才能下载。

选择 12.6 版本以下的都可，最高版本可选择 12.6，根据系统版本选择相应的项：

得到下载地址和运行命令：

这里是：

wget https://developer.download.nvidia.com/compute/cuda/12.2.2/local_installers/cuda_12.2.2_535.104.05_linux.run

sudo sh cuda_12.2.2_535.104.05_linux.run

这里以 CUDA Toolkit 12.2.2为例安装:

chmod +x cuda_12.2.2_535.104.05_linux.run 
sudo ./cuda_12.2.2_535.104.05_linux.run 

选择“Continue”

输入“accept”

取消“Driver”选项，因为已经安装过显卡驱动了， 这里不需要安装，然后选择“Install”。

等待安装完成。

配置环境

nano ~/.bashrc

在文件最后添加以下内容：

export PATH=$PATH:/usr/local/cuda-12.2/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.2/lib64 

重载配置

source ~/.bashrc

检查安装

nvcc -V

输出如下，则安装成功：

5.安装 cuDNN

官网下载：https://developer.nvidia.com/rdp/cudnn-download

选择相应项后会生成下载命令：

wget https://developer.download.nvidia.com/compute/cudnn/9.3.0/local_installers/cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.deb

sudo dpkg -i cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.deb

sudo cp /var/cudnn-local-repo-ubuntu2404-9.3.0/cudnn-*-keyring.gpg /usr/share/keyrings/

sudo apt-get update

sudo apt-get -y install cudnn

一般最新版本的显卡驱动都能适配最新版本的 cuDNN，若最新版本不适合当前的 CUDA，可以安装历史版本。

cuDNN 最新版本支持的 CUDA 查看：Support Matrix — NVIDIA cuDNN v9.3.0 documentation

查找 cuDNN 支持的 CUDA 的历史版本:

选择"cuDNN 8.x-1.x"

然后选择适应的版本下载deb包安装即可。