前置

安装nvidia-docer之前需要首先安装docker，可参考：

docker安装、设置非sudo执行、卸载_非sudo用户安装docker-CSDN博客

下载

官方deb包下载链接

下载完成后解压，完整文件如下

安装

安装前需要确保已经安装了nvidia的驱动，然后进入刚才的离线安装包文件执行

sudo dpkg -i *.deb

接下来重启docker

sudo systemctl restart docker

验证是否安装成功, 可以有很多种方式，主要检测GPU应用是否正常运行

docker run --rm --gpus all nvidia/cuda:12.0-base nvidia-smi

如果--gpus all选项指定后成功运行，运行说明nvidia-docker安装成功，即可在docker内部使用主机的GPU