1.查看cuda和cudnn版本

nvcc -V

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Sep_21_10:33:58_PDT_2022
Cuda compilation tools, release 11.8, V11.8.89
Build cuda_11.8.r11.8/compiler.31833905_0

2.下载对应的tensorrt

Log in | NVIDIA Developer

解压文件到需要的目录下

3.添加环境变量

打开bashrc文件

sudo vim ~/.bashrc

在bashrc文件中添加环境变量

#tensorrt
export LD_LIBRARY_PATH=/home/tuya/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH
export LIBRARY_PATH=/home/tuya/TensorRT-8.6.1.6/lib:$LIBRARY_PATH

关闭bashrc然后source
source ~/.bashrc

4.安装tensorrt-python插件

进入至tensorrt解压缩的python文件夹，pip安装，注意是否使用虚拟环境，如果使用则需要进入至虚拟环境执行命令

pip install tensorrt-8.6.1-cp310-none-linux_x86_64.whl

5.安装uff组件

进入uff目录

pip install uff-0.6.9-py2.py3-none-any.whl 

出现问题：

在使用过程中，如果出现类似问题

error while loading shared libraries: libnvinfer.so.7: cannot open
shared object file: No such file or directory

可能是因为tensorrt不在系统的环境变量中，

git clone https://github.com/NVIDIA-AI-IOT/torch2trt
cd torch2trt
python setup.py install

可以通过把tensorrt/lib的文件cp至系统/lib下
 

sudo cp /home/tuya/TensorRT-8.6.1.6/lib/* /lib/

torch2torrt安装

这里有一个安装包可以直接下载，也可以自己按照下面链接在gitHub下载，下载链接https://download.csdn.net/download/weixin_43653152/86248347