logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

TensorRT教程10:部署推理的基本步骤(重点)

部署推理阶段此阶段主要完成推理,Kernel Auto-Tuning 和 Dynamic Tensor Memory 应该是在这里完成的。先创建一个runtime对象,再将plan文件反序列化,并创建一个 runtime engine,然后就可以输入数据(比如测试集或数据集之外的图片),然后输出分类向量结果或检测结果。tensorRT的好处就是不需要安装其他深度学习框架,就可以实现部署和推理。这个

#深度学习#计算机视觉#人工智能 +2
到底了