
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
TensorRT教程10:部署推理的基本步骤(重点)
部署推理阶段此阶段主要完成推理,Kernel Auto-Tuning 和 Dynamic Tensor Memory 应该是在这里完成的。先创建一个runtime对象,再将plan文件反序列化,并创建一个 runtime engine,然后就可以输入数据(比如测试集或数据集之外的图片),然后输出分类向量结果或检测结果。tensorRT的好处就是不需要安装其他深度学习框架,就可以实现部署和推理。这个
到底了







