关键词：tensorrt，插件首先需要python转onnx正确。其次采用onnx-tensorrt进行onnx模型解析。解析成tensorrt的模型。如果这一步解析有问题，可能这个时候就要写插件了。插件的写法可以参考tensorrt官方的项目...

关键词：tensorrt， int8， float16，batch推理int8量化，这篇文章中nvidia tensorrt的int8推理在batch大的时候有推理速度的提升，这里实测一下。采用float16精度的ddrnet23模型，tensorrt的python api进行推理。可以看到采用batch的推理方式并没有什么提升。with batch:1, inference time:0.008

描述：采用tensorrt python api载入序列化的模型时，报错：发生异常: TypeErrorpybind11::init(): factory function returned nullptrcodewith open(self.model, 'rb') as f, trt.Runtime(self.trt_logger) as runtime:return runtime.dese

1. resizebilinear选择5.1的分支。onnx-tensorrtonnx模型：百度网盘， 提取码: s7s1

1. 问题采用ffmpeg将处理后的图像推流成rtsp流，发现每过一段时间就会出现花屏。原因输出的rtsp流的fps设置不对time_base.num = 1;time_base.den = 12;我的输入为20fps，隔一帧处理。rtsp流的fps为12。所以输入的的数据，每秒就会少2帧。体现在rtsp流上就是：隔一段时间就会出现花屏。将fps改对就可以了。...

EfficientNet, tensorrtCode想着将efficientnet转到tensorrt上推理，加入到benchmark库中，发现Efficientnet的输入上做了区别于conv2d的非规则池化，原始代码如下：class Conv2dStaticSamePadding(nn.Conv2d):"""2D Convolutions like TensorFlow's 'SAME' mo

AMD APP SDK 2.8下载AMD APP SDK 3.0

参考:https://blog.csdn.net/weixin_45617478/article/details/103449522好像是没有x264这个包1. 可能问题1/home/yangna/Atlas500_DDK/toolchains/Euler_compile_env_cross/arm/cross_compile/install/bin/../lib64/gcc/aarch64-li

pytorch用pytorch的 trace 导出模型的时候，报错errorRuntimeError:Could not export Python function call 'Scatter'. Remove calls to Python functions before export. Did you forget to add @script or @script_method anno

pytorch, onnx问题：pytorch的模型转onnx的时候，报错：exporting the operator pixel_unshuffle to onnx opset version 11 is not supported但是用pytorch.jit.trace则是可以导出的。解决方案自己写一个pixel_unshuffle导出到onnx的插件使用pytorch jit.trace追