使用yolov5训练非机动车驾驶状态的模型，检测内容为驾驶非机动车的人和车一体

基准测试提供了关于导出格式的大小、其mAP50-95指标(用于对象检测和分割)或精度top5指标(用于分类)的信息，以及在各种导出格式(如ONNX、OpenVINO、TensorRT等)中，每张图像的推断时间(以毫秒为单位)。这些信息可以帮助用户根据他们对速度和准确性的需求，为他们的特定用例选择最佳的导出格式。yolov8目前支持：BoT-SORT、ByteTrack两种目标跟踪，默认使用BoT-

序言因为之前C++代码一直是在ubuntu的CLion上写的，对Visual Studio的相关配置并不是很熟悉，最近需要在win上开发，所以不得不用Visual Studio来编写代码，在做项目的同时，简单记录下Visual Studio的相关配置，以调用ncnn和opencv为例。一、准备ncnn和opencv1.1 windows下编译ncnn首先需要安装Visual Studio 2022

序言在做训练模型转部署模型的时候，通常都是先转成onnx，再转目标框架，但是经常会出现的问题就是某些算子不支持，这样一来，模型部署起来就比较困难，不过现在ncnn支持torch直接通过pnnx转成ncnn模型，将整个torch的模型直接搬过来，避免了算子不支持的问题，具体的介绍还请移步nihui大佬的知乎：PNNX: PyTorch Neural Network Exchange。结合自己最近的情

序言上一篇文章介绍了如何在nano上实用ncnn部署yolox，因为yolox的ncnn相关部署代码已经开源，所以我们只需要按照流程配置环境，修改相关代码编译即可，作者开源了四种部署方式的代码，但是没有libtorch，libtorch作为pytorch的C++版本，同样拥有非常高效的部署效率，使用起来也相对来说比较容易，所以本文介绍了如何使用libtorch部署yolox。一、模型转换pytor

序言v5出来这么久，一直搜不到网上对Focus的理解，还想着白嫖一下结论，但是发现搜出来的都是一知半解，讲的全都是Focus做了什么，愣是没说为什么要这么做。没办法只好自己花点时间深入学习一下，本人也记录一下本人对Focus模块的一些理解，如果有理解错误的地方，还请评论区告知。一、Focus模块的原理Focus模块在v5中是图片进入backbone前，对图片进行切片操作，具体操作是在一张图片中每隔

序言基于opencv、numpy，实现了投影分割算法对文字识别前的预处理，能够准确分割出字符的具体位置，有助于提高模型准确率，使用numpy实现某些运算过程，程序耗时在毫秒级别，对于识别速度效率而言几乎无影响。一、使用场景搞过ocr的同学都知道，OCR通常可以分为两阶段：一、文字检测；二、文字识别。这两部分衔接起来，构成了OCR的识别任务。但是往往在这两个阶段的中间还可以加入一些处理，能够有助于提

问题描述将pytorch模型转tensorrt后运行推理结果正常，但是使用flask部署调用时出现如下报错，推理输出全部为0：[TensorRT] ERROR: ../rtSafe/cuda/caskConvolutionRunner.cpp (408) - Cask Error in checkCaskExecError<false>: 11 (Cask Convolution ex

序言这篇文章总结了训练好的pytorch模型转成tensorrt模型部署的几种方式，转换原理流程大致如下：导出网络定义以及相关权重；解析网络定义以及相关权重；根据显卡算子构造出最优执行计划；将执行计划序列化存储；反序列化执行计划；进行推理值得注意的是第三点，可以看到tensorrt转换出来的模型实际上是和硬件绑定的，也就是在部署的过程中，如果你的显卡和显卡相关驱动软件（cuda、cudnn）发生了

序言前段时间给我们运维同事的服务器上部署了一个ocr服务接口，模型使用的是nvidia 1650ti的显卡推理，速度非常可观，毫秒级别响应。但是最近运维又找到我，说服务器的显卡好像出了问题，我检查一看：好家伙，显卡居然烧了。这张显卡为公司服务了好几年，毕竟“陈年老卡”，上一任同事传下来的，不知道传了几代，如今也算圆寂了。好了，不瞎扯，说会正题，没了显卡，我这模型可咋整？现阶段只能用cpu推理了，但