logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

模型部署在docker中对外提供服务

本文实现了一个基于Flask的图像分类API服务,使用MobileNetV2模型进行图像识别。主要功能包括:1) 提供数值处理接口;2) 实现图片分类功能,返回Top3预测结果;3) 通过Docker容器化部署。项目结构包含Flask主程序、依赖文件和Docker配置,支持两种请求方式:处理数值数组(/predict)和图片分类(/classify)。测试表明,系统能正确识别公交车图像并返回概率分

文章图片
#docker#容器
docker-desktop安装测试DeepStream

摘要 本文介绍了在Windows系统下搭建DeepStream 8.0开发环境的详细步骤。通过Docker容器部署NVIDIA官方镜像,配置图形界面和SSH服务,并测试Python SDK的运行。重点包括:1) 容器创建与GPU支持配置;2) 图形界面安装;3) Python环境搭建与依赖安装;4) 运行测试样例验证环境。测试结果显示系统能正确识别视频中的车辆和行人目标,证实环境配置成功。该方案适

文章图片
#windows#docker
yolov5目标检测多线程C++部署

下面的代码搭建了简单的一个生产者-消费者模型,在capture()函数中进行入队操作,infer()函数中进行出队操作,为了模拟采图-推理流程,在函数中调用Sleep()函数延时。此时发现采图-推理流程不能同步。上面的程序还有一点小问题:视频播放完时程序无法正常退出。

文章图片
#目标检测#c++
yolo目标检测线程池高性能视频tensorrt推理(每秒1400帧)

本文介绍了基于TensorRT的YOLOv5目标检测推理框架实现。主要包括以下几个核心模块: 日志系统(Logger):实现了TensorRT的ILogger接口,提供不同级别的彩色日志输出功能 图像预处理(Preprocess): 实现了LetterBox函数,用于保持图像比例的同时进行缩放和填充 支持CPU和GPU两种预处理方式(通过USE_CUDA宏控制) YOLOv5推理框架: 封装了Te

文章图片
#目标检测#音视频
Jetson Thor测试 Qwen-VL

摘要:本文介绍了在Jetson Thor上搭建Qwen3-VL-2B-Instruct模型环境的详细步骤。主要包括:1)通过特定源安装PyTorch及相关库;2)解决常见依赖缺失问题(如libnvpl_lapack、libcublas等);3)提供完整的Python实现代码,展示如何加载多模态视觉语言模型Qwen3VL,并实现物体检测功能。代码包含图像预处理、模型推理、结果解析和可视化模块,特别处

文章图片
tensorrt-llm部署Qwen-VL

本文介绍了如何使用TensorRT-LLM加载Qwen2-VL-2B-Instruct多模态模型进行图像理解任务。主要内容包括:1) 搭建环境并下载模型;2) 编写测试代码加载图像和处理器;3) 构建包含视觉占位符的prompt;4) 设置生成参数进行推理。测试结果显示模型能正确识别图片内容,但过程中出现了PyTorch版本兼容性警告。代码修复了图像输入格式问题(需用列表包裹),最终成功输出了对测

#多模态
vllm部署Qwen-VL

本文介绍了使用vLLM框架部署Qwen2-VL-2B-Instruct模型的过程。通过运行vLLM serve命令启动服务,系统显示模型版本为0.19.0,采用torch.bfloat16数据类型,最大序列长度为32768。日志信息包含模型初始化配置、异步调度启用提示,以及图像处理器类型变更警告。输出还展示了引擎初始化参数,包括并行处理设置、量化选项和动态形状配置等详细信息。整个过程展示了如何使用

文章图片
#多模态
fastsam3d部署

摘要:本文提出将原始SAM3D中的SAM模型替换为FastSAM模型,构建FastSAM3D系统,并通过ONNXRuntime或TensorRT框架部署以提升推理速度。代码实现了基于FastSAM的图像分割、点云处理和3D重建流程,包括ONNX模型推理、深度图与彩色图对齐、点云坐标转换及分组处理等功能。该系统通过优化后的模型架构和部署方案,显著提高了3D场景理解任务的执行效率。

文章图片
yolo26目标检测尝鲜测试

摘要:本文介绍了如何配置Ultralytics YOLOv8.4.2环境并进行模型训练和推理。首先从GitHub下载官方代码,安装指定版本的PyTorch和依赖项。环境配置完成后,通过Python脚本加载预训练的YOLO26n模型,展示模型信息,并在COCO8数据集上进行100个epoch的训练。最后使用训练好的模型对示例图像"bus.jpg"进行目标检测推理并可视化结果。整个

文章图片
#目标检测#人工智能#计算机视觉
通用多相机多线程采图框架

本文实现了一个通用的相机采集框架,包含抽象基类BaseCamera和USB相机实现USBCamera。BaseCamera定义了相机初始化、图像采集、线程管理等通用接口,采用生产者-消费者模式,通过线程安全队列缓存图像数据。USBCamera继承BaseCamera,基于OpenCV实现具体功能,支持设置分辨率、帧率等参数。框架采用多线程设计,主线程通过get_frame()获取图像,采集线程持续

文章图片
    共 44 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择