logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

图像处理项目——基于机器视觉技术的条形码在线识别系统设计

基于机器视觉技术的条形码在线识别系统设计  本设计研究EAN13条形码识别的译码技术,在基于机器视觉技术上,构建了一套条形码在线检测识别系统,系统将由以下几个部分构成:条形码图像定位与采集、计算机图像预处理、条形码图像中值滤波去噪、条码解析与识读。经过实验,确定该系统可对绝大部分EAN13条形码进行快速并准确的识读。关键词:机器视觉;图像处理;条码识别;在线检测;EAN13条形码;Q...

基于web端和C++的两种深度学习模型部署方式

深度学习Author:louwillMachine Learning Lab 本文对深度学习两种模型部署方式进行总结和梳理。一种是基于web服务端的模型部署,一种是基...深度学习Author:louwillMachine Learning Lab本文对深度学习两种模型部署方式进行总结和梳理。一种是基于web服务端的模型部署,一种是基于C++软件集成的方式进行部署。基于web服务端的模型部署,主要

Jetson嵌入式系列模型部署-1

本文旨在为大家提供jetson嵌入式系列模型部署两个简单的技术路线,直白的说就是给大家安利两个仓库分别是tensorrtx和。本文采用常见的yolov5(v6.0版本)目标检测算法实现在jetson nano上的模型部署工作(PS:手头只有nano,太穷了,😂)。假设各位看官的jetson nano环境配置已经完成,能够使用yolov5成功训练自己的数据集。我们重点关注jetson nano上的

#深度学习#目标检测
快速掌握6大模型部署框架(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)

快速掌握6大模型部署框架(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)

#mnn#人工智能#深度学习
基于Jetson Nano嵌入式平台的YOLOV3-tiny模型部署

目前,人工智能算法可以部署在云端和终端。在终端上运行检测算法有很多优点,比如只传输有价值的信息,而不是原始的大容量视频,可以有效降低后端部署服务器的传输带宽和计算存储量,使系统的整体架构更具可移植性。在模型推理阶段,可以适当降低了模型参数的精度,加快模型推理的速度,对模型推理结果影响不大。TensorRT是NVIDIA公司推出的GIE(GPU Inference Engine)C++库,其主要目的

#深度学习
深度学习模型部署-triton

链接:https://www.zhihu.com/question/517971355/answer/2721126560老潘用triton有两年多了,一直想写个教程给大家。顺便自己学习学习,拖了又拖,趁着这次换版本的机会,终于有机会了写了。triton作为一个NVIDIA开源的商用级别的服务框架,个人认为很好用而且很稳定,API接口的变化也不大,我从2020年的20.06切换到2022年的22.

#深度学习#人工智能
超详细语义视觉SLAM综述

然而,vSLAM 无法在动态复杂的环境中实现良好的定位通过将语义信息与 vSLAM 相结合,语义 vSLAM具有解决上述问题的能力。然后,我们收集并分析了当前最先进的语义vSLAM系统Semantic vSLAM 不仅可以在建图过程中获取环境中的几何结构信息,还可以识别环境中的物体并获取语义信息,以适应复杂的环境,执行更智能的任务。与之前的纯几何vSLAM相比,新阶段的感知SLAM具有更鲁棒的性能

#人工智能
读懂 FastChat 大模型部署源码所需的异步编程基础

FastChat 是 2023 年非常知名的一个大语言模型项目,该项目不仅提供了大语言模型全量参数微调、Lora参数微调、模型推断、模型量化、模型部署及调度等全套的源代码,而且还开源了他们基于 LLaMA2 底座进行指令微调的一系列 Vicuna 模型权重,因此非常适合学习和使用。就 FastChat 模型部署部分而言,它分为三个部分:controller、worker、api_server。这三

文章图片
#python#fastapi#gunicorn
您现在可以在家训练 70b 语言模型

我们认为,如果我们可以使用 QLoRA 将模型的大小减少大约 400%(因此 70b 模型将适合 35GB RAM),然后我们使用 FSDP 将其分片到两个或更多 24GB 消费卡上,那么就剩下剩余足够的 RAM 来训练模型。项目,这是他发现的最完整的 FSDP 微调实现,并密切跟踪它如何与 BitsandBytes 以及 Hugging Face 的 PEFT、Transformers 和 Ac

文章图片
#语言模型#人工智能#AIGC
【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT

这个项目的 GUI 支持流式传输、无限对话、保存对话、预设 Prompt 集、联网搜索、根据文件回答、渲染 LaTeX、渲染表格、代码高亮、自动亮暗色切换、自适应界面等功能。进入访问界面之后默认是openai gpt-3.5-trubo 模型,填入你的openai api key,api key 的获取方法已经烂大街了,自行搜索即可,如果选其他语言模型也需要填写相应的key。然后我们进行访问,打开

文章图片
    共 426 条
  • 1
  • 2
  • 3
  • 43
  • 请选择