logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Qwen2.5-VL-7B-Instruct大模型在Batch 推理时出现意外的addCriterion字符、并且输出莫名其妙被截断

本文记录了Qwen2.5-VL-7B-Instruct多模态模型在批量推理时出现异常输出的调试过程。当batch size>1时,输出会混入prompt片段及异常字符。经排查发现,问题根源在于transformers版本不兼容(4.52+版本存在bug)以及tokenizer默认右对齐导致生成错位。解决方案包括:1) 固定使用transformers 4.51.3版本;2) 设置tokeni

#batch#机器学习#人工智能
Qwen2.5-VL-7B-Instruct大模型在Batch 推理时出现意外的addCriterion字符、并且输出莫名其妙被截断

本文记录了Qwen2.5-VL-7B-Instruct多模态模型在批量推理时出现异常输出的调试过程。当batch size>1时,输出会混入prompt片段及异常字符。经排查发现,问题根源在于transformers版本不兼容(4.52+版本存在bug)以及tokenizer默认右对齐导致生成错位。解决方案包括:1) 固定使用transformers 4.51.3版本;2) 设置tokeni

#batch#机器学习#人工智能
使用flask框架写一个简单的图书馆管理系统的demo,数据库使用postgresql——简易版

在这篇博客中,我们学习了如何使用Python Flask和PostgreSQL实现基本的书籍库存管理系统。我们分别实现了展示所有书籍、删除书籍、添加书籍、借出书籍和归还书籍等功能的路由。在实现这些功能之前,我们首先创建了一个名为book的数据库并设计了一个包含书籍ID、书名、作者名和库存数量的book表。然后,我们实现了一个connect_db函数来连接到这个数据库。接下来,我们实现了展示所有书籍

文章图片
#数据库#flask#postgresql
哈尔滨理工大学自动化学院研究生复试C语言编程题

哈尔滨理工大学自动化学院研究生复试C语言编程题

文章图片
#c语言#自动化#c++
【kaggle】基于机器学习的文本分类任务(电影情感分析)

首先我们载入kaggle的数据集PhraseId为一个id,SentenceId为句子ID ,这里数据集,将一个句子分解开了,第一个为句子,后面的均是他的分解。然后我们只需要读入句子和情感标签即可。

文章图片
#机器学习#分类#人工智能
【爬虫】学习记录之Python 爬虫实战:爬取研招网招生信息详情

【简介】本篇博客为爱冲锋,爬取北京全部高校的全部招生信息,最后持久化存储为表格形式,可以用作筛选高校。

文章图片
#爬虫#学习#python
tt100k交通标识目标检测与分类

​根据github上的一个参考作为参考,以及的代码进行复现,选用完成检测与分类的任务。模型需要部署到开发板上,对推理速度有一定的要求,最后选用YoloFastestV2模型。

文章图片
#目标检测#分类#人工智能
到底了