logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

L2-InternVL 多模态模型部署微调实践

InternVL 是一种用于多模态任务的深度学习模型,旨在处理和理解多种类型的数据输入,如图像和文本。它结合了视觉和语言模型,能够执行复杂的跨模态任务,比如图文匹配、图像描述生成等。与 qlora 微调的一个很大区别在于内存占用,采用了量化策略的 qlora内存占用更低(memory:22947(qlora)-25286(lora));第二个区别是 lora 微调的情况下,loss会更低一点。两个

文章图片
#python#nlp
到底了