logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

#05【chatglm】lora微调几条数据,硬是重复输出几分钟?那里问题?-已解决

还有同学是几年前的老爷机/笔记本,或者希望大幅提升部署/微调模型的速度,我们应用了动态技术框架,大幅提升其运算效率(约40%),节省显存资源(最低无显卡2g内存也能提升),工众后台:“加速框架”;调整上下文的长度可能会解决重复输出的问题,这是因为上下文的长度直接影响了模型对输入文本的理解和生成输出的方式。今天,在【NLP学习群】中,今天最后一个问题,还是选这位dylan同学的问题,因为他遇到的问题

文章图片
#python#人工智能#深度学习
#03 【chatglm】微调大模型的问题要放在哪个字段?四五个样本怎样让大模型记住?

今天,在【NLP学习群】中,一位同学一下问了2个问题,相信大家在微调时也会遇到这样的问题,自己问题应该放在instruction、input、output哪个字段,用什么格式去训练呢?还有同学是几年前的老爷机/笔记本,或者希望大幅提升部署/微调模型的速度,我们应用了动态技术框架,大幅提升其运算效率(约40%),节省显存资源(最低无显卡2g内存也能提升),工众后台:“加速框架”;如果你还不知道该怎么

文章图片
#人工智能#语言模型#nlp
到底了