logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

(三)ChatGLM-6B 的 DeepSpeed/P-Tuning v2微调

OK, 到这里发现以前的方法是可以继续使用的,只能说是暂时环境跟不上,单机跑不了,或者要研究一下他的参数了,后续找到更大的机器看看deepspeed并行调参效果。这个好像是ninja版本问题,查看版本命令不是这个,试过升级和降级都没用,所以只能手动干源码了。等待模型文件下载完毕后,下载其他的配置文件,把大的模型文件移动进去。如果看到这里你知道怎么搞,或者我说错了的,欢迎留言一起探讨下。相对上一篇文

文章图片
#nlp#pytorch
(二)ChatGLM-6B模型部署以及ptuning微调详细教程

ChatGLM-6B模型训练,ptuning微调,大语言模型,LLM

文章图片
#python#开发语言
(四)oobabooga加载Vicuna7b,vicuna13b,chatglm模型

Vicuna 的代码基于 Stanford Alpaca ,并额外支持多轮对话。备用:不用上述方法,其实可以安装几个依赖包解决,还没验证是不是这样可以解决。, 这一步回到最后让你选择下载模型,我们关掉这个窗口,手动下载,往下看。可以在启动的webui中切换不同模型,命令行效果如下图。GPTQ这种一般直接加载就可以使用了,不像前面那么麻烦。下载运行如下图,重点安装C++ CMake工具。不用输入域名

文章图片
#语言模型
YOLO8自定义检测实战

模型仓库参考在线文档,同样适用v8images要训练的图片数据都放在这里,train是要训练的数据,val是要验证的数据labels标注的数据放在这里测试数据新建dog.yaml, nc是对象的类别总数,会和names做校验的,不能写错。names就是种类的名称,这里我用了哈奇士和拉布拉多nc: 2复制到data目录,或者用生成detect目标检测,train 训练model yolov8n yo

文章图片
#python#pytorch#深度学习
(一)linux下部署sdwebui,安装模型和插件

将模型放入“stable-diffusion-webui\extensions\sd-webui-controlnet\models”中。最好是python 3.10以上,和使用canda,本教程是3.10和venv部署,一样可以使用,不过好像是有限制的,目前还没遇到有什么功能体验不了。模板,理论上模型和参数都一样的情况下,出图是一模一样的,随机图片可以设置seed(批量出一个prompt的图)为

到底了