logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLaMa-Factory第二弹!使用LLaMa-Factory微调llama3中文模之bitsandbytes报错CUDA SETUP: CUDA detection failed! 问题大解决!!

实在没办法了,用了一个比较笨的办法。找到文件“/home/user (自己位置)/anaconda3/envs/环境名字/lib/python3.11/site-packages/bitsandbytes/cuda_setup/main.py”或者试一下其他版本也行,我最开始安装的是0.42.0,后面又试了0.39.0,0.43.0等等版本,后面发现0.45.0版本是可以的。这里遇到一个问题,点击

文章图片
LLaMa-Factory部署及llamafactory-cli webui命令无法打开ui界面问题解决记录

最近想学习一下大模型微调,记录一下llama-factory的部署过程及遇到的一些问题。

文章图片
#python
LLaMa-Factory第二弹!使用LLaMa-Factory微调llama3中文模之bitsandbytes报错CUDA SETUP: CUDA detection failed! 问题大解决!!

实在没办法了,用了一个比较笨的办法。找到文件“/home/user (自己位置)/anaconda3/envs/环境名字/lib/python3.11/site-packages/bitsandbytes/cuda_setup/main.py”或者试一下其他版本也行,我最开始安装的是0.42.0,后面又试了0.39.0,0.43.0等等版本,后面发现0.45.0版本是可以的。这里遇到一个问题,点击

文章图片
LLaMa-Factory第二弹!使用LLaMa-Factory微调llama3中文模之bitsandbytes报错CUDA SETUP: CUDA detection failed! 问题大解决!!

实在没办法了,用了一个比较笨的办法。找到文件“/home/user (自己位置)/anaconda3/envs/环境名字/lib/python3.11/site-packages/bitsandbytes/cuda_setup/main.py”或者试一下其他版本也行,我最开始安装的是0.42.0,后面又试了0.39.0,0.43.0等等版本,后面发现0.45.0版本是可以的。这里遇到一个问题,点击

文章图片
到底了