llama-factory进行模型微调
llama-factory全流程安装
·
想要使用llama-factory首先要有docker的wsl的ubutun虚拟环境,miniconda3的python运行环境,vscode软件等工具
一、Ubutun环境(要有docker的wsl)
打开PowerShell(右键以管理员身份运行)
运行以下命令:
wsl --install
如果报错可以尝试下面的方式进行解决,这个方式我解决了报错问题:
打开C:\Windows\System32\drivers\etc\hosts文件(以管理员身份运行记事本)。在文件末尾添加以下行并保存:
185.199.108.133 raw.githubusercontent.com
保存完成后,回到powershell继续执行命令:
wsl --install
二、下载llama-Factory
llama-factory下载地址
https://github.com/hiyouga/LLaMA-Factory
下载安装包到本地后,可以将其解压到任意目录

三、安装Conda
使用vscode,在llama-factory目录下,打开ubutun命令终端

依次输入下面的命令:
#安装miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
#运行安装脚本
bash Miniconda3-latest-Linux-x86_64.sh
#激活
source ~/.bashrc
#验证安装
conda --version
四、创建python运行环境
打开vscode,在ubutun终端下,通过之前安装的conda,设置python环境,你可以使用conda创建很多个运行环境
#其中llama是python环境的名字,python版本为3.10
conda create -n llama python=3.10
#激活创建的llama环境
conda activate llama
#查看已创建的环境
conda env list
#删除环境
conda remove -n llama --all
五、安装llama-factory
继续在创建的llama环境中安装,输入下面代码:
#安装llama-factory
pip install -e ".[torch,metrics]" -i https://pypi.tuna.tsinghua.edu.cn/simple
如果你是AMD显卡且支持rocm,可以尝试安装 llama-factory 的 rocm 版本:
pip install -e ".[rocm,metrics]"
安装成功后启动llama-factory:
llamafactory-cli webui

ctrl+左键,点击进入http://127.0.0.1:7860或者http://0.0.0.0:7860
更多推荐

所有评论(0)