logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Apple M4 Pro 芯片上的 LLM LoRA 微调生产实践

本文档记录了在 Apple Silicon M4 Pro 芯片上,使用 PyTorch MPS 后端和 PEFT (LoRA) 技术,对 Mistral-7B-Instruct-v0.2 模型进行指令微调的完整生产实践流程。

#自然语言处理#人工智能
Apple M4 Pro 芯片上的 LLM LoRA 微调生产实践

本文档记录了在 Apple Silicon M4 Pro 芯片上,使用 PyTorch MPS 后端和 PEFT (LoRA) 技术,对 Mistral-7B-Instruct-v0.2 模型进行指令微调的完整生产实践流程。

#自然语言处理#人工智能
Centos桌面模式和命令行模式切换

完成上述步骤后,CentOS虚拟机将在重启后直接进入命令行模式。如果是图形模式,通常会显示graphical.target。如果你想临时进入图形界面,可以在命令行模式中输入。

文章图片
#centos#linux#运维
解决vagrant up出现的错误:vagrant@127.0.0.1: Permission denied (publickey,gssapi-keyex,gssapi-with-mic).

在win10下通过Vagrant安装并启动一个Linux虚拟机后,当使用vagrant up时遇到权限问题:这个问题是由于win10当前用户无权限访问私钥文件,解决方案如下:找到执行vagrant init的文件夹,然后进入目录.vagrant\machines\default\virtualbox:此时,选中private_key文件,右键-属性-安全-高级:此时,权限条目列表里大概率是看不到w

文章图片
#vagrant#linux
到底了