logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

(五)造自己的轮子:LLaMA-Factory微调一条龙

本文介绍了如何使用单张显卡(如RTX 3060)微调7B大模型的全流程,重点包括: 微调原理:利用预训练基座模型,通过LoRA/QLoRA技术仅更新少量参数,使模型适配特定任务,大幅降低计算需求。 硬件要求:最低RTX 3060(12GB显存)可QLoRA微调7B模型,推荐RTX 4090(16GB+)获得更好效果。

文章图片
#语言模型#程序人生
(零)先磨刀:30分钟搭好你的AI学习环境

30分钟搭好AI学习环境:装Python 3.11+ → 装Ollama跑通qwen2.5:7b模型 → 克隆d2l-zh教科书 → 配好VS Code插件。三件事做完,你就有了一套可用的AI学习基础设施。

文章图片
#python#github
到底了