本文聊聊 LLama-Factory，它是一个开源框架，这里头可以找到一系列预制的组件和模板，让你不用从零开始，就能训练出自己的语言模型（微调）。不管是聊天机器人，还是文章生成器，甚至是问答系统，都能搞定。而且，LLama-Factory 还支持多种框架和数据集，这意味着你可以根据项目需求灵活选择，把精力集中在真正重要的事情上——创造价值。

使用LLama-Factory，常见的就是训练LoRA模型，增强模型在某方面的生成能力。本教程将以增强 GLM-4-9B-Chat 模型的脑筋急转弯能力为例，演示LoRA模型的微调方法。

环境准备

本地使用

LLama-Factory 的安装比较简单，大家直接看官网页面就够了：

github.com/hiyouga/LLa…

云镜像

如果你本地没有一张好显卡，也不想费劲的安装，就想马上开始训练。

可以试试我的云镜像，开箱即用：www.haoee.com/application…

平台注册就送一定额度，可以完成本教程的的演示示例。

镜像已经内置了几个基础模型，大都在6B-9B，单卡24G显存即可完成LoRA微调。

如果要微调更大的模型，则需要更多的显卡和显存，请在购买GPU时选择合适的显卡和数量。

已经内置的模型：Yi-1.5-9B-Chat、Qwen2-7B、meta-llama-3.1-8b-instruct、glm-4-9b-chat、chatglm3-6b

如果缺少你需要的模型，可以给我反馈。

假设你已经解决了程序运行环境问题，下边将开始讲解 LLama-Factory 的使用方法。

LLama-Factory 直接命令行和Web页面训练，为了方便入门，这篇文章以Web页面训练为例。

选择基础模型

语言：zh，因为我们要微调的是中文模型。

模型选择：GLM-4-9B-Chat

模型路径：/root/LLaMA-Factory/models/glm-4-9b-chat，默认会自动下载模型，不过速度可能比较慢，我们的镜像中已经下载好这个模型，所以直接填写路径更快。

微调方法：lora

准备训练数据集

LLaMA-Factory自带了一些常用的数据集，如果你使用的数据集不在里边，可以修改 data/dataset_info.json，在其中增加自己的数据集。

这里我使用的是一个弱智吧问答数据集，数据集的格式是 alpaca，来源：huggingface.co/datasets/Lo…

训练参数设置

训练参数需要根据实际训练效果进行调整，这里给出一个参考设置。

数据集：请根据你的需要选择，这里选择我上边定义的 ruozhiba_qa。

学习率：1e-4，设置的大点，有利于模型拟合。

计算类型：如果显卡较旧，建议计算类型选择fp16；如果显卡比较新，建议选择bf16。

梯度累计：2，有利于模型拟合。

LoRA+学习率比例：16，相比LoRA，LoRA+续写效果更好。

LoRA作用模块：all ， 表示将LoRA层挂载到模型的所有线性层上，提高拟合效果。

开始训练

点击“开始”按钮，可以在页面上看到训练进度和训练效果。

根据训练方法和训练数据的大小，训练需要的时间不定。

推理测试

在“检查点路径”这里加载刚刚训练的LoRA模型，然后切换到“Chat”页签，点击“加载模型”。

测试完毕后，记得点击“卸载模型”，因为模型占用显存比较大，不释放的话，再进行别的任务可能会出错。

对比训练前后的变化：

训练前：

训练后：

这是一个比较感性的测试，如果需要更为正式的效果评估，请使用“Evaluate & Predict” 选择合适的评测数据集进行评估。

合并导出模型

有时候我们需要把模型导出来放在别的地方使用，输出一个完整的模型文件，而不是基础模型+LoRA模型。

检查点路径：训练出来的LoRA模型

导出目录：设置一个服务器上的路径，新的模型会存放到这里。

最后点击“开始导出”就行了。导出完毕后，请前往服务器相关的路径中下载模型。

LLaMA-Factory 架构

最后送大家一张 LLaMA-Factory 的架构图，方便理解其原理。

图片左侧：显示了 LLaMA-Factory 的架构，分为四个主要部分：LlamaBoard、Trainer、Model Loader 和 Data Worker。

• LlamaBoard：用于参数配置和训练状态监视。
• Trainer：负责优化和训练方法的选择，如 LoRA+、GaLoRe、Pre-train、SFT 等。
• Model Loader：负责模型初始化、补丁、量化和适配器等功能。
• Data Worker：负责加载、对齐、预处理和合并训练数据。

图片右侧：列出了支持的流行语言模型和大小，以及支持的训练方法。

• 支持的语言模型和大小：LLaMA、LLaMA-2、LLaMA-3、Command-R、Mistral/Mixtral、OLMo、Phi-1.5/2、Qwen、DeepSeek (MoE)、Falcon、Gemma/CodeGemma 和 StarCoder2。
• 支持的训练方法：全量调整、冻结调整、LoRA、QLoRA、奖励建模、PPO 训练、DPO 训练、ORPO 训练。

---

总体上来说，LLama-Factory 的使用还是挺顺利的，没有太多的坑。

听不如见，见不如做，自己动手，才能真正有所感悟！

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型落地应用案例PPT👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓