LLaMA-Factory

如何高效地微调和部署大型语言模型（LLM）？ LLaMA-Factory作为一个开源的微调框架，应运而生，为开发者提供了一个简便、高效的工具，以便在现有的预训练模型基础上，快速适应特定任务需求，提升模型表现。LLaMA-Factory作为一个功能强大且高效的大模型微调框架，通过其用户友好的界面和丰富的功能特性，为开发者提供了极大的便利。**

LLaMA-Factory

一、LLaMA-Factory

什么是LLaMA-Factory？LLaMA-Factory，全称Large Language Model Factory，即大型语言模型工厂。它支持多种预训练模型和微调算法，提供了一套完整的工具和接口，使得用户能够轻松地对预训练的模型进行定制化的训练和调整**，以适应特定的应用场景，如智能客服、语音识别、机器翻译等。**

LLaMA-Factory

1. 支持的模型：LLaMA-Factory支持多种大型语言模型，包括但不限于LLaMA、BLOOM、Mistral、Baichuan、Qwen、ChatGLM等。

2. 集成方法：包括（增量）预训练、指令监督微调、奖励模型训练、PPO训练、DPO训练和ORPO训练等多种方法。

3. 运算精度与优化算法：提供32比特全参数微调、16比特冻结微调、16比特LoRA微调和基于AQLM/AWQ/GPTQ/LLM.int8的2/4/8比特QLoRA微调等多种精度选择，以及GaLore、DoRA、LongLoRA、LLaMA Pro、LoRA+、LoftQ和Agent微调等先进算法。

LLaMA-Factory

LLaMA-Factory提供了简洁明了的操作界面和丰富的文档支持，使得用户能够轻松上手并快速实现模型的微调与优化。 用户可以根据自己的需求选择不同的模型、算法和精度进行微调，以获得最佳的训练效果。

LLaMA-Factory

二、模型微调（Fine-Tuning）

如何使用LLaMA-Factory进行模型微调？使用LLaMA-Factory进行模型微调是一个涵盖从选择模型、数据加载、参数配置到训练、评估优化直至部署应用****的全面且高效的流程。

1. 选择模型：** 根据应用场景和需求选择合适的预训练模型。**

• 设置语言： 进入WebUI后，可以切换到中文（zh）。

• 配置模型： 选择LLaMA3-8B-Chat模型。

• 配置微调方法：微调方法则保持默认值lora，使用LoRA轻量化微调方法能极大程度地节约显存。

2. 加载数据：将准备好的数据集加载到LLaMA-Factory中。

• LLaMA-Factory项目内置了丰富的数据集，放在了data目录下。同时也可以自己准备自定义数据集，将数据处理为框架特定的格式，放到指定的data目录下。

3. 配置参数：根据实际情况调整学习率、批次大小等训练参数。

• 学习率+梯度累积： 设置学习率为1e-4，梯度累积为2，有利于模型拟合。

• 计算类型： 如果是NVIDIA V100显卡，计算类型保持为fp16；如果使用了AMD A10系列显卡，可以更改计算类型为bf16。

• LoRA参数设置： 设置LoRA+学习率比例为16，LoRA+被证明是比LoRA学习效果更好的算法。在LoRA作用模块中填写all，即将LoRA层挂载到模型的所有线性层上，提高拟合效果。

4. 开始训练：启动训练过程，并监控模型的训练进度和性能表现。

1. 输出目录：将输出目录修改为train_llama3，训练后的LoRA权重将会保存在此目录中。

2. 预览命令： 点击「预览命令」可展示所有已配置的参数，如果想通过代码运行微调，可以复制这段命令，在命令行运行。

3. 开始： 点击「开始」启动模型微调。

• 训练完毕： 启动微调后需要等待一段时间，待模型下载完毕后可在界面观察到训练进度和损失曲线。模型微调大约需要20分钟，显示“训练完毕”代表微调成功。

5. 评估与优化：** 使用LLaMA-Factory提供的评估工具对模型性能进行评估，并根据评估结果进行针对性的优化。 **

• 刷新适配器： 微调完成后，点击页面顶部的「刷新适配器」

• 适配器路径： 点击适配器路径，即可弹出刚刚训练完成的LoRA权重，点击选择下拉列表中的train_llama3选项，在模型启动时即可加载微调结果。

• 评估模型： 选择「Evaluate&Predict」栏，在数据集下拉列表中选择「eval」（验证集）评估模型。

• 输出目录： 更改输出目录为eval_llama3，模型评估结果将会保存在该目录中。

• 开始评估： 最后点击开始按钮启动模型评估。

• 评估分数： 模型评估大约需要5分钟左右，评估完成后会在界面上显示验证集的分数。

• ROUGE分数： 其中ROUGE分数衡量了模型输出答案（predict）和验证集中标准答案（label）的相似度，ROUGE分数越高代表模型学习得更好。

6. 部署应用：** 将训练好的模型部署到实际应用场景中，实现其功能和价值。**

• 加载模型： 选择「Chat」栏，确保适配器路径是train_llama3，点击「加载模型」即可在Web UI中和微调模型进行对话。

• 卸载模型： 点击「卸载模型」，点击“×”号取消适配器路径，再次点击「加载模型」，即可与微调前的原始模型聊天。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓