本文档基于模型微调实操内容整理，核心完成模型微调后的数据确认、模型在线体验、GGUF格式导出本地全流程操作，实操工具主要为Llama Factory、Llama CPP，本次微调模型为1.5B/3B低参数模型（仅作流程体验，无实际强功能），所有操作步骤均为实操落地版，包含问题排查、指令操作、常见错误解决等关键内容。

一、微调结果确认与训练异常问题排查

本次月落满城模型已完成第三次微调成功，此环节核心排查学员训练过程中出现的“疑似报错、卡顿、未完成”等问题，区分真实报错和正常训练过程。

1.1 训练异常反馈方式

训练未成功、出现报错或卡顿的，可通过指定渠道反馈（直播中为评论区打2），并提供完整报错日志截图（仅截部分内容无法排查）。

1.2 核心排查步骤

1. 检查日志完整性：截图需包含日志最底部内容，或切换至训练指定标签页查看完整日志，仅截中间部分无法判断是否报错；

1. 查看训练轮数：若训练已进行600+轮，理论上无报错，大概率是页面未刷新，刷新页面即可；

1. 确认训练数据量：禁止将9万条数据全部导入训练，若导入全量数据会导致训练时间大幅延长，并非报错，只是训练未完成；

1. 排除外部因素：电脑息屏不影响模型训练，无需因息屏担心训练中断；

1. 判断训练状态：若进度条未动，先确认是否开始训练时间较晚，此类情况只需等待即可，并非训练卡顿。

1.3 真实报错判断标准

只有错误终端出现明确报错提示，才算真实训练报错；若仅显示训练中、进度条未动，无任何报错提示，均为正常训练过程，无需处理，等待即可。

二、微调后模型的在线体验与测试

核心完成微调模型的在线加载、实际对话/文案生成测试，验证微调效果，步骤清晰可落地，零基础可直接跟着操作。

2.1 前期准备

确认自己的模型训练已完成，训练完成后会自动生成检查点（checkpoint），检查点是模型训练轮次的保存标记，无检查点则无法进行后续体验。

2.2 模型加载具体步骤

1. 切换标签页：从训练的train标签页，切换至chat标签页；

1. 选择检查点路径：点击检查点路径，选择列表中train_2026xxx（训练开始时间） 开头的检查点（训练完成后自动生成，无此选项则说明训练未完成）；

1. 保留默认设置：推理引擎、额外参数等所有配置均无需修改；

1. 加载模型：点击加载模型，页面会出现读条，读条完成后显示模型已加载成功，即可开始测试（若显示“模型已存在”，为正常现象，因模型已被加载过）。

2.3 模型在线测试（文案生成）

本次测试为关键词生成文案，适配电商类文案创作，步骤如下：

1. 角色与提示词设置：选择user用户角色，系统提示词可填可不填；若要填，可将训练语料中的instruction内容复制粘贴至系统提示词；

1. 输入测试关键词：可从淘宝等平台复制电商关键词（如“妙控鼠标超值特惠 触控板 手托”），直接粘贴至输入框；

1. 提交测试：点击提交，模型会自动生成对应文案；

2.4 测试中常见问题解决

1. 模型崩溃/循环逗号：因本次使用1.5B低参数模型，若手动给关键词加逗号，会导致模型陷入局部最优解，出现崩溃/循环逗号，解决方法：删除手动添加的逗号，直接粘贴原始关键词即可；

1. 微调效果感知不明显：本次训练语料质量一般、数量不足，且模型参数低，属于正常现象；若使用自身专属的特殊属性微调语料，微调效果会有明显差异。

2.5 微调效果判断标准

通过损失函数判断训练是否有效：只要损失函数持续往下走，即使后期趋于平滑，也说明训练无问题；若想让效果更好，可增加训练轮数（如现有960轮基础上再增加1000轮，拟合效果会更佳）。

三、微调模型导出为GGUF格式（本地可运行）

核心将云端微调后的模型，导出为本地可运行的GGUF格式，此环节为实操重点，包含终端操作、虚拟环境创建、依赖安装、格式转换等，所有指令均为实操版，零基础直接复制粘贴即可。

3.1 核心说明

1. 微调后的模型文件保存在Llama Factory文件夹中，原始文件无法直接本地使用，需转换为GGUF格式；

1. 未训练完成的模型禁止下载/导出，导出后为无效文件；

1. 所有操作均在新终端中进行，禁止在训练终端操作，避免冲突。

3.2 步骤1：新开终端并进入Llama Factory文件夹

1. 打开训练工具，点击加号新开一个终端窗口；

1. 在新终端中输入指令cd 到Llama Factory文件夹路径，回车进入文件夹（直接复制粘贴实操指令即可，无需手动输入）。

3.3 步骤2：创建并激活独立虚拟环境

为避免依赖冲突，本次创建专属GGUF虚拟环境，不使用训练的原有环境，步骤如下：

1. 输入创建GGUF虚拟环境的指令（直播中会将指令发至群内，零基础直接复制粘贴），回车执行；

1. 虚拟环境创建完成后，输入激活指令：source 虚拟环境路径/activate，回车激活（激活成功即进入GGUF专属环境，后续所有操作均在此环境中进行）；

注意：若担心新环境创建问题，也可使用原有训练虚拟环境，无需重复创建。

3.4 步骤3：下载Llama CPP开源项目并安装依赖

Llama CPP是专门处理模型格式转换的工具，需先下载并安装对应依赖，步骤如下：

1. 在激活的GGUF虚拟环境中，输入下载指令，回车下载Llama CPP项目（项目文件较大，需等待下载完成，网速一致情况下下载时间相近）；

1. 下载完成后，输入依赖安装指令：pip install -e .（指令后带英文点号，为可编辑模式安装，实时同步代码修改，无需重新安装），回车安装；

1. 若安装过程中出现依赖缺失，直接输入缺失依赖的安装指令，单独安装即可（如直播中缺失open API传输包，单独安装对应包即可）。

3.5 步骤4：创建输出文件夹并复制路径

为统一管理导出的模型文件，需先创建专属输出文件夹，步骤如下：

1. 在Llama Factory文件夹中，创建名为output的文件夹（用于存放导出的原始模型文件）；

1. 右键点击output文件夹，选择copy path复制完整文件路径，备用（后续导出需粘贴此路径）。

3.6 步骤5：模型原始文件导出

1. 在工具中找到export导出按钮，点击进入导出设置；

1. 粘贴上述复制的output文件夹路径至导出文件路径栏，其余设置均默认；

1. 点击导出，工具开始导出模型原始文件，导出完成后output文件夹中会出现对应的模型文件，无需检查文件大小，导出成功即可。

3.7 步骤6：GGUF格式转换（核心操作）

将output文件夹中的原始模型文件，转换为GGUF格式，为本地可运行版本，步骤如下：

1. 回到终端，输入CD指令进入Llama CPP的gguf-py路径下：cd llama.cpp/gguf-py；

1. 若未安装此路径下的依赖，重新输入pip install -e .安装依赖；

1. 输入格式转换核心指令，并做2处关键修改（零基础直接改后复制粘贴）：

• 路径修改：将指令中的模型输入路径改为自己的output文件夹路径，输出路径自定义（建议创建merge_model文件夹存放GGUF文件）；

• 量化设置：本次不量化，将指令中的量化参数改为F16（量化会压缩模型，可能导致效果下降，F16为不量化格式，3B模型不量化文件会较大，本地运行需注意电脑配置）；

1. 回车执行指令，终端开始进行格式转换，转换过程中会显示写入文件、压缩处理等提示，转换完成后输出路径中会出现GGUF格式模型文件。

3.8 步骤7：GGUF文件验证与重命名

1. 格式转换完成后，检查输出路径中的GGUF文件，若文件无后缀.GGUF，手动添加后缀即可（直接重命名，如model.gguf）；

1. 双击文件，若能正常识别，说明格式转换成功，即可本地运行；若无法识别，重新执行格式转换指令，检查路径是否正确。

四、实操中常见问题与解决方案

整理直播中出现的所有高频问题，包含解决方案，零基础可直接对应排查，是本次实操的重点避坑内容。

常见问题	核心原因	解决方案
检查点路径找不到/无检查点	模型训练未完成；训练后未刷新页面	1. 确认训练完成（损失函数持续下降，无报错）；2. 刷新页面后重新查看
操作时提示请选择适配器	误点其他功能标签/进行了无关操作	回到chat标签页，检查是否误触其他功能，关闭无关页面后重新操作
依赖安装卡顿/失败/重复安装	网络问题；虚拟环境冲突；指令错误	1. 检查网络，加速后重新安装；2. 关闭终端重新打开，激活正确虚拟环境；3. 指令复制时确保无缺失（如pip install -e .的点号）
格式转换时提示路径错误	直接复制他人路径；未创建对应文件夹；路径拼写错误	1. 禁止复制他人路径，使用自己的文件完整路径；2. 按要求创建output/merge_model文件夹，确保路径存在；3. 检查路径是否有中文/特殊符号，全部改为英文
GGUF模型文件过大（如3B模型7.5G）	3B模型未量化，使用F16不量化格式	若本地电脑配置低，将格式转换指令中的F16改为量化参数（如Q8），重新转换即可压缩文件
训练长时间未完成，进度条不动	导入了9万条全量数据；开始训练时间较晚	1. 重新训练，禁止导入全量数据；2. 若开始训练晚，直接等待即可，并非卡顿
模型加载后测试崩溃/无响应	1.5B低参数模型；手动给关键词加逗号	1. 更换3B模型（模型越大效果越好）；2. 删除关键词中的手动逗号，直接粘贴原始内容
格式转换后文件无法本地运行	未添加.GGUF后缀；格式转换指令错误	1. 手动给文件添加.GGUF后缀；2. 检查指令中的量化参数、路径，重新执行转换

五、零基础实操关键注意事项

1. 本次1.5B/3B模型仅作流程体验，无实际强功能，后续实际微调需使用更高参数模型+专属高质量语料；

1. 所有终端指令直接复制粘贴，禁止手动输入，避免拼写错误（尤其是路径、参数、英文符号）；

1. 虚拟环境无需重复创建，一个环境可多次使用，若出现冲突，再创建新环境即可；

1. 操作中所有文件夹/文件名全部使用英文，禁止使用中文、特殊符号，否则会出现路径错误；

1. 模型训练/导出/格式转换均为耗时操作，需耐心等待，禁止中途关闭终端/工具；

1. 若终端卡住不动，直接关闭终端重新打开，激活虚拟环境后重新执行指令即可，无需从头操作。

六、后续学习与额外知识点

1. 新功能上线：coze平台将上线skills功能，可实现“生成图片+发小红书”等自动化操作，会有专属直播带学，可重点关注；

1. 技术学习建议：产品经理需掌握基础终端/模型操作，新的行业机会均从终端实操中产生，等封装成可视化工具后，机会已大幅减少；

1. 答疑方式：实操中遇到的问题，可通过指定渠道上麦/文字答疑，针对性解决。