引言

大语言模型（LLM）如GPT-4、Claude等展现了惊人的通用能力，但在垂直领域的专业任务上，直接使用预训练模型往往难以达到生产环境的要求。模型微调（Fine-tuning）成为连接通用AI能力与专业应用场景的关键桥梁。

本文将系统性地介绍大模型微调的完整技术流程，从数据准备、训练策略到部署优化，帮助开发者掌握将通用LLM转化为领域专家的核心技能。

一、为什么需要微调大模型

1.1 预训练模型的局限性

通用大语言模型虽然知识广博，但在以下场景表现不足：

领域知识缺失：医疗、法律、金融等专业领域的术语和知识在预训练数据中占比较低。

输出格式不统一：企业应用通常需要特定格式的输出（如JSON、XML），预训练模型难以稳定遵循。

安全合规要求：特定行业对内容生成有严格的合规要求，需要通过微调注入安全约束。

1.2 微调vs提示工程vsRAG

| 方案 | 适用场景 | 成本 | 效果上限 | 维护难度 | |------|----------|------|----------|----------| | 提示工程 | 简单任务、快速验证 | 低 | 中 | 低 | | RAG | 知识密集型、数据动态更新 | 中 | 中高 | 中 | | 微调 | 复杂推理、风格迁移、专业领域 | 高 | 高 | 高 |

核心原则：先用提示工程+RAG解决，只有确实需要时才进行微调。微调是"最后手段"而非"首选方案"。

二、微调前的关键决策

2.1 选择基座模型

选择微调基座模型需要考虑以下因素：

模型规模：

• 7B-13B：适合单卡微调，推理成本低，适合大多数垂直场景
• 30B-70B：能力更强，但需要多卡训练，推理成本较高
• 100B+：通常不建议微调，采用RAG+提示工程更合适

开源生态：

• Llama系列（Meta）：生态完善，社区支持强
• Qwen系列（阿里）：中文优化好，商业友好
• ChatGLM系列（智谱）：中文对话能力强
• Baichuan系列（百川）：中文知识丰富

2.2 确定微调策略

全参数微调（Full Fine-tuning）
├── 适用：数据充足、算力充沛、追求极致效果
├── 显存需求：模型参数x4（FP32）或x2（FP16）
└── 风险：灾难性遗忘（Catastrophic Forgetting）

参数高效微调（PEFT）
├── LoRA：低秩适配，训练参数量减少99%+
├── QLoRA：量化+LoRA，单卡微调大模型
├── Prefix Tuning：前缀调优，保持主干冻结
└── Prompt Tuning：软提示调优

三、数据准备：微调成功的关键

3.1 数据质量三要素

准确性（Accuracy）：标注数据必须正确无误。在领域微调中，一个错误样本的影响远大于通用预训练。

多样性（Diversity）：覆盖各种场景、各种难度、各种边缘情况。避免数据分布过于集中。

规模（Scale）：通常需要数千到数万条高质量样本。质量优先于数量，1000条优质样本 > 10000条噪声样本。

3.2 数据格式设计

标准的指令微调数据格式：

{
  "instruction": "请将以下中文医疗记录转换为结构化数据",
  "input": "患者张三，男，45岁，主诉头痛3天，伴恶心、呕吐。既往有高血压病史5年。",
  "output": "{...}"
}

3.3 数据增强策略

# 回译增强
def back_translation(text, src_lang='zh', mid_lang='en'):
    """通过中间语言回译生成变体"""
    translated = translate(text, src_lang, mid_lang)
    back_translated = translate(translated, mid_lang, src_lang)
    return back_translated

# 指令改写
def paraphrase_instruction(instruction):
    """使用LLM改写指令，保持语义不变"""
    prompt = f"请用不同的表达方式改写以下指令，保持语义不变：{instruction}"
    return llm.generate(prompt)

四、LoRA微调实操详解

4.1 环境准备

# 安装依赖
pip install transformers peft accelerate bitsandbytes

# 检查GPU
nvidia-smi

4.2 完整训练代码

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Trainer
from peft import LoraConfig, get_peft_model, TaskType
from datasets import Dataset

# 1. 加载模型和分词器
model_name = "Qwen/Qwen2-7B-Instruct"