普通用户使用AI的常用方式是使用AIGC产品,比如LLM大模型产品ChatGPT、Gemini、通义千问、豆包等。企业应用一般是使用开源大模型训练或微调自己的模型,又称为定制化大模型,这是当前AI落地的主要路径。企业定制化大模型的核心方法是微调,Fine-Tuning,微调技术包括:

  • 不训练,直接业务 Prompt 微调。该方法部署快,成本低,精度大概70%左右,缺点是无法深度理解业务内容,风格不够稳定。适合MVP或中小企业。
  • LoRA / QLoRA 微调,低秩适配。该方法最常用,绝大多数企业微调定制化LLM的首选。做法是准备自有数据如讲稿、教材、教学示范文本,训练 LoRA / QLoRA 适配器。建议8B 模型 LoRA 微调用消费级 GPU 1–2 个卡;70B 模型 QLoRA 微调用A100 2–4 个卡。该方法训练少量的适配器参数,即可获得接近全量微调的效果,大幅减少GPU内存占用。
  • SFT,监督式微调。使用指令数据集,直接让模型遵循指令输出目标格式。学习特定格式,如“三段式演讲稿”、“提纲式教材”。
  • RLHF/DPO,人类反馈强化学习/直接偏好优化。进一步提升模型输出的质量和对齐人类偏好,如教学的语气、专业性、趣味性。在SFT完成后,作为效果进阶的手段。

微调选用的大模型有文本大模型Qwen2 系列(通义千问)、LLaMA3 系列(Meta)、GLM4(智谱)、Yi 系列(零一万物)、Phi-3(微软)等,也有图像生成模型Stable Diffusion XL / SD3、Flux (Black Forest Lab)、OpenDalle / PixArt-α等,语音生成模型CosyVoice(阿里)、ChatTTS、MeloTTS / Bark等。

更多推荐