大模型相关知识点速查
·
1. 定义
大模型输出答非所问、无中生有、事实性错误、逻辑错误等。主要分为2类：事实性幻觉（事实错误、无中生有）、忠实性幻觉（不遵循指令 / 上下文）。
2. 产生原因
预训练阶段：数据噪音、领域知识稀疏、事实性验证能力缺失
有监督训练阶段：标注错误、领域过拟合
RLHF对齐：人类偏好与真实性相悖
推理部署：Token级生成无法修正早期错误（自回归生成带来的误差累计）、随机采样导致风险增加（高概率 ≠ 正确）
3. 解决办法
①提升指令质量，如增加强约束、规范格式化、补充思考步骤 / badcase等。
②提高数据质量、通过sft、rlhf等微调，让模型学习正确知识。
③检索增强生成RAG，通过外部知识库（数据库/文档）提供实时依据。
④增加后验功能，如对模型输出，做信息抽取、信息验证（知识库比对（冲突检测）、外部验证（无依据检测））、结构化总结。
持续更新
更多推荐
0
0- 0
已为社区贡献3条内容
所有评论(0)