AI幻觉现象解析

AI幻觉（Hallucination）指模型生成与输入无关或事实错误的输出，根本原因包括：

1. 自回归生成缺陷（Autoregressive Generation）：逐token预测时错误累积，类似传话游戏
2. 训练数据偏差（Training Data Bias）：预训练语料包含矛盾/过期信息
3. 概率抽样风险：top-p/top-k采样可能放大低概率错误

解决方案对比

| 方法 | 准确率 | QPS | 成本 | 适用场景 | |-------------------|--------|-------|---------|------------------------| | 纯Prompt工程 | 低 | 高 | 低 | 简单事实查询 | | Fine-tuning | 中 | 中 | 高 | 领域术语标准化 | | RAG | 高 | 中 | 中 | 需要外部知识的复杂任务 |

RAG实战演示（LlamaIndex）

文档处理

from llama_index import VectorStoreIndex, SimpleDirectoryReader
from llama_index.node_parser import SimpleNodeParser

# 分块策略（最佳实践：512-1024 tokens）
parser = SimpleNodeParser(chunk_size=512)
documents = SimpleDirectoryReader('data/').load_data()
nodes = parser.get_nodes_from_documents(documents)

# 向量化
index = VectorStoreIndex(nodes, embed_model="text-embedding-3-small")

混合检索

from llama_index.retrievers import BM25Retriever, VectorIndexRetriever
from llama_index import QueryBundle

# 双检索器
vector_retriever = VectorIndexRetriever(index=index, similarity_top_k=3)
bm25_retriever = BM25Retriever.from_defaults(nodes=nodes, similarity_top_k=2)

# 混合得分
hybrid_retriever = HybridRetriever(vector_retriever, bm25_retriever)
results = hybrid_retriever.retrieve(QueryBundle("RAG工作原理"))

后处理校验

def hallucination_check(response, sources):
    # 检查无引用声明
    if not any(ref in response for ref in sources):
        return False
    # 检查矛盾陈述
    if "但是" in response and "然而" in response:
        return False
    return True

性能优化技巧

1. 向量量化：使用PQ(Product Quantization)压缩向量

   index.storage_context.persist(persist_dir="./storage", pq_bits=8)

2. 缓存设计：

3. 使用Redis缓存高频query的embedding

4. 布隆过滤器防止缓存穿透

5. 流式生成：

6. 设置streaming=True参数
7. 优先返回确定性强的内容

生产环境Checklist

• 版本控制：
• 知识库版本哈希值记录

• 灰度更新AB测试

• 敏感过滤：

• 正则表达式匹配身份证/手机号

• Azure Content Safety API

• 幻觉阈值：

• 设置最低引用片段数量（建议≥2）
• 置信度得分<0.7时触发复核

开放性问题

当检索结果本身错误时，可考虑： 1. 多源交叉验证（如调用搜索引擎API） 2. 矛盾检测算法（基于逻辑规则） 3. 人工反馈闭环（标注错误结果更新检索器）

实际项目中，我们发现RAG+Fine-tuning组合方案能降低37%的幻觉率。关键是要持续监控并建立错误案例库，这比单纯调参更有效。