一个真实的生产问题去年底，我接了一个内部知识库的需求：把散落在飞书文档、Confluence 和 GitBook 里的 10 万篇技术文档做成一个问答机器人。第一版方案很“标准”——文档切片后用 OpenAI Embedding 生成向量，存到 Elasticsearch 的 dense_vector 字段里，用 kNN 检索。上线第一周就崩了。单次检索平均耗时 1.8 秒，高峰期超过 4 秒。

一、先说一个真实场景去年底我接手了一个内部项目：公司有 3000+ 份产品文档、FAQ、历史工单，客服团队每天要花 40 分钟以上翻资料回答用户问题。业务方一开始想的是"接个 ChatGPT 不就行了"。我们试了一周，直接翻车：把 200 页 PDF 直接塞进 prompt，token 爆了，一次问答成本 0.3 美元；模型开始编造产品参数，客服照着答，被客户投诉；同一个问题问两次，答案不一样，业