大模型RAG系统优化：多库召回问题与解决方案，值得收藏

文章讨论了RAG系统中多库召回时出现的不相关数据干扰问题。作者分析了原因包括数据处理质量不佳、文档逻辑隔离不彻底及阈值设置不合理。提出解决方案：采用两次召回策略，第一次高阈值召回最相关数据，然后在相关数据所在库中进行第二次低阈值召回，从而减少无关文档干扰。强调RAG系统召回质量直接影响大模型表现，需要通过持续实践优化才能达到理想效果。

模型优化师

1011人浏览 · 2025-09-30 11:27:10

模型优化师 · 2025-09-30 11:27:10 发布

前言

“ 要想做好一个RAG系统，需要在实践中不断地优化和调整，很难做到一蹴而就。”

昨天遇到了一个小问题，就是在数据召回的时候有部分应该召回的数据但没有显示出来；所以不确定到底是因为数据本身没有被召回，还是被召回之后由于某种原因被过滤掉了。

因此，今天就查了一下这个问题产生的原因，然后就发现了一些问题；目前系统中，不同的数据是分在多个不同的向量库中，然后在召回的时候发现每个库中都可以召回数据，但理论上来说跟问题无关的库中应该找不到数据才对。

所以，就需要思考为什么会产生这种问题，这种现象说明了什么？

多库召回问题

抛开标量召回(传统的字符匹配方式)方式，在相似度召回过程中，是通过把问题向量化，然后通过向量计算的方式匹配更近似的数据，虽然向量计算的算法不同，但本质上是一样的。

所以，再回到今天这个问题，在使用相似度召回时，虽然不同库中的数据不一样；从理论上来说，在相似度计算时，其它库中的计算结果应该是与问题无关的。

但这里有个问题就是，一是可能由于我们前期文档处理的质量不好，导致进行相似度计算时出现一定的偏差，因为目前相似度召回的阈值设置的就比较低；第二个可能的原因就是，其它文档中也有与问题相关的内容，导致其数据被召回，这个产生的原因就是业务需求和设计有问题，导致文档无法完全做到逻辑隔离。

但既然问题已经产生了，那么就需要找到一个解决方案，面对这样的问题应该怎么处理？

我们都知道，相似度召回是RAG中非常重要的一个技术手段；但单纯的相似度召回很难达到我们要求的文档质量，因此一般情况下在相似度召回之后还需要对召回的文档进行rerank重排序，目的就是过滤掉其中相关性不高的文档。

因此，作者遇到这个问题之后就是采用先召回，后重排过滤的方式来剔除其它无关库中的数据；但由于不好控制阈值，因此还是有部分其它库中的数据被保留了下来。

所以，这里就有了一个难点也是问题点，怎么完全过滤掉无关文档的影响？

如果仅仅只是通过提高阈值的方式，会导致部门正确的文档被过滤掉，导致文档不足，影响结果；而阈值太低就无法完全避免以上问题。

所以，遇到这种问题完全通过技术手段好像很难实现；因此，我们只能换个思路从结构来解决这问题，虽然说这并不一定是一个好的解决方案。

简单来说就是，通过两次召回和排序的方式来解决这个问题；第一次使用高阈值对数据进行召回和重排序，找到其中最相关的几条数据。然后，再拿到这几条数据所在库表，之后再在这个库表中再次召回，而第二次召回的阈值相对可以放得低一点；这样通过两次召回的方式，就能尽量避免以上问题的发生，虽然说还无法完全避免。

总之，在RAG中文档召回的质量直接响应到大模型的表现；但影响召回率和准确率的原因又有很多，因此我们只能在具体的实践过程中对系统进行不断的调整和优化才可能达到我们想要的效果。

最后

为什么要学AI大模型

当下，⼈⼯智能市场迎来了爆发期，并逐渐进⼊以⼈⼯通⽤智能（AGI）为主导的新时代。企业纷纷官宣“ AI+ ”战略，为新兴技术⼈才创造丰富的就业机会，⼈才缺⼝将达 400 万！

DeepSeek问世以来，生成式AI和大模型技术爆发式增长，让很多岗位重新成了炙手可热的新星，岗位薪资远超很多后端岗位，在程序员中稳居前列。

在这里插入图片描述

与此同时AI与各行各业深度融合，飞速发展，成为炙手可热的新风口，企业非常需要了解AI、懂AI、会用AI的员工，纷纷开出高薪招聘AI大模型相关岗位。
在这里插入图片描述
最近很多程序员朋友都已经学习或者准备学习 AI 大模型，后台也经常会有小伙伴咨询学习路线和学习资料，我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料，这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。