今天来聊一聊GraphRAG(知识图谱的一种)。

在了解之前,我们先弄清楚两个问题。

● RAG 和 GraphRAG 有什么区别?

● 为什么要用 GraphRAG?

传统 RAG

传统 RAG(Retrieval-Augmented Generation)简单理解就是是对 LLM 的知识补充和增强。

LLM 再强也有它不知道的内容,所以 RAG 就是预先根据用户的问题从 向量库中检索到相关的内容再给到 LLM 作为 Prompt 总结答案。

流程如下:

query → 向量检索 → 召回 top-k 个 chunk → 拼 prompt → LLM 回答

传统 RAG 有一个明显的问题,任何问题它基本都能回答,但是答案不一定正确,也不一定标准!!!

RAG 依赖的向量库中的内容大多是基于文档 doc 分片 chunk 后,再通过 LLM 向量化到向量库中。

文档 doc 有一定的局限性,上下文本应该关联的内容向量后可能会分开存储在不同的 chunk 中,这就导致在进行 RAG 召回时,召回精确率低,还可能会召回大量不相关的内容。

总结两点:

1、top-k 是一个人为的硬参数阈值

● k 太小:漏召回(Recall 低)

● k 太大:噪音多、成本高,LLM 容易被无关信息带跑偏

2、语义相似 ≠ 真正相关

向量检索是找到跟用户 query 语义最相似的文档 chunk。

举个例子:一个文档 chunk 中可能存在 100-1000 个字,但是跟用户 query 语义相似的内容可能只有 10 个字。 其他内容都是无关信息,就会造成干扰。

另外,用户问题大多时候存在 多跳、 间接关联 的场景:

举个例子:

  • A -> B -> C(A 影响 B、B 影响 C,A 间接影响 C)
  • A 包含 D、E(D、E 是间接影响 C 的动作或内容)

用户问题如何提高 C,传统 RAG 通过语义向量检索只能检索到 C 内容,无法检索到 A 和 B,以及 D、E。 因为 chunk 之间缺少关联关系。

GraphRAG

GraphRAG(Graph Retrieval-Augmented Generation,图检索增强生成)是一种把“知识图谱”与“传统 RAG”结合起来的技术。

核心思路是:不再像传统 RAG 那样只拿 语义相似的 chunk 当参考资料,而是先把外部知识整理成一张“实体-关系图”,再按图结构去精准检索相关子图或路径,最后把图信息转成自然语言上下文喂给 LLM,让它生成答案。

简单理解:GraphRAG 就是点到点的一个知识关系结构。

如何建立图谱?

主要分为三步:

文档 → 提取 chunk → LLM 抽实体/关系 → 知识图谱

● 对每个文档 chunk 让 LLM 抽实体(指标、组织…)和关系(包含、衍生……)

● 合并成一个全局知识图谱:实体 = 节点,关系 = 边

● 每个实体/边都保存 自身来自哪些 chunk 的内容

如何进行图检索?

对用户问题进行分词解析,提取出其中的关键 实体 和 关系,对应到知识图谱中的节点,在图谱中沿着边进行 多跳遍历,尽可能搜集所有相关的节点和边,形成一个与用户 query 紧密相关的 子图这个时候就相当于有了图导航。

根据子图节点找到对应的 文档 chunk,剔除噪音并剔重,拼接成 Prompt 给到 LLM 总结生成答案。

总结:

● GraphRAG 图谱不会作为最终数据来源

● 每个实体/关系都要映射到具体的文档 chunk

● GraphRAG 是 RAG 的增强不是替代

GraphRAG 的代价 & 适用场景

GraphRAG 相对 RAG 在某些场景是具备一定的优势,但也有一定的缺点。

● 成本高,废 token,需要离线抽取实体,增加大量 token 消耗

● 更新复杂,如果文档变动,可能需要重构图结构(重新提取实体/关系)

试用场景:

● 传统 RAG 适合频繁更新的知识库(比如:公告、等)

● GraphRAG 更适合类似以说明书、公开技术文档等长周期低变动的内容

简单总结下:

RAG 和 GraphRAG 各有优势,关键不是“谁替代谁”, 而是让 GraphRAG 当“导航”,RAG 当“真相”。

如何学习AI大模型?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高

那么针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

在这里插入图片描述

学习路线

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

更多推荐