KAG是融合知识图谱与大语言模型的新框架,通过语义图索引、语义解析与推理、语义检索三大核心模块,实现从"模糊匹配"到"精准推理"的跃迁。该方法在多跳问答任务中显著优于传统RAG,平均F1分数提高12.8%,已成功应用于电子政务、医疗、法律咨询等专业领域,准确率达91.6%,展现了专业领域大模型应用的巨大潜力。


论文题目:KAG: Boosting LLMs in Professional Domains via Knowledge Augmented Generation

本文作者:Lei Liang, Zhongpu Bo, Zhengke Gui, Zhongshu Zhu, Ling Zhong, Peilong Zhao, Mengshu Sun, Zhiqiang Zhang, Jun Zhou, Wenguang Chen, Wen Zhang, Huajun Chen

发表会议:WWW 2025

论文链接:https://dl.acm.org/doi/abs/10.1145/3701716.3715240

代码链接:https://github.com/OpenSPG/kag

一、动机

传统的 RAG 方法依赖基于相似性和共现的检索与生成方式,这种方式在处理法律、医学等需要复杂逻辑推理的专业领域任务时存在明显不足。人类通常依靠语义类型和关键词之间的清晰关系进行推理,而不是仅仅依赖相似性。KAG 正是为了解决这一问题而提出的,旨在更精准地表达知识,并提升专业领域问答系统的准确性。

二、方法

KAG 的核心理念是:将知识图谱的结构化语义能力与大语言模型的自然语言处理优势深度融合,实现从“模糊匹配”到“精准推理”的跃迁。

KAG流程如上图所示,KAG 框架引入了三个核心模块:

✅ 1. 语义图索引(Semantic Graph Indexing):不同于传统RAG仅提取事实三元组(如“张三是医生”),KAG通过多轮语义增强,构建一个 富含逻辑连接的知识网络。

具体包括四个关键步骤:

  • 本体标注(Ontology Labeling):为每个实体打上类型标签,如“张三”→“Person”,“养老保险”→“SocialSecurity”。
  • 上位词生成(Hyper-concept Generation):建立概念层级,例如“视觉障碍者” → “残疾人” → “特殊群体”。
  • 同义词连接(Synonym Connection):打通表述差异,如“医保”=“医疗保险”。
  • 常识关系注入(Concept Connection):引入通用常识,如 (战争, 导致, 伤亡)(政府官员, 隶属, 政党)

最终形成的语义图不仅包含原始文档中的显性知识,还补全了大量隐含的逻辑路径,极大增强了跨文档推理能力。

🧠 小贴士:该过程采用稀疏符号索引(知识图谱)与稠密向量索引(嵌入)相结合的混合索引策略,兼顾精确性与召回率。

✅ 2. 语义解析与推理(Semantic Parsing & Reasoning)

面对复杂问题,KAG不会直接丢给LLM去“猜”,而是先将其拆解为一系列具有明确语义结构的逻辑形式(Logical Form, LF)。

以这个问题为例:

❓ “格林伍德实验学校所在城市何时成为《可怜的傻瓜》编剧出生州的首府?”

KAG会自动将其分解为四步推理链:

步骤 子问题 逻辑形式(LF)
1 谁是《可怜的傻瓜》的编剧? get_spo(s=电影[《可怜的傻瓜》], p=编剧, o=人物)
2 该编剧出生于哪个州? get_spo(s=人物, p=出生地, o=州)
3 格林伍德实验学校位于哪座城市? get_spo(s=学校[格林伍德实验学校], p=位于, o=城市)
4 该城市何时成为上述州的首府? get_spo(s=城市, p=成为首府时间, o=州)

每一个LF都是一个结构化查询指令,带有清晰的主语类型、谓词、宾语类型等语义信息。这种形式更易于与知识图谱对接,支持多跳、可追溯、可解释的推理过程。

此外,KAG还内置任务控制模块,管理子问题状态、历史记忆与执行终止条件,确保整个推理流程有序进行。

✅ 3. 语义检索(Semantic Retrieval)

传统的基于向量相似度的检索,在面对“间接关联”的问题时容易失效。比如用户问“视障人士出行需要什么工具?”,如果知识库中只有“盲人 → 需要拐杖”,而没有出现“视障人士”这个词,传统方法很可能漏检。

KAG采用两种语义驱动的检索方式:

(1)三元组检索(Triple Retrieval)

  • 输入:逻辑形式中的实体及其类型
  • 过程:利用语义图进行候选节点召回 → 一跳扩展生成候选子图 → 匹配符合条件的事实三元组
  • 输出:结构化知识片段,可用于直接作答

(2)文档检索(Document Retrieval)

  • 基于个性化PageRank(PPR)算法,在语义图上计算文档相关性得分
  • 种子节点不仅来自原始查询,还包括:
  • 逻辑形式中的实体
  • 三元组检索生成的候选子图节点
  • 查询语义增强后的新实体(如同义词、上位词)

这种方式能有效捕捉“语义近邻”而非“字面匹配”的文档,显著提升长距离推理的召回能力。

⚖️ 策略选择:KAG优先尝试用三元组回答;失败后再启用文档检索作为兜底方案。

三、实验结果

KAG 在三个多跳问答数据集(HotpotQA、2WikiMultiHopQA、MuSiQue)上的实验结果显示,其性能显著优于现有方法(如 HippoRAG):

  • 在单步推理任务中,KAG 平均 F1 分数比 HippoRAG 提高了 12.8% 。

  • 即便在多步CoT增强下,KAG依然保持明显优势。

此外,KAG 在 e-Government 场景中的应用也显示了其在专业领域问答系统中的显著优势。

四、应用

KAG 已成功应用于蚂蚁集团的实际业务场景中,包括 e-Government、E-Health、Legal Consultation 和 Risk Management 等领域。
在 e-Government 场景中,KAG 负责基于给定的知识库回答用户的行政流程问题,其准确率显著高于传统 RAG 方法(如下表)。例如,在 404 个用户问题中,KAG 的精度达到了 91.6%,召回率达到 71.8%,远超 NaiveRAG(精度 66.5%,召回率 52.6%)。

五、总结

KAG 是一个融合 LLMs 和知识图谱(KG)技术的新框架,通过在索引和检索阶段引入语义理解和推理,有效提升了复杂问答任务的表现。实验证明,KAG 不仅在学术数据集上表现出色,还在实际应用中展现了巨大潜力。

如何学习AI大模型 ?

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。

对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
在这里插入图片描述

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
在这里插入图片描述

在这里插入图片描述

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)

在这里插入图片描述

👉4.大模型实战项目&项目源码👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战项目来学习。(全套教程文末领取哈)
在这里插入图片描述

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(全套教程文末领取哈)
在这里插入图片描述

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(全套教程文末领取哈)
在这里插入图片描述

为什么分享这些资料?

只要你是真心想学AI大模型,我这份资料就可以无偿分享给你学习,我国在这方面的相关人才比较紧缺,大模型行业确实也需要更多的有志之士加入进来,我也真心希望帮助大家学好这门技术,如果日后有什么学习上的问题,欢迎找我交流,有技术上面的问题,我是很愿意去帮助大家的!

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

在这里插入图片描述
在这里插入图片描述

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)
Logo

更多推荐