知识图谱与大模型:对比、结合范式与代表案例完全指南
知识图谱与大模型:对比、结合范式与代表案例完全指南
这篇文章帮你系统理清知识图谱与大语言模型之间的关系、三大结合范式、以及各自的代表技术。无论你是做知识图谱想引入LLM,还是做LLM想利用结构化知识,都能找到清晰的方向。
一、大模型时代,知识图谱为什么还需要?从数据痛点说起
在聊大模型之前,我们先回顾一下知识图谱存在的根源。知识图谱的需求来自四个核心数据痛点:

第一,语义理解——非结构化数据计算机难以理解,需要数据结构化。第二,数据融合——多源异构数据难以融合,需要统一的表示方式。第三,动态扩展——数据模式动态变迁困难,需要能自由扩展的数据模型。第四,智能检索——数据使用专业程度过高,普通用户难以驾驭,需要行业智能问答。
这四个痛点至今没有被完全解决,这也是知识图谱依然有其存在价值的根本原因。
二、知识图谱 VS 大语言模型:多维度对比
大模型(如ChatGPT、GPT-4)的横空出世,让很多人开始质疑:知识图谱是不是过时了?

先看相同点:本质上都是一种知识库,在实时性和时效性上面临的挑战一致。ChatGPT遇到的事实性错误和时效性问题,知识图谱同样存在。而且如果ChatGPT创造出大量内容并作为数据源导入到知识图谱中,反而会影响知识图谱的准确性。
从应用系统层面看,两者的定位不同。ChatGPT是"参数化模型基座+插件接口",偏SaaS形态;知识图谱是"形式化知识基座+数据管理+数据分析",偏PaaS形态。
简单说:LLM强在泛化和生成,知识图谱强在精确和可解释。LLM像一个博学但偶尔"胡说八道"的通才,知识图谱像一个严谨但知识面有限的专才。两者不是替代关系,而是互补关系。
三、三大结合范式:谁增强谁?
学术界将KG与LLM的结合方式归纳为三大范式:

范式一:LLM增强知识图谱(LLM → KG)
这个方向利用大模型的能力来加速知识图谱的构建、补全和应用。

知识表示增强方面,LLM可以作为文本编码器为知识图谱嵌入提供高质量的文本表示,也可以实现文本和知识图谱的联合嵌入。
知识图谱构建方面,这是目前最活跃的方向。核心思想是利用大模型完成数据标注和数据增强,加速知识图谱生产落地。你可能会问:用ChatGPT标注数据再去训练BERT,是不是本末倒置?在数据敏感、数据不出网的场景下,这可能成为必选项;而且在更偏垂直的下游任务中,全量使用大模型的成本过高,小模型仍然是更经济的选择。
代表项目包括:ChatIE将零样本信息抽取转变为两阶段多轮问答,通过prompt-pattern调用ChatGPT接口;InstructUIE提出了基于多任务指令调优的统一信息抽取框架;GPT-4在学术标准数据集上虽然仍弱于全监督小模型,但其泛化能力和通过文本指令优化不断提高性能的特点,给快速构建领域知识图谱带来了福音。
知识图谱补全方面,LLM可以作为Decoder(LaG)进行生成式补全,也可以作为Encoder(LaE)进行编码式补全。TAGREA通过信息检索方法从语料库中搜索相关文本来支持LLM知识探测,自动生成高质量提示完成KG补全。MIKGC框架则通过从各个角度查询大型语言模型来多角度增强知识图谱补全。
知识图谱问答方面,KAIG提出了知识增强的语言模型提示方法,实现零样本知识图谱问答。
范式二:知识图谱增强大模型(KG → LLM)
这个方向利用知识图谱的精确知识来缓解大模型的幻觉问题、增强事实性。

训练前阶段:利用知识图谱生成SFT(Supervised Fine-Tuning)数据。ChatGLM-Med是一个典型案例——基于中文医学知识图谱和GPT3.5构建了中文医学指令数据集,然后对ChatGLM-6B进行指令微调,提高了医疗领域的问答效果。知识引导的指令生成(Knowledge-Guided Instruction Generation)是另一个重要方法,采用语言模型本身根据无监督文本生成指令,使生成的指令具有领域针对性。
训练中阶段:融合知识的预训练模型有两条路线——预训练时做内嵌融合(如ERIE将知识图谱中实体的表示融入文本表示),下游任务上做外挂融合。一个关键的认知是:预训练花费巨大,内嵌时仅融入相对静态的知识;动态变化的内容更适合外挂融合,否则模型更新代价太高。
训练后阶段:融合外部知识进行微调优化生成效果,融合外部搜索引擎提升实时性(如New Bing),融合外部知识库系统提升数学运算能力(如Wolfram|Alpha)。
评估阶段:GraphEval框架利用大规模知识图谱来测量语言模型的事实性。它首先从LLM输出中构建知识图谱,然后迭代检查每个三元组是否在给定上下文中事实一致——如果任何三元组被识别为不一致,输出将被标记为幻觉。
范式三:协同融合(KG ↔ LLM)
这个方向追求平台层面的深度融合,构建统一的知识表示系统。KnowLLM用于结构化知识发现,TechGT基于知识图谱转换指令技术生成数据,实现KG与LLM的双向增强。
四、代表项目与技术一览

把上面提到的代表项目整理一下,按照方向分类:
LLM→KG方向的代表项目包括:ChatIE(零样本两阶段抽取)、InstructUIE(统一信息抽取)、TAGREA(文本增强KG补全)、MIKGC(多角度KGC框架)、ESHer(事件Schema生成)、KG-LLM(多跳链路预测,利用CoT提示和上下文学习增强多跳链接预测)。
KG→LLM方向的代表项目包括:ChatGLM-Med(医学领域微调)、ERIE(知识增强预训练)、GraphEval(大模型事实性评估与幻觉检测)、Wolfram|Alpha(计算能力增强)、New Bing(搜索增强)。
协同方向的代表项目包括:KnowLLM(结构化知识发现)、TechGT(KG转换指令技术)、KG-M平台融合(统一知识表示)。
五、几个值得思考的问题
问题一:用ChatGPT标注数据再训练小模型,是不是本末倒置?
这取决于场景。在数据敏感、数据不出网的场景下,这是必选项——你不能把敏感数据发给OpenAI。在更偏垂直的下游任务中,全量使用大模型的成本过高。而且大模型用来做数据标注,再通过小模型来实现高效的线上推理,是一个成本效益比很好的方案。
问题二:知识图谱的Schema能不能让大模型自动生成?
可以。ESHer项目提出了一种新的事件模式归纳范式,从大规模预训练语言模型中获取知识,通过基于上下文生成的概念化、置信度感知的模式结构化和基于图的模式聚合,自动生成高质量的事件Schema。这给快速构建领域知识图谱提供了新思路。
问题三:大模型会替代知识图谱吗?
短期内不会。两者在技术定位上有本质差异:大模型是"参数化知识库",知识图谱是"形式化知识库"。大模型的知识存储在参数中,难以精确修改和更新;知识图谱的知识以显式结构存储,可以精确增删改查。在需要精确知识推理、可解释性、实时更新的场景下,知识图谱仍然不可替代。
问题四:未来最可能的融合形态是什么?
大概率是"LLM作为交互界面+KG作为知识底座"的形态。用户通过自然语言与系统交互,LLM负责理解和生成,知识图谱负责存储和推理。这有点像New Bing的思路——搜索增强生成,但底层的知识管理仍然需要结构化的图谱来支撑。
写在最后
知识图谱和大模型的关系,让我想起数据库和编程语言的关系。数据库负责数据的结构化存储和管理,编程语言负责逻辑处理和用户交互——两者从来不是替代关系,而是协同关系。
在做知识图谱项目时引入大模型,最大的价值是降低了数据标注和知识抽取的成本。以前构建一个领域知识图谱,需要大量的标注数据和人工定义的抽取规则;现在可以用大模型做零样本或少样本抽取,再辅以小模型的精调来保证线上效率。
在做LLM项目时引入知识图谱,最大的价值是缓解了幻觉问题和增强了可解释性。当你的LLM需要回答事实性问题时,从知识图谱中检索相关知识作为上下文,可以显著提升回答的准确性。
如果你正在考虑如何在自己的项目中结合两者,我的建议是:先明确你的核心痛点是什么——如果是"知识不够精确",就加强知识图谱;如果是"交互不够自然",就加强大模型。不要为了结合而结合,要为了问题解决而结合。
IaaS (基础设施即服务):提供最底层的基础计算资源(如虚拟机、存储、网络)。用户需要自己管理操作系统、中间件、运行时环境和应用数据。
PaaS (平台即服务):在IaaS之上,提供了应用程序的开发、运行和部署环境(如操作系统、数据库、Web服务器、开发工具)。用户只需专注于自己的应用代码和业务逻辑。
SaaS (软件即服务):提供最顶层的、完整的、可直接使用的应用程序。用户无需关心任何底层技术,通过浏览器或客户端即可使用。
更多推荐

所有评论(0)