logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

超图与大语言模型的结合

摘要:超图(Hypergraph)作为图论的扩展,通过超边(可连接任意数量节点)有效建模多元关系,弥补了普通图仅能表示两两关系的局限。其核心应用包括:1)复杂系统建模(如社交群组、化学反应);2)高阶关联挖掘(如推荐系统、知识图谱)。代表性工作如Hyper-RAG、HyperGraph-RAG和OG-RAG,利用超图结构增强检索与生成能力,通过提取多实体关系、构建知识超图及优化检索策略,显著提升了

#语言模型#人工智能#自然语言处理 +1
大语言模型岗经典面试题

本文摘要总结了当前大模型相关技术的关键知识点,包括模型架构、注意力机制、归一化方法、微调技术等。主要内容涵盖:1)LoRA和QLoRA的参数高效微调原理;2)Transformer中LayerNorm与RMSNorm的对比;3)不同模型架构(encoder-only/decoder-only)的特点;4)注意力机制变体及其优化技术(FlashAttention);5)BERT预训练任务设计;6)解

#语言模型#人工智能#自然语言处理 +1
知识图谱与大语言模型

知识图谱与大语言模型在知识表示与推理方面存在互补性。知识图谱以结构化形式存储知识,具有可解释性强、便于调试的优势,适合精准问答和多跳推理;而大模型通过参数化方式隐式存储知识,具备强大的通用生成能力。两者在知识更新和事实准确性方面面临相似挑战。研究提出多种融合方法:训练阶段可通过知识嵌入增强模型(如ERNIE),推理阶段可结合知识图谱进行提示优化(如KAPING框架)。实验表明,知识图谱能有效提升大

#机器学习#深度学习#人工智能 +3
知识图谱与大语言模型

知识图谱与大语言模型在知识表示与推理方面存在互补性。知识图谱以结构化形式存储知识,具有可解释性强、便于调试的优势,适合精准问答和多跳推理;而大模型通过参数化方式隐式存储知识,具备强大的通用生成能力。两者在知识更新和事实准确性方面面临相似挑战。研究提出多种融合方法:训练阶段可通过知识嵌入增强模型(如ERNIE),推理阶段可结合知识图谱进行提示优化(如KAPING框架)。实验表明,知识图谱能有效提升大

#机器学习#深度学习#人工智能 +3
大模型相关基础知识

本文系统介绍了大模型的基础知识、关键技术及应用场景。主要内容包括:1)NLP基础任务与方法,如词性标注、命名实体识别等;2)大模型核心机理,包括预训练语言模型、神经网络原理及Transformer架构;3)高效训练与压缩技术,如Prompt Tuning、Delta Tuning等参数优化方法;4)跨领域应用,涵盖生物医学、法律智能等学科。文章详细阐述了词表示、语言模型构建、注意力机制等核心技术,

#深度学习#自然语言处理#语言模型 +3
到底了