登录社区云,与社区用户共同成长
邀请您加入社区
本文介绍了AI应用开发中的上下文管理和RAG技术。上下文管理包括截断历史会话记录的多种方法(按数量、Token长度或摘要浓缩),摘要方式又分第三方库、在线和离线大模型三种。RAG(检索增强生成)通过结合外部知识库弥补大模型的知识局限(知识陈旧、幻觉问题),其流程分为五步:加载文档、文本分块、向量化、存储向量数据库、检索反馈。文章还提供了一个简易Python示例,通过字符串匹配模拟RAG的核心检索功