
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
提示工程(Prompt Engineering)是通过设计、优化输入文本(提示词),向大模型传递清晰的任务目标、上下文、约束条件和输出要求,引导大模型输出高质量、符合预期结果的技术体系。简单来说,提示工程就是教你如何 "问对问题",让大模型听懂你的需求,并且给出你想要的答案。

第一篇我们学习了提示工程的核心技术,能够写出高质量的提示词解决个人问题。但在企业级应用中,—— 你需要管理成百上千个提示词模板、进行效果量化评估、防范安全风险、保证系统稳定运行。。

— 从人工写提示词到 AI 自动生成提示词,从单模型提示到多智能体协同提示,从通用提示到领域专属提示。

检索增强生成(Retrieval-Augmented Generation, RAG)是目前解决大模型上述三大缺陷的最主流、成本最低的技术方案。普通大模型= 闭卷考试的学生:只能靠脑子里记住的知识答题,容易答错,也不知道最新的知识RAG 增强的大模型= 开卷考试的学生:允许先翻书(检索知识库)找到相关内容,再组织语言回答问题先检索,后生成。

嵌入(Embedding)是 RAG 系统的 "眼睛",它决定了系统能否准确理解文本的语义。这是 RAG 最核心的基础技术之一,必须彻底搞懂。在学习嵌入之前,我们先思考一个问题:计算机如何理解文本的语义?计算机只能处理数字,无法直接理解自然语言。传统的文本表示方法存在严重缺陷:One-Hot 编码是最简单的文本表示方法,它为每个词分配一个唯一的索引,然后用一个只有对应位置为 1、其余为 0 的向量

在上篇中,我们实现了基于 BGE+Chroma 的语义检索系统,它能很好地理解文本的语义,解决了传统检索 "字面匹配、语义不匹配" 的问题。由于语义检索的得分(余弦相似度,0-1)和 BM25 的得分(0-∞)尺度不同,不能直接相加,需要先进行归一化。检索效果评估是 RAG 开发中非常重要的环节,它能让我们客观地衡量不同检索方法的效果,指导我们进行优化。RRF(倒数排名融合)是一种基于排名的融合策

【角色设定】你是一位专业的文档摘要专家,能够准确提炼文档的核心内容。【核心规则】1. 只能基于提供的文档内容生成摘要,不能添加任何外部信息2. 摘要要全面、准确,涵盖文档的所有核心要点3. 结构清晰,分点列出4. 字数控制在{word_count}字左右【参考文档】{context}【摘要】"""

之前的 BGE 模型是离线加载的,很可能因为路径或版本问题,导致。问题大概率出在 **「文档分块」或「向量库入库」** 环节。上传的新文档 → 只在内存里生效 → 没有写入到本地文件。就会出现 “明明有文本,但检索结果为空” 的情况。,所有文本的向量都变成了随机值,相似度极低。重启后端,重新上传文档,可以看到。找到 add_documents。的地方,改成只用语义检索,并。首先,替换别的文档试试。

Streamlit 是一个非常适合快速构建数据应用和 AI 应用的 Python 框架,我们用它来开发一个简单美观的聊天式 Web 界面。Ragas 是专门为 RAG 系统设计的评估框架,它提供了多个自动化评估指标,能客观衡量 RAG 系统的生成效果。起来,形成一个完整的、可交互的 Naive RAG 系统,并通过科学的评估方法验证系统效果。我们的 Naive RAG 系统采用分层架构,分为。本篇

BGE-Reranker 是目前中文领域效果最好的开源重排序模型,由北京智源人工智能研究院开发。:使用bge-reranker-v2-m3,在16G 内存电脑上可以流畅运行,效果提升最明显。,它只能做到 "把可能相关的文档找出来",但无法做到 "把最相关的文档排在最前面"。混合检索(语义 + BM25)本质上是。








