第一章:大模型RAG及AI智能体操作实践
目录
- 1.1 AI智能体概念与技术科普课:从定义到应用全景解析
- 1.2 AI智能体核心技术全拆解:掌握AI底层逻辑
- 1.3 RAG检索增强生成实战:手把手教你落地AI技术
- 1.4 RAG检索增强生成:技术架构大起底,AI应用新突破
- 1.5 自主规划模式 Agent 智能体操作实践
- 1.6 单 Agent 对话流模式智能体搭建
- 1.7 多智能体协作模式搭建
1.1 AI智能体概念与技术科普课:从定义到应用全景解析
一、核心概要
- AI智能体是一种高度智能化的实体,能够独立感知环境、理解和决策,进而执行相应动作,本质是依赖大模型作为"大脑"完成既定目标。
- 工作流模式(手动挡)与智能体模式(自动挡)的核心区别在于谁来做决策——前者由人手动编排节点,后者由大模型自主规划调用工具。
- 大模型存在幻觉问题——对训练数据未覆盖的新知识会"瞎编"看似专业的答案,用户必须具备判断输出对错的能力。
- AI智能体的核心应用场景涵盖自动化助理(数据收集/整理/分析)、商业智能(数据挖掘/趋势发现)、教育培训(智能助教结合知识库实时答疑)。
- MCP协议(大模型上下文协议)是当前最火热的技术方向,各厂商开放MCP Server提供工具,大模型集成后实现更复杂、更智能的Agent应用,加速落地进程。
二、知识网络图
2.1 Mermaid图
2.2 文本树状图(兼容不支持Mermaid的环境)
AI智能体
├── 大模型(大脑)
│ ├── 任务分解 → 将复杂任务拆为子任务
│ ├── 决策调度 → 判断调用哪些工具
│ ├── 内容生成 → 产出最终回复
│ └── ⚠️ 幻觉问题 → 训练数据未覆盖时会"瞎编"
├── 实现模式
│ ├── 工作流模式 → "手动挡",人编排节点,自主可控
│ ├── 智能体模式 → "自动挡",大模型自主规划
│ └── 多智能体协作 → 多个Agent交互,全局交换条件
├── 实现策略
│ ├── Function Calling(放call)
│ ├── ReAct框架 → 推理-行动-观察循环
│ └── MCP协议 → 大模型上下文协议(当前最火热)
├── 工具调用(手脚)
│ ├── 调用外部工具执行动作
│ └── 多Agent交互协作
└── 应用场景
├── 自动化助理 → 数据收集/整理/分析
├── 商业智能 → 模式发现/趋势分析/企业洞察
└── 教育培训 → 智能助教+知识库实时答疑
三、知识点详解
3.1 工作流与智能体的区别
3.1.1 工作流模式(“手动挡”)
定义:通过手动编排不同的节点来处理对应动作,整个流程受人的大脑设计和控制。
核心特征:
- ✅ 自主可控:每一步都是人设计的,不会"跑偏"
- ✅ 节点类型丰富,可组合出复杂流程
- ✅ 确定性极强,适合高可靠要求场景
- ❌ 灵活性差,遇到未预设的情况无法处理
直觉类比:工作流就像工厂的流水线——每个工位干什么、下一个环节是什么,全部由工程师提前设计好,工人(工具)只需按部就班执行。
3.1.2 智能体模式(“自动挡”)
定义:基于通用大模型底座,能够自主感知环境、理解意图并决策调用工具。
核心特征:
- ✅ 自主规划:大模型自己决定下一步该干什么
- ✅ 灵活度高,能应对未知场景
- ❌ 可控性相对较弱(“目前可控性相对较弱”——课堂原话)
- ❌ 存在出错后无法自我修正的风险
直觉类比:智能体就像一个刚入职的聪明实习生——你告诉他目标,他自己想办法找资源、找工具、一步步搞定,但过程中可能走弯路或做错判断。
3.1.3 多智能体协作模式
定义:在平台演示中展示了多个Agent之间可以进行交互,选择不同的智能体或全局交换条件,实现复杂的协作能力。
核心特征:
- 多个Agent各司其职,互相通信
- 可设置全局交换条件(如"Agent A完成后触发Agent B")
- 适合处理需要多角色配合的复杂任务
课堂提及:平台演示中展示了多智能体协作的具体操作流程,体现了从单Agent到多Agent的演进方向。
3.2 AI智能体的定义与核心能力
3.2.1 定义与核心概念
AI智能体是一种高度智能化的实体,能够独立感知环境、理解和决策,进而执行相应的动作。
3.2.2 关键要素拆解
- 独立感知环境:接收外部输入(用户输入、传感器数据、API返回等)
- 理解意图:识别用户真正想要什么
- 自主决策:判断该调用哪些工具、按什么顺序执行
- 执行动作:通过工具完成实际任务
- 逐步逼近目标:不是一步到位,而是逐步完成既定目标
3.2.3 大模型的核心角色
大模型相当于智能体的"大脑",负责将复杂任务分解为可执行的子任务,并调度合适的工具或人员去执行。
直觉类比:把智能体想象成一个公司团队——大模型是CEO(做决策、分任务),各种工具API是各部门员工(执行具体工作),智能体就是整个公司运作的体系。
3.2.4 重要辨析
⚠️ 大模型 ≠ 智能体。大模型只是"大脑",没有手脚(工具)就只是个"只会答题的学霸"。智能体 = 大模型 + 工具调用 + 记忆机制,三者缺一不可。
3.3 大模型的局限性与幻觉问题 ⭐⭐⭐
3.3.1 幻觉问题的定义
幻觉(Hallucination):大模型基于历史数据进行训练,对于训练数据未包含的新知识无法准确回答,但会生成看似专业实则错误的答案,这种现象称为"幻觉"或"瞎编"。
3.3.2 幻觉的典型表现
- 问一个训练数据截止后的新事件 → 模型编一个"合理"但错误的答案
- 问一个专业领域细节 → 模型用专业术语包装,但内容是假的
- 问一个不存在的产品/论文/人物 → 模型可能"创造"出看似真实的引用
3.3.3 为什么会产生幻觉
- 大模型本质是概率生成模型,目标是"生成最像正确回答的文本"
- 当没有足够知识支撑时,模型会用统计规律"猜"一个看起来合理的答案
- 它不是"不知道就承认不知道",而是倾向于编造流畅的文本
3.3.4 判断能力的重要性
用户需要具备判断大模型输出结果对错的能力,不能完全依赖大模型的专业知识生成。
核心要点:
- 大模型的输出看起来越专业,越要警惕——幻觉往往披着专业术语的外衣
- 对关键决策(医疗、法律、金融),必须交叉验证模型输出
- 把大模型当**“高级搜索引擎+初稿写手”**,不当"权威专家"
直觉类比:大模型像一个考试时遇到不会的题也要硬写的考生——它宁可编一个看似合理的答案,也不会留空。你不能因为字迹工整就相信答案是对的。
3.4 AI智能体的应用场景
3.4.1 自动化助理
功能:自动执行重复性高、复杂度高的任务。
典型场景:
- 数据收集:自动从多个来源抓取、汇总数据
- 数据整理:清洗、格式化、去重
- 数据分析:生成报表、可视化、趋势总结
课堂原话:“自动执行重复性高、复杂的任务,如数据收集、整理和分析。”
3.4.2 商业智能
功能:分析大量数据,发现其中的模式和趋势,为企业提供洞察力。
典型场景:
- 销售数据分析 → 发现季节性规律
- 用户行为分析 → 优化产品设计
- 市场趋势预测 → 辅助战略决策
3.4.3 教育培训(智能助教)
功能:作为智能助教,结合知识库中的教材和文档,实时回答学生的问题。
典型场景:
- 学生问教材中的概念 → 智能体从知识库中检索教材原文,结合大模型能力给出通俗解释
- 课后答疑 → 24小时在线,不依赖教师实时在场
- 个性化辅导 → 根据学生提问记录调整回答深度
直觉类比:智能助教就像一个永远不累、永远不会嫌你问题太简单的学霸同桌——你随时问他,他随时翻书帮你找答案。
3.5 AI智能体的实现策略
3.5.1 Function Calling(函数调用)
定义:通过**函数调用(Function Calling)**方式实现智能体,让大模型能够调用外部函数/API。
核心原理:
- 为每个工具编写功能描述+参数说明(“岗位说明书”)
- 大模型根据用户输入,判断该调用哪个工具、传什么参数
- 模型输出函数名+参数值的结构化文本
- 外部代码负责实际执行函数调用
- 执行结果反馈给模型,模型决定下一步
关键结论:Function Calling本质是 “大模型出主意,外部代码动手” 的协作模式。
3.5.2 ReAct框架
定义:ReAct(Reasoning + Acting)引入 "推理—行动—观察"循环机制,使智能体具备自我反思与重试能力。
执行循环:
核心优势:与一次性Function Calling不同,ReAct具备自我反思能力——当目标未达成时,会分析差距、调整策略、重新尝试,直至完成或达到最大迭代次数。
3.5.3 MCP协议(大模型上下文协议)⭐⭐⭐
定义:MCP(Model Context Protocol,大模型上下文协议)是当前最火热的技术方向。
核心机制:
- 各厂商开放MCP Server,提供标准化工具接口
- 大模型集成这些工具后,能实现更复杂、更智能的Agent应用
- 统一了传参与返回值的规范
核心价值:
- 没有MCP时,每接入一个新API都要大量手写适配代码
- 有了MCP,一套代码可适配不同厂商的API接口
- 大幅降低开发工作量,加速Agent落地
直觉类比:MCP就像USB-C接口标准——不管什么品牌的设备,只要是USB-C就能插上就用。MCP让不同厂商的工具"即插即用",不用每家都定制适配代码。
课堂原话:“MCP协议非常火热,各厂商开放MCP Server提供工具,大模型集成这些工具后能实现更复杂、更智能的AI智能体应用,加速落地。”
四、重点难点辨析(综合对比表)
4.1 工作流 vs 智能体模式
| 维度 | 工作流模式(手动挡) | 智能体模式(自动挡) |
|---|---|---|
| 决策主体 | 人(手动编排节点) | 大模型(自主规划) |
| 灵活度 | ⭐ 低(仅限预设范围) | ⭐⭐⭐ 高(应对未知场景) |
| 可控性 | ⭐⭐⭐ 极强 | ⭐ 较弱(课堂原话) |
| 适用场景 | 固定流程、高可靠要求 | 开放域、灵活任务 |
| 容错方式 | 节点预设兜底 | 需ReAct等框架兜底 |
4.2 大模型 vs 智能体
| 维度 | 通用大模型(如DeepSeek) | 通用智能体(如Manus) |
|---|---|---|
| 本质 | 基于海量数据训练的底座 | 基于大模型底座+融合各种工具 |
| 核心能力 | 知识问答、文本生成 | 自主调用工具完成任务 |
| 局限性 | 存在幻觉,无法执行动作 | 依赖大模型能力,可控性待提升 |
| 典型代表 | DeepSeek、GPT、Claude | Manus等Agent产品 |
4.3 三种实现策略对比
| 维度 | Function Calling | ReAct框架 | MCP协议 |
|---|---|---|---|
| 核心作用 | 让模型调用外部函数 | 推理-行动-观察循环 | 统一工具接口规范 |
| 纠错能力 | ❌ 无(一次性) | ✅ 有(自我反思) | 不涉及(是协议层) |
| 当前热度 | 工业界成熟 | 较新,快速演进 | ⭐⭐⭐ 最火热 |
| 关系 | 执行层基础能力 | 执行层高级框架 | 工具接入的标准化协议 |
4.4 幻觉问题的表现与应对
| 场景 | 幻觉表现 | 应对方式 |
|---|---|---|
| 训练数据截止后的新事件 | 编造"合理"的时间线/事实 | 结合RAG检索最新知识 |
| 专业领域细节 | 用术语包装错误内容 | 交叉验证、人工审核 |
| 不存在的实体 | 创造虚假的论文/产品/人物 | 外部工具验证(搜索/数据库) |
五、课堂案例集
5.1 案例:平台演示——多智能体协作
背景:课堂中通过平台(如扣子Coze等)进行了实时演示。
演示内容:
- 展示了多智能体协作模式的操作界面
- 多个Agent之间可以进行交互
- 可选择不同的智能体,或设置全局交换条件
- 体现复杂协作能力的实现方式
要点:多智能体协作不是简单的"串联调用",而是Agent之间可以双向通信、条件触发、动态路由,实现远超单Agent的复杂任务处理能力。
5.2 案例:智能助教场景
背景:教育培训场景中的智能体应用。
工作流程:
- 学生提问 → 大模型理解意图
- 智能体检索知识库中的教材和文档
- 结合检索结果 + 大模型能力,生成精准回答
- 实时回复学生,无需教师人工介入
要点:知识库(RAG)是解决大模型"幻觉"和"知识过时"问题的关键——让模型先查书再回答,而不是凭记忆瞎编。
5.3 案例:MCP生态加速Agent落地
背景:各厂商纷纷开放MCP Server。
价值链条:
厂商开发MCP Server(标准化工具接口)
↓
大模型集成MCP工具(即插即用)
↓
Agent获得更强的能力(搜索/订票/数据分析等)
↓
更复杂、更智能的AI应用落地
要点:MCP降低了工具接入的门槛,让Agent的能力扩展从"定制开发"变为"插件安装",加速了整个生态的繁荣。
六、易错陷阱
-
❌ 把大模型等同于智能体
- 错误理解:DeepSeek就是智能体,两者是一回事。
- ✅ 正确理解:DeepSeek是通用大模型底座,Manus等才是基于底座融合工具的智能体。一个是"大脑",一个是"大脑+手脚+记忆"的完整体系。
-
❌ 认为大模型说的都是对的
- 错误理解:大模型回答得很专业,应该没问题。
- ✅ 正确理解:大模型存在幻觉问题,对训练数据未覆盖的内容会"瞎编"看似专业的答案。越专业的内容越要警惕,必须交叉验证。
-
❌ 认为智能体可以完全自主、不需要人干预
- 错误理解:智能体这么聪明,直接交给它就行了。
- ✅ 正确理解:当前智能体模式可控性相对较弱,高可靠场景仍需工作流模式保证确定性。人机协同是务实之选。
-
❌ 混淆工作流和智能体的优劣
- 错误理解:智能体更先进,工作流应该被淘汰。
- ✅ 正确理解:工作流自主可控,适合固定流程;智能体灵活但可控性弱。两者是互补关系,不是替代关系。
-
❌ 忽略提示词对智能体效果的影响
- 错误理解:智能体效果好不好全看大模型本身。
- ✅ 正确理解:提示词的清晰度和准确性直接影响大模型效果,进而影响智能体整体表现。用户输入质量 = Agent输出质量的上限。
七、结构化复盘
7.1 核心收获
- AI智能体 = 大模型(大脑)+ 工具调用(手脚)+ 记忆(知识库),三者缺一不可
- 工作流(手动挡)适合可控性要求高的场景,智能体(自动挡)适合灵活开放的任务,多智能体协作是未来方向
- 幻觉问题是大模型的天生缺陷,用户必须具备判断输出对错的能力,不能盲信
- MCP协议是当前最火热的方向,统一工具接口标准,加速Agent生态落地
- 提示词质量直接决定智能体效果——输入越清晰,输出越精准
7.2 疑点清单(引导版)
- 【待查证】MCP协议的具体技术规范和主流实现方案 → 引导方向:MCP的消息格式是什么?目前哪些厂商已开放MCP Server?与OpenAPI规范有何本质区别?
- 【待查证】多智能体协作的通信协议和路由机制 → 引导方向:Agent之间如何传递上下文?全局交换条件的底层实现是什么?
- 【待查证】幻觉问题的量化评估方法 → 引导方向:如何测量大模型的幻觉率?有哪些公开的Benchmark?RAG能在多大程度上缓解幻觉?
7.3 横向对比(与已学知识的关联)
| 本课概念 | 关联领域 | 关联点 |
|---|---|---|
| 大模型 = 大脑 | 传统软件架构 | 类似Controller层,负责决策调度 |
| 工作流编排 | 业务流程管理BPM | 与Activiti、Camunda等BPM引擎理念一致 |
| 幻觉问题 | 信息检索/搜索引擎 | 类似"检索结果不可靠"问题,需交叉验证 |
| MCP协议 | 硬件接口标准 | 类似USB协议,统一标准实现即插即用 |
| 多智能体协作 | 分布式系统 | 多个Agent类似微服务架构,需通信和协调 |
| RAG + 知识库 | 搜索引擎/IR | 本质是"检索+生成"两阶段架构 |
7.4 落地思考(应用方向)
- 企业知识助手:结合RAG + 工作流,让智能体成为企业内部7×24小时在线的"百科全书",解决员工查制度、查流程的痛点
- 智能客服升级:用ReAct框架 + MCP工具集成,让客服Agent能查订单、改信息、退款,真正实现"一句话搞定"
- 教育个性化辅导:智能助教 + 教材知识库,根据每个学生的提问记录动态调整辅导策略
八、AI延伸思考(非课堂原话,仅供拓展)
8.1 智能体在垂直领域的深度应用
- 表层疑问:除了通用的自动化助理和教育助教,AI智能体如何在医疗诊断、法律咨询等专业领域落地?
- 根本原因:垂直领域需要行业定制化知识库 + 专业工具集成(如医疗影像分析API、法律条文检索系统)。
- 逻辑矛盾:专业领域对准确率要求极高(误诊/错判后果严重),但大模型天然存在幻觉——如何在"自主规划"和"零容错"之间找到平衡?
- 系统性影响:医疗/法律等高风险场景可能需要 “Agent建议 + 人类最终决策” 的协作模式,而非完全自主。
8.2 多智能体协作的未来发展
- 表层疑问:随着MCP等协议的发展,多智能体协作将如何进化?
- 根本原因:MCP解决了工具标准化问题,多智能体解决了任务分工问题,两者结合可处理跨领域、跨平台的超复杂任务。
- 逻辑矛盾:多智能体协作的通信开销和一致性保证是技术难点——当Agent数量增多,如何避免"多头指挥"和"信息冲突"?
- 系统性影响:大型企业供应链管理、城市规划等场景可能成为多智能体协作的杀手级应用,但需要配套的可观测性和审计机制。
8.3 提示词工程与智能体效果的边界
- 表层疑问:提示词对智能体效果的影响到底有多大?是否存在天花板?
- 根本原因:提示词决定了大模型对任务的理解深度,但模型本身的能力上限也限制了再好的提示词也无法突破的性能边界。
- 逻辑矛盾:如果未来模型能力足够强,"提示词工程"是否会被自然语言交互完全取代?普通用户是否还需要学习提示词技巧?
- 系统性影响:这决定了AI应用的产品形态——是"需要专业Prompt工程师"还是"人人都能用自然语言驱动Agent"。
九、附录:课程核心概念速查表
| 概念 | 一句话解释 | 重要度 |
|---|---|---|
| AI智能体 | 能独立感知、决策、执行动作的智能实体 | ⭐⭐⭐ |
| 大模型(LLM) | 智能体的"大脑",负责思考和决策 | ⭐⭐⭐ |
| 工作流模式 | 人手动编排节点的"手动挡"模式 | ⭐⭐ |
| 智能体模式 | 大模型自主规划的"自动挡"模式 | ⭐⭐⭐ |
| 多智能体协作 | 多个Agent交互配合完成复杂任务 | ⭐⭐ |
| 幻觉(Hallucination) | 大模型编造看似专业实则错误的答案 | ⭐⭐⭐ |
| Function Calling | 让大模型调用外部函数的机制 | ⭐⭐ |
| ReAct框架 | 推理-行动-观察循环,具备自我反思能力 | ⭐⭐⭐ |
| MCP协议 | 大模型上下文协议,统一工具接口标准 | ⭐⭐⭐ |
| RAG | 检索增强生成,解决知识过时和幻觉问题 | ⭐⭐ |
| 提示词工程 | 用户输入的质量直接决定Agent输出质量 | ⭐⭐ |
课程核心金句:大模型相当于智能体的核心大脑,负责将复杂任务分解为可执行的子任务,并调度合适的工具或人员去执行。但大模型存在幻觉问题,用户必须具备判断输出对错的能力——这是使用AI智能体的基本素养。
1.2 AI智能体核心技术全拆解:掌握AI底层逻辑
一、核心概要
- AI智能体的本质是能感知环境、理解意图并自主调用工具执行动作的智能实体,区别于传统AI的核心在于"独立思考+动手执行"的能力。
- 大模型在智能体中扮演**“大脑”**角色,仅负责决策(任务规划、意图识别、内容生成),实际执行依赖底层工具——“老板发号施令,员工干活”。
- 调度编排存在两种模式:大模型自主规划(灵活但不稳定)与工作流手动设计(确定性强),当前业界以混合模式+强化学习为主流方案。
- ReAct框架通过"推理—行动—观察"循环引入自我反思能力,解决了传统函数调用"一次性、无纠错"的痛点,是当前Agent执行层的核心技术。
- 记忆机制(短期上下文+长期向量数据库/RAG)与MCP统一协议(一套代码适配所有API)共同解决了大模型"记不住"和"工具调用碎片化"两大落地瓶颈。
二、知识网络图
2.1 Mermaid图
2.2 文本树状图(兼容不支持Mermaid的环境)
AI智能体
├── 大模型(大脑)
│ ├── 任务规划
│ ├── 意图槽位识别
│ └── 内容生成
├── 工具调用(手脚)
│ ├── API工具管理器 → 功能描述+参数说明("岗位说明书")
│ ├── MCP协议 → 统一传参/返回值规范(一套代码适配所有)
│ └── 参数提取 → 大模型直接识别实体(替代正则/词法分析)
├── 记忆机制(记忆库)
│ ├── 短期记忆 → 对话上下文
│ └── 长期记忆 → 向量数据库 + RAG(检索增强生成)
├── 调度编排
│ ├── 自主规划模式 → 大模型自主决定动作序列(灵活/不稳定)
│ ├── 工作流模式 → 人工预设节点+确定性调度(稳定/可扩展)
│ └── 混合模式 + 强化学习优化
├── 任务规划技术
│ ├── 思维链 CoT → 逐步拆解子目标
│ └── 思维树 ToT → 多路径探索
│ ├── 广度优先搜索 BFS → 逐层扩展
│ └── 深度优先搜索 DFS → 深度试探+回溯
└── 执行机制
├── 函数调用 → 返回函数名+参数,外部代码执行(无纠错)
└── ReAct框架 → 推理-行动-观察循环(有自我反思)
└── 最大迭代次数限制 → 防止死循环
三、知识点详解
3.1 AI智能体的本质定义与定位
3.1.1 定义与核心概念
AI智能体(AI Agent)是能够感知环境、理解用户意图并自主调用工具执行动作的智能实体。它相较于传统人工智能的核心突破在于:具备独立思考与执行给定目标的能力。
3.1.2 关键要素拆解
- 感知环境:接收用户输入、读取外部数据
- 理解意图:识别用户真正想要什么(意图识别)
- 自主决策:决定调用哪些工具、按什么顺序执行
- 执行动作:通过工具完成实际任务
3.1.3 直觉类比
传统AI像一个"只会答题的学霸"——你问它什么它答什么,但不会主动帮你做事。AI智能体则像一个"全能助理"——你告诉它目标,它会自己想办法、找工具、一步步把事情做完。
3.1.4 进阶:具身智能
智能体的高级载体是具身智能(Embodied AI),即将智能体从纯软件逻辑延伸到物理实体(如机器人),拥有真实的"身体"去感知和操控物理世界。
3.2 大模型在智能体中的角色定位
3.2.1 定义与核心职责
大模型(LLM)在智能体架构中扮演"大脑"角色,负责高层认知任务,但本身不具备任何执行能力。
3.2.2 关键要素拆解
- 任务规划:将用户的大目标拆解为可执行的子步骤
- 意图槽位识别:理解用户意图,并提取关键参数(如地点、时间、人名等)
- 内容生成:产出最终的回复文本或结构化内容
- 工具选择决策:判断该调用哪个工具、传什么参数
3.2.3 直觉类比
“老板发号施令,员工干活”——大模型是坐在办公室里的老板,负责思考战略、下达指令;底层工具API是跑腿的员工,负责实际执行。老板再聪明,不靠员工也搬不动一块砖。
3.2.4 重要辨析
⚠️ 大模型不能直接调用工具。它只能输出"我想调用XX函数,参数是YY"的文本结果,真正的函数执行由外部代码完成。这是理解后续"函数调用"机制的基础。
3.3 调度编排的两种核心模式
3.3.1 大模型自主规划(“自动挡”)
定义:由大模型根据用户输入,自主决定后续的动作序列。例如用户说"帮我规划一次自驾游",模型自己决定先调高德地图查路线→再调景点百科查攻略→再调天气API看天气。
特点:
- ✅ 灵活度高,能应对未知场景
- ✅ 全自主,“衣食住行全靠AI自己拿主意”
- ❌ 稳定性不足,是当前核心瓶颈
3.3.2 工作流手动设计(“手动挡”)
定义:通过平台(如扣子Coze、Dify等)人工添加节点,构建预设的详细工作流,实现确定性调度。
特点:
- ✅ 确定性极强,每一步都是预设好的,不会"跑偏"
- ✅ 节点数量无限制,可处理海量复杂任务
- ✅ 节点类型丰富:知识库检索、大模型问答、图像/视频处理等
- ❌ 灵活性差,遇到未预设的情况无法处理
课堂案例:“梦幻旅行规划师”
自驾游场景下,调用高德地图API→景点百科API→天气API→酒店预订API。工作流模式就是把这条调用链每一步都写死,AI的"手脚"被既定规则框住,但保证了每个环节不出错。
3.3.3 混合模式与企业实践
当前业界共识:
- 大模型自主规划尚不成熟,存在不稳定痛点
- 业界尝试用强化学习算法提升自主规划的准确率
- 现阶段两种模式并存,人机协同是务实之选
3.4 API工具管理与参数提取
3.4.1 API工具管理器
核心作用:为每个工具(API)提供详细的文字描述与参数说明,使大模型能准确判断各工具的擅长领域并进行合理派活。
直觉类比:相当于给大模型配了一本 “岗位说明书”——每个工具是干什么的、需要什么参数、返回什么结果,写得清清楚楚,解决大模型"瞎派活"的问题。
3.4.2 参数提取:大模型方案 vs 传统方案
| 维度 | 传统方案(正则/词法分析) | 大模型方案 |
|---|---|---|
| 准确率 | 容易不准,边界情况多 | 直接从提示词中精准提取 |
| 开发成本 | 需手写大量规则 | 免去了模型训练 |
| 复杂实体识别 | 效果差(如地址、人名) | 效果显著更好 |
| 维护成本 | 规则越多越难维护 | 模型升级自动受益 |
关键结论:大模型正逐步接管传统NLP的脏活累活,大幅降低开发门槛。
3.4.3 MCP统一协议
MCP(Model Context Protocol)确立了统一的传参与返回值规范。
核心价值:
- 不同公司的API在参数格式、返回结构上各不相同
- 没有MCP时,每接入一个新API都要大量手写适配代码
- 有了MCP,一套代码可适配不同公司的API接口,大幅降低开发工作量
直觉类比:MCP就像USB接口标准——不管什么品牌的设备,插上就能用,不用每家都定制一根线。
3.5 任务规划与思维链技术
3.5.1 思维链(Chain of Thought, CoT)
定义:通过逐步提示引导大模型思考过程,将庞大任务拆解为更易管理的子目标。
核心机制:
- 不直接让模型给最终答案
- 而是提示它"一步步思考"
- 模型输出中间推理步骤,再得出最终结论
直觉类比:把"大活儿"拆成"小步骤",让AI按部就班地干活。就像你不会直接让实习生"把这件事办好",而是告诉他"第一步先XX,第二步再XX"。
课堂提及:DeepSeek等模型通过推理框架+强化学习有效激发了CoT能力,使大模型的逻辑拆解能力成为Agent攻克复杂任务的核心底座。
3.5.2 思维树(Tree of Thoughts, ToT)
定义:在思维链基础上,在每个步骤探索多条推理路径,构建树状结构寻找最优解。
直觉类比:给大模型装上 “多路雷达”,不再死磕单线逻辑,而是同时试探多条路,选最好的那条。
3.5.3 两种搜索算法对比
| 算法 | 原理 | 适用场景 | 算力消耗 |
|---|---|---|---|
| 广度优先搜索 BFS | 从起始节点逐层向外扩展相邻节点 | 查找最佳路径、检测图连通性 | 随层数指数增长 |
| 深度优先搜索 DFS | 沿单一路径深度试探直至目标或回溯 | 特定路径的深度查找 | 空间复杂度较低 |
3.6 函数调用(Function Calling)
3.6.1 核心原理
大模型并不主动调用工具,而是:
- 模型输出目标函数名 + 提取的参数值(以结构化文本形式)
- 外部代码负责实际执行这个函数调用
- 将执行结果反馈给模型,模型再决定下一步
关键结论:函数调用本质上是 “大模型出主意,外部代码动手” 的协作模式。
3.6.2 痛点
- 一次性调用,出错无法自我修正
- 如果参数提取有误,整个调用链就失败了
- 容错率低
3.7 ReAct框架 ⭐⭐⭐
3.7.1 定义
ReAct(Reasoning + Acting)是一种先进的Agent执行框架,引入 "推理—行动—观察"循环机制,使智能体具备自我反思与重试能力。
3.7.2 执行循环拆解
┌─────────────────────────────────────────┐
│ ReAct 执行循环 │
│ │
│ ① 推理(Reasoning) │
│ → 模型思考当前状态和下一步计划 │
│ │
│ ② 行动(Acting) │
│ → 执行工具调用(函数名+参数) │
│ │
│ ③ 观察(Observation) │
│ → 获取工具执行结果 │
│ │
│ ④ 判断:目标达成? │
│ ├── 是 → 输出最终结果 │
│ └── 否 → 回到①,调整策略重新推理 │
│ │
└─────────────────────────────────────────┘
3.7.3 核心优势:自我反思能力
当目标未达成时,ReAct框架会:
- 分析当前结果与预期之间的差距
- 自动调整提示词(加入新的观察信息)
- 重新进入推理-行动-观察循环
- 直至完成目标或达到上限
3.7.4 防死循环机制
⚠️ 为防止无限循环,通常设置最大迭代次数上限(如5~10次)。这相当于给AI的"死磕"行为装了急停开关,避免陷入无限循环拖垮系统。
3.7.5 与函数调用的对比
| 特性 | 函数调用(Function Calling) | ReAct框架 |
|---|---|---|
| 执行模式 | 一次性调用 | 循环式(推理→行动→观察) |
| 自我修正 | ❌ 无 | ✅ 有(反思重试) |
| 容错率 | 低 | 高 |
| 成熟度 | 较成熟,工业界广泛使用 | 较新,仍需防范超时风险 |
| 本质 | “大模型出主意,代码动手” | "思考→做→看→再思考"闭环 |
3.8 记忆机制与外部工具融合
3.8.1 混合记忆架构
问题背景:大模型受限于上下文窗口(Context Window),无法记住所有历史信息和最新知识。
解决方案:混合记忆架构
| 记忆类型 | 存储内容 | 实现方式 |
|---|---|---|
| 短期记忆 | 当前对话上下文 | 模型Context Window直接承载 |
| 长期记忆 | 企业知识库、用户画像、历史交互 | 向量数据库持久化存储 |
3.8.2 RAG(检索增强生成)
定义:RAG(Retrieval-Augmented Generation)依赖向量数据库存储企业与用户最新知识,在生成回答前先检索相关信息注入上下文。
核心价值:
- 解决大模型 “记不住”(知识库超出窗口)的问题
- 解决大模型 “不懂新业务”(训练数据截止后新知识)的问题
- 是AI应用落地的关键技术支撑
直觉类比:RAG就像给大模型配了一个 “外挂硬盘”——模型本身的内存(Context Window)有限,但可以随时从硬盘里调取需要的资料。
3.8.3 外部工具集成
通过工具管理器,将以下资源深度融合:
- 企业内部API(如ERP、CRM系统)
- 第三方插件(如支付、地图、天气)
- 爬虫(实时信息获取)
赋予智能体丰富的 **“手脚四肢”**能力,使其不仅能"说话"更能"干活"。
主流框架提及:CrewAI、AutoGPT等,都在践行"智能体不仅能说话更能干活,通过指派任务加速应用落地"的理念。
四、重点难点辨析(综合对比表)
4.1 自主规划 vs 工作流
| 维度 | 大模型自主规划 | 工作流手动设计 |
|---|---|---|
| 调度方式 | 大模型自主决定动作序列 | 人工预设节点,确定性调度 |
| 灵活度 | ⭐⭐⭐ 高 | ⭐ 低(仅限预设范围) |
| 稳定性 | ⭐ 不稳定(核心瓶颈) | ⭐⭐⭐ 极强 |
| 扩展性 | 依赖模型能力 | 节点无限制,可处理海量任务 |
| 适用场景 | 开放域、未知场景 | 固定流程、高可靠要求 |
| 优化方向 | 强化学习提升准确率 | 增加节点类型覆盖更多需求 |
4.2 函数调用 vs ReAct
| 维度 | 函数调用 | ReAct框架 |
|---|---|---|
| 调用次数 | 通常一次性 | 循环多次(直至目标达成) |
| 纠错能力 | 无,出错即失败 | 有,观察结果后自我调整 |
| 迭代控制 | 无 | 有最大迭代次数限制 |
| 成熟度 | 工业界成熟 | 较新,需防范超时 |
| 本质 | “大模型出主意,代码动手” | "思考→做→看→再思考"闭环 |
4.3 CoT vs ToT
| 维度 | 思维链 CoT | 思维树 ToT |
|---|---|---|
| 推理路径 | 单条线性路径 | 多条路径并行探索 |
| 结构 | 链式(一步接一步) | 树状(每步分叉) |
| 搜索策略 | 无需搜索 | BFS / DFS |
| 算力消耗 | 低 | 较高 |
| 适用场景 | 任务拆解、步骤推理 | 需要探索多种方案的复杂决策 |
4.4 短期记忆 vs 长期记忆(RAG)
| 维度 | 短期记忆 | 长期记忆(RAG) |
|---|---|---|
| 存储位置 | Context Window | 向量数据库 |
| 容量 | 有限(窗口大小限制) | 几乎无限 |
| 更新频率 | 每轮对话自动更新 | 需主动写入/更新 |
| 检索方式 | 全量在上下文中 | 需相似度检索 |
| 典型内容 | 当前对话上下文 | 企业知识库、用户画像 |
五、课堂案例集
5.1 案例:梦幻旅行规划师(自驾游场景)
背景:用户说"帮我规划一次自驾游"
自主规划模式下的调用链:
- 大模型理解意图 → “用户想自驾游,需要路线、景点、天气”
- 自主决定先调高德地图API查路线
- 再调景点百科API查沿途景点
- 再调天气API看出行日期天气
- 最后调酒店API推荐住宿
要点:自主规划模式下,AI"全包圆",衣食住行全靠自己拿主意。
5.2 案例:API参数提取对比
场景:用户说"帮我查一下从北京到上海的高铁"
传统正则方案:
- 写正则匹配"从XX到XX" → 容易漏匹配(“北京去上海”、“北京飞上海”)
- 地址实体识别需要训练NER模型 → 成本高、维护难
大模型方案:
- 模型直接理解语义,精准提取
出发地=北京、目的地=上海、交通方式=高铁 - 无需训练,零样本即可工作
5.3 案例:ReAct循环实战推演
任务:“帮我找到张家口最适合8月露营的地方”
第1轮:
- 推理:“需要先查张家口的景点,再筛选适合露营的”
- 行动:调用景点API → 返回张家口所有景点列表
- 观察:列表中有草原、峡谷、湖泊等多种类型
- 判断:未达成(需要筛选露营适宜性)
第2轮:
- 推理:“需要查每个景点的具体信息,看是否允许露营”
- 行动:调用景点详情API(草原天路)
- 观察:草原天路允许露营,8月气温适宜
- 判断:部分达成,继续查其他选项
第3轮:
- 推理:“再查一个备选方案做对比”
- 行动:调用景点详情API(桦皮岭)
- 观察:桦皮岭也适合露营,且人少
- 判断:达成目标,输出推荐结果
结论:ReAct通过多轮推理-行动-观察,逐步逼近最优解,而非一次性赌对。
5.4 案例:Agent完整执行流程
用户发起对话
↓
大模型:意图分类 → 判断用户想要什么
↓
大模型:工具调度 → 决定调用哪些API
↓
大模型:参数填充 → 提取并填入参数
↓
业务API执行 → 返回结果
↓
大模型:整合结果 → 生成最终回复
要点:大模型充当 “总调度室”,负责拆解任务并派发指令。复杂任务高度依赖思维链能力。
六、易错陷阱
-
❌ 以为大模型能"主动"调用工具
- 错误理解:大模型直接执行API调用,像程序一样运行函数。
- ✅ 正确理解:大模型只输出"我想调XX函数,参数是YY"的文本结果,真正的执行由外部代码完成。模型是"出主意的",不是"动手的"。
-
❌ 混淆自主规划和工作流的应用场景
- 错误理解:既然自主规划更先进,就应该全面替代工作流。
- ✅ 正确理解:自主规划目前稳定性不足,在高可靠要求的场景(如金融交易、医疗诊断)必须用工作流保证确定性。两者是互补关系,不是替代关系。
-
❌ 认为CoT和ToT是同一个东西
- 错误理解:思维树只是思维链的另一种说法。
- ✅ 正确理解:CoT是单条线性推理链,ToT是多条路径的树状探索结构。ToT在每步都会分叉出多个可能,再用BFS/DFS搜索最优解,算力和复杂度都远高于CoT。
-
❌ 忽略ReAct的迭代次数限制
- 错误理解:ReAct有自我反思能力,所以可以无限循环直到完美。
- ✅ 正确理解:必须设置最大迭代次数上限(如5~10次),否则可能陷入死循环,导致系统超时、资源耗尽。急停开关不是可选项,是必选项。
-
❌ 认为MCP只是"又一个API标准"
- 错误理解:MCP和普通的OpenAPI/Swagger规范差不多,都是描述接口而已。
- ✅ 正确理解:MCP的核心是统一了传参与返回值的规范,让一套代码适配不同公司的API。它不是简单的接口文档标准,而是协议级的标准化——类似USB协议之于硬件接口,是"即插即用"能力的根基。
七、结构化复盘
7.1 核心收获
- 大模型 = 大脑(决策),工具 = 手脚(执行),记忆 = 外挂硬盘(RAG)——三者的协作构成了智能体的完整架构
- 调度编排的两种模式各有优劣,混合模式+强化学习是当前企业级方案的主流
- ReAct框架是Agent执行层的核心技术,其"推理-行动-观察"闭环解决了单次调用的容错率痛点
- MCP协议统一了API接口规范,一套代码适配所有,大幅降低开发成本
- 思维链/思维树是复杂任务规划的基础能力,决定了Agent能处理多复杂的任务
7.2 疑点清单(引导版)
- 【待查证】强化学习如何具体应用于调度编排的优化? → 引导方向:是RLHF还是其他RL范式?奖励函数如何设计?是否有公开的训练数据集?
- 【待查证】MCP协议的具体技术规范和主流实现方案 → 引导方向:MCP的消息格式是什么?目前哪些平台已支持MCP?与OpenAPI规范有何本质区别?
- 【待查证】ReAct框架在产业级应用中的实际表现数据 → 引导方向:迭代次数与任务成功率的关系曲线?哪些类型的任务ReAct提升最显著?
7.3 横向对比(与已学知识的关联)
| 本课概念 | 关联领域 | 关联点 |
|---|---|---|
| 大模型 = 大脑 | 传统软件架构 | 类似Controller层,负责决策调度 |
| 函数调用 | 传统API调用 | 本质相同,区别在于"谁来决定调用什么" |
| 工作流 | 业务流程管理BPM | 与Activiti、Camunda等BPM引擎理念一致 |
| RAG + 向量数据库 | 搜索引擎/IR | 本质是"检索+生成"两阶段架构 |
| 思维链CoT | 分治算法 | 将大问题拆解为小问题的思想一脉相承 |
| ReAct框架 | 控制论/反馈系统 | "行动→观察→调整"是典型的反馈控制闭环 |
7.4 落地思考(应用方向)
- 企业知识助手:结合RAG + 工作流,构建企业内部的知识问答系统,解决员工查制度、查流程的痛点
- 智能客服升级:用ReAct框架替代传统FAQ机器人,具备多轮推理能力,能处理复杂投诉和咨询
- 自动化运维Agent:让AI自主监控服务器状态、分析日志、执行修复脚本,结合自主规划+工具调用
八、我的疑问(深度引导版)
8.1 ReAct的"自我反思"真的可靠吗?
- 表层疑问:ReAct框架说它能自我反思并调整策略,但这种反思的本质是什么?
- 根本原因:模型的"反思"本质上是在新的上下文(加入观察结果)下重新生成推理文本,并非真正的元认知。
- 逻辑矛盾:如果模型在某一轮产生了错误的推理方向,加入错误的观察结果后,下一轮的推理是否会沿着错误方向越走越远(类似误差累积)?
- 系统性影响:若反思不可靠,ReAct框架在高风险决策场景(医疗、金融)中的适用性就会大打折扣,可能需要引入外部验证机制。
8.2 MCP统一协议会不会成为新的"锁定"工具?
- 表层疑问:MCP说一套代码适配所有API,但它本身不也是一种新的标准吗?
- 根本原因:MCP的价值在于降低适配成本,但它的推广需要各API提供方主动支持。
- 逻辑矛盾:如果MCP成为事实标准,那不遵守MCP的API提供方是否会被边缘化?这会不会反过来造成技术垄断?
- 系统性影响:MCP的成败取决于生态建设,而非技术本身。类似当年Android和iOS的生态系统之争。
8.3 自主规划的"不稳定"到底是模型能力问题还是架构问题?
- 表层疑问:为什么大模型自主规划目前不稳定?是模型不够聪明,还是这种架构本身有天花板?
- 根本原因:大模型本质上是概率生成模型,每一步决策都有不确定性。自主规划要求模型在每一步都做出正确选择,误差会累积。
- 逻辑矛盾:如果通过更大模型+更强训练可以解决稳定性问题,那工作流是否终将被淘汰?如果架构本身有天花板,那混合模式就是长期方案。
- 系统性影响:这决定了未来3-5年Agent技术路线的走向——是"更大模型自动搞定一切",还是"模型+规则+工具"的长期混合架构。
九、附录:Agent四大模块拆解
根据课堂书籍内容,Agent可拆解为四大核心模块:
| 模块 | 作用 | 对应技术 |
|---|---|---|
| 大模型 | 任务规划、意图识别、内容生成(大脑) | LLM(如GPT、DeepSeek等) |
| 记忆 | 存储历史信息与外部知识 | 短期Context + 长期向量数据库(RAG) |
| 任务规划 | 将复杂目标拆解为子步骤 | 思维链CoT、思维树ToT、ReAct |
| 工具使用 | 调用外部API/插件完成实际动作 | 函数调用、MCP协议、API工具管理器 |
复杂任务的高度完成,高度依赖思维链能力——大模型的核心价值已从单纯的内容生成,进阶为复杂任务的拆解与规划。
1.3 RAG检索增强生成实战:手把手教你落地AI技术
一、核心概要
- 高级 RAG 架构在基础链路之上引入查询转换与重排序两大核心环节,从检索前后两端"死磕"精准度。
- 查询转换不直接检索原始提示词,而是通过改写、拆解或结合用户画像消除歧义,让检索系统更"懂人"。
- 重排序模型是检索与大模型之间的"质检关卡",对海量候选片段二次打分,仅保留最相关片段送入生成环节。
- 文档分块策略高度依赖 Embedding 模型的输入长度上限,未来模型支持更长分块将直接降低预处理门槛。
- RAG 开发技能栈已催生专门工程师岗位,核心技术包括向量模型选型、数据库架构设计及混合搜索策略编排。
二、知识网络图
2.1 Mermaid 图
2.2 文本树状图(Mermaid 兜底)
RAG 核心技术架构
├── 产生背景
│ ├── 大模型数据滞后(半年~一年)
│ └── 垂直领域幻觉问题(如法律条文)
├── 解决方案对比
│ ├── 微调:高门槛 / 高成本 / 双刃剑
│ └── RAG:低成本 / 免训练 / 外挂知识库
├── 基础RAG架构
│ ├── 文档分块 → 向量化
│ ├── 向量库存储与检索
│ └── 片段 + 提示词 → 大模型生成
├── 高级RAG架构
│ ├── 查询转换:改写 / 拆解 / 用户画像
│ └── 重排序模型二次筛选
├── 向量数据库选型
│ ├── 单机版 vs 分布式 Milvus
│ └── 混合搜索:全文 + 语义
├── 局限与边界
│ ├── 仅缓解幻觉,非根除
│ └── 检索质量决定上限
└── 技术生态与工具
├── 框架:LlamaIndex 等
├── 向量DB:Milvus / Elasticsearch
└── 低代码:扣子知识库
三、知识点详解
1. RAG 技术背景与核心定义
- 定义 / 核心概念:**RAG(Retrieval-Augmented Generation,检索增强生成)**是一种将信息检索与大模型生成结合的技术范式。它不修改模型权重,而是在推理阶段通过向量数据库检索与用户问题相关的知识片段,拼接进提示词中,使大模型能基于最新、最相关的外部知识作答。
- 关键要素拆解:
- 通用大模型基于历史数据训练,数据更新通常滞后半年至一年。
- 面对法律条文等高频更新领域,模型即使无数据也会"自信地瞎编",即幻觉问题。
- RAG 通过"外挂知识库"实时注入最新信息,绕过重新训练的高昂成本。
- 直觉类比:RAG 就像给一位博学但信息滞后的老教授配了一名实时查阅资料的助手——老教授(大模型)本身智商够高,助手(向量检索)负责把最新资料递到他眼前,两者配合既保证回答质量,又确保信息时效性。
- 课堂案例:在法律领域,通用大模型面对最新修订的法律条文时因训练数据未覆盖而给出看似合理实则错误的解释,RAG 通过检索最新条文片段拼接提示词有效规避此风险。
2. 微调 vs RAG:两种方案的全面对比
- 定义 / 核心概念:**微调(Fine-tuning)**是在预训练大模型基础上用特定领域数据继续训练模型权重,使其内化新知识;与 RAG 的"外挂"思路不同,微调是"内化"思路。
- 关键要素拆解:
- 优势:注入最新知识,从根本上提升模型在该领域的"智商"水平。
- 劣势①:技术门槛极高,需要深厚的训练经验和技巧。
- 劣势②:效果高度依赖训练数据质量、超参设置及训练程度,训练不当反而导致回答效果变差(效果不稳定)。
- 劣势③:需要大量计算资源(GPU),对中小型企业成本难以承受。
- 直觉类比:微调就像让老教授重新读一遍所有新教材再参加考试——耗时耗力,读得好能融会贯通,读不好反而把原来会的知识也搞混了。RAG 则像考试时允许带参考资料进场,成本低、见效快。
- 课堂案例:课堂演示对比两种方案,明确指出微调是"双刃剑",对数据质量与训练技巧要求极高,中小型企业往往难以承受其资源消耗。
3. 基础 RAG 架构全链路
- 定义 / 核心概念:基础 RAG 架构是 RAG 技术的最小可用闭环,涵盖从知识入库到答案生成的完整流程。
- 关键要素拆解:
- 文档分块:将原始文档拆分为适当长度的片段,拆分长度受限于 Embedding 模型的输入上限。
- 向量化:使用 Embedding 模型将文本片段转为向量,存入向量数据库。
- 检索:用户提问经向量化后,在向量库中检索语义最相关的片段。
- 大模型生成:将检索到的片段与用户提示词合并为"大提示词",输入大模型生成最终答案。
- 直觉类比:基础 RAG 就像图书馆查资料——先把书拆成章节卡片(分块)放进索引柜(向量库),读者提问时管理员找出最相关的几张卡片(检索),连同问题一起交给编辑(大模型)写出最终回答。
- 课堂案例:讲师演示工作流,将用户提示词与检索结果合并为大提示词输入大模型,成功获取最新知识,突破训练数据的时间壁垒。
基础 RAG 全链路流程图:
4. 高级 RAG 架构:查询转换与重排序
- 定义 / 核心概念:高级 RAG在基础架构之上增加**查询转换(Query Transformation)和重排序(Re-ranking)**两个核心环节,从"检索前"和"检索后"两端提升精准度。
- 关键要素拆解:
- 查询转换:不直接检索原始提示词,而是先对提示词进行改写、拆解或结合用户画像进行个性化搜索,消除歧义,让检索更"懂人"。
- 重排序:检索后引入重排序模型对候选文档片段进行二次打分和筛选,仅将最相关的片段送入大模型,相当于在检索和大模型之间加了一道"质检关卡"。
- 直觉类比:查询转换像翻译官——把用户模糊的需求"翻译"成检索系统更容易理解的关键词;重排序则像终审编辑——从初筛的一堆素材中挑出真正有用的几段交给主编(大模型)定稿。
- 课堂案例:高级架构结合用户个人画像进行个性化搜索,生成更精准的提示词;重排序模型将海量检索记录精排后仅保留最相关片段,显著提升生成质量。
5. 向量数据库选型与分布式架构
- 定义 / 核心概念:向量数据库是专门存储和检索高维向量的数据库系统,是 RAG 的"外挂硬盘"。Milvus 是主流的分布式向量数据库之一。
- 关键要素拆解:
- 核心优势:无需训练、支持近实时更新、技术门槛极低。
- 单机版 vs 分布式:单机版适合小规模验证;分布式架构(如 Milvus)支持弹性扩容,数据量增长时无需修改代码。
- 混合搜索:结合全文检索工具(如 Elasticsearch)与语义匹配,关注相关度阈值,低相关度时触发重新构建 RAG 的过滤机制。
- 直觉类比:向量数据库就像给系统加了个"外接硬盘"——随时插拔、随时更新内容,不用重装系统(重新训练模型)。Milvus 的弹性扩容就像给硬盘加了扩展坞,数据再多也能从容应对。
- 课堂案例:讲师以 Milvus 为例说明分布式向量数据库支持弹性扩容且无需修改代码;以 Elasticsearch 为例说明全文检索工具需关注语义匹配度与相关度阈值。
6. RAG 的局限性与适用边界
- 定义 / 核心概念:RAG 虽能有效缓解幻觉,但并非万能解药,其效果存在明确的天花板与适用边界。
- 关键要素拆解:
- 检索结果高度依赖相关度,若搜索技巧不佳,RAG 效果甚至不如大模型本身。
- 不同 Embedding 模型返回的相关度数值存在差异,缺乏统一标准,需根据模型特性灵活调整阈值。
- RAG 仅能缓解幻觉,无法根除,复杂场景下仍需配合其他手段兜底。
- 知识出处可追溯,增强回答可信度。
- 直觉类比:RAG 就像给考生配了参考资料——资料找得准,答案就准;资料找偏了,反而比凭记忆答还差。而且参考资料再多,也不能保证考生不会"自由发挥"出错。
- 课堂案例:讲师指出不同 Embedding 模型返回的相关度数值存在差异,需灵活调整阈值;明确 RAG 仅是缓解幻觉而非根除,在复杂场景需配合其他手段。
四、重点难点辨析
| 维度 | RAG(检索增强生成) | 微调(Fine-tuning) |
|---|---|---|
| ⭐ 知识注入方式 | 外挂知识库,推理时检索拼接 | 内化到模型权重,训练时注入 |
| ⭐ 训练成本 | 无需训练,仅需普通 CPU | 需大量 GPU 计算资源 |
| 知识更新速度 | ⭐ 近实时(更新向量库即可) | 需重新训练,周期长 |
| ⭐ 技术门槛 | 低,普通开发者可快速上手 | 高,需深厚训练经验 |
| 效果稳定性 | ⭐ 稳定,依赖检索质量 | 不稳定,训练不当效果倒退 |
| 幻觉缓解程度 | 缓解(非根除) | 从根源减少(但可能引入新偏差) |
| 维度 | 基础 RAG | 高级 RAG |
|---|---|---|
| 查询处理 | 直接使用原始提示词检索 | 查询转换:改写/拆解/用户画像 |
| 检索后处理 | 无 | 重排序模型二次筛选 |
| ⭐ 精准度 | 依赖单次检索质量 | 前后双重处理,精准度更高 |
| 实现复杂度 | 低 | 中等 |
五、课堂案例集
- 法律条文幻觉演示:背景→通用大模型面对高频更新的法律领域,训练数据滞后;过程→模型在无数据支持时仍给出看似靠谱的答案;结论→暴露通用模型在垂直领域的时效性短板,极易引发专业风险。
- 低代码平台实操演示:背景→从理论过渡到落地;过程→以扣子知识库为例演示低代码场景下知识库的搭建与调用;结论→完成从概念到落地的闭环,证明 RAG 可快速通过低代码平台实现。
- 个人知识库工作流拆解:背景→深入理解 RAG 核心检索架构;过程→结合个人知识库案例拆解含检索与对话分流的 RAG 工作流,演示混合搜索策略;结论→反复演示意在加深听众对核心检索架构的理解与记忆。
- 工作流运行演示:背景→验证 RAG 突破时间壁垒的能力;过程→将用户提示词与检索结果合并为大提示词输入大模型;结论→成功获取最新知识,证明 RAG 核心价值在于突破大模型训练数据的时间限制。
- Graph RAG 引入:背景→探讨 RAG 技术演进方向;过程→介绍基于知识图谱的 Graph RAG,难度较高但问答效果更佳;结论→为后续课程做铺垫,展示 RAG 从基础到高级的演进路径。
六、易错陷阱
- ❌ 错误理解:RAG 能彻底消除大模型的幻觉问题。
✅ 正确理解:RAG 只能缓解幻觉,无法根除;复杂场景下仍需配合其他手段(如事实核查、规则引擎)进行兜底。 - ❌ 错误理解:RAG 不需要任何模型,直接查数据库就行。
✅ 正确理解:RAG 依赖 Embedding 模型将文本转为向量,且不同模型返回的相关度数值标准不同,需根据模型特性调整阈值;检索质量直接决定 RAG 的上限。 - ❌ 错误理解:文档分块越长越好,信息越完整。
✅ 正确理解:分块长度受限于 Embedding 模型的输入上限,过长会导致检索精度下降,需合理拆分。 - ❌ 错误理解:RAG 检索到什么就全部喂给大模型。
✅ 正确理解:高级 RAG 在检索后必须经过重排序模型二次筛选,仅将最相关的片段送入大模型,用精准度换取生成质量。 - ❌ 错误理解:微调比 RAG 更好,因为模型真正"学会"了知识。
✅ 正确理解:微调是双刃剑——训练不当会导致效果倒退且成本高昂;对大多数企业,RAG 的低成本、免训练、近实时更新才是更务实的选择。
七、结构化复盘
① 核心收获:掌握 RAG 核心链路"分块 → 向量化 → 检索 → 重排序 → 大模型生成"五环节闭环;理解检索质量是天花板,查询转换与重排序是突破天花板的两条路径;明确向量数据库选型决定承载上限,RAG 低成本高回报已成为 AI 企业落地主流技术。可复用方法论:新技术选型时先评估"外挂"(RAG)是否够用,再考虑"内化"(微调),避免过早陷入高成本方案。
② 疑点清单:
- Graph RAG 的具体实现机制与知识图谱构建成本【待查证:需补充 Graph RAG 架构图与开源实现(如 Neo4j + LLM)】。
- 重排序模型的选型标准与性能开销【待查证:需对比 BGE-Reranker 等模型的精度/延迟/资源消耗】。
- 混合搜索策略中全文检索与语义检索的权重融合方式【待查证:需研究 Reciprocal Rank Fusion 等融合算法】。
③ 横向对比:
| 维度 | RAG | 传统搜索引擎 | 微调模型 |
|---|---|---|---|
| 知识时效性 | 近实时 | 实时 | 滞后(需重训) |
| 生成能力 | 有(大模型) | 无(仅返回链接) | 有(大模型) |
| 可解释性 | 高(可追溯出处) | 中(返回页面) | 低(黑盒) |
| 部署成本 | 低 | 中 | 高 |
④ 落地思考:① 企业知识库问答——将内部文档向量化构建客服/员工助手,零训练成本智能问答;② 实时资讯摘要——结合新闻 API + RAG 让大模型基于最新资讯生成行业日报;③ 个人第二大脑——基于个人笔记构建 RAG 系统,实现"问自己的笔记"的交互式知识管理。
八、深度延伸
以下内容非课堂原话,仅供拓展参考。
- 拓展问题:Graph RAG 为何效果更好?其代价是什么?
- 表层疑问:Graph RAG 相比普通 RAG 在哪些场景有显著优势?
- 根本原因:知识图谱引入了实体关系结构,使检索不仅能匹配语义相似度,还能通过图遍历捕捉多跳关联关系(如"A 的子公司 B 的 CEO 是谁"),这是纯向量相似度无法做到的。
- 逻辑矛盾/潜在假设:Graph RAG 假设知识可被有效结构化为图谱——但现实中大量知识是隐式、模糊或非结构化的,强制图谱化可能丢失信息或引入构建偏差。
- 系统性影响:Graph RAG 的知识图谱构建需要大量人工标注或 LLM 辅助抽取,成本远高于向量化;未来可能走向混合架构——向量检索负责"广撒网",图谱检索负责"深挖掘"。
九、附录
| 模块 | 作用 | 对应技术/工具 |
|---|---|---|
| 向量化 | 将文本转为高维向量 | Embedding 模型(BGE、OpenAI Embeddings) |
| 向量存储与检索 | 存储向量并执行相似度搜索 | Milvus、Elasticsearch、FAISS |
| RAG 框架 | 编排 RAG 全链路工作流 | LlamaIndex、LangChain |
| 重排序 | 对检索结果二次精排 | BGE-Reranker、Cohere Rerank |
| 低代码平台 | 零代码/低代码搭建 RAG 应用 | 扣子(Coze)知识库 |
| 高级检索 | 基于知识图谱的关系推理 | Graph RAG(Neo4j + LLM) |
1.4 RAG检索增强生成:技术架构大起底,AI应用新突破
系列导航:上一节(1.3 基础篇)我们掌握了 RAG 的基础闭环,了解了如何通过简单的"外挂知识库"解决大模型幻觉问题。但在企业级落地时,会很快遇到检索不准、海量数据存不下、复杂问题答不上来三大痛点。本节作为进阶篇,直击痛点,讲解高级 RAG 如何通过"查询转换"和"重排序"死磕精准度,以及如何为知识库选择坚挺的底层架构。
一、核心概要
- 高级 RAG 架构在基础链路之上引入查询转换与重排序两大核心环节,从检索前后两端"死磕"精准度。
- 查询转换不直接检索原始提示词,而是通过改写、拆解或结合用户画像消除歧义,让检索系统更"懂人"。
- 重排序模型是检索与大模型之间的"质检关卡",对海量候选片段二次打分,仅保留最相关片段送入生成环节。
- 文档分块策略高度依赖 Embedding 模型的输入长度上限,未来模型支持更长分块将直接降低预处理门槛。
- RAG 开发技能栈已催生专门工程师岗位,核心技术包括向量模型选型、数据库架构设计及混合搜索策略编排。
二、知识网络图
2.1 Mermaid 图
2.2 文本树状图(Mermaid 兜底)
RAG 核心技术架构
├── 查询转换层
│ ├── 提示词改写
│ ├── 多步拆解
│ └── 用户画像个性化
├── 重排序层
│ ├── 重排序模型二次打分
│ └── Top-K 筛选
├── 分块与向量化
│ ├── 分块长度 ≤ Embedding 上限
│ └── 未来更长分块降低门槛
├── 系统架构选型
│ ├── 单机版
│ └── 分布式 Milvus 弹性扩容
└── 工程与岗位
├── RAG 工程师岗位
└── 技能:向量模型 + 数据库
三、知识点详解
1. 查询转换(Query Transformation)
- 定义 / 核心概念:查询转换是高级 RAG 在检索前对用户输入进行的预处理环节,不直接用原始提示词检索,而是先将其改写、拆解或结合上下文/用户画像生成更优的检索查询。
- 关键要素拆解:
- 改写:消除提示词中的歧义表述,转化为检索系统更易理解的精确表达。
- 拆解:将复杂多跳问题拆为多个子查询,分别检索后合并。
- 用户画像个性化:结合用户历史偏好、身份标签等信息,生成针对性更强的搜索提示词。
- 直觉类比:查询转换就像翻译官兼参谋——用户说"那个东西怎么弄",翻译官先理解用户指的是"上周提到的 Python 装饰器",再把这个明确的问题交给检索系统;没有这步,检索系统只能对着模糊的"那个东西"瞎找。
- 课堂案例:讲师指出高级架构会结合用户个人画像进行个性化搜索,让系统"更懂人而非死板匹配"。
2. 重排序(Re-ranking)
- 定义 / 核心概念:重排序是在向量检索返回候选文档片段后,使用专门的重排序模型对结果进行二次打分和精细排序,仅将最相关的 Top-K 片段送入大模型。
- 关键要素拆解:
- 向量检索的相似度分数(如余弦相似度)是"粗排"信号,精度有限。
- 重排序模型(通常是交叉编码器 Cross-Encoder)能同时看待查询和文档,给出更精准的相关性评分。
- 相当于在检索和大模型之间加一道质检关卡,用计算成本换取生成质量。
- 直觉类比:向量检索像初筛简历的 HR——快速从 1000 份中挑出 100 份可能合适的;重排序模型像部门主管——仔细审阅这 100 份,只把最匹配的 5 份交给老板(大模型)做最终面试。
- 课堂案例:讲师结合工作流说明,重排序的核心目的是提升信息检索与答案生成的准确性,是高级架构"死磕精准度"的关键一环。
高级 RAG 架构流程图:
3. 文档分块策略与 Embedding 模型约束
- 定义 / 核心概念:**文档分块(Chunking)**是将长文档切分为适合 Embedding 模型处理的文本片段的过程,分块策略直接受限于 Embedding 模型的输入长度上限。
- 关键要素拆解:
- 每个分块必须能在 Embedding 模型的上下文窗口内完整处理。
- 分块过长:可能超出模型上限或稀释语义聚焦度。
- 分块过短:可能丢失上下文信息,导致检索到的片段不完整。
- 未来趋势:Embedding 模型支持的分块长度将越来越大,长文本处理能力提升将直接降低复杂文档的预处理门槛。
- 直觉类比:分块就像切披萨——切太大一口吃不下(超出模型输入),切太小尝不出完整味道(丢失上下文);随着模型"胃口"变大(更长上下文),切起来就越来越省事。
- 课堂案例:讲师结合图示讲解基础 RAG 架构,强调向量库存储的是经拆分后的文档知识片段,拆分长度受限于 Embedding 模型输入上限。
4. 分布式向量数据库架构
- 定义 / 核心概念:分布式向量数据库(如 Milvus)通过多节点集群方式存储和检索向量数据,支持弹性扩容,解决单机版在数据量和并发量增长时的性能瓶颈。
- 关键要素拆解:
- 单机版适合小规模验证和开发测试。
- 分布式版支持水平扩展,数据量增长时无需修改代码即可扩容。
- 低代码平台对接:主流 AI 应用开发平台(如 Coze/扣子、Dify)接入外部知识库时,底层通常支持配置分布式向量数据库,开发者无需编写复杂检索代码,在后台配置 Milvus 连接信息即可让大模型应用调用海量企业级私有数据。
- 直觉类比:单机向量数据库像一辆小货车——装满了就得换车;分布式 Milvus 像集装箱车队——货多了直接加挂车厢,路线和调度逻辑不用变;对 Coze 等平台开发者而言,可轻松突破平台自带知识库容量限制。
- 课堂案例:讲师以 Milvus 为例,说明其支持弹性扩容且无需修改代码,能有效应对海量数据带来的性能瓶颈。
5. RAG 工程师岗位与技能栈
- 定义 / 核心概念:随着 RAG 技术从辅助手段演变为 AI 应用落地的核心组件,行业催生了专门的RAG 工程师岗位,要求掌握从模型到数据库的完整技术链。
- 关键要素拆解:
- 向量模型:选型、微调、相关度阈值调优。
- 向量数据库:架构设计、索引策略、性能调优。
- RAG 框架:LlamaIndex / LangChain 等工作流编排。
- 混合搜索策略:全文检索 + 语义检索的融合。
- 直觉类比:RAG 工程师就像智能餐厅的主厨——不仅要会挑食材(向量检索),还要会调味(提示词工程),更要会设计厨房动线(系统架构),确保每道菜(回答)又快又好。
- 课堂案例:讲师明确 RAG 开发需掌握向量模型与数据库等技能,并指出该技术已催生专门工程师岗位。
四、重点难点辨析
| 维度 | 查询转换 | 重排序 |
|---|---|---|
| 作用阶段 | 检索前 | 检索后 |
| 核心目标 | 让检索系统更懂查询意图 | 从候选集中精准筛选最相关片段 |
| 典型技术 | 提示词改写/拆解/用户画像 | Cross-Encoder 交叉编码重排 |
| 计算开销 | 低(通常一次 LLM 调用) | 中~高(逐对计算查询-文档相关性) |
| ⭐ 重要度 | ⭐⭐⭐ 决定检索方向是否正确 | ⭐⭐⭐ 决定最终送入模型的内容质量 |
| 维度 | 单机向量数据库 | 分布式向量数据库 |
|---|---|---|
| 数据规模 | 小规模(GB 级) | 大规模(TB 级+) |
| 扩容方式 | 需迁移数据/改代码 | 弹性扩容,无需改代码 |
| 运维复杂度 | 低 | 中~高 |
| 适用场景 | 开发测试/个人项目 | 企业级生产环境 |
| ⭐ 重要度 | ⭐ 入门必备 | ⭐⭐⭐ 生产环境核心 |
五、课堂案例集
- 基础 RAG 架构闭环演示:背景→学员需完整理解 RAG 从检索到生成的每一步;过程→讲师补齐基础架构最后一块——检索到相关片段后与用户提示词一并喂给大模型生成最终答案;结论→基础 RAG 架构讲解完整收口,形成可运行的端到端闭环。
- 高级 RAG 架构图示讲解:背景→学员需理解 RAG 技术进阶方向;过程→讲师引入查询转换环节,演示不直接检索而是先改写/拆解提示词,并结合用户画像进行个性化搜索;结论→高级架构核心逻辑是让系统更懂人,而非死板匹配。
- 后续课程规划预告:背景→为学员建立学习路径预期;过程→讲师明确后续将详细拆解分块、矢量化等关键技术环节,采用由浅入深的逻辑;结论→先搭整体框架,再逐个击破核心难点,降低学习曲线。
六、易错陷阱
- ❌ 错误理解:查询转换就是简单地把用户问题换个说法。
✅ 正确理解:查询转换包含改写、拆解、结合用户画像三种策略,目的是消除歧义、处理多跳问题、实现个性化搜索,是系统"更懂人"的核心设计。 - ❌ 错误理解:向量检索返回的结果已经是最相关的了,不需要重排序。
✅ 正确理解:向量相似度是粗排信号,精度有限;重排序模型能同时考量查询与文档的深层语义关联,显著提升送入大模型的内容质量,是高级 RAG 的标配环节。 - ❌ 错误理解:分块越长越好,这样大模型能看到更多上下文。
✅ 正确理解:分块长度受 Embedding 模型输入上限约束,且过长会稀释语义聚焦度;合理分块是 RAG 效果的关键前置条件。 - ❌ 错误理解:分布式向量数据库需要重写应用代码才能扩容。
✅ 正确理解:以 Milvus 为代表的分布式向量数据库支持弹性扩容且无需修改代码,底层存储选型决定了系统承载上限。
七、结构化复盘
① 核心收获:掌握高级 RAG 的双重保障——查询转换(检索前)+ 重排序(检索后),前后端双重处理提升精准度;理解分块策略是地基(Embedding 模型输入上限决定分块长度);明确架构选型决定天花板(单机版起步,分布式 Milvus 是企业级落地必经之路);梳理 RAG 工程师技能图谱:向量模型 + 向量数据库 + 框架编排 + 混合搜索,四项缺一不可。
② 疑点清单:
- 查询转换的具体实现方式:改写用什么模型?拆解的边界如何确定?【待查证:需研究 HyDE、Step-back Prompting 等查询转换技术】。
- 重排序模型的延迟影响:在实时对话场景中,重排序增加的延迟是否可接受?【待查证:需测试不同重排序模型在 P99 延迟下的表现】。
- 分块策略的自动化方法:是否有自适应分块算法?【待查证:需了解 Semantic Chunking、Recursive Character Splitting 等策略】。
③ 横向对比:
| 维度 | 查询转换 | 传统搜索优化 |
|---|---|---|
| 优化对象 | LLM 检索查询 | 搜索引擎关键词 |
| 智能化程度 | 高(LLM 理解意图) | 中(规则/统计) |
| 个性化能力 | 强(用户画像) | 弱 |
④ 落地思考:① 智能客服升级——在现有客服系统中引入查询转换,将用户口语化、模糊的问题自动改写为标准查询,提升知识库命中率;② 企业搜索中台——基于 Milvus 分布式架构构建统一向量搜索中台,支撑多业务线(客服、推荐、分析)共享基础设施;③ RAG 质量监控体系——建立重排序前后相关度对比的监控看板,持续评估检索质量衰减,触发知识库更新或模型调优。
八、深度延伸
以下内容非课堂原话,仅供拓展参考。
- 拓展问题:如何系统性优化 RAG 的检索质量?
- 表层疑问:检索质量不好时,应该先调哪个环节?
- 根本原因:检索质量受分块策略、Embedding 模型选择、索引结构、查询转换、重排序五个环节共同影响,需定位瓶颈所在。
- 逻辑矛盾/潜在假设:假设"检索质量差 = Embedding 模型不够好"——实际上很多时候是分块策略不当或查询表述模糊导致的,盲目换模型可能收效甚微。
- 系统性影响:建立 RAG 质量评估体系(如 RAGAS 框架)需从检索召回率、上下文精度、答案忠实度三个维度持续度量,形成"评估→定位→优化"的闭环迭代机制。
九、附录
| 模块 | 作用 | 对应技术/工具 |
|---|---|---|
| 查询转换 | 检索前优化查询意图 | HyDE、Step-back Prompting |
| 重排序 | 检索后精排候选文档 | BGE-Reranker、Cohere Rerank |
| 分块策略 | 文档切分与优化 | Semantic Chunking、Recursive Splitting |
| 向量数据库 | 分布式向量存储检索 | Milvus、Weaviate、Qdrant |
| RAG 框架 | 工作流编排 | LlamaIndex、LangChain |
| 混合搜索 | 全文+语义融合检索 | Elasticsearch + 向量检索 |
1.5 自主规划模式 Agent 智能体操作实践
一、核心概要
- 客户平台个人空间由项目开发资源库、发布管理、模型管理、效果评测四大模块构成,资源库是创建智能体/应用与各类工具(工作流、对话流、插件)的核心入口。
- 智能体创建提供 AI 创建与标准创建两种模式:前者用自然语言描述自动生成(“提示词生成底层代码”),后者手动逐项配置,平台在"降门槛"与"深度定制"间做了平衡。
- 自主规划模式的核心是大模型作为"大脑"把复杂任务拆解为子任务,并自动调用工具(函数调用);其本质是任务拆解 + 意图识别 + 工具调度的链路。
- 智能体三大核心配置维度为人设定义、回复逻辑、运行模式(默认单 Agent 自主规划,可叠加工作流/触发器/插件扩展能力)。
- 自主规划存在精度瓶颈(工具调用不准、“光说不练”),必要时需人工介入兜底(改用对话流/人工编排工作流),是当前落地的主要难点。
二、知识网络图
2.1 Mermaid 图
2.2 文本树状图(Mermaid 兜底)
客户平台个人空间(智能体开发全链路)
├── 四大模块
│ ├── 项目开发资源库
│ ├── 发布管理
│ ├── 模型管理
│ └── 效果评测
├── 智能体创建
│ ├── AI创建:自然语言描述 → 自动生成智能体
│ └── 标准创建:手动逐项配置
├── 核心配置维度
│ ├── 人设定义(角色 / 性格)
│ ├── 回复逻辑(响应规则 / 逻辑分支)
│ └── 运行模式(默认单Agent自主规划)
└── 自主规划运行模式
├── 任务拆解(大模型作"大脑")
├── 意图识别 + 函数调用
├── 插件 / 工具自动调度
└── 精度瓶颈 → 人工兜底
三、知识点详解
1. 客户平台个人空间与资源库
- 定义 / 核心概念:个人空间是智能体项目的统一工作台,由四大模块构成;其中项目开发资源库(释义:存放与创建各类开发资产的仓库)是创建智能体和工具的核心入口。
- 关键要素拆解:
- 四大模块各司其职:资源库(开发)、发布管理(上线)、模型管理(底座)、效果评测(验证)。
- 资源库内支持创建工作流、对话流、插件等多种工具资产。
- 智能体与应用是两类顶层产物,均从资源库进入创建流程。
- 直觉类比:个人空间像一栋"智能体工厂"——资源库是车间(造零件),发布管理是出厂通道,模型管理是发动机仓库,效果评测是质检线。
- 课堂案例:讲师依次展示个人空间内资源库、发布管理等核心模块,标志课程从理论落到实操。
2. 智能体创建的两种模式
- 定义 / 核心概念:创建智能体有 AI 创建(释义:用自然语言描述需求,系统自动生成含人设与技能的智能体,相当于"提示词生成底层代码")和标准创建(手动配置各项属性)两种入口。
- 关键要素拆解:
- AI 创建:输入需求描述 → 系统自动产出人设 + 技能的完整智能体,实现"秒级从需求到可用智能体"。
- 标准创建:逐项填写基础信息、人设、回复逻辑、运行模式,适合深度定制。
- 部分字段非必填(无星号),确认后可保存进入下一步。
- 直觉类比:AI 创建像"点外卖"(说一句话出成品),标准创建像"自己下厨"(每味调料自己放),平台同时提供两种厨房。
- 课堂案例:讲师用 AI 创建描述"完美旅行规划师",系统快速输出含人设与技能的智能体;演示 5 日游规划时,AI 主动追问缺失的预算、地点,补充"北京至杭州自由行"后成功调用工具输出行程。
3. 自主规划模式的运行原理
- 定义 / 核心概念:自主规划模式(释义:由大模型自主把用户复杂需求拆解为子任务,并自动调度工具执行,无需人工编排流程)是当前 AI Agent 的主流架构形态。
- 关键要素拆解:
- 任务拆解:大模型作"大脑"将复杂需求拆为可并行/串行的子任务(如旅行规划拆为景点、地图、天气等)。
- 意图识别:自动识别用户意图,匹配并调度对应插件/工具。
- 函数调用(Function Calling):把 API 封装成函数,大模型按需调用,自动提取提示词中的参数传给 API 并返回结果——系统可展示完整调用日志,使"黑盒"透明化。
- 直觉类比:自主规划像一个"项目经理"——接到需求后自己拆分任务、给各专员(插件)派活、汇总结果;函数调用就是项目经理按需要"拨通各专员的电话(API)"。
- 课堂案例:旅行规划智能体中,各插件在收到用户需求后同步工作再整合输出完整方案;天气/景点插件被自动调度,调试日志展示参数提取与 API 调用完整链路。
4. 自主规划的精度瓶颈与兜底
- 定义 / 核心概念:自主规划依赖大模型意图识别的准确度,存在精度瓶颈(释义:模型自主规划时工具调用易出错、意图识别不稳定);当效果不达标时,改用人工设计工作流/对话流兜底。
- 关键要素拆解:
- 通用智能体(如 Manus)代表 AGI 趋势,但执行过程易出错,"光说不练"瓶颈突出。
- 可通过强化学习优化意图识别;效果不佳则退回人工编排的对话流模式。
- 本质是用"人工确定性"兜底"AI 不确定性",确保任务不跑偏。
- 直觉类比:自主规划像"让新人自由发挥"——效率高但偶尔跑偏;人工工作流像"给新人一份标准作业程序(SOP)",慢一点但稳。
- 课堂案例:讲师指出自主规划工具调用不准,以 Manus 为例说明通用智能体易出错;提出用人工干预明确拆解步骤来兜底。
四、重点难点辨析
| 维度 | AI 创建 | 标准创建 | 自主规划模式 |
|---|---|---|---|
| ⭐ 配置方式 | 自然语言描述自动生成 | 手动逐项配置 | 大模型自主拆解调度(无需人工编排) |
| ⭐ 门槛 | 极低(秒级生成) | 较高(需逐项设定) | 搭建门槛高(从零配工作流难) |
| 适用场景 | 快速出可用智能体 | 深度定制/精细控制 | 复杂需求、需灵活调度工具 |
| 稳定性 | 依赖提示词质量 | 配置确定、可控 | 精度瓶颈,需人工兜底 |
五、课堂案例集
- AI 创建"完美旅行规划师":背景→演示 AI 创建功能;过程→输入自然语言需求,系统自动生成含人设与技能的智能体;结论→AI 创建把搭建门槛从"写代码"降到"写描述",实现秒级转化。
- 5 日游规划测试:背景→测试自主规划工具调用;过程→AI 主动追问预算/地点,补充"北京至杭州自由行"后调度工具;结论→AI 具备基础信息补全与工具调用能力,能顺着用户意图推进。
- 工具调用日志展示:背景→验证函数调用链路;过程→系统自动提取提示词参数传给 API,返回景点列表并展示完整日志;结论→函数调用使黑盒透明化,直观呈现意图识别到底层 API 调用的完整链路。
- 行程规划与美食推荐:过程→出现短暂信息获取延迟,系统仍主动输出备选方案;结论→系统具备一定容错兜底机制,部分数据缺失也能保障基础体验。
六、易错陷阱
-
❌ 错误理解:智能体的"人设"决定一切效果。
✅ 正确理解:"人设"只是锦上添花,提示词质量才是核心命门,直接决定智能体表现。 -
❌ 错误理解:自主规划模式下大模型总能准确调用正确工具。
✅ 正确理解:自主规划存在精度瓶颈,工具调用可能不准,效果不佳时需人工设计工作流兜底。 -
❌ 错误理解:AI 创建和标准创建是两套完全独立的体系。
✅ 正确理解:两者最终都落到相同的人设/技能/运行模式配置,区别仅在"是否由 AI 自动生成初稿"。 -
❌ 错误理解:函数调用是某种独立的新技术组件。
✅ 正确理解:函数调用本质是把 API 封装成函数,让大模型按需识别意图并调用,是 Agent 工具调度的通用机制。
七、结构化复盘
① 核心收获:掌握客户平台四大模块与资源库作用;理解 AI 创建 vs 标准创建的双入口;把握自主规划"任务拆解+意图识别+函数调用"核心链路;建立"自主规划有精度瓶颈、需人工兜底"的方法论意识。
② 疑点清单:
- 强化学习优化意图识别的具体机制与落地效果【待查证:原文仅提及方向,未展开算法与数据闭环】。
- "发布至外网消耗流量"的计费粒度与测试期成本控制策略【待查证:原文仅提醒,未给具体数值】。
③ 横向对比(自主规划 vs 后续对话流/工作流):
| 维度 | 自主规划(本课) | 对话流/工作流(后续) |
|---|---|---|
| 流程编排 | 大模型自主拆解 | 人工编排节点 |
| 稳定性 | 依赖模型,存在波动 | 确定性高 |
| 搭建门槛 | 高(从零配难) | 中(先零件后组装) |
④ 落地思考:① 用 AI 创建快速产出智能体原型,再转标准创建微调;② 对精度敏感场景预设人工工作流兜底;③ 把外部 API 封装为插件/函数,让自主规划智能体按需调度。
八、深度延伸
以下内容非课堂原话,仅供拓展参考。
- 拓展问题:自主规划的"精度瓶颈"根源何在?
- 表层疑问:为何大模型自主规划时工具调用会不准?
- 根本原因:意图识别依赖模型对提示词/上下文的理解,参数抽取与工具选择均无硬性约束。
- 逻辑矛盾/潜在假设:假设"模型总能正确理解意图"本身不成立;自主规划把"任务拆解"这一确定性工作交给概率性模型。
- 系统性影响:催生"人工工作流兜底""多智能体协作"等确定性编排方案,形成"自主+确定"混合架构趋势。
九、附录
| 模块 | 作用 | 对应技术/工具 |
|---|---|---|
| 项目开发资源库 | 创建与管理开发资产 | 工作流、对话流、插件 |
| 发布管理 | 智能体上线发布 | 发布/下架、外网流量 |
| 模型管理 | 选择与管理大模型底座 | DeepSeek、豆包等 |
| 效果评测 | 验证智能体效果 | 评测/调试面板 |
| 自主规划运行模式 | 大模型自主拆解调度 | 函数调用、插件调度 |
1.6 单 Agent 对话流模式智能体搭建
一、核心概要
- 工作流平台提供**"工作流"与"对话流"两种模式**,二者本质相同、仅展现层差异;核心区别是任务型工作流无聊天窗口(适合发布 API)、对话流有聊天窗口(可绑定单/多智能体)。
- 单 Agent 对话流模式的构建遵循**“先独立开发工作流,再挂载至智能体”**的流水线式"先零件后组装"原则,有效降低复杂场景开发门槛。
- 单智能体仅能绑定一个主工作流,但可通过插件形式挂载多个工作流,以"主从架构"规避单线流程局限。
- 多轮对话/上下文记忆默认关闭,必须在工作流的大模型节点中手动开启"对话历史"开关才能激活;这是典型的配置依赖关系。
- 该模式适用于需精准控制节点的复杂场景,其核心价值是用人工编排的确定性弥补自主规划的不确定性。
二、知识网络图
2.1 Mermaid 图
2.2 文本树状图(Mermaid 兜底)
单Agent对话流模式智能体搭建
├── 两种模式辨析
│ ├── 工作流:无聊天窗口 → 适合发布 API(后台自动化)
│ ├── 对话流:有聊天窗口 → 可绑单/多 Agent(前台交互)
│ └── 二者本质相同,仅展现层差异
├── 构建流程(先零件后组装)
│ ├── ① 独立开发工作流(造零件)
│ └── ② 挂载至智能体(组装)
├── 绑定机制:主从架构
│ ├── 一个主工作流(主)
│ └── 多个工作流以插件形式挂载(从)
└── 多轮对话配置依赖
├── 默认关闭上下文记忆
├── 需手动开启"对话历史"开关
└── 前提:底层大模型支持多轮
三、知识点详解
1. 工作流 vs 对话流:打破概念壁垒
- 定义 / 核心概念:平台提供工作流(释义:以节点编排任务、无聊天窗口的流程)与对话流(释义:具备聊天窗口、可绑定智能体的交互式流程)两种模式;二者本质相同,仅展现层/交互形态不同。
- 关键要素拆解:
- 工作流:无聊天窗口,适合发布为 API,走后台自动化。
- 对话流:有聊天窗口,可绑定单智能体或多智能体,走前台交互。
- 核心结论:一个后台自动化、一个前台交互,分工明确但底层同源。
- 直觉类比:工作流像"工厂的自动化产线"(无窗口、按流程出结果),对话流像"带服务台的营业厅"(有窗口、可与用户多轮交互),本质都是"按流程办事"。
- 课堂案例:讲师澄清两者本质相同、仅展现层有差异,帮听众打破概念壁垒,避免被不同叫法绕晕。
2. "先零件后组装"的构建流程
- 定义 / 核心概念:单 Agent 对话流模式的推荐构建法是**先独立开发工作流(零件),再将其挂载至智能体(组装)**的流水线式操作。
- 关键要素拆解:
- 步骤一:独立开发/调试好工作流(含大模型节点、工具节点等)。
- 步骤二:创建工作流类型的智能体,将工作流挂载为其主流程。
- 价值:把复杂场景拆解为可控的零件开发,降低开发门槛。
- 直觉类比:像"先造好发动机、车轮等零件,再组装成整车",而非试图一次性捏出一辆车。
- 课堂案例:讲师拆解单人对话流构建步骤,明确"先独立开发工作流再挂载至智能体",强调这是流水线式操作。
3. 主从架构:单智能体的多工作流挂载
- 定义 / 核心概念:单智能体仅能绑定一个主工作流,但可通过插件形式挂载多个其他工作流,形成"主从架构"(释义:一个主流程 + 多个以插件形式接入的从流程)。
- 关键要素拆解:
- 主工作流:智能体直接绑定的核心流程。
- 从工作流:以插件形式挂载,被主流程按需调用。
- 价值:用主从架构规避了"单线流程"的局限性,兼顾单 Agent 简洁与能力扩展。
- 直觉类比:主工作流像"部门主管",挂载的从工作流像"外援专员"——主管主导流程,遇专项任务再请专员(插件)出手。
- 课堂案例:讲师演示单人智能体仅能绑定一个主工作流,但可通过插件形式挂载多个工作流,以主从架构规避单线局限。
4. 多轮对话与"对话历史"开关
- 定义 / 核心概念:智能体的多轮对话/上下文记忆默认关闭;必须在工作流的大模型节点中手动开启"对话历史"开关,且依赖底层大模型对多轮对话的支持。
- 关键要素拆解:
- 系统默认关闭上下文记忆 → 不开启则无法多轮交互。
- 开启位置:工作流的大模型节点内的"对话历史"开关(需人工干预)。
- 配置依赖:上层多轮设置生效的前提是底层"对话历史"已开启(“底层开关没开,上层设置白搭”)。
- 直觉类比:“对话历史"开关像"记忆开关”——关着时智能体每轮都"失忆",打开后才记得前文。
- 课堂案例:讲师强调必须在工作流大模型节点手动开启"对话历史"开关,指出系统默认关闭上下文记忆,需人工干预激活多轮交互。
四、重点难点辨析
| 维度 | 工作流 | 对话流 | 自主规划(1.5) |
|---|---|---|---|
| ⭐ 有无聊天窗口 | 无 | 有 | 视载体而定 |
| ⭐ 主要用途 | 发布 API / 后台自动化 | 前台交互 / 绑 Agent | 大模型自主调度 |
| 流程编排 | 人工编排节点 | 人工编排节点 | 模型自主拆解 |
| 稳定性 | 确定性高 | 确定性高 | 依赖模型,有波动 |
五、课堂案例集
- 工作流 vs 对话流辨析:背景→听众易混淆两种模式;过程→讲师剖析核心区别(有无聊天窗口、API vs 交互);结论→二者本质相同仅展现层差异,一个后台自动化一个前台交互。
- "先零件后组装"构建:背景→降低复杂场景门槛;过程→先独立开发工作流再挂载至智能体;结论→流水线式操作有效降低开发门槛。
- 主从架构挂载:背景→单智能体流程受限;过程→绑定一个主工作流 + 插件形式挂载多个工作流;结论→主从架构规避单线局限,兼顾简洁与扩展。
- "对话历史"开关激活多轮:背景→默认无法多轮交互;过程→在工作流大模型节点手动开启开关;结论→多轮对话依赖人工开启"对话历史",是典型配置依赖。
六、易错陷阱
-
❌ 错误理解:工作流和对话流是两套完全不同的技术。
✅ 正确理解:二者本质相同,仅展现层/交互形态有差异,无需被不同叫法绕晕。 -
❌ 错误理解:单智能体只能挂载一个工作流,能力受限。
✅ 正确理解:单智能体可绑定一个主工作流 + 以插件形式挂载多个工作流(主从架构)。 -
❌ 错误理解:创建智能体后默认就支持多轮对话。
✅ 正确理解:多轮对话默认关闭,须手动在工作流大模型节点开启"对话历史"开关才生效。 -
❌ 错误理解:对话流模式完全由模型自主规划。
✅ 正确理解:对话流是人工编排节点的确定性生活流程,核心价值是用人工确定性弥补自主规划的不确定性。
七、结构化复盘
① 核心收获:辨析工作流/对话流同源异态;掌握"先零件后组装"构建法;理解主从架构的多工作流挂载;牢记"对话历史"开关的配置依赖关系。
② 疑点清单:
- 工作流发布为 API 的具体接入方式与鉴权机制【待查证:原文未展开 API 发布细节】。
- 以插件形式挂载的工作流与主工作流之间如何传递上下文/变量【待查证:原文未说明参数透传机制】。
③ 横向对比(对话流 vs 自主规划):见第四节对比表;核心差异在于"人工编排确定节点"vs"模型自主拆解"。
④ 落地思考:① 复杂场景优先用对话流 + 人工编排保障稳定性;② 把可复用能力封装为工作流插件,供主流程挂载;③ 搭建时第一时间开启"对话历史"开关,避免多轮失效。
八、深度延伸
以下内容非课堂原话,仅供拓展参考。
- 拓展问题:为何"人工确定性"能弥补"AI 不确定性"?
- 表层疑问:对话流为何比自主规划更稳定?
- 根本原因:人工编排把任务拆解这一概率性工作转为确定性生活节点,消除模型意图识别的波动。
- 逻辑矛盾/潜在假设:假设"模型自主总能正确理解"不成立;对精度敏感场景,确定性 > 灵活性。
- 系统性影响:推动"自主规划 + 人工工作流兜底"混合架构成为工程主流。
九、附录
| 模块 | 作用 | 对应技术/工具 |
|---|---|---|
| 工作流 | 无窗口任务编排,可发布 API | 节点编排、API 发布 |
| 对话流 | 有窗口交互式流程,绑 Agent | 单/多智能体绑定 |
| 主工作流绑定 | 智能体核心流程 | 工作流挂载 |
| 插件式工作流 | 扩展智能体能力(主从) | 工作流以插件挂载 |
| 对话历史开关 | 激活多轮上下文记忆 | 大模型节点配置 |
1.7 多智能体协作模式搭建
一、核心概要
- 多智能体协作的核心逻辑是系统充当"大脑"调度:依据提示词将指令精准分发至各单智能体,实现"专业的人干专业的事、各司其职"。
- 创建多智能体需先手动创建单智能体,再切换为多智能体模式(当前平台暂不支持 AI 直接创建多智能体),创建流程存在优化空间。
- 多智能体画布以开始节点分发任务,各单智能体节点为智能体级粗颗粒度(区别于工作流含代码/图像细节的细颗粒度);每个智能体可独立选择大模型底座并设定适用场景与技能。
- 调度机制分**“固定回复节点”(锁定单一智能体)与"开始节点"(支持自主规划分发)**两种,开发者在"单线到底"与"灵活调度"间取舍。
- 落地中存在误触发、模型兼容性差异、配置漂移(历史节点模型固化)、函数调用展示不一致等踩坑点,多智能体协作当前仍偏"开盲盒",强依赖人工调优。
二、知识网络图
2.1 Mermaid 图
2.2 文本树状图(Mermaid 兜底)
多智能体协作模式搭建与调度
├── 创建流程
│ ├── 先建单智能体 → 切换多Agent模式
│ └── 暂不支持 AI 直接创建多Agent
├── 调度架构
│ ├── 系统"大脑"按提示词分发指令
│ ├── 固定回复节点:锁定单一 Agent(单线到底)
│ └── 开始节点:自主规划分发(灵活调度)
├── 节点与配置
│ ├── 开始节点分发任务
│ ├── 单Agent节点 = 智能体级粗颗粒度
│ ├── 各Agent独立选择大模型底座
│ └── 技能/场景 = 给大模型喂函数描述
└── 落地踩坑(实测)
├── 误触发(路由不精准)
├── 模型兼容性差异
├── 配置漂移(历史节点模型固化)
└── 强依赖人工调优(开盲盒阶段)
三、知识点详解
1. 多智能体协作的核心逻辑
- 定义 / 核心概念:多智能体协作(释义:由系统统一调度多个各具专长的单智能体,按任务分工协作完成复杂需求)的核心是"系统当大脑、专业 Agent 各司其职"。
- 关键要素拆解:
- 系统依据提示词/场景描述,将指令精准分发至适用的单智能体。
- 各单智能体独立承担子任务,类似"把复杂任务拆解,专业的人干专业的事"。
- 支持按预设顺序串联多个智能体,也可由系统自主规划调度。
- 直觉类比:多智能体像"一家专业事务所"——接到项目(用户需求)后,所长(系统大脑)按专长把任务分发给律师、会计师、工程师(各单智能体),各干各的再汇总。
- 课堂案例:讲师剖析多智能体协作核心逻辑,指出系统充当"大脑"依据提示词将指令精准分发至各单智能体,主打各司其职。
2. 创建流程与全局设定
- 定义 / 核心概念:当前平台暂不支持 AI 直接创建多智能体,需先手动创建单智能体再切换为多智能体模式;左侧提供全局设定(系统指令、触发器、多轮对话、开场白等)。
- 关键要素拆解:
- 创建路径:新建单智能体 → 切换模式为多智能体。
- 全局设定项:系统指令、触发器、多轮对话、开场白等。
- 注意:多轮对话需底层大模型支持;界面将单智能体节点命名为"多智能体"存在歧义,易让新手混淆。
- 直觉类比:创建多智能体像"先招到单个员工,再把部门升级为团队",而非一键建好整个团队。
- 课堂案例:讲师指出当前暂不支持 AI 直接创建多智能体,需手动创建后切换,并直言该默认设置存在改进空间(产品体验优化点)。
3. 画布、节点颗粒度与独立配置
- 定义 / 核心概念:多智能体画布以开始节点分发任务;单智能体节点是智能体级粗颗粒度,区别于工作流节点(含代码、图像等细节的细颗粒度);每个智能体可独立选择大模型底座并设定适用场景与添加技能。
- 关键要素拆解:
- 开始节点:负责把任务分发至各单智能体节点。
- 颗粒度差异:多智能体节点(粗,Agent 级) vs 工作流节点(细,含代码/图像等)。
- 独立性:每个智能体有独立的"大脑"(大模型底座)+ “工具箱”(技能/插件)。
- 工作流是"万能容器",可随意绑定单/多智能体,灵活兼容。
- 直觉类比:多智能体节点像"外包团队接口"(只关心团队能干什么),工作流节点像"团队内部的工位细节"(关心每人具体怎么操作)。
- 课堂案例:讲师将多智能体节点与工作流节点对比(粗 vs 细颗粒度),演示多智能体画布自适应布局,并展示每个智能体可独立选大模型底座、设定场景与技能。
4. 调度机制:固定回复节点 vs 开始节点
- 定义 / 核心概念:多智能体调度提供固定回复节点(释义:锁定单一智能体、单线到底)与开始节点(释义:每次重新分配意图、支持自主规划分发)两种模式,本质在"状态保持"与"重新路由"间取舍。
- 关键要素拆解:
- 固定回复节点:锁定当前节点/单一智能体,流程确定。
- 开始节点:每次重新分配意图,支持灵活自主规划调度。
- 选择"上一次回复"→ 锁定当前节点(状态保持);选择"开始"节点 → 每次重新路由。
- 直觉类比:固定回复像"指定某专员全程跟进"(单线),开始节点像"每轮重新派单给最合适的专员"(灵活)。
- 课堂案例:讲师对比两种模式,指出前者锁定单一智能体、后者支持自主规划,让开发者在"单线到底"与"灵活调度"间取舍。
四、重点难点辨析
| 维度 | 多智能体协作 | 单 Agent 对话流 | 自主规划(单 Agent) |
|---|---|---|---|
| ⭐ 编排主体 | 系统调度多个 Agent | 单 Agent + 人工工作流 | 大模型自主拆解 |
| ⭐ 节点颗粒度 | 粗(Agent 级) | 中(工作流节点) | 细(工具/函数级) |
| ⭐ 灵活性 | 高(可嵌套插件) | 中(主从扩展) | 高但波动大 |
| 稳定性 | 依赖调度+模型,偏盲盒 | 确定性高 | 依赖模型,有瓶颈 |
| 适用 | 复杂多专长任务 | 需精准控节点的场景 | 灵活调度工具 |
五、课堂案例集
- AI 自动配置多模态模型与插件:背景→降低配置门槛;过程→系统自动匹配景点百科、高德地图等工具;结论→把"找工具"交给 AI,大幅降低配置门槛(1.5 延续案例)。
- 多智能体调试与自动调度:背景→验证调度效果;过程→系统基于提示词匹配适用场景,自动调度智能体并自主规划调用技能插件;结论→系统可实现"找人干活"的全自动调度。
- 全局跳转条件:过程→讲解优先级高于常规场景匹配、用于意图识别分发、最多支持 5 个;结论→全局跳转设硬上限,大概率为防止调度链路过复杂导致性能下降。
- 旅行规划师案例澄清:过程→演示发现实际是调度多个插件而非多智能体;结论→纠正误区:该案例属"单 Agent + 多插件",并非真正的多智能体协作。
- 落地踩坑实录(重点):过程→① 测试新提示词时误触发景点查询+路径规划两个智能体导致出错;② 切换 1.5 pro 32k 遇卡顿、豆包 1.5 多次输出错误;③ 工作流节点仍显示旧版豆包 1.5 pro 32k(历史节点模型固化,缺乏全局同步);④ 部分模型未展示工作流/函数调用信息(兼容性差异);⑤ 插件因认证密钥问题无法调用;结论→多智能体协作落地偏"开盲盒",强依赖人工调优与换模型绕 bug。
六、易错陷阱
-
❌ 错误理解:多智能体协作 = 单 Agent 同时调用多个插件。
✅ 正确理解:多智能体是多个各具专长的 Agent 协作(系统调度分发),单 Agent + 多插件是另一回事;旅行规划师案例实际是后者。 -
❌ 错误理解:AI 创建可直接生成多智能体。
✅ 正确理解:当前平台暂不支持 AI 直接创建多智能体,需先建单智能体再切换模式。 -
❌ 错误理解:修改全局大模型后,所有历史工作流节点自动同步。
✅ 正确理解:早期添加的工作流节点会固化当时的模型选择,后续修改不自动同步(配置漂移),需逐个检查更新。 -
❌ 错误理解:多智能体调度准确率有保障、开箱即用。
✅ 正确理解:多智能体调度准确率无法保证,存在误触发与模型兼容差异,当前仍强依赖人工调优。 -
❌ 错误理解:智能体发布测试无成本顾虑。
✅ 正确理解:智能体发布至外网会消耗流量,建议测试后及时下架,测试阶段需有成本意识。
七、结构化复盘
① 核心收获:掌握多智能体"系统调度、各司其职"核心逻辑与创建流程;理解画布节点颗粒度差异与独立配置;辨析固定回复/开始两种调度模式;积累误触发、配置漂移、模型兼容等实战踩坑经验。
② 疑点清单:
- 全局跳转条件"最多 5 个"背后的性能/调度复杂度量化依据【待查证:原文仅为合理推测】。
- 历史工作流节点模型选择缺乏全局同步机制,是否有批量迁移/升级方案【待查证:原文仅指出问题,未给官方解法】。
- DeepSeek R1 支持函数调用的具体版本与生效条件【待查证:原文仅提及"5 月底更新后支持"】。
③ 横向对比(多智能体 vs 单 Agent 对话流 vs 自主规划):见第四节对比表;核心趋势为"确定性从低到高:自主规划 < 多智能体 < 单 Agent 对话流"。
④ 落地思考:① 复杂多专长任务优先拆为多智能体分工,各配独立底座;② 调度不准时用固定回复节点锁定单线兜底;③ 修改模型底座后务必逐节点核查,避免配置漂移;④ 测试期及时下架外网发布以控成本。
八、深度延伸
以下内容非课堂原话,仅供拓展参考。
- 拓展问题:多智能体协作为何仍处"开盲盒"阶段?
- 表层疑问:为何多智能体调度准确率不稳定、常需换模型绕 bug?
- 根本原因:调度依赖模型对场景描述/提示词的理解,路由与工具调用均无硬性约束;且各 Agent 底座模型能力不一、兼容性参差。
- 逻辑矛盾/潜在假设:假设"系统总能精准匹配适用智能体"不成立;把"任务分发"交给概率性模型,确定性天然不足。
- 系统性影响:催生"固定回复锁定单线"“人工调优提示词”"混合多 Agent + 工作流兜底"等工程实践,推动平台完善全局配置同步与调度可观测性。
九、附录
| 模块 | 作用 | 对应技术/工具 |
|---|---|---|
| 多智能体创建 | 建单 Agent 后切换模式 | 单智能体 → 多 Agent 模式 |
| 全局设定 | 系统指令/触发器/多轮/开场白 | 左侧全局配置面板 |
| 开始节点 | 分发任务、重新路由 | 画布入口节点 |
| 单 Agent 节点 | 智能体级粗颗粒度单元 | 各专长智能体 |
| 固定回复节点 | 锁定单一 Agent(单线) | 确定性调度 |
| 全局跳转条件 | 高优先级意图识别分发 | 最多 5 个 |
| 技能/场景配置 | 给大模型喂函数描述 | 插件、知识库 |
| 模型底座 | 各 Agent 独立选择 | DeepSeek / 豆包等 |
更多推荐


所有评论(0)