一、引言：为什么需要一份名词表

AI Agent 开发涉及大模型、提示工程、工具调用、记忆管理、多智能体协作等多个技术方向，术语密集且更新极快。同一个概念在不同框架、不同论文中往往有不同叫法，初学者很容易在名词的迷宫里打转。本文按「基础模型层 → Agent 核心机制 → 工具与执行 → 记忆与知识 → 多智能体 → 工程与评估」的顺序，系统梳理 AI Agent 开发中的常见技术名词，力求给出准确、简洁、可对照的定义。

二、基础模型层名词

2.1 LLM（Large Language Model，大语言模型）

基于海量文本训练、具备通用语言理解与生成能力的神经网络模型，是绝大多数 Agent 的「大脑」。典型代表包括 GPT 系列、Claude 系列、Llama 系列、Qwen 系列等。

2.2 Token（词元）

模型处理文本的最小单位。一个 Token 可能是一个字、一个词或词的一部分。Token 数量直接决定上下文长度限制和调用成本，是 Agent 设计中必须关注的资源单位。

2.3 Context Window（上下文窗口）

模型单次推理能够接收的最大 Token 数量，包含输入提示与输出内容。上下文窗口的大小决定了 Agent 一次能「看到」多少历史对话、文档和工具返回结果。

2.4 Temperature（温度）

控制生成随机性的采样参数。数值越低输出越确定、越保守；数值越高输出越发散、越有创造性。Agent 中执行工具调用、结构化输出时通常使用较低温度。

2.5 Function Calling（函数调用）

模型按照预定义 Schema 输出结构化调用请求的能力，是 Agent 与外部世界交互的基础协议。模型不直接执行函数，而是返回「调用哪个函数、传什么参数」，由宿主程序执行后再把结果回传给模型。

2.6 Structured Output（结构化输出）

约束模型输出为指定 JSON Schema 或特定格式的能力，常用于让 Agent 的决策结果可被程序稳定解析。

2.7 Embedding（向量嵌入）

把文本映射为高维稠密向量的技术。语义相近的文本在向量空间中距离更近，是语义检索、记忆召回和聚类的基础。

2.8 Multimodal（多模态）

模型同时处理文本、图像、音频、视频等多种输入模态的能力。多模态 Agent 可以「看」截图、「听」语音，从而完成更复杂的任务。

三、Agent 核心机制名词

3.1 AI Agent（智能体）

以 LLM 为决策核心，能够感知环境、规划任务、调用工具、根据反馈迭代执行，最终自主完成目标的软件系统。与普通聊天机器人的关键区别在于：Agent 具备「行动」能力，而不只是「回答」能力。

3.2 Agent Loop（智能体循环）

Agent 的基本运行范式：观察（Observe）→ 思考（Think）→ 行动（Act）→ 观察结果，循环往复直到任务完成或达到终止条件。几乎所有 Agent 框架的底层都是这个循环。

3.3 Planning（规划）

Agent 把复杂目标拆解为可执行子任务的过程。常见形式包括任务分解、步骤排序、依赖分析和动态重规划。

3.4 ReAct（Reasoning + Acting）

一种经典的 Agent 推理范式，让模型交替输出「思考（Thought）」和「行动（Action）」，并根据行动结果继续推理。ReAct 显著提升了模型在需要外部信息时的可靠性。

3.5 Chain of Thought（CoT，思维链）

引导模型在给出最终答案前先输出中间推理步骤的提示技术。CoT 是 Agent 进行复杂决策的重要基础能力。

3.6 Reflection（反思）

Agent 对自身输出进行检查、评价并修正的机制。通过「生成 → 评审 → 改进」的循环，可以显著提升输出质量。

3.7 Prompt（提示词）

输入给模型的指令与上下文。Agent 中的 Prompt 通常包含角色设定、任务描述、可用工具说明、输出格式约束和历史信息。

3.8 System Prompt（系统提示词）

位于对话最前端、用于设定模型角色与行为边界的提示内容，优先级通常高于用户输入。

3.9 Prompt Engineering（提示工程）

通过设计、组织和迭代提示词来提升模型输出质量的方法论，包括角色设定、少样本示例、格式约束、分步引导等技巧。

3.10 Few-shot / Zero-shot

Few-shot 指在提示中给出若干示例让模型模仿；Zero-shot 指不提供示例、仅靠指令完成任务。

3.11 Hallucination（幻觉）

模型生成看似合理但与事实不符的内容。Agent 通过工具调用、检索增强和结果校验来降低幻觉风险。

四、工具与执行层名词

4.1 Tool（工具）

Agent 可以调用的外部能力单元，如搜索、数据库查询、代码执行、文件读写、HTTP 请求等。工具通常以名称、描述和参数 Schema 的形式注册给模型。

4.2 Tool Calling / Tool Use

Agent 选择并调用工具的过程，包含工具选择、参数构造、执行和结果解析四个环节。

4.3 MCP（Model Context Protocol，模型上下文协议）

一种标准化协议，用于统一模型与外部工具、数据源之间的连接方式，使工具可以被不同模型和客户端复用，降低集成成本。

4.4 Sandbox（沙箱）

隔离的执行环境，用于安全地运行 Agent 生成的代码或命令，防止对宿主系统造成破坏。

4.5 Code Interpreter（代码解释器）

允许 Agent 编写并执行代码来完成数据分析、文件处理、绘图等任务的工具环境。

4.6 Human-in-the-Loop（人在回路）

在 Agent 执行的关键节点引入人工确认或干预的机制，常用于高风险操作前的审批。

4.7 Guardrails（护栏）

对 Agent 输入输出进行约束与过滤的安全机制，包括内容审核、格式校验、权限控制和敏感操作拦截。

五、记忆与知识层名词

5.1 Short-term Memory（短期记忆）

当前会话内的上下文信息，通常直接放在上下文窗口中，随对话轮次增长而累积。

5.2 Long-term Memory（长期记忆）

跨会话持久化的信息存储，通常借助向量数据库或结构化数据库实现，支持按需检索召回。

5.3 RAG（Retrieval-Augmented Generation，检索增强生成）

在生成前先从外部知识库检索相关内容并注入提示的技术。RAG 让 Agent 能够基于私有或最新知识作答，是缓解幻觉的主流方案。

5.4 Chunking（文本切分）

把长文档切分为适合检索和嵌入的片段的过程。切分粒度直接影响召回质量，常见策略包括按固定长度、按语义边界、按标题层级切分。

5.5 Vector Database（向量数据库）

专门用于存储和检索高维向量的数据库，支持近似最近邻（ANN）搜索，常见产品包括 Milvus、Qdrant、Weaviate、pgvector 等。

5.6 Semantic Search（语义检索）

基于向量相似度而非关键词匹配的检索方式，能够召回表述不同但语义相近的内容。

5.7 Hybrid Search（混合检索）

结合关键词检索（如 BM25）与向量检索的召回策略，兼顾精确匹配与语义泛化能力。

5.8 Rerank（重排序）

在初步召回结果之上，用更精细的模型对候选片段重新打分排序，提升最终注入上下文的相关性。

5.9 Knowledge Base（知识库）

Agent 可检索的外部知识集合，通常由文档、FAQ、数据库记录等经过清洗和向量化后构成。

六、多智能体与编排名词

6.1 Multi-Agent System（多智能体系统）

由多个具备不同角色或能力的 Agent 协同完成任务的系统。通过分工与协作，可以处理单个 Agent 难以胜任的复杂流程。

6.2 Orchestrator（编排器）

负责调度多个 Agent 或工具执行顺序的组件，决定任务如何分发、结果如何汇总。

6.3 Supervisor（监督者）

多智能体架构中的协调角色，负责把任务分配给子 Agent 并整合其输出。

6.4 Handoff（任务移交）

一个 Agent 把当前任务或对话控制权转交给另一个 Agent 的机制，常用于专业分工场景。

6.5 Workflow（工作流）

预先定义好步骤与分支的确定性流程。与自主 Agent 相比，工作流可控性更强、可预测性更高，适合流程稳定的业务场景。

6.6 Agentic Workflow

在工作流中引入模型自主决策节点的混合形态，兼顾流程可控性与智能灵活性。

6.7 A2A（Agent-to-Agent）

描述 Agent 之间通信与协作的协议或模式，关注消息格式、能力发现和任务协商。

七、工程与评估层名词

7.1 Framework（框架）

用于构建 Agent 的软件开发框架，提供工具注册、循环控制、记忆管理等基础能力，常见有 LangChain、LangGraph、LlamaIndex、AutoGen、CrewAI 等。

7.2 LangGraph

以图结构描述 Agent 状态流转的编排框架，节点表示处理步骤，边表示条件跳转，适合构建有状态、可回溯的复杂 Agent。

7.3 State（状态）

Agent 在运行过程中维护的上下文数据集合，包括对话历史、中间结果、工具返回和任务进度。

7.4 Checkpoint（检查点）

对 Agent 运行状态的持久化快照，支持中断恢复、回放调试和人工介入。

7.5 Tracing（链路追踪）

记录 Agent 每一步推理、工具调用和耗时的可观测能力，是排查问题与优化性能的关键手段。

7.6 Evaluation（评估）

对 Agent 输出质量、任务完成率、工具调用准确率等指标进行量化衡量的过程，常用方法包括人工评分、模型评审和自动化测试集。

7.7 Benchmark（基准测试）

标准化的评测数据集与指标集合，用于横向比较不同模型或 Agent 方案的能力水平。

7.8 Latency（延迟）

从请求发出到收到响应的时间。Agent 因涉及多轮推理与工具调用，延迟通常显著高于单次模型调用，是体验优化的重点。

7.9 Cost per Task（单任务成本）

完成一个任务所消耗的 Token 费用与工具调用费用之和，是 Agent 落地时必须权衡的工程指标。

7.10 Observability（可观测性）

通过日志、指标和追踪全面掌握 Agent 运行状况的能力，涵盖输入输出、工具调用、异常和性能数据。

八、名词速查表

名词	英文全称	一句话解释
LLM	Large Language Model	Agent 的决策大脑
Token	Token	模型处理文本的最小单位
Context Window	Context Window	单次推理可接收的最大 Token 数
Function Calling	Function Calling	模型输出结构化调用请求的能力
Embedding	Embedding	把文本映射为语义向量
Agent Loop	Agent Loop	观察、思考、行动的循环范式
ReAct	Reasoning + Acting	推理与行动交替的经典范式
CoT	Chain of Thought	先推理再作答的提示技术
RAG	Retrieval-Augmented Generation	检索增强生成，缓解幻觉
MCP	Model Context Protocol	模型与工具连接的标准化协议
Guardrails	Guardrails	输入输出的安全约束机制
Multi-Agent	Multi-Agent System	多智能体协同完成任务
Handoff	Handoff	Agent 之间的任务移交
Tracing	Tracing	记录每一步推理与调用的可观测能力

九、结语

AI Agent 开发的名词体系仍在快速演进，新概念、新协议层出不穷。建议在掌握上述核心术语的基础上，结合具体框架的官方文档和实际项目反复对照，把名词真正转化为可落地的工程认知。名词只是入口，理解其背后的设计动机与适用边界，才是用好 Agent 的关键。