从 LLM 到可用 AI Agent
Agent 不只是会调用工具的聊天模型。它是一套围绕目标运行的系统: 模型负责判断,工具负责行动,状态与记忆维持连续性,运行时负责恢复, Evaluation 与 Security 则决定它能否进入生产环境。
什么是 AI Agent?
最实用的定义是:Agent 是一个围绕目标持续观察、判断并采取行动的应用程序。 LLM 是核心决策器,但不是整个 Agent。
普通 LLM 调用通常是“一次输入,一次输出”。Agent 则会在多轮内部循环中,根据工具返回的真实结果修正下一步行动。 因此,Agent 的关键不在于回答得更长,而在于它能够形成 目标 → 行动 → 观察 → 调整 的闭环。

Workflow 与 Agent 的边界
| 维度 | Workflow | Agent |
|---|---|---|
| 执行路径 | 由代码预先规定 | 模型根据当前状态动态决定 |
| 可预测性 | 较高,便于测试 | 较低,需要更强观测与约束 |
| 成本与延迟 | 通常较低 | 可能发生多轮推理与工具调用 |
| 适用任务 | 步骤稳定、规则清楚 | 步骤无法预先穷举、需要探索与调整 |
工程判断
能用确定性代码、单次 LLM 调用或固定 Workflow 解决的问题,不必强行做成 Agent。自主性越高,测试、成本、延迟和安全控制也越复杂。
Agent Loop:Agent 真正工作的地方
Agent Loop 是最小执行单元。模型读取当前上下文后,要么给出最终答案,要么产生 Tool Call; 应用执行工具并把 Observation 返回模型,模型再进行下一轮判断,直到完成或命中停止条件。
停止条件不能省略
- 任务完成:模型输出最终答案,不再请求工具。
- 最大轮数:防止循环失控。
- 成本或 Token 预算:限制开放式任务的消耗。
- 时间限制:避免外部服务阻塞整个执行。
- 安全中止:工具权限不足、输入风险过高或模型拒绝。
- 人工接管:高风险动作进入 Human-in-the-loop。
Function Calling:模型提出调用,应用负责执行
Function Calling 的本质不是让模型直接运行函数,而是让模型生成一份结构化的调用请求。 典型请求包含函数名和参数;应用验证后执行函数,再把结果连同对应的 call_id 返回模型。
声明 Tools
给模型提供工具名称、用途、参数类型、必填字段和边界条件。工具描述越清楚,选择错误越少。
模型生成 Tool Call
模型根据用户目标与当前状态,决定是否调用、调用哪个工具,以及生成什么参数。
应用侧验证并执行
检查用户权限、参数范围、资源归属、幂等键和风险等级。不能把模型输出当作可信命令直接执行。
回传 Tool Output
工具结果进入下一轮上下文。模型可据此输出答案、继续调用其他工具,或进行错误恢复。

Planning:何时边走边想,何时先做计划
Planning 决定 Agent 如何把目标转换成可执行步骤。没有一种模式适合所有任务: 短任务更适合 ReAct,长任务可使用 Plan-and-Execute;固定结构则优先 Workflow。
| 模式 | 核心方式 | 适用场景 | 主要代价 |
|---|---|---|---|
| Prompt Chaining | 固定步骤串联 | 流程稳定、每一步可验证 | 灵活性低 |
| Routing | 先分类,再进入不同分支 | 多类请求、专用模型或工具 | 路由错误会传导 |
| Parallelization | 子任务并行或多路投票 | 独立检索、分片处理、多候选比较 | 结果合并更复杂 |
| Orchestrator–Workers | 中央模型动态拆解并分派 | 子任务数量与类型无法预知 | 调度与状态管理复杂 |
| Evaluator–Optimizer | 生成—评价—修改循环 | 有明确质量标准且迭代有价值 | 额外模型调用 |
| ReAct | Reason → Act → Observe,逐步决策 | 环境反馈强、路径较短 | 每次工具调用都可能需要模型介入 |
| Plan-and-Execute | Planner 先生成多步计划,Executor 执行并 Re-plan | 长链任务、多个工具与子任务 | 初始计划可能过早失效 |
更多推荐

所有评论(0)