Agent 不只是会调用工具的聊天模型。它是一套围绕目标运行的系统: 模型负责判断,工具负责行动,状态与记忆维持连续性,运行时负责恢复, Evaluation 与 Security 则决定它能否进入生产环境。

什么是 AI Agent?

最实用的定义是:Agent 是一个围绕目标持续观察、判断并采取行动的应用程序。 LLM 是核心决策器,但不是整个 Agent。

普通 LLM 调用通常是“一次输入,一次输出”。Agent 则会在多轮内部循环中,根据工具返回的真实结果修正下一步行动。 因此,Agent 的关键不在于回答得更长,而在于它能够形成 目标 → 行动 → 观察 → 调整 的闭环。

Workflow 与 Agent 的边界

维度WorkflowAgent
执行路径由代码预先规定模型根据当前状态动态决定
可预测性较高,便于测试较低,需要更强观测与约束
成本与延迟通常较低可能发生多轮推理与工具调用
适用任务步骤稳定、规则清楚步骤无法预先穷举、需要探索与调整

工程判断

能用确定性代码、单次 LLM 调用或固定 Workflow 解决的问题,不必强行做成 Agent。自主性越高,测试、成本、延迟和安全控制也越复杂。

Agent Loop:Agent 真正工作的地方

Agent Loop 是最小执行单元。模型读取当前上下文后,要么给出最终答案,要么产生 Tool Call; 应用执行工具并把 Observation 返回模型,模型再进行下一轮判断,直到完成或命中停止条件。

停止条件不能省略

  • 任务完成:模型输出最终答案,不再请求工具。
  • 最大轮数:防止循环失控。
  • 成本或 Token 预算:限制开放式任务的消耗。
  • 时间限制:避免外部服务阻塞整个执行。
  • 安全中止:工具权限不足、输入风险过高或模型拒绝。
  • 人工接管:高风险动作进入 Human-in-the-loop。
     

Function Calling:模型提出调用,应用负责执行

Function Calling 的本质不是让模型直接运行函数,而是让模型生成一份结构化的调用请求。 典型请求包含函数名和参数;应用验证后执行函数,再把结果连同对应的 call_id 返回模型。

声明 Tools

给模型提供工具名称、用途、参数类型、必填字段和边界条件。工具描述越清楚,选择错误越少。

模型生成 Tool Call

模型根据用户目标与当前状态,决定是否调用、调用哪个工具,以及生成什么参数。

应用侧验证并执行

检查用户权限、参数范围、资源归属、幂等键和风险等级。不能把模型输出当作可信命令直接执行。

回传 Tool Output

工具结果进入下一轮上下文。模型可据此输出答案、继续调用其他工具,或进行错误恢复。

Planning:何时边走边想,何时先做计划

Planning 决定 Agent 如何把目标转换成可执行步骤。没有一种模式适合所有任务: 短任务更适合 ReAct,长任务可使用 Plan-and-Execute;固定结构则优先 Workflow。

模式核心方式适用场景主要代价
Prompt Chaining固定步骤串联流程稳定、每一步可验证灵活性低
Routing先分类,再进入不同分支多类请求、专用模型或工具路由错误会传导
Parallelization子任务并行或多路投票独立检索、分片处理、多候选比较结果合并更复杂
Orchestrator–Workers中央模型动态拆解并分派子任务数量与类型无法预知调度与状态管理复杂
Evaluator–Optimizer生成—评价—修改循环有明确质量标准且迭代有价值额外模型调用
ReActReason → Act → Observe,逐步决策环境反馈强、路径较短每次工具调用都可能需要模型介入
Plan-and-ExecutePlanner 先生成多步计划,Executor 执行并 Re-plan长链任务、多个工具与子任务初始计划可能过早失效

Logo

更多推荐