大模型 ai 应用热门概念
1. LLM (大脑)
Large Language Model, 大语言模型本身, 根据用户输入的 prompt 生成连贯、合理的文本回复。本质上是一个“被动响应式”的对话系统。
2. Agent (会用工具)
在 LLM 作为大脑的基础上, 具备了调用工具的能力, 从 “仅对话” 升级为 “执行动作”.
举个🌰:
问 1.234 / 4.567 等于多少?
- LLM: 答案可能近似也能出错, 因为这个问题人类只靠口算也很难回答.
- agent: 直接调用计算器, 就像人类会借助工具一样, 得到精确的答案.
agent 的核心能力:
- 感知 (Perception):能接收信息(文本、图像、传感器数据等)。
- 决策 (Decision/Planning):能基于目标进行推理、规划路径(这是“智能”的体现)。
- 行动 (Action):能调用工具、执行代码、操作 API(这是“体/实体”的体现)。
- 记忆 (Memory):能存储历史交互和经验,用于优化未来决策。
Q: Agent 与 智能体 有何区别?
A: 是完全同一个概念. 讨论技术上的底层算法时, 为了严谨常称为 agent; 讨论产品与应用时, 为了突出 “自主与智能”, 常称其为 智能体.
2.1 如何拥有 工具意识?
原始 LLM 基座并不具备工具使用能力, 必须通过后训练(post-training) 赋予其“工具意识”。
如 监督微调(Supervised Fine-Tuning, SFT), 构造大量 “(指令, 工具调用)” 的配对数据, 描述如下.
- 构造大量 “(指令, 工具调用)” 的配对数据。
- 示例输入:“计算 1.234 除以 4.567”,标签输出:{“tool”: “calculator”, “expression”: “1.234/4.567”}
- 目标:教会模型在特定任务下生成正确的工具调用格式.
2.2 如何发现工具
Agent 通过 动态 Prompt 注入, 来让 LLM “看见” MCP 工具. 步骤有:
- Agent 启动时连接 MCP Server, 拿到返回的工具清单, 形如
{
"tools": [
{
"name": "calculator",
"description": "执行精确数学计算",
"inputSchema": { "type": "object", "properties": { "expression": {"type": "string"} } }
},
{
"name": "stock_price",
"description": "查询A股实时股价",
"inputSchema": { ... }
}
]
}
- 动态 prompt 注入.
Agent 将上述工具信息转换为 自然语言描述 + 调用格式示例,插入到 LLM 的系统提示(system prompt)中:
你是一个智能助手,可以使用以下工具:
1. calculator: 执行精确数学计算。使用格式:{"tool": "calculator", "arguments": {"expression": "1+2"}}
2. stock_price: 查询A股实时股价。使用格式:{"tool": "stock_price", "arguments": {"symbol": "600519"}}
请根据用户需求选择最合适的工具。如果无需工具,直接回答。
2.3 如何调用工具
Agent 解析并执行
Agent 识别出这是有效的工具调用格式,于是通过 MCP 协议向 Server 发送 callTool 请求,获取结果后返回给用户。
2.3 MCP 标准化协议
模型上下文协议, Model Context Protocal, 由 Anthropic 提出的一种开放协议标准。它的目的是标准化 AI 模型(如 LLM)与外部数据源、工具或服务之间的连接方式.
联系上文讲到的 MCP Server, 给出两个示例图:
[ 用户 User ]
⬇️
[ Agent 系统 (The Brain) ] <-- 这里是大模型 (LLM) 所在的地方
├── 🧠 推理引擎 (Planner/Reasoner)
├── 📚 记忆模块 (Memory)
└── 🖐️ 工具调度器 (Tool Orchestrator) <-- 决定调用哪个工具
⬇️ (内部调用)
[ MCP Client 实例 ] <-- 纯粹的通信管道
⬇️ (MCP 协议: JSON-RPC)
[ MCP Server ] <-- 实际干活的地方 (数据库/API)

3. skill
让 agent 知道有哪些扩展的技能, 和动手去做的工具.
3.1 存放位置
在工程中, Skill 是一个目录,包含 SKILL.md 文件和可选的辅助文件,作用是给 Agent 注入领域知识和工作流指导。
可以放在 用户目录(独立于项目) 或 项目目录(便于多人协作) 下, 分别为
~/.claude/skills/<项目>/.claude/skills/
多个 skill 并存的目录组织见下:
.claude/skills/
├── skill-a/
│ ├── SKILL.md
│ ├── reference.md
│ └── scripts/
│ └── helper.py
├── skill-b/
│ ├── SKILL.md
│ ├── examples.md
│ └── scripts/
│ └── tool.py
└── skill-c/
├── SKILL.md
└── reference.md
3.2 如何编写
- SKILL.md 最核心的文件.
前置元数据(YAML Frontmatter):
---
name: your-skill-name # 64字符以内,小写+连字符, 需与目录名保持一致
description: 简要描述做什么、何时使用
---
-
渐进式披露
理念的核心就是 “先给概览,需要时再展开”.
按需加载:Agent 只在需要时才读取,不占主上下文空间. -
场景举例
建设一个业务(如美团app中的拼好饭)的数据仓库知识库, 介绍写sql时需要知道的 “表和字段知识”.
Q:为什么适合作为一个 skill ?
A:核心判断依据:这是 Agent 不可能天然知道、但每次回答都需要的高频领域知识。
领域性强:拼好饭的表结构、字段口径、业务逻辑是内部知识
复用价值高:每次写 SQL 都要查表含义、JOIN 关系、口径定义
拼好饭-sql/
├── SKILL.md # 核心:表清单 + 常用 JOIN 模式 + 口径定义
├── table-reference.md # 详细:每张表的字段、注释、分区、生命周期
├── query-templates.md # 常用查询模板(GMV、UV、分桶统计等)
└── examples.md # 实际 SQL 示例
Q: skill 与 MCP 的关系?
A: Skill 与 MCP 有极大的重合. 都是 封装好的工具 + 给 LLM 看的工具配套说明书.
但它们处于不同的抽象层级:
- Skill 是一个逻辑概念:指代“智能体能做的某件事”。
- MCP 是一个技术标准/协议:定义了“如何标准化地描述、传输和调用这些技能”。
MCP 中的 Tools 本质上就是标准化的 Skills。MCP 规定了 Skill 如何被描述、如何被调用,让不同的 Agent 都能通用这些技能。
4. ReAct(Reasoning + Acting)
ReAct(Reasoning + Acting)是谷歌研究团队于 2022 年提出的 Agent 范式. 这是一个 loop: 面对用户的提问, 先推理 (thought) -> 行动 (action,调用工具) -> 解读工具返回(Observation) ->
5. AI 助手app
2026年, 市面上活跃的有 抖音-豆包, 阿里-千问, 腾讯-元宝等.
它们在一直进化, 除了 LLM 的升级, 一些联网搜索, Cot, ReAct 等能力也在迭代.
通义/豆包 可能的技术栈:
├─ 推理层:CoT / ToT / Self-Refine 等思维链变体
├─ 行动层:Function Calling + MCP 协议 + 插件系统
├─ 规划层:任务分解 + 状态跟踪 + 回退机制
├─ 记忆层:短期上下文 + 长期向量存储
└─ 安全层:内容过滤 + 权限校验 + 人工介入
4. ai应用开发范式
有 agent(智能体) 与 工作流(workflow) 两种范式.
4.1 工作流
工作流强调确定性编排(即使包含 Agent 节点):
- 控制权:开发者。
- 逻辑:开发者在画布上显式地连线:开始 -> 节点 A -> 判断条件 X -> 如果是,走节点 B;如果否,走节点 C。
- Agent 的角色:在这里,Agent 只是一个黑盒函数。它被放置在某个固定的节点上,输入是固定的,输出流向也是固定的。
- 本质:确定性编排。路径是预先写死的(Hard-coded)。哪怕中间有个 Agent 节点,它也只是为了处理该节点的特定任务(比如润色文本),它无法决定整个流程的走向。
4.2 智能体
Skill 驱动的 Agent(自主模式):
- 控制权:LLM(模型)。
- 逻辑:开发者只给目标(Goal)和工具列表(Skills)。没有预定义的流程图。
- 执行过程:LLM 在运行时动态思考:“我现在该用哪个 Skill?用完之后下一步该干嘛?是不是要重试?还是直接结束?”
- 本质:概率性规划。路径是实时生成的(Runtime Generated)。同样的输入,根据上下文不同,Agent 可能会走出完全不同的路径。
4.3 二者混合
工作流并没有消失,它退居二线,成为了约束和引导这位“智能协作者”的护栏.
5. agentic AI
- agentic
/eɪ'dʒentɪk/AI, 更自主的多智能体系统. 可主动发现问题、制定策略、协调执行,无需逐步指令. - AI Agent
/ˈeɪdʒənt/(智能体), 负责明确的单一任务, 比如 “输入关键词生成公众号文章”, “将工作文档整理为周报” 等. 通常由"大模型 + 规划 + 记忆 + 工具"四组件构成.
显著差异为自主性程度: agent 是 reactive , agentic 是 proactive.
同时二者间存在技术继承:Agentic AI 以 Agent 为基本单元,通过编排实现1+1>2.
相应工具
agentic ai 没有仅停留在概念上, 已发展至成熟的工具并有落地.
github 上已有开源的一些项目:
- CrewAI: 色分工+流程编排,支持Crews/Flows双模式.
- AutoGen (微软): 多智能体对话+人类协同,支持多语言
# 1. 选轻量框架(如CrewAI)
pip install crewai
# 2. 定义角色+任务(5行代码示例)
from crewai import Agent, Task, Crew
researcher = Agent(role='研究员', goal='搜集信息', backstory='...')
task = Task(description='分析AI代理市场趋势', agent=researcher)
crew = Crew(agents=[researcher], tasks=[task])
result = crew.kickoff()
商业平台
阿里云百炼: Qwen系列+工具链+企业级部署.
更多推荐
所有评论(0)