AI智能体开发学习文档(一)

1. 基础入门
1.1 大模型背景与基本原理
定义:大语言模型是基于Transformer架构、通过海量文本数据预训练得到的生成式AI模型,具备自然语言理解、生成、推理等通用能力,是AI智能体的核心决策与推理引擎。
主流大模型按开源属性与地域可分为三大阵营,核心代表如下:
|
阵营分类 |
核心代表模型 |
典型特点 |
|
闭源商用 |
GPT-4o / o3 / o4-mini、Claude 4 Opus、Gemini 2.5 Pro |
能力上限高、服务稳定、按调用量计费 |
|
开源通用 |
Qwen 3、DeepSeek-V3/R1、Llama 4、Mistral Large 2 |
可本地化部署、数据可控、支持二次定制 |
|
国产商用 |
通义千问、智谱GLM-4、文心一言4.5、讯飞星火4.0、Kimi |
合规性强、中文优化、本地化服务支持完善 |
三种主流部署方式的特性对比如下:
|
部署方式 |
核心优势 |
主要劣势 |
适用场景 |
|
本地部署(Ollama / vLLM / llama.cpp) |
数据隐私可控、无网络延迟 |
算力要求高、运维成本高 |
企业内部系统、高频敏感场景 |
|
云端API调用 |
弹性扩缩容、免运维、快速接入 |
存在网络延迟、长期调用成本累积 |
原型开发、初期验证、低频次调用 |
|
混合部署 |
分层处理、灵活兼顾隐私与成本 |
架构复杂度高、协同逻辑复杂 |
企业级生产系统、分级业务场景 |
大模型基础API调用的最简实现如下,可直观体现大模型的基础调用逻辑:
from openai import OpenAI
# 初始化客户端,可替换为任意兼容OpenAI协议的模型服务
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
def chat_with_llm(prompt: str) -> str:
"""
调用大模型生成回复
Args:
prompt: 输入提示词
Returns:
模型生成的文本结果
"""
response = client.chat.completions.create(
model="qwen3:latest",
messages=[{"role": "user", "content": prompt}]
)
# 提取模型返回的第一条消息内容
大模型与智能体的关系可以类比为大脑与完整人体的关系:
大模型是核心大脑,负责思考、推理与决策;智能体是完整的数字个体,除大脑外还配备了手脚(工具调用)、记忆(存储系统)、感官(环境感知),能够自主与外部世界交互完成复杂任务。
学习提示:跳过原理直接使用框架是常见误区。先理解Transformer、注意力机制、Token化等基础概念,后续调优与排障效率将显著提升。
1.2 提示词工程
定义:提示词工程是通过优化输入文本的结构、内容与格式,引导大模型输出符合预期结果的技术,是低成本调控大模型行为、提升输出质量的核心手段。
核心提示词技术的能力与适用场景如下:
|
技术类型 |
核心逻辑 |
适用场景 |
效果提升幅度 |
|
Zero-Shot |
直接提问,依赖模型内化知识 |
简单通用问题、快速验证 |
基础输出 |
|
Few-Shot |
提供2-5个示例引导输出格式与质量 |
格式要求严格、标准化输出场景 |
30%-50% |
|
思维链(CoT) |
引导模型分步推理,输出思考过程 |
数学计算、逻辑推理、复杂分析 |
40%-70% |
|
Self-Consistency |
多次采样取多数一致结果 |
高准确率要求的推理任务 |
15%-30% |
结构化提示词的标准模板实现如下,可直接复用至各类业务场景:
|
# 结构化提示词模板:角色 + 上下文 + 任务 + 示例 + 输出约束 |
提示词工程的逻辑与给员工下达工作指令高度相似:指令越明确、上下文越充分、格式要求越清晰,交付结果的质量就越高;思维链相当于要求员工同步提交思考过程,既能降低出错概率,也方便追溯结果的推导逻辑。
趋势说明:2025-2026年,Meta-Prompting与DSPy等自动化提示词优化方案正在逐步替代手工调优,复杂场景下提示词工程的重心正向声明式编程与自动优化方向迁移。
1.3 开发环境与工具链
定义:AI智能体开发环境是包含语言运行时、模型推理工具、容器化设施与协议工具的完整技术栈,为智能体的开发、调试、部署与运行提供基础支撑。
核心工具链按功能分类如下:
|
工具分类 |
核心工具 |
主要用途 |
2026推荐选型 |
|
Python环境管理 |
uv / Conda / pyenv |
依赖管理、Python版本控制 |
uv(替代pip/poetry,性能提升显著) |
|
本地模型运行 |
Ollama / vLLM / llama.cpp |
本地部署与调试大模型 |
Ollama(一键部署)、vLLM(高性能生产推理) |
|
容器化工具 |
Docker + docker-compose |
环境一致性、打包部署 |
Docker 官方镜像 + compose编排 |
|
MCP生态工具 |
Claude Desktop / Continue.dev / MCP注册表 |
MCP工具开发、调试与接入 |
Claude Desktop(客户端调试)、Python MCP SDK v2 |
|
Java环境 |
Spring AI Alibaba / Nacos |
Java技术栈智能体开发 |
Spring Boot 3.x + Spring AI |
标准开发环境的搭建流程命令如下:
# 1. 使用uv创建Python虚拟环境并安装核心依赖
uv venv agent-env
source agent-env/bin/activate
uv add langchain langgraph openai gradio
# 2. 安装Ollama并拉取本地测试模型
curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen3:latest
# 3. 验证模型服务可用性
ollama list
开发工具链的作用相当于工匠的工作台:
环境管理工具是工具箱,保证工具摆放整齐、版本统一;
本地模型运行工具是工作台的加工机床,随时可以试做样品;
容器化工具是标准化包装箱,做好的产品打包后可以在任何环境正常运行。
更多推荐



所有评论(0)