1. 基础入门

1.1 大模型背景与基本原理

定义:大语言模型是基于Transformer架构、通过海量文本数据预训练得到的生成式AI模型,具备自然语言理解、生成、推理等通用能力,是AI智能体的核心决策与推理引擎。

主流大模型按开源属性与地域可分为三大阵营,核心代表如下:

阵营分类

核心代表模型

典型特点

闭源商用

GPT-4o / o3 / o4-mini、Claude 4 Opus、Gemini 2.5 Pro

能力上限高、服务稳定、按调用量计费

开源通用

Qwen 3、DeepSeek-V3/R1、Llama 4、Mistral Large 2

可本地化部署、数据可控、支持二次定制

国产商用

通义千问、智谱GLM-4、文心一言4.5、讯飞星火4.0、Kimi

合规性强、中文优化、本地化服务支持完善

三种主流部署方式的特性对比如下:

部署方式

核心优势

主要劣势

适用场景

本地部署(Ollama / vLLM / llama.cpp

数据隐私可控、无网络延迟

算力要求高、运维成本高

企业内部系统、高频敏感场景

云端API调用

弹性扩缩容、免运维、快速接入

存在网络延迟、长期调用成本累积

原型开发、初期验证、低频次调用

混合部署

分层处理、灵活兼顾隐私与成本

架构复杂度高、协同逻辑复杂

企业级生产系统、分级业务场景

大模型基础API调用的最简实现如下,可直观体现大模型的基础调用逻辑:

from openai import OpenAI
# 初始化客户端,可替换为任意兼容OpenAI协议的模型服务
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

def chat_with_llm(prompt: str) -> str:
    """
    调用大模型生成回复
    Args:
        prompt: 输入提示词
    Returns:
        模型生成的文本结果
    """
    response = client.chat.completions.create(
        model="qwen3:latest",
        messages=[{"role": "user", "content": prompt}]
    )
    # 提取模型返回的第一条消息内容

大模型与智能体的关系可以类比为大脑与完整人体的关系:

大模型是核心大脑,负责思考、推理与决策;智能体是完整的数字个体,除大脑外还配备了手脚(工具调用)、记忆(存储系统)、感官(环境感知),能够自主与外部世界交互完成复杂任务。

学习提示:跳过原理直接使用框架是常见误区。先理解Transformer、注意力机制、Token化等基础概念,后续调优与排障效率将显著提升。

1.2 提示词工程

定义:提示词工程是通过优化输入文本的结构、内容与格式,引导大模型输出符合预期结果的技术,是低成本调控大模型行为、提升输出质量的核心手段。

核心提示词技术的能力与适用场景如下:

技术类型

核心逻辑

适用场景

效果提升幅度

Zero-Shot

直接提问,依赖模型内化知识

简单通用问题、快速验证

基础输出

Few-Shot

提供2-5个示例引导输出格式与质量

格式要求严格、标准化输出场景

30%-50%

思维链(CoT

引导模型分步推理,输出思考过程

数学计算、逻辑推理、复杂分析

40%-70%

Self-Consistency

多次采样取多数一致结果

高准确率要求的推理任务

15%-30%

结构化提示词的标准模板实现如下,可直接复用至各类业务场景:

# 结构化提示词模板:角色 + 上下文 + 任务 + 示例 + 输出约束
PROMPT_TEMPLATE = """
【角色设定】
你是一名专业的数据分析助手,擅长从结构化数据中提取核心结论。

【上下文信息】
以下是本次分析的原始数据:
{context_data}

【任务要求】
请基于上述数据完成分析,输出核心结论与业务建议。

【输出格式】
1. 核心结论:不超过3条,每条一句话
2. 业务建议:不超过2条,具备可执行性

【示例参考】
输入:月度销售额数据
输出:
1. 核心结论:6月销售额环比增长15%,华东区域贡献主要增量
2. 业务建议:加大华东区域营销投入,复制成功经验至其他区域
"""

提示词工程的逻辑与给员工下达工作指令高度相似:指令越明确、上下文越充分、格式要求越清晰,交付结果的质量就越高;思维链相当于要求员工同步提交思考过程,既能降低出错概率,也方便追溯结果的推导逻辑。

趋势说明:2025-2026年,Meta-PromptingDSPy等自动化提示词优化方案正在逐步替代手工调优,复杂场景下提示词工程的重心正向声明式编程与自动优化方向迁移。

1.3 开发环境与工具链

定义:AI智能体开发环境是包含语言运行时、模型推理工具、容器化设施与协议工具的完整技术栈,为智能体的开发、调试、部署与运行提供基础支撑。

核心工具链按功能分类如下:

工具分类

核心工具

主要用途

2026推荐选型

Python环境管理

uv / Conda / pyenv

依赖管理、Python版本控制

uv(替代pip/poetry,性能提升显著)

本地模型运行

Ollama / vLLM / llama.cpp

本地部署与调试大模型

Ollama(一键部署)、vLLM(高性能生产推理)

容器化工具

Docker + docker-compose

环境一致性、打包部署

Docker 官方镜像 + compose编排

MCP生态工具

Claude Desktop / Continue.dev / MCP注册表

MCP工具开发、调试与接入

Claude Desktop(客户端调试)、Python MCP SDK v2

Java环境

Spring AI Alibaba / Nacos

Java技术栈智能体开发

Spring Boot 3.x + Spring AI

标准开发环境的搭建流程命令如下:

# 1. 使用uv创建Python虚拟环境并安装核心依赖
uv venv agent-env
source agent-env/bin/activate
uv add langchain langgraph openai gradio

# 2. 安装Ollama并拉取本地测试模型
curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen3:latest

# 3. 验证模型服务可用性
ollama list

开发工具链的作用相当于工匠的工作台:

环境管理工具是工具箱,保证工具摆放整齐、版本统一;

本地模型运行工具是工作台的加工机床,随时可以试做样品;

容器化工具是标准化包装箱,做好的产品打包后可以在任何环境正常运行。

更多推荐