引言:做 Agent,真正先要解决的是“模型接哪里”

很多人学习 Agent 时,最先关注的是:

  • ReAct
  • LangGraph
  • Tool Calling
  • Multi-Agent

但真正开始动手后,第一个必须解决的问题其实是:

你的代码,到底接哪个模型?

2026 年,Agent 开发里最常见的大模型来源,已经不再只有 OpenAI。

尤其对于国内开发者,更现实的情况是:

  • OpenAI 官方 API 很难直接稳定访问
  • 企业通常会通过代理商或兼容平台接入
  • 越来越多团队直接使用国内模型

目前最主流的大模型,大致可以分成两类:

国外模型

  • OpenAI
  • Claude
  • Gemini
  • 本地开源模型

国内模型

  • DeepSeek
  • 通义千问(Qwen)
  • 智谱 GLM
  • Kimi(月之暗面)
  • 豆包(字节)
  • 腾讯混元
  • 百川
  • Ollama 本地模型

这篇文章重点讲:

在 Python / LangChain 中,如何快速接入这些模型,以及它们分别适合什么场景。


一、为什么现在不同模型都能用同一套代码?

过去,不同模型厂商的 API 差异非常大。

你如果从 OpenAI 换到别的模型,往往需要:

  • 重写 SDK
  • 重写请求参数
  • 重写鉴权逻辑

但到了 2026 年,大多数模型厂商都逐渐兼容 OpenAI 风格接口。

因此,你会发现很多模型虽然不是 OpenAI,但仍然使用:

from langchain_openai import ChatOpenAI

真正变化的,往往只剩下:

model=...
api_key=...
base_url=...

例如:

ChatOpenAI(
    model="qwen-plus",
    api_key="...",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)

这也是为什么,现在很多 Agent 项目,都可以在不改业务逻辑的前提下快速切换模型。


二、OpenAI:最成熟,但国内通常无法直接访问

如果你希望:

  • 使用最成熟的 Agent 能力
  • 兼容 LangChain / LangGraph 官方示例
  • 使用最完整的 Tool Calling 与函数调用

那么 OpenAI 仍然是最强、最成熟的选择。

常见模型

  • gpt-4.1
  • gpt-4.1-mini
  • gpt-4o
  • gpt-4o-mini

其中:

  • gpt-4.1:适合复杂 Agent
  • gpt-4.1-mini:更便宜,更适合开发阶段

但国内不能直接接 OpenAI

对于中国大陆开发者,最现实的情况通常是:

OpenAI 官方 API 无法直接稳定访问,需要通过代理商、海外服务器或 OpenAI 兼容平台。

常见方式包括:

  • 海外云服务器自建转发
  • OpenRouter
  • SiliconFlow(硅基流动)
  • 阿里云 / 火山引擎的 OpenAI 兼容网关
  • 公司内部统一 AI 网关

所以你真正写的,通常不是:

base_url="https://api.openai.com/v1"

而是:

base_url="https://你的代理地址/v1"

示例:

from langchain_openai import ChatOpenAI
import os

llm = ChatOpenAI(
    model="gpt-4.1-mini",
    api_key=os.getenv("OPENAI_API_KEY"),
    base_url="https://your-proxy.example.com/v1"
)

OpenAI 最适合什么?

适合:

  • LangGraph
  • Tool Calling
  • ReAct Agent
  • 多 Agent
  • 复杂长链推理

但如果你在国内做企业项目,通常并不推荐把 OpenAI 作为唯一方案。


三、DeepSeek:国内最值得优先考虑的模型之一

DeepSeek 是 2025~2026 年国内增长最快的模型。

它最大的优势是:

  • 中文能力强
  • 编程能力强
  • 成本远低于 OpenAI
  • 对 Agent 非常友好

特别适合:

  • 中文问答
  • Coding Agent
  • 企业内部系统
  • 成本敏感场景

接入方式

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-chat",
    api_key=os.getenv("DEEPSEEK_API_KEY"),
    base_url="https://api.deepseek.com"
)

常见模型

  • deepseek-chat
  • deepseek-reasoner

其中:

  • deepseek-chat:速度快,适合大部分业务
  • deepseek-reasoner:更适合复杂推理和 Agent

DeepSeek 最适合什么?

中文 + 代码 + Agent + 低成本

对于大多数国内团队,如果不知道选什么,DeepSeek 往往是最稳妥的起点。


四、通义千问(Qwen):国内最成熟、最适合企业

如果你在国内开发,而且希望:

  • 不需要代理
  • 中文效果稳定
  • 更容易接入 Java / Spring Boot
  • 更适合企业内部系统

那么通义千问通常是最推荐的。

常见模型

  • qwen-plus
  • qwen-max
  • qwen-turbo

一般可以这样理解:

  • qwen-max:最强,但最贵
  • qwen-plus:综合最均衡
  • qwen-turbo:便宜、速度快

接入方式

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="qwen-plus",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)

通义千问最适合什么?

适合:

  • 国内企业
  • 中文业务
  • Java / Spring Boot
  • j-langchain
  • 企业 Agent

很多公司最终都会选择:

通义千问 + 内部业务系统 + Java 后端


五、智谱 GLM:企业级 Agent 非常常见

智谱 GLM 是目前国内企业里最常见的大模型之一。

尤其适合:

  • 企业私有化
  • 政务 / 金融 / 企业内部系统
  • 中文 Agent
  • 长期稳定接入

常见模型

  • glm-4-plus
  • glm-4-air
  • glm-5

其中:

  • glm-4-plus:当前最常见
  • glm-5:更适合复杂 Agent 和推理

接入方式

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="glm-4-plus",
    api_key=os.getenv("ZHIPU_API_KEY"),
    base_url="https://open.bigmodel.cn/api/paas/v4/"
)

智谱最适合什么?

适合:

  • 企业内部系统
  • 中文 Agent
  • 私有化部署
  • 政企项目

六、Kimi(月之暗面):超长上下文最强

如果你的场景需要:

  • 超长文档
  • PDF / 论文 / 合同
  • 多轮长上下文
  • 多 Agent 协作

那么 Kimi 往往是最好的选择。

Kimi 最大的特点是:

能处理特别长的上下文。

接入方式

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="kimi-k2.5",
    api_key=os.getenv("MOONSHOT_API_KEY"),
    base_url="https://api.moonshot.cn/v1"
)

Kimi 最适合什么?

适合:

  • 长文档 Agent
  • 法律 / 金融 / 研究
  • 多步骤复杂任务
  • 多 Agent

七、豆包(Doubao):最便宜、最适合大规模调用

字节的豆包模型,这两年增长非常快。

它最大的优势是:

  • 便宜
  • 中文能力强
  • 多模态能力好
  • 适合高并发

如果你要做:

  • 企业客服
  • 批量生成
  • 大规模 Agent
  • 多模态业务

豆包会非常适合。

接入方式

通常通过火山引擎方舟:

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="doubao-1.5-pro",
    api_key=os.getenv("ARK_API_KEY"),
    base_url="https://ark.cn-beijing.volces.com/api/v3"
)

豆包最适合什么?

适合:

  • 低成本
  • 高并发
  • 企业内部客服
  • 文本 + 图像

八、腾讯混元:适合腾讯生态

如果你的系统本身就在:

  • 腾讯云
  • 企业微信
  • 腾讯内部生态

那么混元通常会更顺手。

from langchain_openai import ChatOpenAI
import os

llm = ChatOpenAI(
    model="hunyuan-pro",
    api_key=os.getenv("TENCENT_API_KEY"),
    base_url="https://hunyuan.tencentcloudapi.com"
)

腾讯混元更适合:

  • 腾讯云生态
  • 企业微信
  • 内部办公 Agent

九、Ollama:本地部署,零 API 成本

如果你不希望:

  • 上传数据到云端
  • 消耗 API 成本
  • 依赖外部网络

那么最适合的方式,就是本地模型。

2026 年最流行的本地模型工具,就是 Ollama。

安装模型

ollama pull qwen2.5:3b

或者:

ollama pull llama3.2

默认服务地址:

http://localhost:11434

Python 接入

pip install -U langchain-ollama
from langchain_ollama import ChatOllama

llm = ChatOllama(
    model="qwen2.5:3b"
)

response = llm.invoke("请用一句话解释什么是 Agent")
print(response.content)

Ollama 最适合什么?

适合:

  • 学习
  • 本地 Demo
  • 内网
  • 隐私场景
  • 零成本开发

但它的限制也很明显:

  • 推理慢
  • 能力弱于顶级云模型
  • Tool Calling 支持有限

十、到底该怎么选?

模型国内是否可直接访问优势最适合
OpenAI否,需要代理最强、生态最成熟LangGraph、复杂 Agent
DeepSeek中文、代码、便宜中文 Agent、Coding
通义千问企业最成熟、Java友好企业系统、Java
智谱 GLM私有化、政企项目企业 Agent
Kimi超长上下文长文档、多 Agent
豆包最便宜、多模态客服、高并发
腾讯混元腾讯生态企业微信、腾讯云
Ollama是,本地免费、隐私好学习、本地部署

一个非常实用的建议是:

学习 / Demo → Ollama
中文项目 → DeepSeek / 通义千问
企业项目 → 通义千问 / 智谱
长文档 → Kimi
高并发、低成本 → 豆包
复杂 Agent → OpenAI(通过代理)

十一、推荐的配置方式:不要把模型写死在代码里

建议在 .env 中统一管理:

MODEL_PROVIDER=qwen
MODEL_NAME=qwen-plus

OPENAI_API_KEY=...
DEEPSEEK_API_KEY=...
DASHSCOPE_API_KEY=...
ZHIPU_API_KEY=...
MOONSHOT_API_KEY=...
ARK_API_KEY=...

然后统一封装:

if provider == "openai":
    ...
elif provider == "deepseek":
    ...
elif provider == "qwen":
    ...
elif provider == "glm":
    ...

这样未来切模型时,不需要改业务代码。


结语

2026 年,做 Agent 已经不再是“只能接 OpenAI”。

尤其在国内,更现实的选择通常是:

OpenAI 作为最强能力参考;
DeepSeek、通义千问、GLM、Kimi、豆包作为真正落地的主力。

一句话总结:

  • OpenAI:最强,但需要代理
  • DeepSeek:中文、代码、性价比最高
  • 通义千问:企业和 Java 最友好
  • GLM:企业与私有化
  • Kimi:超长文档
  • 豆包:便宜、高并发
  • Ollama:本地免费

模型没有绝对谁最好。

真正重要的是:

根据你的业务场景,选择最合适的模型。

更多推荐