主流大模型接入:OpenAI、DeepSeek、通义千问、智谱、Kimi、豆包、Ollama 本地部署
引言:做 Agent,真正先要解决的是“模型接哪里”
很多人学习 Agent 时,最先关注的是:
- ReAct
- LangGraph
- Tool Calling
- Multi-Agent
但真正开始动手后,第一个必须解决的问题其实是:
你的代码,到底接哪个模型?
2026 年,Agent 开发里最常见的大模型来源,已经不再只有 OpenAI。
尤其对于国内开发者,更现实的情况是:
- OpenAI 官方 API 很难直接稳定访问
- 企业通常会通过代理商或兼容平台接入
- 越来越多团队直接使用国内模型
目前最主流的大模型,大致可以分成两类:
国外模型
- OpenAI
- Claude
- Gemini
- 本地开源模型
国内模型
- DeepSeek
- 通义千问(Qwen)
- 智谱 GLM
- Kimi(月之暗面)
- 豆包(字节)
- 腾讯混元
- 百川
- Ollama 本地模型
这篇文章重点讲:
在 Python / LangChain 中,如何快速接入这些模型,以及它们分别适合什么场景。
一、为什么现在不同模型都能用同一套代码?
过去,不同模型厂商的 API 差异非常大。
你如果从 OpenAI 换到别的模型,往往需要:
- 重写 SDK
- 重写请求参数
- 重写鉴权逻辑
但到了 2026 年,大多数模型厂商都逐渐兼容 OpenAI 风格接口。
因此,你会发现很多模型虽然不是 OpenAI,但仍然使用:
from langchain_openai import ChatOpenAI
真正变化的,往往只剩下:
model=...
api_key=...
base_url=...
例如:
ChatOpenAI(
model="qwen-plus",
api_key="...",
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)
这也是为什么,现在很多 Agent 项目,都可以在不改业务逻辑的前提下快速切换模型。
二、OpenAI:最成熟,但国内通常无法直接访问
如果你希望:
- 使用最成熟的 Agent 能力
- 兼容 LangChain / LangGraph 官方示例
- 使用最完整的 Tool Calling 与函数调用
那么 OpenAI 仍然是最强、最成熟的选择。
常见模型
gpt-4.1gpt-4.1-minigpt-4ogpt-4o-mini
其中:
gpt-4.1:适合复杂 Agentgpt-4.1-mini:更便宜,更适合开发阶段
但国内不能直接接 OpenAI
对于中国大陆开发者,最现实的情况通常是:
OpenAI 官方 API 无法直接稳定访问,需要通过代理商、海外服务器或 OpenAI 兼容平台。
常见方式包括:
- 海外云服务器自建转发
- OpenRouter
- SiliconFlow(硅基流动)
- 阿里云 / 火山引擎的 OpenAI 兼容网关
- 公司内部统一 AI 网关
所以你真正写的,通常不是:
base_url="https://api.openai.com/v1"
而是:
base_url="https://你的代理地址/v1"
示例:
from langchain_openai import ChatOpenAI
import os
llm = ChatOpenAI(
model="gpt-4.1-mini",
api_key=os.getenv("OPENAI_API_KEY"),
base_url="https://your-proxy.example.com/v1"
)
OpenAI 最适合什么?
适合:
- LangGraph
- Tool Calling
- ReAct Agent
- 多 Agent
- 复杂长链推理
但如果你在国内做企业项目,通常并不推荐把 OpenAI 作为唯一方案。
三、DeepSeek:国内最值得优先考虑的模型之一
DeepSeek 是 2025~2026 年国内增长最快的模型。
它最大的优势是:
- 中文能力强
- 编程能力强
- 成本远低于 OpenAI
- 对 Agent 非常友好
特别适合:
- 中文问答
- Coding Agent
- 企业内部系统
- 成本敏感场景
接入方式
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="deepseek-chat",
api_key=os.getenv("DEEPSEEK_API_KEY"),
base_url="https://api.deepseek.com"
)
常见模型
deepseek-chatdeepseek-reasoner
其中:
deepseek-chat:速度快,适合大部分业务deepseek-reasoner:更适合复杂推理和 Agent
DeepSeek 最适合什么?
中文 + 代码 + Agent + 低成本
对于大多数国内团队,如果不知道选什么,DeepSeek 往往是最稳妥的起点。
四、通义千问(Qwen):国内最成熟、最适合企业
如果你在国内开发,而且希望:
- 不需要代理
- 中文效果稳定
- 更容易接入 Java / Spring Boot
- 更适合企业内部系统
那么通义千问通常是最推荐的。
常见模型
qwen-plusqwen-maxqwen-turbo
一般可以这样理解:
qwen-max:最强,但最贵qwen-plus:综合最均衡qwen-turbo:便宜、速度快
接入方式
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="qwen-plus",
api_key=os.getenv("DASHSCOPE_API_KEY"),
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)
通义千问最适合什么?
适合:
- 国内企业
- 中文业务
- Java / Spring Boot
- j-langchain
- 企业 Agent
很多公司最终都会选择:
通义千问 + 内部业务系统 + Java 后端
五、智谱 GLM:企业级 Agent 非常常见
智谱 GLM 是目前国内企业里最常见的大模型之一。
尤其适合:
- 企业私有化
- 政务 / 金融 / 企业内部系统
- 中文 Agent
- 长期稳定接入
常见模型
glm-4-plusglm-4-airglm-5
其中:
glm-4-plus:当前最常见glm-5:更适合复杂 Agent 和推理
接入方式
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="glm-4-plus",
api_key=os.getenv("ZHIPU_API_KEY"),
base_url="https://open.bigmodel.cn/api/paas/v4/"
)
智谱最适合什么?
适合:
- 企业内部系统
- 中文 Agent
- 私有化部署
- 政企项目
六、Kimi(月之暗面):超长上下文最强
如果你的场景需要:
- 超长文档
- PDF / 论文 / 合同
- 多轮长上下文
- 多 Agent 协作
那么 Kimi 往往是最好的选择。
Kimi 最大的特点是:
能处理特别长的上下文。
接入方式
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="kimi-k2.5",
api_key=os.getenv("MOONSHOT_API_KEY"),
base_url="https://api.moonshot.cn/v1"
)
Kimi 最适合什么?
适合:
- 长文档 Agent
- 法律 / 金融 / 研究
- 多步骤复杂任务
- 多 Agent
七、豆包(Doubao):最便宜、最适合大规模调用
字节的豆包模型,这两年增长非常快。
它最大的优势是:
- 便宜
- 中文能力强
- 多模态能力好
- 适合高并发
如果你要做:
- 企业客服
- 批量生成
- 大规模 Agent
- 多模态业务
豆包会非常适合。
接入方式
通常通过火山引擎方舟:
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="doubao-1.5-pro",
api_key=os.getenv("ARK_API_KEY"),
base_url="https://ark.cn-beijing.volces.com/api/v3"
)
豆包最适合什么?
适合:
- 低成本
- 高并发
- 企业内部客服
- 文本 + 图像
八、腾讯混元:适合腾讯生态
如果你的系统本身就在:
- 腾讯云
- 企业微信
- 腾讯内部生态
那么混元通常会更顺手。
from langchain_openai import ChatOpenAI
import os
llm = ChatOpenAI(
model="hunyuan-pro",
api_key=os.getenv("TENCENT_API_KEY"),
base_url="https://hunyuan.tencentcloudapi.com"
)
腾讯混元更适合:
- 腾讯云生态
- 企业微信
- 内部办公 Agent
九、Ollama:本地部署,零 API 成本
如果你不希望:
- 上传数据到云端
- 消耗 API 成本
- 依赖外部网络
那么最适合的方式,就是本地模型。
2026 年最流行的本地模型工具,就是 Ollama。
安装模型
ollama pull qwen2.5:3b
或者:
ollama pull llama3.2
默认服务地址:
http://localhost:11434
Python 接入
pip install -U langchain-ollama
from langchain_ollama import ChatOllama
llm = ChatOllama(
model="qwen2.5:3b"
)
response = llm.invoke("请用一句话解释什么是 Agent")
print(response.content)
Ollama 最适合什么?
适合:
- 学习
- 本地 Demo
- 内网
- 隐私场景
- 零成本开发
但它的限制也很明显:
- 推理慢
- 能力弱于顶级云模型
- Tool Calling 支持有限
十、到底该怎么选?
| 模型 | 国内是否可直接访问 | 优势 | 最适合 |
|---|---|---|---|
| OpenAI | 否,需要代理 | 最强、生态最成熟 | LangGraph、复杂 Agent |
| DeepSeek | 是 | 中文、代码、便宜 | 中文 Agent、Coding |
| 通义千问 | 是 | 企业最成熟、Java友好 | 企业系统、Java |
| 智谱 GLM | 是 | 私有化、政企项目 | 企业 Agent |
| Kimi | 是 | 超长上下文 | 长文档、多 Agent |
| 豆包 | 是 | 最便宜、多模态 | 客服、高并发 |
| 腾讯混元 | 是 | 腾讯生态 | 企业微信、腾讯云 |
| Ollama | 是,本地 | 免费、隐私好 | 学习、本地部署 |
一个非常实用的建议是:
学习 / Demo → Ollama
中文项目 → DeepSeek / 通义千问
企业项目 → 通义千问 / 智谱
长文档 → Kimi
高并发、低成本 → 豆包
复杂 Agent → OpenAI(通过代理)
十一、推荐的配置方式:不要把模型写死在代码里
建议在 .env 中统一管理:
MODEL_PROVIDER=qwen
MODEL_NAME=qwen-plus
OPENAI_API_KEY=...
DEEPSEEK_API_KEY=...
DASHSCOPE_API_KEY=...
ZHIPU_API_KEY=...
MOONSHOT_API_KEY=...
ARK_API_KEY=...
然后统一封装:
if provider == "openai":
...
elif provider == "deepseek":
...
elif provider == "qwen":
...
elif provider == "glm":
...
这样未来切模型时,不需要改业务代码。
结语
2026 年,做 Agent 已经不再是“只能接 OpenAI”。
尤其在国内,更现实的选择通常是:
OpenAI 作为最强能力参考;
DeepSeek、通义千问、GLM、Kimi、豆包作为真正落地的主力。
一句话总结:
- OpenAI:最强,但需要代理
- DeepSeek:中文、代码、性价比最高
- 通义千问:企业和 Java 最友好
- GLM:企业与私有化
- Kimi:超长文档
- 豆包:便宜、高并发
- Ollama:本地免费
模型没有绝对谁最好。
真正重要的是:
根据你的业务场景,选择最合适的模型。
更多推荐

所有评论(0)