简介

文章介绍了OpenAI首次开源的两个大语言模型GPT-OSS-120B和20B的技术细节、体验方式和实际表现。120B模型接近o4-mini性能，80GB GPU即可运行；20B模型仅需16GB内存。两者均采用专家混合系统架构，支持128k上下文和工具调用功能。通过Ollama或OpenRouter可轻松体验，虽然在编程能力上表现一般，但在数学和逻辑推理方面表现优异，为本地部署高性能大模型提供了新选择。

---

一、gpt-oss-120b 和 gpt-oss-20b

OpenAI终于把开源的模型放出来了。

gpt-oss系列也是自GPT2以来，OpenAI首次开源的大语言模型。

我也是美滋滋在本地用上了，20B版本通过Ollama在Apple M1 Pro 32GB电脑上运行的第一个问题，它思考了6.1s。

所以，接下来的内容我会用大白话说说

• gpt-oss的技术细节
• 如何体验上gpt-oss
• 以及gpt-oss的实际表现

Here we go！

二、gpt-oss技术细节

先说纸面数据，

gpt-oss-120b在核心推理基准测试中接近OpenAI o4-mini，只需要单张80GB GPU就可以运行。gpt-oss-20b在常见基准测试中接近o3-mini，只需要16G内存就可以运行。

gpt-oss权重在 Hugging Face 上提供下载，并且原生量化为 MXFP4 格式。而且发布前就跟Azure、Hugging Face、vLLM、Ollama、llama.cpp、LM Studio、AWS、Fireworks、Together AI、Baseten、Databricks、Vercel、Cloudflare、 OpenRouter、NVIDIA、AMD、Cerebras 和 Groq 等都提前合作好了。这几天应该都能用上。甚至微软还有Windows 的GPU优化版本。这豪华名单我只能说不愧是OpenAI。

从左到右分别是gpt-oss-120b（带工具）、gpt-oss-120b、gpt-oss-20b（带工具）、gpt-oss-20b、o3（带工具）、o4-mini（带工具）和o3-mini（带工具）

如果柱形图看起来不够显眼的话，可以看看我好朋友@洛小山整理出来的表格：

20b这个版本是很夸张的，如果纸面分数没有水份的话，也就是说目前开源的7、8、14B等这些适合在本地端侧用的模型都被gpt-oss-20b秒了。

然后，

这两款模型在工具调用（搜索和python代码执行）、少样本函数调用、思维链推理（Tau-Bench）以及 HealthBench 医疗基准测试中表现都超过了o1与GPT-4o。。。

这样的话我有点找不到订阅Plus的理由了，要不就本地gpt-oss搭配MCP，要不就上Pro保证 Deep Reserach 的用量，至于GPT Agent的话，现阶段无视就行。

除了性能外，OpenAI还罕见放出了“简化版”的技术报告，我用300个字讲解一下：

gpt-oss都采用了专家混合系统（MoE）的Transformer架构，

• gpt-oss-120b每个token激活参数是5.1B
• gpt-oss-20b每个token激活参数是3.6B

两个模型都支持128k的上下文。采用了GPT3同款的注意力模式（alternating dense and locally banded sparse attention patterns），为了提升推理和内存效率，使用了8分组的多查询注意力机制。

从训练的数据集上看，用的主要是英文纯文本，侧重点是STEM学科、编程和通用知识。负责处理数据的Tokenizer（分词器）o200k_harmony也会跟着gpt-oss一起开源，这个分词器是o4-mini、gpt-4o分词器的超集。

如果一个集合S2中的每一个元素都在集合S1中，且集合S1中可能包含S2中没有的元素，则集合S1就是S2的一个超集

gpt-oss的后训练阶段采用了o4-mini同款流程，包括监督微调（SFT）和强化学习（RL）。

跟API版本的OpenAI o系列推理模型一样，gpt-oss支持三个推理级别（低、中、高），对应不同的推理思考成本，在系统提示语（system prompt）里通过文字，一句话的形式就可以完成切换。

三、体验方式

目前体验这两个模型，我比较推荐两个方式，

Ollama「🔗 ollama.Com」，也就是我一开始用到的。

最近升级后有了UI页面，打开默认就是gpt-oss-20b，这时候只需要发一条消息，然后等待模型下载完成就可以了

如果没有大于16GB内存的硬件条件的话，可以去试试隔壁的OpenRouter「🔗 openrouter.ai」，

它甚至把Claude Opus 4.1也上线了，

就价格来看的话，只有OpenAI o3的7%，甚至比我们的价格王DeepSeekR1便宜。不过参数大小摆在这，我们还是要看看真实性能。

四、真实性能

后续我再想想怎么接入Claude Code或者把拉垮的CodeX配置起来，测试一下gpt-oss项目级的编程能力。今天的话就先跳过简单题，测试一下编程、学科和推理的大题。

就我目前测下来，gpt-oss的编程能力没想象中出色，隔壁Claude4.1估计可以先半场开香槟了。

后面这两道大题，是我的好朋友 @赛博小熊猫Loki 提供的。

先来看看数学，

A与B好奇问C的年龄，爱卖关子的C给出了以下11个数字，C的年龄就是其中的一个：35、36、38、42、45、46、51、55、57、61、62，

并且分别把年龄的十位数告诉给A，把个位数告诉给B

此时，A和B发生以下对话：

A：我不知道C的年龄，我知道你不知道。

B：原本我不知道的，现在我知道了。

A：现在我也知道了。

那么，请问C的年龄是？

gpt-oss-120b（思考4s）：

gpt-oss-20b（思考6s）：

好在数学题没拉垮，思路还是很明确的。

接着是七个小矮人的推理题，

七个小矮人的秘密

七个小矮人在遇到白雪公主前，他们来自不同家乡：水晶洞、松果林、蘑菇谷、彩虹桥、月光湖、岩石山、向日葵田；从事不同职业：矿工、园丁、厨师、医生、歌手、木匠、渔夫；喝不同饮料：薄荷茶、苹果酒、蜂蜜水、热可可、柠檬汁、姜茶、草莓奶昔；戴不同颜色帽子：红、黄、蓝、绿、紫、白、黑；使用不同交通工具：独轮车、滑板、雪橇、三轮车、马车、小船、自行车。有一天，他们的交通工具从左到右排成一行，请根据以下条件推理：1、Doc戴红色帽子

2、Grumpy的交通工具是雪橇

3、Happy来自向日葵田，职业是歌手

1. d.矿工喝热可可

5、三轮车紧邻小船左侧

6、月光湖居民戴紫色帽子

7、医生的交通工具在正中间

8、Sneezy 住在彩虹桥，戴黄色帽子

9、Sleepy的交通工具在滑板右侧第三位

1. j.喝苹果酒者的交通工具与渔夫相邻

11、Dopey 的帽子颜色比 Bashful深（黑>紫>蓝>绿>黄>红>白）

12、园丁使用独轮车

13、岩石山居民戴黑色帽子，交通工具在马车左边第二位

14、喝柠檬汁者的交通工具与医生相隔一辆

15、蘑菇谷居民喝姜茶

16、厨师的交通工具紧邻戴蓝色帽子者

17、使用小船的人来自松果林

18、Happy 不戴白帽子

请问谁戴黑帽子？

gpt-oss-120b（思考61秒，但没答对）：

gpt-oss-20b（思考83秒，再起不能）：

遇到这种复杂推理题，20b会开始出现重复生成的情况，直到卡住不动。

五、如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一直在更新，更多的大模型学习和面试资料已经上传带到CSDN的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇

01.大模型风口已至：月薪30K+的AI岗正在批量诞生

2025年大模型应用呈现爆发式增长，根据工信部最新数据：

国内大模型相关岗位缺口达47万

初级工程师平均薪资28K（数据来源：BOSS直聘报告）

70%企业存在"能用模型不会调优"的痛点

真实案例：某二本机械专业学员，通过4个月系统学习，成功拿到某AI医疗公司大模型优化岗offer，薪资直接翻3倍！

02.大模型 AI 学习和面试资料

1️⃣ 提示词工程：把ChatGPT从玩具变成生产工具
2️⃣ RAG系统：让大模型精准输出行业知识
3️⃣ 智能体开发：用AutoGPT打造24小时数字员工

📦熬了三个大夜整理的《AI进化工具包》送你：
✔️ 大厂内部LLM落地手册（含58个真实案例）
✔️ 提示词设计模板库（覆盖12大应用场景）
✔️ 私藏学习路径图（0基础到项目实战仅需90天）

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】