同档开源大模型怎么选:ERNIE 5.5 Flash Base 对比 DeepSeek V4 Flash、混元 Hy3、MiMo V2.5、Kimi K3.1 Pro

摘要:6 款开源权重模型在一周内集中发布,参数从 280B 到 2.8T,许可证从 MIT 到定制协议。本文按能力、长上下文账本、部署门槛、许可证四个维度硬碰,用三段可跑代码算出缓存增长阶、许可证闸门和帕累托前沿,最后给出一棵能直接用的决策树。

适合读者:正在做基座选型、要拿结论去开评审会的架构师与技术负责人 阅读收获:能在半小时内定位自己该选哪一个,并能说清"为什么不选另外五个"


一、对比坐标系:先定维度,再谈分数

选基座和选 API 是两件事。API 选型看价格和效果就行,基座选型多了两条否决项:许可证和显存门槛。这两条不过,跑分再高也用不了。所以本文的四个维度是:

维度

为什么选它

一票否决的情形

能力

决定你能做到的上限

关键任务上差 10 分以上

长上下文账本

决定 1M 上下文是能力还是摆设

缓存到 1M 就打爆显存

部署门槛

决定你要买几张卡、要不要改框架

你的卡装不下,或框架不支持

许可证

决定你能不能合法商用

地域排除、营收门槛、禁止蒸馏

这四个维度的权重不是平均的。经验值:许可证占 30%(一票否决)、部署门槛占 25%(决定成本)、能力占 30%、长上下文账本占 15%(如果你的业务真的需要长上下文,这一项要提到 30%)。

先说清本文的口径边界,避免误读:

  • 能力数据全部来自百度统一评测框架下的自评(ERNIE 官方模型卡,四个 base 模型同一套 harness、prompt、few-shot)。没有第三方复现。
  • Kimi K3.1 Pro 和 GLM-4.7 是已后训练的 instruct 模型,与 base 模型比跑分是错位比较,本文只在部署与许可证维度纳入。
  • 参数、层数、专家数来自各家模型卡;标注"未披露"的就是官方没说,我没有补。
  • 发布时间集中在 2026 年 11 月 4–6 日,一周内格局可能再变。

二、选手清单:六个候选,三种定位

模型

定位

总参/激活

上下文

权重体积

许可证

ERNIE 5.5 Flash Base

预训练终点底座

280B / 14B

128K 训练 / 1M 推理

FP8 288GB

定制协议

DeepSeek-V4-Flash-Base

预训练终点底座

284B / 13B

1M

FP8 约 140GB

MIT

Hy3-preview-Base

预训练终点底座

295B(+3.8B MTP) / 21B

256K

BF16

腾讯 Hy 社区许可

MiMo-V2.5-Base

预训练终点底座

310B / 15B

256K

FP8

MIT

Kimi K3.1 Pro

完整 instruct(多模态)

2.8T / 104B

1M

MXFP4 1.56TB

改版 MIT(MaaS 条款)

GLM-4.7

完整 instruct

358B / 32B

约 200K

未披露

MIT

这张表里最刺眼的一行是 Kimi:2.8T 参数、1.56TB 权重。它的官方最低配置是 8 卡张量并行(两个 GB300 托盘,或一台 8 卡 B300 / MI355X),消费卡和单台 8 卡 H100 都放不下。所以它和另外五个不在同一个采购量级上——这是"要不要为了最强 instruct 能力付 10 倍硬件"的问题,不是同档对比。

而 GLM-4.7 是另一头的参照:358B、32B 激活、MIT、约 200K 上下文,权重量级和 ERNIE 接近,但它是训好的 instruct 模型。如果你的需求是"这周上线",它比任何 base 模型都合适。

三个 base 模型(DeepSeek、Hy3、MiMo)的存在意义是"省掉预训练",但它们各自的取舍不同:DeepSeek 把效率压到极致(13B 激活、140GB 权重、MIT),代价是能力上限;Hy3 走的是"更大激活换更强综合能力"(21B 激活、295B 总参),代价是权重 590GB、只有 BF16 一份;MiMo 用 SWA+global(5:1 配比)做长上下文,但层配比和 310GB 的体积让它的定位有点尴尬——比 ERNIE 还重,分数却更低。这三个模型里,只有 DeepSeek 有一个清晰到不用思考的选择理由:便宜且自由。


三、能力硬碰:24 比 6,但那 6 项很关键

先看同一口径下的分项对比(全部为百度统一评测框架自评,四个 base 模型):

Benchmark

ERNIE

DeepSeek-V4-Flash

Hy3-preview

MiMo-V2.5

谁赢

MMLU (5-shot)

93.3

89.4

87.5

87.6

ERNIE

MMLU-Pro

78.4

69.2

66.9

65.7

ERNIE (+9.2)

HumanEval+ (1-shot)

82.3

69.5

78.0

74.4

ERNIE (+12.8)

MBPP+

81.5

67.2

—

—

ERNIE

LiveCodeBench

40.1

31.9

—

—

ERNIE

FullStackBench

54.6

43.3

56.7

54.1

Hy3

RepoQA

91.7

—

—

—

ERNIE

LongBench-v2

48.7

44.5

39.8

44.6

ERNIE

InfiniteBench

46.5

48.0

33.0

46.7

DeepSeek

HELMET-Rerank

56.2

60.0

55.7

56.6

DeepSeek

把 30 项摊开,ERNIE 第一 24 项,输的 6 项是:ChineseSimpleQA、BBH(CoT)、INCLUDE-lite、HELMET-Rerank、InfiniteBench、FullStackBench。

这 6 项输得很有规律:全部集中在"需要精确事实"和"需要跨栈综合"两类任务上。而它赢的领域集中在"知识密度"(MMLU、MMLU-Pro)、"单点代码能力"(HumanEval+、MBPP+、LiveCodeBench)和"仓库级检索"(RepoQA 91.7)。

这个分布和第一篇分析的架构是自洽的:37 层压缩缓存换来了便宜的全局视野,代价就是细粒度检索;代码数据里补了大量 commit/PR/CI 修复,所以单点代码强;但全栈场景需要跨模块推理,Hy3 略胜。

三条读表注意事项,比分数本身重要:

  1. 这是基数模型(base)的分数。base 分数高说明"知识装得多、续写能力强",不等于"指令遵循好"。你拿它做 SFT 的起点,最终效果还取决于你的数据。
  1. 同一 harness 不等于公平。四家模型用了同一套 prompt 和 few-shot,但各家模型对 prompt 格式的敏感度不同,1-shot 设置下尤其明显——换个 few-shot 策略,排名可能变。
  1. 没有第三方复现。发布当日无独立评测、无托管 API。把"24/30 第一"读成"官方口径的第一",不要读成"业界公认第一"。

最后补一个横切的参照:DeepSeek-V4-Flash 的后训练版在 LMArena 上综合评分 1431.8(2026-10-28 公布,全站第 92 位)。这个数字和 base 分数不能直接比,但它说明一件事——DeepSeek 这条线的后训练做得很成熟,你拿它的 base 做 SFT,起点不差。

那 9.2 分是怎么来的:三条可解释的线索

MMLU-Pro 上 78.4 vs 69.2,差的不是 9 分运气,有三条结构性原因:

一是 token 效率。 201,216 的词表(多数中文模型在 15 万上下)+ 数字 R2L 三位分组,意味着同样的中文文本,它的 token 数更少,等效上下文更长,单位 token 承载的语义更密。这在知识类基准上表现为"同样读 8K token,它读到的内容更多"。这条优势在做长文档时会被放大。

二是数据密度。 33.5T token 对 280B 总参(约 120 token/参数),看起来不算激进;但对 14B 激活参数是 2,400 token/参数,属于"过度训练"区间——这类模型通常在知识密集型任务上更强,代价是训练成本高。

三是评测设置。 多项是 1-shot,base 模型在 1-shot 下更依赖"补全风格"的匹配,而 ERNIE 的分词器和预训练分布更贴中文评测集的写法。这一条属于口径问题,不算真本事,但会实实在在体现在分数上。

对做 SFT 的人,这三条的含义不同:第一条是白送的优势,第二条是你要付的代价(收敛慢、显存贵),第三条要打折看。如果你要拿这 9 分去做决策,建议先在自己业务集上抽 200 条对测一遍——我见过太多"benchmark 领先 10 分、业务集上打平"的案例。


四、长上下文的三笔账:缓存、计算、逐 token 通路

这是本文技术含量最高的一节,也是最容易被"1M 上下文"这个数字糊弄过去的地方。同样是 1M,三种架构的账本完全不同:

 

输出:

 

这张表要横着读,三条结论:

第一,缓存和计算是两笔独立的账。 ERNIE 把缓存压到 1/6.8、计算压到 0.7%;DeepSeek 缓存压得更狠(1/7.6)但计算要 13.2%;Kimi 反过来,缓存几乎没压(1/3.9,因为 24 层 Gated DSA 仍存全量 KV),计算却压到 0.1%(69 层线性注意力 + top-2048 稀疏)。所以你问"谁更省显存"和"谁更省算力",答案不是同一个模型。

第二,ERNIE 是唯一"既省缓存又保留逐 token 通路"的。 那 6 层 MLA 是它拿分的本钱(RepoQA 91.7 就是这么来的),也是它只能留 6 层的代价。DeepSeek 一个逐 token 层都没有,全靠压缩+稀疏,这在纯长文摘要任务上没问题,但在"精确定位"上就得靠后训练补。

第三,Kimi 的 25.17M 条目要结合它的层数看。 93 层里 69 层是线性注意力(常数状态),只有 24 层吃缓存。按"每层平均"算,它反而比 ERNIE 轻。但它的 per-token 宽度大得多(2.8T 模型、96 头),实际字节数不能拿条目数直接比。

一个必须说明的假设:DeepSeek-V4-Flash 的模型卡写了"CSA + HCA 混合",但没公布层配比。上表按 22 层 CSA / 21 层 HCA 估的,这是我编的假设,不是官方数据。真实值如果偏向 HCA,缓存会更小;偏向 CSA,缓存会更大。区间大概在 4.5M 到 7.5M 条目之间。


五、部署门槛:卡数、框架、量化生态

项

ERNIE 5.5 Flash Base

DeepSeek-V4-Flash

Hy3-preview

MiMo-V2.5

Kimi K3.1 Pro

权重体积

FP8 288GB / BF16 573GB

FP8 约 140GB

BF16 约 590GB

FP8 约 310GB

MXFP4 1.56TB

最小可用配置

2×GB300(FP8,128K)

2×80GB 级(FP8 约 140GB)

未披露

未披露

8 卡(两个 GB300 托盘)

官方框架

SGLang(需 dev 镜像)、vLLM 0.32.0 + 插件

vLLM / SGLang 原生

未披露

未披露

vLLM / SGLang / Transformers / Docker

端侧量化

无 GGUF / AWQ / MLX / Ollama

社区有 GGUF(Q4 约 155GB)

未披露

未披露

无(1.56TB 无意义)

微调路径

Megatron-Bridge(16 节点 × 4 GB300 示例)

官方 recipe

未披露

未披露

官方 recipe

这一节真正的分野只有一条:ERNIE 的 ernie5_5_moe 是非标架构,框架不打插件就跑不起来。报错信息是 model architecture ernie5_5_moe is not supported,修法是 vLLM 锁 0.32.0 加 vLLM-ERNIE 插件,或直接用 SGLang 的 dev 镜像。而对面的 DeepSeek 是标准架构,vLLM 原生就支持。

这个差别在 POC 阶段不明显(你总能跑起来),在运维阶段很致命:每次框架升级你都要等插件跟进,出问题没人能帮你查,社区的解决方案对你无效。非标架构的隐性成本,通常在第一年年底才开始显现。

第二个分野是量化生态。ERNIE 没有 GGUF,意味着没有 Ollama、没有 LM Studio、没有 Mac、没有消费卡——所有"低成本试一下"的路径全部断掉。DeepSeek 有社区 GGUF(Q4 约 155GB),虽然也不小,但至少能塞进 8 卡 A6000 或者多张 5090。MiMo 310GB 也一样尴尬:比 ERNIE 还大,却没有对应生态。

运维视角:非标架构第一年不会痛,第二年会

这句话值得展开,因为它是选型会上最容易被忽略的成本项。

标准架构(Llama 式)的好处不在于性能,在于"所有工具都认识它":框架升级不会挂、量化工具直接支持、社区报错能搜到答案、新人上手不用读源码。ERNIE 的 ernie5_5_moe 是新算子 + 新缓存布局,这决定了三件事:

  • 框架版本被钉死。你只能用 vLLM 0.32.0 加插件,或者 SGLang 的 dev 镜像。想升到 0.34 拿到吞吐优化?等插件跟进。
  • 量化要自己做。没有 AWQ/GPTQ 现成配方,FP8 是官方给的唯一低精度路径。要把 288GB 压到 150GB 跑单机,得自己写量化脚本并验证精度损失。
  • 故障排查没有外援。栈溢出、OOM、输出乱码,这些都只能自己读代码定位,搜索引擎帮不了你。

如果团队里有专职的推理工程师,这三条都是可控的;如果没有,它们会在上线三个月后集中爆发。这就是"非标架构"的真实价格:不是多花钱,是多花人。


六、许可证:比分数更硬的闸门

这一节建议直接拿代码去过一遍,别靠阅读理解:

 

输出:

 

六个模型的许可证横向对比:

模型

许可证

地域限制

营收门槛

蒸馏限制

商用友好度

ERNIE 5.5 Flash Base

定制 v1.0

排除欧盟/英国/韩国

$50M 以上需书面授权

禁止

低

DeepSeek-V4-Flash

MIT

无

无

无

高

Hy3-preview

腾讯 Hy 社区许可

需查条款

需查条款

需查条款

中

MiMo-V2.5

MIT

无

无

无

高

Kimi K3.1 Pro

改版 MIT

无

MaaS 营收 $20M 需另签

无

中高

GLM-4.7

MIT

无

无

无

高

这里要专门说清 Kimi 的"改版 MIT":主体仍是 MIT,但加了两条——做模型即服务(MaaS)且连续 12 个月营收超 2,000 万美元,需要另签协议;月活超 1 亿或月营收超 2,000 万美元的产品,要在界面上标注 "Kimi K3.1-Pro"。内部使用、以及通过官方渠道调用,不受这两条限制。它卡的是"转卖推理"的云厂商,不是应用开发者——这个设计很聪明,也说明头部开源厂已经想清楚了谁在吃他们的午餐。

而 ERNIE 的限制方向相反:它卡的是"用的人",不是"卖的人"。排除三个发达市场 + 营收门槛 + 禁止蒸馏(意味着你不能拿它做小模型),这套组合直接关掉了"研究机构拿它蒸馏学生模型"和"欧洲公司用它做私有化"两条主要路径。从开源社区的角度看,这是从 ERNIE 4.5 的 Apache 2.0 明显后退了一步。


七、成本-效果前沿:前沿上只剩两个点

有了显存门槛和分数,可以画一张最朴素的二维图:横轴是权重体积(代表硬件成本),纵轴是 MMLU-Pro(代表能力)。

 

输出:

 

这个结果对 MiMo 和 Hy3 有点残酷,但它只反映"这两个维度"。Hy3 在被支配的情况下仍然有存在理由:FullStackBench 56.7 是第一,腾讯生态和中文场景的工程支持也更完整;MiMo 的 SWA+global 结构在超长上下文下的显存效率可能比表格体现的更好(它的层配比未披露,没法算)。帕累托前沿只回答"在已测的两个维度上有没有更优解",不回答"这个模型好不好"。

顺带说一个有意思的现象:ERNIE 用比 DeepSeek 多一倍显存,换来 9.2 分 MMLU-Pro。这个交换率划不划算,取决于你的显存边际成本——如果你已经有 4 卡节点闲着,这 9.2 分几乎免费;如果你要为此新租两台机器,一年的差价大概能买几千万 token 的 API。同一个模型,不同的资产状况,结论相反。

如果把 Kimi 和 GLM 也放进这张图(它们只有 instruct 版,分数口径不同,只能粗略参考),图会变成三段:GLM(358B / SWE-bench Verified 73.8 自评)落在中段,Kimi(2.8T,Artificial Analysis 智能指数 55、全球第四、开放权重第一)在最右上角——能力最强,权重 1.56TB。这条"越往右上越买不起"的曲线,才是 2026 年开源模型的真实地形。 前沿不是一条平滑的线,而是几个孤立的点,每个点服务一类人。


八、决策树:把选型会写成函数

把前面四节的判断固化成函数,跑几个典型场景:

 

输出:

 

七行里只有一行选了 ERNIE,这个比例很说明问题:它是一张窄表。窄表的模型不是坏模型,只是适用面小——它要求"中国境内 + 卡够 + 要底座 + 营收不过线"四条同时成立。


九、不该选 ERNIE 的三种情况

反向建议比正面推荐更有用,因为选错的代价不对称:

第一,你在欧盟、英国或韩国。 这不是"申请一下就能过"的问题,许可协议直接排除这些地域的使用、衍生和输出。任何"把服务部署在新加坡给欧洲客户用"的方案都要先让法务看过——输出也算使用的话,边界会很麻烦。

第二,你要的是这周上线的东西。 base 模型没有 chat template、不会拒答、不会按指令输出 JSON。从拿到权重到能上线,中间隔着数据、SFT、评测、安全对齐四道工序,正常团队 6–10 周。如果你没有这个时间,去看 DeepSeek-V4-Flash 或 GLM-4.7,它们训好了。

第三,你的卡装不下,或者你不打算改框架。 288GB 的 FP8 权重意味着 2×GB300 起步,4×80GB 会在真实负载下 OOM。而且 ernie5_5_moe 需要打插件才能跑,你的 MLOps 流程要为此改一遍。如果这两条你都不想动,选标准架构的模型。

还有一种半例外:如果你的业务是蒸馏小模型。ERNIE 的许可证明确禁止用它的输出改进不相关的 AI 系统,这条路直接封死。而 MiMo、DeepSeek、GLM 都是 MIT,没有这个限制。

反过来,三种情况它明显合适:中国境内的金融/医疗私有化项目(数据不出域 + 要底座 + 卡够)、仓库级代码模型(HumanEval+ 82.3、RepoQA 91.7 是同档最高)、以及需要固定基线做训练方法对比的研究团队(预训练终点检查点本身就是稀缺品)。

组合策略:别只选一个

真实项目很少"选一个模型",更常见的是两条腿走路:

用途

建议

理由

线上主推理

instruct 模型(DeepSeek-V4-Flash / GLM-4.7)

训好了,能上线,MIT

领域底座

ERNIE 5.5 Flash Base 或 DeepSeek Base

预训练终点,改造成本低

长上下文兜底

谁便宜用谁

长请求成本敏感,可路由

端侧/离线

0.3B 级模型

这个档位不参与比较

这个组合的好处是:线上不被任何一家的许可证或架构绑住,底座侧又保留了自研空间。成本上,主推理走 API,底座自建只用于训练和内部任务,GPU 利用率的问题也缓解了。

一个实操建议:先把路由层写好,再选模型。把"请求长度、是否含代码、是否需要多模态、合规等级"四个标签抽象出来,模型是可替换的插件。这样无论下周谁又发新模型,你换的是配置,不是架构。github.0voice

Logo

更多推荐