同档开源大模型怎么选:ERNIE 5.5 Flash Base 对比 DeepSeek V4 Flash、混元 Hy3、MiMo V2.5、Kimi K3.1 Pro
同档开源大模型怎么选:ERNIE 5.5 Flash Base 对比 DeepSeek V4 Flash、混元 Hy3、MiMo V2.5、Kimi K3.1 Pro
摘要:6 款开源权重模型在一周内集中发布,参数从 280B 到 2.8T,许可证从 MIT 到定制协议。本文按能力、长上下文账本、部署门槛、许可证四个维度硬碰,用三段可跑代码算出缓存增长阶、许可证闸门和帕累托前沿,最后给出一棵能直接用的决策树。
适合读者:正在做基座选型、要拿结论去开评审会的架构师与技术负责人 阅读收获:能在半小时内定位自己该选哪一个,并能说清"为什么不选另外五个"
一、对比坐标系:先定维度,再谈分数
选基座和选 API 是两件事。API 选型看价格和效果就行,基座选型多了两条否决项:许可证和显存门槛。这两条不过,跑分再高也用不了。所以本文的四个维度是:
| 维度 | 为什么选它 | 一票否决的情形 |
| 能力 | 决定你能做到的上限 | 关键任务上差 10 分以上 |
| 长上下文账本 | 决定 1M 上下文是能力还是摆设 | 缓存到 1M 就打爆显存 |
| 部署门槛 | 决定你要买几张卡、要不要改框架 | 你的卡装不下,或框架不支持 |
| 许可证 | 决定你能不能合法商用 | 地域排除、营收门槛、禁止蒸馏 |
这四个维度的权重不是平均的。经验值:许可证占 30%(一票否决)、部署门槛占 25%(决定成本)、能力占 30%、长上下文账本占 15%(如果你的业务真的需要长上下文,这一项要提到 30%)。
先说清本文的口径边界,避免误读:
- 能力数据全部来自百度统一评测框架下的自评(ERNIE 官方模型卡,四个 base 模型同一套 harness、prompt、few-shot)。没有第三方复现。
- Kimi K3.1 Pro 和 GLM-4.7 是已后训练的 instruct 模型,与 base 模型比跑分是错位比较,本文只在部署与许可证维度纳入。
- 参数、层数、专家数来自各家模型卡;标注"未披露"的就是官方没说,我没有补。
- 发布时间集中在 2026 年 11 月 4–6 日,一周内格局可能再变。
二、选手清单:六个候选,三种定位
| 模型 | 定位 | 总参/激活 | 上下文 | 权重体积 | 许可证 |
| ERNIE 5.5 Flash Base | 预训练终点底座 | 280B / 14B | 128K 训练 / 1M 推理 | FP8 288GB | 定制协议 |
| DeepSeek-V4-Flash-Base | 预训练终点底座 | 284B / 13B | 1M | FP8 约 140GB | MIT |
| Hy3-preview-Base | 预训练终点底座 | 295B(+3.8B MTP) / 21B | 256K | BF16 | 腾讯 Hy 社区许可 |
| MiMo-V2.5-Base | 预训练终点底座 | 310B / 15B | 256K | FP8 | MIT |
| Kimi K3.1 Pro | 完整 instruct(多模态) | 2.8T / 104B | 1M | MXFP4 1.56TB | 改版 MIT(MaaS 条款) |
| GLM-4.7 | 完整 instruct | 358B / 32B | 约 200K | 未披露 | MIT |
这张表里最刺眼的一行是 Kimi:2.8T 参数、1.56TB 权重。它的官方最低配置是 8 卡张量并行(两个 GB300 托盘,或一台 8 卡 B300 / MI355X),消费卡和单台 8 卡 H100 都放不下。所以它和另外五个不在同一个采购量级上——这是"要不要为了最强 instruct 能力付 10 倍硬件"的问题,不是同档对比。
而 GLM-4.7 是另一头的参照:358B、32B 激活、MIT、约 200K 上下文,权重量级和 ERNIE 接近,但它是训好的 instruct 模型。如果你的需求是"这周上线",它比任何 base 模型都合适。
三个 base 模型(DeepSeek、Hy3、MiMo)的存在意义是"省掉预训练",但它们各自的取舍不同:DeepSeek 把效率压到极致(13B 激活、140GB 权重、MIT),代价是能力上限;Hy3 走的是"更大激活换更强综合能力"(21B 激活、295B 总参),代价是权重 590GB、只有 BF16 一份;MiMo 用 SWA+global(5:1 配比)做长上下文,但层配比和 310GB 的体积让它的定位有点尴尬——比 ERNIE 还重,分数却更低。这三个模型里,只有 DeepSeek 有一个清晰到不用思考的选择理由:便宜且自由。
三、能力硬碰:24 比 6,但那 6 项很关键
先看同一口径下的分项对比(全部为百度统一评测框架自评,四个 base 模型):
| Benchmark | ERNIE | DeepSeek-V4-Flash | Hy3-preview | MiMo-V2.5 | 谁赢 |
| MMLU (5-shot) | 93.3 | 89.4 | 87.5 | 87.6 | ERNIE |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 | ERNIE (+9.2) |
| HumanEval+ (1-shot) | 82.3 | 69.5 | 78.0 | 74.4 | ERNIE (+12.8) |
| MBPP+ | 81.5 | 67.2 | — | — | ERNIE |
| LiveCodeBench | 40.1 | 31.9 | — | — | ERNIE |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 | Hy3 |
| RepoQA | 91.7 | — | — | — | ERNIE |
| LongBench-v2 | 48.7 | 44.5 | 39.8 | 44.6 | ERNIE |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 | DeepSeek |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 | DeepSeek |
把 30 项摊开,ERNIE 第一 24 项,输的 6 项是:ChineseSimpleQA、BBH(CoT)、INCLUDE-lite、HELMET-Rerank、InfiniteBench、FullStackBench。
这 6 项输得很有规律:全部集中在"需要精确事实"和"需要跨栈综合"两类任务上。而它赢的领域集中在"知识密度"(MMLU、MMLU-Pro)、"单点代码能力"(HumanEval+、MBPP+、LiveCodeBench)和"仓库级检索"(RepoQA 91.7)。
这个分布和第一篇分析的架构是自洽的:37 层压缩缓存换来了便宜的全局视野,代价就是细粒度检索;代码数据里补了大量 commit/PR/CI 修复,所以单点代码强;但全栈场景需要跨模块推理,Hy3 略胜。
三条读表注意事项,比分数本身重要:
- 这是基数模型(base)的分数。base 分数高说明"知识装得多、续写能力强",不等于"指令遵循好"。你拿它做 SFT 的起点,最终效果还取决于你的数据。
- 同一 harness 不等于公平。四家模型用了同一套 prompt 和 few-shot,但各家模型对 prompt 格式的敏感度不同,1-shot 设置下尤其明显——换个 few-shot 策略,排名可能变。
- 没有第三方复现。发布当日无独立评测、无托管 API。把"24/30 第一"读成"官方口径的第一",不要读成"业界公认第一"。
最后补一个横切的参照:DeepSeek-V4-Flash 的后训练版在 LMArena 上综合评分 1431.8(2026-10-28 公布,全站第 92 位)。这个数字和 base 分数不能直接比,但它说明一件事——DeepSeek 这条线的后训练做得很成熟,你拿它的 base 做 SFT,起点不差。
那 9.2 分是怎么来的:三条可解释的线索
MMLU-Pro 上 78.4 vs 69.2,差的不是 9 分运气,有三条结构性原因:
一是 token 效率。 201,216 的词表(多数中文模型在 15 万上下)+ 数字 R2L 三位分组,意味着同样的中文文本,它的 token 数更少,等效上下文更长,单位 token 承载的语义更密。这在知识类基准上表现为"同样读 8K token,它读到的内容更多"。这条优势在做长文档时会被放大。
二是数据密度。 33.5T token 对 280B 总参(约 120 token/参数),看起来不算激进;但对 14B 激活参数是 2,400 token/参数,属于"过度训练"区间——这类模型通常在知识密集型任务上更强,代价是训练成本高。
三是评测设置。 多项是 1-shot,base 模型在 1-shot 下更依赖"补全风格"的匹配,而 ERNIE 的分词器和预训练分布更贴中文评测集的写法。这一条属于口径问题,不算真本事,但会实实在在体现在分数上。
对做 SFT 的人,这三条的含义不同:第一条是白送的优势,第二条是你要付的代价(收敛慢、显存贵),第三条要打折看。如果你要拿这 9 分去做决策,建议先在自己业务集上抽 200 条对测一遍——我见过太多"benchmark 领先 10 分、业务集上打平"的案例。
四、长上下文的三笔账:缓存、计算、逐 token 通路
这是本文技术含量最高的一节,也是最容易被"1M 上下文"这个数字糊弄过去的地方。同样是 1M,三种架构的账本完全不同:
输出:
这张表要横着读,三条结论:
第一,缓存和计算是两笔独立的账。 ERNIE 把缓存压到 1/6.8、计算压到 0.7%;DeepSeek 缓存压得更狠(1/7.6)但计算要 13.2%;Kimi 反过来,缓存几乎没压(1/3.9,因为 24 层 Gated DSA 仍存全量 KV),计算却压到 0.1%(69 层线性注意力 + top-2048 稀疏)。所以你问"谁更省显存"和"谁更省算力",答案不是同一个模型。
第二,ERNIE 是唯一"既省缓存又保留逐 token 通路"的。 那 6 层 MLA 是它拿分的本钱(RepoQA 91.7 就是这么来的),也是它只能留 6 层的代价。DeepSeek 一个逐 token 层都没有,全靠压缩+稀疏,这在纯长文摘要任务上没问题,但在"精确定位"上就得靠后训练补。
第三,Kimi 的 25.17M 条目要结合它的层数看。 93 层里 69 层是线性注意力(常数状态),只有 24 层吃缓存。按"每层平均"算,它反而比 ERNIE 轻。但它的 per-token 宽度大得多(2.8T 模型、96 头),实际字节数不能拿条目数直接比。
一个必须说明的假设:DeepSeek-V4-Flash 的模型卡写了"CSA + HCA 混合",但没公布层配比。上表按 22 层 CSA / 21 层 HCA 估的,这是我编的假设,不是官方数据。真实值如果偏向 HCA,缓存会更小;偏向 CSA,缓存会更大。区间大概在 4.5M 到 7.5M 条目之间。
五、部署门槛:卡数、框架、量化生态
| 项 | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash | Hy3-preview | MiMo-V2.5 | Kimi K3.1 Pro |
| 权重体积 | FP8 288GB / BF16 573GB | FP8 约 140GB | BF16 约 590GB | FP8 约 310GB | MXFP4 1.56TB |
| 最小可用配置 | 2×GB300(FP8,128K) | 2×80GB 级(FP8 约 140GB) | 未披露 | 未披露 | 8 卡(两个 GB300 托盘) |
| 官方框架 | SGLang(需 dev 镜像)、vLLM 0.32.0 + 插件 | vLLM / SGLang 原生 | 未披露 | 未披露 | vLLM / SGLang / Transformers / Docker |
| 端侧量化 | 无 GGUF / AWQ / MLX / Ollama | 社区有 GGUF(Q4 约 155GB) | 未披露 | 未披露 | 无(1.56TB 无意义) |
| 微调路径 | Megatron-Bridge(16 节点 × 4 GB300 示例) | 官方 recipe | 未披露 | 未披露 | 官方 recipe |
这一节真正的分野只有一条:ERNIE 的 ernie5_5_moe 是非标架构,框架不打插件就跑不起来。报错信息是 model architecture ernie5_5_moe is not supported,修法是 vLLM 锁 0.32.0 加 vLLM-ERNIE 插件,或直接用 SGLang 的 dev 镜像。而对面的 DeepSeek 是标准架构,vLLM 原生就支持。
这个差别在 POC 阶段不明显(你总能跑起来),在运维阶段很致命:每次框架升级你都要等插件跟进,出问题没人能帮你查,社区的解决方案对你无效。非标架构的隐性成本,通常在第一年年底才开始显现。
第二个分野是量化生态。ERNIE 没有 GGUF,意味着没有 Ollama、没有 LM Studio、没有 Mac、没有消费卡——所有"低成本试一下"的路径全部断掉。DeepSeek 有社区 GGUF(Q4 约 155GB),虽然也不小,但至少能塞进 8 卡 A6000 或者多张 5090。MiMo 310GB 也一样尴尬:比 ERNIE 还大,却没有对应生态。
运维视角:非标架构第一年不会痛,第二年会
这句话值得展开,因为它是选型会上最容易被忽略的成本项。
标准架构(Llama 式)的好处不在于性能,在于"所有工具都认识它":框架升级不会挂、量化工具直接支持、社区报错能搜到答案、新人上手不用读源码。ERNIE 的 ernie5_5_moe 是新算子 + 新缓存布局,这决定了三件事:
- 框架版本被钉死。你只能用 vLLM 0.32.0 加插件,或者 SGLang 的 dev 镜像。想升到 0.34 拿到吞吐优化?等插件跟进。
- 量化要自己做。没有 AWQ/GPTQ 现成配方,FP8 是官方给的唯一低精度路径。要把 288GB 压到 150GB 跑单机,得自己写量化脚本并验证精度损失。
- 故障排查没有外援。栈溢出、OOM、输出乱码,这些都只能自己读代码定位,搜索引擎帮不了你。
如果团队里有专职的推理工程师,这三条都是可控的;如果没有,它们会在上线三个月后集中爆发。这就是"非标架构"的真实价格:不是多花钱,是多花人。
六、许可证:比分数更硬的闸门
这一节建议直接拿代码去过一遍,别靠阅读理解:
输出:
六个模型的许可证横向对比:
| 模型 | 许可证 | 地域限制 | 营收门槛 | 蒸馏限制 | 商用友好度 |
| ERNIE 5.5 Flash Base | 定制 v1.0 | 排除欧盟/英国/韩国 | $50M 以上需书面授权 | 禁止 | 低 |
| DeepSeek-V4-Flash | MIT | 无 | 无 | 无 | 高 |
| Hy3-preview | 腾讯 Hy 社区许可 | 需查条款 | 需查条款 | 需查条款 | 中 |
| MiMo-V2.5 | MIT | 无 | 无 | 无 | 高 |
| Kimi K3.1 Pro | 改版 MIT | 无 | MaaS 营收 $20M 需另签 | 无 | 中高 |
| GLM-4.7 | MIT | 无 | 无 | 无 | 高 |
这里要专门说清 Kimi 的"改版 MIT":主体仍是 MIT,但加了两条——做模型即服务(MaaS)且连续 12 个月营收超 2,000 万美元,需要另签协议;月活超 1 亿或月营收超 2,000 万美元的产品,要在界面上标注 "Kimi K3.1-Pro"。内部使用、以及通过官方渠道调用,不受这两条限制。它卡的是"转卖推理"的云厂商,不是应用开发者——这个设计很聪明,也说明头部开源厂已经想清楚了谁在吃他们的午餐。
而 ERNIE 的限制方向相反:它卡的是"用的人",不是"卖的人"。排除三个发达市场 + 营收门槛 + 禁止蒸馏(意味着你不能拿它做小模型),这套组合直接关掉了"研究机构拿它蒸馏学生模型"和"欧洲公司用它做私有化"两条主要路径。从开源社区的角度看,这是从 ERNIE 4.5 的 Apache 2.0 明显后退了一步。
七、成本-效果前沿:前沿上只剩两个点
有了显存门槛和分数,可以画一张最朴素的二维图:横轴是权重体积(代表硬件成本),纵轴是 MMLU-Pro(代表能力)。
输出:
这个结果对 MiMo 和 Hy3 有点残酷,但它只反映"这两个维度"。Hy3 在被支配的情况下仍然有存在理由:FullStackBench 56.7 是第一,腾讯生态和中文场景的工程支持也更完整;MiMo 的 SWA+global 结构在超长上下文下的显存效率可能比表格体现的更好(它的层配比未披露,没法算)。帕累托前沿只回答"在已测的两个维度上有没有更优解",不回答"这个模型好不好"。
顺带说一个有意思的现象:ERNIE 用比 DeepSeek 多一倍显存,换来 9.2 分 MMLU-Pro。这个交换率划不划算,取决于你的显存边际成本——如果你已经有 4 卡节点闲着,这 9.2 分几乎免费;如果你要为此新租两台机器,一年的差价大概能买几千万 token 的 API。同一个模型,不同的资产状况,结论相反。
如果把 Kimi 和 GLM 也放进这张图(它们只有 instruct 版,分数口径不同,只能粗略参考),图会变成三段:GLM(358B / SWE-bench Verified 73.8 自评)落在中段,Kimi(2.8T,Artificial Analysis 智能指数 55、全球第四、开放权重第一)在最右上角——能力最强,权重 1.56TB。这条"越往右上越买不起"的曲线,才是 2026 年开源模型的真实地形。 前沿不是一条平滑的线,而是几个孤立的点,每个点服务一类人。
八、决策树:把选型会写成函数
把前面四节的判断固化成函数,跑几个典型场景:
输出:
七行里只有一行选了 ERNIE,这个比例很说明问题:它是一张窄表。窄表的模型不是坏模型,只是适用面小——它要求"中国境内 + 卡够 + 要底座 + 营收不过线"四条同时成立。
九、不该选 ERNIE 的三种情况
反向建议比正面推荐更有用,因为选错的代价不对称:
第一,你在欧盟、英国或韩国。 这不是"申请一下就能过"的问题,许可协议直接排除这些地域的使用、衍生和输出。任何"把服务部署在新加坡给欧洲客户用"的方案都要先让法务看过——输出也算使用的话,边界会很麻烦。
第二,你要的是这周上线的东西。 base 模型没有 chat template、不会拒答、不会按指令输出 JSON。从拿到权重到能上线,中间隔着数据、SFT、评测、安全对齐四道工序,正常团队 6–10 周。如果你没有这个时间,去看 DeepSeek-V4-Flash 或 GLM-4.7,它们训好了。
第三,你的卡装不下,或者你不打算改框架。 288GB 的 FP8 权重意味着 2×GB300 起步,4×80GB 会在真实负载下 OOM。而且 ernie5_5_moe 需要打插件才能跑,你的 MLOps 流程要为此改一遍。如果这两条你都不想动,选标准架构的模型。
还有一种半例外:如果你的业务是蒸馏小模型。ERNIE 的许可证明确禁止用它的输出改进不相关的 AI 系统,这条路直接封死。而 MiMo、DeepSeek、GLM 都是 MIT,没有这个限制。
反过来,三种情况它明显合适:中国境内的金融/医疗私有化项目(数据不出域 + 要底座 + 卡够)、仓库级代码模型(HumanEval+ 82.3、RepoQA 91.7 是同档最高)、以及需要固定基线做训练方法对比的研究团队(预训练终点检查点本身就是稀缺品)。
组合策略:别只选一个
真实项目很少"选一个模型",更常见的是两条腿走路:
| 用途 | 建议 | 理由 |
| 线上主推理 | instruct 模型(DeepSeek-V4-Flash / GLM-4.7) | 训好了,能上线,MIT |
| 领域底座 | ERNIE 5.5 Flash Base 或 DeepSeek Base | 预训练终点,改造成本低 |
| 长上下文兜底 | 谁便宜用谁 | 长请求成本敏感,可路由 |
| 端侧/离线 | 0.3B 级模型 | 这个档位不参与比较 |
这个组合的好处是:线上不被任何一家的许可证或架构绑住,底座侧又保留了自研空间。成本上,主推理走 API,底座自建只用于训练和内部任务,GPU 利用率的问题也缓解了。
一个实操建议:先把路由层写好,再选模型。把"请求长度、是否含代码、是否需要多模态、合规等级"四个标签抽象出来,模型是可替换的插件。这样无论下周谁又发新模型,你换的是配置,不是架构。github.0voice
更多推荐



所有评论(0)