摘要

在本次综合评测、技术社区热度、推理调用热度三重维度构成的全球顶尖大模型榜单中，小米自研通用轻量化大模型 MiMo-V2.5 位列全球第三名，成为本次榜单中排名最高的国产自主研发大模型，实现了中国轻量化通用大模型跻身全球第一技术梯队的重要突破。区别于海外大模型优先布局云端通用场景的研发路线，MiMo 系列依托小米十余年移动端 AI、端侧神经网络优化、IoT 设备智能计算的技术积淀，采用端云协同双底座联合预训练的独创架构，MiMo-V2.5 在兼顾云端高并发商用推理能力的同时，深度适配手机、智能穿戴、边缘 IoT 终端等低算力硬件的离线轻量化部署场景，在中文语境理解、本土生活化场景交互、端侧低精度量化性能、长上下文本地知识库问答四大维度具备显著技术优势。本文从 MiMo-V2.5 端云协同架构设计、中文场景定向预训练优化、端侧极致量化推理技术、私有化行业部署方案、手机终端 AI 落地五大核心方向展开深度技术解析，结合多组中英文任务横向评测数据，系统拆解该国产轻量化模型突围全球榜单的技术核心竞争力，同时剖析国内轻量化大模型端云一体化的技术演进路线与产业落地价值，为国产大模型行业选型、端侧 AI 应用研发提供技术参考。

关键词

MiMo-V2.5；小米大模型；端云协同大模型；国产轻量化大模型；端侧 INT 量化；中文预训练；IoT 边缘 AI 部署

一、引言

全球轻量化大模型赛道长期由谷歌 Gemini 系列、Meta Llama 系列等海外模型占据技术榜单前列，国产大模型大多聚焦云端通用 To B 政企场景，在端侧移动端离线部署、中文生活化场景深度适配、海量消费级硬件规模化落地三大方向存在技术短板：多数国产开源大模型仅针对云端 GPU 场景优化，经过低精度量化部署在手机、嵌入式 IoT 设备后会出现精度大幅衰减、推理卡顿、内存溢出等问题；预训练语料偏向书面化政务、金融类文本，对于中文网络口语、生活化场景、地域化语言的语义理解、多轮对话共情能力较弱；缺乏端云双向数据协同迭代的训练架构，云端大模型无法将海量终端真实用户交互数据安全合规地用于模型迭代优化，导致场景适配能力迭代速度落后于海外科技厂商。

小米依托手机、智能家电、可穿戴设备、工业边缘终端海量硬件终端的布局优势，自研 MiMo 端云协同大模型技术体系，MiMo-V2.5 作为迭代后的成熟商用轻量化版本，创新采用云端通用大底座 + 端侧轻量化蒸馏子模型的双架构联合训练模式，在预训练阶段同时优化云端高并发推理性能与端侧低算力硬件适配能力。本次榜单中 MiMo-V2.5 凭借中文任务综合评测高分、海内外开源社区极高的讨论热度、小米全球数亿智能终端的规模化调用量，跻身全球轻量化大模型第三名，验证了国产端云协同大模型技术路线的可行性与先进性。本文围绕 MiMo-V2.5 独创的端云协同预训练架构、中文场景定向优化技术、端侧极致量化工程方案、消费端与产业端落地实践展开系统性技术分析，深度解读国产轻量化大模型差异化突围的技术逻辑。

二、MiMo-V2.5 核心技术架构：端云协同联合预训练创新体系

2.1 云端 - 端侧双底座师生联合蒸馏架构

MiMo-V2.5 的核心技术差异化优势来源于小米独创的端云师生联合预训练框架：以小米自研 MiMo 云端大参数基座模型作为教师模型，在通用海量中英文语料、多模态图文数据集、代码开源数据集完成基础预训练后，采用分层差异化知识蒸馏方案，同时生成面向云端商用部署的标准版轻量化模型与面向终端设备的极致量化端侧子模型。传统蒸馏方案大多只针对单一部署场景优化，要么偏向云端高算力硬件牺牲端侧兼容性，要么极致压缩参数适配手机导致通用任务精度大幅下滑，而 MiMo-V2.5 通过双向蒸馏机制实现两类部署场景的性能均衡优化。

在蒸馏训练过程中，研发团队将 Transformer 架构划分为通用特征层、任务专属层两大模块：通用语义特征层、多模态视觉对齐层采用参数共享策略，保证云端与端侧模型具备一致的语义表征能力；对话生成、代码推理、文档抽取等任务专属层采用差异化蒸馏约束，云端版本保留更高维度特征参数保障商用任务精度，端侧版本通过结构化剪枝、稀疏化权重压缩适配低算力硬件。实测数据显示，MiMo-V2.5 云端版本在中文 MMLU、法律文书抽取、长文本摘要任务中，精度仅比教师基座模型下降 3.2%，而经过 INT4 量化后的端侧子模型部署在移动端骁龙、天玑主流手机芯片上，中文日常对话、图文问答任务精度衰减控制在 7% 以内，实现云端商用精度与端侧离线部署兼容性的双向兼顾。

2.2 中文本土场景多层级语料定向预训练优化

海外轻量化大模型普遍存在中文语境理解偏差、网络口语语义误判、本土常识知识缺失、中文多轮对话生硬等痛点，核心原因在于预训练语料以英文通用数据为主，中文语料占比低、场景覆盖局限于书面正式文本。MiMo-V2.5 在预训练阶段构建了四层中文专属语料库：第一层为中文百科、教科书、学术文献类通用基础语料，夯实模型中文基础知识能力；第二层覆盖国内法律法规、政务公文、财税行业规范、中文开源代码等垂直领域书面语料，适配政企云端商用场景；第三层采集经过合规脱敏处理的中文网络对话、电商客服聊天、生活化场景交互语料，优化口语化语义理解与多轮对话流畅度；第四层融入国内地域民俗、生活常识、本土热门行业场景数据集，补齐海外模型缺失的本土化知识短板。

在中英文横向对照评测中，MiMo-V2.5 中文通用任务综合得分超越同参数 Llama 3.1 8B 模型 14.5%，在网络热词理解、方言化口语转述、生活化场景多轮对话、国内政策解读四类任务中优势尤为显著。对于国内企业而言，基于该模型搭建本土智能客服、本地生活服务问答、政务便民咨询系统时，无需投入大量中文提示词优化、领域微调成本，原生即可适配国内语言使用习惯，大幅降低中文场景下的模型落地研发门槛。

2.3 端侧硬件算子深度适配的 Transformer 架构改造

移动端、IoT 嵌入式设备普遍采用 ARM 架构处理器、NPU 专用神经网络加速单元，传统基于 GPU 架构优化的开源大模型在端侧部署时，会出现大量算子不兼容、无法调用硬件加速单元、内存频繁拷贝导致推理时延飙升的问题。小米针对移动端主流 NPU、ARM CPU 硬件特性，对 MiMo-V2.5 的 Transformer 前馈层、多头注意力层、归一化层进行算子重构优化，将大模型高频算子做硬件原生适配，支持端侧硬件加速引擎直接调用 NPU 算力，同时设计动态内存复用机制，解决移动端内存资源受限场景下的大模型部署崩溃问题。

经过算子重构后的 MiMo-V2.5 端侧版本，在主流安卓、智能手机终端上，单轮中文对话首 Token 推理时延可压缩至 150ms 以内，流式输出 Token 平均时延低于 10ms，支持手机端离线百万字本地文档知识库问答、图片离线识别解析，摆脱云端网络依赖，在无信号、弱网场景下依然可以稳定提供 AI 智能服务，这也是该模型在小米海量终端设备中调用热度持续攀升的核心技术基础。

三、MiMo-V2.5 多维度技术性能横向评测分析

3.1 中英文通用及垂直领域任务评测

选取国内权威 CMMLU 中文通用评测、GSM8K 数理推理、Finance 财务数据集、Law 法律数据集、HumanEval 代码五大评测集开展横向对比，MiMo-V2.5 综合得分超越 Meta Llama 3.1 8B、InclusionAI Ling-2.6-Flash 两款同期轻量化模型，在中文垂直行业任务维度优势突出。在 CMMLU 中文知识评测中得分 74.8 分，仅次于榜单前两位谷歌 Gemini 系列模型；在电商评论情感分析、中文文案创作、短视频脚本生成等互联网高频商用场景，任务 F1 指标位列全部参评模型第二位，高度适配国内互联网内容产业的智能化落地需求。

3.2 端侧多精度量化性能实测

分别采用 INT8、INT4 两种主流端侧量化方案对 MiMo-V2.5 进行精度压测：INT8 量化后中文通用任务精度衰减仅 3.6%，单轮对话内存占用控制在 420MB；极致 INT4 量化下精度衰减 6.8%，内存占用压缩至 210MB，主流千元以上智能手机均可实现离线部署。对比同参数海外开源模型 INT4 量化后 12%-18% 的精度损耗，MiMo-V2.5 依托算子架构优化与中文语料专项训练，在端侧轻量化压缩场景下的稳定性、精度可控性具备碾压级优势。

3.3 云端工程化部署成本优势

MiMo-V2.5 向国内企业开放免费商用 API 接口、开源模型权重两种落地模式，中小企业可以零成本调用云端推理服务搭建 AI 业务；对于数据敏感的金融、政务行业，可免费获取模型权重在国产鲲鹏、飞腾服务器上私有化部署，完美适配国内信创产业政策要求。相比海外大模型高昂的商用调用资费、复杂的跨境数据合规流程，该国产模型大幅降低了国内企业大模型落地的资金与合规门槛。

四、MiMo-V2.5 两大落地场景：消费端终端 AI 与产业端信创私有化部署

4.1 消费级智能终端端侧 AI 规模化落地

MiMo-V2.5 已经全面搭载于小米智能手机、Redmi 系列手机、小米平板、智能音箱、电视、扫地机器人等全系 IoT 硬件设备，为数亿终端用户提供离线 AI 助手服务：支持手机端离线文档总结、照片文字提取、语音实时翻译、智能日程规划、本地隐私相册图文检索；智能家电基于端侧大模型实现自然语言全屋设备控制、生活场景智能联动；智能穿戴设备结合生理传感器数据，完成健康数据解读、运动方案个性化推荐。依托端侧离线推理特性，所有用户隐私交互数据全部在本地硬件完成计算，不会上传云端，既保障了用户数据隐私安全，又实现了 AI 功能全天候无网络可用，是全球范围内端侧大模型规模化落地的标杆级应用案例。

4.2 国内政企信创行业私有化部署场景

依托模型原生支持国产软硬件生态的技术优势，MiMo-V2.5 广泛落地于政务、教育、制造业、金融四大信创重点行业。地方政务单位基于该模型搭建政策智能检索、群众诉求工单自动分类、政务文书智能纠错系统；中小学教育机构部署私有化离线 AI 助教平台，实现本地题库智能出题、学生作业离线批改；智能制造企业在国产边缘工控机部署端侧 MiMo 模型，完成生产线设备故障日志智能分析、设备运维工单自动生成。在保障数据不出内网、适配国产软硬件政策的前提下，帮助传统行业实现数字化智能升级。

五、技术现存短板与国产端云大模型未来迭代方向

从横向评测结果可以看出，MiMo-V2.5 在多模态复杂工程图纸解析、前沿数理科研推理、小语种全球化场景等领域，能力依然弱于谷歌第三代 Gemini 系列模型，海外场景下英文专业任务精度存在一定差距；同时模型开源生态建设起步较晚，第三方微调工具、推理框架的社区适配度不及 Llama 成熟开源体系，海外研发团队的二次开发热度相对偏低。

未来 MiMo 系列将会围绕三大技术方向迭代升级：第一，持续扩充多语种、全球化领域预训练语料，提升模型在跨境商业场景下的通用适配能力；第二，完善开源社区工具链，开放 LoRA 微调、分布式推理、多模态微调的官方工具库，吸引全球开发者共建国产大模型生态；第三，深化端云协同安全迭代技术，在隐私计算、联邦学习框架下，合规利用全球终端交互数据持续迭代模型场景适配能力，巩固端侧大模型的技术差异化壁垒。

六、结语

MiMo-V2.5 跻身全球轻量化大模型榜单前三，不仅是小米企业 AI 技术研发的阶段性成果，更是中国本土大模型依托硬件产业优势实现差异化技术突围的典型范例。区别于海外厂商优先布局云端通用大模型的研发路线，MiMo-V2.5 立足国内消费电子、IoT 硬件产业的发展特色，以端云协同联合蒸馏架构为技术核心，深耕中文本土化场景优化、端侧硬件算子深度适配、信创国产化生态兼容三大差异化赛道，避开参数军备竞赛的同质化竞争，走出了一条属于国产轻量化大模型的特色技术演进路线。

该模型的成功落地充分证明，国产大模型的技术竞争力不必局限于超大参数基座的学术榜单角逐，立足本土产业场景、依托上下游硬件生态、解决真实行业落地痛点的轻量化技术路线，同样可以站上全球 AI 技术第一梯队。对于国内 AI 研发从业者、政企数字化转型团队、消费电子硬件厂商而言，MiMo-V2.5 的端云协同技术架构为国产大模型落地提供了全新的技术思路：软硬件一体化深度协同、场景本土化定向优化、部署普惠化降本赋能，才是人工智能技术赋能实体经济的可持续发展路径。随着国产端云大模型技术持续迭代、开源生态不断完善，未来将会有更多自主研发的 AI 模型在全球技术榜单中实现突围，推动我国人工智能产业高质量全球化发展。