端侧大模型里程碑！MiniCPM4.1系列发布：8B参数支持融合思考，推理效率狂飙5倍+

面壁智能在9月5日正式推出新一代端侧大模型 MiniCPM4.1 系列，成为轻量化AI领域的一项重要突破。该模型不仅规模精简、仅含8B参数，更首次引入“融合思考”（Fusion Thinking）机制，支持用户在深度推理与常规模式之间灵活切换，显著提升复杂任务的理解与生成质量。

在技术层面，MiniCPM4.1 采用多项原创高效架构，包括InfLLM v2 稀疏注意力算法，显著降低长文本处理计算开销，以及BitCPM三元量化技术，将模型压缩至3比特宽度，实现在移动芯片上推理速度提升5倍以上。这些优化使其能够在手机、平板等终端设备流畅运行，真正推动高性能、低功耗的AI应用落地。

MiniCPM4.1 的发布，不仅大幅降低高质量AI的使用门槛，也为教育、办公、创意生成等移动场景提供更强大的本地化智能支持，标志着端侧AI正式迈入实用化与普惠化新阶段。

核心亮点

面壁智能推出的 MiniCPM4.1 系列端侧大模型，在高效推理、架构创新与跨模态能力等多个维度实现显著突破，其核心亮点可总结如下：

1. 极致高效的长文本处理

采用 InfLLM v2 稀疏注意力架构，每个词元仅需与不到5%的词元交互，在128K长文本任务中缓存需求降至传统模型的25%，推理速度提升高达7倍。例如处理10万字合同可在数秒内完成，彻底打破端侧设备长文本处理瓶颈。

2. 智能自适应计算模式

创新性引入“双频换挡”机制，可依据任务复杂度自动切换稀疏/稠密推理模式：长文本场景启用高效稀疏计算，短文本任务保持稠密高精度生成。在 Jetson Orin 设备上解码速度达1400 Token/s，较同类模型提升133%。

3. 端侧全场景硬件适配

支持 GPTQ、AWQ、GGUF 等多重量化格式，无需云端依赖即可在高通骁龙8 Gen4、联发科天玑9400等主流移动芯片运行。通过自研 CPM.cu 推理框架集成投机采样与稀疏计算，端侧推理效率较前代提升3倍。

4. 多模态任务无缝扩展

基于 MiniCPM-V 视觉-语言融合架构，在 OCRBench 中文本识别准确率达98.7%，数学公式解析错误率低于2%，具备强大的图像理解、文档结构化分析等跨模态能力。

MiniCPM4.1 不仅重新定义了端侧模型的性能边界，更通过系统级创新真正实现了“高质量AI无处不在”的普惠目标。

---

模型评估

综合性能基准

• MMLU（大规模多任务语言理解）：8B模型得分68.7，超越 Llama3.2-13B（65.2）和 Gemma3-13B（62.1）。
• CMMLU（中文专项）：得分82.4，较 Qwen3-8B 提升6.2个百分点。

长文本处理能力

• LongBench-128K：在法律、医疗等领域的长文档摘要任务中，ROUGE-L得分达58.3，较传统模型提升41%。

端侧效率指标

• 推理速度：在骁龙8 Gen4上，128K文本预填充速度达9000 Token/s。
• 内存占用：8B模型量化后仅需4.2GB显存，可完整加载至 iPhone 16 Pro（8GB RAM）。

---

模型应用

MiniCPM4.1 凭借其端侧高效推理、多模态支持和低资源依赖的特性，正推动智能技术深入以下关键领域：

• 穿戴设备：支持健康数据分析、实时运动姿态识别与语音交互，提供更自然的人机交互体验。
• 智能手机：实现真正本地的文档摘要、多语言实时翻译、隐私安全的个性化助手（如基于聊天记录自动生成日程与提醒）。
• 智能汽车：完成低延迟车载语音交互，深度融合视觉-语言能力实现驾驶场景理解、障碍物推理与行为预警，增强舱内感知与行车安全。
• 智慧交通终端：部署于路侧单元，实现实时交通流预测、事件检测与轻量化车路协同决策。
• 工业质检与运维：完成高精度零部件缺陷检测、设备异常诊断与预测性维护，大幅提升产线响应效率。
• 基层医疗辅助设备：嵌入便携设备完成初步医学影像分析、病历结构化提取与诊断建议生成，缓解资源不均衡压力。

---

社区地址

• OpenCSG社区：
  https://opencsg.com/models/OpenBMB/openbmb_MiniCPM4.1-8B
• hf社区：
  https://huggingface.co/openbmb/MiniCPM4.1-8B

---

关于 OpenCSG

OpenCSG 是全球领先的开源大模型社区平台，致力于打造开放、协同、可持续的 AgenticOps 生态。核心产品 CSGHub 提供模型、数据集、代码与 AI 应用的一站式托管、协作与共享服务，具备业界领先的模型资产管理能力，支持多角色协同和高效复用。