本文详细介绍了在魔乐社区部署多模态大模型推理服务的完整流程。首先配置基于OpenEuler的NPU开发环境，安装LLaMA-Factory等依赖包并进行环境验证。接着演示了如何下载Qwen2.5-VL-3B-Instruct等模型权重，并提供了三种推理部署方式：交互式终端、OpenAI兼容API服务以及离线推理脚本。重点说明了多模态模型处理图像输入的注意事项，包括正确的占位符使用方式。最后指导用户

TeleChat3-105B-A4.7-Thinking是 TeleChat系列国内首个开源的全自主创新千亿参数细粒度MoE语义大模型，由中国电信人工智能研究院（TeleAI）研发训练，在问答、写作、数学、代码、Agent等多维度，与业内头部模型比肩，特别在代码能力、复杂任务通用问答、细粒度MoE等维度上有显著的效果提升，同时采用创新训练方式，加快模型在训练初期的收敛速度，增强模型在训练中的稳定性

在AI4S关键垂类领域，Intern-S1-Pro成功构建了一个跨越化学、材料、生命、地球、物理五大核心学科的全谱系能力矩阵，涵盖100多个专业子任务，不仅在Mol-Instruction、Biology-Instruction等单学科垂类评测中表现优异，更在SciReasoner等高难度的综合学科评测基准中，取得了与闭源商业大模型及垂类SOTA模型相当，甚至更优的成绩，稳居AI4S领域的第一梯队

在刚刚结束的魔乐社区GeekDay上海站上，魔乐社区贡献者、昇腾优秀开发者丁一超带来了题为《如何入门大模型从量化到评测》的分享。作为一名从企业IT工作之余投身AI技术的开发者，他用亲身经历证明：量化并非高不可攀的技术壁垒，而是一条有章可循的实践路径。本文将系统梳理丁一超的分享内容与采访心得，涵盖MindStudio-ModelSlim工具链的使用、一键量化操作、敏感层分析、vLLM Ascend部

国产 AI 生态再添旗舰力作！4月12日，MiniMax M2.7正式开源并上线魔乐社区。M2.7 开启了模型的自我进化，也是MiniMax第一个 AI 深度参与迭代自己的模型。基于其在真实的软件工程、专业办公场景的优异表现，M2.7 已成为在 Hermes Agent、OpenClaw 等智能体工具中最受好评的模型之一。来自海内外的开发者与企业客户的接入需求持续增长，模型调用量在快速提升。

除了性能惊艳，MiniCPM-V 4.6 在效率上也取得了堪称「反常识」的突破。尽管参数规模比 Qwen3.5-0.8B 更大，但 MiniCPM-V 4.6 的运行效率却更快，实现了惊人的反超推理吞吐量：基于 vLLM 的 token 吞吐量是 Qwen3.5-0.8B 的1.5 倍。计算成本：在 AA 评测中，仅用2.5%的 token 消耗（5.4M vs 233M）就超越了 Qwen3.5

继率先推出首个，上海人工智能实验室（上海AI实验室）于5月15日开源了新一代大模型预览版，进一步拓展“可深度专业化通用模型”的能力边界并大幅降低使用门槛。其重要突破包括：尺寸更小：以35B参数规模，实现在多个核心领域比肩万亿参数模型的能力；科学能力更强，结构生成能力突破：科研团队通过提升任务难度及多样性，增强了小参数模型在复杂科学任务中的表现效果；例如，通过引入实数预测模块，首次在开源通用大模型中

5 月 25 日至 29 日，面壁智能与 OpenBMB 联合举办「端侧大模型开源周」，每天解锁一个端侧大模型的杀手锏。端侧大模型的顶峰，不只在冰山一角，而在整座冰山。今天是开源周的第一弹：低比特大模型训练成果 BitCPM-CANN。该模型已上线魔乐社区，欢迎开发者下载体验！面壁智能联合清华大学、OpenBMB开源社区，正式发布并开源其在低比特大模型训练方向的最新成果——。

本文介绍了在昇腾NPU环境下微调Qwen3.5-4B大语言模型的完整流程。首先通过git-lfs下载Qwen3.5-4B模型和LlamaFactory框架，然后搭建基于miniconda的Python3.11环境并安装相关依赖包。接着配置昇腾NPU运行环境，下载并处理训练数据集（包含中英文版本），修改dataset_info.json文件添加数据集信息。最后提供了详细的训练YAML配置文件说明，包

该模型基于 Qwen3-Next-80B-A3B-Base 构建，采用混合注意力与 MoE 的新架构；通过大规模可执行任务合成、环境交互与强化学习进行智能体训练，在显著降低推理成本的同时，获得了强大的编程与智能体能力。2月4日，千问Qwen3-Coder-Next正式开源，这是一款专为编程智能体与本地开发设计的开源权重语言模型。适配模型及权重已同时上线魔乐社区，欢迎开发者们下载！如您在部署的过程中