2026大模型技术观察:后Scaling Law时代的路线之争
引言
Scaling Law统治AI行业整整三年——参数越大、数据越多、算力越强,模型就越聪明。这个简单粗暴的公式驱动了GPT、Claude、Gemini乃至国内几乎所有大模型的军备竞赛。
然而2026年,这条铁律正在被打破。
当万亿参数成为标配,当数万张GPU的集群成为门槛,一个问题越来越尖锐:堆参数的边际收益正在递减,而代价却仍在指数级增长。 更麻烦的是,大模型行业长期被裹挟在一条单一的叙事线里——堆砌万亿参数、死磕巨型单体模型、用数万张显卡疯狂卷预训练算力。
2026年上半年的技术进展表明,行业正在从“唯参数论”走向多元路线并存的新阶段。本文将从持续学习、多智能体路由、可解释性与可观测性三个维度,梳理后Scaling Law时代最具潜力的技术方向。
一、持续学习:让模型在部署之后继续成长
1.1 从“一次性训练”到“终身学习”
当今大模型的能力基本都是在少数几次集中训练中获得的,训练结束后参数冻结,以固定状态进入部署。然而许多有价值的信息——用户的长期偏好、代码库的独特架构、任务反复失败的原因——都是部署之后才会涌现的。
持续学习(Continual Learning)要解决的核心问题,正是让模型在适应新任务的同时不遗忘旧知识。多模态大模型在持续学习场景中尤其脆弱,往往在适应新任务时遭遇灾难性遗忘。
传统解决方案如经验回放或参数正则化,在大模型尺度上往往计算成本过高或效果有限。2026年的技术突破,正在从架构层面重新定义持续学习的可能性。
1.2 Macaron-V1:LoRA插件式持续学习
2026年7月21日,心洲科技旗下Mind Lab正式开源旗舰模型Macaron-V1,在智谱GLM-5.2的千亿参数基座之上,通过LoRA插件式架构实现了模型的“持续学习”与“群体智能”。
Macaron-V1的核心是Mixture-of-LoRA(MoL)架构。其设计思路非常直观:技能和思维模式相近的任务归进同一个LoRA,让它们相互强化;技能差异大的任务分到不同LoRA,各自独立、互不干扰。
旗舰版Macaron-V1-Venti(748B总参数)在冻结的GLM-5.2(744B)基座上搭载了四个1B的LoRA专家:
-
L0 Chat:负责对话与指令遵循
-
L1 Agent:负责重度工具使用与长程复杂任务
-
L2 Coding:负责代码理解与终端使用
-
L3 GenUI:负责生成式UI渲染与UI驱动操作
新能力以插件式LoRA加入,不动摇已有知识。在UI4A等基准测试中,Macaron-V1成绩全面超越基座GLM-5.2,甚至大幅领先Claude Opus 4.8。
1.3 群体智能:198个LoRA协作超越单体模型
一旦模型能沿着自身经历持续学习,不同实例就会逐渐走向不同方向。Mind Lab的实验给出了有力证据:从相同的Qwen3-30B基础模型出发,保持训练目标一致,只改变数据顺序。在AIME24上,单个adapter准确率是36.44%;把198个不同adapter做多数投票,准确率提高到48.67%。
这说明不同学习轨迹带来的差异包含了超出普通采样的互补性——群体不是简单的重复,而是真的更聪明。
Richard Sutton与David Silver在2025年的著名博文中直接将下一个AI阶段命名为 “经验时代” 。Macaron-V1的实践验证了这条路线:在一个足够强的开源基座之上,用可插拔的LoRA承载持续学习,用多个LoRA的协作实现群体智能。
1.4 PASs-MoE:解决路由器与专家的“错位共漂移”
ACL 2026上发表的PASs-MoE从另一个角度解决了持续学习中的路由问题。
现有基于LoRA的MoE方法往往不加区分地同时更新路由器和专家,导致路由器的偏好与专家的适配路径共同漂移,逐渐偏离早期的输入-专家专业化分工。研究者将这一问题定义为 “错位共漂移” ,它会模糊专家职责并加剧遗忘。
PASs-MoE引入通路激活子空间——一个由LoRA诱导的子空间,反映每个专家中特定输入激活了哪些低秩通路方向,为路由和保护提供了一个能力对齐的坐标系。基于此,PASs-MoE提出了两个核心组件:PAS引导的权重校准和PAS感知的秩稳定化。
实验表明,该方法在不增加模型参数的情况下,在准确率和抗遗忘能力上均持续优于传统持续学习基线和MoE-LoRA变体。
亚马逊的研究团队同样提出了基于路由的持续学习架构,能够在固定数据和计算需求下,按顺序整合新能力的同时稳健地保留基础知识,在2B到8B参数规模的模型上表现与多任务学习相当,同时保持了序列微调的训练效率。
二、多智能体路由:当“模型选择”变成“任务编排”
2.1 从单体崇拜到分布式智能
2026年6月,东京开源实验室Sakana AI发布的Fugu Ultra,直接在全行业密不透风的单体墙壁上凿开了一个巨大的缺口。在不训练任何新基座模型的前提下,Fugu Ultra通过动态多模型编排算法,在硬核工程榜单SWE-Bench Pro上斩获了73.7%的惊人成绩,系统性地碾压了GPT-5.5(58.6%)和Gemini 3.1 Pro(54.2%)。
这在技术社区引爆了一个颠覆性的命题:前沿智能的物理边界,究竟取决于单体拓扑的参数规模,还是取决于分布式多Agent系统的动态编排与路由效率?
Fugu通过一个标准的OpenAI兼容API屏蔽了后端极其复杂的动态计算图。Fugu本身是一个经过大规模监督微调和进化算法筛选的轻量级大模型,它不直接负责回答最终问题,而是充当高维语义空间的分布式路由器。
其核心调用链路分为三个阶段:
-
动态脚手架生成:根据输入的Query,现场计算其语义意图与复杂度边界,自适应搭建多步求解计算图
-
异步并行分发:将子任务并行路由给池化的下游专家大模型
-
聚合与验证:引入验证节点进行交叉审计,将无序特征流合并为连贯的高质量文本
2.2 GraphPlanner:从“选模型”到“生工作流”
当大语言模型从“单模型回答”走向“多模型协作”,一个新的问题正在浮现:系统不只需要知道该调用哪个LLM,还需要知道该让这个LLM扮演什么角色、在什么步骤调用、如何与其他模型协作。
UIUC研究团队提出的GraphPlanner,将LLM路由从“选择模型”推进到 “生成多智能体工作流” 。系统在每一步同时决定调用哪个模型以及激活哪个智能体角色,并利用图结构记忆历史交互与当前工作流状态。
GraphPlanner定义了三个基础Agent Role:
-
Planner:负责将复杂query分解为子问题
-
Executor:负责回答原始query或子问题
-
Summarizer:负责聚合多个中间结果
对于简单问题,GraphPlanner可以直接选择Executor一步完成回答;对于复杂数学、代码或多跳推理任务,它可以先调用Planner拆解问题,再调用多个Executor解决子问题,最后调用Summarizer汇总推理链路。
2.3 Orchestrator:多智能体系统的“调度中枢”
南京大学NLP实验室在ICML 2026上的研究指出,在当前主流的Orchestrator-Executor多智能体架构中,系统失败往往并不首先来自某个执行器不会干活,而是来自负责全局调度的Orchestrator逐渐失去对任务的掌控。
研究者对Deep Research、Agent Coder、GUI Browser和Agentic RAG等典型多智能体系统进行了失败归因分析,结果表明Orchestrator在四类场景中均承担了主要失败责任。
论文引入了 “调度熵” 概念来观察系统如何失序。Orchestrator的调度过程受到两股力量影响:
-
任务推进带来的聚焦力:随着任务逐渐被解决,不确定性下降,调度行为趋于稳定
-
上下文累积带来的扩散力:信息越堆越多,噪声增加,调度者反而可能被历史信息淹没
工具越多,历史日志越长,异常反馈越复杂,Orchestrator面临的信息压力就越大。这一发现将分析重点从“单个Agent是否足够强”转向了 “调度过程是否稳定” 。
2.4 RouteMoA:无需预推理的动态路由
2026年还涌现了RouteMoA等无需预推理的动态路由方案。大语言模型的发展正在从“单模型能力提升”走向“多模型协作”——既然不同模型各有所长,有的擅长数学、有的擅长代码、有的更懂医学,那为什么不让它们协同起来,共同解决更复杂的问题?
微软发布的MAI自研模型也印证了这一趋势——未来企业级AI应用将不再单一依赖某一种最先进模型,而是依据具体任务目标、业务流程及资源约束,动态选择并协同调度最适配的模型组合。
三、可解释性与可观测性:打开AI的“黑箱”
3.1 J-Space:在Claude大脑中发现“全局工作空间”
2026年7月,Anthropic研究团队发表了《A global workspace in language models》,通过名为 “J透镜” 的工具在Claude内部识别出一个可被观测、可被干预且具有因果效力的神经活动区域——J-Space。
这一发现之所以引发广泛关注,在于它使研究者得以窥见模型推理过程中的“内心独白”,标志着可解释性研究从对模型行为的解释迈向了对其内部状态的实时观测。J-Space以认知神经科学的全局工作空间理论为解释框架,将语言模型的推理活动类比于人类意识层面的信息处理。
然而,J-Space研究的根本取向是内在主义的——它将可解释性的核心问题设定为“理解模型内部发生了什么”,试图像神经科学家用fMRI扫描人脑一样,用J-lens扫描语言模型的神经活动。
仅凭观察神经活动来理解模型的话语,就如同仅凭观察一个人的脑电活动来理解他所说的话——我们或许能捕捉到神经关联,却未曾触及话语的意义本身。J-Space能够告诉我们模型“在想什么”,却无法告诉我们模型为什么以这种方式思考,它所依据的“理由”是什么。
3.2 从“模型内部”到“信息本体论”
上述局限指向一个共同的症结:J-Space乃至整个以神经网络为焦点的可解释性研究,始终将“模型本身”作为解释的唯一对象。
一种不同的视角正在浮现——将可解释性的追问从模型内部转向模型所处理的信息,从神经科学的内部主义进路转向知识论的 “信息本体论”进路。
核心观察是:大型语言模型本质上是信息处理器,其输入和输出均为文本,而文本的意义——即我们真正需要解释的东西——并不存在于神经元的激活值中,而存在于这些符号与世界、与知识、与人类实践之间的关系之中。
当一个模型回答“巴黎是法国的首都”,我们需要解释的不仅是模型内部哪个区域被激活了,更是这个陈述在何种知识体系中成立,它以什么为依据,这些依据的可靠性和正当性如何。
3.3 推理链的可视化与可审计性
在工程层面,推理过程的可观测性正在成为企业级AI应用的标配。JBoltAI v4.4将ReAct推理链拆成了三个可观测的环节:Thought(当前在分析什么)、Action(决定调用哪个工具)、Observation(工具返回了什么结果)。这三步不是事后日志,而是实时渲染在对话界面中的。
ReTrace则提出了一个交互式系统,用于结构化和可视化文本推理轨迹,帮助理解模型的思考过程。
写在最后
2026年的大模型技术图景,正在从 “一条路走到黑” 走向 “多条路线同时探索” 。
持续学习让模型在部署之后继续成长——Macaron-V1的MoL架构证明,模型可以不靠堆参数、而靠自我迭代来提升能力。从Scaling Law到“经验时代”,智能的获取方式正在发生根本性转变。
多智能体路由正在挑战单体模型的统治地位——Fugu Ultra用分布式编排碾压了参数规模远大于它的单体模型。GraphPlanner让路由从“选模型”升级为“生成工作流”。Orchestrator的调度稳定性被证明是系统成败的关键。
可解释性正在从“黑箱好奇”走向“工程必需”——J-Space让研究者得以窥见模型的“内心独白”。但真正的可解释性或许不在模型内部,而在于模型所处理的信息与世界的关系之中。
这三条路线指向同一个方向:AI的下一阶段,不再是堆更大的模型,而是让模型更聪明地学习、更聪明地协作、更透明地思考。
九年前Transformer横空出世时,没有人能预料到它会统治AI行业如此之久。2026年,我们或许正在见证下一个范式的起点。
更多推荐
所有评论(0)