只需 1/4 的数据,性能却反超 SOTA:阿里、交大联手攻克大模型几何推理瓶颈
背景:
几何推理一直是多模态大模型(MLLM)领域的核心挑战。尽管模型的通用视觉-语言理解能力已取得长足进步,但在面对几何推理问题时,即便是最先进的模型也难免表现乏力。
几何推理问题不仅考验模型的逻辑推理深度,更对其跨模态语义对齐能力提出了很高要求。然而,现有的数据生成方法往往局限于对静态图像的被动拟合,或因缺乏引导的随机探索而导致合成效率低下。
针对这一瓶颈,如何构建高效的多模态几何数据合成引擎?
近日,研究团队发布了 Socratic-Geo框架,为多模态几何推理开辟了新路径。(已获 CVPR 2026接收)
该框架通过少量种子数据作为启动数据,经过三轮迭代后发现训练得到的解题器模型(Solver),在多个几何推理基准上超过了Georeasoning (+2.34,UIUC团队提出)、R-COT (+3.06,NJU团队提出)等强基线;所提框架产出的出题器模型(Generator)的出题能力超越了Seedream4.0、逼近Gemini-2.5-Flash-Image。

解决方案:Socratic-Geo 框架详解
1. 核心架构:多智能体交互闭环
Socratic-Geo 是一个完全自主的几何数据合成与推理框架。通过三个关键 Agent 的深度交互实现数据与模型的同步增强:
-
Teacher(教学 Agent):作为数据合成的指挥中心。通过生成参数化的 Python 脚本实现构思-验证(Conception-Verification)的闭环机制,确保每一条生成的几何数据在公理逻辑与图形表征上高度统一,从源头把控数据质量。
-
Solver(求解 Agent):充当推理能力的优化器。利用偏好学习(Preference Learning)不断磨炼逻辑演绎能力。Solver 在复杂题目上的“失败经验”会转化为宝贵的反馈信号,引导 Teacher 进行针对性的难点补齐,实现教学相长。
-
Generator(生成 Agent): 负责视觉能力的智能蒸馏。它专注于将程序化绘图的精确逻辑,解耦并蒸馏至视觉生成模型中。通过独立学习,它使模型能够脱离脚本限制,具备从底层语义直接构建复杂几何图像的能力。

2. 数据流转全景:从种子到能力的闭环
整个框架的数据流向可以概括为“一条主线,两个分支”。主线是推理能力的演进,分支是视觉生成能力的蒸馏。
第一阶段:种子初始化
框架启动于108 个手工验证的种子问题。每个种子包含四元组:(图像,问题,解答,Python 绘图代码)。这是所有后续演化的基石。
第二阶段:推理优化闭环(Solver ↔ Teacher)
这是框架的核心数据流,对应图 (a) Solver 在线优化循环:
-
尝试与失败:Solver 从数据池中采样问题进行求解。由于采用纯强化学习(GRPO),它仅接收二元奖励(对/错),无法直接看到答案。
-
触发干预:当 Solver 对某问题多次尝试(k 次)全部失败时,触发 Teacher 的干预机制。
-
诊断与增强:Teacher 分析 Solver 的错误路径,利用 Reflect-RePI 机制 修改底层的 Python 绘图代码,生成一个针对该错误类型的“增强问题”(Enhanced Problem)。
-
验证与回流:新生成的问题经过 Teacher 自测验证(Qualify)后,作为高质量样本回流至数据池(Data Pool)。
-
模型进化:Solver 使用更新后的数据池继续进行 GRPO 训练,能力不断提升。
第三阶段:生成能力蒸馏(Teacher → Generator)
这是框架的协同分支,对应图 (b) Generator 离线优化循环:
-
指令重写:在 Teacher 生成增强问题的同时,它将底层的 Python 代码转化为自然语言的结构化绘图指令(Drawing Instructions)。
-
配对构建:形成
(绘图指令,精确图像)的高质量配对数据。 -
独立蒸馏:Generator 独立于推理循环,通过监督微调(SFT)学习这些配对数据,将 Teacher 基于规则的绘图逻辑蒸馏为神经网络的生成能力。
3. 核心引擎机制详解
3.1 Teacher 引擎:Reflect-RePI 机制
Teacher 是数据质量的守门人,通过一个严格的四步管道主动构建数据,确保每一条数据在公理逻辑与图形表征上高度统一:
-
Verify(验证):形式化比较 Solver 的回答与参考解决方案,精准检测需要干预的不正确推理案例。
-
Analyze(分析):执行双模态错误诊断。
-
代码/图像侧:检查结构属性,检测缺失或违反的几何公理。
-
文本侧:识别语义不一致、约束不足或误导性描述。
-
目标:修复或加强问题所需的最小修改。
-
-
Invent via RePI(发明):以编程方式修改底层 Python 几何代码。例如,若 Solver 忽略了某个角度条件,Teacher 会在代码中引入新的辅助线或元素,强制该条件成为解题关键。确保修改后的代码可执行,且图表与文本完全对齐。
-
Qualify via Reflect(资格认证):自我验证步骤。Teacher 使用其推理管道解决发明的问题。只有当解决方案与参考答案匹配且几何通过所有检查时,该示例才被准入到推理课程中,并用于生成配对数据。
3.2 Solver 优化:基于 GRPO 的纯强化学习
Solver 的进化不依赖知识蒸馏,而是通过群相对策略优化(GRPO)实现强化学习:
-
无思维链观察:训练期间,Solver 从未观察过 Teacher 的思维链或参考解答,仅通过试错学习。
-
二元奖励信号:接收表示正确性的二元奖励(0 或 1),不揭示解决路径。
3.3 Generator 训练:指令重写的蒸馏
Generator 基于 Qwen-Image 架构,其核心创新在于指令重写
-
问题:直接使用自然语言问题作为绘图 Prompt 会导致几何约束模糊。
-
解决:Teacher 将程序化表示转化为自然语言绘图指令,通过SFT实现程序化画图能力的蒸馏。
实验结果:数据效率与性能双突破
1. Solver 性能:少数据,高性能
-
整体准确率:Socratic-Solver 在六个几何基准测试上达到 49.11% 的平均准确率。
-
提升幅度:相比 zero-shot 基线提升 +4.13 个点,surpass 强基线 2.43 个点。
-
数据效率:仅使用 2.5k 合成问题,相比较于基线方法( 7.2k-10k)数据需求减少 3-4 倍。

2. Generator 性能:超越开源模型
-
GenExam 成绩:Socratic-Generator 取得 42.4% 的 Relaxed Score,Strict Score 达到 6.0。
-
模型对比:超越一众开源模型,超越商业模型 Seedream-4.0 (39.8%),逼近 Gemini-2.5-Flash-Image (43.1%)。

3. 消融实验与鲁棒性
-
Teacher 容量:即使是 3B 参数的弱模型,当赋予诊断访问权限时,也能超越所有在 10k 样本上训练的基线,证明框架的鲁棒性。
-
RL vs SFT:在相同数据下,RL 训练(49.11%)显著优于 SFT 知识蒸馏(47.37%),证明试错学习范式更有效。
4. 跨领域泛化:不止于几何
Socratic-Geo 的核心范式——通过诊断学习者弱点驱动目标合成——具有任务无关性。研究团队将框架扩展至两个额外领域,验证其通用性。
总结与展望
Socratic-Geo 通过 tightly coupled 的多智能体交互循环,统一了求解器改进和可控图像生成。其核心贡献在于:
-
目标驱动的程序化合成:通过诊断学习者弱点建立生成目标,支持主动自我修正(Reflect-RePI)。
-
多智能体交互框架:紧密耦合合成与学习,Teacher-Solver 交互驱动推理进化。
-
强大的实证结果:在极少种子数据下实现显著改进,并在图像生成上达到开源 SOTA。
-
优秀的跨领域泛化:框架范式任务无关,在图表推理与多模态代码生成等视觉逻辑任务上均取得 consistent gains,未来可扩展至更多的STEM 领域。
论文信息:
-
Socratic-Zero: Bootstrapping Reasoning via Data-Free Agent Co-Evolution 📄 https://arxiv.org/pdf/2509.24726
-
Socratic-Geo: Synthetic Data Generation and Geometric Reasoning via Multi-Agent Interaction 📄 https://arxiv.org/pdf/2602.03414
-
会议:CVPR 2026(Socratic-Geo 接收)
-
机构:阿里巴巴集团、上海交通大学、上海财经大学、武汉大学
关注晓天衡宇•评测社区官方账号,获取更多大模型相关知识~

更多推荐



所有评论(0)