简介

文章探讨了大型语言模型推理能力的本质与争议，介绍了《The Illusion of Thinking》及其反驳论文的核心观点，分析了推理模型在不同复杂度问题上的表现与局限性。文章对比了人类推理能力与大模型推理的异同，探讨了通用人工智能推理能力的可能形态，指出当前关于推理能力的学术争论将推动人工智能向通用人工智能方向发展。

---

大语言模型逐步演化为具有推理能力的模型，如OpenAI的o1/o3、DeepSeek-R1、Claude 3.7 Sonnet Thinking等，利用详细的“思维琏”去总结信息，然后再给出答案，从各项测试中答案质量提升效果明显。不过也有研究人员提出了质疑。

《The Illusion of Thinking》这篇论文认为，我们还没有充分理解推理模型的根本能力、扩展特性以及局限性。论文中通过几个案例发现了推理模型的几个问题：

• 简单问题：模型早期找到正确解，但继续探索错误路径（“过度思考”）。
• 中等问题：正确解在经过大量错误探索后出现。
• 高复杂度问题：模型完全无法生成正确解（崩溃模式）。

论文得出的讨论和启示：

1. 评估范式的反思：传统数学基准易受数据污染影响，需转向可控、可解释的测试环境。
2. 推理的本质质疑：LRMs可能依赖模式匹配而非真正推理，尤其在高度结构化问题中。
3. 缩放定律的挑战：当前推理模型存在计算缩放上限，无法通过增加计算资源解决高复杂度问题。
4. 未来方向：需研究更高效的推理机制（如早期终止、动态计算分配）和符号推理的整合。

这篇论文发表后，有一篇批评这篇批评推理大模型的论文《The Illusion of the Illusion of Thinking》对上面的论文提出质疑，并指出论文上指出的问题是实验设计问题，而并非大模型本身的能力，并给出了证明过程。同时也提出了推理大模型的研究方向和建议：

• 区分推理能力与输出约束：设计能够辨别模型是否理解解决方案而不仅仅是能否完整枚举的实验
• 验证问题可解性：确保测试实例数学上可解
• 使用合理的复杂性度量：反映计算难度而非仅仅解决方案长度
• 考虑多种解决方案表示：分离算法理解与执行能力

两篇很有意思的论文，无论结论对错，都会给后来的研究人员提供更多的思考和启发。对我而言最大的启发是什么是推理能力，人的推理能力都有那些。

记得《金字塔思维》中有些方法，比如利用一些逻辑框架，可以发现整理的问题清单中遗漏的项目，比如销售分售前、售中和售后，如果整理的问题只有售前和售中，通过这个框架，就会发现漏掉了售后。还有就是可以通过现有条目抽象提取出共性问题，比如形容一个人，读书速度快，获取信息多，能快速应用知识，这个人的特点可以提取总结为学习能力强。这些我认为也算是推理能力，而现在的语言大模型的推理能力，也是利用了类似的能力给出答案，所以并不能简单的认定大模型这种能力是模式匹配。

另外一种推理能力类似约翰杜威的《我们如何思维》中的观点，观察到一些现象，比如其中的船头前面的横杆的作用疑问，可能会是插国旗，可能是减少风阻，也可能是船长对齐方向，最后根据各种线索，得出是对齐方向的作用。目前大模型还没有完全突破这种能力，目前姚顺雨提出的ToT的思考模型，想让模型即有泛化能力，又可以快速评估验证，不过这里如何验证这种问题，还没有找到合适的方法，也是当前大模型重点突破的方向。

通用人工智能推理能力应该是什么样子，这让我想起了陶哲轩关于物理学与数学关系的讲话，人类认知物理世界，相当于把物理世界抽象成一个简化的模型，存在于人类大脑中，人类利用数学和这个模型推演现实世界，然后更新人类对物理世界的认知。比如爱因斯坦通过在大脑中的思维实验，推演出存在的矛盾，然后利用数学推理验证出真实的物理世界，比如空间扭曲等。如果大模型对于物理学能够建立一个类似人类一样的对物理世界的认知模型，然后利用数学推理验证出我们未发现的真实物理世界，那真正的实现了通用人工智能。

现在论文观点争论很有意思，类似工业革命前夕，对自然世界的发现探索层出不穷，各种观点思想相互碰撞，科学发现加速，最终导致了工业革命。现在的各种观点争论，也会加速让人工智能向通用人工智能方向突破，希望有机会能体验到通用人工智能带来的文明进步和跃迁。

AI大模型学习和面试资源

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓