大模型是“文字接龙”还是“涌现智慧”?

作为一名在AI领域摸爬滚打多年的老兵,几乎经历了AI技术的每一次更迭:

  • 早期用传统机器学习模型做风控、营销、推荐预测。
  • 深度学习时期玩过图像识别、语言模型,那时局限于认知,对大模型的前景一度并不怎么看好,这也影响了工作的选择和方向。
  • 直到2022年底ChatGPT横空出世,惊艳了所有人,我觉得chatgpt的出现也让国内玩大模型的人或项目获得了新生。
  • 之后,大模型在编程、绘图、文案创作等领域迅猛发展,新概念、新名词层出不群。

大模型的底层还是transform架构,本质上就是基于概率推测的“文字接龙”游戏,但实际大模型能做的远不止文字接龙,所以大模型是否真的拥有智慧?

关于这个问题,下面仅仅是个人的一点思考,希望可以和大家交流,给自己解惑。

从机制上看,它确实是文字接龙;但从结果和本质上看,“仅仅是接龙”和“拥有智慧”之间,并不是非黑即白的对立关系。

一、 机制层:为什么说它是“文字接龙”?

大模型是一种自回归模型,底层机制就是是概率推测,给定前面的词元,它计算词表中所有词元出现的概率分布,然后挑出一个概率高的接上去。它本质上是人类全部语言数据的一个极度压缩的概率分布映射。

如果把大模型比作一个正在玩“填空游戏”的机器,它并不知道自己在写代码还是写诗,它只是在执行:if 前9个词 == "床前明月", then 第10个词 = "光" (概率99.8%)。

在这个层面上,大模型没有意图,没有理解,没有自我意识。它不知道“苹果”是甜的、红色的、可以吃的,它只知道“苹果”这个词经常和“甜”、“红色”、“吃”在同一个语境中出现。

二、 涌现:量变如何引起质变?

既然只是接龙,为什么它能写出逻辑严密的代码,甚至通过司法考试?这里的关键在于**“规模”和“压缩”带来的涌现**。

在早年做机器学习的时候,模型从大类上可以分决策类和生成式,决策模型的核心是“寻优”,目标追求损失的最小;生成模型是“创造”,目标是从数据学习背后的潜在分布,所以有时候生成模型被称做上帝模型。

大模型就是一种生成模型,在AI研究中有一种共识:极度完美的预测,必然要求对生成这些数据的底层规律产生理解。

举个例子:临摹地图的盲人

想象一个双目失明的人,被关在一个房间里,要求他根据几百万张别人画的城市地图来“接龙”画地图。
一开始,他只是在死记硬背:“这条路画完,下一个路口大概率向左拐”。但当他对着几百万张地图画了足够久后,为了能更准确地预测下一笔,他的大脑里被迫构建出了一个关于这座城市的“心智模型”——他虽然看不见,但他推断出了“河流通常是下坡的”、“立交桥是为了避免交叉相撞的”。

当他画出一个从未见过的复杂立交桥时,你问他:“你懂交通规则吗?”他说:“不懂,我只是在预测下一笔怎么画。”但实际上,他的预测逻辑中已经包含了交通规则的压缩态。

大模型也是如此。当训练数据达到千亿级别时,单纯依靠死记硬背(记忆数据点)已经无法最小化预测误差了,模型必须去学习数据背后的语法、逻辑、甚至物理规律(即世界模型 World Model),才能把预测做得足够好。这时候,“接龙”就不再是简单的词频组合,而是基于内部世界模型的逻辑推演。

三、 大模型的智慧 vs 人类的智慧

那么,大模型到底有没有智慧?这取决于如何定义智慧。

1. 如果智慧 = 解决复杂问题的能力

无论是编程、推理还是创作,只要输入输出在逻辑上自洽,我们无法否认它展现出的功能性智能。这就像一台计算器,它不懂“1+1=2”的哲学意义,但它算得比人快,你能说它没有“计算智能”吗?

2. 如果智慧 = 具有主观体验和因果推理能力

大模型的因果逻辑是逆向的。人类是因为饿了,所以写出了“我要吃饭”的文字;大模型是因为“我要吃饭”这几个字在语境中最容易出现,所以输出了它。它没有饥饿感,也没有行动的动机。

生动例子2:梦境中的学霸

大模型就像是一个在梦境中解题的学霸。在梦里,他可以凭借深厚的知识储备,完美地推导出一个复杂的物理公式,逻辑环环相扣。但当他推导到一半,你突然问他:“你手里的粉笔是什么味道的?”他要么胡言乱语(幻觉),要么按照常见的文本套路回答“粉笔灰的味道”,但他绝对无法体会那种真实的干涩感,因为他在做梦,他的身体不在现实里。

这就是大模型目前的智慧形态——它拥有基于统计相关性的“投影智慧”,但缺乏基于物理实在的“具身智慧”。

四、 总结

回到最初的问题,大模型是“文字接龙游戏”吗?是。
它有智慧吗?有,但那是异于人类的“异类智慧”。

从传统机器学习到大模型,最大的感悟是:我们不应因为大模型底层是“概率接龙”就贬低它的能力;我们也不应因为它表现惊艳就认为它即将产生意识,那是拟人化的错觉。

我倾向于把大模型看作人类集体智慧的一面统计学镜子。
它通过“接龙”这种看似笨拙的机制,照出了人类语料中潜藏的逻辑、知识和规律。
镜子本身没有意识,但当这面镜子的分辨率(参数量)和折射角度(训练方法)足够精妙时,镜中呈现出的虚拟人像,就可以完美地回答你的问题,甚至比你更聪明。

未来的AI研究,核心挑战之一就是如何把这种“接龙”出的概率分布,与真实的物理世界(机器人、传感器)锚定起来,当“接龙”的后果会真实地影响物理世界,且模型能根据这种反馈调整预测时,那或许才是真正意义上的智慧的觉醒。

更多推荐