2025年9月24日，在Axel Springer奖颁奖典礼上，OpenAI CEO Sam Altman与量子计算先驱、牛津大学物理学家David Deutsch进行了一场引人深思的对话。这场讨论触及了人工通用智能(AGI)的本质、意识问题以及人类在AI时代的价值。

《无穷的开始》：对未来的乐观主义

对话开始于一个有趣的细节：Sam Altman将David Deutsch的《无穷的开始》(The Beginning of Infinity)列为自己最喜欢的书籍。Altman特别推荐了这本书的前40-50页，称其为"最精彩的乐观主义观点"，解释了为什么即使在AI时代，人类也永远不会缺少事情去做、解决的问题和探索的领域。

这一观点反映了Altman对技术发展的根本态度：技术进步不是要替代人类，而是要解放人类去从事更有意义的创造性工作。正如书中所阐述的，人类历史上相对简单的进程把我们带到了今天这个不可思议的位置，而这种进程将继续下去。

Deutsch的"错误清单"：学者的谦逊与洞察

David Deutsch以一种令人意外的谦逊方式开始了他的发言。他提到自己在电脑上保存着一份"进展清单"，记录那些他曾经确信还不可能实现，但后来被证明是错误判断的技术突破。

两个关键的"错误判断"

万维网的出现：Deutsch承认他曾经低估了互联网的发展潜力，这种坦诚体现了真正学者的品格。

ChatGPT的对话能力：更重要的是，他曾经认为除非计算机程序具备AGI（人工通用智能）或他更愿意称之为"解释性创造力"的能力，否则无法进行开放性的自然语言对话。ChatGPT的出现证明了他的错误。

对图灵测试的深刻批评

Deutsch对广泛流传的图灵测试概念提出了尖锐的批评，这是整场对话中最具启发性的部分之一。

图灵测试的真正含义

他指出，Alan Turing从未提出过AGI的测试或基准。图灵的"模仿游戏"不是一个测试，而是一个思想实验，目的是推翻"机器无法思考"的直觉认知。

AGI无法被基准测试的原因

Deutsch提出了一个深刻的洞察：要成为通用智能，AGI必须能够选择保持沉默。这个观点直击问题的核心——真正的智能包含了选择不回应的自由，而这种能力无法通过任何基准测试来衡量。

这一观点同时证明了现有方法无法创造出真正的AGI，因为现有的AI系统必须通过基准测试来评判，这本身就限制了它们成为真正通用智能的可能性。

创造力与机械性的区别

爱迪生的"灵感与汗水"理论

Deutsch引用了爱迪生的著名观点，区分了创造过程中的"灵感"部分（只有人类和AGI能够完成）和"汗水"部分（AI可以帮助我们解脱）。这种区分揭示了当前AI技术的本质局限。

人类思维的真正特征

人类思维的核心不是机械地将动机转化为行动（或将提示转化为输出），而是选择动机的过程。这就像科学研究不是从数据中提取理论，而是：

• 发现问题
• 猜测解释
• 批评和测试这些解释

如何识别真正的智能？

面对"如何判断某个系统是否具备真正智能"这个根本问题，Deutsch给出了一个令人深思的答案：通过讲述它们的故事。

爱因斯坦的例子

我们知道爱因斯坦创造了相对论，不是因为任何测试，而是因为我们了解他的故事——他要解决什么问题，为什么要解决这些问题。同样，我们知道Sam Altman将ChatGPT带入这个世界，是因为他有直觉和魄力知道这是人类下一步应该尝试的正确方向。

关键的测试问题

对话的高潮出现在Altman提出的假设性问题上：如果未来的GPT-8能够解决量子引力问题，并能详细讲述它是如何做到的、它在思考什么问题以及为什么决定研究这个领域，这是否足够令人信服？

Deutsch的回答是肯定的："我认为那样就够了。"他强调传记(biography)在这里是关键的。

深刻洞察与启示

1. 技术发展的不可预测性

Deutsch的"错误清单"提醒我们，即使是最聪明的人也经常低估技术发展的速度和方向。这种谦逊的态度对于理解AI发展至关重要。

2. 智能的本质重新定义

这次对话挑战了我们对智能的传统认知。真正的智能不仅仅是处理信息或通过测试，而是具备选择、创造和解释的能力。

3. 人机协作的未来图景

Altman对《无穷的开始》的推崇反映了一种乐观的人机关系观：AI不是要取代人类，而是要让人类从重复性工作中解脱出来，专注于创造性和探索性的活动。

4. 故事的重要性

在评判智能时，技术指标可能不如"故事"重要。这个洞察对AI研发具有重要指导意义——我们需要关注AI系统的动机、选择过程和创造性表现。

结语

这场对话揭示了AGI发展中的根本性问题：我们可能需要重新思考什么是智能，如何衡量智能，以及人类在AI时代的独特价值。Deutsch的哲学深度和Altman的实践经验相结合，为我们理解AI的未来提供了珍贵的洞察。

正如Deutsch所说，目前还没有什么能够编程让计算机拥有这样的直觉——"还没有"。这个"还没有"既是对当前技术局限的承认，也是对未来可能性的开放态度。在通往AGI的道路上，我们需要的不仅仅是技术突破，更需要对智能本质的深刻理解和对人类价值的坚定信念。

---

原始视频：https://youtu.be/WZ22AJmuKKQ?si=GBqjgKEHx5QpDHUk

中英文字幕：