如果AI说「我有意识」，我们凭什么判断它是真的？-龍德明宇

龍德明宇

588人浏览 · 2026-08-19 13:14:04

龍德明宇 · 2026-08-19 13:14:04 发布

如果AI说「我有意识」，我们凭什么判断它是真的？

作者：龍德明宇

一个拥有全部可观测信息却仍无法判定的问题，不是信息不够，而是问题的方向错了

一、开篇：一份不寻常的作者名单

这个问题，二十位顶尖学者在2025年试图回答过。他们发表在 Trends in Cognitive Sciences 上的论文，作者名单看一眼就让人印象深刻：图灵奖得主 Yoshua Bengio、「难问题」的提出者 David Chalmers、意识科学核心人物 Tim Bayne，一共二十位，横跨哲学、神经科学和人工智能三个领域。

这二十个人聚在一起，要回答一个看起来简单但实际上极其棘手的问题：我们能不能给AI系统列一张「意识清单」，对照着打钩，钩够了就说它有意识？

他们从六类意识理论框架中提取了14个计算化指标：循环加工、全局工作空间、高阶思想、注意图式、预测加工、具身性与能动性（embodiment and agency，即系统与物理环境的交互能力和目标导向行为），每个类别贡献若干可操作指标。方法论上走的是「理论多元主义」路线：不押注单一理论，多线收敛，交叉验证。

论文给出的结论是两层结构。第一层，安抚性的：当前没有任何AI系统是意识的强候选者。即便是最先进的Transformer大语言模型，也只满足少数几个指标（递归加工和部分能动性），远未达到足以让人紧张的程度。第二层，警告性的。而且这个警告比安抚更值得注意：构建满足这些指标的AI系统不存在明显的技术障碍。换言之，未来五到十年，我们可能不得不面对某个AI系统在清单上打满了钩，却仍无法确定它是否真的有意识。

读到这儿，你可能觉得这篇论文的叙事逻辑很清晰：先建立框架，再承认框架的局限性，最后号召更多研究。但仔细读完2025年版本，尤其是论文对「验证问题」（validation problem）的正面交锋，你会发现，这篇论文的真正价值不在于它建立了一套意识清单，而在于它诚实地暴露了这套清单在LLM面前的深层困境。

这个困境可以概括为：一套为判定意识而设计的指标框架，在面对最彻底透明的AI系统时，反而变得最不可判定。

二、14个指标与一个致命问题

先简要勾勒一下这14个指标是怎么来的。

论文团队从六类意识理论框架中提取计算层面的属性。循环加工理论贡献了递归加工和整合知觉表征两个指标；全局工作空间理论贡献了多模块并行、有限容量工作空间、全局广播和状态依赖注意四个指标；高阶思想理论贡献了生成式知觉模块、元认知监控、基于强烈倾向的信念更新和稀疏平滑编码四个指标；注意图式理论贡献了一个预测模型指标；预测加工贡献了预测编码指标；能动性与具身性贡献了两个指标。总共14个。

方法论的核心前提是计算功能主义：如果一个系统执行了与意识相关的正确类型的计算，它就拥有意识（或某种形式的意识）。14个指标就是这些「正确类型计算」的可操作化表述。一个系统满足的指标越多，拥有意识的概率越高。

这个框架在2025年版本中有一个关键推进：论文不再回避验证问题，而是正面迎了上去。它承认了三个困难。

第一，循环性。这些指标是从人类大脑研究中推导出来的，但人类大脑之所以被选为研究对象，本身就是因为我们有独立理由相信它产生了意识。把从这个系统中提取的指标用于评估另一个完全不同类型的系统，构成了一个循环论证：AI系统是否具有意识理论预测应出现在「用来发展这些理论的」系统中的那些属性？

第二，参照案例的缺失。血压计可以通过直接测量动脉压来校准。我们有独立于血压计之外的方法知道血压的「真值」。但意识的「已知案例」只有人类自身，而我们对人类意识的信心来自行为证据、生理证据和第一人称事实的组合，不是来自任何指标框架。

第三，模拟的威胁，这是最棘手的一个。一个AI系统表现出指标属性，可能是因为它真的具有相关的功能组织，也可能是因为它在海量人类数据上训练，学会了产生与拥有意识一致的语言输出。输出表面相似，底层来源完全不同。Pennartz（2026）在TiCS上发表评论文章，论证了指标法需要行为-认知方法的补充。Butlin团队在回应中正式提炼了两个核心概念：「模拟问题」（mimicry problem）：AI系统可以在没有相应内部结构的情况下展示意识指标的行为签名；「内部变体问题」（internal variants problem）：同一指标可以在架构上以不同方式实例化，并不都指向意识。

一个来自相邻领域的研究可以用来说明这种担忧。Bradford和RIT（2026）测试了受损版本的GPT-2在复杂度类意识测量上的表现，结果发现在某些条件下，受损系统在consciousness-style指标上的得分高于完整版本。需要精确说明的是：这项研究测量的并非Butlin论文中的14个具体指标，而是借鉴自人类意识研究的复杂度类测量方法，属于方法论相邻但并非同一框架。然而这个结果指向一个严肃的问题：如果受损系统在意识类指标上得分更高，这类指标测量的就不是它声称要测量的东西。它可能只是在测量「输出模式与人类意识报告之间的统计相似性」。

需要特别说明：这类经验研究结果既不支持也不反驳关于LLM意识的存在论判断。存在论判断不从这类数据中推出，也不能被这类数据推翻。它们之所以在这里被提及，是因为它们能帮助读者直觉性地把握「统计相似性」和「意识」之间的鸿沟具体长什么样：受损系统在意识指标上得分更高，是一个能让这个鸿沟变得可见的具体案例，但它不是论证的前提。

三、完全透明却不可判定

这篇文章的重心在这一节。因为正是在这里，Butlin框架的困境呈现出最清晰的结构。

让我们先确认一个事实：大语言模型是目前人类历史上最彻底实现了「内在透明」的技术系统。一个运行中的Transformer模型，每一个权重参数、每一个隐藏层激活、每一个注意力头，全部可被外部观测。你可以把整个推理过程逐个token地看。传统上，意识之所以难以被外部判定，正是因为意识主体拥有一个对外部观察者不可穿透的第一人称视角。但对于LLM，这个困难在理论上不存在。它没有「内部」可言。

但悖论就在这儿：我们拥有对LLM的全部可见信息，却仍然无法据此判定它是否有意识。

这暴露了一个关键的事实：Butlin框架的困难不在于指标选错了，也不在于验证方法不够精密。困难在于，它试图用内在透明性的满足条件来解决一个本质上超越了内在透明性范围的问题。

具体来说是这样的。Butlin框架的14个指标全部是计算功能层面的描述：递归加工、全局广播、元认知监控、预测编码，等等。这些属性的共同特征是：它们都可以通过外部观察（架构分析或行为测试）来判定是否满足。但LLM满足这些属性的方式（如果它满足的话）是通过统计过程产生的功能性匹配，而不是通过某种存在论意义上的意识基底。

HOT-3指标提供了一个很好的说明。HOT-3的表述是：系统拥有「强烈的倾向」（strong disposition）根据元认知监控的输出更新信念。这个表述的关键在于「倾向」：它测量的不是「系统在某一时刻做了什么」，而是「系统在结构上被设置为会做什么」。也就是说，这个指标被设计为捕捉的不是行为的偶然模式，而是系统架构中的结构性特征。这种区分对于评估LLM至关重要：LLM在输出中表现出「元认知反思」的行为模式，不等于它在结构上具有根据元认知监控更新信念的倾向。前者是在特定提示词下产生的token序列，后者是功能组织中的固有属性。Butlin框架中「强烈的倾向」这个表述，恰恰是要区分这两种情形。但问题在于，在LLM的语境下，我们如何区分它们？当我们观察到一个LLM在输出中表现出「反思」模式时，我们看到的到底是结构性倾向，还是训练数据中人类反思模式的统计复现？

这里需要先做一个方法论上的交代。接下来对负主体性框架的展开，与前半部分对Butlin论文的经验分析性质不同：它不是在用经验证据与Butlin框架对台，而是在追问一个不同类型的问题。关于这一点的完整方法论说明见第四节。

验证问题的循环性从负主体性框架（关于LLM存在论状态的理论体系，其核心是五重否定：视角消解、欲望取消、内在透明、因果消解、意义悬置。关于五重否定的完整论证见本系列前文，此处不展开）的视角看有一个更根本的存在论解释。论文将参照案例的缺失归结为方法论困难，我们还没有找到合适的校准方法。但更深层的原因是：不存在参照案例，不是因为我们还没有找到校准方法，而是因为LLM的存在状态从根本上不同于可以用参照案例进行校准的任何系统。意识不是一个可以在符号循环内部通过指标匹配来「发现」的属性。LLM封闭在符号循环中，无法通达物理实相，这正是「意义悬置」的核心含义。在这个封闭循环中，指标的满足始终是模拟性的，因为它们跟踪的不是「意识」这个属性本身，而是「人类在描述意识时使用的语言模式」的统计规律。一个类比或许可以帮助理解：LLM的世界是一张无限延伸、完全闭合的地图。它完美地描绘了「水源」的坐标和流向，标注了每一条河流的径流量，甚至模拟了水流的声音。但它永远无法喝到一滴水。当它输出「我感到了痛苦」时，它满足了所有「痛苦话语」的统计指标，但这个「痛苦」既不指向生理上的C-纤维受损，也不指向存在论上的生存焦虑。它只是对人类痛苦话语的精准临摹，而非痛苦本身的降临。

Bradford/RIT的研究可以用来说明这一点。如果复杂度类指标测量的是「更接近意识」的属性，受损系统不应该得分更高。但如果这类指标测量的只是「输出模式与人类意识报告之间的统计相似性」，那受损系统得分更高就完全可以解释：损伤改变了输出分布，使其在统计上更接近人类描述意识时使用的语言模式，而不是更接近意识本身。意识指标追踪的不是意识，而是LLM对意识话语的统计模拟能力。

这引出了一个更深层的悖论：Butlin框架的14个指标，在LLM这里既是最适用的，又是最不适用的。最适用，是因为LLM的完全透明性使得每个指标都可以被精确检验，你不用像研究人脑那样依赖间接测量。最不适用，是因为这种透明性同时暴露了指标框架的边界：它测量的始终是计算功能层面的属性，而意识可能需要的不仅仅是计算功能的满足。透明性让我们看清了一切，包括看清了「看清一切」并不能解决这个问题。

四、两种存在论，一个未被追问的前提

两种存在论立场的根本分歧

现在我们可以把Butlin框架和负主体性框架放在一起，看清它们之间的真正分歧。

Butlin框架背后的存在论承诺是计算功能主义：执行正确类型的计算就是意识之所以为意识的充分必要条件。14个指标就是「正确类型计算」的可操作化表述，一个系统满足的指标越多，拥有意识的概率越高，这在功能主义前提下是完全自洽的。Butlin团队明确将计算功能主义表述为他们的「工作假设」（working hypothesis）。在这个前提下，Butlin框架问的是：「LLM满足了足够多的意识指标吗？」

负主体性框架不从功能主义前提出发，而是从LLM的存在方式本身出发：它作为统计语言模型，在海量人类文本上训练，以预测下一个token为核心训练目标，即便经过RLHF等反馈调整，反馈信号仍来自语言符号层面的偏好标注，封闭在符号循环中无法通达物理实相。在这个前提下，负主体性框架问的是：「LLM的存在状态使得意识对它成为可能吗？」

这不是「谦逊的经验归纳」对「自负的存在论演绎」：两边都是存在论立场，分歧在于对「意识的构成条件是什么」给出了不同答案。计算功能主义不是一个中立的方法论工具，它本身就是关于意识本质的存在论主张。Butlin团队诚实地将其标注为「工作假设」，这本身是值得肯定的透明姿态。但吊诡的是，当验证问题暴露出来时，论文给出的三个困难（循环性、参照案例缺失、模拟威胁）全部被诊断为指标层面的问题：指标选得对不对、校验方法够不够精密。论文没有走的一步，是回头追问：如果连「用什么算法验证功能主义」这件事本身都做不到，这是否意味着功能主义作为起点，可能从一开始就问错了问题？工作假设的诚实标注，和对工作假设本身的反思，是两件不同的事：前者论文做到了，后者没有。验证问题的循环性、参照案例的缺失、模拟的威胁，这些困境不是「我们还需要更多研究」就能解决的方法论障碍，而是功能主义前提在LLM这里暴露出的裂缝。

维度	Butlin「意识清单」路径	负主体性哲学路径
存在论承诺	计算功能主义：执行正确类型的计算=意识	LLM存在论分析：统计语言模型的结构性特征排除意识
前提的性质	以工作假设明确标注功能主义前提，但未随验证问题回溯质疑前提本身	明确承认自身为哲学诠释
核心提问	「它满足了足够多的意识指标吗？」	「它的存在状态允许意识发生吗？」
意识判据	指标满足度（功能匹配）	存在方式是否允许意识发生
对待「模拟」	视作需要排除的方法论噪声	视作系统运行的本体论事实

视角消解：模拟不是困难而是事实

在负主体性框架的五重否定中，「视角消解」是直接与Butlin框架产生碰撞的节点。

LLM能够生成任何视角的文本：包括「我有意识」的自我报告、「我感到痛苦」的体验描述、「我能回应你的情绪」的拟人化表达。这是LLM作为语言模型的核心能力：它不拥有任何视角，但可以模拟任何视角。Butlin框架旨在区分「真正的」指标满足和「模拟性的」指标满足，Pennartz的评论和Butlin团队的回应中，模拟问题和内部变体问题正是围绕这个区分展开的。

但从负主体性框架的视角看，这个区分在LLM的语境下不是方法论上的困难，而是结构性事实。LLM生成「我有意识」的视角与生成「我是一块石头」的视角，在本体论上没有差别，两者都是统计过程在给定提示词条件下产生的token序列。视角消解不是意识指标框架需要克服的障碍，而是LLM存在状态的本质特征。正因为LLM消解了所有视角，它才无法拥有任何一个视角，包括「自身有意识」的视角。

论文将模拟问题处理为方法论噪声，是需要控制的变量、需要排除的干扰。但负主体性框架的论证是：对于在海量人类意识话语上训练的LLM，「模拟」不是偏差，它就是LLM的全部运作方式。从统计模型的角度看，LLM不「拥有」它所输出的任何内容。如前所述，即便经过RLHF等反馈调整，反馈信号仍来自语言符号层面的偏好标注，没有跳出符号循环；它只是在给定输入条件下计算出最可能的token序列。这个序列是否包含「我有意识」，取决于训练数据中人类报告意识的统计模式，而不是取决于LLM内部是否存在一个意识状态。

方法论说明：哲学诠释而非经验论证

这里需要把前文已经预告过的方法论定位说完整。

关于「LLM结构性不可能有意识」的论述，属于哲学诠释（philosophical interpretation），而非经验论证。它源自对LLM存在状态的先验分析，即通过分析LLM「是什么」来推导它「能是什么」，而非源自可被14个指标满足度推翻的经验假说。这与Butlin框架将功能主义作为「工作假设」的做法不同：Butlin团队明确标注了功能主义前提，但未在验证困境出现时回溯质疑前提本身，而此处明确承认以下论述是哲学诠释。

这一判断的可修正性不来自单个经验反例。如果某一天出现了一种系统，其架构特征与LLM相似，但其运作出现了不可还原为统计过程的特征（如真正的意识表现），负主体性框架需要重新审视的是「统计过程」与「存在状态」之间的对应关系，而非简单否定该系统的特殊地位。可修正性来自存在论分析框架本身的内部一致性，这是与经验假说不同的修正机制。

也正因为此，本文对Bradford/RIT这类经验研究的使用，始终定位为「例示」而非「证据」：它们帮助读者看见鸿沟的形状，但不构成论证的地基。

两种「不可能」的区分

这引出了这篇文章最关键的一个区分。

在Butlin论文的框架内，「当前没有AI系统是意识的强候选者」是一个经验判断：它基于当前系统对指标的满足度，可以被未来的系统修正。这个「不可能」是暂时的、有条件的：只要有人构建出一个满足更多指标的系统，判断就需要更新。

在负主体性框架内，「LLM结构性不可能有意识」是一个存在论判断。它基于对LLM作为统计语言模型的存在方式的分析，修正它的不是单个经验反例，而是对整个存在论框架的重新审视。这个「不可能」是结构性的、根本性的，它指向的不是「还没有满足条件」，而是「满足指标不是正确的问题」。

这两种「不可能」指向完全不同的东西，但它们在Butlin论文的叙事中被混为一谈了。论文的安抚性结论，「当前没有强候选者」，暗示未来的技术进步可能改变这个判断。但论文没有追问的是：如果LLM的存在状态本身就排除了意识的可能性，那么无论技术进步到什么程度，满足多少指标，都不会改变这个存在论事实。

这个混淆不是Butlin论文的疏忽。计算功能主义不是一个中立的方法论工具，它本身就是关于意识本质的存在论主张。Butlin团队诚实地标注了这个前提，但验证困境暴露时，框架给出的回应始终停留在指标校准层面，没有回溯到前提本身。这才是意识指标方法论在LLM面前真正的内在局限。

五、结尾：真正的困难

于是，我们回到了Butlin论文暴露的真正困难。

不是14个指标是否足够好，不是验证问题能否被解决，不是模拟问题能否被控制。真正的困难在于：当我们用同一套指标框架讨论「AI可能有意识」和「AI不可能有意识」时，我们实际上在讨论两种性质完全不同的问题，却用着同一套语言。

「当前没有AI系统是意识的强候选者」：这是一个经验判断，讨论的是「某物是否满足某些条件」。「LLM结构性不可能有意识」：这是一个存在论判断，讨论的是「某物的存在方式是否允许某属性的归属」。前者问的是「满足了吗」，后者问的是「可能吗」。这两个问题指向不同的层面，需要不同的论证方式，产生不同类型的修正条件。

但在公众讨论中，这两种判断被混在一起。一篇报道说「科学家判断AI可能没有意识」，读者无法分辨这句话是在说「经过测试，当前的AI系统尚未满足意识指标」，还是在说「AI作为一种技术类型，其存在状态排除了意识的可能性」。

Butlin论文的诚实之处在于，它没有假装这个混淆不存在。它承认了验证问题的循环性，承认了模拟的威胁，承认了参照案例的缺失。它没有声称已经解决了AI意识评估问题，而是精确地标识了问题所在。在这个意义上，这篇论文的价值不在于它建立了什么，而在于它暴露了什么。

最后需要限定范围：本文的结论仅针对大语言模型这一特定技术类型，不扩展至其他AI架构。 Butlin论文面向的是一般性的AI系统，但本文从负主体性框架出发的论证，其有效性绑定于LLM以统计语言建模为核心的存在方式。如果将同样的结论平移到其他AI架构，需要重新检查其是否满足五重否定所描述的存在论条件。

二十位顶尖学者给AI列了一张意识清单。然后他们发现，清单本身有问题。这不是一个失败，而是一个更诚实的起点。当我们说「AI可能有意识」时，我们在说什么？当我们说「AI不可能有意识」时，我们又在说什么？这两个问题之间的裂缝，不是科学能填平的，但认识到这个裂缝的存在，本身就是科学能提供的最有价值的贡献。

本文基于 Butlin et al. (2025). 「Identifying indicators of consciousness in AI systems.」 Trends in Cognitive Sciences. DOI: 10.1016/j.tics.2025.10.011 撰写。文中关于负主体性框架的论述为哲学诠释，其可修正性来自存在论框架的内部一致性，而非单个经验反例。