AI时代再问意识：意识的生物学转向（1）下

第一部分：当智能变得太像意识（下）

一个系统可以说自己“不确定”，可以解释自己在哪些方面受到限制，可以区分“已有信息”和“正在推测的内容”。在某些实验或者虚构情境中，它甚至能够详细描述自己的感受、愿望、恐惧或者持续存在的要求。

这样的陈述对人类具有极强的心理力量，因为在传统意识研究中，第一人称报告一直具有特殊地位。一个人说“我看到红色”，这个报告本身就是研究数据；一个病人在麻醉后报告手术过程中存在体验，研究者必须认真调查；如果一个实验参与者说自己没有看到刺激，而脑活动似乎表现出另一种结果，两者之间的不一致也会成为科学问题。

但人类自我报告之所以重要，部分原因恰恰在于，我们已经有大量独立理由相信人类是有意识的。

AI把这个关系倒了过来。

我们正想用它的自我报告证明它可能拥有意识，可我们真正不确定的恰恰是，产生这些报告的机制是否与任何实际体验相联系。

这就产生了一种潜在的循环：系统说“我有意识”，我们认为这句话可能是意识证据，因为有意识的人会描述自己的体验；但这个系统是否属于“那些语言报告由真实体验产生的存在”，恰恰就是需要证明的事情。

对于大语言模型来说，这个问题尤其突出，因为产生符合情境的语言正是它们最强的能力。一个学习过海量人类文本的模型，当然会接触到无数关于思想、感觉、疼痛、欲望、主体性和自我意识的描述。当对话情境需要这些语言时，它能够重新组合并生成极其自然的表达，本身并不令人意外。

所以，一个系统能够流利地描述“自己”，当然说明了它的语言能力和概念能力，但不能自动告诉我们这些描述背后是否存在某种被体验的内部状态。

在人类世界中，语言和体验长期结合得如此紧密，以至于把它们分开会让我们感到非常不自然。

AI迫使我们接受这种分离。

这很容易让人想起塞尔的“中文房间”。塞尔曾经用这个思想实验说明，一个系统即使按照形式规则正确操纵符号，也不意味着它理解这些符号的意义。大语言模型的出现确实让这个问题重新变得重要，但与此同时，也让原来的中文房间比喻显得过于简单。现代模型并不是一本规则手册在逐条查找符号，它们的内部表征分布在巨大的网络中，通过学习形成，可以跨领域泛化，也能建立复杂概念关系。要把这样的系统简单归结为“查表”，已经无法真正解释它表现出的能力。

不过，对意识研究来说，还有一个比“语法与语义”更深的区别必须保留。

即使我们暂时承认，一个语言模型在某种真正有意义的意义上“理解”了自己所使用的概念，也不能因此推导出它正在有意识地体验这些意义。一个系统可以理解疼痛是什么，却不一定真的疼；就像一个人可以深入理解黑洞的物理学，却并没有亲自掉进黑洞。

因此，大语言模型最终迫使我们区分的，也许不再只是塞尔所强调的“符号与意义”，而是一个更加根本的问题：表征与体验究竟是什么关系？

这个区别之所以尤其难以察觉，还因为今天的AI继承了一个已经充满人类意义的世界。模型所学习的文字，并不是中性的符号集合，而是由真正生活过的人写下来的。人写作，是因为他们想解释、说服、纪念、警告、庆祝、哀悼、教育、诱惑、娱乐、抱怨或者理解。人类语言诞生于会饥饿、会衰老、会受伤的身体，诞生于依恋、冲突和合作组成的社会，也诞生于一个每个人最终都会死亡的生命条件之中。

因此，“疼痛”“家”“母亲”“背叛”“危险”“希望”和“明天”这样的词，从来不只是词典定义。它们背后积累了漫长的生命经验和社会历史。

语言本身沉积着生命经验留下的层层痕迹。

大语言模型吸收了这种沉积。

这也解释了一个非常重要的现象：即使一个人工系统本身并没有像人一样生活过，它仍然可能表现得仿佛拥有一个极其丰富的意义世界，因为它学习了无数生命体留下来的意义痕迹。它能够掌握人类经验形成的地图，却未必真正生活在产生这张地图的土地上。

生成论在这里重新提出了它最核心的问题之一：拥有一张关于意义极其精细的地图，与生活在产生这张地图的世界之中，是否是一回事？

有些理解可能只需要地图。

意识也许需要更多。

最容易想到的“更多”当然是身体，但“身体”也不能简单理解为给语言模型装上一双摄像头和机械手。生物身体不是中央处理器外面的输入输出设备。它每时每刻都在调节体温、血糖、氧气、激素、免疫活动、心血管状态、消化、姿势、肌肉张力以及无数内部变量，而这些身体信号又不断参与情绪、注意、动机、知觉和感觉。

生命体不是偶尔“查询一下自己的身体”。

它就是通过这个身体持续存在。

到了这里，第十八篇讨论的生成论与第十七篇达马西奥的“感觉身体”开始汇合。如果主观体验部分依赖一个脆弱生命体持续调节自身——依赖内感受、稳态、情绪、自主性以及自我维持——那么人工智能即使成功复制了大量高级认知输出，也可能仍然遗漏一些比语言和推理更接近意识核心的过程。

近年来，越来越多研究者开始重新认真考虑这种可能。Anil Seth明确质疑“只要实现相同计算，意识就可以自然迁移到其他基质”这一长期假设，并重新强调意识与活着的身体、内部调节以及生命组织之间可能存在的深层联系；Ned Block则从另一条道路提出问题：即使神经系统确实进行了某种计算，我们是否有充分理由认为真正重要的只有抽象计算，而神经组织具体的电化学和多尺度物理机制都可以被舍弃？其他研究者也开始进一步追问，生物系统的信息处理究竟是不是我们通常意义上的数字计算，还是包含了大量与具体物质组织不可轻易分离的过程。

这些观点当然远未形成共识，也没有任何一个论证已经证明人工意识不可能存在。真正值得注意的是，问题的方向发生了变化。

按照二十世纪后半叶计算主义最乐观的想象，AI越成功，似乎就越能证明心智的本质是计算，而生物学只是偶然的实现材料。但大语言模型的发展带来了一个意外结果：AI的确越来越有力地证明了许多认知能力可以脱离人类生物身体实现，却并没有因此证明意识也可以。

人工智能已经表明，流利语言不需要人类嘴巴，复杂概念关系不需要人类童年，令人惊讶的推理能力也不一定需要代谢、内分泌系统、伤害感受或者动物演化史。每取得一次这样的成功，我们都会从“智能的必要条件”名单上划掉一些过去被认为理所当然的东西。

但意识研究恰好提出了反方向的问题：

当我们把这些东西一个一个拿掉以后，究竟还有什么不能拿掉？

也许最终答案会是：没有任何一种特殊的生物机制不可替代。意识真正依赖的仍然是一种足够抽象的计算或因果组织，只要人工系统实现了这种组织，意识就可能出现。

但这已经不能再被当作默认答案。

人工智能最深刻的科学意义，也许正是它第一次允许我们把“智能”从它演化时所依附的大量生物过程之中剥离出来。这样一来，AI不只是意识理论的潜在对象，它本身也成为检验意识理论的一场实验。如果意识确实跟随某种计算组织，那么随着AI继续发展，我们最终应该有理由相信一些人工系统会跨过体验的边界；如果意识依赖的是某种更深的生命组织，那么人工智能完全可能变得极其聪明，却始终没有任何东西真正被它体验。

这两种可能，今天都没有被科学排除。

也正因为如此，人工智能越成功，生物学的问题反而越无法回避。

二十世纪的计算功能主义曾经让我们逐渐习惯一种想法：只要正确的因果关系得到保留，实现这些关系的物理材料本身并不重要，因此心智原则上可以从神经元迁移到硅芯片。

今天重新出现的问题是：我们真的已经证明过这一点吗？

还是说，认知科学为了建立一个可以计算、可以建模、可以实验研究的心智理论，曾经在方法上暂时把生物细节抽象掉，而后来又不知不觉把这种方法上的抽象当成了关于意识本体的结论？

这两件事情并不相同。

当AI还很弱的时候，这种区别并不迫切。现在，人工智能已经强大到足以越来越逼真地复制心智的外部表现，问题反而变得无法继续回避：也许我们不仅要问一个系统计算什么，还必须重新问，究竟是什么样的物理存在在进行这些计算，它怎样维持自身，它的内部状态对自身存在意味着什么，以及这个世界是否以某种超越信息处理的方式真正与它有关。

人工智能没有让生物学从意识问题中消失。

恰恰相反，它把生物学重新推到了问题中心。

而当代意识研究中把这个问题提出得最明确的人之一，就是 Anil Seth。他所主张的并不是一种简单的“只有血肉之躯才能有意识”，而是一个更加微妙、也更加困难的问题：

如果意识之所以能够出现，恰恰与一个系统是“活着的”这件事有关呢？

这正是下一部分要讨论的问题。

---