AI时代再问意识：意识的生物学转向（1）上

第一部分：当智能变得太像意识（上）

在人工智能发展的大部分历史中，“机器是否拥有意识”一直是一个相当遥远的问题。计算机可以比人算得更快，可以在巨大的可能空间中搜索，可以证明定理、诊断故障、识别模式，后来又先后击败最优秀的人类国际象棋和围棋选手。这些成就一次又一次迫使我们重新定义什么叫“智能”，却很少真正制造出一种感觉：机器里面似乎“有谁在那里”。

一个国际象棋程序可以极其聪明，却不会因为即将输棋而显得紧张；一个定理证明器能够操纵复杂逻辑，却不会表现出对数学的好奇；图像识别系统可以准确认出一张脸，却不会因为看到久别重逢的朋友而高兴。即使人工智能在一些极其困难的任务上已经超过人类，“能力”与“体验”之间的区别仍然很容易维持。机器能够做出需要高度智能的事情，却并不像真的生活在这些事情之中。

大语言模型改变了这种局面，因为它们不是从计算速度、棋力或者图像识别进入我们的心理世界，而是从一个完全不同的入口进入——语言。

对于人类来说，语言从来不只是众多认知能力中的一种。它是我们判断另一个心灵存在的最重要线索之一。我们从来没有直接看见过别人的意识，只能听别人说自己疲惫、害怕、犹豫、后悔或者快乐；一个人告诉我们童年的记忆，解释为什么某件事让他难过，承认自己并不知道答案，或者描述一种只有他自己能够感受到的疼痛。正是通过这些语言，我们才得以间接进入另一个人的经验世界，并相信那里存在着一个不同于自己的主观视角。

然后，机器开始做出越来越类似的事情。

今天的大语言模型可以解释自己为什么作出某个判断，可以修改先前的回答，可以承认不确定，也可以构造比喻、讲笑话、为错误道歉、对悲伤作出富有同情意味的回应。它们能够讨论自我、死亡、意识和身份，可以生成关于孤独、恐惧、欲望、尴尬、记忆和疼痛的细致描述，也可以在很长的对话中保持主题关系，根据几十段以前出现的信息调整当前回答。它们还能够谈论自己的局限，区分自己“知道什么”和“正在推测什么”，甚至在某些情境中生成关于自身存在和终止的复杂叙述。

这一切当然都不能证明机器真的感觉到了什么。

但问题恰恰从这里开始。

人类第一次创造出一种系统，它能够产生许多我们过去最习惯用来判断“这里存在另一个心灵”的行为信号，而我们却完全不能确定这些信号背后是否真的存在任何主观经验。由此产生了一个非常奇特的反转：AI表现得越像一个有意识的存在，单纯依靠行为判断意识反而变得越不可靠。

过去，我们很容易把“像意识的行为”与“意识本身”连在一起，因为这两者几乎总是在同一种生物身上出现。现在，人工智能第一次把它们分开了。

这使意识研究不得不重新审视一个我们长期以来几乎没有认真意识到的事实：我们究竟凭什么相信另一个存在具有意识？

假设一个朋友告诉你：“我头疼得厉害。”严格来说，你无法直接检查这个疼痛本身，也不可能进入他的意识确认里面是否真的存在痛感。从哲学意义上说，他人的意识永远具有私密性。但在日常生活中，我们通常不会因此产生严重怀疑，因为这句话从来不是孤立出现的。

你的朋友拥有与你非常相似的人体和神经系统。你知道疾病、炎症、组织损伤、感觉神经、自主神经反应、注意和行为都与疼痛有关；你自己也有过头疼经验。你还知道眼前这个人有完整的成长历史，有身体，有各种需求，可以受伤，会形成长期记忆，也会在不同场合以相当一致的方式表达身体和心理状态。因此，“我头疼”这句话实际上嵌入了一个巨大的相互支持的证据网络之中。

语言只是这个网络的一部分。

如果一台大语言模型生成完全相同的一句话，情况就不同了。它甚至可能进一步解释那是一种跳动式疼痛，说自己难以集中注意力，强光让症状变得更糟，希望躺在安静的房间里。这样的描述完全可能比许多真正的病人更加清楚准确。

可是，同样一句话背后的因果历史已经完全改变。我们找不到一块正在发炎的组织，也没有明显的伤害感受神经从头部向中枢传递信号，没有一个正在经历生理痛苦的自主神经系统，也没有一个正在努力保护受损身体的有机体。系统内部当然存在影响后续输出的计算状态，但这些状态与“疼痛被感觉到”之间是否具有真正相关的关系，恰恰就是我们想要回答的问题。

句子没有改变。

改变的是它所处的证据背景。

这也是为什么现代人工智能使传统的“他心问题”变得更加复杂。我们一直以为自己主要依靠行为推断他人意识，但实际上，行为从来没有真正脱离生物相似性。我们相信别人的疼痛，并不只因为他会说疼，而是因为说这句话的是一个和自己具有相似身体、相似神经系统、相似发展史以及相似脆弱性的生命体。行为证据与生物证据一直纠缠在一起，只是以前没有必要把它们拆开。

人工智能现在把这两种证据第一次清楚地分离了。

我们开始看到越来越像人的行为，却没有看到与人类相似的生命组织。于是一个长期被掩盖的问题浮现出来：过去我们相信另一个意识存在时，真正起作用的究竟主要是行为相似，还是生物相似？

这并不完全是图灵在1950年提出“模仿游戏”时讨论的问题。图灵真正关心的是机器智能，而不是今天哲学所谓的“现象意识”。这个区别非常重要。一个系统完全可能能够灵活使用语言、解决问题、进行推理和社会互动，却并不因此必然具有任何主观体验；反过来，许多显然值得认真考虑其意识可能性的生命体根本不可能通过图灵测试。婴儿不会，狗不会，许多其他动物也不会。某些严重失去语言或运动能力的患者，也可能保持极其丰富的意识体验，却无法通过普通对话把这种体验表达出来。

因此，语言既不是意识的必要条件，也没有任何充分理由被视为意识的充分条件。

大语言模型真正改变的，是让这种理论上的区分突然变得非常具体。图灵的重要思想之一，是不必陷入“机器究竟是不是真的在思考”这样的形而上学争论，而可以根据可观察表现研究机器智能。这种策略对人工智能的发展极其成功。但一旦问题从智能转向意识，行为标准就变得困难得多，因为意识所问的并不是“系统能够做什么”，而是“当它这样做的时候，是否有任何东西正在被体验”。

机器可以下棋而不感到紧张，可以计算降雨概率而不体验雨水落在皮肤上的感觉，也可以准确识别食物而从未真正饥饿。真正困难的是，语言究竟属于哪一种情况。过去几千年中，人类几乎自然地认为复杂语言与思想和体验密切相关，因为我们所认识的每一个真正流利的语言使用者都是活着的人。大语言模型打破了这种长期历史相关性。它证明，许多过去与人类心灵紧密联系的语言结构，可以出现在一种与生物说话者完全不同的系统中。

这并不能证明机器没有意识，却足以说明：语言本身已经无法替我们解决意识问题。

从这个意义上说，人工智能正在无意中完成一场演化从未替我们完成过的巨大实验。

生物演化把许多不同能力长期打包在同一个有机体中。人类同时拥有语言、知觉、记忆、情绪、动机、身体调节、社会依恋、快乐和疼痛、长期目标、自我保护、成长、繁殖和意识。正因为这些东西通常总是一起出现，我们很难判断哪些联系真正具有因果必要性，哪些只是共同演化的历史结果。

人工智能开始把这个包裹拆开。

我们现在已经拥有非常强大的语言系统，而这些系统没有代谢；它们可以解决困难的推理问题，却没有从婴儿期一路成长；可以讨论各种复杂情绪，却没有内分泌系统；可以理解空间关系，却未必拥有持续存在于空间中的身体；可以解释饥饿而不需要进食，描述疲劳而没有肌肉，讨论性欲而没有生殖系统，分析依恋而从未作为无助婴儿依赖照料者，也能够写出关于死亡极其动人的文字，而自身却存在于可以复制、暂停、重新启动和在不同硬件上运行的计算形式之中。

这种分离对认知科学极有价值，因为它告诉我们，很多我们曾经以为与整个“人类心智”不可分离的东西，其实并不是某些高级认知能力的必要条件。语言并不需要人类嘴巴，抽象推理并不需要人类童年，概念知识也并不要求学习者亲自经历它所理解的一切。通过学习其他生命体积累下来的信息结构，一个人工系统同样能够获得惊人的认知能力。

但意识也许恰恰不同。

人工智能最有价值的地方之一，就是它让那些在人类身上长期无法分离的因素终于可以被逐项拆开研究。也许最终我们会发现，生命的绝大部分特征与意识并没有必然联系，真正关键的始终只是某种复杂计算结构，生物学不过是演化偶然采用的实现材料。

但也存在另一种可能。AI最容易复制出来的那些高级能力——语言、推理、符号操作、知识组织——也许并不是意识真正最核心的部分。反而是工程学过去往往视为“低层维护”的那些过程，例如身体调节、内部状态感知、情绪、自我维持、脆弱性以及持续活下去的需要，才可能与主观体验关系更加紧密。

这正是今天意识研究中“生物学转向”逐渐出现的背景。

这种转向之所以让人感到反直觉，是因为西方思想长期把智能放在心智结构的最高位置。理性曾经被视为人类最重要的特征，笛卡尔从“思”出发寻找确定性，启蒙时代进一步提高理性的地位，二十世纪认知科学又把信息处理放在心智理论中心，人工智能自然延续了这条传统：解决问题、建立表征、规划、推理、使用语言。

于是一个很自然的假设出现了：如果意识属于高度复杂的心智，而复杂心智最突出的特点是智能，那么不断提高机器智能，也许就是走向机器意识的道路。

但这一步推理其实并不必然成立。

智能描述的是一个系统学习、推理、预测、适应、解决问题和实现目标的能力；意识描述的却是另一件事情——是否存在主观体验。这两者在人类身上高度相关，并不意味着它们概念上是一回事，更不意味着其中一个增加到足够程度，另一个就一定随之出现。

演化史本身已经提供了一个很重要的提醒。无论我们最终把动物意识的边界画在哪里，意识几乎不可能等到自然语言和高等抽象推理出现以后才突然产生。如果哺乳动物、鸟类，甚至某些结构更简单的动物已经具有某种程度的意识，那么主观体验显然早在人类智能出现以前就已经存在。

自然演化与人工智能的发展顺序因此几乎正好相反。自然首先产生能够维持自身、寻找资源、感知环境、躲避危险、运动、受伤、繁殖并与其他生命互动的有机体，更复杂的神经系统是在这种生命背景中逐步发展出来的，而人类语言和高度抽象的智能则出现得极晚。

人工智能却几乎从另一端开始。它迅速获得语言、计算、抽象、规划以及越来越一般的解决问题能力，却几乎没有演化史上长期先于这些能力存在的身体和生命调节过程。

这也是为什么第十八篇最后提出的那个问题如此重要：我们有没有可能一直从错误的方向接近意识？

语言模型又使这一问题增加了一层特殊困难，因为它们不仅能够说话，还能够谈论“自己”。

（未完待续）

---