AI时代再问意识：意识的生物学转向（3）下

第三部分：Ned Block——如果载体本身也很重要（下）

替换1%时，我们大概不会认为意识突然发生变化；替换10%似乎也没有明显理由担心。慢慢地，一半大脑变成了人工元件，最后所有生物神经元都被替换。这个人在整个过程中始终正常说话，认识家人，记得童年，会笑，会抱怨疼痛，也不断告诉我们：“我的体验完全没有改变，我还是原来的我。”

如果功能主义正确，答案相当明确：既然所有与心智有关的功能组织都完整保留，意识也应该完整保留。

可是，如果 Block 的担心成立，如果某些没有被输入—输出功能描述捕捉到的生物过程本身参与了意识，那么另一种非常奇怪的情况就不能在逻辑上被排除：随着神经元逐渐被替换，意识可能逐渐减弱，某些体验性质也可能慢慢改变，甚至最终完全消失，而系统的外部行为却始终不变。到了最后，那个完全人工化的系统仍然可以真诚而准确地生成一句“我的意识没有任何变化”，因为产生这句话的功能机制被完美保留了，即使原来与这句话相伴的体验已经不存在。

这个思想实验听起来令人不安，但必须准确理解它究竟证明了什么。

它并没有证明意识真的会随着神经元替换而消失。

它证明的是：我们对这个思想实验的答案，完全取决于我们事先接受什么意识理论。

如果意识本质上是计算，替换不会改变它；如果意识依赖被人工元件省略的生物性质，替换就可能改变甚至消灭意识。而由于思想实验事先规定所有外部行为完全相同，单纯观察行为永远无法帮助我们在两种理论之间作出选择。

争论因此已经从“机器表现得像不像人”深入到了体验的物理基础。

走到这里，很容易把整个问题重新简化成“碳与硅”“大脑与计算机”的对抗，但这同样会误解 Block。硅并不会因为不是碳就自动失去意识资格，我们也不知道碳元素本身具有任何特殊的主观性。真正的问题是：人工基质能不能实现意识实际上需要的那些物理性质。

如果这些性质完全属于计算层次，普通数字机器原则上就可能足够；如果意识依赖某些连续动力学，那么未来的神经形态硬件或者其他人工系统也许能够复制这些过程；如果意识需要更加复杂的自组织电化学活动，人类也可能最终制造具有类似物理结构的合成系统。即使生物机制真的非常重要，也不能因此推出人工意识不可能存在，只能说明人工意识可能需要一种远比“在普通芯片上运行越来越强的软件”激进得多的工程道路。

“人工”并不等于“数字”。未来真正具有意识的人工系统，也许看起来不像服务器，反而越来越像一种新的生命体。

到了这里，Block与Seth以及前面讨论过的生成论产生了一种非常有意思的汇合，尽管三条道路的出发点完全不同。Seth强调生命、身体调节以及意识的有机体基础；生成论强调自主性、具身活动、自我维持和意义生成；Block则提醒我们，计算下面那些具体的物理实现过程本身可能具有因果意义。他们共同挑战的是二十世纪计算主义留下的一个强大直觉：只要找到了正确的信息处理结构，剩下的物理世界就可以安全地归入“实现细节”。

但在重新发现生物学以后，还必须警惕另一个方向的陷阱。

我们目前高度确信具有意识的系统都是生物系统，于是很容易反过来认为生物学一定不可替代。但在飞机出现以前，人类所知道的所有飞行者也都是生命体，这并没有证明羽毛是飞行的必要条件。只有一种已知实现方式，并不足以告诉我们其中哪些性质真正不可缺少。

所以，Block的论证最有力量的理解方式，不是把它当成一个结论，而是把它当成一个挑战。我们不能因为计算可以跨越不同基质，就直接假定硅基意识迟早必然出现；同样也不能因为所有已知意识都来自活的神经系统，就断定人工意识永远不可能。

真正的科学任务，是找出意识所依赖的因果性质。

问题在于，意识比飞行、消化甚至计算都更加困难，因为我们试图解释的性质无法从外部直接测量。我们只能通过语言报告、行为、神经机制、演化连续性以及不同理论之间的解释力间接推断意识。这也使人工智能问题与动物意识问题意外地联系到了一起：如果我们把高级认知和语言报告看得最重，AI的意识可能性会上升，而很多动物的意识可能性会下降；如果我们把生物连续性和神经机制看得更重，动物就显得更可信，而AI则显得更加遥远。

真正令人满意的意识理论，最终应该解释为什么这些不同证据能够汇合，而不是允许我们根据自己喜欢的结论随意挑选其中一种。

半个多世纪以来，计算主义给意识研究带来了一次极其强大的概念简化。心智似乎可以从大脑的具体材料中抽离出来，在信息和功能层次上被独立研究。心理学、神经科学、语言学、计算机科学和哲学由此第一次拥有了一套相互沟通的语言，而今天的人工智能在很大程度上正是这种思想抽象最辉煌的技术成果。

然而，AI的成功现在产生了一个很有意思的反转。

机器已经能够复制越来越多过去被认为独属于心智的高级功能，却仍然在物理上与我们最有把握认为具有意识的系统截然不同。它们越成功，我们越清楚地看到意识问题中仍然没有被解决的那一部分。真正的问题已经不再是机器能不能复制人的认知能力，因为许多能力显然可以复制；现在的问题是，一个有意识的人究竟可以被改变到什么程度，而意识仍然存在。

语言已经可以与人类发声器官分离，推理可以与人类成长史分离，记忆可以与生物突触分离，视觉识别也可以与视网膜分离。也许意识最终同样可以与活的神经组织分离。

但前面这些成功，并不能自动证明最后这一步也一定成立。它需要属于自己的证据。这正是 Block 挑战最重要的意义。他不是要求我们崇拜生物学，而是提醒意识科学：在真正知道大脑哪些部分与体验有关以前，不要过早地把物理大脑从心智理论中删除。

Seth重新打开了一个可能性：意识也许与“活着”这件事存在深刻联系。Block又把问题推进了一层：即使我们复制了认知的组织结构，那些位于计算描述之下的物理过程，也可能仍然包含某些我们尚未认识的体验因果机制。

如果真是如此，那么长期支配计算主义的“软件—硬件”比喻就必须重新考虑。大脑也许并不是一块恰好承载心智软件的硬件。我们所谓的某些“硬件”，可能从一开始就是心智的一部分。而这也终于把讨论带到了今天人工意识争论最直接的对象。我们已经拥有一种系统，它在语言上表现得极其复杂，在推理上越来越强大，却几乎没有 Seth 和 Block 要求我们重新认真考虑的那些生物机制。

那么，我们究竟应该怎样看待大语言模型本身？答案不能只是“它说话很像有意识”。但也不能只是“它由硅芯片运行，所以没有意识”。我们需要比这两种直觉都更有力的论证。

这就是下一部分的问题：第四部分：大语言模型为何可能没有意识。

---