AI时代再问意识：意识的生物学转向（3）中

第三部分：Ned Block——如果载体本身也很重要（中）

今天我们同时接受两种越来越普遍的直觉。一方面，随着人工智能的信息处理越来越复杂，越来越多人愿意认真讨论高级AI是否可能产生意识；另一方面，现代意识科学也越来越愿意承认，许多认知能力远远低于人类的动物可能具有某种程度的主观体验。这两个趋势单独看都很自然，放在一起却产生了一个值得注意的张力。

如果我们主要根据计算复杂性和高级认知能力判断意识，那么大型AI系统会越来越像有力候选者。它们能够整合巨量信息，灵活推理，使用语言，保持上下文，解决新问题，并形成复杂的内部表征。

可是，如果这个标准真的最重要，那么动物世界就会变得很难解释。很多我们有充分理由认真考虑其意识可能性的动物，没有人类语言，也没有高级抽象推理，在传统认知测试中的表现甚至远低于今天最先进的人工智能系统。

反过来，如果我们把更多证据权重放在人类和其他动物之间的生物连续性上，情况就改变了。相似的神经组织、持续的电化学活动、感觉系统、神经调节机制以及漫长的演化连续性，会使动物意识显得更加自然。即使一只动物不能告诉我们它疼在哪里，也不会讨论意识哲学，它仍然可能拥有产生疼痛体验所需要的物理机制。

但采用同样标准以后，AI的意识地位就没有那么明显了。

于是出现了一个很有意思的反差：越强调抽象计算和高级认知，AI越像意识候选者；越强调与已知意识系统之间的生物机制连续性，许多认知上简单得多的动物反而显得更有说服力。

我们今天还不知道究竟应该给哪一类证据更大的权重。

这也说明，人工意识从来不只是一个关于机器的问题。任何真正完整的意识理论，都必须同时解释意识在动物世界中的分布。如果一种理论因为AI拥有复杂语言和高级推理就非常容易赋予它意识，却同时因为许多动物缺乏这些能力而降低它们的意识可能性，那么这种理论也许只是重新把“智能”当成了“体验”的替代指标。反过来，如果一种理论坚持只有生物神经组织才可能产生意识，它也必须进一步说明，究竟是这些组织中的哪些物理性质不可替代，而不能仅仅以“目前所有已知意识都来自生命体”为理由结束讨论。

任何一方都不能免费得到自己的结论。

这里又重新出现了 Block 很早以前就提出的一个重要区别：现象意识（phenomenal consciousness）不能简单等同于认知可接近性（cognitive access）。拥有一种体验是一回事，能够把这种体验用于推理、决策、语言报告或者其他高级认知操作，则是另一回事。我们看到红色、听见音乐、感到疼痛时存在某种“体验起来是什么样”的性质，而这种性质未必完全等同于这些信息后来能够被怎样报告和使用。

到了AI时代，这一区分突然获得了新的现实意义。现代人工智能最擅长的，恰恰是与认知可接近性相似的功能：信息能够被调用、组合、转换，可以进入推理，可以通过语言表达，也能够被不同任务继续利用。如果意识本质上就是信息在整个认知系统中的广泛可用，那么越来越复杂的人工智能当然会越来越像意识系统。

但如果现象体验还依赖于另外一些机制，那么AI的这些能力就没有那么决定性了。

一只动物也许完全无法告诉我们它的疼痛是什么感觉，却真的会疼。一台机器也许可以比任何动物更加准确、更加细腻地描述疼痛，却什么也没有感觉到。

这种反差当然不能证明机器没有意识，却提醒我们：能够谈论体验，与拥有体验，并不是同一种证据。

Block甚至用一个颇具挑衅意味的说法指出，当代大部分意识理论实际上都是某种意义上的“血肉中立”（meat-neutral）。也就是说，它们在理论结构中并没有赋予神经系统具体的生物材料以不可替代的地位。全局工作空间理论关心的是信息能否被广泛广播，高阶理论关心的是一个心理状态是否被更高层表征，整合信息理论强调系统的因果整合结构，其他计算和表征理论也主要寻找原则上能够跨越不同物理材料实现的组织性质。

这种基质中立当然有很大的理论优势。科学不应该仅仅因为我们自己由神经元构成，就武断宣布神经元具有某种神秘的意识特权。如果意识真正依赖一个普遍的组织原则，那么找到这个原则，恰恰能够让我们同时理解不同动物，甚至未来完全不同的人工系统。

危险在于，基质中立也可能从一个需要检验的假设，悄悄变成理论定义的一部分。

如果我们一开始就只用基质无关的概念定义意识机制，那么最后得到“基质不重要”的结论，也许并不像表面看起来那么令人惊讶。这个结论很可能已经部分写进了我们选择的理论语言之中。

Block因此提出的，不只是一个哲学反驳，也是一个方法论要求：不要预先规定意识的正确解释层次一定是计算层次。应该让神经科学和实验研究告诉我们，究竟哪个层次真正具有因果作用。

最终答案完全可能仍然是计算性的。意识也许确实依赖某种递归结构、全局广播机制、特殊表征关系或者因果组织，而这些原则完全可以在神经元、硅芯片或者其他材料中实现。但也可能随着神经科学深入，我们会发现一些无法如此轻易抽象掉的物理机制。

在真正知道以前，不应该提前决定答案。不过，“物理基质可能重要”这句话本身仍然太宽泛。至少可以区分几种完全不同强度的主张。最弱的一种是，生物大脑只是特别擅长实现意识所需要的计算，生物学因此很有用，却并非必要；一旦工程师发现真正的抽象原则，其他材料同样可以实现意识。更强的可能性是，某些神经组织特有的动力学性质不可缺少，例如连续而不是纯离散的活动、特殊的时间结构、跨尺度耦合或者某些电磁过程。这样一来，人工意识仍然可能实现，但必须复制这些物理动力学，而不能只复制高层输入—输出关系。再往前一步，某些具体的细胞或者生化过程本身也可能参与构成意识；如果如此，普通数字模拟无论在行为上多么逼真，也未必足够。最强的版本则接近一种真正的生物排他性：只有某种特殊的活神经组织才能产生意识。

Block并没有证明其中哪一种正确。他真正的论点是，当代意识理论往往过早地默认了第一种可能，而没有充分排除后面几种。

这与简单地说“硅永远不会有意识”完全不同。也正因为如此，它更难被轻易驳回。

功能主义历史上最有力的论据之一，是所谓多重实现（multiple realizability）。疼痛不应该只能由人类某一种神经状态实现。狗、章鱼、外星生命甚至人工系统都可能拥有与人完全不同的内部结构，却仍然感到疼痛。正是这种思想帮助现代心灵哲学摆脱了狭窄的人类神经解剖学。

但 Block 的问题让我们看到，多重实现并不等于无限实现。

飞行当然可以多重实现。鸟、蝙蝠、昆虫、飞机和直升机都能飞，而且机制相差极大。但这并不意味着任何只要在抽象意义上模拟“升力关系”的系统就真的能够飞。消化在不同动物中也有多种实现形式，可电脑模拟消化并不会真的消化一顿午餐。关键从来不是“能不能用不同材料实现”，而是究竟有哪些性质必须被保留下来。

对于意识，我们恰恰还不知道答案。也许只要保留计算组织就足够；也许还必须保留某些物理动力学；也许某种生命组织不可缺少。多重实现原则本身无法提前告诉我们答案，因为在决定意识能够怎样被“多重实现”以前，我们首先必须知道究竟是什么东西正在被实现。

这个不确定性可以通过一个经典思想实验看得更加清楚。假设我们把一个清醒人的大脑神经元逐个替换成人工元件，每一个人工神经元都完美复制原来神经元的输入—输出功能，接受同样信号，也产生同样输出，因此整个系统的行为始终保持不变。

---