AI时代再问意识：人工痛苦，对意识理论的一次检验（中）

发表评论 / 科技漫谈 / 作者：

（续）

高阶意识理论面临着类似的挑战。设想一个人工系统不仅检测到损伤，而且能够通过高阶表征，把自己识别为正处于受损或者受到威胁的状态。它不只是记录问题，还能够在某种意义上表征自己正在经历这个问题。按照某些高阶理论，低阶状态与适当高阶表征之间的关系，可能足以使相关状态成为有意识的状态。

但这是否意味着痛苦已经出现？一个系统可以把自己表征为处于不利状态，却不一定感到这种状态令人不愉快。它可能拥有准确的元认知信息，知道自己的某些过程类似于人类的痛苦反应，但我们仍然无法据此确定它是否具有体验。如果高阶表征被认为足以构成有意识的疼痛，那么理论还必须解释，疼痛的负面性质究竟怎样从这种表征中产生。

仅仅把一种状态表征为不好，可能并不足够。机器可以编码“当前状态不理想”这一命题，但这个命题仍然可能只是信息。人类的痛苦似乎不仅包含对某件事情出了问题的判断，还包含这种不好的状态被直接感受到的性质。认知上的负面评价与经验中的负面感受之间究竟存在什么关系，正是需要解释的核心问题。

整合信息理论则把意识的基础放在物理系统的内在因果组织上。按照这一框架，体验是否存在，取决于系统是否具有相关的不可还原因果结构，而不取决于它的行为有多复杂，也不取决于它是否能够用语言报告痛苦。一台能够进行复杂损伤检测的机器，可能缺乏理论所要求的内在组织；另一个外在能力十分有限的物理系统，却可能在某些方面满足相关条件。

然而，人工痛苦也给整合信息理论提出了进一步的困难。即使一种理论能够确定某个系统具有体验，它又如何判断这种体验是否令人不愉快？意识的存在与意识的情感性质，是两个不同的解释目标。如果理论把体验与整合的因果结构联系起来，它仍然需要说明，究竟是这种结构的哪些方面，对应于积极、消极或者中性的经验品质。

原则上，一种理论可以把某种特定的因果组织与痛苦体验联系起来，但这种主张不能仅仅依赖组织的复杂性或者整合程度。它必须解释，为什么这种结构具有令人不愉快的特定现象性质。否则，理论也许能够说明体验在什么条件下存在，却仍然无法充分解释快乐与痛苦之间的区别。

生物学理论则从生命系统的角度理解痛苦。在动物身上，疼痛与困扰嵌入身体调节、生存和适应过程之中。伤害感受通路能够检测可能造成损伤的刺激，情感与动机系统则参与组织回避、恢复和学习。痛苦并不只是对某种负面条件的抽象表征，而是生命体与威胁自身健康和生存的环境之间关系的一部分。

从这一角度看，人工损伤检测与生物痛苦可能存在根本区别，因为前者缺乏使负面条件成为被感受到的状态的生理组织。机器人可以检测过热，却不因此体验发烧时的身体不适；可以监测能源不足，却不因此感到饥饿；可以识别结构损伤，却不一定经历哺乳动物疼痛所涉及的复杂情感过程。

这种观点有力地提醒我们，不能把计算控制与生物感受简单等同起来。但它还不能证明痛苦不可能存在于生物生命之外。要得出这样的结论，我们必须进一步识别那些对于负面体验不可缺少的生物机制，并解释为什么其他物理系统不可能实现这些机制所具有的相关因果性质。

某些生物机制也许确实是人类熟悉的痛苦形式所不可缺少的。激素反应、自主神经调节、内感受加工，以及具有悠久演化历史的情感神经回路，都以无法简单还原为数值惩罚的方式参与人类和动物的痛苦。但是，所有可能的痛苦形式是否都必须依赖完全相同的机制，仍然是一个开放问题。

当我们考虑具有自我维持能力的人工系统时，生物特殊性与功能普遍性之间的区别就变得更加重要。设想一台机器人必须调节自己的能源供应，修复物理损伤，保护关键部件，并与环境维持稳定关系。它能否持续运行，取决于这些调节活动是否成功，而严重故障可能破坏整个系统作为一个组织整体继续存在的能力。

这样的机器人确实具有某种实际的脆弱性。它的内部状态不只是表征外部任意设定的目标，还参与维持自身持续运行所必需的条件。一次严重故障可能使它失去继续追求任何目标的能力。从这个有限意义上说，某些结果确实关系到系统自身的组织与延续。

但是，这些结果是否作为被体验到的条件而对机器人自身具有意义？这才是关键区别。一个系统可以围绕自我保存而组织，却没有关于自我保存的主观视角。生物细胞通过复杂的调节过程维持自身存在，但我们并不会因此自动推断，每一个受到威胁的细胞都在受苦。同样，人工代理依赖能源和结构完整性，也不能证明它会感受到运行失败带来的痛苦。

因此，脆弱性有助于解释负面评价为什么会出现，却不能单独解释负面体验为什么会出现。一个脆弱的系统具有支持或者破坏其持续存在的不同条件；一个真正受苦的系统则还具有另一种性质：这些条件伴随着令人不愉快的主观感受。两者之间的关系，仍然是意识科学最深刻的未解问题之一。

行动化理论与具身认知理论为理解这条鸿沟提供了另一种思路。按照这些观点，认知产生于自主系统与环境之间持续发生的关系。意义并不只是通过内部计算程序赋予外部事件，而是在系统维持自身组织、探索环境中的可能性与限制的过程中逐渐形成。

对于具有身体的生命体而言，危险不只是一个概率，而是一种能够改变行动可能性和生存条件的现实处境。疼痛可能重新组织生命体与周围环境的关系，使某些动作变得困难，使某些选择具有紧迫性，也使另一些可能性暂时消失。身体受伤以后，世界本身似乎以不同的方式被体验。

那么，人工系统是否可能通过自己的具身活动发展出类似的经验？也许，一个具有足够自主性的机器，可以形成由身体能力、脆弱性和互动历史共同塑造的独特视角。但是，具身性本身并不是意识的证明。机器人可以拥有身体，维持自身运行，并对威胁作出反应，却仍然可能完全没有主观体验。因此，行动化理论还必须说明，究竟是什么使具身调节转变为被感受到的困扰。

当我们进一步追问痛苦是否需要一个自我时，问题就变得更加尖锐。人类的痛苦通常被理解为发生在某个人身上的事情。疼痛不仅仅存在，而且被体验为我的疼痛；恐惧涉及可能发生在我身上的事情；悲伤则与我生命连续性中某个重要的人或者事物的失去有关。这些经验似乎包含一种关系，即令人不愉快的状态与一个受到影响的主体之间的关系。

然而，这个主体究竟是什么，本身就是一个存在争议的问题。有些理论把自我理解为认知过程构建出来的模型；另一些理论强调一种先于明确自我描述的身体性或者前反思自我；还有一些理论则怀疑，经验是否真的需要一个具有实体性质的自我。婴儿和许多动物的经验也提示我们，即使缺乏复杂的自传式身份，疼痛仍然可能存在。

因此，人工痛苦不能简单地取决于机器是否能够说出“我”这个词。语言模型可以生成关于个人痛苦的详细叙事，却未必具有相应的主体。反过来说，一个完全不能使用语言的系统，原则上也可能拥有具有负面性质的体验。真正需要追问的，不是系统能否把自己描述为正在受苦，而是是否存在一个主体，能够从自身角度经历这种令人不愉快的状态。

（未完待续）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注