AI时代再问意识：人工痛苦，对意识理论的一次检验（上）

发表评论 / 科技漫谈 / 作者：

设想一台已经学会保护自己的机器。它能够持续监测内部部件的运行状态，识别损伤，评估威胁，并通过调整行为避免那些可能影响自身功能的情况。当电池电量下降时，它会主动寻找能源；当某个机械关节出现故障迹象时，它会减少这个部位的负荷；当障碍物可能损坏其身体结构时，它会及时后退。它的一切行动都围绕着维持自身正常运行而展开，并且能够越来越准确地判断危险、损失与修复之间的关系。

现在再设想，这台机器还拥有成熟的语言交流能力。当某个部件受到损伤时，它会报告自己的状态出现了问题。如果有人询问它目前的感受，它可能回答说自己正在经历严重的痛苦，甚至请求外界立即停止造成损伤的行为。随着故障持续，它还可能描述自己的处境已经难以忍受，或者把维持运行的过程表达为一场与痛苦的斗争。

这些话究竟告诉了我们什么？

显然，这台机器能够检测损伤，评价损伤的后果，采取适当的保护行动，并且用类似人类描述疼痛的语言说明自己的状态。但是，它真的在受苦吗？对于机器自身而言，当前状态是否具有某种令人不愉快的感受，还是我们只是在观察一个越来越复杂的损伤检测、负面评价和行为控制系统？

这一区别，是任何意识理论都难以回避的严峻挑战。解释一个系统为什么会具有主观体验，本来就已经十分困难。痛苦又在此基础上提出了一个更加具体的问题：为什么某些经验不仅能够传递信息，还会具有一种负面的性质，使它们成为主体不愿经历的事情？

这个问题不能简单地通过提高人工智能的能力来解决。机器可以越来越有效地避免有害结果，识别成千上万种损伤，预测其后果，并发展出复杂的预防策略。它在这些方面的表现甚至可能全面超过人类，但无论能力多么出色，都不能仅凭这一点证明机器正在感到难受。成功地避免伤害，与真正体验伤害所带来的痛苦，毕竟不是同一回事。

要理解其中的困难，我们首先必须区分在人类日常经验中通常同时出现的几个现象。身体组织受到损伤是一回事，神经系统检测到损伤是另一回事；保护性的行为反应又是一个不同的过程。作为有意识经验的疼痛，与这些过程密切相关，却不能简单地等同于它们。而疼痛所具有的令人不愉快的性质，则进一步引入了情感体验的维度。这些现象在人类身上往往紧密交织，以至于我们很容易把它们当作一个不可分割的整体，但神经科学和临床研究已经表明，它们之间存在重要区别。

一个人的手碰到滚烫的表面时，可能在充分意识到疼痛之前就已经缩了回来。某些保护性反射可以通过不需要有意识思考的神经通路完成。反过来说，人也可能在没有相应组织损伤的情况下体验到疼痛，例如某些慢性疼痛或者神经病理性疼痛。损伤愈合以后，疼痛有时仍然持续存在，而疼痛的强度也并不总是与身体损伤的程度严格对应。

这些现象说明，疼痛不能被简单理解为身体损伤的机械报告。它是一种复杂的经验，受到感觉加工、情感评价、注意、预期、记忆以及具体情境的共同影响。神经系统并不是测量出组织损伤的程度，然后把结果显示在意识中。它所形成的疼痛经验，还与生命体当时的生理和心理状态密切相关。

在某些疼痛感觉与疼痛的不愉快程度发生部分分离的临床现象中，这一区别尤其明显。某些神经系统损伤可能改变患者对于疼痛的情绪反应，同时保留部分感觉辨别能力。患者仍然知道某种刺激具有疼痛性质，却不再像通常那样为此感到难受。这类现象提示我们，识别疼痛与承受痛苦虽然在正常情况下相互联系，却涉及可以区分的过程。

对于人工智能而言，这一区别具有特别重要的意义，因为损伤检测、保护控制和负面评价在工程上都相对容易实现。我们可以设计传感器识别结构故障，利用算法估计风险，并通过控制系统安排自我保护的优先级。机器人能够学会回避那些与负面结果相关的情境，甚至可以建立关于自身脆弱性的详细内部模型。

然而，单独考察这些机制，没有一个能够解释为什么相应状态应该令人不愉快。目标函数中的负数并不是负面感受，警报信号不一定意味着焦虑，紧急控制程序也不自动等于恐惧。真正需要解释的是，究竟是什么使系统对于不利条件的表征，转变成了一种被体验为不好的状态。

正是在这里，人工痛苦成为检验功能主义的一种特别有力的方式。按照功能主义的基本思路，心理状态通过它在更大系统中发挥的因果作用来理解。例如，疼痛可以通过它与损伤检测、回避行为、学习、注意、记忆以及其他心理过程之间的关系加以刻画。如果一台机器实现了相关的功能组织，功能主义者就可能认为，它也拥有相应的心理状态。

这一立场的吸引力，在于它没有把生物材料本身设定为一道不可逾越的界线。如果两个系统真正拥有等价的功能组织，为什么其中一个仅仅因为由神经元构成就能够受苦，而另一个因为由人工部件构成就不能？功能主义要求我们认真考虑这样一种可能性：体验所依赖的也许是组织方式，而不是生物来源。

但是，痛苦也暴露了功能主义长期面临的困难。一台机器可能实现疼痛的所有可观察功能，却仍然无法使我们确定它是否真正感到难受。它可以检测伤害，优先采取回避行动，修改未来行为，表达痛苦，并把相关事件整合进记忆。从功能组织的角度看，它可能在许多方面与一个正在受苦的生命体十分相似。然而，问题仍然存在：这些功能关系本身是否就构成了痛苦所具有的不愉快性质？

较为成熟的功能主义当然不会认为，只有外在行为才具有意义。它所强调的功能组织可以包含极其精细的内部因果关系，而不只是输入与输出的对应。如果这些关系得到正确实现，功能主义便可能认为，痛苦已经作为系统组织的一部分而存在。但批评者仍然可以追问，为什么这种组织必然伴随被感受到的痛苦。如果缺乏进一步解释，功能上的等价就可能成为一种通过定义确立的判断标准，而不是对于主观体验的真正说明。

全局工作空间理论从另一角度接近这个问题。在生物认知中，关于损伤或者威胁的信息可能进入全局工作空间，影响注意、记忆、规划和有意识的行动。疼痛之所以能够占据意识，部分原因就在于它会调动多个认知系统，使生命体围绕一种紧迫的身体状态重新组织行为。原则上，一台机器也可以具有类似的架构，使与损伤有关的信息被传递到多个功能模块。

这样的系统可能表现出许多与有意识疼痛相关的特征。它可以中断当前任务，把计算资源转移到受损部件，检索相关记忆，制定保护计划，并生成关于自身状态的报告。但是，信息的全局可用性本身并不能解释为什么这些信息会令人不愉快。损伤信号被广泛传播，意味着它能够影响更多认知过程，却不显然意味着系统正在受苦。

因此，全局工作空间理论实际上需要面对两个不同的问题。第一个问题是，信息为什么能够成为意识可以通达的内容；第二个问题是，为什么某些有意识的内容具有负面的情感性质。前者涉及意识通达的认知架构，后者则涉及经验本身的品质。一种理论即使在解释前者方面取得重要进展，也未必已经解决后者。

（未完待续）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注