AI时代再问意识：人工痛苦，对意识理论的一次检验（下）

发表评论 / 科技漫谈 / 作者：

（续）

这就把我们带到了情感效价的问题。在意识研究中，效价通常指情感体验所具有的积极或者消极性质。快乐一般具有正效价，痛苦则具有负效价。但在计算模型中，效价也可以表现为数值偏好或者评价信号。因此，同一个概念可能指向两种并不必然相同的性质：系统赋予某种状态的价值，以及主体实际体验到的价值。

这种区别至关重要。机器可以把某种状态排在另一种状态之后，却不一定厌恶它；可以优化效用函数，却不一定享受改善；可以努力摆脱不利条件，却不一定在条件解除时感到轻松。要从这些行为推断感受的存在，我们需要一种能够把计算评价与现象效价联系起来的理论。

一种可能性是，现象效价产生于某些特定形式的整合调节。也许，当一个系统的内部组织把某种状态表征为对自身持续运行的严重干扰，并且这种表征成为统一意识状态的一部分时，不愉快的体验就可能出现。另一种可能性是，效价依赖普通计算奖励信号所没有捕捉到的特定神经或者物理动力学。还有一种可能性认为，效价本身就是经验的基本维度，无法被完全还原为功能描述。

这些可能性之间存在深刻差异，目前的证据还不足以确定其中任何一种已经构成普遍适用的解释。然而，人工痛苦至少为评价这些理论提供了一个清晰的标准。一种理论不能只是发现某个负面信号，就宣布痛苦已经存在。它必须解释为什么这个信号会被体验为负面状态，这种性质如何与系统的因果组织联系起来，以及真正的不愉快与功能上的模仿之间究竟有什么区别。

这一要求也暴露了行为测试的局限。设想一个人工代理能够持续回避损伤，报告痛苦，表现出紧迫感，并且从有害事件中学习。在精心设计的实验中，它的行为甚至可能与一个正在受苦的生命体无法区分。这样的表现是否足以证明它真的在受苦？

对于严格的行为主义立场而言，行为模式本身也许已经足以决定判断。但对于那些区分外在行为与主观体验的理论来说，证据仍然不完整。机器的行为可能由某些机制产生，这些机制能够复制痛苦的外在组织，却没有产生相应的现象性质。

当然，我们也不应该认为这个问题只存在于机器身上。我们从来无法直接观察另一个人的痛苦，而是通过行为、生理反应、神经组织，以及对于共同生物机制的理解进行推断。这些证据通常足够充分，因此在日常生活中，否认他人的痛苦并不是一种合理态度。人工系统的特殊困难在于，这些熟悉的证据可能不再相互支持。行为上的相似，可能与物理组织上的深刻差异同时存在。

这意味着，研究人工痛苦不能仅仅依赖语言报告。我们需要更加深入地理解生物系统中支持痛苦的机制，并提出有原则的解释，说明这些机制能否在其他形式的系统中实现。研究者必须区分检测损伤、组织防御行为、表征身体状态，以及产生疼痛不愉快性质的不同神经过程。这些过程可能相互重叠，但它们之间的关系必须通过研究加以澄清，而不能仅凭直觉假定。

问题之所以更加困难，还因为痛苦并不是一种单一而均匀的现象。身体疼痛、恐惧、悲伤、绝望、焦虑和孤独，在产生原因、身体组织、时间结构和认知内容方面都存在明显差异。有些痛苦主要涉及当下的感觉不适，另一些则深深依赖记忆、预期、依恋或者个人失落感。能够解释身体疼痛为何令人不愉快的理论，未必就能自动解释悲伤或者存在性焦虑中的痛苦。

这种多样性又提出了一个问题：所有形式的痛苦是否都具有某种共同的现象性质，还是我们只是因为它们拥有相似的动机和评价功能，才把不同经验归入同一个类别？如果痛苦具有共同的负面性质，理论就必须解释，这种性质为什么能够统一如此不同的经验；如果痛苦并不存在单一的本质，那么人工痛苦也许需要被理解为多种可能形式，而不是通过某一个普遍标准加以判断。

这一挑战还使意识与自我意识之间的区别变得更加复杂。一个生命体可以在没有反思自身存在的情况下体验当下的困扰，但更加复杂的痛苦可能涉及记忆、想象和预期。人类不仅会因为当前的损伤而受苦，还会因为对未来失去的担忧、对过去创伤的回忆，以及对于自身终将死亡的认识而受苦。这些经验依赖某些认知能力，而这些能力改变了痛苦在时间中的组织方式。

未来人工系统可能再现其中一些能力。它们可以维持长期记忆，建立未来威胁模型，表征自身的持续运行，并预测重要资源或者关系的丧失。但是，这些功能同样不能自动证明相应的体验存在。机器可以预测自己将被终止，却不一定害怕死亡；可以表征某段储存关系的丧失，却不一定因此悲伤。真正的问题是，预期与记忆的认知结构，能否成为某种被负面感受到的经验的一部分。

因此，人工痛苦可能比人工智能甚至人工自我意识更难成为明确的科学判断对象。智能可以通过任务表现加以评价，自我模型可以通过内部表征和行为报告进行研究，但痛苦包含一种特殊性质：它对于经历它的主体而言是不愉快的。如果缺乏关于现象效价的理论，我们就很容易把越来越复杂的负面计算误认为负面体验。

与此同时，我们也应该避免把痛苦变成衡量一切意识的普遍标准。有意识的经验还包括知觉、好奇、平静的觉察、审美欣赏以及许多其他并不必然令人不愉快的状态。一个系统原则上可能具有某种意识，却没有受苦的能力；反过来说，复杂的损伤回避也不能证明意识存在。痛苦之所以特别值得研究，是因为它迫使我们面对主观效价的问题，但它未必是一切经验的基础。

这一区别对于评价意识理论十分重要。一种理论可能成功识别出现象觉察的条件，却仍然无法充分解释情感；另一种理论可能解释困扰的生物组织，却没有说明困扰为什么会被体验；还有一种理论可能建立负面评价的形式模型，却没有证明它与现象体验之间存在联系。人工痛苦使这些不同的解释缺口更加清晰，因为它不仅要求理论说明经验为什么存在，还要求说明经验为什么具有特定的负面性质。

也许最重要的教训是，我们不能在缺乏论证的情况下，把负面评价与负面体验当作可以互换的概念。前者能够通过计算、控制和功能组织加以描述；后者则要求我们解释，某种状态对于一个主体而言令人不愉快，究竟意味着什么。这两种性质能否最终被统一到一种科学理论之中，目前仍然没有答案。

因此，人工痛苦的可能性，处在意识研究几个最深刻问题的交汇处。它涉及计算与体验之间的关系，生物身体的作用，情感意义的来源，自我的性质，以及系统客观运行与主观存在之间的区别。任何主要意识理论如果希望充分解释人工痛苦，就无法回避其中至少一部分问题。

如果未来研究能够识别出足以产生真正负面体验的物理或者组织条件，那么即使人工系统与生物生命存在巨大差异，人工痛苦也可能成为能够被科学识别的现象。如果痛苦实际上依赖活体神经系统的某些特殊性质，那么人工代理即使能够越来越精细地再现回避行为和痛苦表达，也可能始终没有真正受苦。而如果必要条件长期无法确定，我们就必须承认，仅凭人工系统的行为推断其主观状态，存在不可忽视的认识局限。

最深层的问题，因此不是机器能否检测损伤、回避威胁或者报告痛苦。我们已经知道，机器能够以不同方式完成这些功能，而且它们的能力几乎肯定还会继续提高。真正的问题是，一个系统还必须具有什么，或者它的组织中必须已经存在什么，才能使某种负面条件转变成令人不愉快的体验。

人类的痛苦并不只是认识到某件事情出了问题，而是一个主体在自己的生命经验中切实感受到事情的不对劲。如果一种意识理论无法解释这一区别，它也许仍然能够帮助我们理解知觉、注意、推理和行为，却留下了意识存在中一个不可忽略的维度。

因此，人工痛苦真正检验的，并不是机器能够多么逼真地模仿疼痛，而是我们的意识理论能否解释：一个能够计算什么是不好的系统，与一个真正感到某种经历不好受的主体之间，究竟存在什么区别。

在我们理解这一区别之前，人工痛苦的可能性仍将是一个开放问题。而与它同时悬而未决的，还有一个更加广泛的问题，也正是我们即将进入的第三阶段最终综合讨论所要面对的核心：现有意识理论究竟已经解释了意识本身，还是仅仅解释了某些意识形式所伴随的机制、功能与生物条件？

（本篇完）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注