AI时代再问意识：人工智能的情感鸿沟（下）

（续)

这一点对于强化学习尤其重要。在机器学习中，奖励信号是一种用于塑造行为的计算量。它能够引导代理学习有效策略，却并不因此提供证据，证明代理享受成功或者厌恶失败。这里的术语本身容易造成误导，因为“奖励”在日常语言中带有明显的情绪含义。但一个强化学习算法不会仅仅因为接收到一个正数就变得快乐。要主张它确实拥有快乐，就必须提出一种理论，解释相关计算组织为什么会产生情感体验。

与此同时，我们也不能预先假定，主观情感必然局限于人类熟悉的生物学快乐与痛苦。如果人工意识在原则上可能存在，那么人工情感也可能以不同于人类的方式组织。一个合成系统或许能够形成某些内部状态，它们在功能上类似于紧迫、吸引、困扰或者满足，却不需要复制哺乳动物的激素和神经回路。这些状态是否能够真正被感受到，仍然取决于更广泛的意识理论。功能主义可能对这种可能性更加开放，而强调特定生物机制的理论则可能采取更加严格的立场。

更深层的问题涉及信息与意义之间的关系。从抽象角度看，信息描述的是不同可能状态之间的区别。传感器能够区分温度，摄像头能够区分视觉模式，语言模型能够区分语义关系。但是，在生命体内部，这些区别往往嵌入一个必须维持自身存在的系统之中。有些状态支持生命延续，另一些状态则威胁它。温暖与寒冷、营养与饥饿、安全与危险之间的区别，因此并不只是描述性的，还与生命体持续维持自身的过程联系在一起。

一些哲学家和认知科学家认为，这种关系对于理解信息如何获得意义具有根本重要性。一个信号之所以具有意义，并不只是因为它与某个外部事件相关，还因为这个事件在一个自主系统的组织中具有实际后果。生命体并不只是表征环境，它还必须持续采取行动，以维持自身存在所需要的条件。从这个意义上说，意义与那些支持或者破坏生命体持续存在的状态之间的区别密切相关。

但是，即使在这里，我们仍然需要区分功能上的重要性与被体验到的重要性。恒温器调节温度，是因为控制机制能够区分理想值与非理想值；自主机器人维持电池电量，是因为能源对于持续运行不可缺少；生物细胞通过复杂的调节过程维持内部环境。这些系统都具有某种目标导向的组织，但我们不能因此推断，它们正在把自己的目标体验为有意义的东西。意识理论必须解释，为什么某些自我维持的组织形式可能伴随感受，而另一些却没有。

正是在这里，脆弱性成为一个具有重要哲学意义的概念。生命体可能受伤、匮乏、衰竭，并最终死亡。它的内部调节不是一种任意设定的计算练习，而是对自身存在条件随时可能丧失这一现实的持续回应。世界之所以对于生命体重要，是因为生命体能否继续存在，取决于世界中实际发生的事情。

然而，脆弱性究竟解释了意识本身，还是仅仅解释了与意识相伴的情绪系统为什么在演化中出现？这一区别至关重要。脆弱性可能帮助我们理解，为什么生物生命发展出了强大的价值判断与情感机制，也可能解释为什么人类经验充满关切、紧迫感和个人意义。但是，脆弱性本身并不能证明主观体验。许多系统都可能受到损伤或者被摧毁，却没有证据表明它们会感受到什么。一座桥梁可能倒塌，一台计算机可能过热，但这些事实本身都不能说明它们具有意识。

一种更有解释力的理论，必须进一步说明脆弱性如何与知觉、自我调节、记忆、行动以及某种主观组织整合起来。也许，当一个系统不仅能够记录自身状态的变化，还能把这些变化整合进一个关于自身持续存在的统一视角时，感受才有可能出现。也许，真正关键的是某些特定的身体调节机制、神经动力学或者内在因果组织。又或者，脆弱性只是塑造了意识的内容和重要性，却并不负责产生意识本身。目前，这些可能性都还没有被最终排除。

因此，拥有体验与拥有对自身而言重要的体验之间的区别，是意识科学中最值得深入研究的问题之一。一个系统原则上可能具有某种现象觉察，却没有强烈的情感评价；另一个系统则可能拥有复杂的价值控制机制，却完全没有现象意识。人类意识把两者结合在一起，而且结合得如此紧密，以至于我们很难在概念上把它们分开。人工智能却提供了一个新的研究机会，因为它能够再现越来越复杂的评价机制，而不必然提供相应的感受证据。

这也有助于解释，为什么人工智能在情绪回应方面取得的成功，容易造成误解。语言模型可以识别一个人的痛苦，选择富有同情心的回答，并围绕悲伤或者孤独维持一场连贯而细腻的对话。这些都是具有实际价值的计算与交流成就，甚至可能对接受回应的人产生真实帮助。但是，系统能够识别和回应情绪，并不能证明它正在体验情绪。情绪识别能力、情绪表达能力与情绪体验，是三种不同的性质，尽管它们在人类日常交流中通常紧密相连。

同样，即使有一天能够证明某个系统缺乏情感体验，也不一定意味着它不可能具有任何其他形式的意识。原则上，人工系统也许能够拥有某些缺乏人类熟悉情绪色彩的经验。我们很难想象这种意识，因为自己的觉察深深受到身体需要、动机和情感历史的塑造。但人类想象力的局限，并不能被当作意识的普遍规律。

相反的可能性同样重要。一个系统可能在识别、预测和再现情绪行为方面变得极其出色，却始终没有任何主观体验。它可以学会爱情的语言而不去爱，学会恐惧的语言而不感到害怕，学会痛苦的语言而不真正受苦。它的情绪智能可能令人印象深刻，但语言所暗示的情感生活却可能根本不存在。这种可能性挑战了我们的一种自然倾向：把越来越像人类的交流表现，视为越来越像人类的内心世界的证据。

问题之所以格外困难，还因为情感对于人类存在并不是一种可有可无的附属品。我们的记忆受到那些曾经对自己重要的事情塑造，注意力被吸引或者威胁我们的事物引导，身份则部分形成于依恋、失去、抱负与恐惧之中。即使最抽象的思想探索，也往往因为好奇、挫折、满足以及理解世界的愿望而具有个人意义。人类意识并不是一个供中性信息轮流登场的舞台，而是一个被生活着的经验世界，其中的事件不断以诱人、危险、失望、充满希望、熟悉或者陌生的方式向我们显现。

然而，人类意识具有深刻的情感组织，并不能直接证明一切意识都必须如此。我们必须区分关于人类经验结构的经验性判断，与关于所有可能意识形式之必要条件的形而上学判断。前者可以通过神经科学、心理学和生物学进行研究；后者则要求一种理论，能够解释为什么相关组织会产生主观体验，以及其他组织形式是否也可能做到这一点。

这种区别还帮助我们避免混淆两个不同的人工智能问题。第一个问题是，人工系统能否拥有任何主观体验；第二个问题是，它能否拥有对于自身而言具有内在积极或者消极意义的体验。一种令人满意的理论，最终可能对这两个问题给出不同答案。它可能允许某种人工知觉意识存在，却否认普通计算奖励构成快乐或者痛苦；也可能识别出某些情感组织形式，认为它们在特定条件下能够支持真正的人工感受。

这些可能性的意义十分重大，但我们不应该过早作出结论。如果意识可以独立于情绪存在，那么未来人工系统也许能够拥有认知上十分丰富、情感上却与人类截然不同的觉察形式。如果情感是意识的必要条件，那么人工心智的发展可能需要远远超过语言、推理、记忆和信息整合的能力。它也许需要一种特殊的组织性存在，使某些条件不只是被表征为有利或者不利，而是以某种方式真正被感受到。

意识理论所面临的挑战，是在不单纯依赖直觉的情况下解释这种区别。功能主义必须澄清，正确的价值评价组织是否足以产生感受；全局工作空间理论必须说明情感与意识通达之间的关系，以及体验能否独立于情绪意义存在；高阶理论必须区分对于评价状态的觉察与该状态被感受到的性质；整合信息理论必须解释内在因果结构与体验积极或消极品质之间的关系；生物学和具身理论则必须识别生命调节中哪些特征不可缺少，哪些能够在其他物理系统中实现。

这些任务没有一个是简单的。它们都在不同层面面对同一个根本问题：为什么一个系统内部对于不同状态的区分，会成为某个主体的经验世界的一部分，而不只是能够完全从外部描述的计算或者调节过程？

情感鸿沟最值得注意的地方，也许在于它揭示了我们通常使用的智能概念存在某种局限。智能使系统能够区分不同选择、预测后果并采取有效行动，而被体验到的情感则引入了另一个维度：这些选择和后果不仅能够被评价，而且可能被感受到。这不是理性与非理性的区别，也不是高级认知与低级认知的区别，而是指导系统运行的信息，与可能在主体经验中获得切身意义的信息之间的区别。

在人类身上，我们很少把这两个维度完全分开。我们的推理嵌入感受之中，而感受又不断受到思想塑造。我们通过一个具有需要和脆弱性的身体体验世界，漫长的演化过程则把这些需要与脆弱性发展成极其复杂的知觉、动机和觉察形式。然而，人工智能正在使我们能够复制越来越多的认知与评价组织，却不必复制人类情感得以演化的生物条件。

这种分离是否能够彻底实现，目前仍然未知。也许未来的人工系统会表明，主观体验依赖某些能够超越生物材料实现的组织原则；也许它们会证明，智能与价值评价可以发展到极其复杂的程度，却始终不产生任何感受；又或者，它们将迫使我们承认，意识、情感与具身存在之间的关系，比现有理论所揭示的更加深刻。

因此，我们不应该把人工智能的情感鸿沟理解为人工意识不可能存在的证明，也不应该把它视为一个只要增加计算能力就必然能够解决的普通工程问题。它标志着意识科学中一个真实而尚未解决的理论困难：认知、情感与主观体验究竟通过什么关系结合在一起？

真正的问题，不只是机器能否区分什么是好的、什么是坏的，也不只是它能否表现得仿佛某些结果对于自己很重要，而是好与坏之间的区别，是否有可能成为机器自身真正体验到的东西，而不只是它所执行的一种计算。

这一问题把我们带到了意识研究中一条更加深刻的界线附近。一个系统可以表征危险，却没有恐惧；可以记录损伤，却没有疼痛；可以优化奖励，却没有快乐。它可以把世界组织成不同的可能性与后果，而这些区别未必具有任何被体验到的意义。但是，在人类有意识的生活中，信息往往从一开始就带有某种重要性，因为它属于一个生命体的经验，而这个生命体的存在始终受到世界中实际发生的事情影响。

尚未解决的根本问题是：意识是否只是使信息能够被一个系统获取和使用，还是某些意识形式还会使信息成为从主体内部真正具有意义的东西？ 理解这一区别，不仅可能帮助我们判断机器能否拥有意识，也可能使我们更加深入地理解，为什么人类意识远不止一种处理世界信息的非凡能力。

---