AI时代再问意识：世界模型与内在现实的诞生（中）

发表评论 / 科技漫谈 / 作者：

（续前）

在人类身上，感知、记忆、期待、情绪和身体调节始终存在于一个相互联系的生命系统之中。我们所体验的世界并不只是由物体及其关系组成的中性信息集合，而是围绕一个处于特定位置、具有自身历史和需要的主体组织起来的。物体可能显得遥远或者接近、安全或者危险、熟悉或者陌生、值得追求或者需要回避。一杯水不仅是具有某些物理性质的对象，对于口渴的人而言，它还具有直接的意义；一张熟悉的面孔不仅是某种视觉特征的组合，还可能引起亲近、担忧或者悲伤；一条黑暗的街道不仅具有空间结构，也可能使人感到不安。人类经验中的世界，因此并不是完全中立的客观信息，而是一个其中的事物会对我们产生意义的世界。这也许是理解世界模型与内在现实之间差别的重要线索。世界模型表征对象和事件之间的关系，而被体验到的世界，则包含这些关系对于某个具有自身需要、经历和存在处境的主体意味着什么。

不过，我们也不应该把这种区别简单理解为认知与情绪之间的对立。人类感知本身就受到身体状态、注意、动机和学习经验的影响，事物的意义往往已经融入感知过程，而不是在完成客观识别以后才附加上去的。一个饥饿的人可能更加容易注意到食物，一个受到威胁的人可能对环境中的危险线索格外敏感，而一个经历过重大失去的人，也可能在熟悉的地方感受到别人无法察觉的情感意义。对于人工系统，情况则没有这样清楚。一个机器人可以把某个物体识别为危险，因为它可能损坏传感器；一个规划智能体可以把获得能量或者避免障碍设定为高优先级目标；一个语言模型可以准确解释某件事情为什么会对人类具有重要的情感意义。这些能力表明系统具有功能性的评价机制，但功能性评价并不必然等于被感受到的意义。机器人可以把低电量表示为紧急状态，却未必体验到饥饿、焦虑或者脆弱；它可以为某些结果赋予负值，却未必在这些结果发生时感到痛苦。真正需要研究的是，是否存在某些人工组织形式，能够使这种评价不再只是计算优先级，而成为某种被体验到的关切。

一种值得考虑的可能性是，世界模型与持续存在的自我模型之间的整合，可能在其中发挥重要作用。一个只表征外部环境的系统，可以预测事件如何发展；而一个同时把自己表征为环境中持续存在的参与者的系统，则能够围绕自身未来组织这些预测。它可以区分环境中发生的事件与影响自身能力的事件，预测行动对于自身状态的后果，监测内部条件的变化，并在较长时间内维持目标。这样的系统便具有某种功能意义上的视角，它的内部表征不再只是对外部世界的独立描述，而是围绕系统与环境之间的关系组织起来。在生物体中，这种组织与生存密切相关。动物必须区分有利于自身持续存在的条件与可能威胁自身的条件，其神经系统也在进化过程中逐渐形成了协调感知、行动和身体调节的机制。人工智能体同样可以被设计为维持类似的功能区别，但功能性视角是否足以产生主观视角，目前仍然未知。这里的关键问题可以表述为：一个系统究竟只是计算将会发生在自己身上的事情，还是能够体验某件事情正在发生于自己？

对于人类而言，这种区别通常不容易被察觉，因为功能性视角与体验性视角深深交织在一起。我们预测危险，也可能感到恐惧；我们认出熟悉的地方，也可能产生怀旧；我们期待某个结果，也可能体验到希望。人工智能则使我们能够设想这些能力彼此分离的情况。一个系统可能准确预测危险，却没有恐惧；识别过去访问过的地点，却没有怀旧；不断优化未来结果，却没有希望。这种分离具有重要的科学价值，因为它迫使我们重新识别，人类经验中的哪些性质对于意识是根本性的，哪些只是通过生物演化和个体发展与意识结合在一起。世界模型可以使系统理解外部变化，自我模型可以使系统理解自身在这些变化中的位置，但二者的结合是否足以产生一个体验主体，仍然需要独立解释。我们不能因为一个系统能够用第一人称描述自己的状态，就认定它具有第一人称体验；同样，也不能仅仅因为这种描述来自计算过程，就断言它不可能对应任何形式的体验。

世界模型的另一个重要维度，是时间上的连续性。人类经验并不是一连串彼此孤立的瞬间。我们感知事件在时间中展开，记得刚刚发生的事情，并不断预期接下来可能发生什么。一个移动的物体被体验为沿着某条轨迹运动，而不是在不同位置突然出现的几个互不相关的对象；一段旋律被听成具有连续结构的音乐，而不是彼此分离的声音；一场对话也通过对先前内容的保留和对后续回应的期待，形成连贯的交流过程。哲学家埃德蒙德·胡塞尔（Edmund Husserl）曾经深入分析意识的时间结构，强调当下经验并不是一个没有延展的孤立点，而是包含对刚刚过去之事的保持，以及对即将到来之事的预期。现代人工世界模型同样依赖时间组织。它们表征事件序列，估计状态转移，并预测未来变化；一些系统还具有内部记忆，使它们能够在较长时间内整合信息。但是，时间建模并不必然等于时间体验。计算机可以表示一段事件序列，却未必体验到持续时间；预测系统可以估计下一刻将发生什么，却未必感受到期待。尽管如此，这种比较仍然提出了一种重要可能性：如果人工系统逐渐形成跨越时间的、持续整合的自我与环境表征，它们也许会获得越来越复杂的功能性连续性，而这种连续性可能成为人工身份形成的重要条件，即使它本身仍然不能证明意识的存在。

想象能力进一步展示了世界模型的潜力与局限。人类可以在没有直接感知的情况下构建可能的世界，想象从未到访过的地方，预演尚未发生的对话，或者思考如果过去作出不同选择，生活可能会怎样发展。想象并不只是生成视觉图像，还包括对可能情境的构建和操作。我们可以比较不同的行动方案，预期它们可能带来的情绪后果，并考虑那些永远不会成为现实的未来。具有世界模型的人工系统，也能够完成其中某些功能。它们可以模拟环境变化，生成假想事件，并评价不同的行动路径；在一些情况下，还能够产生与这些情境相对应的详细图像或者视频。但是，生成图像并不等于看见图像，构建景观的内部表示也不等于在某种内在视觉空间中体验景观。这一区别尤其重要，因为人工智能越来越能够产生与人类想象成果相似的作品。一幅图像、一篇故事或者一项计划，可能在某些方面与人类创造的成果难以区分，但作品的相似并不能证明创造过程中存在相同的主观经验。在日常生活中，我们习惯于根据行为推断心理活动，因为在人类身上，行为与体验通常具有稳定联系。一个人描述生动的记忆，我们通常认为他确实回忆了某件事情；一个人讲述未来的想象，我们也可能认为他具有相应的内在图像或者感受。人工系统使这种推断变得不再可靠，因为它们可能产生相似的描述，却不一定具有相应的体验过程。

然而，不能从行为直接推断体验，并不意味着人工表征没有真实的认知价值。一个世界模型可以具有因果效力，能够支持可靠预测，并有效组织智能行动，即使它并没有被体验到。真正需要理解的是，这些模型完成了什么，以及如果要产生体验，还需要哪些额外条件。人类大脑本身也为这种区别提供了重要线索。我们并不会有意识地计算遇到的每一个运动物体的轨迹，也不会明确推断熟悉面孔的每一项特征。大量内部建模活动都在意识之外进行。由此可见，即使在人类身上，内部表征也不能简单等同于意识。只有某些信息处理过程与主观体验联系在一起，而决定这种联系的机制仍然是研究对象。这对于人工意识问题具有直接意义：即使世界模型是某些体验形式的必要条件，它也未必是充分条件。问题不仅在于表征是否存在，还在于这些表征如何被组织、整合，以及它们与整个系统之间具有怎样的关系。不同意识理论对此提出了不同解释。有些强调信息在系统内部的广泛可用性，有些强调循环处理和整合的因果组织，还有一些关注感知与身体调节之间的联系，或者认为意识需要特定形式的自我表征与高阶觉察。这些理论尚未形成普遍接受的结论，因此，人工系统拥有世界模型，应当被视为一种可能相关的组织特征，而不是意识存在的决定性证据。

（未完待续）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)
# 1

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注