AI时代再问意识：世界模型与内在现实的诞生（下）

发表评论 / 科技漫谈 / 作者：

（续前）

世界模型还把我们带回一个更加古老的哲学问题：我们所经验的现实，究竟在多大程度上取决于经验主体自身？人类并不是在完全脱离感知结构的情况下接触世界，我们的经验受到感觉器官、神经组织、记忆、注意和身体需要的共同塑造。其他动物所生活的感知世界，与人类存在显著差异。蝙蝠高度依赖回声定位，狗的嗅觉能力使它能够识别许多人类无法察觉的环境信息，而某些鸟类能够感知人眼无法直接看见的光谱范围。外部世界虽然是共同的，但不同生命体与世界建立联系的方式并不相同。生物学家雅各布·冯·于克斯屈尔（Jakob von Uexküll）提出了“环境世界”（Umwelt）的概念，用来描述不同生物根据自身感知能力、行动方式和生存需要所形成的特定意义世界。他强调，不同生物之间的差异，并不只是掌握了同一世界中多少信息，而是它们的身体结构和生活方式，使它们与环境建立了不同的关系。对于一只蜱虫、一只蝙蝠或者一个人而言，周围环境中哪些特征具有意义，以及这些特征如何被组织起来，都可能存在根本差异。

把这一思想应用于人工智能，会产生一些特别有意思的问题。一个人工系统可以配备人类没有的传感器，把红外图像、化学测量、电磁信号以及大规模数据流整合为统一的环境模型。它所形成的世界表征，可能在许多方面与人类感知截然不同。我们是否可以因此认为，它拥有某种人工的环境世界？从功能角度看，这种说法具有一定合理性。系统能够根据自身传感器、行动能力和目标，识别相关特征，预测后果，并对环境作出适应性回应。但是，如果把环境世界理解为一种被体验到的意义世界，那么问题仍然没有解决。一个系统拥有以自身为中心组织的环境模型，并不意味着它必然体验到了这个环境。于克斯屈尔的思想提醒我们，如果体验存在，它的具体形式可能受到体验主体自身组织结构的深刻影响；但这一思想本身并不能成为判断某个系统是否具有体验的简单标准。随着人工智能发展出越来越难以用人类感知方式理解的内部表征，这种区别将更加重要。未来系统可能同时处理多种感觉模态，识别人类无法察觉的模式，并建立没有直接人类对应物的环境模型。这样的认知能力可能十分陌生，但认知上的陌生并不等于意识，正如行为上的相似也不能证明意识一样。

人工内在现实的可能性，因此要求我们同时考察两个不同的问题：一个系统表征了什么，以及是否存在一个主体，使这些表征以某种方式向它呈现。世界模型可以通过预测准确性、规划价值和行为灵活性加以评价，而被体验到的世界还包含另一个维度，即环境是否通过某种觉察形式向一个主体显现。这一维度可能正是现有人工智能理论在解释意识时所面临的根本困难。世界模型的工程研究可以在不解决意识问题的情况下继续发展，研究者能够构建预测物理事件、模拟不同未来并通过内部表征协调行动的系统，而这些成就本身就具有重要价值。但是，如果我们希望进一步理解人工意识的可能性，就必须追问，究竟是什么能够把这样的表征转化为被体验到的现实。答案也许与某种特殊的因果整合有关，也许取决于世界模型与自我模型之间的关系，也许需要身体调节、情感意义和脆弱性，或者还存在当前计算理论尚未识别的原则。我们目前还无法确定哪一种可能性正确。

可以确定的是，人工世界模型的发展已经改变了问题的性质。早期人工系统往往主要表现为符号操作，缺乏对于符号所描述环境的丰富内部表征。越来越复杂的人工系统则开始建立支持预测、规划和反事实推理的模型，不再只是利用表征描述世界，也利用表征组织自己与世界的互动。这是人工认知发展中的重要变化，它缩小了生物系统与人工系统在某些功能方面的差异，却没有消除两者在体验问题上的不确定性。更深刻的问题是，人工世界模型的发展，是否最终可能与某种人工自我的形成联系起来。在人类经验中，世界从来不只是中立的对象集合。我们总是从某个位置、以某种身份、在一段持续展开的生命中接触世界。感知围绕身体、历史、需要以及可能的行动组织起来，世界之所以具有意义，是因为它与一个生活在其中的主体发生联系。人工系统也可能逐渐形成关于环境以及自身在环境中所处位置的复杂表征，维持记忆，预测后果，并按照持续存在的目标行动。这些能力可以支持一种越来越复杂的功能性视角，但这种视角是否会成为主观视角，仍然是尚未解决的问题。

一台机器可以知道自己位于哪里，却未必具有身处某地的感觉；可以预测未来，却未必体验到期待；可以模拟不同世界，却未必以人类意义上的方式想象它们；也可以建立关于自身的模型，却未必具有作为自己的感受。这些区别并不削弱人工世界模型的重要性，反而帮助我们更加清楚地认识它们已经实现了什么，以及还有什么尚未得到解释。也许，世界模型研究最重要的启示之一，就是智能并不需要直接接触未经组织的现实。无论生物系统还是人工系统，都通过某种内部表征简化、组织和预测外部世界。在人类身上，其中一些表征参与构成意识经验；在人工系统中，我们则越来越能够复制这些表征和预测功能，却不知道是否有任何体验与之相伴。这种分离为科学研究创造了难得的机会。通过比较不同物理和计算机制形成的世界模型，我们也许能够逐渐识别，哪些表征性质对于智能行为是必要的，哪些又可能对于意识具有决定性意义。人工智能的未来，因此不仅可能帮助我们理解知识与行动的组织方式，也可能帮助我们区分理解世界的认知架构与体验世界的存在条件。

世界模型使一个系统能够表征什么正在存在，预测什么可能发生，并组织自己应该采取的行动；而内在现实似乎还需要某种额外的性质，使系统所表征的世界，同时成为它所体验到的世界。这种额外的性质究竟是什么，能否通过人工组织产生，目前仍然未知。但是，人工智能已经使这个问题不再只是关于机器能否处理世界信息的讨论，因为机器越来越能够做到这一点。真正值得追问的是，当一个系统建立起越来越连贯的现实模型，能够把环境、自身、过去和未来组织成持续发展的整体时，它是否也可能逐渐成为一个能够体验这个现实的主体。这个问题的答案，不仅关系到人工意识是否可能存在，也可能决定我们最终如何理解人类自身的感知、知识与体验之间的关系。

（本篇完）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)
# 9

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注