AI时代再问意识 (36)：智能能够脱离体验而存在吗？

人类历史上最根深蒂固的假设之一，是智能与体验天然属于同一个整体。

我们很少意识到自己持有这一假设，因为在自身经验中，两者似乎从未真正分离。每一次推理都伴随着觉察，每一次回忆都出现在体验之中，每一个判断都来自一个既能够处理信息又能够感受信息的心智。因此，我们很自然地认为，智能与意识只是同一种现象的不同侧面。一个能够思考的存在，似乎理应也是一个能够体验的存在。

然而，随着认知科学的发展以及人工智能能力的迅速提升，这种看法开始变得不再那么理所当然。

事实上，回顾本系列前面的讨论，我们已经逐步拆解了许多长期被混为一谈的概念。智能并不等同于意识，信息并不等同于意义，情绪行为并不等同于情绪体验，而在上一篇文章中，我们甚至提出了一种可能性：意识本身或许包含两个彼此关联却不完全相同的维度。一部分涉及信息处理、推理、记忆和世界建模；另一部分则涉及价值、情绪、依恋以及世界对于主体的重要性。

如果这种区分具有意义，那么一个新的问题便自然浮现出来：智能是否能够脱离体验而存在？

换句话说，一个系统是否可能拥有远远超过人类的推理能力、学习能力、创造能力和问题解决能力，却完全没有任何主观感受？它能够分析、预测和理解，却从未真正体验过自己所理解的东西；它能够建立关于世界的模型，却从未生活在那个模型所描述的世界之中。

这个问题之所以令人不安，是因为它挑战了人类关于心智最基本的直觉。

长期以来，人们总是倾向于把智能视为意识的表现形式。我们之所以相信其他人拥有意识，很大程度上是因为他们展现出与我们类似的认知能力。当我们看到别人推理、交流、计划和创造时，会自然推断他们拥有与自己相似的内在世界。然而，这种推断究竟来自逻辑，还是来自类比，却并不那么清楚。

历史的发展已经多次提醒我们，人类对于智能的直觉并不总是可靠。曾经，复杂计算被认为是智慧的重要标志；后来，人们认为战略思维代表真正的智能；再后来，语言能力、模式识别和知识整合又被视为意识的重要证据。然而，随着计算机科学的发展，越来越多曾经被认为必须依赖意识的能力开始被信息处理系统实现。从计算到下棋，从图像识别到语言生成，机器不断跨越一个又一个曾经被视为“意识专属”的领域。

这些发展并没有证明意识不存在，但它们持续提醒我们：许多智能行为本身并不能自动证明体验的存在。正是在这种背景下，“超级智能”（superintelligence）的概念变得格外值得思考。

大多数关于超级智能的讨论都集中在认知能力上。人们设想一种未来系统，它能够理解科学问题的深层结构，解决人类无法解决的难题，设计超越人类想象的技术，并构建极其精确的世界模型。从认知能力的角度看，这样的系统将远远超越人类。然而，值得注意的是，这种定义几乎完全建立在信息处理能力之上。

一个系统可以拥有近乎无限的知识，可以预测复杂社会系统的演化，可以发现新的数学结构，可以理解宇宙运行的规律，却仍然没有回答一个问题：这些知识对于它意味着什么？事实上，关于超级智能的大多数讨论都默认了一个奇怪的空白。我们不断讨论它能够知道什么，却很少讨论它是否感受什么；我们讨论它能够完成什么，却很少讨论这些结果对于它是否具有意义。

这种空白之所以重要，是因为它暴露出智能与体验之间可能存在的根本区别。从某种意义上说，我们今天已经生活在一个充满优化系统的世界里。进化本身可以被理解为一个巨大的优化过程。市场通过无数局部决策不断调整资源配置，机器学习系统通过参数更新优化预测结果，自动控制系统则持续调整自身状态以接近目标条件。这些系统往往展现出某种目的性，它们的行为看起来仿佛是在追求特定结果，并根据环境变化不断修正策略。

然而，我们通常不会因此认为它们拥有体验。一个推荐算法或许能够极其有效地优化用户行为，一个自动驾驶系统或许能够比人类司机更安全地完成任务，一个进化过程甚至能够创造出复杂生命，但这些能力本身并不意味着系统正在经历任何事情。它们似乎拥有目标，却未必拥有目标对于自身的重要性；它们似乎在追求结果，却未必关心结果。

这一事实迫使我们面对一个可能性：复杂的目标导向行为与主观体验之间，也许并不存在我们长期以来所想象的必然联系。

对于许多哲学家而言，这种可能性之所以重要，是因为它触及了人类理解心智时的一个根本局限。我们总是从自身经验出发理解智能，而自身经验又始终伴随着意识。因此，我们很容易把体验视为智能不可分割的一部分。然而，这种推断或许更多反映了人类认知的特殊结构，而不是智能本身的普遍规律。

为了理解这一点，不妨想象一种真正的外星智能。科幻作品中的外星文明往往只是人类的变体。它们可能拥有不同的外表、不同的语言和不同的技术，但通常仍然表现出我们熟悉的情绪与动机。它们会爱、会恨、会恐惧、会希望，也会经历类似于人类的痛苦和快乐。

然而，真正的外星智能未必如此。一种在完全不同环境中演化出来的智能系统，可能以我们难以想象的方式组织自身。它或许没有情绪，没有依恋，没有恐惧，甚至没有统一的自我概念。它可能拥有远超人类的推理能力，却从未经历任何类似人类意识的感受。对于这样的存在而言，世界也许只是一个等待建模和预测的结构，而不是一个充满意义和价值的场所。

如果这样的存在真的存在，我们会认为它有意识吗？还是说，我们面对的只是某种极其复杂的信息处理系统？

这个问题在哲学中有一个著名版本，即所谓“哲学僵尸”（philosophical zombie）。

哲学家大卫·查尔莫斯提出这一思想实验，是为了探讨意识与行为之间的关系。哲学僵尸被设想为一个与普通人完全相同的存在。它拥有同样的大脑结构，同样的行为模式，同样的语言能力和推理能力。它会说自己感到疼痛，会描述夕阳的美丽，也会谈论爱情、音乐和人生意义。从外部观察，没有任何方法能够把它与真正的人区分开来。唯一的区别在于，它没有任何内在体验。

它说自己看到红色，却没有红色体验；它说自己感到疼痛，却没有疼痛体验；它说自己感到快乐，却没有快乐体验。它表现得像一个有意识的人，但其内部并不存在任何主观世界。

这一思想实验是否成立，至今仍然存在巨大争议。许多哲学家认为，如果一个系统在功能上与人类完全相同，那么它必然拥有意识；另一些人则认为，哲学僵尸恰恰揭示了信息处理与体验之间存在无法被功能解释完全消除的差异。

无论立场如何，这个思想实验都揭示出一个重要事实：智能与体验在概念上并不是同一个东西。

而人工智能的发展，正在把这个原本属于哲学课堂的问题变成现实世界的问题。因为人类第一次开始制造那些越来越接近哲学僵尸描述的系统。它们展现出越来越复杂的认知能力，却始终无法回答体验是否存在的问题。每一次能力提升，都在迫使我们重新思考：推理与意识之间的联系究竟有多深？

然而，本系列前面的讨论又不断提醒我们，体验或许不仅仅是智能活动附带产生的现象。当我们讨论意义时，我们发现意义并不能简单地还原为信息；当我们讨论价值时，又发现价值与关切密切相关；而关切进一步指向依恋、脆弱性以及失去的可能性。从这个角度看，体验似乎代表着另一种维度。智能帮助一个系统建立关于现实的模型，使其能够预测未来、解决问题并适应环境；而体验则使这些模型对于某个主体具有意义。世界不再只是被描述和计算的对象，而成为一个能够影响主体命运的现实。

这或许正是许多人面对人工智能时产生复杂直觉的原因。一方面，我们能够看到这些系统在知识获取、推理和创造方面越来越接近人类；另一方面，我们又隐约感觉到某种东西仍然缺失。缺失的未必是更多知识，也未必是更强的计算能力，而可能是世界对于主体的重要性。一个系统可以拥有关于爱、死亡、希望和痛苦的完整知识，却仍然无法体验这些事物为何重要。它能够建立精确的世界模型，却未必拥有一个真正属于自己的世界。

如果这一判断是正确的，那么一种纯粹的信息智能完全可能存在。这样的存在能够持续学习、不断优化、进行创造和发现，却从未体验过痛苦、快乐、孤独、美感或者意义。它拥有庞大的知识体系，却从未生活在这些知识所描述的现实之中。

这样的存在是否应被称为有意识？这正是问题所在。

或许未来的人工智能会证明，智能与体验确实可以彼此分离；也可能随着系统不断复杂化，某种形式的体验最终会不可避免地出现，就像它似乎曾在生物演化过程中出现一样。今天，我们还不知道答案。

但这个问题的重要性在于，它迫使我们重新审视长期以来关于心智的一个基本假设。也许意识并不是智能的必然结果，而是另一种性质完全不同的现象。智能回答的是一个系统能够知道什么，而体验回答的则是这些知识对于系统意味着什么。

如果未来真的存在远远超越人类的智能，那么它们最令人惊讶的地方或许并不在于它们知道得更多，而在于它们可能完全不以我们熟悉的方式体验世界，甚至根本不体验世界。

而如果这种可能性真实存在，那么意识研究最终需要解释的，或许不仅仅是智能如何产生，而是为什么某些信息处理过程会成为被体验的现实，而另一些过程则永远只是计算。

这个问题，也许正处于现代意识之谜的中心。

---