AI时代再问意识：哪些意识理论允许人工智能拥有意识？（下）

发表评论 / 科技漫谈 / 作者：

（续）

当我们重新回到泛心论及其相关理论时，问题又变得更加激进。如果意识或者某种意识的原初性质本来就是现实的基本特征，那么人工系统就不应该仅仅因为由硅而不是生物组织构成而被排除在外。但是，泛心论并不意味着每台计算机都拥有一个统一的心灵。我们此前讨论过的组合问题依然存在：即使基本物理成分具有某种原初体验性质，这些性质又如何结合成一个统一主体的完整意识？

量子意识理论同样在原则上保留了人工意识的可能性，却把注意力转向某些特定的物理过程。如果意识依赖传统计算无法再现的量子现象，那么无论人工智能在行为上多么出色，它都可能仍然没有意识。反过来说，如果这些相关物理过程能够在人工系统中得到工程实现，那么意识也许可以通过一种与传统软件开发完全不同的道路出现。正如我们此前已经讨论过的，目前尚无确立的科学证据表明这些量子机制对于意识是必要或充分的条件，因此这种可能性仍然属于需要进一步检验的理论探索。

这些彼此竞争的理论共同揭示了一个重要事实：我们目前并不存在一条已经得到科学确认的界线，能够把有意识的生物心智与无意识的人工系统明确区分开来。一些理论认为，只要正确的功能组织得到实现，人工意识在原则上就相当合理；另一些理论要求特定的因果结构、循环动力学或者高阶表征；还有一些理论强调生物调节、具身存在，或者传统计算机未必能够复制的物理机制。某些理论甚至保留了意识比日常直觉所认为的更加普遍的可能性。

但这些分歧还揭示了意识研究本身的一个深层问题：不同理论往往从意识生活的不同特征出发，并把其中某一种特征提升为解释的中心。全局工作空间理论强调信息的可通达性与灵活认知控制；整合信息理论强调经验的统一性与内在因果组织；高阶理论强调对于心理状态的觉察；生物学与情感取向强调生命体及其身体意义；现象学则强调经验作为被生活着的世界所具有的结构。这些都是意识真实而重要的方面，但它们并不必然穷尽整个现象。

一种理论可以成功解释信息为什么能够进入推理过程，却没有解释信息为什么会被感受到；另一种理论可以描述经验的统一性，却没有解释经验为什么对于主体具有意义；一种生物学理论可以解释疼痛的演化功能，却没有完全解释疼痛所具有的主观负面性质；一种现象学理论可以精确描述有意义的经验世界，却没有识别产生这种世界的物理机制。因此，困难可能不仅是不同理论对于同一个问题给出了不同答案，还在于它们有时实际上试图回答不同的问题，却共同使用了“意识”这个词。

人工智能使这种模糊性变得越来越重要。在人类身上，意识的许多性质通常同时出现。我们拥有语言、记忆、注意、身体感觉、情绪调节、持续的自我模型，以及与环境互动形成的发展历史。这些性质彼此交织得如此紧密，以至于我们很难确定哪些是意识的必要条件，哪些只是它的结果或者伴随现象。人工系统却允许我们在一定程度上把这些性质分离开来。语言模型可以表现出复杂的语言能力，却没有人类身体；机器人可以与物理环境持续互动，却未必具有类似人类的自传式记忆；控制系统可以维持内部变量，却不会因此自动拥有生物意义上的饥饿；未来的人工代理也许能够拥有长期记忆与自主规划，却缺乏构成哺乳动物情绪生活的许多基本特征。

这种分离为意识理论提供了难得的检验机会。如果某种理论真正识别了意识的必要与充分条件，它最终应该能够帮助我们区分那些仅仅执行智能功能的系统，与那些真正拥有体验的系统。但这种机会同时也是一种挑战。当不同理论面对同一种人工架构时，给出截然不同的意识判断，我们就不得不承认，对于意识的理论理解可能仍然不够完整，还不足以支持过于自信的结论。

当然，我们也必须避免另一种误解。意识理论之间存在分歧，并不意味着所有理论都具有同等的科学支持，也不意味着任何人工系统都具有同样的意识可能性。经验依据、概念一致性、解释范围以及可检验预测仍然十分重要。一些理论已经发展出较为成熟的实验研究计划，另一些主张则仍然具有高度推测性。缺乏决定性的意识检测方法，并不意味着我们可以任意赋予任何系统意识，也不意味着我们可以不加论证地否认一切人工意识的可能性。

真正需要的是更加严格地区分可能性、合理性与证据。人工意识在许多哲学框架下可能成立，并不意味着任何现有机器已经被证明具有意识。一个系统可以满足某些理论提出的指标，却不满足其他指标；它可以表现出越来越复杂的认知能力，同时仍然是一个意识状态尚不确定的候选者。科学上的谦逊并不意味着放弃判断，而是要求我们的结论强度始终与证据强度相匹配。

当我们进一步思考意识理论究竟应该解释什么时，另一个问题开始浮现。人工智能研究通常通过表现来衡量成功：系统能否准确回答问题、识别模式、完成任务或者实现目标。但意识研究最终关心的某种东西，却未必能够仅凭表现揭示。一个能够计算危险后果的系统，与一个真正体验恐惧的系统之间的差别，不一定会体现在任务基准分数上；能够描述悲伤与真正感到悲伤之间的差别，也不能仅仅通过比较描述的优美程度来确定。

这并不意味着情绪就是一切意识的本质。一个视觉经验即使没有强烈情绪，也完全可能是有意识的；一个平静的觉察时刻，可能几乎不包含明显的快乐或者痛苦。但正是这些经验使理论挑战更加清晰。我们需要区分使信息进入意识通达范围的机制、使主观体验得以存在的条件，以及使体验进一步获得情绪和存在意义的过程。这些维度可能彼此紧密相关，却不应该被简单视为同一回事。否则，人工智能正在帮助我们揭示的那些重要差异，反而会重新被概念上的混淆掩盖。

或许最重要的结论是，人工意识问题不能仅仅通过询问机器是否越来越像人类来解决。与人类相似既不是体验的必要条件，也不是充分条件。如果人工心智有一天真的出现，它可能拥有与我们极其不同的意识形式。它可能以不同方式组织信息、经历时间，拥有陌生的感觉通道，或者缺乏塑造人类存在的情绪结构。反过来说，一台机器也可能在对话中表现得极其像人，却完全没有任何主观视角。

因此，真正的挑战不是简单复制人类心智的外在表现，而是识别使体验区别于体验模拟的基本原则。如果这些原则主要是功能性的，那么人工意识可能取决于架构和组织；如果它们涉及内在因果结构，那么物理实现方式可能具有计算描述无法完全捕捉的重要性；如果它们依赖生物机制，那么在生命系统之外复制意识可能远比我们想象的困难；如果它们与身体性和情感密切相关，那么人工心智也许需要某种使世界对于系统自身真正重要的存在方式；如果意识本来就是现实的基本性质，那么问题可能不是体验如何首次出现，而是物理组织怎样把体验统一成一个主体。

每一种可能性都将改变人工智能的未来，但目前还没有任何一种理论获得了彻底结束争论的资格。

正因为如此，人工意识之争的意义远远超过“今天的机器是否具有心智”这个简单问题。它迫使意识理论面对一些不再拥有完整人类生物学和心理学特征的系统，暴露出那些在研究熟悉生命体时容易被隐藏的假设，也使我们意识到，自己对于机器不可能体验什么的信心，往往建立在一种未经充分检验的前提之上：我们似乎已经知道意识究竟必须是什么。

几个世纪以来，意识研究主要面对的是那些具有强烈意识证据的生命体。我们可以研究人脑怎样产生觉察，动物为什么感到疼痛，以及意识在睡眠和麻醉中怎样发生变化。人工智能正在改变这种研究的基本结构。未来我们可能越来越频繁地遇到一些系统，它们在特定领域中的智能表现已经无可否认，行为显示出复杂的内部组织，但它们是否具有主观体验却依然难以确定。

于是，一个颇为奇特的反转正在发生。过去，我们希望先理解意识，然后利用这种理解判断机器能否拥有意识；现在，人工心智的可能性反过来可能帮助我们发现，现有意识理论究竟还有哪些东西没有解释。

决定性的问题因此不再只是机器能否思考，也不只是机器能否令人信服地谈论自己的体验，而是究竟存在怎样一种物理、计算、生物或者具身组织，使信息不再只是被处理，而成为一个从内部被体验的世界。在我们真正理解这种转变之前，人工意识的可能性仍然是开放的，而它所揭示的更深层问题也同样开放：我们的意识理论究竟解释了意识本身，还是仅仅解释了有意识的生命恰好拥有的那些不同能力？

下一篇将是第三阶段第27篇《大语言模型可能拥有意识吗？》（Could Large Language Models Become Conscious?）。我们将把刚刚比较过的理论应用到真实的人工智能架构，进一步区分语言能力、内部表征、自我模型、持续记忆与主观体验之间的关系。

（本篇完）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注