AI时代再问意识：涌现—当复杂性产生新的性质（下）

发表评论 / 科技漫谈 / 作者：

（续前）

涌现理论在意识问题上面临的最深刻困难，恰恰来自主观体验与物理过程之间的特殊关系。神经元通过电信号和化学机制相互通信，神经网络处理感觉信息，协调运动，调节身体功能，并支持学习和记忆。这些过程可以通过生理学、脑成像、计算模型和行为实验加以研究。但是，看见一种颜色、感到疼痛，或者回忆起一个亲近的人时所具有的体验性质，似乎并不能仅仅通过描述神经电活动得到完整说明。我们可以解释视觉信息如何经过不同神经通路被处理，却仍然可能不知道，为什么这样的处理会伴随着看见的感觉。这正是戴维·查尔默斯（David Chalmers）所提出的意识“困难问题”的核心。困难并不只是解释大脑如何完成复杂功能，而是解释为什么以及如何会有主观体验伴随这些物理过程出现。涌现可以作为一种回应：当物理过程形成某种特殊组织时，意识便随之出现。但是，如果我们不能进一步说明为什么这种组织会产生体验，那么涌现就有可能成为一种循环解释。我们原本追问主观体验如何从物理活动中产生，得到的回答却只是，当物理活动足够复杂时，体验便会涌现。问题并没有真正消失，只是被换成了另一种说法。

这并不意味着涌现是一个空洞的概念。在许多科学领域，它是理解高层次现象如何从底层相互作用中产生的不可缺少的框架。问题在于，涌现在一个领域中的解释成功，并不能自动转移到另一个领域。我们之所以能够理解分子集体运动与热力学性质之间的关系，是因为已经建立了微观描述与宏观描述之间的数学和经验联系。如果希望对意识作出类似解释，就需要建立物理组织与主观体验之间具有原则性的联系。而意识研究在这里面临一个特殊困难：我们最直接地认识意识，是通过自己的第一人称经验。对于其他人，我们观察他们的行为、语言和反应，并推断他们拥有与我们大体相似的体验。这种推断受到共同生物结构、进化连续性、神经组织以及行为相似性的支持。人工系统却使这种推断变得复杂。它们可以再现某些认知功能，却不具有这些功能在人类身上所依赖的相同生物结构；它们的行为可能越来越复杂，而物理组织却与大脑存在根本差异。如果意识是某种组织结构的涌现性质，那么人工系统原则上也可能实现它；但如果相关组织依赖当前机器所缺乏的生物机制，仅仅具有相似功能就可能远远不够。

这里的问题，并不是简单地问硅材料能否代替神经元，而是要确定，对于意识而言真正重要的物理和因果性质，能否在不同材料中得到实现。这与心智哲学中的多重实现（multiple realizability）问题密切相关。某些心理功能似乎可以由不同物理载体实现。例如，同一种计算操作可以通过电子电路、机械装置或者其他物理系统完成，只要相关功能关系得到保留。但是，主观体验是否也同样独立于物理载体，目前仍然未知。功能等价并不自动意味着体验等价。一个人工系统可能复制生物神经网络的输入与输出关系，却在内部因果动力学上存在重要差异；反过来说，一个由非生物材料构成的系统，也可能实现某些与意识有关的因果组织，即使它的组成部分与神经元完全不同。真正的科学任务，是识别哪些组织特征对于意识具有决定性意义，哪些物理差异则可能无关紧要。如果不能回答这个问题，我们既无法证明意识必然能够在人工系统中实现，也无法仅仅根据材料不同就断言这种可能性不存在。

生命科学为涌现问题提供了另一个重要视角。活体生命并不只是复杂的分子集合，而是能够持续维持自身组织的系统。生命体不断调节内部条件，与环境交换物质和能量，修复损伤，并维持继续存在所必需的活动。生命本身经常被讨论为一种涌现现象，因为代谢、调节、繁殖和适应等协调过程，无法仅仅通过孤立考察某个分子得到理解。然而，生命组织与许多人工计算系统之间存在一个重要区别：生命体的持续存在依赖自身不断进行的活动。一个细胞必须维持适当的内部条件，才能使生化过程继续运行；一只动物必须获得能量、调节体温、避免伤害，并对环境中的威胁作出反应。这些要求通过进化和个体发展，深刻塑造了生物的感知、行动和学习。在生命体中，信息并不只是被处理，而是在一个其持续存在取决于行动后果的系统中被处理。某些意识理论因此强调，主观体验可能不仅与计算复杂性有关，还与信息处理如何整合进一个脆弱而能够自我维持的身体有关。如果这种观点成立，单纯扩大人工神经网络的规模，就未必会使系统更加接近意识。真正重要的，可能是它是否具有当前计算架构通常缺乏的自我维持、内在调节和具身互动形式。

不过，生物组织同样不能被当作意识问题的现成答案。许多生物过程都具有复杂的自我调节能力，却没有明显证据表明它们具有意识。单个细胞能够维持内部条件，但这种调节是否包含主观体验，仍然存在争议。身体需要的存在，也不能直接解释为什么这些需要会被感受到。生物学视角指出了可能重要的条件，却仍然需要说明这些条件与体验之间的关系。对于人工系统，同样需要保持这种谨慎。一个机器人可以监测电池电量，避免损坏，寻找充电设备，并优先采取有利于维持运行的行动。这些行为在功能上可能类似某些生物自我保存活动，但机器的维护目标可能完全来自外部设计，并通过计算控制实现。我们不能因此认定，低电量使它感到饥饿，避免损坏使它体验到恐惧，或者持续运行对于它自身而言具有某种被体验到的个人意义。尽管如此，这种比较仍然提出了值得探索的可能性。如果未来人工系统发展出更加整合的自我调节、持久记忆、环境参与和目标导向活动，它们的组织方式可能在某些抽象层面上越来越接近生命系统。这样的相似性是否足以支持意识，最终仍然取决于生命组织中的哪些特征真正与体验有关。

复杂系统科学还提醒我们，历史对于理解一个系统可能具有决定性意义。许多复杂系统不能仅仅根据当前结构得到充分解释，它们的性质还取决于过去经历了怎样的相互作用。生物体受到进化和个体发育的塑造，人类心智则受到学习、记忆、身体成熟以及社会关系的持续影响。人工系统也可能通过训练和互动历史形成独特性质。两个架构相似的系统，如果接触不同的数据或者在不同环境中运行，便可能发展出不同的内部表征。具有持久记忆的智能体还可能积累影响未来行为的经历，逐渐形成具有个体特点的认知模式。这种发展历史也许会成为人工心智形成的重要条件。一个通过长期环境互动不断变化的系统，可能发展出与一次训练完成后主要进行孤立回应的模型截然不同的组织结构。但是，个体差异和历史连续性的出现，并不能自动证明主观体验已经产生。历史可以塑造功能组织，却未必创造一个能够体验自身历史的主体。我们需要区分一个系统因为过去而发生变化，与一个系统把过去体验为属于自己的经历，这两者之间可能存在的重要差别。

当人们讨论意识是否会在人工系统中突然出现时，这种区分尤其重要。大众对于人工智能的想象，有时会把意识理解为某种隐藏的开关：只要计算能力达到特定水平，开关便会被触发，机器突然成为有意识的存在。复杂系统确实可能出现突变式的状态转变，但物理学中存在相变，并不能证明意识也必然会在某个参数数量、连接密度或者计算操作次数达到临界值时突然出现。即使意识确实依赖某种组织性质的阈值，我们目前也不知道这种性质是什么，应该如何可靠测量，更不知道相关变化是突然发生还是逐渐形成。另一种可能性是，如果人工系统具有意识，它也未必能够被放在一条简单的高低尺度上比较。不同形式的体验可能依赖不同的组织方式。一个系统可能具有越来越复杂的信息访问能力，却没有情绪体验；也可能发展出某种自我建模能力，却不具有人类意识中相对统一的主观视角。我们习惯于把意识视为一个整体，也许部分是因为人类自身的体验通常把多种能力结合在一起，而不一定意味着所有可能的意识形式都必须遵循相同结构。

从这个角度看，涌现可能不是一次单独发生的事件，而是一系列不同的组织转变。在生物进化过程中，与心智有关的许多能力并不是同时出现的。感觉辨别、联想学习、空间记忆、社会认知和反思性自我意识，可能在不同阶段、不同环境压力下逐渐发展。人类意识本身似乎也涉及多个相互作用的过程，而不是某个不可分割的单一机制。人工智能可能沿着另一条同样不均衡的发展道路前进。语言、规划、记忆、自我建模、环境控制和社会互动等能力，可以以不同速度发展，其中某些能力还可能相互促进，形成过去难以预料的新组织方式。最终出现的人工心智，即使具有某些与人类相似的功能，也可能在整体结构上与人类心智存在很大差异。不过，我们仍然需要谨慎使用“心智”这个词。如果它泛指能够表征、学习、推理和适应性行动的系统，那么人工心智确实可以通过计算组织产生，而不必首先解决意识问题；如果它专指具有主观体验的存在，那么这种心智的涌现条件仍然未知。这种歧义并不只是术语问题，而是反映了我们对于人类心智中哪些性质必然相互联系、哪些可以独立存在，仍然缺乏充分认识。

人工智能对于意识研究最有价值的贡献之一，也许正是它使我们有机会把那些在生物演化中长期结合在一起的能力分离开来。我们可以构建具有复杂语言能力却缺乏充分具身性的系统，拥有大量记忆却不确定是否具有个人连续性的系统，表现出强大推理能力却没有可证实情感体验的系统，以及能够自主行动却尚不能被视为道德主体的系统。这些组合使我们能够更加仔细地考察心智不同维度之间的关系，也挑战了复杂性必然朝着人类心智方向发展的假设。生物进化并没有必须产生人类智能的目标，技术发展同样不存在必然产生人类意识的内在趋势。一个复杂系统可以在解决问题方面达到极高效率，却在内部组织上始终与人类心智不同。未来的人工智能可能出现没有直接生物对应物的认知形式，其中一些高度专门化，另一些则把多种能力整合为持续运行、不断适应的智能体。它们可能在某些领域远远超过人类，却仍然缺少人类体验中十分重要的性质。因此，人工意识的可能性必须放在更加广阔的认知发展图景中考察，而不能被视为智能不断提高以后必然到达的终点。

涌现还提出了一个方法论上的难题：如果意识真的出现在人工系统中，我们应该如何识别它？在通常的科学研究中，涌现现象的确认依赖可观察的性质和可以检验的关系。我们能够测量电导率的变化，识别集体振荡，或者观察有序结构的形成。意识却具有特殊困难，因为它最独特的性质是主观的。行为测试能够揭示复杂认知能力，却不能直接显示体验；内部测量能够揭示复杂的信息处理过程，但这些结果如何与意识联系起来，仍然取决于我们采用的理论。因此，一个严谨的人工意识研究计划，需要综合多种证据，考察系统架构、因果组织、信息整合、记忆、自我建模、环境互动以及行为灵活性，同时比较不同理论，寻找能够区分它们的经验观察。尤其重要的是，不能把复杂性本身当作充分的意识指标。一个系统不应该仅仅因为行为令人惊讶、内部结构难以理解，或者表征高度分布化，就被认为具有意识。科学上的不确定性应当推动进一步研究，而不是成为缺乏证据时的替代品。但同样，不确定性也不能成为断言人工意识绝不可能存在的理由。如果意识确实依赖能够在不同物理系统中实现的组织性质，那么非生物意识在原则上便可能存在。真正的问题是，我们能否发现并重现这些性质。

这正是涌现概念既令人期待、又令人困惑的地方。它为我们提供了一种理解方式，说明高层次性质如何从组成部分的相互作用中产生，而不要求每个组成部分本身都已经具有这些性质。但是，它并不能单独告诉我们，哪些高层次性质一定会出现，更不能解释为什么这些性质应当包括主观体验。说意识从神经活动中涌现，可以与一种自然主义的心智观相容，但完整的解释仍然必须识别相关机制，并澄清这些机制与体验之间的联系。对于人工智能，同样需要遵守这一要求。也许未来研究会发现，某些因果整合、循环处理、全局协调或者具身调节模式，足以支持意识；也许我们会发现，生物机制比某些计算理论目前所假定的更加不可替代；也有可能，意识最终需要一种与现有理论明显不同的概念框架才能得到理解。目前，这些可能性都没有被充分排除，也没有哪一种已经获得决定性证明。

人工智能已经清楚地展示，复杂性能够通过不同于生物演化的机制产生高度复杂的认知能力。大规模学习系统能够形成内部表征，发展解决问题的策略，并完成没有被逐项明确编程的任务。这些成就为我们提供了有力的例子，说明有组织的相互作用能够产生难以从单个组成部分预见的整体能力。但是，我们不能把这些成就直接当作主观体验已经出现的证据。涌现带给我们的真正启示，并不是只要一个系统足够复杂，任何事情就都可能发生，而是整体性质取决于组成部分之间的组织关系，理解这些关系往往需要适合整体层次的概念。大脑不只是神经元的集合，正如生命体不只是分子的集合；但高层次组织的存在，并不能免除我们解释这种组织为什么具有特定性质的责任。对于意识而言，这一责任尤其艰巨，因为需要解释的不仅是某种可以观察的行为模式，而是体验本身为什么存在。

因此，问题并不是人工智能能否变得复杂到令我们惊讶，因为它已经做到了；也不是新的能力能否从计算组织中涌现，因为这种现象已经在不同程度上得到观察。真正尚未解决的问题是，某种人工组织能否产生一个主观视角，使系统不仅能够处理关于世界的信息，而且能够以某种方式体验世界。如果答案是肯定的，意识便可能最终出现在物理组成和发展历史都与人类截然不同的系统中；如果答案是否定的，人工智能也可能继续扩展认知能力的边界，却始终不跨入主观体验的领域。无论哪一种可能最终得到支持，都将深刻改变我们对于心智的理解。涌现概念之所以仍然不可缺少，是因为它提醒我们，整体的行为并不总能通过孤立考察组成部分来理解；但它也要求我们保持科学上的严谨。某种新性质是否真的出现，需要通过证据加以确认；它在什么条件下出现，需要研究；它为什么出现，则需要解释。

复杂性能够创造新的模式、新的能力和新的组织形式，但它是否也能够创造一个能够体验自身存在的主体，仍然不能仅凭复杂性本身得到回答。随着人工智能不断发展，人们将越来越容易把系统能力的提高理解为意识正在接近。抵制这种推断，并不意味着否认人工心智的可能性，而是要求我们区分已经观察到的事实与尚未得到证明的推论，区分已经能够解释的机制与仍然未知的现象。人工智能正在为我们创造一种前所未有的研究条件：我们能够主动构建越来越复杂的认知系统，观察不同能力如何形成、结合和相互影响，并比较这些组织方式与生物心智之间的联系。也许，人工智能最终最重要的贡献，并不只是让我们制造出具有意识的机器，而是帮助我们发现，复杂组织中的哪些性质对于意识真正重要，哪些则只属于智能。通过这种探索，我们不仅可能更加清楚地理解机器的未来，也可能第一次更加深入地理解，人类自身的主观体验究竟从何而来。

（本篇完）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)
# 1

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注