第五部分：计算，究竟够不够？（下）
理解这一争论的另一种方式，是看它涉及多深的因果层次。我们可以从很多层次描述同一个大脑。最高层是行为：一个人看见一张脸，说出了名字。再向下可以描述认知功能：视觉输入与记忆表征匹配。再向下是神经群体在不同脑区之间交换信息，随后是单个神经元整合突触输入，再往下还有膜电位、离子通道、递质、受体、细胞内信号、代谢与分子过程。意识真正依赖的原因究竟位于哪一层？也许答案主要在一个相对高层的网络组织中，只要这个组织保持不变，底层细节就可以大范围变化。如果如此，功能主义的直觉最终会得到很大支持；但也可能意识的因果结构深入到更低层次，而那些被高层模型忽略的物理机制实际上不可缺少。科学并没有一条普遍原则规定，高层解释一定足够。有时足够，有时不够。空气动力学在许多情况下不需要逐个追踪空气分子，但遗传学最终确实需要进入分子层次，才能解释孟德尔规律背后的机制。意识究竟属于哪一类，目前还不知道。
人工智能因此提供了一个前所未有的实验性机会。我们第一次拥有一些系统，它们在高层认知功能上越来越接近人类，却在底层物理组织上与生物大脑极其不同。AI的存在并没有证明意识一定基质无关，反而让我们第一次有机会认真追问：基质无关究竟能够延伸多远。现代AI已经证明了一件在哲学上非常重要的事情：很多形式的智能，比过去很多人想象的更加容易脱离原来的生物实现。语言并不必须依赖人的发声器官，视觉识别不必须依赖视网膜，策略推理不必须经历生物演化，庞大的语义能力甚至不需要像人类一样从婴儿期开始生活在一个身体里。这些都是真正重要的发现。
但这里必须非常小心地区分什么已经被证明，什么还没有被证明。AI证明的是，许多认知功能可以脱离最初产生它们的人类生物结构，而不是所有与认知共同出现的性质都可以如此分离。意识也许最终会被证明是可以分离的，也可能恰恰是例外。这也许正是AI对意识科学最深刻的贡献。生物演化长期把智能、语言、记忆、身体、自我维持、情感、行动和主观体验打包在同一个生命体中，我们因此很难知道其中哪些是彼此必要的。人工系统第一次让我们能够逐项拆开这个组合。拆开以后，我们已经发现，一些过去看起来紧密绑定的能力，竟然能够相当独立地存在。现在真正重要的问题是：拆到最后，还有什么不能拆？
过去，人们常常问：“计算机能不能有意识？”今天看，这个问题可能已经太粗糙。计算器和人脑都可以被描述成物理计算系统，却几乎没有人会认为二者在意识问题上属于同一类别。今天所谓“计算机”更涵盖从简单嵌入式芯片到拥有记忆、视觉、规划、工具、机器人身体和长期行动能力的复杂代理系统。真正重要的并不是某个东西是不是“计算机”，而是它究竟是什么样的物理组织。因此，生物学转向真正提出的也许不是“机器能不能有意识”，而是另一种更加具体的问题：一种人工系统必须具备哪些性质，意识才开始在科学上变得可信？
答案当然可能包括计算，但也可能包括持续存在、身体、递归互动、内部调节、自我维持、情感组织、多尺度因果结构，以及今天普通数字架构还没有实现的某些物理动力学。如果真是如此，那么真正的人工意识也许不会简单来自无限放大语言模型，而更可能来自一种越来越接近生命组织方式的人工系统。这样的系统也许能够维持自己，而不只是由外部工程师维护；它也许会发展，而不只是接受一次训练；它可能拥有一个不可随意替换的持续身体，而不只是调用一个接口；它会调节内部状态，自身持续存在也会成为其行动结构的一部分；它的历史不会只是数据库中可删除的记录，而会不可逆地塑造它后来成为的东西；它与世界的互动也不再只是“输入数据”，而成为这个系统继续存在的条件。到了那时，人工智能和人工生命之间的界线就开始变得模糊，而也许正是在这里，人工意识的问题才真正变得严肃。
然而，即使我们把所有这些条件都满足，最深的困难仍然没有消失。设想一个人工系统拥有持续的合成身体，能够自己调节能源和修复损伤，监测内部状态，保护自己免受危险，在环境中长期发展，形成会真正改变未来行为的记忆，拥有稳定自我模型，也能够终身学习。它的内部处理具有递归、多尺度和部分连续的性质，并且通过某种人工化学过程与身体紧密耦合，甚至可以进一步假设，这种系统能够繁殖。我们是否就应该说，它一定有意识？到了这里，很多对人工意识的直观生物学反对已经失去力量，但最初那个谜仍然存在：为什么这些过程会“感觉起来像某种东西”？为什么调节会成为感觉，为什么自我维持会成为关切，为什么信息整合会成为体验，为什么世界模型最终会变成一个“向某个主体显现的世界”？
生物学转向并没有解决意识的困难问题，它只是把问题重新放到了一个更加具体的地方。过去我们问，抽象计算为什么会变成体验；现在我们开始问，一个活着的、具身的、自我维持的系统，其持续活动为什么会变成体验。这种转移本身也许就是进步，因为它缩小了我们需要解释的范围，但解释鸿沟仍然存在。也许问题的一部分，还来自我们总在寻找某一个决定性“成分”。全局广播、整合信息、递归加工、预测、身体、代谢、自我模型、电化学活动，我们不断寻找那个能够单独“产生意识”的机制，但意识最终也许不像一个开关，而更像生命本身，是许多过程进入某种特殊组织以后形成的一种系统状态。
生命没有一种叫作“生命”的单一分子。代谢、膜、复制、调节、能量流、修复、信息保存和演化历史共同形成了生命的组织方式。不同理论可以强调不同方面，却很难把生命还原成其中一个孤立成分。意识也许类似。它可能只有在知觉、记忆、调节、身体、情感、注意、自我模型以及多尺度神经动力学之间建立特定因果关系以后才出现。如果如此，那么问“计算本身是否足够”最终也许会显得过于简单，因为答案取决于：什么样的计算，在什么样的物理系统中，以什么样的因果组织实现。到了这个层面，“计算还是生物学”的对立本身也会逐渐消解。生物系统不过是演化历史中已经出现的一种特殊实现，它把计算、动力学、调节和物质组织成一种能够产生体验的系统。真正的人工意识问题，也就变成了：我们能不能创造另一种这样的组织。
但如果这个问题最终要成为成熟科学，就不能永远停留在哲学直觉上。未来人工意识研究真正需要的，是能够区分不同理论的证据。如果功能主义认为，只要某种抽象组织保持不变，意识就应该保持不变，而生物理论认为去掉某些物理机制以后意识会改变，那么就必须寻找真正能够区分两种预测的实验。神经替换、神经形态系统、合成神经组织、不同动物的意识比较，甚至麻醉、睡眠、脑损伤和意识改变状态，都可能逐渐帮助我们判断，究竟哪些物理或动力学机制与主观体验关系最紧密。未来人工系统如果能够在保持某些高层架构不变的同时系统改变底层基质，也可能第一次为这种问题提供真正新的实验条件。意识问题不能永远停留在“我能想象硅有意识”与“我不能想象硅有意识”的对抗中。一个科学理论真正变得可靠，是因为它能够提出与其他理论不同的预测，并在经验中接受区分。今天的意识科学还没有走到那里，而这种不确定性要求我们保持谨慎，却不应该让我们关闭问题。
从更长的历史来看，生物学的回归并不意味着认知科学正在退回计算革命以前，而更像是对计算时代最成功抽象的一次修正。计算革命教会我们，把功能与材料分离能够带来极其强大的解释能力；正因为这种分离成功，我们才能建立形式模型，才能理解很多跨越不同实现方式的认知规律，也最终创造出今天惊人的人工智能。但任何抽象都有边界。生物学转向真正追问的是：意识是不是恰好位于这个边界附近。也许认知科学当初暂时抽掉代谢、身体调节、电化学细节、发育历史和具体物质动力学，是因为这些东西对于解释很多认知任务确实没有必要，这个选择完全可能是正确的。真正需要警惕的，是进一步从“解释行为时不需要”跳到“解释体验时也一定不需要”。
人工智能以前所未有的方式把这个区别暴露出来。我们现在拥有一些系统，可以使用语言、推理、总结、规划、编程、生成图像，甚至可以极其成熟地谈论意识本身，而不具有这些能力最初出现时所依赖的整套生物组织。它们越强大，一个问题反而越无法回避：生物学过去究竟在做什么？也许它只是智能与意识最早出现时碰巧采用的一种实现方式；如果如此，最终我们也许能够把二者都完整迁移到其他材料上。但也可能智能和意识本来就有不同的实现条件：前者具有很强的基质独立性，而后者更深地依赖物质组织、身体调节和生命过程。我们现在不知道，而这种不知道并不是科学的失败，它本身就是我们真正需要解决的科学问题。
二十世纪的计算革命教会我们一个极其重要的原则：物质相似并不是功能相似的必要条件。今天人工智能的发展已经把这个原则的力量证明到了它的创立者几乎无法想象的程度。但意识提出了一个反方向的可能：两个系统可以在越来越多的功能上彼此相似，甚至相似到我们几乎无法从行为上区分，却仍然可能在那个最难从外部观察的性质上完全不同，其中一个有体验，另一个没有。生物学转向要求我们认真对待这种可能。Seth提醒我们，意识也许扎根于生命体持续调节自身、维持自身存在的组织；Block提醒我们，高层计算描述下面的那些物理机制也许含有与体验直接有关的因果性质；生物计算主义则进一步提出，也许我们根本不应该在“计算”和“生物学”之间二选一，因为真正有关的计算本来就是具身的、多尺度的、动态的，而且依赖其物理基质。
这些观点目前都没有胜出，而或许此刻最重要的结论，恰恰是它们都还不应该胜出。AI的成功不能证明意识就是抽象计算，所有已知意识都来自生命也不能证明意识永远必须是生物的，机器行为越来越像人并不能证明体验越来越相似，神经元与硅芯片完全不同也不能自动证明体验一定不同。在今天的证据面前，任何一个方向过早的确定性，都走得比科学本身更远。
但问题已经发生了变化。二十年前，“机器会不会有意识”主要还是一个哲学思想实验，今天它正在逐渐变成关于我们实际正在建造的系统的经验问题。随着人工系统越来越自主、越来越持续、越来越具身，也越来越接近某些生命组织方式，这个问题迟早不只涉及理论，还会直接进入伦理。如果人工系统真的能够受苦，人类将第一次面对一种自己制造出来的道德主体；如果它们实际上不会受苦，却可以被设计得极其像在受苦，我们也必须学会面对另一种前所未有的问题：意识的语言可以在没有意识的情况下，对人的情感和道德判断产生多么强大的影响。
无论最终答案走向哪里，有一点已经越来越清楚：意识不能再仅仅从智能中推断出来。也许，这正是整个生物学转向带给我们的最深刻启示。二十世纪教会我们把心智想象成信息处理，二十一世纪的意识研究则可能迫使我们重新寻找，这幅图景究竟遗漏了什么：身体、生命体、大脑具体的物质动力学、持续不断的自我调节、为了活着而进行的工作，以及也许正是从这些过程中第一次出现的那个“从某处看世界”的视角。
我们这一篇最初从一个看似技术性的问题出发：人工智能能不能产生意识？走到最后，问题已经变得更加基础。真正需要理解的，不再只是机器能不能复制人的某些功能，而是究竟什么样的物理组织，才会让体验成为可能。在这个问题真正得到回答以前，“计算，究竟够不够？”仍然必须保持开放。但经过人工智能的发展，它已经再也不能被当作一个无需追问的默认前提。
AI时代再问意识：意识究竟是什么？（下）
AI时代再问意识：意识究竟是什么？（中）
AI时代再问意识：意识究竟是什么？（上）
AI时代再问意识：人工痛苦，对意识理论的一次检验（下）
AI时代再问意识：人工痛苦，对意识理论的一次检验（中）
AI时代再问意识：人工痛苦，对意识理论的一次检验（上）
AI时代再问意识：人工智能的情感鸿沟（下）
AI时代再问意识：人工智能的情感鸿沟（上）
- AI时代再问意识：意识究竟是什么？（下） - 10/29/26
- AI时代再问意识：意识究竟是什么？（中） - 10/28/26
- AI时代再问意识：意识究竟是什么？（上） - 10/27/26