AI时代再问意识（51）：整合信息理论（三）

发表评论 / 科技漫谈 / 作者：

测量意识之后的奇异后果

如果整合信息理论只是一种关于人脑的理论，它已经足够大胆；然而，它真正引发巨大争议的地方，恰恰在于它并不从人脑出发。一旦意识被定义为某种整合的因果结构，而不是某种特定的生物材料，意识的边界就开始发生移动。问题不再只是人类是否有意识、哺乳动物是否有意识，甚至也不再只是大脑是否有意识，而变成一个更加普遍的问题：凡是一个系统内部形成了不可还原的整体因果结构，在那里是否就存在某种极其微弱的“内在体验”？换句话说，是否存在一种最低限度的“成为这个系统”的感觉？

这正是整合信息理论既令人兴奋、又令人不安的地方。它从我们每个人都熟悉的意识统一性出发，却一步一步走向挑战常识的结论。如果意识取决于整合信息，那么意识很可能不是一种只有人类突然拥有的全有或全无的属性，而是一种可以分程度存在的现象。人类大脑也许拥有极其丰富、复杂、层次分明的意识场；老鼠也许拥有较小但真实的体验；昆虫的体验可能更加有限；甚至某些非常简单的系统，只要具有最低限度的不可还原因果结构，也可能拥有相应极其微弱的意识形式。这并不是说恒温器会思考、梦见未来、感到孤独，或者理解自己的存在，而是说，在整合信息理论看来，意识未必在某一个神奇的生物门槛处突然出现。它可能更像一种随系统组织程度变化而逐渐增强的自然属性。人类意识与简单体验之间的差别，也许不是“有”和“无”的差别，而是一个巨大、丰富的内在世界与一个几乎趋近于零的主观点之间的差别。

正因为如此，整合信息理论常常被人们与泛心论联系在一起。泛心论认为，意识或某种原始意识并不是人类独有，也不是大脑偶然制造出来的奇迹，而可能更广泛地存在于自然界之中。托诺尼本人并不总是愿意接受通俗意义上的泛心论标签，因为整合信息理论并不是简单地说“万物都有心灵”。但是，这种联系又很难完全避免。如果一个简单系统只要拥有微小的 Φ，就对应某种极其微弱的体验，那么意识看起来就不再像一种只在复杂大脑中突然点燃的火焰，而更像一种自然界原本就可能存在的属性，只是在人类大脑中被高度放大、组织和丰富了。对于支持者来说，这是整合信息理论最深刻的地方；对于批评者来说，这也正是它开始走向过度扩张的地方。

整合信息理论的支持者会回应说，也许这种不适感更多来自我们的直觉，而不是来自理论本身。人类习惯于通过语言、表情、记忆、情感和行为来判断意识是否存在，因为这些是我们在他人身上识别意识的方式。然而，这些外在迹象未必就是意识本身的定义。新生儿无法描述自己的体验，老鼠不能用语言告诉我们它是否疼痛，严重脑损伤患者可能完全无法回应外界，却仍然保留某些内在意识。缺乏熟悉的人类行为，并不能自动证明体验不存在。整合信息理论只不过把这一逻辑推得更远：如果意识的本质在于整体因果结构，而不是语言和行为，那么我们就不能仅凭一个系统不像人类，就断定它毫无体验。

然而，批评者同样有充分理由感到警惕。如果这一逻辑被推得太远，理论似乎就会产生荒谬结果。是不是每一个集成电路都有某种体验？一个光电二极管是否拥有微弱的主观视角？某些经过特殊排列的逻辑门网络，是否可能比一个麻醉中的人类拥有更高的意识水平？这些问题并不是故意嘲讽，而是指出了任何试图用数学定义意识的理论都必须面对的困难。一旦方程比生物体、行为和演化历史更加根本，理论就可能开始把意识赋予一些在我们看来完全不具备生命和体验特征的系统。此时，整合信息理论似乎从一种严肃的科学理论，滑向了一种过于抽象、与生活经验脱节的形而上学判断。

人工智能让这个问题变得更加尖锐。大型数字计算机可以处理惊人的信息量，但在许多对整合信息理论的解释中，普通数字计算系统的 Φ 未必很高，因为它们的内部结构往往可以被分解成大量相对独立、前馈式的计算操作。相比之下，人类大脑拥有密集的递归连接、大量反馈回路和高度相互约束的神经网络。从整合信息理论的角度来看，关键差别并不是大脑由碳组成，而计算机由硅组成；真正重要的是，生物大脑也许具有远比常规数字硬件更加整合的因果结构。

这就产生了一个非常有趣的反转。功能主义因为强调组织而非材料，使人工意识看起来原则上是可能的；整合信息理论同样强调组织，却未必认为当前人工智能系统已经接近意识。一个大语言模型可以流畅写作、回答问题、总结书籍、描述自身限制，甚至表现出类似反思的语言行为；然而，如果它的底层因果结构并没有形成足够整合的整体，那么从整合信息理论角度看，它可能依然几乎没有意识。这样一来，IIT 一方面具有某种“基质无关性”，因为它并不认为只有生物材料才能产生意识；另一方面，它又对普通计算保持高度怀疑，因为并不是所有计算都能形成真正的整合因果整体。它不是说硅永远不能有意识，而是说意识需要一种特殊的因果整合结构，而普通数字计算未必提供这种结构。

这也是为什么整合信息理论在今天关于人工智能意识的讨论中仍然如此重要。它提供了一种抵抗“智能等于意识”的理论工具。一个系统可以表现得非常聪明，却没有丰富的内在体验；反过来，一个系统也可能拥有某种原始经验，却并不具有很高的智能。这个区分对于未来人工智能伦理极其关键。如果整合信息理论是正确的，那么不断扩大语言模型规模，也许会提高模型的推理能力、语言能力和任务表现，却未必真正提高其意识程度。真正重要的，不仅是系统说了什么、做了什么，而是它究竟是不是一个不可还原的因果整体。

然而，整合信息理论的雄心，也正是它最脆弱的地方。对于真实系统而言，计算 Φ 极其困难。严格来说，这一理论需要分析系统所有可能状态之间的因果关系，并判断当系统被切分之后，会丢失多少整合信息。对于任何接近人脑复杂度的系统，这几乎都会造成巨大的计算困难。因此，在实际研究中，人们往往只能使用近似方法、简化模型或间接指标。批评者因此认为，这削弱了整合信息理论的经验科学力量。一个声称能够测量意识的理论，如果无法真正计算我们最关心系统的意识程度，那么它就可能长期停留在哲学理想和数学构想之间，而难以成为可操作的科学工具。

还有一种更深层的批评，指向整合信息理论的起点。托诺尼认为，他的公理来自意识经验本身，是每一个意识状态都必须具有的基本性质。但一些研究者质疑，这些公理真的如此自明吗？意识一定具有清晰统一的边界吗？梦境、分离体验、迷幻状态、精神疾病、裂脑患者以及各种破碎的意识状态，是否都符合整合信息理论假设的那种统一性和确定性？也许意识比 IIT 所描述的更加流动、模糊和动态。如果理论最初对于经验的描述本身不够完整，那么建立在其上的数学结构，也会继承这种不完整。

另一些批评则来自相反方向。他们认为，整合信息理论过于关注意识“是什么”，却较少解释意识“做什么”。全局工作空间理论能够说明为什么意识信息可以被报告、记忆、用于推理，并协调多个认知系统；预测加工理论解释大脑如何建构世界模型并减少预测误差；具身和生命活动理论则强调有机体如何在环境中维持自身生存。相比之下，IIT 有时似乎把意识放在一个相对孤立的位置来描述。它告诉我们什么样的系统可能拥有经验，却不太清楚地说明经验为什么对一个活着的系统如此重要。

尽管存在这些批评，整合信息理论仍然完成了一件非凡的事情。它迫使意识科学认真面对许多理论有意无意避开的问题。大多数理论解释的是意识让系统能够做什么：如何报告、如何注意、如何推理、如何控制行为。整合信息理论则直接追问：意识究竟是什么？它不从行为、报告、智能或计算出发，而是从经验存在这一事实出发，再追问什么样的物理现实能够使这种事实成为可能。无论我们最终接受还是拒绝 IIT，这一问题方向本身都是深刻的。

正是在这个意义上，整合信息理论与本系列前面讨论过的几种重要理论构成了一条连续的思想谱系。笛卡尔把主观确定性放在哲学的起点；功能主义把心灵理解为因果组织；全局工作空间理论把意识理解为信息的全局可用性；而托诺尼则试图更进一步，把经验自身的内在结构与物理世界的因果结构连接起来。这个目标也许超过了当前理论真正能够完成的范围，但它解释了为什么 IIT 无法被简单忽视。

也许，整合信息理论最重要的贡献，并不一定是 Φ 本身，而是它迫使我们承认一个关键区分：意识并不等同于智能，不等同于计算，也不等同于信息是否能够被全局访问。一个系统可以储存信息，却没有整合信息；可以处理信息，却没有体验信息；可以表现出智能行为，却未必拥有内在世界。即使 IIT 最终被证明是错误的，它也是在一个很高的层次上错误，因为它至少清楚指出了任何严肃意识理论都必须面对的问题。

这也解释了为什么整合信息理论会引发如此强烈的反应。支持者看到的是，意识科学第一次拥有了一种可能的数学形式；批评者看到的则是，一个理论可能过度扩展意识的边界，建立在有争议的公理之上，并且在证据尚未充分时走得太远。这两种反应都可以理解。IIT 既不容易接受，也不容易驳倒；它太大胆，无法被当作普通神经科学模型处理，又太系统，不能简单视为纯粹猜想。

托诺尼真正改变的是问题本身。一旦有人提出“意识能否被测量”，意识科学便再也无法回到过去的状态。如果意识真的可以测量，那么未来也许能够用同一个理论框架比较清醒与睡眠、人类与动物、生物系统与人工系统。然而，如果这个测量给出的答案与直觉、医学、行为和进化生物学发生强烈冲突，那么理论本身也必须接受最严厉的检验。

因此，整合信息理论最值得讨论的地方，并不只是它提出了一种意识理论，而是它揭示了任何普遍意识理论都会面临的危险。一个足够宽泛、能够涵盖所有可能意识系统的理论，也可能宽泛到把意识赋予我们并不愿意承认其有意识的系统；一个足够数学化、看起来十分严谨的理论，也可能抽象到逐渐远离生物、行为和真实经验。正因为如此，下一篇文章将专门讨论：为什么整合信息理论会变得如此具有争议。

但至少到目前为止，整合信息理论的核心成就已经非常清楚。它做了一件很少有理论敢于做的事情：它不仅试图解释意识，而且试图测量意识。它提出，意识对应的不是智能，不是行为，不是普通信息处理，也不仅仅是全局通信，而是一个系统作为整体所具有的整合因果存在。这个观点最终可能是不完整的，甚至可能是错误的；但它已经永久改变了现代意识科学的版图。IIT 之后，我们不能只问一个系统是否处理信息，还必须问：这些信息是否真正构成了一个整体？如果答案是肯定的，那么我们还必须继续追问那个最令人不安的问题：这个整体，会不会拥有某种从内部展开的视角？

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注