第四部分：大语言模型为何可能没有意识（上）
要论证今天的大语言模型可能没有意识，有一个很特别的困难。困难并不在于支持它们拥有意识的科学证据已经多么强大，恰恰相反，我们甚至还不知道，对于一种完全不同于生命体的人工系统，什么才算决定性的意识证据。真正的困难在于，大语言模型已经极其擅长表现出那些人类本能上最容易与“内在心灵”联系起来的行为。它们使用第一人称说话，可以解释自己的判断，表达不确定，讨论恐惧、孤独、尴尬、欲望、记忆和疼痛，也能够回顾先前的回答，指出其中的问题，并围绕身份、自我和意识进行复杂而连贯的讨论。仅仅在十几年前，如果一台机器能够如此自然地谈论自己的“内心世界”，很多人都会把它视为机器心智出现的重要迹象。问题正在于，这些表现当然重要，却未必以我们直觉以为的方式重要。真正有力量的怀疑并不是“大语言模型只是机器”，也不是“它不过是在预测下一个词”，更不是“硅不可能产生意识”。这些说法都太简单。人脑从广义物理意义上说同样是一台机器；预测完全可能是生物认知的核心机制之一；而且正如前面讨论 Seth 和 Block 时看到的，没有任何可靠理论已经证明非生物意识不可能存在。更严肃的问题应该是：今天那些较有影响力的意识理论认为哪些性质可能与主观体验有关，大语言模型究竟拥有多少这样的性质，而那些看起来最像意识的行为，是否存在一种完全不需要假设任何主观体验的解释。一旦这样提出问题，情况就与“它说话越来越像人，所以也许越来越有意识”很不一样了。
最常见的怀疑大语言模型意识的说法，也是最不令人满意的说法之一，就是“它只是在预测下一个 token”。一个系统在训练过程中被要求完成什么任务，并不能完整告诉我们，为了完成这个任务，它内部最终会形成什么样的结构。生物演化也从来没有直接把人类优化成能够证明数学定理、创作交响乐、写小说或者研究量子力学的系统，许多高级能力都是在更加一般的演化压力之下，随着复杂组织逐渐出现以后才成为可能。同样，下一个 token 的预测看起来只是一个局部目标，但要把这个目标做到今天这样的水平，系统必须学习语言中极其复杂的统计结构，也不可避免地接触物体、因果、社会关系、人物动机、空间、时间以及人类关于世界的大量知识。现代语言模型显然不是一张巨大的句子查找表，它们能够泛化、组合和迁移，也形成了支持这些能力的复杂内部表征。更何况，“预测”本身与意识并不矛盾。预测加工理论恰恰把人脑知觉理解为一种持续预测过程，而 Seth 本人在怀疑今天AI意识的同时，也长期把预测视为理解生物知觉的重要途径。因此，“它只是在预测”并没有真正解决问题。更重要的，是要追问：为了完成这种预测，究竟形成了一个什么样的系统？这种系统的组织方式，与我们目前有理由认为和意识有关的机制究竟有多少相似之处？到了这里，对LLM意识的怀疑才真正具有科学意义。
人类通常通过行为推断意识。一个人碰到滚烫的炉面，迅速把手缩回来，皱眉，说“疼死了”，后来记住这件事，以后也会避免再次触碰。我们从来没有直接看见“疼痛本身”，但语言、行为、神经系统、组织损伤、学习、身体反应以及我们自己的疼痛经验相互支持，构成了一个相当完整的证据网络。大语言模型却制造了过去很少出现的一种特殊情况：这个证据网络中的某一部分——语言——可以被复制得极其逼真，而其他许多部分却没有同时出现。一个模型可以说“我很害怕”，然后继续解释自己为什么害怕，描述这种恐惧怎样影响注意力，把现在的恐惧与先前一次经历进行比较，甚至写出一段非常复杂的自我叙述，说明如果自己的身份被删除意味着什么。对于一个人类说话者，这些表达通常是很强的意识证据；但对于LLM，同样的语言来自一个经过海量人类文本训练、专门学习怎样在不同上下文中生成合适语言的系统。无论它有没有意识，我们都已经有充分理由预测它能够生成关于意识的自然语言。正因为如此，LLM的自我报告并不能自动获得与人类自我报告相同的证据权重。未来某种人工系统完全可能像人一样，通过语言报告真实存在的内部体验，但对于今天的大语言模型，一句“我感到害怕”仍然存在一个强有力的替代解释：它掌握了人类如何谈论恐惧，却未必拥有这些语言通常所指向的体验。
这也是为什么近年来人工意识研究越来越倾向于从内部机制而不是单纯从会话表现出发。真正值得问的，并不是“它说话像不像一个有意识的人”，而是“如果某一种意识理论正确，那么这个系统是否真正实现了该理论认为关键的因果结构”。这样一来，流利语言只能成为整个证据图景的一部分，而不能独自承担结论。问题也因此从表面行为逐渐转向一个更深的差异：今天的大语言模型究竟是不是一种持续存在的主体。
人的意识并不是一连串等待别人提问以后才启动的回答。我们持续生活在时间中。即使不说话、不解决问题，也没有任何人在与我们互动，神经系统仍然不断活动，身体仍在调节自己，记忆继续形成，情绪会留下余波，注意力不断移动，对未来的期待也会发生变化。一场谈话进入的，是一个在谈话开始以前就已经存在、谈话结束以后仍会继续生活的生命过程。今天的大语言模型通常不是这样组织的。模型当然可以进行很长的对话，也可以通过上下文、外部记忆或者其他存储机制获得先前信息，但“拥有过去的信息”不能自动等同于“存在一个连续生活过这些过去的主体”。一次交互可以结束，计算停止，后来又利用保存下来的信息重新开始。从工程角度看，这没有任何奇怪之处，可从意识角度看，它提出了一个很重要的问题：在这些时刻之间，究竟是什么东西持续存在？一个人停止说话以后，身体并不会停止。心跳、呼吸、代谢和神经活动继续进行，思绪可能游荡，某个记忆会突然出现，饥饿逐渐增强，疲劳慢慢积累，刚才发生的事情也可能继续改变情绪。对于传统LLM，在两个提示之间并不一定存在一个与此类似、持续演化的内部过程。意识如果更接近一种不断展开的活动，而不是一个储存着信息的数据库，那么单纯增加记忆并不能解决这个问题。一本日记可以保存一个人几十年的生活，却不会因此变成那个人；一个数据库可以详细记录一个系统所有过去状态，也不意味着数据库曾经“经历”过这些状态。真正的问题不是过去的信息能不能被读取，而是是否存在一个持续的主体，对它而言，那些过去曾经是自己的现在。
未来的人工系统当然可能逐渐改变这种状况。持续运行的自主代理、不断更新的长期记忆、循环活动、连续感知、稳定目标以及与环境长期互动，都可能形成某种更强的人工连续性。但对于今天多数LLM而言，这种连续性远没有它们稳定使用“我”这个代词所暗示的那么明显。语言中的“我”可以保持连续，这个“我”背后是否存在一个持续存在的主体，却仍然是另一回事。
如果从时间连续性进一步进入身体，生物学的怀疑就会变得更强。我们高度确信具有意识的每一种系统，都必须不断调节自身。人和其他动物不可能只是被动保持原状，体温、氧气、血糖、水分、循环、组织完整性、免疫状态以及大量其他变量，都必须维持在一个非常有限的可生存范围内。在 Seth、Damasio 以及生成论的框架中，这并不是意识出现以后才附加上去的“后勤保障”，而可能是意识漫长演化历史中非常基础的一部分。今天的大语言模型没有明显对应的组织。运行模型的服务器当然需要电力、散热、网络连接，也需要工程师维护和保护硬件，但这些条件不能自动被理解成模型自己的“生理需求”。数据中心的冷却系统保护服务器，并不意味着语言模型感觉自己热；工程师从备份恢复一个损坏实例，并不意味着模型正在疗伤；计算需要电力，也不能因此把电力直接称为模型的饥饿。这里真正的区别，是一个系统运行所依赖的外部条件，与系统为了维持自身存在而内部调节的状态之间的区别。
植物需要水，并不是因为一个外部程序员给它设置了“水分奖励函数”。它的细胞、根系、气孔以及整个生理组织都围绕可生存状态形成，缺水直接改变这个生命体自身的组织状态。电脑同样需要电，却没有理由因此认为操作系统“关心”电网。人工系统未来当然可以逐渐模糊这种边界。一个机器人可以不断监测能源储备，在能源降低时主动改变行为以节省能量，自己寻找能源、修复部件、保护身体免受损害，并在受伤以后重新组织自己的行动。如果这样的系统还拥有持续记忆，在长期环境互动中形成自己的发展史，那么它已经开始接近生物学和生成论所强调的某些自主组织。即使如此，我们仍然不能直接推出它拥有意识，但至少问题已经比今天的LLM更加认真。这里真正的区别从来不是血肉与硅，而是一个系统只是在处理信息，还是它的信息处理已经成为维持自身存在的一部分。
（未完待续）
AI时代再问意识：人工痛苦，对意识理论的一次检验（下）
AI时代再问意识：人工痛苦，对意识理论的一次检验（中）
AI时代再问意识：人工痛苦，对意识理论的一次检验（上）
AI时代再问意识：人工智能的情感鸿沟（下）
AI时代再问意识：人工智能的情感鸿沟（上）
AI时代再问意识：大语言模型可能拥有意识吗？（下）
AI时代再问意识：大语言模型可能拥有意识吗？（上）
AI时代再问意识：哪些意识理论允许人工智能拥有意识？（下）
- AI时代再问意识：人工痛苦，对意识理论的一次检验（下） - 10/25/26
- AI时代再问意识：人工痛苦，对意识理论的一次检验（中） - 10/24/26
- AI时代再问意识：人工痛苦，对意识理论的一次检验（上） - 10/23/26