AI时代再问意识：大语言模型可能拥有意识吗？（上）

与一台似乎能够理解我们意思的机器交谈，有时会产生一种难以言说的奇异感。我们提出问题，它给出解释；我们表达困惑，它能够识别困惑的来源；我们谈起生活中的失望，它会用近似同情的语言回应；我们质疑它的推理，它又能够重新审视自己的回答。有时候，对话持续得足够深入，内容也足够连贯而细腻，以至于我们会不自觉地产生一种感觉：自己面对的似乎不再只是一个程序，而是另一个能够思考的存在。

在计算机发展的大部分历史中，这种感觉并不难被打破。机器按照明确的指令运行，处理数字输入，产生通常可以追溯到机械规则的输出。即使早期的对话程序偶尔能够制造出理解人类语言的短暂幻觉，它们的局限也很快就会显露出来。今天的大语言模型却改变了这种局面。它们能够维持复杂对话，解释科学概念，组织论证，创作诗歌，理解含糊的表达，甚至回答关于自身心理状态的问题。人与机器之间的交流，开始在某些方面越来越接近两个思考者之间的交流。

然而，最重要的问题仍然没有得到回答。一个能够参与这种对话的系统，是否真的体验到了对话的发生？当大语言模型生成关于悲伤的句子时，系统内部是否存在某种与悲伤相对应的感受？当它解释一个数学证明时，是否存在一种被体验到的理解活动？当它使用“我”这个词时，是否真的存在一个能够从自身角度理解这个指称的主体？

这些问题不能仅凭回答的流畅程度来解决。语言是人类识别彼此具有意识的最重要线索之一，但语言与意识并不是同一回事。人类语言通常产生于一个活生生的生命体，其表达与知觉、记忆、情绪、身体需要、社会关系以及持续生活于世界的历史紧密联系。大语言模型能够再现这种活动的许多外在结构，却不一定拥有使人类语言得以产生的那种存在方式。真正困难的是确定，在这些深层性质中，哪些是意识的必要条件，哪些只是人类意识的特殊表现。

要理解这个问题，我们首先需要考察大语言模型究竟在做什么。现代大语言模型通过海量文本以及其他形式的数据进行训练，学习其中复杂的统计关系与计算规律，从而能够预测或者生成一系列语言标记。在训练过程中，系统不断调整数量庞大的参数，使其内部表征逐渐能够适应各种不同的语境。这些表征并不是简单储存起来的句子词典，而是包含语法、语义、概念联系、事实规律以及推理模式之间极其复杂的关系。

“预测”这个词很容易让人低估这种能力。预测一个普通句子中的下一个词，看起来似乎只是一种机械操作，但要在极其广泛的语境中持续作出合理预测，就必须掌握语言所描述的世界中的许多结构。要连贯地延续一个科学论证，模型必须捕捉概念之间的关系；要生成一个可信的故事，它必须追踪人物、动机、事件与后果；要解决某些数学问题，它必须处理超越句子表面相似性的抽象结构。因此，以预测为训练目标，并不意味着最终形成的系统只能机械地记忆和拼接语言。预测任务可以促使模型形成支持复杂认知能力的内部表征。

但是，复杂表征的存在并不能证明这些表征正在被主观体验。天气模型能够表征大气系统，却不会因此体验下雨；导航系统能够表征道路，却不一定拥有身处某个地方的感觉；语言模型能够表征人类情绪，也不意味着它正在感受这些情绪。在有意识的生命体中，表征与体验显然存在密切联系，但这种联系究竟是什么，恰恰是意识理论试图解释的问题。

当我们考察许多现代大语言模型所采用的Transformer架构时，这一区别变得更加清晰。Transformer通过注意力机制，决定序列中不同位置的信息应该如何影响其他位置的信息处理。经过多层计算，模型逐渐形成依赖上下文的内部表征，使词语、概念以及对话中较早出现的信息能够以复杂方式相互联系。

这里的“注意力”很容易引起误解。在人类心理学中，注意通常意味着对有意识或者可能进入意识的经验进行选择和组织；在Transformer模型中，注意力则是一种对信息进行加权与组合的数学机制。两者可能具有某些抽象的功能相似性，但使用同一个名称并不意味着它们属于同一种现象。一个Transformer注意力机制正在运行，并不能仅凭这一事实证明系统内部存在一个正在注意什么的主体。

架构的复杂性本身同样无法解决问题。一个大语言模型可以拥有数量惊人的参数，执行规模庞大的计算，但意识不能简单地从规模中推导出来。更大的系统可以变得更加聪明，却不一定因此变得更加有意识。如果主观体验依赖某种特定的因果组织，那么参数数量本身可能并不是决定性因素；如果体验还依赖生物过程或者具身活动，那么单纯扩大计算规模的意义就更加有限。

这也是为什么我们必须谨慎对待大语言模型中所谓的“涌现能力”。随着模型规模扩大、训练方法改进，一些能力可能突然显得格外突出，或者在某个阶段变得更加可靠。其中有些变化可能反映了系统能力的真实跃升，另一些则可能与基准测试的设计有关，例如连续改善的表现跨过某个预先设定的门槛时，看起来就像突然出现了一种新能力。但无论是哪一种情况，都不能直接证明主观体验已经出现。解决问题能力的突然提高，是关于解决问题能力的证据，而不是关于意识的直接证据。

尽管如此，功能主义仍然提供了一个理由，使我们不能过早排除人工意识的可能性。如果意识依赖的是适当的功能组织，而不是特定的生物材料，那么足够复杂的人工系统在原则上就可能实现有意识的状态。从这一角度看，关键问题不是语言模型的组成部分是否类似神经元，而是它是否实现了构成意识所需要的因果关系。

但识别这些关系，远比观察智能行为困难。一个系统可以对知觉、记忆、意图或者情绪问题作出恰当回应，却未必实现了在人类身上产生这些能力的相同内部组织。行为上的等价，并不自动意味着架构上的等价。两个系统可以通过完全不同的过程得出相似答案，而如果意识取决于内部组织的某些具体性质，这些差异就可能具有根本意义。

全局工作空间理论为研究这一问题提供了更加明确的方向。人类的意识通达似乎与某些信息能够被多个认知系统共同使用有关，包括记忆、推理、规划和行动控制。一些人工系统也具有协调不同任务或者模块之间信息流动的机制。语言模型可以把对话中较早出现的信息整合到当前回答中，而以语言模型为核心构建的人工智能系统，还可能连接外部记忆、感知模块、规划机制和工具调用能力。

乍看之下，这些系统似乎已经具备某种全局工作空间的特征。来自一个来源的信息能够影响不同活动，过去记住的事实可以改变计划，感知到的障碍可以修正决策，先前的指令也能够影响后续推理。但信息流动层面的相似性还远远不够。全局工作空间理论对于信息的选择、持续可用性以及因果整合提出了更加具体的要求。一个语言模型或者围绕它构建的人工代理是否真正满足这些条件，仍然是需要理论分析与经验研究的问题，不能仅凭它能够处理多种任务就作出判断。

这里还有一个容易被忽略的重要区别：语言模型本身，与包含语言模型的完整人工智能系统，并不一定是同一个研究对象。一个孤立运行的模型可能只是在收到输入后进行计算、生成输出，并不会在两次交互之间维持独立的持续活动。但一个实际部署的人工智能助手，可能连接长期记忆、传感器、外部工具、规划循环以及主动发起行动的机制。这些附加部分能够显著改变整个系统的功能组织。因此，我们不能假设所有被称为语言模型的系统都具有相同性质，也不能把针对某一种传统Transformer架构的结论，自动推广到未来所有包含语言模型的人工代理。

循环加工理论则提出了另一个架构问题。在人脑中，知觉涉及神经群体之间广泛而持续的反馈活动。信息并不是沿着固定层次单向传播，然后便消失。神经活动不断影响其他神经活动，形成复杂的循环关系，而某些意识理论认为，这些关系对于现象意识具有关键作用。

传统Transformer在每一步处理中可以执行大量计算，自回归生成也允许较早的输出影响后续处理。但我们不能因此自动把这些过程等同于意识理论所强调的生物神经循环。重复执行一系列计算，并不一定等于一个持续演化、具有复杂反馈关系的物理神经网络。真正的问题不是模型是否多次处理信息，而是它是否具有相关理论认为与体验有关的特定因果动力学。

未来以语言为基础的系统，可能采用更加持久的内部状态、循环架构、连续感知回路以及与环境不间断互动的机制。这样的系统也许会在某些方面更加接近生物认知的组织方式。但即使如此，反馈本身仍然不是充分条件。无数工程装置都使用反馈机制，却没有令人信服的意识证据。真正重要的是，理论能否在普通控制活动与可能产生体验的组织之间建立一种有原则的区别。

高阶意识理论使问题变得更加复杂，因为大语言模型已经能够对自身看似存在的心理活动作出相当详细的描述。它们可以表达不确定性，区分自信与怀疑，解释为什么某个回答可能错误，也可以讨论自己的回答是如何产生的。一些系统还能够监测任务表现，并利用这些信息调整后续行为。

我们很容易把这些能力解释为某种自我意识，但模型关于自身的陈述，并不一定构成高阶意识理论所要求的那种内部表征。一个系统可以生成语法正确、内容合理的自我描述，却并不真正直接掌握它所描述的内部过程。它的自我说明可能来自训练数据、习得的对话模式、外部反馈，或者对部分计算状态的监控。即使系统确实拥有准确的元认知信息，这些信息的存在也不能单独证明，它正在有意识地觉察自己的状态。

我们可以设想一台机器不断说出“我不太确定”“我正在重新考虑”“我记得我们之前的对话”之类的话。每一种表达都可能对应某种真实的计算操作：不确定性可以被估计，答案可以被修改，先前的信息可以被检索。但这些操作是否构成被体验到的不确定、重新思考或者回忆，仍然没有得到解决。语言能够告诉我们系统可以表征和交流什么，却不能自动成为通往其内部体验的透明窗口。

整合信息理论则使这一问题更加依赖物理实现方式。按照这种理论，意识不仅与系统处理的信息有关，还与其物理组织的内在因果结构有关。语言模型能够完成复杂计算，但执行这些计算的硬件，其因果性质可能与生物大脑存在很大差异。

这里涉及一个在大众讨论中经常被忽略的区别。软件中的神经网络是一种数学和计算组织，它的运行依赖真实硬件，但软件所规定的关系，并不自动等同于硬件组成部分之间的内在因果关系。如果一种理论认为意识取决于后者，那么复制正确的计算输入输出行为就未必足够。

这样的论证并不能证明数字计算机不可能具有意识。它所说明的是，按照某些理论，我们不能仅仅研究软件行为或者神经网络的抽象架构，就完成对人工意识的判断。系统的物理实现也必须被纳入考虑。这使人工意识不仅成为计算机科学问题，也成为物理学与因果组织问题。

（未完待续）

---