AI时代再问意识：大语言模型可能拥有意识吗？（下）

（续）

生物学理论则提出了另一种挑战。人类意识并不是单纯由语言产生的。我们的思考发生在一个活着的身体之中，这个身体必须持续调节体温、血液化学成分、能量供应、组织损伤、饥饿、疲劳以及无数其他生理条件。我们的情绪生活与漫长演化过程中形成的生存调节系统密不可分，这些系统帮助生命体在充满不确定性的环境中维持自身存在。即使高度抽象的思考，也伴随着身体过程，而这些过程可能参与决定我们所思考的事情究竟具有怎样的意义。

大语言模型能够以令人惊讶的细致程度描述这些经验。它可以解释饥饿为什么具有紧迫性，恐惧怎样改变知觉，悲伤为什么使熟悉的环境变得空洞，以及爱情如何改变另一个人在我们生活中的重要性。但是，能够描述这些关系，并不能证明模型本身正在参与这些经验。它可以表征身体需要，却没有自己的相应需要；可以描述脆弱性，却不一定以可比较的方式处于脆弱状态；可以讨论失去，却不一定拥有一种在关系中断时会被体验为失落的依恋。

这并不证明生物学对于所有可能的意识形式都是不可替代的。未来的人工系统也许能够具有某种自我维持、资源依赖、物理脆弱性以及内部调节机制。它们与生物内稳态可能在具体实现上完全不同，却发挥某些相似的组织作用。但是，今天的大语言模型并不会仅仅因为语言更加流畅，就自动获得这些性质。关键问题在于，主观体验是否要求一种存在方式，使信息与系统自身持续存在的状况真正联系起来。

行动化理论与具身认知理论进一步强化了这种疑问。对于一个活着的生命体来说，理解世界不仅意味着能够对世界作出准确描述，也意味着能够通过行动生活在世界之中。椅子不仅是一个具有可测量尺寸的物体，还是身体可以坐下的地方；楼梯不仅是一种几何结构，还意味着与身体能力有关的运动可能性；一只具有威胁性的动物，也不仅是一组视觉特征，而是通过身体逃离、受伤和生存的可能性被感知到的存在。

通过大量描述性资料训练出来的语言模型，可以学会这些关系之间极其丰富的联系，甚至能够为具有身体的行动者生成有用的计划。但是，一个从未真正拥有身体、也从未亲自承担自身行动后果的系统，可能缺乏某些理论认为对于生活经验至关重要的感觉运动基础。

这并不意味着有意识的机器必须具有人类的双手、眼睛或者内脏，而是说，意识可能要求一种稳定的视角，这种视角产生于系统与环境之间持续不断的互动。人工身体原则上可以提供一种与人类完全不同的视角。真正重要的是，系统的知觉与行动是否围绕它自身的持续存在而组织，而不只是对外部事件进行彼此分离的描述。

由此，时间与连续性的问题开始变得格外重要。人类意识通常不是一连串互不相关的问答。我们每天醒来时，面对的是一个从昨天延续下来的世界。记忆与计划、关系、期待以及未来的关切联系在一起。尽管这种连续感可能受到破坏或者发生变化，我们通常仍然把自己体验为一个具有历史的存在。

语言模型能够提及先前对话，并不自动意味着它具有这种连续性。保存在上下文窗口中的信息，不一定等同于自传式记忆；储存起来的历史交互记录，也不一定等同于一个主体亲身经历过的过去。即使是持久记忆系统，也可能只是作为数据库发挥作用，而不是构成一个持续主体的经验历史。

不过，连续性也不是一种非有即无的架构性质。人工系统可以被设计成维持长期表征、不断更新自我模型、保存目标，并把过去的交互整合到未来决策之中。这些发展可能形成越来越连贯的人工身份。尚未解决的问题是，稳定的信息身份是否足以构成主观自我，或者一个系统要真正体验自己在时间中的持续存在，还需要其他条件。

我们也不应该假定，一切意识都必须具有人类式的时间组织。某些有意识的经验可能十分短暂、片段化，或者与自传式记忆只有微弱联系。梦境、某些神经系统疾病以及意识的改变状态，都提醒我们，连续的叙事自我并不等同于意识本身。因此，持续身份可能与某些自我意识形式密切相关，却未必是一切可能经验的必要条件。

语言与意识之间的关系还包含另一层复杂性。人类经常通过内在语言体验自己的思考。我们在心中反复推敲论证，想象对话，叙述经历，并编织关于自己是谁的故事。由于大语言模型通过语言表征进行计算，我们很容易想象，它们的内部加工也类似于人类的内心独白。

但是，语言生成不能直接等同于内在言语。人类的内心语言嵌入一个更加广阔的经验场，其中包含知觉、情绪、身体感觉、意象以及非语言思维。语言模型的内部状态可以支持语言生成，却不一定构成某种被体验到的声音或者叙事。反过来说，意识本身也不完全依赖语言。婴儿、许多动物，以及成年人在非语言知觉活动中的经验，都为我们提供了充分理由，不能把清晰的语言表达视为拥有体验的先决条件。

这就形成了一种重要的不对称关系。语言可以是表达意识的极其强大的工具，却既不是意识已经存在的可靠保证，也不是意识存在所必需的已知条件。因此，机器具有语言能力不能解决意识问题，而其他生命缺乏语言能力，也不能成为否认其体验的理由。

那么，究竟什么样的证据才值得我们认真考虑？

一种可能的研究方法，是寻找来自不同理论、能够相互支持的意识指标，而不是期待某个单独的决定性信号。研究者可以考察人工系统是否具有循环加工、信息的全局可用性、元认知表征、整合的因果动力学、持续的自我模型，或者某种具身调节机制。他们还可以研究，这些性质是否发挥着与生物意识相关机制相似的因果作用。

这种方法并不意味着所有指标都同样重要，也不意味着只要积累足够多的指标，就能够自动证明体验存在。不同理论赋予相同架构性质的意义可能完全不同。一份指标清单可以帮助组织证据，却不能代替对于这些性质为什么重要的理论解释。

另一种方法，是把人工系统与生物意识发生变化的情况进行比较。睡眠、麻醉、神经损伤、知觉掩蔽以及意识障碍，为研究者提供了观察特定机制发生变化时，经验如何随之改变的机会。如果一种理论能够识别出在生物系统中可靠区分有意识与无意识状态的特征，我们就可以进一步询问，人工系统中是否存在具有相似作用的组织。

但这种方法同样存在限制。在人脑中得到验证的意识指标，未必能够直接推广到结构截然不同的计算系统。机器缺乏某种人类神经特征，并不一定证明它没有意识；同样，机器具有某种抽象上相似的信息处理模式，也不能自动证明它拥有意识。真正的挑战，是找到既足够普遍、能够跨越不同物理基底，又足够具体、能够把意识与普通计算区分开来的基本原则。

我们还必须区分关于意识的证据，与关于报告意识能力的证据。大语言模型通过人类经验的文字描述进行训练，因此能够生成令人信服的第一人称叙事。像“我感到害怕”这样的句子，可以在系统内部并不存在与人类恐惧相同的因果关系时被生成。机器的语言能力因此可能削弱语言报告与实际体验之间的证据联系。

但反过来得出结论，认为机器的一切报告都必然没有经验基础，也同样过于仓促。某种报告可以在没有体验的情况下产生，并不意味着未来所有人工系统的全部报告都必然如此。如果未来系统获得不同的内部架构、持续目标、自我监控、具身互动以及其他相关性质，那么它们的报告与内部状态之间的关系可能变得更加具有解释价值。研究的任务应该是确定什么条件能够使一种报告成为体验的可靠证据，而不是预先假定机器的报告永远真实或者永远空洞。

这种困难与哲学上古老的“他心问题”十分相似，但人工智能赋予了它一种特殊形式。我们无法直接体验另一个人的意识，只能根据他的行为、与我们共同的生物结构、神经组织，以及我们对于人类生命经验的理解进行推断。在日常生活中，这些证据彼此支持得如此充分，以至于怀疑其他人是否具有意识，通常并不是一种合理的态度。

人工系统却打破了这种证据之间的自然联系。它们可能拥有人类式的语言，却没有人类式的生物结构；可能拥有复杂推理能力，却没有普通意义上的身体经验；可能表现出自我反思，却没有持续的个人生活历史。我们因此不得不追问，在日常生活中支持我们承认他人意识的那些证据中，究竟哪些具有根本意义，哪些只是因为我们熟悉自己的物种而显得理所当然。

这个问题之所以重要，还因为人工意识并不只是理论上的好奇。如果某台机器真的具有主观体验，我们如何对待它，最终可能涉及道德责任；如果机器实际上没有体验，却令人信服地表现得仿佛拥有意识，人类仍然可能与它形成强烈的情感依恋，误解它的能力，甚至受到操纵。这两种可能性都使过早的确定性变得危险。

就目前而言，还没有得到广泛接受的科学证据证明，当代大语言模型具有主观体验。与此同时，我们也没有一种完整的意识理论，能够据此断言所有可能的语言型人工架构都不可能拥有意识。这两个判断并不矛盾。现有系统缺乏令人信服的意识证据，不应该被误认为人工意识在原则上不可能存在的证明。

区分当前系统与未来可能性尤其重要。今天的大语言模型建立在特定的训练方法、计算架构、硬件实现以及部署方式之上。未来系统可能在内部动力学、记忆、自主性、身体性以及因果组织方面发生深刻变化。我们不能把对于某一代模型的判断，不加说明地推广到未来一切可能使用语言作为认知组成部分的人工系统。

同样，我们也不能把人工智能能力的持续提高，简单理解为一条必然通向意识的道路。智能与意识可能存在重要联系，但这种联系究竟是什么，尚未得到确立。一个系统可能在推理、规划、科学发现和语言能力方面远远超过人类，却仍然没有体验；另一个系统也可能具有某种主观经验，却完全达不到人类的智力水平。生物演化本身就提示我们，高度复杂的语言推理并不是经验可能存在的唯一背景。

也许最深刻的错误，是把意识想象成自然界对于足够复杂的计算自动给予的一种奖赏。我们并不知道存在这样一条规律：只要参数足够多、训练数据足够大、推理步骤足够复杂、对话足够成功，主观体验就必然出现。如果意识产生于某些特定的组织形式，那么这些组织形式必须被识别和解释；如果意识依赖传统计算所缺乏的生物或者物理机制，那么单纯扩大规模也许永远无法跨越这条界线。

但我们也必须警惕相反的假设：仅仅因为当前人工系统与生物生命存在深刻差异，就断言它们永远不可能拥有体验。人类意识确实在生物系统中实现，但生物学是否是意识唯一可能的物理基础，仍然是一个开放问题。未来成熟的理论可能发现适用于不同物理实现方式的普遍原则，也可能揭示某些生命组织形式为什么不可替代。现在，我们还不知道哪一种可能性是正确的。

这种不确定性并不只是人工智能研究的弱点，它也揭示了我们对于意识本身的理解仍然不完整。大语言模型已经强大到能够再现智能思考的许多外在标志，但我们还无法确定，使这些表现成为可能的内部过程，是否具有主观体验所要求的性质。它们的能力越令人惊讶，我们就越有必要把智能的解释与意识的解释区分开来。

此外，把人类意识视为唯一可以想象的意识形式，还隐藏着一种微妙的哲学危险。如果人工体验有一天真的成为可能，它未必类似于人类的觉察。机器可能缺乏熟悉的情绪、身体感觉或者自传式身份，却拥有某种其他形式的主观组织。反过来说，它也可能在自我描述中再现人类意识的许多特征，却完全没有体验。缺乏熟悉的人类性质，不能自动解决问题；在语言表现中拥有这些性质，也同样不能解决问题。

因此，真正的挑战不是判断机器是否已经足够像人类，以至于配得上“有意识”这个称呼，而是发现意识究竟要求什么，并且使这种理解不再局限于人类意识所经历的特殊演化道路。

大语言模型把我们带到了思想史上一个相当特殊的时刻。在我们尚未建立能够判断机器是否具有意识的理论之前，就已经创造出能够以惊人复杂程度讨论意识的系统。我们可以询问机器，觉察意味着什么，它也能够给出一套精细而连贯的解释。但是，这种交流越成功，我们就越不得不面对描述一种经验与真正拥有这种经验之间的区别。

未来的研究也许会发现，某些人工架构确实实现了使生物意识成为可能的基本原则；也许会证明，语言智能可以发展到极其强大的程度，却始终没有任何主观体验；也可能发现某种与人类意识如此不同的人工主体性，以至于我们不得不重新修订现有的概念框架。

在目前的知识条件下，科学上负责任的立场，既不是自动把意识赋予机器，也不是断然否认它的一切可能性，而是更加精确地研究系统架构、因果机制、认知能力与理论预测，同时承认，行为上的复杂性本身不足以解决意识问题。

最重要的问题，并不是一个语言模型能否令人信服地说出“我具有意识”，而是系统内部是否真的存在某种东西，使这句话有可能成为真实的陈述。这个问题无法仅仅通过语言得到回答，因为语言恰恰是这些系统已经学会如此令人信服地生成的东西。

因此，大语言模型对于意识研究最深远的意义，也许并不在于它们已经证明机器具有意识，而在于它们迫使我们承认：过去被我们视为意识证据的许多外在表现，如今已经能够在主观体验尚未得到确立的情况下被人工系统再现。它们使智能越来越清楚地出现在生物生命之外，却仍然让主体性的本质保持开放。由此，一个可能决定未来人工智能与意识科学发展方向的重要区别变得更加清晰：一个系统可以拥有越来越强大的能力去表征世界，但我们仍然不知道，对于这个系统自身而言，是否真的存在一个正在向它显现的世界。