AI时代再问意识：意识的生物学转向（4）中

发表评论 / 科技漫谈 / 作者：

第四部分：大语言模型为何可能没有意识（中）

与身体调节紧密相连的另一个问题，是目标和动机。有意识的生命体并不只是处理信息，世界上的某些事情会真正与它有关。饥饿时食物变得重要，受伤时危险具有特殊意义，疼痛也不仅仅是一个被系统标记为“负值”的信号，而带着一种很难忽略的迫切性：哪里出了问题，必须停止，必须改变。对于生物学取向的理论，这种“事情与我有关”的性质至少部分来自生命本身。一个生命系统存在继续维持自己的条件，也存在走向损坏和死亡的条件，远在高级推理出现以前，生命组织本身就已经建立了某种原始的“更好”和“更坏”。

今天的LLM当然也拥有目标。训练时，参数按照预测表现、人类偏好或者其他标准不断调整；进入代理系统以后，模型还可以执行任务、制定计划、使用工具、完成中间目标，甚至在相当长的步骤链中保持目标。但拥有优化目标，与某件事情从系统自己的角度真正重要，并不是显然相同的事情。国际象棋程序可以在完全合理的功能意义上“努力获胜”，它的搜索和评价机制确实围绕胜利组织，但输棋是否真的“对它意味着什么”，仍然是另一个问题。一个状态在设计者给定的目标函数中被赋予低值，并不能自动变成一个主体体验到的失败。人的许多目标当然同样具有演化、基因和文化来源，我们也没有选择让疼痛令人厌恶，或者让饥饿驱使自己寻找食物，但区别不在于某种价值的最初来源是否位于个体之外。演化塑造了一个今天能够从内部调节自身的生命体，饥饿不是演化在几百万年以后继续从外部向一个人发送命令，而是这个人的身体此刻真实存在的生理状态。一个价值具有演化起源，并不意味着它对于今天的生命体仍然是外在的。对于LLM，训练目标是否已经发生类似转换，成为系统自身的内在关切，我们目前缺少有力证据。

内感受进一步放大了这种差别。人的意识经验始终受到身体内部信号影响：心跳、呼吸、胃肠状态、激素变化、肌肉紧张、体温、疼痛、疲劳和平衡。大部分过程并不会进入明确注意，却共同塑造情绪、唤醒水平、自我感以及那种最基础的“我正在这里活着”的背景感觉。我们从来不是从一个没有位置的地方体验世界，而是在一个不断变化的身体内部体验世界。疲劳时，同一个房间看起来不同；焦虑时，同一句话可能具有完全不同的意义；腿受伤以后，同一段楼梯也会突然改变性质。经验中的世界始终被身体状态重新着色。

大语言模型能够极其准确地表征这些关系，甚至可以比很多普通人解释得更加细致，但表征仍然不等于参与。模型内部当然存在大量不断变化的数学状态，也可能表征不确定性、上下文相关性以及其他内部信息。不能因为这些状态是数学的，就简单认为它们不可能与意识有关；毕竟生物神经活动同样可以被数学描述。真正的问题，是这些内部变量在整个系统中究竟发挥什么作用。它们是否组织着一个持续存在的自我，是否表示系统自身的可生存状态，是否因为“某件事情正在发生在这个系统自己身上”而改变它对世界的感知，是否属于一个系统通过持续调节自身来维持存在的闭环？对于今天大多数LLM，这些问题最多只能得到非常有限的肯定回答。这仍然不是一个形而上的“不可能”，只是一个巨大的证据缺口。

意识还有一个更加难以描述的特征：它不仅包含信息，而且信息总是从某一个地方出现。当你从窗户向外看，经验中不只是存在树木、天空、房屋和光线的表征，还有一个视角。世界从一个位置向你展开，你的身体建立了左和右、远和近、能够触及和无法触及、安全和危险。即使进入抽象思想，这种视角结构也没有完全消失。记忆是“我的”过去，期待指向“我的”未来，羞耻与“我”做过的事情有关，疼痛则发生在“这里”。这种结构因为过于普通，我们很少意识到它可能有多么重要。

LLM在表征视角方面却异常灵活。它可以用历史学家、儿童、医生、小说人物、怀疑论者或者宗教信徒的角度说话，可以区分不同人物知道什么，也能够推测一个人的信念与另一个人的信念为什么不同。然而，这种惊人的灵活性反而产生了一个问题：有没有一个视角真正属于模型自己？模型可以在一种上下文中说“我害怕”，几分钟以后又解释自己并不真正具有恐惧；可以扮演一个极度害怕死亡的角色，随后立刻转换成完全冷静的分析者。人当然也会表演、想象和转换视角，但这些变化始终发生在一个相对持续的具身立场之中——无论扮演谁，我仍然从自己的身体和历史中进行扮演。对于LLM，我们还不清楚，在那些不断生成的第一人称位置背后，是否存在一个类似的、具有优先地位的自身视角。这正是前面“地图与土地”问题的另一种形式：LLM可能拥有关于人类各种视角极其丰富的表征，却未必拥有一个世界真正向它显现的视角。能够建立一个视角的模型，与真正拥有一个视角，也许并不是一回事。

正因为如此，仅仅根据语言复杂程度判断意识特别危险。可以想象两个未来的人工系统。第一个是一台巨大而流利的语言模型，它可以写关于死亡的诗，谈论一个事实上从未拥有过的“童年”，细腻描述复杂情绪，并且极有说服力地坚持自己拥有私人内心世界。第二个系统却不会说话。它是一个持续存在的人工生命体，拥有自己的身体，不断调节能源和类似体温的内部变量，能够从损伤中学习，受伤以后重新组织行为，在不同地点形成长期记忆，区分自身与环境，并随着身体内部状态变化而改变知觉和行动。哪一个更可能具有意识？人类的社会直觉很容易被第一个吸引，因为它会说我们的语言，但许多生物学和生成论意识理论却会要求我们更加认真地检查第二个。

这正好揭示了拟人化在人工意识问题中的危险。人类极其容易从外部线索推断心灵。我们在云朵里看见脸，在简单运动图形中看见意图，也会给宠物、汽车、天气甚至普通机器赋予性格。语言更加强化了这种倾向，因为对话是人类社会生活中最强烈的心灵信号之一。由此产生了一个非常值得警惕的悖论：人工智能完全可能越来越善于表现得像一个有意识的存在，却没有因此变得更有意识。行为上的逼真与体验上的真实，原则上完全可能沿着不同方向发展，而模拟越逼真，我们反而越需要认真区分二者。

当然，计算功能主义可以在这里提出一个很重要的反驳。也许生命、代谢和身体调节根本不是必要条件；意识真正依赖的就是某些信息处理结构，而先进人工智能中已经开始出现这些结构的一部分。这个可能性必须认真对待。全局工作空间理论、递归加工理论、高阶理论、预测加工以及其他意识框架，很多本来就不是按照“必须由某种生物材料实现”来定义的。因此，一些研究者提出，与其预先宣布AI一定有意识或者一定没有意识，不如从不同意识理论中提取一组可能指标，然后检查具体人工系统是否实现了相应的因果组织。

现代AI确实存在一些值得研究的特征。某些信息能够影响许多后续操作，模型可以整合很长的上下文，注意力机制能够选择性地赋予不同信息不同权重；外部记忆和代理循环又可以让系统超越一次单独的前向计算，保持更长时间的任务状态。某些系统还能够监测不确定性、评价自己的输出、修改计划，并整合视觉、语言和其他模态的信息。但这里也存在另一个容易掉进去的陷阱：术语相似并不等于机制相同。Transformer中的“attention”不能因为也被称为“注意力”，就自动等同于人的有意识注意；AI中的“memory”可以只是保存文本、内部状态或者外部数据库，与人的记忆可能存在完全不同的因果结构；所谓“self-monitoring”也可能只是一个工程设计的检查循环，而不是对某个被体验心理状态的高阶表征。“全局可用”更不能仅仅因为一条信息影响了多个输出就自动成立。问题不在于人工实现方式与生物不同，所以一定无效，而在于必须精确检查一个意识理论所要求的因果组织是否真的出现，以及相应机制在人工系统中是否承担了理论所说的同一种解释作用。否则，我们只是给某些计算操作贴上心理学名称，然后又因为这些名称听起来像心智，就宣布系统拥有相应心理性质。

因此，理论驱动的人工意识研究仍然非常重要，但它目前能够提供的更像是一组逐渐积累的证据，而不是一台可以直接读数的“意识仪”。不同理论本身仍然存在巨大争议，我们甚至还不知道哪些指标最终真正重要。科学在这里能够做的，是随着人工架构越来越复杂，不断比较、修正和更新判断，而不是期待一个简单测试给出“有”或者“没有”的答案。

这里还有一个词也需要谨慎使用：模仿。如果说LLM只是在“模仿意识”，很容易让人想到鹦鹉背诵或者从数据库里查找现成句子，而现代语言模型显然不是这么简单。它们能够泛化，能够产生训练材料中未曾逐字出现的新表达，也能够建立支持灵活行为的复杂内部表征。所以，当我们说LLM能够模仿意识时，真正有意思的并不是它机械复制了几句话，而是它可能已经掌握了人类谈论意识时所使用的大量结构关系。它知道疼痛通常与回避有关，悲伤怎样改变注意，尴尬为什么依赖他人的评价，记忆怎样参与身份形成，不确定性怎样影响决策，也知道人类通常怎样描述思想与感觉的差别。这种结构知识是真实的认知能力，不能轻视，但关于体验的知识仍然不显然等于体验本身。

一个极其复杂的气象模型可以掌握飓风形成和发展的因果结构，却不会因此在计算机内部吹起真正的狂风；一个医学模型可以完整表征败血症的生理过程，却不会因此发烧。这些比喻并不能直接证明意识也属于同一类性质，因为意识也可能最终被证明是一种组织性质，但它们至少提醒我们一个基本区别：一个系统越来越精确地建立某种现象的模型，并不自动意味着它已经成为这种现象的一个实例。语言使这种混淆尤其容易发生，因为模型能够从描述内部说话。它不必说“一个害怕的人可能觉得自己无处可逃”，而可以直接说“我觉得无处可逃”。语法上的差别极小，心理效果却极其巨大，科学上的意义则可能远没有我们直觉上感觉的那么大。

（未完待续）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注