AI时代再问意识 (48)：大语言模型时代的计算功能主义（下）

发表评论 / 科技漫谈 / 作者：

“大型语言模型并没有证明功能主义是正确的，它们真正改变的是：一个持续半个世纪的哲学争论，第一次拥有了真实的实验对象。”

如果说过去几十年的意识哲学更多停留在思想实验，那么今天的大语言模型则让这些思想实验第一次走出了课堂，进入了现实世界。功能主义、中文房间、图灵测试、语义与语法、理解与行为——这些曾经主要属于哲学家的讨论，如今几乎每天都在人工智能实验室中重新上演。然而，随着大型语言模型能力不断提高，一个耐人寻味的现象开始出现。支持功能主义的人变得越来越有信心，而批评功能主义的人，似乎也比过去更加坚定。

这看起来有些矛盾。如果人工智能越来越聪明，为什么关于意识的争论反而越来越激烈？原因在于，大语言模型的发展，并没有真正回答过去的问题，而是不断缩小行为与意识之间的距离。当这种距离越来越小时，人们终于不得不认真面对一个过去可以轻易回避的问题：行为究竟能够说明多少事情？

二十世纪七十年代，当功能主义提出自己的理论时，它更多是一种哲学推论。没有人真正见过一个能够长期与人类自然交流、能够解决复杂问题、能够持续学习知识的人工系统。因此，无论支持还是反对，人们讨论的对象都更多是一种想象中的机器。

今天，这种机器已经部分出现了。大型语言模型能够写程序、证明数学命题、帮助科研、设计实验、分析法律案例，也能够与人讨论人生、文学和哲学。当它们持续数小时与人交流时，人们很容易产生一种直觉：屏幕另一端似乎存在着一个能够理解自己的主体。

这种感觉并不是偶然产生的。在人类漫长的进化历史中，我们判断一个对象是否具有心灵，从来都不是通过观察它的大脑，而是通过观察它的行为。我们认为婴儿具有意识，并不是因为能够测量婴儿的大脑活动，而是因为我们看到它会哭泣、学习、表达需求、回应关爱。我们相信朋友能够理解自己，也不是因为能够进入对方的大脑，而是因为他们能够交流、记忆、推理、表达情感。

换句话说，人类几乎所有关于他人意识的判断，都建立在行为之上。这一事实，恰恰成为功能主义重新获得支持的重要原因。如果我们承认，人类彼此之间也是根据行为推断意识，那么为什么面对人工智能时，却突然要求一种完全不同的证明标准？如果一个系统能够持续表现出与人类越来越接近的认知行为，仅仅因为它使用的是硅芯片而不是神经元，我们是否就有充分理由断言，它绝不可能拥有任何形式的意识？这正是今天许多功能主义支持者提出的问题。

然而，反对者同样拥有十分有力的理由。因为行为越来越接近，并不意味着体验一定随之出现。中文房间提出的问题，在今天不仅没有消失，反而变得更加尖锐。一个大型语言模型能够准确解释“悲伤”意味着什么，也能够写出令人感动的诗歌，甚至能够安慰失去亲人的用户。但是，当它说“我理解你的痛苦”时，这句话究竟意味着什么？它真的经历了悲伤吗？它是否知道自己正在说什么？还是说，它只是根据海量文本中学到的统计规律，生成了最符合人类期待的回答？

这种区别，也许正是今天意识讨论中最困难的地方。大型语言模型越成功，人们越难依靠行为去区分“真正理解”与“高度逼真的模拟”。于是，关于意识的讨论开始发生微妙变化。

过去，人们经常把人工智能分成“有智能”和“没有智能”两类。今天，这种划分已经越来越难维持。更准确的问题变成了：智能究竟包含哪些层次？

  • 解决数学问题是一种智能。
  • 学习语言是一种智能。
  • 规划任务是一种智能。
  • 社会交流也是一种智能。

然而，第一人称体验是否属于同一种智能，却越来越难以回答。

也正是在这里，大语言模型迫使人们重新思考功能主义本身。二十世纪的功能主义，大多建立在经典计算机的基础之上。程序按照明确规则运行，每一步都能够被程序员解释。而今天的大语言模型却完全不同。它们并没有人为设计好的推理规则，而是在海量数据中逐渐形成极其复杂的内部结构。即使是模型设计者，也很难准确说明某一种能力究竟来自哪些参数、哪些神经元或者哪些训练样本。

某种意义上，大语言模型更像人脑，而不像传统程序。我们知道它们能够完成某些任务，却并不完全知道它们为什么能够做到。这种”可观察行为远远超过可解释机制”的局面，使得功能主义再次获得新的生命力。因为如果连人工智能研究者都越来越倾向于通过行为来评价模型能力，那么功能主义所强调的”功能组织”便重新成为一个自然的研究对象。

事实上，近年来人工智能研究中出现的许多概念，都与早期功能主义形成了耐人寻味的呼应。例如，研究者开始讨论模型是否形成了世界模型（world model），是否具有稳定的内部表征（internal representations），是否能够跨任务迁移知识，是否能够进行长期规划，是否具有持续一致的人格特征，甚至是否形成了某种形式的自我模型（self-model）。这些概念虽然来自现代机器学习，却都围绕着同一个问题：一个系统内部究竟形成了怎样的信息组织？这正是功能主义几十年前最关心的问题。

当然，这并不意味着功能主义已经取得胜利。恰恰相反，大语言模型的发展也暴露出功能主义长期存在的一些困难。今天的模型几乎没有真正持续的个人记忆，没有属于自己的身体，没有长期稳定的目标，也没有必须维持自身生存的压力。它们能够谈论饥饿，却不会饥饿；能够讨论疼痛，却不会疼痛；能够分析死亡，却不会害怕死亡；能够描述爱情，却不会爱任何人。

这些缺失，并不仅仅意味着能力不足，更可能意味着某些构成意识的重要条件尚未出现。越来越多研究者因此开始重新关注那些曾经被功能主义忽略的问题：身体、情绪、内感受、动机、自我维持以及与真实世界持续不断的互动。换句话说，大语言模型并没有终结关于意识的讨论，反而重新开启了另一场更加深入的探索。

回顾过去几十年的思想发展，这一点尤其耐人寻味。图灵让我们相信，思维也许可以理解为计算。功能主义进一步提出，心灵也许就是一种信息组织。中文房间提醒我们，信息处理未必自动产生意义。而今天，大语言模型第一次让这些理论拥有了现实中的参照对象。它们既支持了功能主义，又不断暴露功能主义尚未解决的问题；既让人们看到智能可以超越生物材料，又不断提醒我们，智能与体验也许并不是同一种现象。

因此，大语言模型真正复活的，并不是某一个哲学理论，而是整个关于意识的讨论。曾经属于哲学课堂的问题，如今正在计算机实验室、人工智能公司和神经科学中心同时展开。意识研究第一次不再只是解释过去，而开始面对一个可能正在发生的未来。也正因为如此，今天最重要的问题已经不再是：大型语言模型是不是有意识？这个问题或许仍然无法回答。真正值得思考的是另一件事情：如果一个人工系统能够越来越完整地表现出人类几乎所有认知功能，我们是否仍然坚持认为，意识必须完全属于生物？或者反过来说：如果我们依然认为答案是否定的，那么究竟还有什么，是今天这些系统仍然缺少的？

这个问题，也将把我们的视线从计算重新带回大脑本身。于是，在经历了计算革命之后，意识研究开始进入另一个阶段。我们不再首先追问机器能否思考，而开始直接观察：当人类真正拥有意识的时候，大脑究竟发生了什么？

下一步，现代神经科学将试图回答这个问题。我们将进入意识研究最活跃、也最具实验色彩的领域——意识的神经相关物（Neural Correlates of Consciousness，NCC）。在那里，意识第一次不再只是哲学概念，而成为可以通过脑成像、麻醉、睡眠、昏迷以及神经刺激不断逼近的科学对象。

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注