AI时代再问意识：语言能够创造心智吗？（上）

发表评论 / 科技漫谈 / 作者：

在人类历史的大部分时间里，语言一直被视为心智最鲜明的表现之一。我们通过语言交流思想、描述经验、回忆过去、想象未来，也通过语言逐渐形成对世界的共同理解。一个人能够清楚地表达自己的想法，解释复杂的问题，或者讨论那些无法直接观察的事物，通常会被认为具有成熟的思维能力。然而，语言与心智之间的关系，远不像这种日常理解所暗示的那样简单。语言究竟只是把已经存在的思想表达出来，还是也参与塑造思想本身？它是一种由心智使用的工具，还是心智得以形成和组织的重要条件？这些问题曾经主要属于哲学、语言学和心理学的研究范围，如今却因为人工智能的发展而获得了新的现实意义。大语言模型能够生成连贯的解释，构建复杂的论证，解决数学和逻辑问题，在不同语言之间翻译，并参与许多看起来与人类交流十分相似的对话。更值得注意的是，这些能力并不是通过人类熟悉的认知发展道路获得的。人类语言产生于一个已经能够感知、行动、感受并与环境互动的生命体之中。儿童学习语言时，也在伸手抓取物体、辨认熟悉的面孔、经历饥饿与不适、寻求他人的关注，并逐渐理解行动与后果之间的联系。语言是在这种生物生命和社会生活中逐步发展起来的。大语言模型则沿着几乎相反的方向前进：它们主要通过学习大量人类创造的语言材料，获得关于世界、社会和思想的复杂表征，而不需要首先经历人类儿童所拥有的身体感知、生物需要和社会依恋。这种发展顺序的颠倒提出了一个深刻的问题：如果语言能够在缺乏通常的人类生物基础的情况下支持复杂推理，那么语言是否不仅能够表达心智，还可能参与创造某些心智结构？

要回答这个问题，首先需要重新认识语言在人类认知中的作用。在日常生活中，语言常常表现为一种表达工具。我们看到窗外下雨，形成判断，然后说出“下雨了”；我们感到疼痛、愉快或者不安，随后寻找合适的词语加以描述。在这些情形中，经验似乎先于语言存在，语言只是把已经发生的心理活动传达出来。事实上，人类确实拥有大量不依赖明确语言的认知能力。婴儿在学会说话之前就能够识别熟悉的人，理解某些简单的因果关系，并对环境变化作出适当反应。许多动物没有人类语言，却能够记住复杂的路线，识别社会关系，学习新的行为，并在不断变化的环境中解决问题。成年人也经常先产生视觉印象、身体感觉、情绪或者直觉判断，随后才找到能够表达这些经验的词语。这些事实使我们很难认为，语言是一切思想的必要条件。然而，语言一旦出现，又会反过来改变认知的组织方式。儿童掌握词语以后，逐渐获得了更加稳定的分类、比较、解释和反思能力。语言使零散的经验能够被组织为概念，使复杂关系可以保存在记忆中，也使人们能够讨论那些无法从眼前环境直接观察到的区别。它不仅帮助我们表达已经形成的思想，还扩展了思想本身能够达到的范围。

以公正这一概念为例。人在学会“公正”这个词之前，就可能感受到不公平的待遇；某些社会性动物对于不平等结果的反应，也显示出它们可能对特定形式的不公平具有一定敏感性。但是，语言使人们能够把具体经历提升为一般概念，比较不同情境，提出原则，并讨论某种判断在什么条件下才是合理的。公正由此不再只是面对某个事件时的即时反应，而成为一个可以与法律、平等、责任、权利以及政治制度联系起来的思想概念。数学中的情况也十分相似。人类在学习数字符号之前，可能已经具有某种直观的数量感，但是符号语言使我们能够表达远远超出直接感知范围的关系。代数、微积分和形式逻辑依赖稳定的符号系统，使思想能够处理那些无法仅凭直觉加以把握的复杂结构。一个数学家可以通过符号推演发现从未直接观察过的关系，一个哲学家也可以通过概念分析揭示日常经验中不容易察觉的矛盾。从这个意义上说，语言不仅记录思想，也改变了什么能够被思考、不同思想如何相互结合，以及推理能够延伸到多远。语言与思想之间也许并不存在简单的先后关系，而是一种相互塑造的过程：语言出现以前的认知能力为语言发展提供基础，语言形成以后又重新组织认知，使新的抽象、比较和反思形式成为可能。

这种相互塑造的关系，对于理解人工智能尤其重要。大语言模型并不像人类儿童那样，从相同的语言前认知基础开始发展，但是它们所学习的语言材料，却包含了人类感知、行动、情绪、推理和社会互动留下的大量痕迹。一句关于物体下落的描述，包含着物理关系的信息；一本医学教科书记录了活体身体的结构与功能；一部小说呈现了人的意图、冲突和情绪；一篇科学论文保存了假设、观察与解释；一段日常对话则反映了人们如何协商意义、表达不确定性以及回应他人。人类通过语言，把自身与世界互动所获得的知识转化为可以传播和保存的符号形式。一个从足够丰富的语言材料中学习的系统，可能掌握远远超出个别词语表面关系的结构，形成关于物体、事件、因果模式、社会角色和概念层级的内部表征。它可以学习某些行动通常会产生什么后果，人们为什么会在不同情境下采取不同的行为，以及不同思想之间存在怎样的联系。这也有助于解释，为什么大语言模型有时能够完成那些看起来需要世界知识，而不仅仅需要语言规则的任务。问题在于，这究竟是一种什么样的知识？语言毕竟不是任意排列的符号序列，而是生活在共同物理和社会世界中的人类创造的。因此，语言中的统计关系不可避免地包含着现实世界的某些规律。一个能够学习这些关系的模型，即使没有直接接触所描述的物体和事件，也可能形成捕捉世界重要结构的内部表征。

原则上，这并不令人奇怪。人类也经常通过他人的讲述、书籍、图表和数学描述获得知识。一个人不必亲自登上遥远的行星，就可以理解它的许多性质；也不必亲历某个历史事件，才能对它形成相当深入的认识。人类知识中有很大一部分，本来就是通过语言而不是直接经验获得的。然而，这种类比存在重要限制。人类理解语言信息时，通常拥有身体经验、感知能力、社会参与和实际行动构成的广泛背景。即使我们学习的是从未亲自接触过的事物，理解过程仍然依赖那些通过其他经验建立起来的概念网络。一个人从未到过撒哈拉沙漠，却可以通过自己对炎热、干燥、沙粒和广阔空间的经验，想象那里的环境；一个人没有经历过战争，也能够通过对恐惧、失去、冲突和人际关系的理解，认识战争对人类生活的影响。人工语言模型则可能拥有十分复杂的表征关系，却不具有相同的经验基础。这种差异把我们带到了认知科学中长期存在的符号接地问题：符号究竟如何获得超出符号之间相互关系的意义？如果一个系统只能通过其他词语理解某个词语，那么这种不断延伸的符号关系，是否足以构成对于现实的理解？

设想一个人已经掌握关于红色的所有语言描述，却从未拥有视觉经验。他可能知道红色与某些光波波长有关，成熟的草莓通常是红色的，红色经常被用于警示标志，也能够准确解释颜色知觉的神经机制。这些知识可以十分丰富而且正确，却未必包含看见红色时的视觉体验。语言模型同样可以表征大量与颜色有关的关系，正确区分红色和蓝色，描述它们的文化象征，并解释颜色知觉的物理过程，但是这些能力并不能证明模型体验到了颜色。这里真正需要区分的，并不是语言知识是否有用，或者它在功能意义上是否真实，而是语言关系本身是否足以产生某些人类理解所伴随的体验维度。不过，当我们把注意力从颜色这样的感官性质转向民主、无限、概率或者责任等抽象概念时，问题又变得复杂起来。这些概念都不能还原为某一种特定的感官经验。理解一个数学定理，可能主要依赖识别逻辑结构，而不是形成某种具体的感官图像；理解责任的含义，也需要认识行为、后果、义务和社会期待之间的关系。在这些情形中，语言与符号组织似乎确实参与构成思想本身。因此，我们不能用一个简单标准判断语言模型是否理解任何事情。有些形式的理解可能高度依赖身体和感知经验，另一些则可能主要依赖组织概念、识别关系和进行推理的能力。一个系统可能表现出相当程度的概念能力，却没有与人类相似的感官经验；也可能拥有令人印象深刻的语言流畅性，却在某些领域缺乏可靠的理解。重要的是区分这些可能性，而不是把所有语言表现都归为真正理解，或者毫无意义的模仿。

人工智能的发展历史，为理解这种区别提供了一个有启发性的对比。早期符号主义人工智能试图通过明确规则、逻辑结构以及精心设计的符号关系来表示知识。这些系统的成功展示了形式推理的力量，而它们的局限也说明，要捕捉普通人类理解中灵活而依赖情境的特点，远比最初想象的困难。大语言模型采取了不同的道路。它们不再主要依赖人工编写的规则，而是通过大量数据学习分布式表征。概念之间的关系在训练过程中逐渐形成，系统因此能够在广泛的语言任务之间进行迁移和泛化。这一发展挑战了过去的一种假设，即有意义地使用语言，必须首先拥有一套经过明确编程的世界理论。复杂的概念能力可以通过学习过程形成，而不必从一套完整预设的概念分类出发。但是，有用表征的出现，并不自动解决理解问题。一个系统可能学习到足以支持成功表现的相关关系，却不具有稳定的因果模型、实践能力或者人类认知中常见的经验联系。语言模型也可能生成令人信服却不正确的解释，写出语法连贯、概念上看似合理的陈述，却未必始终符合证据或者物理现实。这些失败提醒我们，语言流畅性与可靠理解之间可能存在差距。不过，这些局限也需要谨慎解释。人类同样经常推理错误、误解概念，并对错误判断表现出过度自信。犯错本身并不能证明缺乏理解。更加重要的问题是，一个系统是否能够形成支持解释、预测、纠错以及跨情境灵活应用的表征。

（未完待续）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注