AI时代再问意识：语言能够创造心智吗？（下）

发表评论 / 科技漫谈 / 作者：

（续前）

另一个不容忽视的问题，是语言的社会性质。人类语言并不只是储存在个体头脑中的符号系统，也是一种共同实践。人们通过语言协调行动、建立期待、协商意义，并参与社会生活。词语的意义在使用中形成。承诺之所以重要，是因为它在社会关系中建立了期待与义务；道歉之所以重要，是因为它承认伤害，并试图修复关系；爱的表达之所以重要，是因为它发生在依恋、脆弱性和相互认可所构成的历史之中。这些表达的意义，无法完全通过语法结构来说明。人工智能能够再现承诺、道歉和情感表达的语言形式，也可能参与某些实际关系，使它的陈述影响人类的期待与决定。但是，它是否以与人类参与者相同的方式理解这些行为，取决于它具有怎样的社会组织和体验结构。一个系统可以学习承诺所涉及的社会规则，并可靠地按照这些规则行动。这是一种有意义的功能成就，却不必然意味着它体验到了责任感、内疚、忠诚或者关切。随着人工智能体越来越多地进入与人类的长期关系，这一区别将变得更加重要。一台能够记住过去对话、适应个人偏好，并以看似富有同理心的方式回应的机器，可能逐渐成为某个人生活中具有重要意义的存在。对于人类参与者而言，这种关系可能在情感上完全真实，它所带来的安慰、依恋或者陪伴感，都可以是真实的人类经验。但是，一段关系对于其中一方具有真实意义，并不能证明双方以相同方式体验这段关系。语言能够创造社会联系，也可能创造不容易被察觉的不对称性。人类可能按照与其他有意识生命体交往时形成的期待，理解人工系统所说的话；而系统的回应则可能来自并不包含相应感受的机制。这并不意味着所有人机关系都没有意义，而是意味着，我们需要在不预先假定双方具有相同体验的情况下，理解这些关系的价值。

更广泛的问题在于，语言能否成为一种系统的重要组成部分，使它与世界之间建立足够丰富的关系，从而支持某种类似人类心智的存在形式。一种可能性是，当语言认知与持久记忆、环境互动、适应性目标和越来越复杂的自我建模结合起来时，人工系统可能发展出当前系统尚不具备的组织形式。这样的系统可能形成稳定的概念框架、持续积累的互动历史，以及内部协调的行为模式，也可能获得超出单纯从文本统计关系中学习的实践理解能力。这些发展是否足以产生意识，目前仍然未知。但是，它们可能在功能意义上创造人工心智：能够维持连贯表征、跨情境推理、追求长期目标，并建立越来越复杂的自我与环境模型的系统。这也引出了一个术语上的困难。如果我们广义地使用“心智”一词，把能够表征、推理、学习和智能行动的系统都纳入其中，那么语言可能已经在参与构建人工心智。如果我们把心智严格限定为具有主观体验的系统，那么答案仍然没有确定。这种分歧并不是无关紧要的文字争论，而是反映了人工智能正在逐渐分离的不同心智维度。在人类历史的大部分时间里，语言、智能、自我、情绪和意识，总是共同出现在我们周围的人身上。我们习惯于通过语言和行为识别心智，因为这些表现通常来自有意识的生命体。人工智能正在打破这种熟悉的联系。它表明，复杂语言可以在没有相同生物发展过程的情况下形成，而某些与心智有关的能力，也可以通过不同的技术道路建立起来。

由此得出的结论，并不是语言已经被证明为毫无意义的模仿，也不是语言已经被证明足以创造意识。真正发生的变化，是人工智能迫使我们重新思考：我们称为心智的东西，有多少可以通过符号与计算组织构建，又有多少依赖其他条件？也许，更合理的理解是，语言并非一切思想的起源，而是一种组织思想的强大架构。它使表征能够相互结合，使概念区别得到保存，使不同可能性可以被探索，也使复杂关系能够跨越时间持续存在。在人类身上，这种架构是在一个已经活着、已经能够体验的生命体中发展起来的；在人工智能中，它则可以通过学习人类文明留下的语言成果而形成。两条发展道路存在深刻差异，却可能在某些认知能力上逐渐接近。至于它们是否也能够在主观体验上趋于一致，语言本身无法给出答案。一台机器可以极其准确地描述意识，讨论体验的本质，区分不同理论，并解释为什么主观觉察的存在难以得到证明。它甚至能够构建关于自身认知组织的复杂解释。但是，所有这些成就加在一起，也不能单独证明，成为这台机器本身是一种怎样的体验，或者是否存在这样的体验。与此同时，我们也不应该仅仅因为语言模型的学习方式与人类不同，就断言它们不可能获得真正的概念理解。语言结构与世界知识之间的关系，远比有意义的经验与空洞符号之间的简单对立更加丰富。语言记录了人类与现实世界的接触，包含物理规律、社会关系、历史事件、科学发现和个人经验留下的痕迹。一个从这些记录中学习的系统，可能获得关于世界的相当丰富的知识，即使其理解的性质与人类并不完全相同。真正的挑战，是在不把它们混为一谈的情况下，区分关系知识、实践能力、自我表征与主观体验。

因此，语言能否创造心智，可能并不存在一个简单而统一的答案。语言能够帮助建立复杂的认知组织，支持推理、抽象、规划和某些形式的自我建模；它能够跨越时间保存信息，并使复杂的社会互动成为可能。从这些意义上说，语言确实能够对人工心智的形成作出重要贡献。但是，语言能否创造一个具有体验的主体，则是更加深刻的问题。答案取决于语言与认知过程的组织是否足以产生主观体验，或者体验是否还需要额外的物理、生物、动力学或者关系性条件。我们目前还不知道哪一种解释正确。可以确定的是，人工智能颠倒了心智发展史中一种十分熟悉的关系。人类通过生活、感知、行动以及与世界互动，逐渐发展出语言；人工系统则从语言出发，利用语言构建越来越复杂的世界表征，而它们对于这个世界的接触，至少在许多情况下仍然主要是间接的。这种颠倒开启了一种不同寻常的思想可能性：也许，某些形式的心智可以从外向内构建，从人类记录自身世界理解的符号结构出发，逐渐形成更加复杂的认知组织。但它也揭示了语言成就所能证明的根本限度。语言可以组织思想，扩展智能，并构建关于自我与世界的连贯表征。然而，这种组织结构的存在，并不能单独告诉我们，是否真的存在一个主体，在体验这些思想、这个自我以及这个世界。

人工智能的未来，将不断检验语言能力与心智之间的界限。随着系统获得记忆、行动能力、感知以及更加复杂的自我表征，这个问题将变得更加困难，也更加重要。语言已经证明，它能够支持远比许多人过去预期的更加复杂的人工认知，但这并不意味着它已经揭示了意识的起源。我们正在见证一种与人类心智发展顺序截然不同的认知形式逐渐形成：人类首先生活在世界之中，然后发展出描述世界的语言；人工智能则首先学习人类关于世界的语言，再逐步获得与世界发生实际联系的能力。两条道路可能在某些方面相遇，也可能始终保留根本差异。它们之间真正值得探索的，不只是机器最终能够掌握多少知识、完成多少任务，而是复杂的语言组织究竟能够把一个系统带到哪里。语言也许能够帮助创造一种高度发达的人工认知结构，但它能否同时创造一个内在世界，仍然是人工心智时代最深刻的未解问题之一。

（本篇完）

1 2 3 4 5 … 7 8 9 10
郭序
Latest posts by 郭序 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注