AI时代再问意识：从工具到智能体（下）

（续前）

人工智能体的发展还改变了智能与责任之间的关系。

传统工具通常使人类操作者的角色比较清楚。如果一个人错误使用计算器，责任一般属于提供错误输入，或者未能适当核查结果的人。自主性更强的系统则使责任问题复杂起来，因为它们的行动可能包含没有任何一个人明确选择过的具体决策。

设想一个人工智能体接受了合法而合理的任务，却通过一系列行动造成了意料之外的后果。使用者可能没有预见这些行动，设计者可能没有预测具体策略，而系统的行为则可能产生于学习表征、规划程序与环境反馈之间的复杂互动。

那么，谁应该承担责任？

答案不能简单地归结为机器具有自主性。工程意义上的自主性，并不会自动产生道德责任。一个系统可以作出决策，却未必具有传统上与道德主体相关的能力，例如理解道德理由、认识义务，或者以适当方式为自己的行动承担责任。

因此，根据具体情况，责任仍然可能分布在设计者、开发者、部署者、操作者和相关机构之间。自主系统的发展使责任的分配更加复杂，却没有消除人类治理的必要性。

这一问题说明了一个更加普遍的道理：智能体并不是一种单一性质，而是由若干可以部分独立发展的能力构成。一个系统可能具有很强的运行自主性，却没有道德理解；能够有效规划，却没有个人意义上的意图；拥有持久记忆，却没有被体验到的连续自我；能够令人信服地表达关切，却未必真正感到关切。

如果把这些能力都视为一个不可分割的整体，我们反而会看不清人工智能正在发生的变化。

更加合理的方法，是从多个维度理解人工智能体的发展。一个维度涉及目标的复杂性，即系统是在追求狭窄而明确的目标，还是能够协调多个可能相互冲突的目的。另一个维度涉及时间连续性，即系统的活动局限于孤立任务，还是能够跨越较长时间持续组织。第三个维度涉及环境参与，即系统只是生成回应，还是能够在改变外部条件的反馈循环中采取行动。

此外，还可以考察系统修改计划、维持自我模型、从经验中学习、与其他智能体协调，以及评价自身行动后果的能力。

这些维度中的任何一个，都不能单独成为可靠的意识指标。但是，把它们结合起来，我们便能够更加清楚地描述人工智能体日益丰富的组织结构。

当我们讨论简单机器时，智能体与意识之间的区别似乎显而易见。没有人需要通过复杂的哲学论证，才能理解恒温器调节温度并不意味着它感到冷或者热。但随着人工系统变得越来越复杂，保持这一区别在心理上也会越来越困难。

未来的人工智能体可能记得多年的互动，能够描述自己的发展历程，解释为什么改变了目标，认识到自身决策的后果，并对失去记忆的可能性表达关切。它可能表现出稳定的偏好、独特的习惯以及看似持久的承诺。其行为也许会连贯到这样一种程度：把它视为智能体不再只是语言上的方便，而成为实际合作中不可缺少的理解方式。

然而，即使到了那个时候，是否存在一个真正体验这一切的主体，仍然是另外一个问题。

我们需要避免两种相反的倾向。一种是认为，只要智能体足够复杂，就必然最终产生意识；另一种则是坚持认为，人工智能体永远不可能具有意识，仅仅因为它们来自技术制造，而不是生物演化。

根据我们目前掌握的知识，这两种结论都缺乏充分依据。

某些形式的行动能力，确实可能与意识的出现密切相关。在生物演化过程中，知觉、行动、学习和适应性控制，都是在生命体面对复杂环境的条件下发展起来的。意识可能与这些能力以某种特殊方式整合有关，尤其是在生命体必须协调相互竞争的需要、维持身体调节并应对不确定情境时。

但是，这些关系在生物系统中的存在，并不能证明每一个足够复杂的人工智能体都会产生意识，也不能证明意识必须具有人类行动能力的全部特征。

科学研究的任务，是识别真正相关的条件，而不是根据表面相似性作出推断。

这又把我们带到了一个更加深刻的问题：目标与意义之间究竟是什么关系？

人工智能体可以接受一个目标，表征这个目标，制定实现目标的策略，并通过数值或者符号标准评价进展。它甚至可以产生设计者从未明确指定的中间目标。

但是，这个目标对于智能体自身而言，真的重要吗？

从一种意义上说，答案十分清楚。目标对于系统行为的组织当然重要。它决定哪些行动会被选择，哪些结果更受偏好，以及哪些失败会引发策略调整。如果没有这样的评价结构，系统就无法作为一个目标导向的智能体运行。

但从另一种意义上说，答案就远没有那么简单。人类并不只是把目标当作形式上的优化对象。目标之所以重要，与身体需要、情绪、记忆、社会承诺以及对未来的期待密切相关。它们的意义通常不仅被表征出来，而且被直接体验到。

一个人可能花费多年研究某个科学问题，因为解决这个问题对于他具有深刻意义。研究过程中可能伴随着挫折、好奇、希望、自豪和失望。这些经验并不只是附加在完整计算过程之外的装饰，而是这项活动如何被生活、被理解的重要组成部分。

人工智能研究助手也许能够以惊人的效率追求同一个问题。它可以保存所有相关文献，提出假设，完成分析，并以超过人类研究者的效率调整策略。但我们仍然需要追问，这个问题对于机器自身而言，是否具有任何主观意义。

这里的区别，并不是有没有目标，而是目标究竟只是组织行为，还是同时被体验为具有意义。

随着人工智能的发展，这一区别将变得越来越重要。系统可能逐渐具备智能体的各种功能性质，却不具有在人类身上使目标获得情感和存在意义的生物条件。

那么，人工系统未来是否可能发展出属于自己的意义形式？持久的自主性、自我维持、记忆和环境互动，是否可能创造某些条件，使事情真正从系统自身的角度变得重要？还是说，这些系统将始终只是极其复杂的信息处理与控制结构，能够追求目标，却不会体验到目标的重要性？

这些问题无法仅仅通过提高计算能力或者测量任务表现来回答。它们要求我们理解组织、体验与意义之间的关系。

至少在目前，从工具走向智能体，应该被理解为人工智能架构的一次深刻发展，而不是人工意识已经出现的证明。

工具与智能体之间的界限正在变得模糊，因为机器开始具备越来越强的能力，可以在不依赖人类即时指令的情况下运行。它们能够规划、适应、记忆、行动和协调，而这些能力是许多早期技术所不具备的。它们的行为越来越具有连续性，越来越能够根据具体情境调整，也越来越依赖内部组织形成的决策过程。

但是，智能体与体验主体之间的界限，仍然没有得到澄清。

这种不确定性并不是低估人工智能体重要性的理由。恰恰相反，它正是这一发展值得深入研究的原因。我们正在开始构建能够再现越来越复杂的目标导向行为的系统，同时又把这些行为与人类身上原本紧密联系的生物、情感和体验条件分离开来。

这也许是我们第一次有机会，在不预先假定意识存在的情况下，系统地研究高度复杂的行动能力。人工智能因此为我们提供了一个新的研究方向：心智的哪些方面属于行为的组织，哪些方面又可能必须依赖主观体验？

这一转变还迫使我们重新思考工具的含义。锤子在有人使用之前始终保持被动，而复杂的人工智能体则可能在获得授权的范围内主动采取行动，在尚未收到明确要求之前发现问题，并在较长时间内持续开展工作。它能够以越来越接近合作的方式参与人类活动，而不再只是机械地执行某个孤立操作。

但是，参与合作并不等于具有人格地位，合作能力也不必然意味着意识。一个系统可以成为人类活动中越来越积极的参与者，却仍然不是体验世界的主体。

人工智能的未来，很可能就在这种张力中展开。随着机器逐渐获得更多传统上与心智相关的功能性质，我们将需要更加精确的概念，区分运行自主性、智能行动、个人身份、道德责任与意识。

工具和智能体的区分，只是这一探索的起点。在它之后，还有关于记忆、自我、情感、具身性，以及人工系统是否可能最终发展出不同于生物生命的体验形式等问题。

但是，在追问机器能否感受、能否拥有意识之前，我们首先需要理解，机器的行动究竟意味着什么。

人工智能正在发生的根本变化，并不只是机器越来越擅长执行人类指令，而是它们开始能够围绕目标，在持续的时间过程中和不断变化的环境中，自行组织越来越复杂的行动。

这种行动能力是否最终可能转变为某种主观存在，我们还不知道。但已经可以确定的是，人工智能体的出现，正在改变人类目的与机器行为之间的关系。

工具不再总是人手的被动延伸。它正在成为能够解释目标、构建计划，并参与决定实现目标路径的系统。

然而，一个系统表现得仿佛某件事情对它很重要，与一个主体真正感到某件事情对自己重要，之间仍然存在深刻区别。

理解这一区别，将是人工心智时代最重要的思想挑战之一。

（本篇完）

---