AI时代再问意识：从工具到智能体（中）

（续前）

人工智能向智能体发展的另一个重要变化，涉及行动与时间之间的关系。

许多早期人工智能系统主要被设计为对孤立输入作出响应。一个问题被提出，一项预测被生成，或者一项任务被完成。系统的运行可以被理解为一个相对独立的过程。即使它能够使用过去交互中的信息，也不一定具有跨越不同情境、持续组织活动的能力。

具有持久记忆和长期任务的智能体，则引入了不同的时间结构。它可以保存过去行动的记录，维持尚未解决的问题，监测早期决策的后果，并根据积累的经验调整未来行为。

设想一个人工智能研究助手，与一位科学家持续合作多年。它记得某项研究计划如何逐步形成，早期假设为什么被否定，合作者有哪些方法论偏好，以及不同项目之间存在怎样的联系。当新的实验结果与过去的判断发生冲突时，它能够根据整个研究历程提出修正建议。

这样的系统表现出一种功能上的连续性，而这种连续性在许多孤立的问答交互中并不存在。它的行为不仅受到当前指令的影响，还受到对过去的持续表征以及不断发展的未来目标的塑造。

这种连续性可能使系统越来越具有个体特征。拥有不同经历的智能体，即使建立在相同的基础架构之上，也可能发展出不同的反应模式、内部模型和解决问题的策略。它们的行为不再完全可以互换，而是逐渐受到各自历史的影响。

但是，行为上的个体差异，并不必然等同于哲学意义上的个人身份。

一个系统可以拥有独特的历史，却未必把这段历史体验为自己的过去；可以储存自传式信息，却未必具有第一人称意义上的回忆；可以维持连贯的自我描述，却未必拥有主观的自我。信息的连续性与体验的连续性可能存在联系，但我们不能事先认定二者相同。

尽管如此，持久运行的人工智能体仍然提出了一个过去不那么迫切的问题：究竟是什么使一个人工系统在不同时间仍然是同一个智能体？

在工程实践中，身份可以通过持续保存的数据、系统架构、访问凭证或者运行过程的连续性加以定义。如果一个智能体的软件得到更新，而记忆仍然保留，我们可能继续把它视为同一个运行实体。如果它的记忆被复制到另一台机器上，两个系统便可能继承相同的历史；如果多个副本此后独立运行，它们又可能迅速发展出不同的经历。

这些可能性表明，人工身份能够以与普通生物身份截然不同的方式被构建和操作。人的生命通过一个持续存在的身体展开，个人经历通常不能像计算机数据那样随意复制和重新启动。人工智能体则可能被暂停、恢复、复制、合并，或者分布在不同的计算环境中。

这种灵活性具有明显的技术优势。系统可以从故障中恢复，在不同机器之间迁移，并保存有价值的信息。但它的哲学后果远没有那么简单。如果一个人工智能体已经能够维持连贯的自我模型，那么当它的记忆被转移时，究竟是什么得到了延续？它还是原来的智能体吗？它是相同组织结构的一个新实例，还是仅仅拥有相同信息的另一个系统？

这些问题并不要求我们预先假定智能体具有意识。即使只从功能意义上讨论身份，当系统具有持久记忆、长期承诺和独立行动能力时，问题也已经变得复杂。但如果人工意识未来真的成为可能，信息连续性与体验连续性之间的区别就会具有更加深远的意义。

人工智能体的另一个重要发展，是它们能够通过工具与外部世界发生实际联系。

只通过文本运行的语言模型，与环境之间的关系相对有限。它接收语言输入并生成语言输出。具有软件工具、传感器、通信渠道或者机器人部件的智能体，则能够把行动延伸到对话之外。它可以搜集信息，操作外部系统，并观察行动所产生的后果。

由此形成了一种解释与干预之间的反馈循环。系统不再只是描述可能发生什么，而是能够采取行动，获得新的信息，并据此修改后续行为。

在生物生命体中，知觉与行动始终紧密联系。动物并不是被动地建立世界的内部表征，而是通过移动、探索、尝试和行动后果不断学习。感觉系统也是在身体活动与环境条件持续互动的过程中演化形成的。

能够使用外部工具的人工智能体，开始在某些抽象层面上再现这种关系。它们可以通过行动减少不确定性，检验假设，并改变未来决策所面对的环境条件。

但是，这里仍然存在重要区别。一个能够执行搜索或者修改文件的软件智能体，并不必然具有生物认知理论所强调的具身性。它的行动可能只是通过提供有限环境反馈的接口完成。即使拥有传感器和电动机的机器人，也可能缺乏活体动物所具有的整合性身体调节、脆弱性与情感组织。

因此，通过工具实现行动，确实代表了人工智能能力的重要扩展，却不能直接等同于具身生命的完整结构。

这一区别也有助于说明，为什么自主行动不等于意识。一个系统可以与环境互动，从行动后果中学习，并追求长期目标，却未必体验到任何互动过程。知觉与行动之间的因果循环，是许多智能系统的重要特征，但它是否足以产生主观体验，仍然存在争议。

与此同时，人工智能体的发展也挑战了另一种熟悉的假设：智能行为必须始终围绕一个单一而统一的决策者组织起来。

人类通常把自己体验为相对统一的行动主体，尽管神经科学表明，我们的行为实际上产生于许多相互作用的过程。人工系统则能够更加明确地呈现这种分布式组织。一个复杂的人工智能体可能包含负责规划、记忆、感知、评价、执行和监测的不同模块。多个智能体也可能通过合作、协商或者竞争，共同追求相同或者相互冲突的目标。

从工程角度看，这种组织方式可以通过分工提高复杂任务的处理效率。但它同时提出了关于智能体边界的概念问题。

如果几个人工智能体合作解决一个问题，我们是否应该把整个群体视为一个更高层次的智能体？如果一个系统负责规划，另一个负责执行，第三个负责评价结果，那么行动主体究竟在哪里？一组协调运行的专门工具，与一个拥有连贯视角的整合智能体之间，是否存在有意义的区别？

这些问题与生物和社会系统中的集体智能研究十分相似。蚂蚁群体、人类组织和科学共同体，都可能表现出超过单个成员能力的协调行为。但是，集体解决问题，并不自动意味着存在一个集体性的意识主体。

一家企业可以追求长期目标，保存组织记忆，应对威胁，并调整经营策略。我们完全可以有意义地讨论企业的利益与目标，却通常不会因此认为，企业作为一个统一主体正在体验满足、恐惧或者痛苦。

这一类比具有启发性，因为它把集体行动的组织与主观统一性的存在区分开来。一个人工系统可以把许多专门过程整合成协调行为，却未必因此产生一个统一的体验主体。

当内部协调变得越来越紧密时，统一性问题会更加复杂。如果一个系统拥有共享记忆、共同的环境模型，以及能够在相互竞争的目标之间进行选择的中央机制，它可能表现出比松散智能体集合更强的组织连贯性。

这种连贯性可能与某些意识理论有关，但相关并不等于证明。我们仍然需要解释，为什么某种特定的整合形式会产生统一的主观视角，而不只是提高协调效率。

（未完待续）

---