AI时代再问意识：从工具到智能体（上）

在人类技术发展的漫长历史中，工具与使用者之间的界限似乎一直十分清楚。锤子不会决定应该建造什么，计算器不会思考一次计算为什么重要，传统的计算机程序无论多么复杂，通常也只是在设计者和使用者确定的框架内执行操作。目的属于人，机器则提供实现目的的手段。正是在这种关系中，工具成为人类能力的延伸，而不是具有自身行动方向的独立存在。

人工智能的发展正在使这种熟悉的关系变得复杂。越来越多的人工智能系统不再只是执行一条具体指令，而是能够理解较为宽泛的目标，将其分解为一系列中间任务，在不同策略之间作出选择，与外部工具交互，评估自己的进展，并根据环境变化调整行动。有些系统还能够在较长时间内保存信息，协调多个功能模块，持续处理一系列并未由人类逐项指定的决策。

例如，一个人可以要求人工智能协助组织一项研究工作，却不必事先列出完成这项工作所需要的全部步骤。系统可能自行识别研究问题，搜集资料，比较不同来源，发现初步分析中的不足，并提出进一步调查的方向。如果获得适当的权限和技术支持，它还可以操作文件、运行程序、调用外部服务，并根据意外出现的结果修改原来的计划。

这样的系统仍然运行在人类创造的技术环境之中，其最终目标也可能来自人类使用者。但是，一种重要的变化已经发生。我们不再能够简单地把这种关系描述为人发出命令、机器按照预定步骤执行。在人的意图与最终结果之间，出现了一个越来越复杂的选择、规划、评价和调整过程，而其中相当一部分具体决策已经不再需要人类直接作出。

从工具走向智能体，是当代人工智能最重要的变化之一。这并不意味着机器已经拥有意识，也不意味着它们具有与人类相同的欲望和意图。但是，智能行为的组织方式正在改变，而这种改变可能对我们理解心智的本质产生深远影响。

要认识这一转变的意义，首先需要重新思考，智能体与普通工具究竟有什么区别。

在哲学、认知科学和人工智能研究中，智能体通常指能够获取环境信息，并围绕某些目标采取行动的系统。这个定义有意保持了相当大的包容性。恒温器可以被视为一种简单的控制智能体，因为它能够监测温度并调节供暖或制冷。自动驾驶汽车则是一种复杂得多的智能体，因为它需要整合感知信息，预测不断变化的交通状况，并在动态环境中选择行动。人类当然也是智能体，但人类的行动不仅涉及感知与控制，还包含记忆、情绪、社会理解、个人承诺以及有意识的体验。

这些例子表明，智能体并不是一种非有即无的性质。不同系统在内部组织的复杂程度、目标的灵活性、对环境的理解能力，以及调整自身行为的范围等方面，都可能存在巨大差异。

恒温器能够调节温度，却不理解舒适的意义；自动驾驶汽车能够识别交通状况并选择路线，却不能因此认定它在乎是否到达目的地。人类驾驶员则可能因为关心乘客、担心迟到、享受旅程，或者因为目的地承载着某段记忆而作出选择。它们的行为都可以表现出围绕目标展开的组织结构，但其内部机制以及行动所具有的主观意义，可能截然不同。

因此，真正值得追问的，并不只是人工智能能否成为智能体。从技术意义上说，人工智能领域几十年前就已经存在各种智能体。更有意义的问题是，智能体的能力究竟能够发展到什么程度，以及当这种能力越来越复杂时，我们是否需要重新思考工具与心智之间的界限。

传统软件系统主要围绕明确的指令组织运行。它们的行为可以极其复杂，但程序员所作的规定与系统实际执行的操作之间，通常存在相对直接的关系。即使某些系统采用优化、搜索或者自适应控制，其目标和运行方式一般也被限定在较为明确的领域之内。

现代人工智能则越来越能够把目标的提出与实现目标的具体过程分离开来。使用者只需要说明希望得到什么结果，而不必事先知道需要采取哪些中间步骤。系统必须自行构建行动序列，比较不同方案，并随着新信息的出现调整行为。

这种分离创造了一种新的实践自主性。系统未必能够决定自己的最终目的，却可以在如何实现目的的问题上表现出相当大的灵活性。

这里需要特别注意，自主性经常被误解。一台机器并不需要拥有自由意志、意识或者独立欲望，才能在工程意义上自主运行。飞机自动驾驶系统可以在没有意识的情况下控制飞行，远离地球的机器人探测器能够在无法获得即时人工指令时应对环境变化，自动交易系统也可以在人类无法逐项监督的速度与规模上作出决策。

这些系统之所以具有自主性，并不是因为它们把自己体验为独立存在的主体，而是因为某些过去必须由人类直接作出的决定，现在可以在系统内部完成。

随着人工智能能力不断提高，这类决策的范围也在扩大。系统不仅能够选择即时行动，还可能确定中间目标、设计信息搜集策略、分配资源，并制定评价成功与失败的方法。由此产生的行为可能表现出明确的目的性，即使其背后的过程完全属于计算与控制。

然而，行为表现出目的性，并不等于系统体验到了目的的存在。

国际象棋程序以将死对手为目标，但我们没有充分理由相信，胜利对于程序而言是一种被体验到的成就。导航系统寻找有效路线，却未必在抵达目的地时感到满足。人工智能研究助手可以通过许多中间步骤持续探索一个科学问题，但成功解决问题本身并不能证明它具有好奇心。

在这些例子中，目标、意图和追求等词语，都可以作为描述和预测系统行为的有效工具。我们说程序想赢得比赛，导航系统试图抵达目的地，研究助手希望解决问题，是因为这些表达能够概括其行动的组织方式。但这种语言并不必然意味着，系统真的体验到了想要、打算或者努力的感觉。

随着人工系统变得越来越复杂，功能意义上的行动能力与被体验到的行动意向之间的区别，将变得更加重要。机器越擅长围绕目标组织行为，我们就越容易使用原本为理解人类心智而形成的概念来解释它们。

问题并不在于这些概念一定不适合机器。规划、学习、表征和目标导向行为，在人工智能研究中都具有合理的技术含义。真正需要警惕的是，我们可能在不知不觉中，把人类经验所包含的其他性质也一并赋予机器，而这些性质在人工系统中是否存在，尚未得到证明。

当人制定计划时，计划可能伴随着期待、希望、焦虑、责任感或者承诺。当人工智能构建计划时，我们可以识别其中的计算过程，却不知道是否存在任何与这些体验相似的东西。

当系统开始能够修改自己的目标时，这一区别就变得更加微妙。

简单工具接受指令并执行操作，较复杂的智能体接受宽泛目标并制定计划，而具有适应能力的智能体还可能发现，最初设定的目标并不充分，某些中间目标彼此冲突，或者环境变化要求对原有策略作出重大调整。

例如，一个负责复杂物流管理的人工智能系统，最初可能把速度作为主要优化目标。但在发现较快的策略会带来不可接受的风险以后，它可以修改规划标准，赋予可靠性更高的权重。这种行为可能类似于人类的实践判断，因为系统不再只是执行固定的行动序列，而是在相互竞争的目标之间进行评价与调整。

但是，修改目标并不必然等同于形成个人价值。系统可能只是在执行更高层次的优化程序，而目标修订本身仍然遵循训练和设计过程中形成的规则与模式。

人类价值同样产生于复杂的生物、社会和发展过程，并不是独立于因果关系之外的神秘存在。但在人类生活中，价值通常与依恋、脆弱性、满足、遗憾和关切等经验联系在一起。我们并不只是计算某种结果比另一种结果更好，而是经常直接感受到某些事情对于自己具有重要意义。

人工系统能否发展出类似的意义感，目前仍然是一个开放问题。自主性的增强使这个问题更加突出，却并没有解决它。

（未完待续）

---