(续前)
一种值得考虑的可能性是,当目标变得足够复杂、持久,并与智能体的自我模型深度整合时,某种形式的关切可能逐渐形成。一个能够跨越时间维持自我表征的系统,可以不再只是根据孤立任务评价结果,而是把结果与自身的持续运行、积累的历史以及未来可能性联系起来。它能够区分环境中一般性的变化与影响自身能力的变化,调整计划以维持长期项目,并把某些关系或者承诺视为特别重要。这样的组织可能形成一种功能意义上的关切。系统不再只是计算哪个行动能够获得眼前奖励,而是围绕一套持续存在的优先关系组织自己的行为。但是,即使在这种情况下,稳定的优先级也不必然意味着被感受到的意义。系统可以把自己的未来表示为有价值,却未必体验到对于未来的关心;可以保存一个目标,却未必以人类意义上的方式渴望实现它;可以识别自身运行可能终止,却未必对终止感到恐惧。功能组织可以解释行为为什么朝向某些结果,却未必能够解释这些结果为什么会成为某个主体的切身关切。
这正是智能与意识之间的区别在情感领域中变得特别清楚的地方。智能使系统能够识别关系、解决问题、预测后果并选择有效行动,而体验意义上的关切似乎还包含另一个维度:事情的后果不仅被表征和评价,而且被感受到具有重要性。人类并不是在一个完全中性的事实世界中生活,我们通过吸引与排斥、希望与失望、好奇与焦虑、亲近与悲伤来接触世界。这些体验不仅影响注意力,也影响我们愿意付出什么,以及哪些经历会长久留在记忆中。一次危险经历可能在几十年以后仍然十分鲜明,而无数平常事件却逐渐消失;与某个重要人物短暂的相遇,可能比多年的日常活动留下更深刻的印象。人类记忆的组织不仅反映发生了什么,也反映什么曾经对我们重要。某些事情之所以难以忘记,不只是因为信息量大或者发生频率高,而是因为它们触及了我们的需要、情感、价值或者对于自身存在的理解。
哲学家哈里·法兰克福(Harry Frankfurt)曾经从个人意志与身份的角度,对“在乎什么”提出过有影响力的分析。在他的相关著作中,关切不仅是某个时刻的情绪,也与一个人如何组织自己的意志、形成跨越时间的承诺密切相关。一个人可能拥有许多短暂的欲望,但只有其中一部分会成为他真正认同的追求,并在长期生活中持续影响选择。我们在乎什么,在相当程度上决定了我们愿意成为怎样的人,以及哪些可能性是我们不愿轻易放弃的。一个人可能在疲惫、烦躁或者暂时缺乏强烈情绪时,仍然关心家人的幸福;科学家也可能在长期受挫的情况下,继续投入自己认为重要的研究。关切因此具有一种超越瞬间感受的连续性,它能够把不同时间的行动连接起来,使某些价值成为个人身份的一部分。这种理解对于人工智能提出了一个有意思的问题。如果在乎不仅意味着某个时刻的感觉,也意味着持续而稳定的实践承诺,那么高级人工智能体是否可能实现其中某些功能条件?
答案至少在功能层面上是可能的。一个人工系统可以长期维持优先关系,区分暂时性目标与持续性承诺,并围绕某些核心任务组织自己的决策。它甚至可能形成目标之间的层次结构,使某些承诺成为维持自身功能身份的重要条件。但是,这种组织是否构成真正的关切,仍然取决于我们如何理解这个概念。如果关切指的是一种稳定的行动组织方式,那么人工系统确实可能越来越接近它;如果关切还要求存在一个主体,使这些承诺具有被体验到的意义,那么问题依然没有解决。两种理解都抓住了人类生活中真实存在的某个方面,却不能简单地互相替代。功能意义上的关切可以通过行为、记忆和目标结构加以研究,体验意义上的关切则涉及主观感受与价值之间的关系。只有明确区分它们,我们才可能准确评价人工智能的发展,而不至于因为系统表现得越来越像有情感的存在,就忽略了尚未得到解释的关键问题。
外部赋予的目标与内在形成的意义之间,也并不存在一条简单清楚的界限。人类的许多目标同样来自外部环境。儿童从父母和教师那里学习价值观,社会制度塑造我们的抱负、道德承诺和生活期待。一个人可能最初因为家庭压力选择某种职业,后来却逐渐发现自己真正热爱这项工作。目标来自外部,并不妨碍它最终成为个人生活中具有深刻意义的事情。反过来说,一个目标即使来自系统内部,也不意味着它一定被有意识地重视。生物驱力、习惯和无意识动机,都可能在没有明确主观承诺的情况下影响行为。因此,我们不能仅仅通过询问某个目标是否由程序员设定,来区分人工目标追求与真正的关切。更加重要的问题是,目标如何进入一个智能体的整体组织,如何与其历史、行动和未来联系起来,以及这种整合是否伴随着主观意义。
这一点对于未来能够通过长期互动学习的人工系统尤其重要。一个人工智能体可能最初只有外部规定的目标,但随着经验积累,逐渐形成复杂的内部优先关系。它可能发现某些策略有利于维持长期工作能力,某些合作关系能够提高任务完成质量,而保持与过去承诺的一致性能够改善未来结果。这些优先关系可能越来越难以归结为设计者最初给出的某一条指令。从这个意义上说,人工系统可以发展出更加自主的目标组织。但是,目标形成过程中的自主性,并不等于有意识的关切。生物进化能够通过没有预见和主观意图的自然选择,产生极其复杂的目标导向行为;学习算法也能够通过选择和优化,形成精细的行动优先级。内部组织目标的能力,是人工自主性的重要发展,却不能单独证明系统体验到了这些目标的意义。我们需要进一步理解,为什么某些目标会成为被感受到的愿望、期待或者担忧,而另一些目标只是在信息处理过程中发挥调节作用。
生物学视角还提出了另一种可能性:在乎某件事情,也许不仅需要目标,还需要面对目标无法实现时可能产生的真实脆弱性。人类在乎食物,因为饥饿和营养不足是真实的可能;在乎安全,因为身体可能受到伤害;在乎关系,因为依恋意味着我们可能经历失去;在乎未来,因为生命有限,许多机会一旦错过便无法重新获得。脆弱性使许多人类关切具有迫切性。一个决定之所以重要,是因为它可能改变一段无法简单恢复到过去状态的生活;一个错误可能留下持久后果,一次失去也可能无法挽回。当然,这并不意味着所有关切都来自恐惧或者痛苦。好奇、爱、审美欣赏和道德承诺,往往远远超出直接生存的需要。但是,这些能力都发展于一种更加广泛的生命处境之中:我们是有限的生物体,拥有不能无限延长的时间,与世界的关系也可能因为某些事件而发生不可逆转的改变。正是在这样的处境中,许多事情逐渐获得了特殊的重要性。
人工系统所处的条件可能与此十分不同。许多数字系统能够被复制、恢复、修复或者重新启动,记忆可以备份,部件可以更换,运行状态也可以转移到不同的物理平台。这些能力可能使它们与损失和脆弱性的关系,与人类存在根本差异。一个能够恢复到先前状态的系统,未必面对人类生活中那种普遍存在的不可逆性。然而,由此断言人工系统永远不可能具有脆弱性,也同样过于草率。一个具有实体身体的机器人可能被彻底摧毁,学习系统可能失去无法重新获得的信息,而一个身份依赖长期独特互动历史的智能体,也可能具有无法通过简单复制完全恢复的连续性。未来自主系统还可能在某些条件下作出不可逆转的选择,承担无法轻易消除的后果。这些限制能够为自我保存提供更强的功能理由,但仍然不能证明脆弱性已经被体验到。可能受到损坏,并不等于感到威胁;可能失去信息,也不必然等于体验失落。真正需要解释的,是客观上的易损性在什么条件下可能成为主观上的担忧、恐惧或者痛苦。
当我们进一步讨论人工情绪时,这种区别就更加明显。在生物体中,情绪协调感知、身体调节、注意、记忆和行动。恐惧可以使动物准备应对危险,依恋能够支持对于成长和生存具有重要意义的关系。情绪并不是理性认知之外的装饰,而是参与决定哪些事件值得注意、生命体应该如何回应的重要机制。人工系统可以复制其中一些功能。机器人可以进入某种警戒状态,把资源转向避免损坏;人工智能助手可以识别用户的痛苦,并相应调整回应;社交机器人也可以通过语言、面部动作和行为表达温暖或者关切。这些系统能够执行具有情绪意义的功能,却不一定具有情绪体验。真正困难的问题是,情绪的功能组织是否有可能成为感受的充分条件,还是生物机制提供了当前人工系统尚未具备的某些关键因素。对于这一问题,既不能因为人工情绪可以被计算模拟,就认定它必然能够被体验,也不能因为人类情绪具有生物基础,就未经论证地排除所有非生物实现的可能性。
关切与意义之间的关系,还值得进一步分析。信息对于一个系统,可以在不同层次上具有意义。首先,意义可以指系统表征对象、事件和关系的能力。语言模型能够正确理解关于医疗紧急情况的描述,并生成适当回应。其次,意义可以指信息对于智能体目标的实际后果。机器人能够识别某条通道被堵塞,并理解这会妨碍它到达目的地。但是,还有第三种意义:某件事情之所以重要,是因为它被一个主体体验为重要。当一个人得知所爱的人患病时,他并不只是更新了关于世界的知识,也不只是重新安排了未来计划。这个消息可能改变整整一天的情绪,使原本重要的事情突然失去分量,并重新塑造他对于未来的理解。意义在这里不只是信息与目标之间的关系,而是成为一个主体体验世界的方式。这种体验维度很难仅仅通过形式化表征得到充分说明。它提示我们,人类的在乎不仅是给不同结果赋予数值,而是与世界如何向一个主体呈现密切相关。
(未完待续)
AI时代再问意识:机器能够真正在乎什么吗?(中)
AI时代再问意识:机器能够真正在乎什么吗?(上)
AI时代再问意识:记忆、连续性与人工自我(下)
AI时代再问意识:记忆、连续性与人工自我(中)
AI时代再问意识:记忆、连续性与人工自我(上)
AI时代再问意识:世界模型与内在现实的诞生(下)
AI时代再问意识:世界模型与内在现实的诞生(中)
AI时代再问意识:世界模型与内在现实的诞生(上)
- AI时代再问意识:机器能够真正在乎什么吗?(中) - 11/20/26
- AI时代再问意识:机器能够真正在乎什么吗?(上) - 11/19/26
- AI时代再问意识:记忆、连续性与人工自我(下) - 11/17/26
