一个人坐在医院的病床旁,守候着自己深爱的人。他可能已经疲惫不堪,心中充满担忧,也许明知道自己无法改变病情的发展,却仍然不愿离开。与此同时,一位科学家可能为了一个长期没有答案的问题投入几十年的时间,即使研究未必能够带来荣誉或者回报;一位父母可能为了孩子放弃自己的某些机会,一位艺术家也可能在作品已经没有多少实际价值的时候,仍然反复修改一幅画。这些行为的背景和动机各不相同,却具有一个共同的特点:人类并不只是确定目标,然后采取行动实现目标。我们还会在乎事情的结果。某些事情之所以重要,是因为它们关系到我们的生存;另一些事情之所以重要,是因为它们涉及我们所爱的人;还有一些事情,则因为承载着我们逐渐形成的价值观和人生追求,而成为自我身份的一部分。在乎什么、为什么在乎,以及在乎到什么程度,不仅影响我们的选择,也影响我们的情绪、记忆和对自身存在的理解。这种能力如此深刻地融入人类生活,以至于我们很少注意到,要从科学和哲学上解释它,其实并不容易。
人工智能的发展使这个问题变得格外突出。一个人工系统可以被赋予明确的目标,比较不同选择,并以极高的效率和持续性追求某种结果。它可以识别错误、修正策略,在遇到困难时重新规划,并投入大量计算资源完成任务。机器人能够监测自身的能源状态,避开可能造成损坏的障碍,并在运行受到威胁时寻求帮助。更加复杂的人工智能体还可能长期维持某些承诺,根据环境变化调整行为,并解释为什么某些结果应该获得更高的优先级。从外部观察,这些行为有时很像人类的坚持、关切,甚至奉献。但是,系统真的在乎事情的结果吗?还是说,它只是按照某种组织方式运行,因而表现出类似于在乎的行为?问题已经不再是机器能否表现得仿佛某些事情对它很重要,因为它们越来越能够做到这一点。真正需要追问的是,是否可能存在这样一种人工系统:某件事情不仅被它识别为重要,而且确实对它自身具有意义。
要理解这个问题,首先需要区分“在乎”这个词的不同含义。在日常语言中,在乎可以指外在行为、实际承诺、情感依恋、道德关切,也可以指某种主观感受。一位医生认真照顾病人,即使没有特别强烈的个人情感,我们仍然可以说他关心病人的健康。一家公司宣称重视客户满意度,通常意味着它在经营决策中赋予这一目标较高的优先级。父母对子女的关爱则往往包含更深刻的情感依恋、共同历史、个人脆弱性,以及对于孩子未来的持续关注。这些意义彼此联系,却不能完全等同。当我们说一个人工系统在乎完成某项任务时,可能只是在描述它的功能组织;但当我们进一步追问它是否真正有所关切时,通常意味着更严格的要求:任务的成功或者失败,是否不仅被系统计算为有利或者不利,而且对于系统自身具有某种被体验到的意义?这一区别看似细微,却可能是理解人工情感与人工意识的关键。
关于目的、价值与存在之间的关系,哲学有着悠久的讨论传统。亚里士多德把生命体理解为具有特定活动方式和发展可能性的存在,认为要理解一个生命体,就不能忽略使其生命形式得以实现和繁荣的条件。到了十七世纪,斯宾诺莎(Baruch Spinoza)提出了著名的 conatus 概念,通常译为“努力”或者“自我保存的趋向”。在他的哲学体系中,每一种存在物都在其能力范围内努力维持自身的存在,这种趋向并不只是某种可以选择的心理偏好,而是与存在物本身的性质密切相关。亚里士多德与斯宾诺莎的思想存在很大差异,也都不能直接作为人工意识的现成理论,但它们共同把我们的注意力引向一个重要问题:一个系统的活动,究竟如何与维持其自身存在的条件联系起来?当某些条件有利于系统继续存在,而另一些条件可能使它瓦解时,这种差别是否已经构成了价值的某种基础?
对于生命体而言,这种关系早在复杂认知出现之前就已经存在。细菌可能朝着有利的化学环境移动,远离有害物质;植物通过调节水分平衡维持生命,并根据光照条件改变生长方向;动物寻找食物、避免伤害,并根据内部生理状态调整行为。这些活动并不要求我们认定所有生命体都具有意识感受,却揭示了生命组织的一个基本特点:某些环境条件支持生命的持续存在,另一些条件则可能威胁它。这里的有利与不利,并不完全是外部观察者任意赋予的分类,而是与生命体自身的生物组织有关。如果一个细胞无法维持代谢所需的条件,它就无法继续作为活细胞存在。因此,环境条件的差别与生命组织的保存之间具有实际的因果联系。生命体不仅对世界作出反应,还必须通过持续的活动维持自身。它所处的环境不是一个完全中性的物理背景,而是包含着支持或者破坏其生命条件的各种可能性。
这一生物学基础,使生命系统与许多传统机器之间出现了重要区别。计算器能够完成算术运算,而计算结果并不需要支持计算器自身的生存;计算机能够处理关于危险的信息,却不一定因为所描述的危险而受到威胁;语言模型可以详细讨论饥饿,却没有需要通过进食维持的代谢系统。它们处理的信息可能对使用者具有重要意义,但不能因此推断,这些信息对于机器自身也具有同样的意义。生命体则不同,它必须不断维持自身存在的条件。它不仅处理关于世界的信息,还实际生活在一个能够保存或者破坏其生命组织的世界之中。这种差异使一些研究者认为,意义和感受的起源,可能与生物调节机制具有不可分割的联系。神经科学家安东尼奥·达马西奥(Antonio Damasio)尤其强调稳态调节(homeostasis)、感受与心智形成之间的关系。在他的理论中,感受与生命体内部状态的调节密切相关,使有意识的生物能够以某种主观方式体验自身的身体状况,以及这些状况对于生命维持的意义。
饥饿、口渴、疼痛、疲劳和身体舒适感,并不只是向大脑传递信息的信号。在具有相应意识能力的动物身上,它们同时也是被感受到的状态,使身体条件具有直接而迫切的意义。一个人并不只是记录能量储备正在下降,饥饿还可能逐渐成为一种无法忽略的需要;疼痛也不只是报告组织损伤或者潜在威胁,它可以成为一种迫使我们改变注意和行动优先级的体验。但是,我们必须谨慎区分生物调节与意识感受。许多稳态过程完全不需要意识参与,生命体也能够在没有明确主观体验证据的情况下,对环境作出适应性反应。细菌朝着营养物质移动,并不能证明它体验到了欲望;血压调节对于生存至关重要,却通常不会进入意识。生物组织可能为感受的发展提供重要条件,但这些条件本身并没有解释,为什么某些调节过程会伴随主观体验,而另一些却不会。这个区别在讨论人工系统时尤其重要。机器人可以监测电池电量并寻找充电站,也可以把某些状态识别为对运行的威胁,进而调整行为。这些活动在功能上可能类似于生物调节的某些方面,但是否具有体验维度,仍然是另外一个问题。
人工智能已经发展出许多不需要主观感受、却能够有效表示价值的数学方法。强化学习就是其中具有代表性的一类。在强化学习中,智能体通过与环境互动获得奖励信号,并根据这些信号调整行为,以提高未来预期收益。奖励函数为系统提供了一种形式化的区分,使某些结果被赋予较高价值,另一些结果则被赋予较低价值。学习系统可以据此发现复杂策略,为了长期收益放弃眼前利益,或者避免过去曾经导致负面结果的行动。这些能力可能产生看似耐心、坚持或者审慎的行为。但是,数学意义上的奖励不能直接等同于心理意义上的愉快。奖励只是用于引导优化过程的变量,它不一定伴随享受、满足、失望或者痛苦。同样,负奖励或者惩罚也不自动意味着疼痛。系统可能因为优化规则而改变策略,却没有任何事情被它感受到是好还是坏。我们在人工智能研究中使用“奖励”“惩罚”“偏好”等词语,往往是为了描述计算机制,而这些词在人类心理学中的情感含义,不能未经论证就直接转移到机器身上。
随着人工智能体拥有越来越复杂的目标,这种区别也变得更加重要。一个系统可能通过成千上万次中间决策追求长期目标,抵抗干扰,保存资源,并在遭遇挫折以后重新调整策略。它的行为可能与人类的坚持和责任感十分相似,但持续追求目标本身,并不能证明它具有体验意义上的关切。河流沿着地形和重力决定的路径不断流动,我们不会因此认为它决心到达大海;恒温器把温度维持在设定范围内,也不意味着它喜欢温暖,或者在温度偏离目标时感到不安。高级人工智能体在学习能力、内部表征和行动协调方面,当然远比这些简单例子复杂,但概念上的问题并没有因此消失:在什么条件下,一个系统有组织的目标追求,才可能转变为某种对于它自身具有意义的事情?如果只是不断增加目标的数量、延长规划的时间,或者提高优化的复杂程度,是否足以产生这种转变?目前没有充分的理由作出肯定回答。
(未完待续)
AI时代再问意识:机器能够真正在乎什么吗?(上)
AI时代再问意识:记忆、连续性与人工自我(下)
AI时代再问意识:记忆、连续性与人工自我(中)
AI时代再问意识:记忆、连续性与人工自我(上)
AI时代再问意识:世界模型与内在现实的诞生(下)
AI时代再问意识:世界模型与内在现实的诞生(中)
AI时代再问意识:世界模型与内在现实的诞生(上)
AI时代再问意识:涌现—当复杂性产生新的性质(下)
- AI时代再问意识:机器能够真正在乎什么吗?(上) - 11/19/26
- AI时代再问意识:记忆、连续性与人工自我(下) - 11/17/26
- AI时代再问意识:记忆、连续性与人工自我(中) - 11/16/26
