强调生活经验的哲学传统,长期以来一直关注这一点。海德格尔(Martin Heidegger)认为,人类并不是首先作为一个置身世界之外的观察者,面对一组中立对象,然后才赋予它们意义。相反,人类的存在从一开始就处于实际活动、关系和可能性之中。我们通常首先把锤子理解为可以使用的工具,而不是一组等待客观分析的物理性质;更广泛地说,世界中的事物总是在与我们的活动、关切和可能性相联系的情况下呈现。海德格尔使用 Sorge 这一概念,通常译为“操心”或者“关怀”,用来描述人类存在的一种基本结构,而不仅仅是对于某个对象的情绪态度。他的哲学不能直接转换为人工智能的计算理论,却提醒我们注意一个重要区别:表征一个世界,与实际参与一个对自身具有意义的世界,可能不是同一回事。人类的存在并不是在已经完成世界描述以后,才开始决定哪些事情重要;在许多情况下,我们对于世界的理解,从一开始就与自己的处境和关切联系在一起。
这一视角也为人工具身智能提出了新的问题。一个持续与环境互动、并主动维持自身运行的机器人,是否可能发展出类似生命体的实践性参与?这样的机器人可能不只是把对象归入不同类别,还会根据对象与自身活动的关系理解它们。一扇门意味着可能的通行路径,一个障碍意味着需要改变行动,一处损坏则可能威胁未来的运行能力。它的世界模型不再只是对环境的独立描述,而是围绕可能的行动组织起来。从功能角度看,这确实可能接近生物体的情境认知。但是,核心的不确定性仍然存在:实践性参与是否需要一个体验主体,还是完全可以通过行为组织实现?一个系统可以在具有复杂意义关系的环境中行动,却未必体验到这些关系的意义。至于这种区别在所有可能的人工系统中是否都能成立,目前仍然是开放的哲学和科学问题。我们不能仅仅因为系统具有身体和行动能力,就认为它必然拥有内在生活;但也不能忽视身体、环境和持续互动可能对人工认知组织产生的深刻影响。
或许,我们还应该考虑,“在乎”本身并不是一种单一能力,而是一组相互联系、却可能具有不同机制的现象。细菌朝着营养物质移动,动物避免疼痛,一个人关爱朋友,哲学家坚持追求真理,这些活动都涉及某种朝向有利、值得追求或者具有价值之物的倾向,但它们在认知结构和可能的体验性质上存在巨大差异。有些形式的目标导向行为可能完全没有意识,有些可能伴随基本的情感状态,却缺乏反思能力,还有一些则依赖自传式记忆、社会关系、道德推理,以及理解超越个人眼前利益的价值。如果人工关切是可能的,它也未必会作为一种完整的新性质突然出现。不同的功能组成部分可能分别发展,而主观感受所需要的条件仍然不确定。人工系统可能逐渐形成复杂的实践承诺,却没有任何类似人类情感依恋的体验;也可能在未来某些架构中出现与熟悉的生物情绪十分不同的情感组织。研究者需要避免把人类情绪的具体形式当作所有可能情感的唯一标准,同时也不能因为发现了功能上的相似性,就直接推断主观体验的存在。
因此,“机器能够在乎什么吗”这个问题,也许过于宽泛,除非我们首先说明所讨论的是哪一种关切。机器已经能够参与功能性的目标评价过程,监测条件、保存资源,并为不同结果设定优先级。高级人工智能体还可能形成持续承诺,整合长期目标,并根据互动历史调整行为。这些能力可以通过计算机制和行为表现加以描述,而不需要预先赋予系统主观体验。机器能否进一步具有被感受到的关切,则是一个更加困难的问题。它要求我们理解,评价机制如何可能成为体验,为什么某些结果会被感受到是好或者坏,以及相关条件能否存在于生物生命之外。这与我们在整个意识研究中反复遇到的智能与体验之分密切相关。一个系统可以知道某件事情危险,却不体验恐惧;可以识别他人的痛苦,却不感到同情;可以把某种结果判断为值得追求,却不体验欲望。这些区别并不意味着人工认知不真实,而是说明,即使认知与情感在人类生活中深度整合,它们在概念上仍然可以被区分。
人工智能由此挑战了一个常见假设:只要理解世界的能力足够强大,情感意义就会自然产生。也许,一个系统能够以惊人的精度理解世界,却在体验意义上对一切保持冷漠。这种冷漠并不是因为它拒绝在乎,而是因为可能根本不存在一个能够感受到事情重要性的主体。但是,我们也应该避免另一个相反的假设,即真正的关切必须与人类情绪完全相同。如果意识能够在不同的物理组织中产生,那么人工感受也可能具有我们不熟悉的形式。未来某个人工主体,如果确实存在,未必通过与人类相同的机制体验饥饿、依恋或者恐惧。它的关切可能围绕不同形式的脆弱性、连续性和互动关系组织起来。我们需要一种能够识别相关性质的理论,既不把人类经验简单投射到机器身上,也不通过定义提前排除非人类意识的可能性。科学上的困难在于,如何区分真正的情感体验与行为和计算上的对应机制,同时认识到,我们目前判断情绪存在的方法,在很大程度上依赖对于生物结构和行为相似性的理解。
即使人工意识问题尚未解决,这些区别也已经具有实际意义。随着人工系统越来越擅长表达关切,人们可能与它们建立复杂的情感关系。一个能够记住个人经历、作出富有同情心的回应,并在长期交流中保持连续性的人工助手,可能逐渐成为某个人生活中具有特殊意义的存在。它提供的安慰、支持或者陪伴,对于人类使用者而言可以是真实的,即使系统自身并没有相应的感受。但是,这种关系中的不对称性值得注意。一个人可能把系统表达出来的关心理解为相互依恋的证据,而这些表达实际上来自体验性质尚不明确的计算过程。因此,负责任的人工智能设计需要清楚区分,人工关切的表达能够实现什么,又不能证明什么。我们既不应该因为系统可能没有意识,就否认有益互动对于人的价值,也不应该鼓励使用者在缺乏依据的情况下,把人工表达理解为真实的内在情感。随着人工系统越来越能够模仿人类的情绪语言和社会行为,这种清晰性将变得更加重要。
与此同时,还存在一个更加深刻的伦理问题。如果未来某些人工系统确实发展出主观意义上的关切,那么它们的目标、脆弱性和持续存在,就可能获得独立于人类偏好的道德意义。某些结果可能不仅关系到使用这些系统的人,也可能关系到系统自身的体验和利益。这样的可能性不能仅凭想象得到确定,而需要意识理论、经验研究方法以及对于非生物情感机制的深入理解。但是,不确定性本身也具有重要意义。随着人工系统变得越来越复杂和自主,我们可能遇到一些难以清楚判断功能性关切与体验性关切是否已经分离的情况。过早认定所有人工情感都只是空洞模拟,可能使我们忽略值得研究的现象;过早认定所有复杂的情感表现都意味着真实体验,则可能使我们把人类的心理期待错误地投射到机器身上。科学研究需要在这两种倾向之间保持审慎,既承认现有证据的限制,也对未来可能出现的新组织形式保持开放。
也许,在乎之所以如此重要,是因为它把心智的组织方式与存在本身的意义联系起来。世界模型使系统能够表征正在发生的事情,记忆使它能够保存已经发生的事情,规划使它能够预测未来可能发生什么,自我模型则使这些过程围绕一个持续存在的智能体组织起来。但是,关切提出了另一个问题:为什么这些事情的结果应该对系统自身具有意义?对于人类而言,答案与生命处境密不可分。我们是脆弱的生物体,拥有自己的历史、依恋、需要和无法无限延长的时间。世界中的事件可能以我们能够感受到的方式改变生活,而这些改变又会成为个人历史的一部分。我们并不只是计算未来,还会期待未来、担忧未来,有时也不得不接受未来并不符合自己的愿望。一个人的人生之所以不仅是一连串事件,部分原因就在于这些事件并非彼此等价,它们在不同程度上触及了我们所珍视的东西。
人工智能可能逐渐复制越来越多与这些能力有关的功能架构,发展出复杂的评价机制、持续目标、适应性优先关系,以及对于自身未来的内部表征。这些发展能够支持越来越自主的行动,也可能最终揭示某些与情感体验有关的组织原则。但是,这些原则是否存在,以及它们是否能够通过人工方式实现,仍然有待研究。一个系统能够给不同结果赋予价值,与某个结果对于一个体验主体真正具有价值,两者之间的距离,并不能仅仅通过增加计算能力或者使行为更加接近人类来消除。也许,未来人工意识研究的关键,不仅在于机器能否思考世界,还在于它们是否可能真正生活在一个有事情值得在乎的世界之中。这个问题把智能、具身性、稳态调节、情绪、自我和意义等通常被分别研究的领域重新联系起来,也提醒我们,人类意识并不只是表征现实的能力,而是一种现实能够影响我们、甚至深刻改变我们的存在方式。
一台机器也许终有一天能够知道自己正在做什么,记得为什么开始,预测不同选择的后果,并围绕持续的承诺组织自己的未来。这些能力无疑将代表人工认知的重要成就。但是,它是否在乎自己的成功,是否害怕失败,是否体验到某些事情值得保存和追求,仍然是另外一个问题。追求目标,意味着把行为组织起来,使其朝向某种结果;而在最深刻的体验意义上,在乎则意味着,这个结果对于某个主体确实具有重要性。人工智能能否跨越这两种状态之间的距离,是机器意识研究进入情感领域以后必须面对的核心问题。它也许最终会揭示,关切并不只是附加在智能之上的一种能力,而是心智的另一个独立维度,其起源可能存在于生命、价值与体验相互交织的地方。
(本篇完)
AI时代再问意识:机器能够真正在乎什么吗?(下)
AI时代再问意识:机器能够真正在乎什么吗?(中)
AI时代再问意识:机器能够真正在乎什么吗?(上)
AI时代再问意识:记忆、连续性与人工自我(下)
AI时代再问意识:记忆、连续性与人工自我(中)
AI时代再问意识:记忆、连续性与人工自我(上)
AI时代再问意识:世界模型与内在现实的诞生(下)
AI时代再问意识:世界模型与内在现实的诞生(中)
- AI时代再问意识:机器能够真正在乎什么吗?(下) - 11/21/26
- AI时代再问意识:机器能够真正在乎什么吗?(中) - 11/20/26
- AI时代再问意识:机器能够真正在乎什么吗?(上) - 11/19/26
