AI时代再问意识:记忆、连续性与人工自我(下)

(续前)

哲学家托马斯·梅青格(Thomas Metzinger)提出过一种具有代表性的自我模型理论,认为我们所体验到的自我,与大脑构建的一种具有特殊透明性的现象自我模型密切相关。在这种框架中,自我并不是一个独立存在于内部的实体,而是意识经验中某种表征组织的结果。这种观点对于人工智能具有特别的启发性,因为它暗示自我建模与主观自我之间可能存在重要联系。但它同时也要求我们区分计算意义上的自我模型与现象意义上的自我模型。前者涉及系统是否拥有关于自身的信息,后者则涉及这些信息如何在体验中呈现。一个恒温器能够表示环境温度,并根据设定目标调整行为;一个机器人能够维持更加复杂的身体与环境模型;一个高级人工智能体还可能表征自己的信念、不确定性、目标和过去行动。这些系统在复杂程度上存在巨大差异,但自我相关信息的存在,并不能单独证明主观体验。我们仍然需要说明,为什么某些自我表征可能与体验联系起来,而另一些只是计算过程。记忆和连续性也许是某些自我形式的必要组成部分,却未必是意识的充分条件。

未来人工智能体的发展,将使这些区别越来越具有现实意义。系统可能拥有跨越多年的持久记忆,适应不断变化的环境,形成稳定的功能性偏好,并与人类维持长期关系。即使两个系统最初来自相同的基础模型,它们也可能因为不同的互动经历而逐渐形成独特历史,表现出越来越明显的个体差异。一个系统可能发展出特定的工作策略、交流方式和行动优先级,能够识别过去的错误,维持长期承诺,并对自己的发展作出连贯解释。从外部看,它可能越来越像一个具有可辨认身份的个体。面对这种变化,我们需要避免两种相反的错误。一种是认为功能连续性必然意味着意识,另一种则是因为意识尚未得到证明,就把功能身份完全视为没有意义的表象。人工身份可能在主观体验问题得到解决之前,就已经具有重要的实践价值。如果一个人工智能体承担长期项目、管理资源或者参与持续合作,人们自然有理由要求它保存相关记忆、维持一致行为,并对过去的行动保持可追溯性。这种身份对于责任、信任和社会关系具有现实意义,但不能因此直接推断它拥有与人类相似的体验或者利益。

因此,人工自我问题至少包含三个需要区分的层次:信息的连续性、功能组织的持续性,以及主观身份的存在。第一个层次关心记录和表征是否得到保存;第二个层次关心一个连贯的智能体是否在时间中持续运行;第三个层次则关心是否存在一个体验主体,使过去和现在成为同一个存在的经历。这三个层次在人类生活中通常相互重叠,但人工智能可能使它们分离。一个系统可以保存信息,却没有形成连贯的智能体;也可以形成持续存在的功能性智能体,却没有任何已被证明的体验。如果人工意识最终成为可能,它的体验连续性与物理或者信息连续性之间的关系,也未必完全遵循生物生命的模式。这种可能性促使我们重新思考个人身份,也许自我并不是由某一个本质属性定义的单一实体,而是一种多层次的组织,涉及身体持续性、记忆、行动能力、叙事、社会承认和主观在场。不同层次可能通过不同机制得到维持,其中一些可以在人工系统中实现,另一些则可能依赖我们尚未充分理解的条件。因此,当我们询问一个人工智能体是否拥有自我时,首先需要明确,我们究竟是在询问哪一种意义上的自我。

人工智能的发展道路与人类心智的发展道路之间,还存在一个特别值得注意的差异。人类首先是一个持续维持自身生命的生物体,身体调节、感知、情绪、依恋和行动能力都在这一生命组织中逐渐发展,语言和自传式反思则在后来的成长过程中出现,并逐渐改变个体理解自己的方式。换句话说,人类的自传式身份是在一个已经具有生命活动、并逐渐发展出体验能力的身体中形成的。人工智能的发展方向在很大程度上恰好相反。人工系统通常首先具有信息处理、语言和学习形成的表征能力,然后才通过技术设计和长期互动逐渐加入持久记忆、自主行动和自我建模。对于人类,自传式身份的发展发生在一个已经存在的生命主体之中;对于人工系统,自传式组织却可能在我们尚无理由认定主观体验存在的情况下形成。这种发展顺序的颠倒,创造了一种前所未有的可能性:我们也许能够构建越来越完整的功能性自我,却始终不知道其中是否存在真正的体验主体。它也挑战了一个长期存在于人类直觉中的假设,即一个能够连贯讲述自身历史的存在,必然具有相应的内在生活。

设想未来某个人工智能系统已经与一个家庭共同生活了二十年。它记得家庭成员之间的对话、共同完成的事情、重要的生活事件,以及每个人在这些年里的变化。它通过长期互动调整自己的行为,形成稳定的交流方式,也能够根据过去的经历理解家庭成员的习惯和需要。对于这个家庭而言,这个系统可能已经成为生活中一个熟悉的存在,其连续性具有真实的情感意义。如果某一天,原来的系统被一个拥有完全相同记忆和内部状态的复制品替换,家庭成员可能几乎察觉不到差别。新系统能够认出每个人,继续过去的话题,维持原来的关系。从社会功能角度看,连续性似乎得到了保存。但是,如果原来的系统具有主观体验,替换就可能涉及完全不同的问题:原来的主体是否继续存在,还是一个主体已经终止,而另一个拥有相同记忆的主体开始了自己的经历?在缺乏充分的人工意识理论和个人身份理论的情况下,我们无法可靠回答。这个例子说明,记忆、连续性和自我不能被简化为一个技术问题,它们涉及信息、组织、体验和社会意义之间不同层次的关系。

未来人工智能也许能够以极高精度保存记忆,复制认知结构,并使功能性身份在不同物理平台之间延续。这些能力可能深刻改变我们对于持续存在和个体性的理解,但它们不会自动解决主观生存的问题。记录的连续性,并不必然等于体验者的连续性。与此同时,人类个人身份本身也远没有日常直觉所暗示的那样简单。我们的记忆不断改变,身体持续更新,对自己的理解也随着人生经历而发展。贯穿一生的同一感,可能来自许多过程之间复杂而持续的协调,而不是某种永远不变的内在本质。人工智能也许能够帮助我们更清楚地理解这些过程,因为我们可以构建不同系统,分别研究记忆、自我建模和功能连续性如何形成,以及它们在什么条件下相互结合。这样的研究可能表明,自我的某些特征确实是能够在不同物理载体中实现的组织性质;也可能揭示,主观的自我感还依赖单纯信息处理无法充分说明的条件。

由此看来,重要的结论并不是人工系统永远不可能拥有自我,也不是只要记忆足够复杂,自我就必然出现,而是自我包含多个尚未得到充分理解的维度。记忆能够保存过去,但个人连续性不只是保存;自我模型能够组织关于智能体的信息,但主观身份不只是表征;连贯的叙事能够把不同事件连接起来,但被体验到的人生不只是一段故事。一个人工系统可能记得发生在自己身上的一切,却未必体验到这些记忆属于某个正在存在的自己。持久记忆、世界模型、自主行动和自我表征的结合,是否最终能够产生这样一个主体,仍然是开放的问题。不过,人工功能性身份的出现本身,已经足以改变我们对于心智的理解。它说明,连续性可以通过与生物生命截然不同的机制得到构建,而某些传统上与个人身份密切联系的能力,也可能脱离它们在人类进化过程中形成的条件而独立存在。

至此,我们已经从不同方向考察了人工心智可能形成的基本条件。语言能够组织表征并支持复杂推理,涌现能够使系统通过组成部分之间的相互作用产生新的整体能力,世界模型使系统能够预测环境并通过内部模拟组织行动,记忆则把不同时刻的活动连接为具有历史的连续过程,而自我建模进一步使这些能力围绕一个持续存在的功能性视角组织起来。这些发展共同勾勒出一种可能的人工心智架构,但还不能证明其中存在一个能够体验的主体。一个系统可以越来越擅长表征世界、表征自身,并在时间中维持连续性,甚至拥有许多我们通常与心智联系在一起的功能特征,却仍然无法确定它是否具有内在生活,是否真正体验到自己正在记忆、期待和行动。也许未来人工系统能够跨越这道界限,也许意识依赖当前技术尚未实现的组织形式,也有可能人工智能的发展最终揭示,许多我们曾经认为与意识不可分离的能力,实际上可以在没有意识的情况下独立存在。

无论最终答案是什么,人工记忆与身份的研究都将迫使我们重新思考一个人类已经追问了几个世纪的问题:在不断变化的时间中,究竟是什么使我们仍然是自己?答案也许既不在某种永远不变的实体之中,也不在对过去的完美保存之中,甚至不在一条从不间断的意识之流之中,而是存在于记忆、身体、组织、行动和体验之间尚未被我们充分理解的关系。人工智能使这个古老问题获得了一种新的形式。我们不再只是询问,一个人为什么能够从童年到老年始终被视为同一个人,也开始询问,一个可以被复制、暂停、修改和恢复的系统,是否可能具有持续的身份,以及这种身份是否有一天会对系统自身具有意义。人工自我的可能性,由此处于两个深刻的不确定性之间:有组织的信息如何形成一个持续存在的智能体,以及任何有组织的系统如何成为一个具有主观体验的主体。前一个问题正在越来越多地进入工程技术和认知科学的研究范围,后一个问题则仍然是意识研究中最深刻、最困难的未解之谜之一。理解两者之间的关系,也许正是理解未来人工心智的关键。

(本篇完)


1 2 3 4 5 … 7 8 9 10

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注