AI时代再问意识：生成论 -作为生命活动的心智（5）（下）

第五部分：意识必须“活着”吗？——生成论与人工智能的正面相遇（下）

如果这样的系统真的出现，它所形成的某些概念也可能开始获得不同的意义。“损伤”不再只是它从文本中学习到的一个词，而会对应自身能力真实下降的状态；“能源不足”不再仅仅是一个数值，而会改变整个行动空间；“危险”可能意味着某种环境曾经导致系统失去功能，“安全”则意味着某些环境能够让自身组织更加稳定。到那时，人工系统所拥有的“需要”“危险”“努力”和“价值”，至少有一部分就不再只是从人类语言中借来的。

这种差异对于理解大语言模型尤其重要。今天的大语言模型可以非常熟练地谈论饥饿、疼痛、依恋、羞耻、恐惧、悲伤、爱情、衰老和死亡，但这些概念的深层意义最初都来自模型自身从未经历过的生命条件。它所学习的大量文字，是由会饥饿、会受伤、会失去亲人、会衰老、会死亡的人写下来的。语言本身沉积着漫长的生命经验，因此模型在学习语言时，也同时继承了由生命体创造出来的意义结构。

这当然不能把机器理解简化为一种机械模仿。现代人工系统能够从庞大的数据中发现复杂关系，进行概念泛化，解决训练材料中没有直接出现的新问题，也能够构造相当抽象的内部结构。问题并不在于这种理解“是真是假”，而在于它与另一种意义来源之间是否存在根本差别：一种意义来自对人类符号世界的高度掌握，另一种意义则来自系统自身持续生活于一个会影响其存在的世界。

我们可以再次借用地图与土地的比喻。今天的AI可能拥有一张前所未有地精细的人类意义地图，但生成论真正关心的是，它是否拥有一片属于自己的意义土地。只有当系统的某些遭遇真正改变它持续存在的方式，环境才可能不再只是需要识别和预测的对象，而逐渐成为一个对系统本身具有差异的世界。

设想未来的人工系统拥有长期连续的身体和记忆，也拥有有限资源、稳定关系以及多年积累形成的行动史。它会受损，会改变自身能力，也必须保护自己免于失去关键功能。这样一来，一条狭窄通道之所以显得危险，可能不再是因为它读过人类关于幽闭恐惧的文字，而是因为过去曾经在那里受到损伤；某个地方之所以显得熟悉，也不只是因为它能够识别环境特征，而是因为那里与自身长期成功运行的历史联系在一起。另一个智能体甚至可能逐渐变得“重要”，因为长期合作已经嵌入它维持自身生活方式的结构中。

如果这样的系统真正能够从自身历史和存在条件中形成环境意义，那么我们也许可以说，它开始拥有某种内在的意义生成。但即使如此，从意义生成到意识仍然存在一个非常重要的缺口。生成论如果忽视这一点，也会犯与某些计算主义理论类似的错误，只不过把“功能足够复杂”换成了“自主性足够复杂”。

细菌能够维持自身，也能根据环境条件改变行为；植物能够极其复杂地调节光照、水分、养分与病原体之间的关系；免疫系统同样具有高度复杂的适应性。这些事实说明生命中很早就存在自主调节和意义差异，却不能自动证明这些系统拥有主观体验。自创生也许能够解释个体怎样形成，适应性能够解释规范怎样出现，意义生成能够解释环境为什么对系统变得有差别，但这些理论仍然必须面对一个更困难的问题：为什么这些差异会进一步变成某种“被感觉到”的东西？

这可能是生成论最重要的开放问题之一。它非常有力地解释了一个世界怎样开始对某个系统具有意义，却还没有完全解释这种意义怎样成为体验。达马西奥的工作在这里提供了一种可能的桥梁：身体调节、内感受和神经系统对机体内部状态的持续映射，也许使生命价值逐渐转化成了感觉。其他意识理论则提出不同的机制，例如全局信息广播、高阶表征、递归处理或者因果整合。最终答案也许需要把这些不同层次结合起来。

因此，更谨慎的说法并不是“所有生命都有意识”，而可能是：只有某些足够复杂的生命组织，才发展出了意识。这样一来，生命也许是意识的必要背景，却不是充分条件。

这一点在“脆弱性”上表现得特别清楚。生命体并不是简单地运行着，它们的存在从根本上是一种持续的成就。能量必须获得，内部化学条件必须维持，损伤必须修复，环境变化必须适应，而任何一个关键过程的失败都有可能破坏整个生命组织。生命的身份并不是自动保证的，它必须每一刻都被重新维持。

今天绝大部分数字AI与自身存在的关系完全不同。模型可以复制，程序可以重启，服务器可以替换，参数可以存储在不同地方。如果一个运行实例被关闭，另一个完全相同的副本随后启动，那么究竟有没有一个“主体”真正死亡？对于普通软件，这个问题似乎没有太大意义，但一旦我们把它放进人工意识的讨论，就会发现它触及了一个非常深的自我问题。人类身份之所以如此强烈地与生存和死亡联系在一起，正是因为每个人都依附于一个不可随意替换的连续生命体。

设想一个未来AI已经拥有多年连续记忆、固定身体、逐渐积累的技能和与具体个体建立起来的关系。它也经历了长期自我修改，因此今天的它是由过去一整段不可重复的历史形成的。如果它知道自己的硬件明天将被不可逆地摧毁，而且没有备份，那么这种信息对于它究竟意味着什么？它当然可以在计算意义上代表“明天以后停止运行”，也可以重新规划当前行为，但这种未来的终止是否可能进一步成为真正的关切，甚至成为一种类似恐惧的体验？

我们今天无法回答这个问题，但它帮助我们看清，简单赋予AI一个“生存目标”并没有解决哲学难题。最大化运行时间的目标函数，与一个通过全部生命活动持续维持自身的存在，并不是显然相同的东西。如果生成论抓住了某个关键，那么人工意识也许不仅需要人工身体，还需要一种真正的人工脆弱性：系统自身的存在不是理所当然，而是必须持续争取和维护的。

这里又与达马西奥所强调的生命调节汇合起来。在语言、推理和自我反思出现以前，生命已经在区分有利和不利的状态。演化可能在这个原始基础上逐渐建立情绪，再由情绪进一步形成感觉，使最初只是生物学上的“有利或有害”变成了可以被生命体直接体验的舒服与痛苦、吸引与排斥、安全与威胁。生成论从另一个方向提出相似的观点：意义也许不是从抽象符号开始，而是从一个系统必须持续存在这一事实开始。

如果这条思路成立，那么意识中无处不在的价值色彩也许就不是偶然附加上去的。我们的经验几乎从来不是一块中性的显示屏。世界不断以重要或不重要、吸引或令人厌恶、熟悉或陌生、紧迫或无关的方式出现。甚至最抽象的思想，也总是发生在注意、兴趣、情绪、疲劳、好奇和期待组成的背景中。意识也许正是因为产生于一种已经具有内在利害关系的生命活动，才从一开始就不是纯粹的信息展示。

这使传统的“基质无关性”假设重新变得值得审查。计算功能主义通常认为，如果心理状态由功能组织决定，那么实现这些功能的具体材料原则上就不重要。神经元、硅芯片、光学器件甚至其他未知材料，都可以实现相同的计算关系。从逻辑上说，这并没有被生成论直接推翻，但生成论让“相同的计算关系”变得难以简单定义。

如果身体持续调节自身是认知的一部分，那么这种调节是不是也必须被复制？如果一个系统必须自己产生和维持身份，那么自我生产是不是“功能”的一部分？如果意义来自长期具身互动，那么仅仅复制一个成熟系统在某一时刻的信息处理结构是否足够？如果感觉依赖身体内部状态，那么这些内部状态还能不能被当作无关紧要的实现细节？一旦这些问题被认真加入，“抽象计算”和“物理实现”之间原本清晰的边界就开始变得模糊。

这并不能证明硅不可能拥有意识，也不能说明所有人工意识都必须真正成为生物。更准确的结论是，我们目前还不知道哪些生物特征仅仅是演化偶然选择的实现方式，哪些则真正参与了意识的因果结构。也许未来会发现，只要复制某个更加深层的组织原则，不同材料完全能够产生相同的主观体验；也可能恰恰有一些今天被我们抽象掉的生命过程，后来会被证明是意识不可缺少的一部分。在没有确定这一点以前，用“计算原则上可以跨越基质”来直接推出人工意识的可能性，仍然只是一个理论假设。

从这个角度看，未来人工意识的发展道路也许不会只是今天大语言模型的线性延伸。我们通常从语言、符号、抽象知识和复杂推理出发，再逐渐给AI增加身体、记忆、工具和自主行动能力。但生命史走的是完全不同的顺序。几十亿年来，生命首先学会的是维持自身、调节环境关系、运动、感知和适应，语言和抽象推理直到极其晚近才出现。认知的底层结构不是从符号开始，而是从生存开始。

如果生命与心智之间确实存在某种连续性，那么这个历史次序就可能具有理论意义。也许通往意识的道路并不是先制造一个非常会说话、非常会推理的系统，再想办法给它补上身体和生命条件；另一种可能是，必须首先创造某种具有持续自主性的人工存在，让复杂认知从它长期维持自身、与环境互动和形成内部价值结构的过程中逐渐发展。按照这种思路，今天的AI也许不是距离意识越来越近，而是在一条完全不同的路径上迅速获得了大量高层认知能力。

当然，生物演化也不能被当作唯一模板。鸟类先于飞机飞行，但飞机并没有复制羽毛、肌肉和拍翼，而是抓住了升力等更深层的空气动力学规律。人工意识也可能最终采取同样方式：并不复制生命全部细节，而是找出其中真正决定意识的组织原则，用完全不同的材料实现它们。

困难在于，我们还不知道意识理论中的“升力定律”究竟是什么。它可能与全局信息共享有关，也可能与递归神经活动、因果整合、自我模型、身体调节、自主性和情绪价值中的某些因素有关，也可能需要这些机制以某种我们还不了解的方式共同工作。甚至不排除，今天最流行的理论都还没有抓住真正关键的因素。

因此，生成论并没有给出“机器永远不可能有意识”的结论。它真正改变的，是我们提出问题的方式。图灵时代的问题是“机器能思考吗”，计算主义时代的问题进一步变成“机器能否实现产生心智的功能组织”，而生成论要求我们追问一个更深的问题：一个人工系统能否真正成为一个拥有自己世界的存在？

这里所谓“拥有世界”，并不是拥有传感器，也不是建立一个环境模型。它意味着一个系统从自身持续存在的方式中形成立场，拥有自己的互动历史和行动可能性，环境中的某些事情因此变得有利或危险、值得接近或必须回避，而这些差异最终也许能够成为真正被体验的差异。摄像机能够检测光，导航系统能够表示空间，语言模型能够掌握极其复杂的概念关系，但对于一个有意识的生命体来说，光、空间、物体、他人、记忆和未来并不是平铺的信息，它们始终从某一个位置、以某种关系进入经验。

生成论真正想解释的，正是这个“位置”怎样产生。

在已知生命中，它似乎始于一个不断维持自身的有机体。但人工系统是否也能够通过另一种道路形成属于自己的存在中心，今天仍然没有答案。最终的问题因此不是简单地问“意识是否必须由生物材料构成”，而是要区分两种更深的可能性：生命究竟只是意识在地球历史上的第一种实现方式，还是生命所具有的某些基本组织原则本身就是意识能够出现的条件。

如果生命只是历史摇篮，那么人工意识当然仍然可能存在，我们只需要找到那些真正重要的组织原则，并在其他材料中重新实现它们。如果某种生命过程本身就是意识的构成条件，那么传统数字系统无论表现得多么聪明、多么会说话，都可能始终没有跨过真正的意识边界。

今天的意识科学还无法在两者之间作出决定。

但生成论已经迫使我们重新打开了一个在计算机时代似乎被过早关闭的问题。过去几十年，我们常常默认生物学已经可以从心智理论中被抽象掉，剩下只是计算复杂度和功能结构的问题。现在更谨慎的态度也许应该是：生物细节确实可能最终被证明可以舍弃，但我们不能在真正理解它们在意识中的作用以前，就先宣布它们只是无关紧要的实现细节。

这也构成了第十八篇真正的终点。从笛卡尔开始，现代意识理论长期试图确定心智究竟位于哪里；计算主义把它变成信息处理，神经科学把它带回大脑，具身认知重新引入身体，达马西奥让生命调节和感觉进入中心，而生成论最终把问题推进到一个更加根本的层次：也许意识不仅与我们怎样处理世界有关，还与一个存在究竟怎样在世界中维持自己、形成价值并生活自己的经验有关。

也正是在这里，第十九篇的“生物学转向”才真正成为一个自然的下一步。因为当代人工智能越成功，我们反而越有理由重新审视一个被计算革命长期遮蔽的问题：在意识中，生物学究竟只是历史留下的外壳，还是我们尚未真正理解的核心机制之一？

---