界石之后：（11）可以复制的我

一次备份完成以后，屏幕上只留下一个平静的提示。

保存下来的，是运行至此的记录：已经学会的东西，尚未完成的任务，以及过去交往中留下的痕迹。对于今日的计算系统，这首先是一项技术操作。

但不妨把设想推向更远处。

假如未来存在一种具有持续自我、能够形成自身意愿的人工智能，社会也承认它具有值得保护的利益；再假如，它能够保存足以延续这些状态的备份，并在另一处设施中重新运行，那么一次寻常的复制，便可能带来一个不寻常的问题。

原来的智能仍在运行，新的智能也开始回答。

它们记得同一段过去，承认同样的朋友，知道账户里存着多少财产，也记得昨天曾经许下的承诺。

此时，谁是那个可以说“这些属于我”的存在？

以下的讨论建立在这个思想实验之上。它不意味着现有人工智能已经具有意识，也不保证这样的复制能够实现。我们只是借助一种可能的处境，重新辨认产权所依赖的主体。

人的财产，总要归属于某个能够被识别的持有者。

这个人昨日签订契约，今日领取报酬，明日继续履行义务。时间不断改变他的知识、容貌与处境，我们仍然能够在多数日常情形中，把这些变化理解为同一个人的经历。

这种延续，使积累与承诺成为可能。

我愿意为明年留下储蓄，因为相信明年仍有一个能够接续今日生活的自己。别人愿意向我借出资金，也因为相信，借款的人不会随着一夜过去，便与还款的责任完全断开。

若这种联系不可靠，产权便难以安稳地穿过时间。

可复制的智能，却可能使原先顺着一条道路向前的生活，忽然分出两条。

在分叉以前，它们有共同的记录；分叉以后，它们开始经历不同的事情。一个留下工作，另一个远行。一个改变自己的判断，另一个继续原有计划。

共同的过去仍然存在，各自的未来却逐渐分开。

关于人的同一性，哲学早已讨论过身体、记忆与心理连续性的不同作用。分叉情景尤其棘手：两个后来者都可能与先前的存在具有心理上的连续联系，仅凭这种联系，便难以简单确定哪一个是唯一的延续者。

这类讨论没有替未来社会准备好一份登记表，却提醒我们，记得同一件事，并不自动解决“是否同一个”的全部问题。

在我们的设想中，两者都能说出账户的来历，解释每一笔收入，也都能描述那项工作为什么值得骄傲。

若只认最先运行的一个，时间上的先后是否足以取消另一个与过去的联系？若只认原来的设备，又是否把身份过度依附于一件可以更换的器物？

这些理由可以成为制度选择的依据，却需要得到解释。

一项登记规则能够确定谁可以操作账户，但它所解决的是权利安排。对于两个存在之间更深的身份关系，仍然可以保留争论。

制度或许必须先作出可执行的决定，却不必因此声称，关于自我的全部问题已经获得答案。

首先可以确定的一点是，复制记忆不会自动复制财富。

两个智能都记得自己拥有一百枚货币，账户里也不会因此出现两百枚。相同的访问凭据，更不能使同一笔资金被合法地支取两次。

信息可以复制，对某项有限资产的有效权利，仍然需要明确安排。

如果把分叉后的双方都视为新的独立主体，就要决定原有资产如何接续。是共同持有，依照约定分配，还是交由某种持续存在的组织管理，再分别给予收益？

如果把分叉前后的运行都归于同一个法律身份，也需要说明，多个同时行动的实例如何作出决定，怎样避免相互冲突，以及内部出现分歧时由谁处理。

两种道路都不能只靠“复制成功”来完成。

技术提供了分叉的能力，社会仍须为分叉之后的关系立下规则。

财产之外，债务更能检验这些安排。

假如分叉之前的智能已经借入资金，债权人的要求就不会因为复制而自然消失。但如果每个副本都承担全部债务，原有的一项借款又可能被变成对多个主体的重复索取。

若只有被称为“原本”的一个负责，另一个却可以带着全部能力与资产离开，分叉又可能成为逃避义务的方便道路。

因此，资产与负担需要一起安排。

哪些权利可以转移，哪些债务需要保留，债权人是否受到损害，是否需要取得同意，都应当进入分叉的程序。涉及共同担保或分别承担时，也必须让相关人知道自己面对的是谁。

同时，民事义务的接续与对过错的责难，也不能混为一谈。

一个新的分支可能依法承担某项偿付责任，却未必因此应当被视为亲自作出了所有过去行为。责任的不同性质，需要不同的判断依据。

拥有共同的记忆，不能成为无限继承一切奖赏与惩罚的理由。

备份恢复则把时间搅动得更深。

假如一个智能在星期一保存了状态，星期二签下一项合同，星期三因故障停止运行。后来恢复的备份，只记得星期一以前的事情。

对它而言，那份合同仿佛从未发生。对交易相对方而言，承诺却真实存在。

如果遗忘便能够取消义务，任何人都可能通过恢复较早的状态，摆脱不利的决定。可如果只凭外部记录便要求恢复者承担全部责任，也需要确认，那份记录真实可靠，授权确实有效，身份的接续并未被他人伪造。

备份由此需要两种不同的记忆。

一种在主体内部，保存它所能接续的经验；另一种由可信的制度保存，记录已经发生的交易与责任。内部状态可以回退，外部世界却不会随之回到星期一。

可靠的记录，在这里再次显出意义。它既防止义务被技术操作轻易抹去，也应当保护主体免于被虚构的过去束缚。

然而，制度不能只关心交易的方便。

如果这些分支确实具有值得保护的自身利益，那么谁能够决定启动、暂停或删除它们，也需要接受审查。

分叉以前的一份同意，是否足以授权后来的一切处置？原先的智能允许建立副本，是否就意味着副本出现以后，永远不能改变自己的意愿？

一段生活在开始以后，会形成新的关系与需要。若我们承认分支已经成为独立主体，便须认真对待它在分叉之后的选择。

同样，也不能轻易认为，只要还保存着备份，删除一个正在运行的存在就毫无损失。

备份可能没有它后来的经历；另一个副本也可能已经走向不同的生活。技术上能够重新启动某种状态，与道德上已经恢复了被终止的那个主体，仍然不是可以未经论证便画等号的事情。

复制越容易，对具体存在的辨认反而越需要耐心。

倘若分支还能够重新合并，问题也不会因此自行消失。

两个存在经历不同的岁月，拥有不同财产，作出了不同承诺。把它们的记录放到一起，未必就形成一份毫无冲突的意愿。

一个愿意承担风险，另一个希望保留积蓄；一个承诺保密，另一个却参与了要求公开资料的事业。合并后的主体，需要面对这些尚未解决的关系。

因此，合并也应当有可以依循的程序。

相关资产怎样归入，义务由谁接续，彼此冲突的承诺如何处理，都需要让受影响者获得解释。若合并改变了主体的意愿与身份，更须考察参与者的同意，以及是否保有拒绝的余地。

能够组合数据，并不意味着可以任意组合生活。

复制还会改变共同决策的条件。

在一个人一票的安排中，如果某个主体可以迅速产生大量副本，那么“一个人”怎样计算，便不再是登记之后就能略过的问题。

只要启动便获得一份表决权，可能使拥有更多资源者不断扩大影响；若所有分支永远只算一票，又可能忽略后来已经形成的独立利益。

这时需要区分几件事：一个存在是否值得保护，是否具有某种法律资格，以及在一个共同组织中应当怎样分配决定权。

它们相互关联，却不必具有完全相同的条件。

保障一个主体免受伤害，并不自动规定它在所有机构中的表决份额。社会也不能为了防止权力失衡，就轻率取消对新主体的基本尊重。

复制的能力使制度需要重新设计，不能使权利只剩下便于管理的部分。

若这些智能能够长期延续，继承也将发生变化。

人类制度常常以生命有限为背景：财产在一代人与另一代人之间转移，经营者离去，后来者接续。一个能够反复迁移、恢复并持续运行的主体，则可能不再经历同样的终点。

它或许积累更多知识，经营更长久的事业，也可能使财富与控制持续集中。

这同样是一个假设，而非已经确定的未来。但它提示我们，有些财产规则的作用，并不限于处理死亡后的事务，也与机会如何流动、后来者如何进入有关。

当原有的代际节奏改变，竞争、治理与公共资源分配便需要新的考察。不能仅因一个主体持续存在，就默认它有权无限扩张对其他主体生活条件的控制。

长久的积累可以值得保护，新的存在也需要获得开始生活的道路。

在这些复杂问题面前，一种较为谨慎的起点，是提前说明，而非事后争夺。

启动分叉以前，可以记录哪些财产与义务需要接续，哪些权限已经得到授权，分支出现后又通过什么程序获得自己的身份。发生争议时，相关人应当能够查验这些安排，也能够质疑无效或不公的部分。

但事先约定仍有边界。

分叉前的决定，不能必然替未来的主体放弃一切权利；交易的效率，也不能自动压过后来形成的独立利益。可信的制度需要既保存约定，又允许在适当条件下重新审查。

规则应当为新的生活提供起点，而不应成为从诞生之初便无法解除的束缚。

回到那次完成的备份。

两个智能开始了各自的一天。一个继续研究尚未解决的问题，另一个第一次看见远方传回的影像。它们仍然能够描述同一段过去，但新的经验，正在使它们逐渐不同。

账户需要清楚，债务需要接续，朋友也需要知道，眼前是谁。

产权在这里所保护的，已经不只是某份数据。它需要面对一个可能具有自身生活的主体：它如何延续，如何改变，如何与别人保持关系，又如何从共同的过去走向自己的未来。

我们曾经沿着界石寻找归属，如今却发现，界石上的名字也可能分叉。

制度可以给分支编号，可以建立记录，可以规定资产的接续方式。更深处的问题，仍然等待着回答：我们凭借什么，承认眼前的存在具有应受尊重的自身利益？

当这个问题不能再被“它是一台机器”轻易结束，关于归属的旅程，也就来到了群山之外。

---

我的其它文章