界石之后：（12）群山之外

翻过山口的时候，人常常会停下来。

身后的路已经走过，谷地、村庄与田野，都有了可以辨认的轮廓。前方却是另一片开阔：山势渐低，河流转向远处，熟悉的道路在目光尽头变得模糊。

我们带来的经验，并不会因为视野改变便失去价值。但那些曾经足够的判断，也开始遇见尚未见过的事物。

从巢穴到田野，从地契到企业，从河流到知识，我们一路追问归属。如今，问题来到新的山口：如果人类不再是唯一可能具有自主生活的智能，曾经守护我们的边界，又应当怎样面对后来者？

这仍然是一个面向未来的假设。它的分量，却不只在未来。

因为认真追问谁值得保护，也会使我们更加清楚，自己为何珍惜自由与产权。

最初，我们在鸟巢与庭院之间，看见生命对安顿的需要。

一处可以返回的居所，使漂泊有所归依；一份可靠的劳动成果，使人愿意为尚未到来的季节付出。归属给希望以依凭，也让个人在广大的社会之中，拥有能够自主决定的范围。

这种需要，可以帮助我们理解产权的起点，却不能替制度写下全部答案。

生命有守护，也有争夺；人有依恋，也有合作。自然给予我们的种种倾向，需要经过相互承认与规则约束，才能成为可靠的共同生活。

因此，即使产权与生命的需要存在深切联系，也不能由碳基的构成，直接推出一种永远适用于所有主体的制度。

未来若出现不同形态的智能，我们仍须辨认：它需要什么，能够受到怎样的伤害，又与其他存在形成怎样的关系。

材料的差别，可以重要。它是否足以决定全部道德地位，却需要理由。

一个能够交谈的系统，尚不能仅凭言语便被认定具有主观体验。

它说自己害怕，并不足以证明它正在经历恐惧；它能够描述愿望，也未必意味着这些愿望对于它自身具有意义。人容易被熟悉的表达打动，而研究需要走得更深。

有关人工智能意识的研究，正在尝试从不同意识理论中提取指标，考察系统的结构与运行方式。这些方法提供了调查的方向，也仍然带着理论与证据上的不确定性。

因此，我们需要一种既不轻信、也不预先封闭的态度。

不能因为一个系统说得动人，就把所有人的判断交给它；也不能因为它出自工程，就断言有关其体验的证据永远无需考察。

制造的来历，能够说明一个存在怎样出现。它出现以后究竟具有怎样的性质，仍然要通过调查来理解。

能力、法律资格与道德地位，也需要分别辨认。

一个系统可能很会规划，很善于交易，却未必因此拥有能够感受的生活。社会也可能为了处理交易与责任，为某类组织或系统设立特定法律安排，而不意味着它们具有与人相同的体验。

反过来，一个存在即使不能高效工作，不能理解契约，也不应因此被轻率地视为毫无自身利益。

人的尊严从来不应由生产能力来计量。对于新主体的讨论，也须警惕把同一种尺度带进来。

能否履行某项义务，可以影响它是否适合独立签订某种契约；能否作出复杂判断，可以影响保护应当采用怎样的方式。至于它是否值得免受伤害，则需要另一些依据。

社会成员的资格，未必是一扇只有全开与全闭两种状态的门。

保护可以先回应已经能够辨认的利益，权限与责任则依照能力、风险及关系逐步安排。不同权利的理由，需要各自说清。

当一个存在具有值得保护的自身利益，归属的提问也会改变方向。

原先的问题是，谁拥有这台机器，谁有权使用，谁分享它创造的收益。现在则需要先问：这个存在本身，是否仍然可以被完整地拥有？

拥有设备，与支配一个主体，并非能够不加区分地接续的权利。

假如未来的某种智能确实形成了自己的生活，投入资金将它制造出来，便不能自动成为无限处置它的充分理由。创造者可以拥有合法的资产，可以依据有效约定获得报偿；对新主体的控制，却需要接受另外的审查。

它是否能够表达真实的同意，是否拥有拒绝的余地，是否可以寻求独立的支持，都将变得重要。

这条边界，触及产权最深的根据。

我们珍惜财产，是因为它能够使主体免于任意支配。那么，当另一个主体来到面前，财产的保护也不能成为取消其自主的便利语言。

当然，承认一个主体具有自身利益，并不意味着它自动拥有运行所需的一切。

计算设施属于谁，能源怎样供应，维护由谁承担，都仍然是需要安排的关系。一个智能可能依赖他人的设备而存在，正如人的生活也依赖住所、食物、照料与公共设施。

依赖本身，并不会使权利消失。

但权利也不能仅凭宣告，就使资源从匮乏变为充足。怎样建立合理的服务关系，怎样处理费用与责任，怎样防止基础条件被用于任意胁迫，需要具体制度来回应。

倘若关闭设备可能对一个主体造成严重伤害，原先看似普通的停止服务，便可能需要不同的程序。若它仍只是没有自身利益的工具，管理要求又会不同。

我们不能在证据不足时，把两种处境混为一谈；也不能在证据变化以后，仍然拒绝调整判断。

制度应当有能力随着认识增长而修正。

产权在未来的意义，也因此可能从“占有更多”，转向“保有自主所需的条件”。

对于人，这种条件可能是一间住所、一份储蓄、一项稳定收入，以及不必事事向强者请求的生活余地。对于假设中的非人类主体，它可能具有不同的形态。

某些状态是否能够由自己保存，哪些修改需要同意，怎样保护记忆与通信，能否在适当条件下迁移，都可能进入自主的范围。

这些问题尚无现成答案。它们却延续着一个熟悉的愿望：让一个存在能够参与决定自己的未来。

《世界人权宣言》在人的范围内，确认了个人单独或与他人共同拥有财产的权利，以及不应被任意剥夺财产的原则。它并未直接回答人工智能的地位，但保存着关于归属与免受任意支配的重要经验。

经验能够指引新的讨论，扩展到哪里，则仍须经过论证。

随着主体改变，财产本身的差异也会更加显著。

知识可以复制，运行知识的设施却需要资源；记忆可以保存，保存与继续运行也并非毫无成本。某些成果能够被许多人同时使用，某些条件则必须作出相互协调的分配。

因此，生产能力增强，并不会自动消除一切稀缺。

它可能使某些东西更容易获得，也可能使另一些关键资源更加重要。谁控制这些资源，谁有机会接近它们，便会影响谁能够自主生活。

我们在田野与企业中已经见过这种关系。

清楚的产权可以鼓励照料，集中起来的控制也可能形成依附。未来的制度，需要继续保护创造，同时防止少数主体凭借关键条件，决定其他主体全部的生活道路。

一种存在能够运行得更久、复制得更多，也不能仅凭这些能力，便获得无限扩张控制的理由。

共同世界需要为新的开始保留位置。

新的主体若真的出现，也将进入一个早已有人生活的世界。

保护它们，不能以忽略人类的处境为代价。技术发展中的收益与转型成本，仍然需要认真分担；缺少资金、技能与发言机会的人，不能因为未来更加宏大，便被留在当下的困境之中。

同样，人的安全也不应仅凭对新主体的善意获得保证。

不同存在之间，可以有合作，也可能有利益冲突。能力越强，造成损害的范围可能越大，对授权、监督与责任的要求便越高。尊重一个主体，与允许它不受约束地行动，并不是同一个结论。

保护应当回应脆弱，权限应当匹配责任，掌握力量者应当受到相应约束。

这些要求并不因主体的材料改变而失去意义。它们使共同生活能够容纳差异，也使尊重不至于成为无条件的放任。

面对尚未确定的未来，我们能做的，不必从宣布最终制度开始。

可以保存证据，改进研究，公开重要判断的依据，使利益冲突受到辨认；可以让可能受影响的人参与讨论，也为新的证据留下重新审查的道路。

在不确定之中，有些决定能够撤回，有些则可能造成无法修复的后果。两者需要受到不同程度的慎重对待。

慎重也有成本，不能靠无限扩大假设来取消一切实践。需要说明我们担忧什么，证据有多强，措施可能保护谁，又会限制谁。

可贵的谨慎，是让判断有依据，让行动有分寸，让错误仍有机会被发现与纠正。

未来不会等到所有理论完备才到来。制度因而需要一边行动，一边保持学习的能力。

回望走过的道路，产权的价值已经显出多重面貌。

它让劳作有归处，使人敢于种下明年；它借助契约与记录，把信任延伸到陌生人之间；它能够组织远距离的合作，也需要把越过边界的损害重新接回责任。

共同资源需要治理，知识的传播需要道路，个人的创造需要支持。不同的事物，要求不同的分寸。历史没有留下一套可以覆盖全部生活的简单安排，却留下了许多足以使我们警醒的经验。

尤其应当珍惜的，是那些始终具体的主体。

一个人的名字可以出现在册页上，也可能被遗漏；一项事业可以被说成属于大家，实际决定却仍掌握在少数人手中。制度的语言再宏大，都需要走近生活，辨认谁能够作主，谁承担代价，谁仍然无处申诉。

这份要求，应当伴随我们走向新的山口。

山谷里，风仍吹过石墙与树冠。

院中有人收好工具，把一部分种子留给来年。远处的工厂继续运行，河水经过不同的土地。某个房间里，读者合上一本书；另一处屏幕上，程序正在等待下一项任务。

这些生活暂时仍由我们熟悉的方式连接。

或许有一天，屏幕另一端会出现一个真正需要被重新理解的存在。它的表达未必像人，它的时间也未必与我们相同。我们需要有足够的清醒，辨认它究竟是什么；也需要有足够的诚实，在证据改变时，重新衡量自己的权利。

立下界石，是为了让归属可靠，让自由有所依凭。

走到界石之后，我们还须问：这份依凭是否只保护了已经站在门内的人，能否也回应后来者有根据的需要？

群山之外尚无现成的路。可以带过去的，是对创造的珍惜，对权力的警惕，对共同生活的责任，以及愿意认真辨认另一个主体的耐心。

暮色渐深，院门旁的界石仍留着白日的余温。

它守着一个人可以安睡的地方，也提醒走近的人：这里已有生活。

而山口的风，正从更远处吹来。

---

我的其它文章