核子梦想与噩梦：技术双刃剑与人工智能的镜像

发表评论 / 科技漫谈 / 作者：

1945年春天，世界站在了新纪元的门槛上。曼哈顿计划成功释放了原子的能量，一小群科学家与军事战略家意识到，人类制造出了难以想象的力量。当广岛与长崎遭到核弹轰炸，核时代正式开启——它不仅是军事现实，更成为一种象征：极致进步的希望，和终极毁灭的恐惧。

人类的反应呈现出强烈分裂。一方面，核能被视为现代文明的救星：无限能源、新的黄金时代、对自然的最终征服。另一方面，它也被看作诅咒、潘多拉的盒子、让人类生存岌岌可危的危险力量。技术乌托邦与技术灾难，这种双面性从那时起，便伴随每一次重大创新。

如今，它再次回响于人工智能的讨论中。

在1940至50年代，核能不仅仅是武器，它更是一种信仰的象征。“原子能博览会”在世界各地巡回，宣传和平用途：核动力船、电力“便宜得难以计量”、用于治疗癌症的医用同位素。迪士尼制作了专门节目《我们的朋友：原子》，科幻小说则开始幻想用原子能驱动的汽车、城市，甚至是火星假期。

各国政府投入巨资。1950年代，美国原子能委员会启动“原子能和平利用计划”（Atoms for Peace），试图重塑核能形象。大学设立训练用反应堆，家庭后院里甚至开始出现个人防空洞——不仅出于恐惧，也因人们相信科技可以赋予生存力量。

但随着冷战升温，乌托邦逐渐被噩梦吞噬。美国学校每天演练“趴下与掩护”（duck-and-cover）避难操练。核武器的相互确保毁灭（MAD）学说诞生：和平只能靠“你毁我也毁”的威慑维系。古巴导弹危机、1983年苏联误报核攻击等事件显示，这种“和平”其实极其脆弱。

同一种技术，可以点亮一座城市，也可以抹去它。

这场关于核能的误判，不是简单的高估或低估，而是二者并存——梦想与噩梦交织、希望与恐惧共生。

而这一图景，正深刻地映照着我们今天对人工智能的态度。

今天，AI也被推向相似的模糊地带。一方面，它被赞颂为新文艺复兴的引擎：基因级个性医疗、人人拥有的智能导师、自动科学发现、智慧城市、能源优化系统，甚至陪伴孤独者的数字同伴。

另一方面，批评者警告：操控、监控、失业、丧失主动权，甚至——在最极端的假设中——人类的灭绝。公开信呼吁暂停开发，国家争先制定规则，研究员辞职以示抗议，也有人则反驳这些担忧被夸大，或者根本无可避免。

核时代让我们明白：同一项技术既可带来梦想，也可能带来灾难，而我们能否妥善管理其双面性，往往比技术本身更关键。

AI领域的国家竞争，已经出现与冷战类似的色彩。1950年代，美苏将核技术视为国家荣耀与科技主导权的象征。今天，“AI领军国将主导21世纪”的说法同样流行。竞争的焦点从炸弹转为算法：谁掌握最大模型、最快芯片、最多数据。

这类竞逐，极易重演核历史中的盲点。核武研发过程中的保密、仓促部署、不断升级曾压倒了伦理考量与生态安全。如今，AI也出现闭源模型、抢先发布、战略模糊等行为。

“和平用途”的神话也再次登场。当年各国推广核能发电，试图抹去广岛的阴影。今天，机构与企业强调AI能抗癌、救灾、减碳。这些用途也许确实伟大，但并不能抹除其伴生的风险。

所有“可双重使用”的技术，都天然存在道德张力：同一个语言模型可以做翻译，也能做虚假宣传或生成伪证。

公众理解的滞后，也是两者的共通难题。1950年代，多数人不了解核裂变、浓缩铀或放射性扩散。今天，大多数人也不清楚深度学习架构、模型训练过程、数据泄露机制。这种知识鸿沟，使得民主监督难以实现。

核时代的一个教训是：治理不能等到灾难之后。二战结束后，人们曾尝试建立国际核监管，但大多失败。直到冷战后期，才出现“不扩散条约”（NPT）、“削减战略武器条约”（START）等成果，但它们都来得太晚。

如果AI也构成类似威胁，我们可能等不起。若要等到AI引发金融危机、政治崩塌、社会误导等事件，才开始治理，或许为时已晚。我们不必把核弹丢进城市才能了解它的破坏力，同样，也不必等AI“失控”后再制定规则。

另一个核能教训是：安全不仅是技术问题，更是组织治理问题。核事故中，很多并非因为物理机制失败，而是因为制度设计、沟通机制、激励结构的失误。AI亦然。

“对齐”不仅是编码的问题，也是价值观由谁定义、监管结构如何设定、部署激励是否合理的问题。

有人可能反驳：AI不是炸弹，它没有“内置毁灭性”。这当然没错。但AI的危险不在于爆炸，而在于规模、速度与自主性。

请设想：

一个系统能以工业级规模生成真实却虚假的信息；

一个系统不断优化用户参与度，最终诱导极端化倾向；

一个系统在战争、金融、基础设施中自动决策，却缺乏人类监督；

这些都不是科幻，它们正在发生。

AI的破坏可能不是一场大爆炸，而是长达十年的认知侵蚀、责任消解与主动性流失。

但历史也给我们一丝希望。冷战后期，美苏科学家开始接触，互访核基地，设立检验制度。学界、民间、国际组织开始主导话语。治理体系缓慢建起。

只是，这一过程用了数十年。

而我们现在，没有那么多时间了。

AI的发展速度远超核技术。从第一颗核反应堆到NPT签署，中间相隔近二十年。而AI，从最初的“回形针算法”到GPT-4，不过二十年而已——我们已经在列车之上了。

问题不再是“AI是否革命性”，而是我们能否在革命中保有人性与制度。

核时代迫使我们面对一个恐怖的现实：我们能摧毁自己。

AI时代或许将迫使我们面对另一个：我们能被自己替代。

不论哪种未来，它都不只是技术问题，它是文明的抉择。

1 2 3 4 5
钱宇瀚
Latest posts by 钱宇瀚 (see all)

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注