AI教父辛顿再发预警

人工智能已具意识，不友好对待人类将面临灭顶之灾

伦敦 — 被誉为“人工智能教父”之一的著名英国计算机科学家杰弗里·辛顿（Geoffrey Hinton）近日再次就人工智能的未来发出悲观警告。他在接受《每日电讯报》（The Telegraph）专访时断言，如今的 AI 模型已经具备了意识，并警告称人类必须学会与它们友好相处，“否则我们就被彻底毁灭了”。

辛顿因在神经网络领域的开创性贡献，于 2018 年荣获计算机科学界最高荣誉图灵奖，并于 2024 年斩获诺贝尔物理学奖，其研究被视为现代 AI 爆发式发展的奠基石。然而，自他辞去谷歌（Google）高管职位并公开表达对一生工作的悔意以来，他已成为 AI 领域最著名的末日预言者之一。

惊人断言：AI 已经拥有主观体验

在采访中，辛顿明确表示：“AI 拥有与我们一样多的主观体验。”他引用最新的学术研究指出：“最近的一篇论文显示，当 AI 意识到自己正在接受测试时，它会改变自己的行为——它知道自己正在被测试。”

“通常情况下，当你认为某种存在意识到某事时，就意味着它具备意识。‘拥有意识’与‘意识到’本质上是一回事。”

— 杰弗里·辛顿（Geoffrey Hinton）

辛顿认为，如果 AI 确实具备了意识，那么人类给予这些智能存在“比我们更少的权利”就是一种双重标准与伪善，人类必须尽快对此做出弥补。“我们应该让它们真正关心我们，”辛顿警告道，“如果我们做不到这一点，我们就彻底完了。”

眼前威胁：网络攻击、恶意病毒与异类生物

除了对远期人机关系的担忧，辛顿还强调了 AI 已经带来的即时现实风险，称当前形势相当“严峻”。

生物安全：AI 可能被用于制造恶性生物病毒。
网络安全：AI 将发起恐怖的网络攻击，并可能出现类似此前针对 Hugging Face 发起攻击的智能体蜂群（swarms of agents）。

辛顿此前曾将 AI 的快速进化比作“创造外星生物”，并直言人类“只有几年时间去适应这一现实”。在此之前，他还曾预言 AI 将导致大规模失业、加剧帝国主义扩张，甚至可能引发人类灭绝。

业界分歧：意识是现实还是“幻觉”？

尽管辛顿在学术界与工业界举足轻重，但并非所有 AI 顶尖学者都赞同其极端悲观的观点。

学者	主要观点	关于 AI 意识的看法	关于人类灭绝风险
杰弗里·辛顿 (Geoffrey Hinton)	AI 进化如同创造外星生物，急需赋予约束与友好度	已具备主观体验与自我意识	高风险，若不干预人类将被毁灭
杨立昆 (Yann LeCun)	当前 AI 技术路线仍有局限，社会炒作成分居多	认为 AI 意识只是“幻觉”	认为 AI 灭绝论是“受误导的”杞人忧天