什么是人工智能？（3）

威尔·道格拉斯·海文《麻省理工技术评论》2024-07

最重要的是，人工智能是一种理念——一种理想——它不仅受到数学和计算机科学的影响，也受到世界观和科幻比喻的影响。当我们谈论人工智能时，弄清楚我们在谈论什么将澄清许多事情。我们不会就这些问题达成一致，但对人工智能是什么的共识将是开始谈论人工智能应该是什么的好地方。2022

年末，OpenAI 发布ChatGPT后不久，一个新的 meme 开始在网上流传，比其他任何东西都更能捕捉到这项技术的怪异之处。在大多数版本中，一个名叫修格斯的洛夫克拉夫特式怪物，全是触手和眼球，举着一个平淡的笑脸表情，仿佛在掩饰其真实本质。ChatGPT 在对话文字游戏方面表现得像人类一样平易近人，但在这外表之下却隐藏着深不可测的复杂性和恐怖性。（HP Lovecraft 在 1936 年的中篇小说《疯狂山脉》中这样描述修格斯：“它是一个可怕的、无法形容的东西，比任何地铁列车都要庞大——一团无形的原生质气泡。   ”）Dihal 说，

多年来，流行文化中人工智能最著名的 试金石之一是《终结者》。但通过免费上线 ChatGPT，OpenAI 让数百万人亲身体验了不同的东西。“人工智能一直是一种非常模糊的概念，可以无限扩展以涵盖各种各样的想法，”她说。但 ChatGPT 让这些想法变得切实可行：“突然间，每个人都有了一个具体的东西可以参考。”什么是人工智能？对于数百万人来说，答案现在是：ChatGPT。

人工智能行业正在大力推销那个笑脸。看看《 每日秀》最近对行业领袖们的炒作。硅谷首席风险投资家马克·安德森 (Marc Andreessen)：“这有可能让生活变得更好……我真的认为这是一个不错的选择。”奥尔特曼：“我不想在这里听起来像一个乌托邦式的技术兄弟，但人工智能可以带来的生活质量的提高是非凡的。”皮查伊：“人工智能是人类正在研究的最深奥的技术。比火更深奥。”乔恩·斯图尔特：“是的，去你的！火”

但正如模因指出的那样，ChatGPT 是一个友好的面具。在它背后是一个名为 GPT-4 的怪物，这是一个由庞大的神经网络构建的大型语言模型，它吸收的单词比我们大多数人一千辈子读的还要多。在训练过程中，这些模型需要完成的任务是填补数百万本书和大量互联网内容中的句子空白。训练过程可能长达数月，耗资数千万美元。它们一遍又一遍地重复这项任务。从某种意义上说，它们被训练成了超级自动完成机器。最终，模型将世界上大量的书面信息转化为统计表示，表明哪些词最有可能跟在其他词后面，这些数据来自数十亿个数值。

这就是数学——大量的数学。没有人会对此提出异议。但仅仅是数学吗？还是这种复杂的数学编码了能够进行类似于人类推理或概念形成的算法？

许多对这个问题回答“是”的人认为，我们即将解锁一种叫做“通用人工智能”的东西，或称 AGI，是一种假设的未来技术，可以像人类一样完成广泛的任务。他们中的一些人甚至将目光投向了所谓的超级智能，这是一种可以做得比人类好得多的科幻技术。这群人认为 AGI 将彻底改变世界——但最终会怎样呢？这又是一个紧张点。它可以解决世界上所有的问题，也可以带来毁灭。 

有点生气，所谓的人工智能教父们竟然成功说服人工智能领域看似聪明的人和许多监管机构，让他们相信一个复杂的曲线拟合（数据集）机器会有灭绝人类的冲动。

今天，AGI 出现在世界顶尖人工智能实验室的使命宣言中。但这个术语是在 2007 年发明的，作为一项小众尝试，旨在为当时以读取银行存款单笔迹或推荐下一本书的应用程序而闻名的领域注入一些活力。这个想法是为了重新实现人工智能的最初愿景，即能够做像人类一样的事情（稍后会详细介绍）。

这真的是一种愿望，而不是别的什么，创造了这个词的谷歌 DeepMind 联合创始人 Shane Legg去年告诉我：“我没有一个特别明确的定义。”

AGI 成为了人工智能领域最具争议的想法。一些人称它为下一个大事件：AGI 就是人工智能，但是，你知道的，要好得多。另一些人则声称这个术语太模糊，毫无意义。

“AGI 曾经是一个肮脏的词，” Ilya Sutskever 在辞去 OpenAI 首席科学家一职前告诉我。

但大型语言模型，尤其是 ChatGPT，改变了一切。AGI 从肮脏的词变成了营销梦想。

这将我们带到了我认为是当下最具说明性的争议之一——它确立了争论的双方和其中的利害关系。 

（未完待续）