什么是人工智能？（2）

威尔·道格拉斯·海文《麻省理工技术评论》2024-07

听起来好像他们在谈论不同的事情，但事实并非如此。双方都在谈论大型语言模型，即当前人工智能热潮背后的技术。只是我们谈论人工智能的方式比以往任何时候都更加两极分化。今年 5 月，OpenAI 首席执行官 Sam Altman发推文透露了公司旗舰模型GPT-4 的最新更新，“我觉得这就像魔术一样。”数学和魔法之间还有很长的路要走。人工智能有追随者，他们像信仰一样相信这项技术目前的力量和未来必然的改进。他们说，人工智能就在眼前；超级智能即将到来。也有异端者，他们把这些说法视为神秘的胡言乱语。流行的流行叙事是由一群大牌人物塑造的，从 Sundar Pichai 和 Satya Nadella 等大型科技公司的首席营销人员，到 Elon Musk 和 Altman 等行业领头人，再到Geoffrey Hinton等著名计算机科学家。有时，这些支持者和毁灭者是同一个人，他们告诉我们这项技术太好了，以至于很糟糕。随着人工智能炒作的膨胀，一个直言不讳的反炒作游说团体站出来反对，准备打击其雄心勃勃、往往疯狂的主张。推动这一方向发展的是一大批研究人员，包括 Hanna 和 Bender，以及直言不讳的行业批评家，比如有影响力的计算机科学家和前谷歌员工Timnit Gebru 和纽约大学认知科学家 Gary Marcus。他们的回复中都有一群追随者在争吵。简而言之，人工智能已经成为所有人眼中的一切，将这个领域分成了不同的粉丝群体。感觉好像不同的阵营在各说各话，并不总是出于善意。

或许你觉得这些听起来很傻很无聊。但是考虑到这些技术的强大和复杂性——它们已经被用来确定我们支付多少保险、如何查找信息、如何开展工作等等——所以现在是时候我们至少就我们正在讨论的内容达成一致了。

然而，在我与这项技术最前沿的人士进行的所有对话中，没有人直接回答他们正在构建什么。（这里我们重点关注美国和欧洲的人工智能争论，主要是因为那里有许多资金最充足、最前沿的人工智能实验室。但当然，其他地方也有重要的研究，在对人工智能持有不同观点的国家，尤其是中国。）部分原因是发展速度。但科学也是开放的。今天的大型语言模型可以做惊人的事情。但这个领域就是无法就幕后真正发生的事情找到共同点。

这些模型被训练来完成句子。它们似乎能做更多的事情——从解决高中数学问题到编写计算机代码，再到通过法律考试和创作诗歌。当一个人做这些事情时，我们认为这是智慧的标志。那么当计算机做这些事情时呢？智慧的出现就足够了吗？

这些问题触及了我们所说的“人工智能”的核心，人们实际上已经争论了几十年。但随着大型语言模型的兴起，围绕人工智能的讨论变得更加激烈，这些模型可以以令人兴奋/令人不寒而栗（删除适用）的真实感模仿我们说话和写作的方式。

我们已经制造出具有类似人类行为的机器，但还没有摆脱想象它们背后有类似人类思维的习惯。这导致对人工智能能力的评价过高；它将直觉反应固化为教条主义立场，并加剧了技术乐观主义者和技术怀疑论者之间更广泛的文化战争。

除了这种不确定性，还有大量的文化包袱，从科幻小说（我敢打赌，这个行业中的许多人都是看着它长大的）到更加恶毒的意识形态，这些意识形态影响着我们对未来的看法。鉴于这种令人头晕目眩的混合体，关于人工智能的争论不再只是学术性的（也许从来都不是）。人工智能激发了人们的激情，让成年人互相辱骂。

马库斯在谈到这场争论时说：“现在的智力并不健康。”多年来，马库斯一直在指出深度学习的缺陷和局限性，深度学习是将人工智能推向主流的技术，为从法学硕士到图像识别再到自动驾驶汽车等所有领域提供动力。他在 2001 年出版的《代数思维》一书中写道：认为深度学习的基础是神经网络，而神经网络无法自行推理。 （我们现在先跳过这个话题，但稍后我会回过头来讨论，我们会看到“推理”这个词在这样的句子中有多重要。）

马库斯说，他曾试图与辛顿（去年辛顿公开表达了对他参与发明的技术的存在担忧）就大型语言模型到底有多好进行适当的辩论。 “他就是不会这么做，”马库斯说。“他叫我傻瓜。”（我过去曾与辛顿谈论过马库斯，可以证实这一点。“ChatGPT 显然比他更了解神经网络，”辛顿去年告诉我。）马库斯还因撰写题为“深度学习正在碰壁”的文章而引起愤怒。奥尔特曼在推文中回应道：“给我一个平庸的深度学习怀疑论者的信心。”

与此同时，马库斯的宣传也让他成为了一个个人品牌，并在去年获得了与奥尔特曼并肩坐在一起在美国参议院人工智能监督委员会作证的邀请。

而这也是为什么这些争斗比一般的互联网肮脏龌龊更重要的原因。当然，这其中涉及到巨大的自负和巨额的金钱。但更重要的是，当国家元首和立法者召集行业领袖和固执己见的科学家来解释这项技术是什么、能做什么（以及我们应该有多么害怕）时，这些争论就变得重要了。当这项技术被融入我们每天使用的软件中时，从搜索引擎到文字处理应用程序，再到手机助手，它们就变得重要了。人工智能不会消失。但是，如果我们不知道自己被卖了什么，谁是傻子？

（未完待续）