什么是人工智能？（1）

威尔·道格拉斯·海文《麻省理工技术评论》2024-07

每个人都认为自己知道，但没有人能达成一致。这就是问题所在。

人工智能很性感，人工智能很酷。人工智能正在加剧不平等，颠覆就业市场，破坏教育。人工智能是主题公园的游乐设施，人工智能是一个魔术。人工智能是我们最后的发明，人工智能是一种道德义务。人工智能是十年来的流行语，人工智能是 1955 年的营销术语。人工智能像人类一样，人工智能是外星人。人工智能超级聪明，但愚蠢如泥土。人工智能热潮将提振经济，人工智能泡沫即将破灭。人工智能将增加丰富性，并赋予人类在宇宙中最大程度繁荣的力量。人工智能将杀死我们所有人。

大家到底在谈论什么？

人工智能是我们这个时代最热门的技术。但它是什么？这听起来像是一个愚蠢的问题，但它从未像现在这样紧迫。简短的回答是：人工智能是一个统称，指的是一组技术，这些技术使计算机能够完成人们认为需要智能才能完成的事情。想想识别人脸、理解语音、驾驶汽车、写句子、回答问题、创建图片。但即使是这个定义也包含众多内容。

而这正是问题所在。机器理解语音或写句子意味着什么？我们可以让这些机器做什么样的任务？我们应该在多大程度上信任机器去做这些任务？

随着这项技术从原型越来越快地发展成为产品，这些问题已经成为我们所有人的问题。但（剧透！）我没有答案。我甚至不能告诉你什么是人工智能。制造人工智能的人也不知道什么是人工智能。然而，“这些问题非常重要，每个人都觉得自己可以发表意见，”旧金山人工智能实验室 Anthropic 的首席科学家 Chris Olah 说。“我还认为，你可以随心所欲地争论这个问题，因为现在没有证据与你的观点相矛盾。”

但是，如果你愿意系紧安全带，跟我走一趟，我可以告诉你为什么没人真正知道，为什么似乎每个人都不同意，以及为什么你关心它是对的。

让我们从一个随口说的笑话开始。

回到 2022 年，在《神秘人工智能炒作剧场 3000》第一集的部分内容中，这是一个扫兴的播客，脾气暴躁的联合主持人亚历克斯·汉娜和艾米丽·本德很有趣地将“最锋利的针”刺入硅谷一些最膨胀的神圣不可侵犯的东西，他们提出了一个荒谬的建议。他们大声朗读谷歌工程副总裁 Blaise Agüera y Arcas 发表的一篇 12,500 字的 Medium 帖子，标题为“机器能学习如何行为吗？ ”Agüera y Arcas 提出，人工智能可以以某种类似于人类理解概念的方式理解概念——比如道德价值观。简而言之，也许机器可以被教会行为。 

汉娜和本德对此不以为然。他们决定用“数学”一词来代替“人工智能”一词——你知道，就是大量的数学。

这个不敬的短语旨在消除他们认为引用的句子中的夸张和拟人化。很快，社会学家兼分布式人工智能研究所研究主任汉娜和华盛顿大学计算语言学家（也是互联网上著名的科技行业炒作批评家）本德就揭开了阿奎拉·阿卡斯想要说的话和他们选择听到的方式之间的鸿沟。

“人工智能、它们的创造者和用户应该如何承担道德责任？”阿奎拉和阿卡斯问道。本德问道，

数学应该如何承担道德责任？

“这里存在一个分类错误，”她说。汉娜和本德不仅拒绝接受阿奎拉和阿卡斯的说法，还声称这没有意义。本德说：“我们能不能不要再用‘一个人工智能’或‘这些人工智能’了，就好像它们是世界上的个体一样？”

（未完待续）