什么是人工智能？（14）

威尔·道格拉斯·海文《麻省理工技术评论》2024-07

Gebru 和 Torres（以及其他人）坚决表示：不，我们不应该。他们强烈批评这些意识形态以及它们可能如何影响未来技术的发展，尤其是人工智能。从根本上讲，他们将其中几种世界观（它们的共同重点是“改善”人类）与 20 世纪的种族主义优生学运动联系起来。

他们认为，一个危险是，将资源转向这些意识形态所要求的技术创新，从开发 AGI 到延长寿命再到殖民其他星球，最终将使西方人和白人受益，而数十亿非西方人则因此受损。如果你把目光投向梦幻般的未来，很容易忽视创新的当前成本，例如劳动力剥削、种族主义和性别歧视的根深蒂固以及环境破坏。  

“我们是否试图构建一种对我们有用的工具？”本德在反思这场 AGI 竞赛的伤亡时问道。如果是这样，那么它是为谁准备的，我们如何测试它，它的效果如何？“但如果我们建造它只是为了说我们已经做到了，那我就无法支持这个目标。这个目标不值数十亿美元。”

本德说，看到 TESCREAL 意识形态之间的联系让她意识到这些争论还有更多的东西。“与那些人纠缠是——”她停了下来。“好吧，这里不仅仅是学术思想。其中也包含着道德准则。”当然，这样毫无细微差别地阐述，听起来我们——作为一个社会，作为个人——并没有得到最好的待遇。这一切听起来也相当愚蠢。当 Gebru 在去年的一次演讲中描述 TESCREAL 套件的部分内容时，她的听众笑了。同样真实的是，很少有人会将自己视为这些思想流派的正式学生，至少在极端情况下是这样。但是，如果我们不了解那些开发这项技术的人是如何看待它的，我们如何决定我们想要达成什么交易？我们决定使用哪些应用程序，我们想要将个人信息提供给哪些聊天机器人，我们支持社区中的哪些数据中心，我们想要投票给哪些政客？过去是这样的：世界上有一个问题，我们制造一些东西来解决它。在这里，一切都倒退了：目标似乎是制造一台可以做所有事情的机器，并跳过在构建解决方案之前弄清楚问题是什么的缓慢而艰苦的工作。正如 Gebru 在同一次演讲中所说，“一台解决所有问题的机器：如果这不是魔法，那是什么？”当直接问到什么是人工智能时，很多人都回避了这个问题。苏莱曼也不例外。今年 4 月，微软人工智能首席执行官站在了 TED 舞台上并告诉观众他是怎样回答他六岁侄子的这个问题的。苏莱曼解释说，他能给出的最好答案是，人工智能是“一种新型的数字物种”——一种如此普遍、如此强大的技术，称其为工具已不再能体现它能为我们做些什么。

“按照我们目前的发展轨迹，我们正走向一种我们都在努力描述的东西的出现，但我们无法控制我们不理解的东西，”他说。“因此，隐喻、心理模型、名称——如果我们要最大限度地利用人工智能，同时限制其潜在的缺点，这些都很重要。”

语言很重要！我希望从我们走到这一步所经历的曲折和暴躁中可以清楚地看出这一点。但我也希望你们会问：谁的语言？谁的缺点？苏莱曼是一家科技巨头的行业领导者，该公司将从其人工智能产品中赚取数十亿美元。将这些产品背后的技术描述为一种新物种，会让人联想到前所未有的东西，具有我们从未见过的能动性和能力的东西。这让我的蜘蛛感应变得敏锐。你呢？

我无法告诉你这里面是否有魔法（讽刺与否）。我也无法告诉你数学如何实现 Bubeck 和其他许多人在这项技术中看到的东西（目前还没有人能做到）。你必须自己拿主意。但我可以拉开我自己的观点的帷幕。早在 2020 年

写到GPT-3 时，我就说过，人工智能有史以来最伟大的把戏就是让世界相信它存在。我仍然认为：我们天生就认为以某种方式行事的事物具有智能，无论它是否存在。在过去的几年里，科技行业找到了自己的理由来让我们相信人工智能也存在。这让我对这项技术的许多说法持怀疑态度。

有了大型语言模型（通过笑脸面具），我们面临着以前从未考虑过的事情。“这是把这个假设的东西具体化，”帕夫利克说。“我从来没有想过一段语言是否需要智能来生成，因为我从来没有处理过不需要智能的语言。”

人工智能有很多种。但我不认为它像人类一样。我不认为它是我们所有（甚至大多数）问题的解决方案。它不是 ChatGPT 或 Gemini 或 Copilot。它不是神经网络。它是一种想法、一种愿景、一种愿望的实现。而想法会受到其他想法、道德、准宗教信仰、世界观、政治和直觉的影响。“人工智能”是描述一系列不同技术的有用简写。但人工智能不是一回事；无论品牌在盒子外面烙印得多么频繁，它从来都不是一回事。 

“事实是，这些词语”——智能、推理、理解等等——“在需要真正精确定义之前就已经被定义了，”帕夫利克说。“我不喜欢问题变成‘模型是否理解——是或否？’因为，嗯，我不知道。词语会被重新定义，概念也在不断演变。”

我认为这是对的。我们越早退一步，就我们不知道的事情达成一致，并接受这一切都尚未完成的事实，我们就能越早——我不知道，我猜不是所有人都手拉手唱 kumbaya。但我们可以停止互相辱骂。下一个重大事件是可以执行更复杂任务的 AI 工具。它们的工作方式如下。AI工具可用于从预订航班到翻译菜单等所有事情。谷歌的新 AI 搜索功能一团糟。那么为什么它告诉我们要吃石头和粘糊糊的披萨呢？它能被修复吗？生成式人工智能使网络钓鱼、诈骗和人肉搜索变得前所未有的容易。

（完）