什么是人工智能？（5）

威尔·道格拉斯·海文《麻省理工技术评论》2024-07

声称 GPT-4 的行为显示出 AGI 的迹象不仅具有挑衅性，而且在自己的产品中使用 GPT-4 的微软显然有意推广该技术的功能。一位科技首席运营官在 LinkedIn 上发帖称：“这份文件是伪装成研究的营销花招。”一些人还认为该论文的方法存在缺陷。它的证据很难核实，因为它来自与 GPT-4 的一个版本的交互，而该版本并未在 OpenAI 和微软之外提供。Bubeck 承认，公开版本有限制模型功能的护栏。这使得其他研究人员无法重现他的实验。

一个小组试图重现独角兽的例子使用一种名为 Processing 的编码语言，GPT-4也可以使用该语言来生成图像。他们发现，GPT-4 的公开版本可以生成一个过得去的独角兽，但不能将该图像翻转或旋转 90 度。这似乎是一个很小的差异，但当你声称画独角兽的能力是 AGI 的标志时，这些事情真的很重要。Sparks

论文中的例子（包括独角兽）的关键在于，Bubeck 和他的同事认为它们是创造性推理的真正例子。这意味着团队必须确定这些任务的例子，或与它们非常相似的任务的例子，没有包含在 OpenAI 为训练其模型而积累的庞大数据集中的任何地方。否则，结果可能会被解释为 GPT-4 重现它已经见过的模式的实例。Bubeck

坚持认为他们只为模型设置了在互联网上找不到的任务。用 Latex 画一只卡通独角兽肯定是这样的一项任务。但互联网是一个很大的地方。其他研究人员很快指出，确实有专门讨论用 Latex 画动物的在线论坛。“仅供参考，我们知道这个，”Bubeck在 X 上回复道。“Sparks 论文的每一个问题都在网上仔细搜索过。”

（这并没有阻止辱骂：“我要求你不要再当骗子了，”加州大学伯克利分校的计算机科学家 Ben Recht在推特上回复道，然后指责 Bubeck“被揭穿撒谎”。）

Bubeck 坚持认为这项工作是真诚完成的，但他和他的合著者在论文中承认他们的方法并不严谨——笔记本观察而不是万无一失的实验。 

尽管如此，他并不后悔：“这篇论文已经发表一年多了，我还没有看到任何人给我一个令人信服的论据，例如，独角兽不是推理的真正例子。”

这并不是说他可以给我一个大问题的直接答案——尽管他的回答揭示了他想给出什么样的答案。 “什么是人工智能？”布贝克重复道。“我想跟你讲清楚。问题可能很简单，但答案可能很复杂。”

“有很多简单的问题我们仍然不知道答案。其中一些简单的问题是最深刻的问题，”他说。“我把这个问题与生命的起源是什么？宇宙的起源是什么？我们从哪里来？像这样的大问题一样重要。”

在本德成为人工智能支持者的主要反对者之一之前，她作为两篇有影响力的论文的合著者在人工智能界留下了自己的印记。（她喜欢指出，这两篇论文都经过了同行评审——不像 Sparks 论文和许多其他备受关注的论文。）第一篇论文是与德国萨尔大学计算语言学家亚历山大·科勒 (Alexander Koller) 合著的，于 2020 年出版，名为“向 NLU 迈进”（NLU 是自然语言理解）。

“对我来说，这一切的开始是与计算语言学的其他人争论语言模型是否理解任何东西，”她说。（理解和推理一样，通常被认为是人类智能的基本要素。）

本德和科勒认为，仅靠文本训练的模型只会学习语言的形式，而不是其含义。他们认为，含义由两部分组成：单词（可以是标记或声音）以及说出这些单词的原因。人们使用语言的原因有很多，比如分享信息、讲笑话、调情、警告某人退后等等。剥离了这些背景之后，用于训练 GPT-4 等 LLM 的文本可以很好地模仿语言模式，以至于 LLM 生成的许多句子看起来与人类写的句子一模一样。但它们背后没有任何意义，没有火花。这是一个了不起的统计技巧，但完全没有意义。

他们用一个思想实验来说明他们的观点。想象两个说英语的人被困在相邻的荒岛上。有一条水下电缆可以让他们互相发短信。现在想象一下，一只章鱼，它对英语一无所知，但却是统计模式匹配的高手，它用吸盘缠绕在电缆上，开始监听信息。章鱼非常擅长猜测哪些单词后面跟着其他单词。它是如此优秀，以至于当它扯断电缆并开始回复其中一位岛民的消息时，她相信自己仍在和邻居聊天。 （如果您没注意，这个故事中的章鱼是一个聊天机器人。）

与章鱼交谈的人会在一段合理的时间内被愚弄，但这能持续下去吗？章鱼能理解电线上的内容吗？ 

想象一下，现在岛民说她已经造了一个椰子弹射器，并要求章鱼也做一个，并告诉她它的想法。章鱼做不到这一点。如果不知道信息中的单词在现实中指的是什么，它就无法遵循岛民的指示。也许它会猜到答案：“好的，好主意！”岛民可能会认为这意味着她正在交谈的人明白她的信息。但如果是这样，她就是在毫无意义的地方看到了意义。最后，想象一下岛民被熊袭击并向下发出求救信号。章鱼会如何处理这些话？

（未完待续）