威尔·道格拉斯·海文《麻省理工技术评论》2024-07
上个月，Anthropic 发布了一项研究的结果，研究人员给 Claude 3 提供了相当于 MRI 的神经网络。通过监测模型在运行时哪些部分打开和关闭，他们确定了当模型被显示特定输入时激活的特定神经元模式。Anthropic还报告了它所说的与试图描述或显示抽象概念的输入相关的模式。“我们看到了与欺骗和诚实、谄媚、安全漏洞、偏见相关的特征，”欧拉说。“我们发现了与权力追求、操纵和背叛相关的特征。”
这些结果让我们最清楚地看到了大型语言模型的内部情况。它让我们看到了看似难以捉摸的类人特征。但它到底告诉了我们什么？正如 Olah 承认的那样，他们不知道该模型如何处理这些模式。“这是一个相对有限的图景，分析起来相当困难，”他说。
即使 Olah 不会详细说明他认为像 Claude 3 这样的大型语言模型内部发生了什么，但很明显这个问题对他很重要。Anthropic 以其在人工智能安全方面的工作而闻名——确保强大的未来模型将按照我们希望的方式运行，而不是以我们不希望的方式运行（行业术语中称为“对齐”）。弄清楚今天的模型是如何工作的，不仅是你想要控制未来模型的必要的第一步；它还告诉你，你首先需要多担心末日情景。 “如果你认为模型不会非常强大，”奥拉说，“那么它们可能也不会非常危险。” 2014 年，在回顾其职业生涯的 BBC 采访中，颇具影响力的认知科学家玛格丽特·博登（现年 87 岁）被问及她是否认为存在任何限制，可以阻止计算机（或她称之为“锡罐”）做人类可以做的事情。“我当然不认为原则上存在任何限制，”她说。 “因为否认这一点就等于说 [人类思维] 是靠魔法发生的，而我不相信它是靠魔法发生的。”
但她警告说，强大的计算机不足以让我们实现这一目标：人工智能领域还需要“强大的想法”——关于思考如何发生的新理论，可能重现思考的新算法。“但这些事情非常非常困难，我认为没有理由假设我们有一天能够回答所有这些问题。也许我们会；也许我们不会。”
博登正在反思当前繁荣的早期，但这种摇摆不定的状态表明，在过去的几十年里，她和她的同行们一直在努力解决与今天的研究人员一样的难题。人工智能始于 70 多年前的雄心勃勃的愿望，我们仍然对什么是可以实现的和什么是不能实现的，以及我们如何知道我们是否已经实现了它存在分歧。大多数（如果不是全部）这些争议都归结为这一点：我们还没有很好地掌握什么是智能或如何识别它。这个领域充满了猜测，但没有人能肯定地说。
自从人们开始认真对待人工智能的概念以来，我们一直在这个问题上徘徊。甚至在那之前，当我们所看到的故事开始将类人机器的概念深深植入我们的集体想象中时，我们就已经陷入了这种境地。这些争议由来已久，这意味着今天的争斗往往会强化自始至终存在的裂痕，使人们更难找到共同点。
要了解我们是如何走到这一步的，我们需要了解我们曾经在哪里。所以，让我们深入了解人工智能的起源故事——它也曾为了捞钱而大肆宣传。1955年，计算机科学家约翰·麦卡锡在为新罕布什尔州达特茅斯学院的一个暑期研究项目撰写资金申请时，提出了“人工智能”一词。计划是让麦卡锡和一小群研究员（战后美国数学家和计算机科学家名人录）聚在一起，用两个月的时间（不是笔误）在他们自己设定的这项新研究挑战上取得重大进展。麦卡锡和他的合著者写道：“这项研究基于这样的猜想：学习的每个方面或智能的任何其他特征在原则上都可以被如此精确地描述，以至于机器可以模拟它。”“我们将尝试找到如何让机器使用语言、形成抽象和概念、解决现在只有人类才能解决的各种问题并提高自身水平。”
他们希望机器能够做到的事情清单——本德称之为“不切实际的梦想”——并没有发生太大变化。使用语言、形成概念和解决问题是当今人工智能的定义目标。狂妄自大也没有太大改变：“我们认为，如果一群精心挑选的科学家一起花一个夏天的时间研究这个问题，就可以在这些问题中的一个或多个上取得重大进展，”他们写道。当然，那个夏天已经延续了七十年。而这些问题现在实际上已经得到解决的程度，人们仍然在互联网上大声疾呼。 但这段经典历史经常被忽略的是，人工智能几乎没有被称为“人工智能”。
（未完待续）
No post found!
- 《纽约客》丨纪念9·11二十五周年 - 09/12/26
- 数学500年：新的黄金时代？（1） - 06/05/26
- 没有美洲，我们吃啥？ - 05/17/26