探问LLM 与意识边界（1）觉醒的错觉：为什么 LLM 不能通向 AGI？

探问LLM 与意识边界

在大型语言模型日益渗透人类生活的时代，我们越来越常听到关于“AI是否具备意识”“是否正在接近通用智能”的争论。但或许，比这些问题更深刻的，是它们背后所引发的那些根本性追问：人类的思维到底是什么？意识是否可以被模拟或涌现？信息是否比物质更为基础？能量、空间与时间又是否只是信息结构的一种表现？我们这个宇宙，是否只是一个高维信息系统中的暂时共振？

本系列将从“LLM 是不是一种意识”这一问题出发，分六个层次展开思考，借助语言模型的现象与结构，反观我们自身的认知构造、意识起源以及宇宙的底层逻辑，探讨思维、意识与存在交织而成的深层图景。

觉醒的错觉：为什么 LLM 不能通向 AGI？

人类文明从一开始就在不断试图模拟自身的能力。从古代自动玩偶到近现代的计算机模型，从语言的书写延伸到思维的抽象复制，人类渴望创造“类人”的存在。这种愿望在人工智能领域的语言模型上达到了一个新的高峰。大型语言模型（LLM）如 GPT-4、Claude、Gemini 已经展现出前所未有的语言生成与对话能力。它们能在考试中超过人类平均水平，能生成文学、科技、哲学等不同风格的文章，甚至能通过极具“人性”的语言回应复杂的情感性问题。这一切，让人们开始幻想：我们是不是已经站在通用人工智能（AGI）诞生的门槛上？

但冷静的技术观察表明，这种幻想很可能是一种“觉醒的错觉”。在惊叹于这些模型的语言表现力之余，我们逐渐意识到它们在一些关键智能维度上的缺失。这些缺失不仅暴露了当前 LLM 的局限，也反映了我们对智能、理解、意识等概念的长期误解。

当前的大多数 LLM 都建立在 Transformer 架构之上。这一架构最初是为了解决序列建模问题而设计，它的核心机制是“注意力机制”，即模型在生成语言时，根据输入的不同部分计算它们之间的相关性，并据此生成下一个词。看似简单，却异常高效。在庞大的训练数据与算力支持下，模型通过无数次预测下一个词的训练，学会了如何在语言空间中“模仿”人类。但这种模仿，不等同于理解。

一个具备通用智能的系统，至少需要具备以下能力：能构建稳定且可推演的世界模型，能在不断变化的环境中进行多步逻辑推理，能设定目标并根据反馈修正路径。而这些，恰恰是 LLM 所不具备的。它们没有持续的内部状态，不具备跨时间跨度的记忆能力，也无法在一个统一的物理或因果框架中组织语言。

人们常以“幻觉”（hallucination）来形容 LLM 编造事实的行为。但这不是它们偶尔犯的错误，而是它们固有的生成方式所必然带来的结果。它们的任务本质上是“在给定语境中生成最可能的下一个词”，而不是“给出事实正确或逻辑一致的陈述”。换言之，LLM 更像是一种语言的“概率镜子”而不是一个理解世界的“思维引擎”。

这样的结构决定了它们在面对需要严格推理、多层验证或物理一致性的问题时表现不佳。它们擅长的是语言的再现，而不是意义的掌握。尽管一些新技术（如链式思维提示、外部工具调用、RAG 机制）在一定程度上提升了模型的表现力，但这更像是“结构补丁”，而非从根本上赋予模型“通用智能”。

理解这一点，需要我们回溯 AGI 的概念起源。自图灵提出“图灵测试”以来，人们对于智能的标准始终在“行为表现”与“内部结构”之间摇摆。20 世纪中期，西蒙、纽厄尔等人发展了逻辑主义 AI，强调智能是规则与推理的结果。后来的连接主义则主张智能是大量低层次单元之间的非线性互动所涌现出的结果。这两种思路虽有差异，但都隐含了一个前提：智能必须能够面对新情境做出适应性响应，具备跨任务的通用迁移能力。

而 LLM 在本质上仍然是一种“语言模式重建系统”。它所训练的不是“如何解决问题”，而是“人类在这些问题上曾经说过什么”。这就导致它难以真正理解“问题的结构”。它可以在数据覆盖过的领域表现良好，但在超出分布的新问题上迅速失效。更严重的是，它并不具备内在目标感与世界一致性检查机制，这使它无法判断自己是否“在讲逻辑上的废话”或“违背物理常识”。

这也解释了为什么尽管 LLM 能模仿推理、复述理论，却始终难以真正“生成理论”或“提出结构性新知识”。它们能总结但不能创造，能组合但不易突破。它们是优秀的语言杂技师，却不是深刻的思想者。

但也正是在这种差距中，我们反而获得了重要的启示。我们开始明白，人类的智能，并非是单一维度的语言产物。我们之所以能提出新理论、发展科学、构建自我与世界的关系，是因为我们具备了超越语言的结构思维、目标驱动、身体经验与社会交互的能力。而这些，几乎都不存在于当前的 LLM 中。

这种意识的觉醒，正好说明了一个问题：不是 LLM 做得太少，而是我们曾误以为“语言=智能”。而今天我们看到了，语言可能只是智能的一种输出方式，而非其全部。

当然，这并不意味着 LLM 毫无意义。相反，正是它在没有真正智能的情况下所表现出的语言能力，让我们开始重新思考：人类的思维是否也并非如我们自诩的那样“逻辑清晰”？如果模型能够在纯粹统计预测下生成如此贴近人类语言的输出，那人类思维本身是否也是一种高度概率性的联想网络？我们是否也只是一个有记忆、有感知的语言模型？

也许 LLM 并不能通向 AGI，但它让我们更接近真正理解智能的本质。

这就是觉醒的错觉：我们以为机器在变得像人，其实是我们被迫看见了人本身也未必如我们想象中那样“理性”、“清晰”、“自明”。我们不需要 LLM 拥有意识，但它已经帮助我们意识到了什么是意识。

而这，也正是通向后续一系列追问的开始。

我的其它文章