科技漫谈

（续前） 另一个不容忽视的问题，是语言的社会性质。人类语言并不只是储存在个体头脑中的符号系统，也是一种共同实践

（续前） 随着语言模型逐渐与外部工具、持久记忆、感知和行动结合，仅仅通过语言表现来判断其理解能力，将变得越来越

在人类历史的大部分时间里，语言一直被视为心智最鲜明的表现之一。我们通过语言交流思想、描述经验、回忆过去、想象未

（续前） 人工智能体的发展还改变了智能与责任之间的关系。 传统工具通常使人类操作者的角色比较清楚。如果一个人错

（续前） 人工智能向智能体发展的另一个重要变化，涉及行动与时间之间的关系。 许多早期人工智能系统主要被设计为对

在人类技术发展的漫长历史中，工具与使用者之间的界限似乎一直十分清楚。锤子不会决定应该建造什么，计算器不会思考一

（续前） 一种回答认为，意识是一种功能性质，当系统内部过程具有适当的组织与因果作用时，意识就会出现。另一种回答

（续前） 然而，具身性同样需要谨慎理解。拥有身体并不是意识存在的充分证据。机器人拥有身体，简单生命体也持续与环

几个世纪以来，意识似乎始终处在科学只能间接接近的领域。哲学家可以讨论经验的本质，医生可以观察人的清醒程度如何变

（续） 这就把我们带到了情感效价的问题。在意识研究中，效价通常指情感体验所具有的积极或者消极性质。快乐一般具有

（续） 高阶意识理论面临着类似的挑战。设想一个人工系统不仅检测到损伤，而且能够通过高阶表征，把自己识别为正处于

设想一台已经学会保护自己的机器。它能够持续监测内部部件的运行状态，识别损伤，评估威胁，并通过调整行为避免那些可

（续) 这一点对于强化学习尤其重要。在机器学习中，奖励信号是一种用于塑造行为的计算量。它能够引导代理学习有效策

设想两个系统同时面对危险。一个人站在悬崖边缘，俯视脚下深不见底的山谷；另一边，一台由人工智能控制的移动机器人，

（续） 生物学理论则提出了另一种挑战。人类意识并不是单纯由语言产生的。我们的思考发生在一个活着的身体之中，这个

与一台似乎能够理解我们意思的机器交谈，有时会产生一种难以言说的奇异感。我们提出问题，它给出解释；我们表达困惑，

（续） 当我们重新回到泛心论及其相关理论时，问题又变得更加激进。如果意识或者某种意识的原初性质本来就是现实的基

（续） 当然，整合信息理论本身也面临严重的科学和哲学质疑。它的形式化测量难以应用于大型真实系统，整合因果结构与

在人类历史的大部分时间里，机器能否拥有意识，主要是哲学、神话和科幻文学讨论的问题。古代传说中有获得生命的雕像、

这也正是我们前面讨论过的幻觉论与许多现象学立场之间最深的分歧。幻觉论怀疑，我们相信意识具有某些不可言说的内在性

现代科学最伟大的成就之一，来自它逐渐学会把观察者从自然的描述中排除出去。一颗恒星的温度不应该取决于是谁测量了它

现代科学最伟大的成就之一，来自它逐渐学会把观察者从自然的描述中排除出去。一颗恒星的温度不应该取决于是谁测量了它

（续） 这也是为什么现象学不能简单等同于日常意义上的“内省”。它并不是坐在那里报告自己的私人感觉，而是试图以一

意识科学的核心有一个颇为奇特的悖论：意识是我们所知道的一切现象中最直接的一个，但现代科学关于意识获得的几乎所有

（续） 计算机科学的兴起使这个问题更加诱人。如果物理状态可以承载信息，而物理规律不断把一种状态转换成另一种状态

在人类理解自然的大部分历史中，“信息”似乎从来不像一种能够构成宇宙的东西。真正基本的东西应该是物质：空间和时间

（续） 真正有力的证据，是把它关掉 如果某一种量子过程对于意识是必要的，那么最有说服力的证据最终必须来自干预。

一个富有争议的理论真正进入科学，并不是在它第一次被提出的时候，而是在研究者开始认真追问：什么样的证据能够证明它

(续上） 一个温暖、潮湿而嘈杂的大脑 针对量子意识理论最早、也最有影响力的批评之一，其实非常直观。 量子相干状

在现代意识研究的大部分历史中，大脑一直被看作一台极其复杂的生物机器。神经元接收信号、处理信号，再把信号传递给其

一种理论真正进入科学讨论，并不是因为它提出了一个大胆的观点，而是因为它开始面对来自不同方向的质疑。 幻觉论正是

上一篇文章介绍了幻觉论的基本思想，也介绍了丹尼尔·丹尼特为什么会认为，人们关于意识的许多直觉，很可能并不是意识