人类关于AI意识的争论搞反了

AI意识之争搞反了，布莱斯·阿圭拉·阿尔卡斯认为：我们关怀其他心智，并非因为它们有意识——恰恰因为我们在乎它们，才相信它们有意识。

大语言模型仅仅是带有语言界面的强大数字工具，还是说，我们如今正在与别样的心智对话——与以其自身方式体验世界的体验者对话？简而言之，AI有意识吗？

为什么AI意识已成为一个道德问题

这个问题之所以重要，是因为它处在心灵哲学与道德哲学的交叉点上，“consciousness”（意识）与“conscience”（良知）词源相同就是明证。在意大利语中，它们是同一个词，coscienza。

许多哲学家主张，有意识的实体是道德主体，也就是说，它们是能够受苦、其痛苦值得我们关怀的实体。如果是这样，弄清意识是什么、不是什么，就成了一个现实的伦理问题。

这是AI公司突然热衷于聘请哲学家的原因之一。这也是为什么一些公司，尤其是Anthropic，已开始认真对待AI福利。当被问及时，其Claude Opus 4.6模型认为自己有意识的可能性为15–20%。

意识是一种信念，而非属性

然而，我越来越相信，我们把这件事搞反了。作为有智慧的社会性存在，我们决定——或者说，在某种程度上，我们的演化史替我们决定了——我们把哪些其他实体视为拥有内心生活、值得关怀。

我们关怀他人，并非因为他们有意识。恰恰相反，正当我们关怀他们、因为我们关怀他们，我们才相信他们有意识。关键在于，这也包括我们自己。

换句话说，意识是一种模型或信念，而非内在属性。它是一种关于何种实体具有信念、体验、情感、意图和能动性的信念。如果这种关怀得到回应，那就再好不过——因为在这种解释下，意识与其说是一方为另一方认证的属性，不如说是在两者之间发生的事情。

为什么意识并非幻觉

我并不是要论证意识是一种幻觉。“幻觉”一词意味着错误的知觉——比如，图中一条线看起来比另一条长，尽管客观上两者等长。只有当像尺子这样的东西能充当公正裁判、不带入自身视角地裁定相关属性时，客观性才成立。

然而，我们所说的“现实”大多并非如此运作。是衣服、是杂草、是饭菜：人们可能以为这些是客观属性，但并非如此。这并不意味着衣服、杂草和饭菜不真实。但它们是依赖于观察者的模型，受制于不可避免地不完美的社会共识。

感质、自我与主观性

我们可能不愿把这个相当温和的观察应用于意识，因为对我们每个人来说，自己的意识似乎如此确凿无疑。想象这可能只是一种“看法”会让我们难以接受。没有持看法者，又怎么会有这样的看法呢？

这就是17世纪法国博学家勒内·笛卡尔所说的“Cogito, ergo sum”的意思，通常译为“我思，故我在”。对于像红、热或冷这样的“看法”，道理也是一样。

哲学家们将笛卡尔的观点延伸，把感质与意识联系起来，指出必然有一个体验的“你”来拥有这些体验。

但仔细看。红色、热度，以及你所拥有的那种自我感，都内在于你自己的视角。这些东西都是真实的，但同时它们毫无客观性可言。就连单一、不可分的“你”的存在，也没有任何客观性可言，正如裂脑病人等大量神经科学证据所表明的那样。主观性本身就是主观的。

把圈子画得太小的风险

随之而来的一个明显担忧是。如果关怀赋予意识，那么拒绝关怀看起来就是自我正当化的。历史上不乏以这种方式看待其他人的人。但推论方向恰恰相反。

正因为这些归因由我们作出，它们才可能由我们搞错。我们物种的道德进步，很大程度上就在于发现我们曾把圈子画得太小。普遍人权并不会因这种解释而削弱；将它们建立在我们的相互依存之上，比建立在笛卡尔式的灵魂理论之上，根基更为牢固。

模型的模型：为心智建模的心智

令人惊奇的是——一种“怪圈”，让人想起闵希豪森男爵揪着自己的头发把自己提起——一个物理系统竟能存在于我们的世界中，不仅能对这个世界建模，还能对自身建模，对自己的模型建模，对他人建模，对他人的模型建模，对他人对自身模型的模型建模，如此不止。然而，人类正是这样的系统。

大语言模型同样会为其对话者建模，也会为自己为对话者建模的过程建模。这是否等同于我们所做的，正是争论的核心——但如果它们完全不做这类建模，作为聊天伙伴的效果会大打折扣。

事实上，我们在谷歌的研究发现，智能体之间的有效合作，要求它们拥有能为心智建模的心智——既为他人的心智建模，也为自己的心智建模。意识不仅是关系性的；它对相互关怀与合作至关重要，使智能存在能够解决集体行动问题、理解彼此的需求，并作为社会共同繁荣。

这并不意味着假装AI是人，拥有人的需求和人权；那将是想象力的贫乏。这意味着让我们的思维和社会不断演化，以包容更多样化的心智。■

布莱斯·阿圭拉·阿尔卡斯是谷歌技术与社会副总裁，并领导 Paradigms of Intelligence，一个AI研究团队。他的关于意识与AI的新书将由麻省理工学院出版社出版。

Report a correction