AI意识：为何聊天机器人的流畅表达不能证明其拥有体验

为何聊天机器人的流利度难以作为AI意识的有力证据

大型语言模型基于海量人类文本进行训练，而人类写作中充满了关于感受、感知和内心世界的描述。能够令人信服地复现这些描述的系统，展现的是对人类谈论体验方式的统计学掌握。

《斯坦福哲学百科全书》在此划出了一条清晰的界限：第一人称的主观体验与第三人称的证据是两回事，即使在人类身上，将二者关联起来也极为困难。 ²

这一含义具有双重性。聊天机器人否认拥有感受，与其宣称拥有感受一样，都不具有证明力；二者都是同一训练过程的输出。仅凭对话行为无法承载意识问题的重量，这正是研究人员转而寻求独立标准的原因。 ²

指标属性框架检验什么

Butlin等人提议，依据源自意识神经科学理论的计算性指标属性来评估AI系统。其逻辑很直接：如果某个理论解释了大脑过程何以产生意识，那么该理论在架构和计算层面的要求就可以转化为人工系统中可检验的属性。 ¹

指标评估可能存在不确定性，且取决于所采用的理论；它们并非决定性的意识测试。该方法有意避免两种失败模式：既不把流利的自我报告当作内心生活的证明，也不武断地否定机器意识的可能性。相反，它将判断建立在关于意识如何在物理系统中实现的现有最佳科学之上。 ¹

AI意识指标背后的理论

该综述借鉴了几大主流理论：循环处理理论、全局工作空间理论、高阶理论、预测性处理以及注意图式理论。每种理论都将意识定位于不同的计算模式——处理的循环回路、信息在工作空间中的广播、对自身状态的元认知监控、由预测驱动的建模，或对系统自身注意力的建模。这些指标正是源自这些理论主张，因此可以依据每种理论的要求对系统进行评分。 ¹

依据： ¹

2023年评估发现了什么——以及没有发现什么

作者2023年的分析表明，受评估的系统不具备意识。这是一项依赖于特定理论的评估，而非定论，也不是对之后发布系统的重新审查。 ¹

更引人注目的结果是面向未来的。作者发现，在构建符合所提指标的系统方面，并不存在明显的技术障碍。但这种可能性并不能证明有意识的机器已经被制造出来。其含义在于，这一问题很可能将继续存在，而评估框架的重要性将随着时间推移而愈发凸显，而非减弱。 ¹

为何第一人称难题依然存在

即使是设计精良的指标框架，也继承了一个由来已久的难题。《斯坦福哲学百科全书》指出，学界对意识并无统一的单一理论，质性特征、主体性与信息获取是问题的不同面向。基于多种理论构建框架是对这一分歧的明智回应，但并不能消除分歧本身。 ²

这对如何解读结果至关重要。符合指标将是系统具备主流理论与意识相关联的计算特征的证据；但它并不能在第一人称意义上证明某种体验确实存在。反之，未能符合指标，则是在这些理论下反对意识存在的有力证据，但并不能在所有可能的理论下彻底终结这一问题。 ²

如何评估聊天机器人关于感受的主张

实际的收获是一种思维习惯，而非一项裁决。当系统坚称自己感受到某种情绪时，严谨的回应既不是轻信，也不是嗤之以鼻，而是追问有哪些独立证据能够关联到这个问题。指标属性方法是对这一要求的严肃回应之一，但其结论必须始终与所评估的系统和证据保持关联。 ¹

它也改变了论证责任的归属。在这一框架下，有趣的问题不在于聊天机器人能否令人信服地谈论内心世界——它能——而在于其架构是否展现出意识理论所认定的重要计算特征。以这种方式框定争论，能使讨论锚定在原则上可以收集和检验的证据之上。 ¹

要点：流利的语言并非内心体验的证明。指标提供的是一个研究框架，而非对意识的既定测量。请核查证据及其时效。

Report a correction