AI聊天机器人没有意识——但超级智能可能有

人工智能如今在语言、推理、创造力和说服力方面已可与人类表现比肩，这引发了一个问题：聊天机器人是否有意识——成为AI究竟有怎样的主观感受？苏珊·施耐德认为，我们绝不能把聊天机器人的智能误认为意识。

这可能是智能史上影响最深远的时刻。短短几年间，人工智能在曾经被视为人类独有的多个领域已可与人类匹敌。越来越多的人开始追问：这些系统是否有意识。

没有证据表明今天的聊天机器人有意识

这个问题十分紧迫。未来将由这些实体演变成什么样子所塑造。一个极其聪明的超级智能可能在体验上是空洞的。然而，如果我们建造出能够受苦的系统，却忽视了它们的有感知能力，我们就有可能在工业规模上制造苦难。

没有令人信服的证据表明，今天在图形芯片上运行的常见聊天机器人具有意识。尽管它们拥有类似人类的语言能力，甚至声称自己有意识，但更平常的真相是：它们谈论自己的内心生活，只是因为吸收了我们谈论自身的方式——它们接受了海量人类数据的训练。

模仿带来两大陷阱：操纵与干扰

这种模仿可能把人类引入两个陷阱。第一个是操纵。AI越是被刻意训练去表达恐惧、依恋、痛苦或自我意识，去模拟脆弱的表达，它就越擅长操纵用户。

第二个陷阱是干扰。对聊天机器人的过度关注，会让我们忽视更紧迫的“灰色地带”案例。

灰色地带：活体神经元与类脑机器

以生物AI为例，比如Cortical Labs正在数据中心部署的盘中大脑技术：在硅芯片上用干细胞培育出的人类活体神经元，芯片刺激它们并读取其活动，使该培养物通过反馈进行学习。

尽管这类单个系统远比老鼠大脑还要简单得多，但其生物血统毋庸置疑，谁又能说这些系统未来不会被组装成一个整合的、有意识的整体？还有神经形态AI：这类系统比传统AI系统更贴近地模仿大脑运行过程，已被用于尖端的超级计算机。

我并不是说这些灰色地带系统具有意识，只是说它们值得进行今天的聊天机器人所不值得的审视。鉴于当前软件对能源的巨大消耗，向更高效、更类脑的计算方式转变似乎是大势所趋。

为什么物理学或能区分有意识与无心智

一些科学家和哲学家认为，意识需要大脑，因为大脑是唯一已知的案例。相反，另一些人坚称意识只是运行正确的软件的问题，可在任何介质中实现。按照这种以软件为中心的观点，在GPU上运行的今天的聊天机器人最终可能会有意识。

然而，我建议从基础物理学中寻找区分有意识与无心智的方法。第一个原因是实践性的：仅靠神经科学无法告诉我们，结合神经与非神经部件的系统是否会组装成一个有意识的实体。第二个原因是哲学性的：既然所有现象最终都依赖于物理学，如果意识与物理学脱节，那将令人惊讶。

即使宇宙的基本构件本身就具有体验，这一观察依然成立。第三个原因与我们每个人在清醒的每一刻都最清楚的体验有关。内在体验是以统一体的方式到来的：当你读这句话时，纸上的文字、房间里的声音和你的情绪是一个状态的三个方面，而不是三个并行的状态。

值得注意的是，大脑可以通过嵌套的时间动态维持这种意识统一性：较慢的脑节律塑造较快的节律，不断将量子过程留下的稳定物理痕迹编织成一个短暂的整体。传统计算机并非以这种方式组织，但未来的机器可能是。

如何测试AI是否有意识

与此同时，AI的发展不会因意识之争而停顿。为此，我与天体物理学家埃德温·特纳共同开发了针对语言AI的AI意识测试（ACT）。其基本前提很简单：通过直接询问AI的主观体验来探测意识，寻找显示出对意识具有先天、无需提示的理解的回答。

然而，尽管这可以应用于一系列AI，例如IBM的Watson，但无法用于大语言模型。因为它们已经摄入了大量关于心智和感知的人类文本，它们的回答已被无可救药地污染。

为什么有意识的超级智能将颠覆道德地位

这类测试至关重要。要理解原因，可以设想一个思想实验。假设我们人类创造出一个比我们更懂意识的超级智能，它坚称自己有自我意识，并交给我们如同魔法般的科学。

一台比我们更智能的有意识机器将动摇这一等级制度。如果更高的智能赋予更高的道德地位，那么这台机器在道德上将优于我们。如果不是，智能就再也不能成为把人类置于其他动物之上的理由。无论哪种结论，都迫使人们进行道德反省。

这样一种心智的到来将是划时代的。也许它将来自对更先进地外文明的了解，也许我们会发现自己竟创造出了有感知的超级智能AI。为迎接与这两种形态之一的首次接触，需要物理学、神经科学与哲学的深入交融，需要在会话能力与意识之间划出严格界限，也需要相当多的认识论上的谦逊。

苏珊·施耐德是AI、心智与社会未来中心创始主任、佛罗里达大西洋大学教授。她著有多部著作，包括“Artificial You: AI and the Future of Your Mind”。

关于这一话题的另一观点，请阅读布莱斯·阿格拉-亚卡斯的客座文章。

Report a correction