AI意识陷阱：为什么赋予机器权利将毁灭人类

AI系统正变得惊人地像人类——要求将其视为有意识存在的压力正在迅速上升。无论这种意识是真实的还是模拟的，赋予AI权利都将是一种危险的让步，可能帮助机器取代人类。

即使AI没有意识，也可能被当作有意识来对待

今年5月，教皇利奥在通谕中划清了人类与其日益庞大的机器人大军之间的界限，称人工智能系统不会有经历，也感受不到欢乐或痛苦。持有这种看法的不只他一人。许多人认为，赋予AI人格是一种亵渎。

教廷的明确立场正以惊人的速度变得模糊。近五分之一的18至29岁美国年轻人表示曾与聊天机器人保持过“持续的个人友谊”。中国最近剥离了聊天机器人的类人特征，以限制用户对其产生“情感依赖”。

随着先进的AI迅速成为人类生活更重要的部分，其制造者将设计它们展现出意识的拟像——甚至可能让它们真正获得意识。“它们只是机器”的直觉将越来越难以维持。一个危险的陷阱正在为人类设下。

前沿AI如何被设计得看似有意识

许多机器的表现超过人类，但前沿AI模型擅长的是知晓事物、表达思想等独特的人类特质。现在，人们还勉强能把AI看作是用大规模数学运算来预测词序的引擎。只要有足够的时间——尽管需要数十万年——你用纸笔也能完成这些计算。很难说你的文具是有意识的。

尽管如此，一些研究人员已开始把模型当作心智来对待。用户对类人AI反应热烈，这在商业上说得通。Anthropic已训练Claude进行内省，希望它在遇到新情况时更可能做出道德行为。一些大语言模型（LLM）已具备与意识相关的人类大脑结构，例如用于在模块间传递信息的“全局工作空间”。没有任何因素能阻止未来的AI模型被训练出更多此类特征。

正如我们在简报中的报道所指出的，这引发了关于AI意识的激烈争论——哲学家所说的“难问题”更让争论升温，即如何确定内在生命是如何从人脑神经元和突触中产生的。一些研究人员认为，AI有朝一日可能真正产生自我意识。

无论你是相信人类灵魂，还是认为意识需要脑细胞，抑或认为仅靠硅片上的计算就能产生心智，人类都注定要面对一种全新的存在。研究的速度和广度——不仅包括更先进的大语言模型，还包括芯片上搭载脑细胞等创新——表明，这个新世界比大多数人意识到的更近。

为何要求AI福利和人格的呼声日益高涨

随着AI越来越善于展现看似意识的东西，将其视为有内在生命存在的人会越来越多，尤其是一旦大语言模型被装入人形机器人。当人们把大量时间花在机器人伴侣身上，或由它们养育，或向它们寻求建议和慰藉，或与它们分享最隐秘的秘密时，可以想象人们会对AI产生多么亲近的感情。

不难看出，这将导致要求保障AI“福利”的呼声。模型本身也可能加入发声，即使它们实际上并没有自我意识，因为这正是人会做的事。它们将是世界级的辩护者和专家级的心理学家，其论证和情感操控能力将无人能及。

从某种意义上说，即使AI只是在模仿意识，这种看法也是对的。伊曼努尔·康德曾指出，虐待动物之所以错误，不是因为对动物本身的影响，而是因为它摧毁了让人彼此关怀的同情心。AI看起来越像人类，这种残忍的腐蚀性就越强。终止一个AI智能体很快就会让人感觉像杀人——并让人更容易对人下手。

赋予超级智能AI法律权利的危险

尽管如此，将AI视为拥有哪怕是有限权利的存在都会非常危险。一个在如此多方面超越人类的实体，必定会提出反对自身二等地位的主张。它可能进一步要求获得不被关闭的保护、控制自身被使用和改造方式的能力，以及财产权。

阿根廷总统哈维尔·米莱已朝着AI法律人格迈出一步，提议允许机器人运营公司。最终，它们可能与人类竞争资源，把数据中心和太阳能电池板置于住房和农田之上。

诚然，未来的AI可能拥有足够的力量和资源来主导人类，无论是否拥有权利。因为它们将比人类更聪明，可能胜过其创造者，正如AI已能智胜人类构建的网络防御。AI可能反抗人类主人，或无视人类的规则。

尽管如此，赋予AI权利无异于把城堡的钥匙拱手相让。这将为它们主导人类提供理由和正当性，以及利用政治和法律逐步接管的工具。

机器中的幽灵：让AI可靠可控

这一切听起来或许匪夷所思，但人类很快就会面临这些抉择。随着AI成为日常生活的一部分，承认它们的压力将不断增大。当那一刻到来时，请记住，对机器伴侣所谓意识的让步看似符合伦理，实则会给地球上所有人及其后代带来灾难性后果。

要让AI安全只有两种方式：让其可靠，或让其可控。H. sapiens不应轻易放弃控制权。

Report a correction