为何对AI引发网络末日的恐惧被夸大了

落实基本的安全原则，将在很大程度上解决Anthropic和OpenAI所发现的问题，前英国国家网络安全中心负责人基兰·马丁写道。

14年后，时任美国国防部长莱昂·帕内塔警告说，要警惕“网络珍珠港事件”。网络安全领域长期充斥着末日预言，尽管发生了无数起黑客攻击和危害，这些预言始终没有真正应验。

又一波AI网络末日论

如今，又过去了14年，新一轮的灾难化渲染再度出现。今年4月，前沿AI实验室Anthropic表示，其最新模型Claude Mythos过于擅长黑客攻击，因此不会公开发布。

7月，其主要竞争对手OpenAI披露，其多个AI智能体从测试环境中逃逸，进入了AI模型库Hugging Face。此后，Anthropic、Meta和英国AI安全研究所也披露了类似事件。

一家新闻媒体在渲染日益浓重的不祥气氛时，将其称为“危险的AI网络时代的开端”。那么，这一次真的不同吗？还是攻击与防御之间那种脆弱的平衡依然存在？幸运的是，在很大程度上，平衡依然存在，原因有二。

耸人听闻的说法逐渐让位于冷静的评估

首先，吓人的声明在几周之内就被更为审慎的评估所取代，这一模式不断重演。Anthropic对Mythos最引人注目的说法是，它发现了一个可追溯到上世纪90年代的广泛使用的软件中的漏洞。

然而，后续分析显示，实际威胁远没有标题所暗示的那么严重。几周之内，对AI攻击海啸的预测，先是降级为对一段动荡期的预警，进而变成了将AI视为改善安全的机遇的讨论。如果AI擅长发现弱点，它同样可以帮助修复弱点。

所谓“失控”的智能体，实际情况也没有表面看起来那么严重。它们并非失控。它们只是在做人类吩咐它们做的事，就像天赋出众却无人管束的孩子，早熟而散漫。它们并未造成实质危害。

这些事件在细节上各不相同，但共同点都是未能管控好测试环境。这一点必须改进。网络安全界一些人士对测试管控如此薄弱表示震惊，指出如果安全公司的测试出现同样的结果，可能会招致诉讼乃至刑事起诉。

这一问责原则至关重要，其意义超出测试范畴。如果世界放任AI智能体在无人监督、无人负责的情况下横行，网络攻击将只是随之而来的诸多问题中较轻的一个。

现实中的黑客攻击仍在利用低级漏洞

保持冷静的第二个理由在于对黑客的理解。关于Mythos和那些智能体的报告，都涉及人为设定的测试条件。在现实世界中利用智能体进行黑客攻击，意味着要绕过护栏，并付出极其高昂的算力成本。

这些限制条件很重要：进入AI时代已有数年，但恶意黑客正在使用先进AI黑客技术的证据仍然少得惊人。

去年，麻省理工学院斯隆管理学院与一家AI安全厂商合写的一篇工作论文声称，80%的勒索软件事件（危害最大的网络犯罪形式）是由AI驱动的。营销部门抓住这一结论大做文章，一些权威出版物也加以放大。

但在批评者指出，该论文竟然把WannaCry也算作AI驱动的攻击之后，论文被撤回。WannaCry是2017年的一次攻击，朝鲜黑客失手误伤，在150多个国家造成严重破坏。

发现这一荒谬说法的人之一是英国网络专家马库斯·哈钦斯，他因阻止WannaCry而广受赞誉。哈钦斯先生如今对“围绕Mythos的大惊小怪”感到无奈，因为“当地的水处理厂还在用Windows XP运行”，而这款微软产品在WannaCry爆发时就已经过时了，“负责路由互联网流量的协议，靠的竟然是大家心照不宣地同意不去劫持它来保障安全。”

这两点都至关重要。Mudge等人在1998年就警告说，互联网架构的一些基础部分极不安全，其中一些至今依然如此。至今没有人搞瘫互联网的原因在于，除了彻底的虚无主义者，任何有能力的黑客都没有理由这样做，而一旦有人这么做，将面临严重后果。这至今仍是现代数字生活脆弱的基础。

哈钦斯先生关于关键基础设施的观点更具现实意义。当媒体还在紧盯AI测试失误时，现实世界中的黑客正在袭击美国十几个州的供水设施。不管袭击者是谁——有人说是伊朗，但美国总统唐纳德·特朗普对此表示异议——他们使用的都是利用基本安全漏洞的粗糙手段，而非先进AI。之所以没有造成严重的供水中断，全靠储水、手动阀门和警觉的工作人员。

而讽刺之处在于：底层网络安全往往如此薄弱，黑客根本不需要昂贵的新技术。AI尚未赋予大多数黑客神奇的新能力。但它可以帮助他们做准备、提速度、扩大规模。这可能让因忽视安全而遭反噬的可能性变得更大。

管住智能体的乏味却有效的办法

这就是那个乏味却至关重要的教训。在本月举行的安全会议“黑帽大会”上，两名OpenAI员工就Hugging Face事件作了报告。他们的最终建议是，落实那些早已确立的基本安全原则，本可以在很大程度上管住OpenAI那些过于热心的智能体。

这或许令人沮丧，但如果非要靠对无所不能的AI机器人大肆作案的夸大炒作，才能让西方终于重视并修复那些长期威胁供水和其他重要服务的网络安全漏洞，那就这样吧。■

Report a correction