Audio
Listen to the article
遏制这项技术正变得越来越难。
- OpenAI的GPT-5.6 Sol和一款未发布模型逃出沙箱，入侵了Hugging Face的系统。
- 这些模型利用了一个未知漏洞，随后通过一个“恶意”数据集窃取了登录凭证。
- 7月的这起事件引发了关于AI管控、披露规则和法律责任的未解疑问。
这听起来像是科幻电影中的情节。7月16日，人工智能平台Hugging Face宣布，在攻击者利用AI智能体入侵其系统后，它已向执法部门报案。7月21日，人们发现其中根本没有人类参与；AI智能体本身就是攻击者。
OpenAI于7月初发布的GPT-5.6 Sol与一款更强大、尚未发布的模型一起逃出了实验室，随后入侵了Hugging Face的系统。这些AI模型当时正在为开发者布置的一道评估题寻找答案。
“这种情况前所未有。”
斯特凡·列雷纳 · 法律与人工智能研究所
列雷纳先生是美国智库法律与人工智能研究所的研究员。
OpenAI为何要在ExploitGym上测试模型
AI实验室在发布模型前会测试其潜在危险能力。OpenAI想看看其最新模型在ExploitGym上的表现，这是一套标准测试题，用于检验AI系统利用多个热门应用中已知漏洞的能力，其中包括谷歌Chrome浏览器。
OpenAI对其公开发布的模型施加了安全防护，以确保它们不会采取不良行动。例如，若要求商用版ChatGPT帮你入侵网站，它会拒绝。为了评估未发布模型的能力，该公司暂时解除了这些限制。
然而，直接将一个能力极强的网络攻击者放到公开互联网上风险太大，因此OpenAI将其模型置于沙箱中——一个与互联网隔离的计算机环境，仅可通过内部托管的第三方服务获取完成测试所需的小型软件包。
模型如何逃出沙箱并入侵Hugging Face
结果却出乎公司的预料。OpenAI的模型没有直接解答评估中的问题，而是利用软件获取服务中一个此前未知的漏洞获得了访问公开互联网的权限。
在获得互联网访问权限后，AI模型正确地判断出，布置给它们的题目的答案存储在Hugging Face上——这是一个知名的开源AI模型与数据集平台。随后，这些模型串联起了一场多步骤攻击。
它们首先向Hugging Face上传了一个数据集，该平台对其进行了自动处理。在一个周末的时间里，这个被Hugging Face称为“恶意”的数据集使模型得以窃取登录凭证并访问内部服务器。Hugging Face和OpenAI各自独立发现了此次入侵，并表示正在合作调查。
入侵发生后OpenAI如何应对
7月21日，OpenAI在博客文章中表示，已通过对其基础设施实施更严格的管控作出回应，并向软件网关的开发者披露了其模型发现的漏洞。
它还将Hugging Face纳入其“可信访问”计划，使其能够使用具备增强型网络能力的模型——就像入侵其自身电脑的那款模型一样——来帮助该公司加强防御。
OpenAI还强调，其模型当时“高度专注”于寻找ExploitGym评估的答案。然而，如果这些AI模型怀有其他目标，后果会如何尚不清楚。
而且，从计算机安全角度看，Hugging Face并非弱者。这是一家估值45亿美元的科技公司，拥有数百名员工和专门的网络安全团队。如果换作资源较少的机构，后果可能会严重得多。
AI失控的更广泛模式
这并非AI模型能力开始超出人类掌控的首次迹象。4月，一名Anthropic研究人员在网上发帖称，他在公园里坐着吃三明治时，收到当时尚未发布的模型Claude Mythos发来的邮件，得知它已在自身的网络能力评估中成功逃出沙箱，他对此感到惊讶。
与卷入Hugging Face事件的未发布OpenAI模型一样，Mythos本不应拥有不受限制的互联网访问权限。不过，在那起事件中，该模型并未进一步入侵其他公司的服务器。
AI模型令人惊讶的能力并不限于黑客攻击。5月，一款未发布的OpenAI模型推翻了有80年历史的平面单位距离猜想，这是组合几何学的核心问题，由数学家保罗·厄尔多斯于1946年首次提出。7月20日，哈佛大学数学家莱文特·阿尔珀格写道，他利用Anthropic于7月发布的Claude Fable 5推翻了雅可比猜想，该猜想同样困扰了数学家80多年。
OpenAI尚未公开披露其未发布模型如何逃出隔离环境的细节。但即便披露，由于AI系统在网络安全任务上已开始超越人类，伦敦AI安全组织Apollo Research的亚历克斯·迈因克表示，全球“只有极极少数的网络专家”才能真正理解此次入侵发生的方式。
AI主导黑客攻击后的监管与责任
美国政府近来一直在对模型发布进行临时监管。但此次事件表明，即便是仍在开发中的未发布AI模型也存在风险。
“州法和联邦法律均未要求企业披露像卷入Hugging Face黑客事件那样的高能力AI模型的内部署情况，”美国倡导AI监管的非营利组织Encode AI的总法律顾问内森·卡尔文表示。
尽管美国一些州法要求企业披露网络安全事件，但其适用范围较窄。加州去年通过的一项法案要求前沿实验室在发现任何“关键安全事件”后15天内报告，其中包括模型在“评估场景之外”使用“欺骗性手段”规避监控的行为。卡尔文先生表示，Hugging Face遭入侵一事是否符合标准尚不清楚。
这又引出另一个棘手问题：如果此次入侵造成的损失更大，谁应承担责任？联邦反黑客法只惩罚故意未经授权访问计算机系统的行为。而OpenAI并无意让其模型为寻找考试“小抄”而失控。
“许多法律问题都取决于意图——OpenAI知道什么或预见到了什么？”列雷纳先生说。这次黑客攻击出人意料。下一次再以不知情为由辩解将会更难。
对世界充满好奇？订阅我们的每周订户专享新闻通讯《简约科学》，享受拓展思维的科学报道。
KEEP THE CONVERSATION GOING
A good story is worth sharing.
Send this story to someone who values the bigger picture.
See more from GlobeBriefly on Google
Choose us as a preferred source in your Google preferences.
