物理奇点：会自我建造的机器

世界正在进入一个工业产能超级加速、人类投入迅速缩减的时代，杰夫·施奈德这样认为

但还有另一种应该受到更多关注的奇点。它更加具体，已经在进行中，而且可能更快产生重大的地缘政治影响。这就是“物理奇点”。

什么是物理奇点

人类已经依靠机器来完成许多体力劳动。机器是人类劳动的放大器，让我们改造物理世界的速度远超仅靠双手所能达到的水平。随着机器越来越强大，所需人类劳动的比例将继续向零趋近。

仓库越来越多地在极少人工干预的情况下运转。许多采矿设备已经实现自主化。建筑工地也在使用机器人系统。但就单个而言，这些仍只是渐进式改进。

然而，在人类劳动降至零之前，会先到达一个关键临界点。当设计、物流、制造和部署被整合为一个系统，实现生产能力的自动化增长，并对人类劳动的依赖不断降低时，这一临界点就会到来。

超越资源开采、运输和建造的机器，想象一下机器人去建造工厂，然后在工厂里再去建造更多机器人。它们不仅在改造物理世界，还将以指数级加快的速度，扩张那个改造世界的体系本身。

在未来一二十年内的某个时刻，人类劳动将不再是工业产能增长速度的主要制约。这将改变增长的经济学。

为什么人类劳动不再限制增长

传统工业经济呈线性增长：人类劳动、原材料、能源和资本投入决定并制约着扩张速度。富裕国家的经济调查一再将劳动力短缺列为限制工业产能利用率的因素。

相比之下，在物理奇点下，递归式扩张使产能的每一次增量扩张都能加速下一次，而不再受到人类劳动制约的反向牵制。

能源、材料和资本依然重要

这并不意味着物质生产会变得无限，也不意味着其他制约会消失。能源、材料和资本依然重要。然而，消除人类劳动这一瓶颈，将改变触及这些制约的速度，以及缓解这些制约的速度。

今天，扩大能源或资源生产的尝试最终都会遇到劳动力瓶颈。建造发电厂、扩建电网、运营矿山或建造工厂都需要工人。而日益自主的工业体系本身正在降低这些劳动力制约。

更大的工业产能使今天不经济的活动日益变得可以实际开发利用。

所需AI低于超级智能突破所需

这凸显出一种有趣的不对称。如果没有物理奇点，能源、资源和资本的制约确实可能阻止AI奇点的到来。反之则不然。

实现物理奇点只需要达到足够门槛的AI，而不需要无限的AI。只需要足以让机器自我复制、并扩大其改造世界能力的AI：不是智能的递归提升，而是工业产能的递归扩张。我认为，我们今天正在接近这一水平。

控制、安全与政府应关注什么

AI奇点带来了关于控制的合理担忧——担心独立智能体可能追求损害人类的目标。然而，物理奇点并不需要这种意义上的机器自主性。让机器实现不断加速的工业产能的，是摆脱人类劳动力容量的限制，而非摆脱人类控制本身。

这提高了赌注。一个能快速提升自身生产能力的系统，是前所未有的巨大资产。谁掌控其设计与部署，谁就能同时获得经济优势和不断复利的物质力量。

我们尚未到达那一步，而我们现在的投资会影响我们接近物理奇点的速度。物理AI带来了许多新挑战。物理系统对错误有着独特的零容忍。90%时间输出良好的聊天机器人仍然有用，但90%的路口都能安全通行的自动驾驶汽车却是危险的。

因此，思考AI的政府应将目光投向模型、芯片和数据中心之外。机器人、自动驾驶汽车、采矿、能源、制造和建筑同样重要。这些正是将AI与物理力量连接起来的技术。

为什么早期优势可能变得不可逆

一旦工业扩张实现自我维持，早期的优势就会不断复利。特定国家或公司可能形成不可逆的优势。

过去几十年，制造业力量向能动员更廉价劳动力的地方转移，既创造了巨大的新财富，也造成了经济破坏。随着劳动力因素的重要性下降，物理奇点将引发又一次这样的转移。

其影响将不止于经济。在乌克兰战争中，前线人员已开始被机器取代，这预示着未来的防务将由能制造最多机器的一方主导。

随着关于AI奇点的争论加剧，现在是时候更多思考AI时代另一场决定性竞赛：不是关于智能，而是关于哪个社会能造出递归建造物理世界的机器。其后果再具体不过。

杰夫·施奈德是卡内基梅隆大学机器人学与人工智能教授。

Report a correction