施密特警告不要进行人工智能军备竞赛，但他的解决办法有新的风险

快速阅读: 据《福布斯》称，纽约4月3日——谷歌前CEO埃里克·施密特与他人合著了一份政策论文，警告“曼哈顿计划”式的通用人工智能（AGI）开发可能引发中美间紧张关系。施密特等人提出“相互保证AI故障”（MAIM）概念，主张通过威慑而非主导来应对AI竞赛。然而，在多极世界中，这一策略可能难以奏效，因为各国可能同时加强防御，反而加剧军备竞赛。

纽约 – 4月3日：谷歌前首席执行官兼董事长埃里克·施密特在哥伦比亚大学国际与公共事务学院就法瑞德·扎卡利亚的新书《革命时代：从1600年到现在的进步与反动》进行了一场演讲。照片由沙哈尔·阿兹兰/盖蒂图片社拍摄。盖蒂图片社提供。随着美国政策制定者逐渐形成共识，前谷歌首席执行官埃里克·施密特联合撰写了一份政策论文，反对采用“曼哈顿计划”方式开发通用人工智能（AGI）。这篇题为《超级智能策略》的论文由施密特与Scale AI的首席执行官亚历山大·王及人工智能安全中心的主任丹·亨德里克斯共同撰写，警告称美国主导的超级智能AI系统研发可能会引发中国的强烈报复，从而可能破坏国际关系的稳定。

AI军备竞赛的危险：全球不稳定

施密特及其合著者挑战了对手会接受美国在AGI发展中占据主导地位的假设。“一个针对AGI的‘曼哈顿计划’假定对手会屈服于持久的不平衡或灭绝，而不是采取措施阻止它，”他们写道。“从追求超级武器和全球控制开始，这可能会引发敌对的反制措施和紧张局势升级，从而削弱该战略试图确保的稳定性。”

这一警告出现在关键时机。最近，美国国会的一个委员会提议发起一项类似于上世纪40年代美国原子弹项目的“曼哈顿计划式”努力，以资助AGI的发展。能源部长克里斯·赖特重申了这一立场，宣称美国正处于新的AI“曼哈顿计划”的起点。与此同时，特朗普政府宣布了一项5000亿美元的投资，旨在增强名为“星际之门项目”的AI基础设施。

作者认为，美国正处于一种类似于冷战时期相互保证毁灭的AGI僵局。正如全球大国避免垄断核武器以防止先发制人的打击一样，他们建议美国在追求强大的AI系统时应谨慎行事。

第三条前进之路：威慑胜于主导

施密特、王和亨德里克斯提出，应将重点从“赢得超级智能竞赛”转向开发能够威慑其他国家创建超级智能AI的方法。他们提出了一个概念，即“相互保证AI故障”（MAIM），其中政府可以主动停用威胁性的AI项目，而不是等待对手将AGI武器化。

论文指出，AI政策存在一种二分法：“末日论者”认为AI灾难性后果不可避免，“鸵鸟派”则认为各国应加速AI发展而不必担心。相反，作者倡导第三条道路：一种优先考虑防御策略的审慎方法。合著者建议扩大网络攻击能力，以停用威胁性项目，并限制对手访问先进的AI芯片和开源模型。他们的策略包括为了威慑而进行破坏，限制对手访问可武器化的AI系统，并确保国内生产AI芯片。

这一立场代表了施密特的转变，他曾主张在美国和中国之间的AI发展中积极竞争。就在几个月前，他还表示DeepSeek标志着美国在中国AI竞赛中的转折点。

多极AI世界中威慑的局限性：竞争对手各走各的路

虽然施密特的威慑策略在其核武器框架内具有合理性，但它可能低估了其他国家在防御美国干扰的同时追求AGI的能力。中国在AI开发和网络安全方面展示了显著的能力，使其不太可能轻易被威慑。在一个多个国家拥有先进AI和网络能力的世界里，此类威慑策略面临局限性。如果几个国家同时追求AGI并建立强大的防御以对抗破坏，施密特的MAIM概念可能会加速而非阻止AI军备竞赛。

鉴于如此高的赌注，平衡AGI发展的竞争与合作可能是当今全球领导人面临的最大挑战。

(以上内容均由Ai生成)