埃隆马斯克的 AI 安全顾问认为新的冷战即将到来
快速阅读: 据《每日电讯报》称，全球顶尖AI专家警告，先进AI需被视为国家安全紧急事项，如同冷战时期的核威慑。文章建议通过“相互确保人工智能故障”来遏制AI扩散风险，并强调AI芯片和数据的管控。同时，美国应投资国内半导体制造和军事AI应用，以保持竞争优势。这些建议旨在防止AI技术落入不当之手并确保国家安全。
在20世纪后半叶，全球安全依赖于相互保证毁灭（相互核威慑）。现在，一群领先的AI专家警告说，先进的人工智能需要一个类似的国家安全紧急事项。正如相互保证毁灭的幽灵曾经遏制了超级大国的行为一样，专家们认为，失控的人工智能灾难的威胁必须促使制定一种新的相互确保人工智能故障（相互人工智能失效）的学说。
在这篇文章中，丹·亨德里克斯、前谷歌首席执行官埃里克·施密特和斯凯尔AI公司的首席执行官亚历山大·王共同撰写了论文，他们呼吁将前沿人工智能的发展视为与核军备竞赛同等重要的国家安全紧急事项。亨德里克斯在接受《每日呼叫新闻基金会》采访时说：“伊朗是否能获得核武器取决于我们的行动和战略规划。人工智能的发展顺利与否也取决于我们如何处理这些问题。”
一种在几乎所有智力领域都超越人类的人工智能“将是自核弹以来最危险的技术发展”。正如曼哈顿计划中的原子科学家一样，今天的AI领导者敦促政策制定者在潜在灾难发生之前规划最坏的情况。
**支柱一：通过相互人工智能失效进行威慑**
如果任何一个国家急于获得不受限制的超人级AI主导地位，结果可能是灾难性的，作者们认为。为了抢先一步，一个国家可能会意外失去对强大AI的控制，并引发全球混乱。相反，如果那个国家成功地垄断了一个超级AI模型，它可能会对其竞争对手施加破坏性影响。
作者们认为，无论是流氓AI还是拥有至高无上AI的单一国家，都会威胁到其他国家的生存。就像过去的对手试图破坏新兴的核项目一样，今天各国可能被迫预先破坏彼此的AI项目以维持权力平衡。亨德里克斯说：“我们希望开发对数据中心进行网络攻击的能力作为威慑手段。干扰敌对AI项目的可能性对于维持稳定至关重要。”
提出的相互人工智能失效概念反映了冷战时期的威慑策略。目标不是鼓励物理打击，而是提出一个可信的威胁，即任何企图垄断AI的行为都将遭到反击。通过明确表明未经控制的AI军备争夺将招致毁灭性的回应，各国可以阻止彼此尝试。为了保持这种脆弱的和平稳定，该论文建议采取类似于核武实验室协议的措施：清晰传达“升级阶梯”，使各国知道红线在哪里，将AI研究实验室和数据中心远离人口中心，并增加透明度（例如监控对手的AI计算设施），以减少误判的可能性。
**支柱二：防止扩散**
该策略的第二个支柱集中在防止先进的AI能力扩散到亨德里克斯所描述的“不满个体”：恐怖分子、犯罪网络或可能随意使用它们的“随机国家”。
“当AI在网络攻击方面更加强大时，如果这些技能被普及，他们可以同时运行100,000个黑客AI来攻击我们的关键基础设施。这是他们目前没有的能力，”亨德里克斯继续说道。“他们可能只有几个不错的黑客——我们绝不能让他们拥有这种能力。”
正如全球政权严格控制浓缩铀和钚等裂变材料一样，作者们呼吁严格控制强大的AI的关键成分——特别是高端AI芯片和训练顶级模型所需的数据。他们指出，先进的半导体芯片是推动AI进步的战略资源，像铀和钚一样，是可以追踪、计数和拦截的实体对象，而不同于无形的软件算法。
控制对AI物理资源的访问通过积极收紧出口管制和对半导体运输的监视，政府可以“知道芯片在哪里——这样我们可以检测到它们是否被走私，这将帮助我们更早地阻止泄漏”。亨德里克斯建议直接与芯片制造商合作防止扩散；例如，要求公司如英伟达嵌入报告芯片位置或防止未经授权使用的安全功能，帮助当局检测处理器是否被转移到非法买家或地下实验室。
商务部已经在这一方向上采取了措施，禁止在2022年向中国出口先进的AI芯片，但该国正在寻找绕过办法。路透社2024年2月的一份报告发现，尽管美国禁令，中国军事研究机构和其他买家还是通过灰色市场获得了英伟达被禁的A100和H100 AI芯片的小批量。据报道，走私网络已经通过新加坡等地的中介公司重新路由高性能GPU或图形卡。
亨德里克斯及其合作者强调加强这些出口管制，以防止‘可武器化’的AI工具落入不当之手。在冷战时期，敌对超级大国悄悄合作以防止核偷窃和恐怖主义——亨德里克斯认为类似动态在AI防扩散方面也是可能的。“防扩散部分的目的不是限制其他超级大国的获取。这似乎更难……有很多动机——你甚至可能想与中国在这方面协调。”
话虽如此，作者们认识到AI遏制所能达到的限度。试图完全阻止像中国这样的同等级竞争对手获得先进的AI硬件或算法可能是不可行的，而且可能很危险。亨德里克斯认为，试图扼杀中国的AI进展可能会促使夺取台湾的半导体制造业。据美国国际贸易委员会报告，这些设施制造了美国技术中使用的44%的芯片。
**支柱三：竞争力**
这一策略的最后一部分是确保美国及其盟友在人工智能能力方面保持领先，并安全地利用人工智能带来的好处。“成功的AI应用将是国家实力的决定性因素。”亨德里克斯说。“应用”不仅仅意味着训练最强大的算法；它还意味着将AI整合到经济和军事中，从而使美国在不发生热战的情况下赢得未来的力量竞赛。
亨德里克斯和他的同事们强调了几个竞争领域。其中之一就是AI芯片供应本身——通过投资国内半导体制造业，美国可以确保其拥有推进人工智能所需的资源。最近的两党政策举措表明华盛顿已经意识到这一点——2022年的《芯片法案》授权约2800亿美元用于美国本土的半导体制造和研发，同时当年收紧了出口规定以减缓中国的发展。目前，美国拥有关键优势：超过90%的先进AI芯片生产的增值发生在美国、其合作伙伴或台湾，亨德里克斯说，这得益于像荷兰的阿斯麦（ASML）这样的瓶颈企业，该公司实际上垄断了制造尖端芯片所需的极端光刻设备。
亨德里克斯表示，中国每年投入约500亿美元追赶芯片制造业，但他解释说，“仅仅靠花钱是很难解决这个问题的，他们需要很多年，而且可能无法实现与美国的平等。”另一个竞争领域是军事对AI的应用。作为国家安全委员会人工智能部门的首任主席，施密特长期以来一直敦促五角大楼采用AI支持的系统——例如部署自主无人机蜂群，而不是依赖坦克或战斗机等传统硬件。这篇新论文也呼应了这一点，认为在指挥、控制和武器方面采用AI对于未来的军事力量来说将变得越来越重要。作者敦促美国加快整合无人飞行器和AI驱动分析技术，以免落后于更具创新性的对手。
亨德里克斯警告说：“如果两年后我们在保障无人机供应链或生产能力方面没有取得实质性进展，那将是非常糟糕的消息。”他引用了乌克兰无人机密集冲突的教训以及中国在这一领域的改进速度。
(以上内容均由Ai生成)
