中美合作防范军事AI决策盲信风险
快速阅读: 《孙子兵法》强调速度在战争中的重要性。现代军事AI的应用实现了前所未有的快速决策，提升了军队效能，但也带来了自动化偏见的风险，可能导致决策失误和人类角色边缘化。中美需合作应对，确保AI辅助而非主导军事决策。
《孙子兵法》中，孙武赞美了速度在战争中的重要性，称“速乃战之本”。当前，军事领域的人工智能（AI）应用提供了一种前所未有的快速和灵活，极大地增强了军队的效能。AI系统通过实现机器速度和规模的决策，体现了这一原则。
从人力驱动向机器驱动战争的转变已经开始。历史上，战争本质上是人类的活动，战略、战术和决策都由人类掌控。然而，传统战争一直受到固有局限性的困扰，包括决策迟缓和过度依赖人力资源，这反过来又限制了行动的速度和效率。因此，战场上的AI技术快速发展和集成，为长期困扰军队的问题提供了诱人的解决方案。AI系统不仅显著简化了决策过程，在极端压力下也能可靠运行，还提高了操作效率，减轻了后勤负担，最重要的是减少了对人类生命的威胁。
然而，这些技术进步背后隐藏着重大风险——自动化偏见。随着对AI依赖的加深，人类操作员越来越倾向于不加批判地信任AI的判断。在战争中，决策需要在毫秒内做出，人类角色可能迅速从决策者转变为被动验证者。这种过度信任和依赖自动化系统的倾向剥夺了用户的自主权。如果没有适当的监督，特别是在信息矛盾的情况下，可能会增加事故、错误和其他更广泛影响的风险。
最近的军事AI应用案例展示了这种危险。在以色列与哈马斯的冲突中，以色列国防军部署了一套名为“薰衣草”的AI目标识别系统。该系统通过分析大量数据集来识别哈马斯人员，自动生成目标清单供以色列地面操作员使用。据报道，以色列操作员对每个AI生成的目标进行审查和验证的时间不超过20秒——这仅仅足够粗略检查表面细节，远不足以进行全面验证。在这种情况下，人类监督成为一种形式，致命决策主要由机器和算法驱动，人类参与仅限于盖章确认。
值得注意的是，屈服于AI生成决策而产生的自动化偏见风险并非孤立或静态，而是全球性的并日益增长。2020年，美国国防部高级研究计划局（DARPA）进行的F-16空中作战模拟以及2023年的两座X-26A VISTA（F-16变体）实弹试验表明，AI在某些战术交战中可以超越人类飞行员的表现。这些突破显示，AI不仅有可能在实时交战中取代人类决策，而且随着此类能力的加速部署，一个关键问题浮出水面：AI会继续作为辅助工具存在，还是会最终替代人类在军事决策中的判断？事实上，随着大国将先进AI系统投入军事领域，并加大对军事AI的投资，关于过度依赖AI及其导致的有意义人类判断削弱的问题将变得更加紧迫和严峻。
当然，人类决策并非无懈可击，历史证明战争中的误判可能导致灾难性后果。但与人类不同，AI缺乏道德判断、情境意识和责任归属。理想情况下，在传统的军事指挥环境中，有缺陷的决策可以被质疑、修正或否决。相比之下，在AI主导而非AI辅助的系统中，大部分决策可能委托给AI系统。一旦发生AI驱动的错误，错误可能以人类无法干预的规模和速度扩散。
这些挑战因美中之间加速的AI军备竞赛而更加复杂。随着两国军队获取更多先进的AI武器，并将其整合到军事行动中，像“薰衣草”这样的系统使得委托和依赖机器的动机可能更强。这损害了维持人类监督所需的保障措施，使决策面临AI主导而非AI辅助的风险。
尽管如此，仍有一线希望。鉴于双方都无法假设自己能够免疫于因过度依赖军事人工智能（AI）而产生的自动化偏见，特别是在高压力环境下，这种风险变得相互存在，从而反映出合作的一个潜在领域。在此背景下，采取以人类为中心的方法来对抗对军事系统中AI的过度依赖，为中美合作提供了一个机会。
首先，北京和华盛顿应正式承认自动化偏见和在战争中过度依赖AI的危险。建立在拜登-习近平峰会协议的基础上，该协议重申了维持对核武器决策的人类控制的重要性，这一原则应扩展到所有军事AI应用上。中美两国领导人共同发表声明，强调在使用AI时保留人类判断的必要性，同时不阻碍技术进步，这不仅展示了高层的政治意愿，也为全球努力限制AI在战斗中的无序扩张注入了新的动力，尤其是在过度依赖可能削弱人类监督的情况下。这样的声明有助于建立防止将生死决策委托给自主系统的护栏，同时促进负责任的创新。
其次，出于对自动化偏见的共同担忧，中美可以开展对话，澄清“有意义的人类控制”（MHC）的原则，最终目标是将其嵌入各自的军事AI系统中。虽然《某些常规武器公约》（CCW）支持这一概念，但在中美之间仍可能存在模糊和疑虑。“有意义”在CCW中被解释为“适当水平的人类判断”，但这一定义仍留有不同解读的空间和怀疑。因此，如果中美能在更深层次上澄清诸如什么构成“有意义”或“适当”等问题，将大有裨益。
此外，尽管中美二轨对话一直在努力制定一份共享的人工智能相关术语词汇表，但至今尚未达成共同接受的版本。中方已经开始阐述对有意义的人类控制更为具体的理解，而这个概念在美国同行使用的术语中却明显缺失。因此，在CCW的基础上，由共同利益指导，一个更清晰且双方共同精炼的定义将有助于提高围绕AI部署阈值的透明度，大幅减少不确定性和战略误判。这些话题为中美之间的实质性和结构性讨论提供了宝贵的起点。
最后，华盛顿和北京可以通过各自进一步加强针对操作AI系统的军事指挥官和人员的培训计划，来单方面增强这方面的能力。随着AI在现代战场上的角色扩大并日益重要，对能够有效利用、监督和理解这些技术固有限制、偏见和风险的人类专长的需求也变得更加迫切。加强AI素养不仅展示了减轻自动化偏见和过度依赖军事AI风险的决心，同时也传达了善意和透明度。
此外，培训计划的内容——包括案例、关键教训、困境和要务——可以作为中美一轨半或二轨对话的基础或议程。从这个角度来看，努力使各自的军事力量更加抵抗AI过度依赖和自动化偏见，可以为建立信任和未来的中美军事交流奠定基础。
随着世界寻求利用AI在战争和决策中的速度优势，避免过度依赖AI的陷阱并重申在AI中实现有意义的人类控制变得越来越必要和紧迫。以人类为中心的方法对待军事AI的使用可能是实现中美之间更加稳定和合作关系的途径。
(以上内容均由Ai生成)
