军事AI治理：中美需合作建立多层级防控机制
快速阅读: 西松提出四阶段危机模型和风险等级方法，强调技术保障与政治制度结合，指出需完善技术机制、审查风险方法并考虑宏观背景，以降低军事AI风险。
西松的文章为如何降低军事应用中的人工智能风险提供了及时且重要的贡献。他提出的四阶段危机模型——启动、行动、效果和回应——提供了一种清晰而系统的方法来理解技术故障和人为决策可能如何升级为大规模危机。同样重要的是，他提出通过概率-严重性计算、情景计数和科技成熟度评估等分析方法建立风险等级。在此基础上，下一阶段的研究和政策发展应将这些分析见解转化为多层级治理机制，将技术保障与政治和制度安排联系起来。我认为，未来在人工智能危机治理方面的努力应在三个方向上进一步推进：完善微观层面的技术机制、更仔细地审查风险等级方法，并将其置于宏观的政治-制度背景中。
在技术方面，所提出的框架可能需要进一步具体化，以更准确地区分可理解的错误和不可理解的错误，重新思考不同系统（如核指挥控制与ISR）中人机交互模式的作用。除了算法缺陷、数据不完整性和传感器断开等已识别的可理解错误外，我们还可以引入一些实用方法来记录不同类型的错误。一种方法是建立详细的错误日志系统，根据错误的性质和影响对其进行分类。对于像黑箱不透明性和不受控自我学习这样的不可理解错误，可以通过定期评估报告进行追踪。这些报告将记录AI系统决策与预期结果显著偏离的情况，例如自主无人机误识目标或导弹防御系统未能识别来袭威胁。通过系统地记录这些不匹配情况，我们可以开始区分由模型局限引起的AI失败与由意外外部因素引发的失败，从而更好地了解其原因并找到潜在解决方案。
此外，要取得进展，还必须考虑人机交互在防止危机升级中的作用。人类在环（HITL）、人类在线（HOTL）和人类离线（HOOTL）模型的区别不仅具有技术意义，而且直接影响责任和升级控制。负责任的治理必须认识到这些模型不可互换，应针对特定领域。例如，核指挥控制及致命操作中的目标识别必须严格遵循HITL或HOTL架构，以确保人类责任并遵守国际人道法。相比之下，某些情报、监视和侦察（ISR）或后勤支持系统可以逐步向负责任管理的HOOTL配置发展，在不直接触发致命后果的情况下提高速度和操作效率。在这些领域，重点应放在确保可靠性、可验证性和事后可追溯性，而不是保持持续的人类控制。然而，声称存在“人类控制”并不足够，这种控制的有效性和真实性必须能够证明。在许多名义上标为HITL或HOTL的系统中，人类的角色往往被简化为形式上的批准或象征性的监督，实际干预的机会很少。
在风险等级方法上，可以考虑一种混合方法，即优先考虑近期风险，同时保持对未来技术和应用的风险意识。概率-严重性公式在原则上很有吸引力，但由于缺乏关于军事环境中真实AI失败的充分数据，概率仍难以计算。情景模拟是一种更可行的方法，但这些模拟也容易不完整，因为并非所有可能的未来都能预见。基于成熟度的方法可能是最可操作的，因为它将治理与接近部署的技术联系起来，但也有忽视“不成熟”技术的风险，这些技术可能会突然进入使用。一种混合方法——优先考虑近期成熟的应用，同时保持对新兴技术的适应性监测——或许能提供一条更加平衡的前进道路。
在行动阶段，治理机制应当认识到，区分常规和核交付系统通常在技术上是不可行的。许多交付平台，如双重能力导弹、轰炸机和共享卫星通信渠道，既服务于核任务也服务于常规任务。因此，试图强制实施技术分离可能是不切实际的，甚至适得其反。相反，应将重点转向建立强大的评估和危机管理机制，这些机制能够实时评估系统的激活性质和意图。例如，加强验证协议、跨域数据融合和联合态势感知框架可以帮助决策者判断系统故障或激活信号是否具有核意图。同时，危机沟通渠道应纳入技术验证机制，以区分真实系统故障和故意敌对行为——这是避免升级的关键区别。
关于如何促进国家层面的人工智能危机合作，基于风险的方法确实是建立人工智能危机治理共识的必要起点。围绕共同感知的风险构建合作有助于协调具有不同战略优先事项的国家。为了使这种方法更具操作性，可以按发起者分类风险，例如政府决策、非国家干预或固有技术缺陷。同时，还可以根据紧迫性和潜在危害对风险进行排序。然而，当前的风险评级体系主要依赖于主观专家判断，因此迫切需要开发更标准化、数据驱动的风险评估框架。
基于情景的方法同样具有重要价值，因为它将注意力集中在特定背景下的风险。例如，陆地边界或争议海域的无意升级可以作为预防治理和联合演习的重点案例。最后，成熟度层次结构也增加了重要维度。人工智能系统的相对准备程度和可靠性，如自主武器中不同程度的自动化，可能以不同的方式影响危机阈值。将成熟度评估整合到风险框架中，可以使各国预测人工智能部署最不稳定的地方，以及最急需建立信任措施的领域。
然而，除了这些微观层面的改进，宏观条件最终将决定治理机制是否成功。即使是最复杂的风险层次或技术分类，如果没有政治信任、战略稳定和法律规范的支持，也无法确保稳定。危机触发因素很少仅仅源于单方面行动或机器故障；更多时候，它们源自多个行为体的有意和无意行为，如误解对方意图或恶意行为。因此，治理安排不能仅仅依赖技术理性，而必须嵌入更广泛的政治和制度框架中。
在这方面，有三个领域值得特别强调。首先，红线共识：美国、中国和其他主要技术大国应就严格禁止的军事人工智能应用类别达成一致。这些“红线”可以作为禁忌规范的功能等价物，明确不得跨越的门槛，降低在争议领域发生失控升级的风险。其次，军备竞赛克制：日益明显的“智能化军备竞赛”迹象可能导致各国陷入越来越复杂和不稳定的AI部署螺旋。没有刻意措施来约束这一动态，单方面追求优势将破坏稳定。实际步骤可能包括提前通报部署、操作后报告和联合危机模拟，旨在增加透明度并减少猜疑。第三，政治信任和国际法律框架：技术协议如果没有信心建设措施和支持，最终将变得脆弱，而国际法律工具将提供持久性和合法性。联合国和其他多边平台为制定基本原则提供了有用场所，而1.5轨和2轨对话可以逐步积累专业知识和共识。随着时间的推移，这些努力可以为具有约束力的安排奠定基础，从而赋予治理持久性和合法性。
中国和美国在这方面负有特殊责任。作为人工智能军事系统的主要开发和部署国，两国的互动将为世界其他国家树立先例。通过在风险分类、透明度和人机交互协议的技术标准上达成一致，同时建立政治承诺以克制，可以降低人工智能驱动危机的概率和后果。反之，若未能做到这一点，则可能引发无约束的军备竞赛，产生全球不稳定的影响。
(以上内容均由Ai生成)
