国防中的 AI：自主战争的道德、风险和未来
快速阅读: 据《BCS – 英国特许 IT 协会 （新闻稿）》称，伯恩德·斯塔尔教授指出，各国增加国防预算，但对人工智能在军事领域的应用及其伦理问题缺乏充分讨论。他担忧自主化武器可能减少人类干预，呼吁进行更广泛的伦理和社会讨论以明确发展方向。
伯恩德·斯塔尔教授，英国计算机学会（BCS）会士及BCS道德委员会成员，分享了他的观点。他是诺丁汉大学的教授，专注于研究技术的哲学与伦理影响。此外，他曾于1987年至1997年在德国军队服役，包括担任炮兵侦察排指挥官，负责分析无人机拍摄的空中影像。
BCS高级政策与公共事务经理克莱尔·彭克特向斯塔尔教授提问关于政府国防计划的看法。
**斯塔尔教授：**
“我的初步看法是，各国都在增加国防预算，不仅是英国，其他国家也有类似举动。例如，德国计划额外投入1000亿欧元用于国防。鉴于乌克兰战争和北约关系的紧张局势，这种趋势是可以理解的。包括英国在内的多个国家正承诺更多资金用于国防。然而，我不确定这是否是对当前全球局势的最佳应对方式。人工智能如今被视为提高效率、加速进程的手段，军队也不例外。从许多角度来看，这确实有意义，但同时也引发了对人工智能合理使用方式、用途以及现有控制措施的深刻担忧。遗憾的是，这些问题似乎还未被充分深思熟虑。”
**关于自主军事系统的担忧**
**问：** 你对这些由人工智能赋能的技术有何担忧，尤其是无人军事系统？
**答：** 关键在于人工智能会被用来做什么。如果它是为了实现像医疗救援无人机这样的任务，那么可能是非常有益且合适的。但当谈到自主化武器时，情况就变得复杂得多。关于机器是否应该做出生死决定的争议已经存在很久，普遍认为我们必须在这个领域格外谨慎。能够独立瞄准并杀害人员的自主化武器令人担忧。我认为我们不会走向完全自主的战争，但在军事决策中减少人类干预的趋势确实存在。这令人不安，因为我们还不清楚这些技术的全部后果。
**问：** 那么关于自主化武器的伦理程序呢？
**答：** 围绕人工智能的伦理讨论通常集中在偏见、避免故障以及确保系统按预期运行等问题上。这些都是合理的担忧，但并未触及更深层次的问题——我们社会是否真的希望创造这些技术？这本质上变成了一个政治问题。不仅仅是技术本身，还包括关于我们想要生活在怎样的社会以及如何使用技术的更广泛的伦理考量。这应该成为一次公开的政治讨论，引导我们明确方向。
**问：** 你认为这些问题是否得到了足够的重视？
**答：** 当然有围绕限制自主化武器的讨论，但它们并未受到足够重视或被广泛讨论，也未在全球范围内得到优先考虑。考虑到对增加国防开支的高度关注，这个问题显然被忽略了。
**快速军事采购的风险**
**问：** 春季声明还提议采取更快、更分阶段的国防采购方法，重点是快速商业化应用。在这种快速发展的体系中，伦理又该何去何从？
（注：为保持简洁，后续内容省略）
将文中的英文单词翻译成中文后，经过润色，形成如下流畅的中文文本：
—
伯恩德·斯塔尔教授，英国计算机学会（BCS）会士及BCS道德委员会成员，分享了他的观点。他是诺丁汉大学的教授，专注于技术的哲学与伦理影响。他曾于1987年至1997年在德国军队服役，包括担任炮兵侦察排指挥官，负责分析无人机拍摄的空中影像。
BCS高级政策与公共事务经理克莱尔·彭克特询问斯塔尔教授对政府国防计划的看法。
**斯塔尔教授：**
“我的初步看法是，各国都在增加国防预算，英国和其他国家亦是如此。例如，德国计划额外投入1000亿欧元用于国防。鉴于乌克兰战争和北约关系的紧张局势，这种趋势是合乎逻辑的。包括英国在内的多国正在加大国防投资。然而，我不确定这是否是对当前全球局势的最佳回应。人工智能如今被视为提升效率、加快进程的工具，军队也不例外。从很多方面看，这很有意义，但也引发了对人工智能合理用途、适用范围以及现有控制机制的深切忧虑。遗憾的是，这些问题似乎还未被充分深入探讨。”
**关于自主军事系统的担忧**
**问：** 你对这些由人工智能赋能的技术有何担忧，尤其是无人军事系统？
**答：** 核心问题在于人工智能的应用方向。如果是用来完成如医疗救援无人机这样的人道任务，那无疑是积极且恰当的。但谈及自主化武器时，情况则复杂得多。关于机器是否应做出生死决定的争论已持续多年，大家普遍认为需要对此保持高度警惕。能够独立瞄准并杀害人员的自主化武器令人担忧。我认为我们不会走向完全自主的战争，但军事决策中减少人类干预的趋势确实在加剧。这令人不安，因为这些技术的长远影响尚不可知。
**问：** 那么关于自主化武器的伦理程序呢？
**答：** 通常围绕人工智能的伦理讨论集中在偏见、防止故障以及确保系统按预期运行等方面。这些都是合理的关切，但并未触及更深层面的问题——我们的社会是否真正愿意创造这些技术？这实际上已成为一个政治议题。这不仅关乎技术本身，还包括我们想生活在怎样的社会以及如何合理使用技术等更广义的伦理问题。这应当成为一场公开的政治对话，指导我们明确前进的方向。
**问：** 你认为这些问题是否得到了足够的重视？
**答：** 确实有一些关于限制自主化武器的讨论，但它们并未得到应有的关注和讨论，也没有在全球范围内获得优先考虑。考虑到对增加国防开支的高度关注，这个问题显然被忽视了。
**快速军事采购的风险**
**问：** 春季声明还提议采取更快、更分阶段的国防采购方法，重点是快速商业化应用。在这种快速发展的体系中，伦理又该如何定位？
（注：为保持简洁，后续内容省略）
—
通过润色后的文本，内容更显生动且条理清晰，便于读者理解。
(以上内容均由Ai生成)
