使用 AI 安全游戏

快速阅读: 据《法律公报》最新报道，本书探讨高风险民用人工智能的监管，涵盖道德、法律及具体应用（如自动驾驶、医疗系统）。作者提出基于“合理人类”和“合理生产者”的监管框架，强调国家调查部门的作用，为紧迫议题提供初步方案。适合关注AI监管的读者。

法律、死亡与机器人：高风险民用人工智能的监管
凯里·格里曼 著 £85 布卢姆斯伯里出版社

★★★✩✩ ★★★✩✩

这本引人注目的新书聚焦于高风险民用人工智能的监管问题。它关注的是在人工智能失效时存在严重人身伤害风险的情境下，如何对其进行有效监管。

本书以对人工智能如何应对复杂道德问题的深入探讨拉开序幕。正如作者精准指出的那样，答案是人工智能不会以任何有意义的方式“决定”道德问题。因为程序员早已完成了这项工作，毕竟人工智能本质上不过是概率和传感器的组合。

随后，作者考察了自动驾驶汽车、医疗系统及产品责任（明确排除军事用途）等民用人工智能应用。她研究了人工智能开发、训练和分析的工具，以及它们与法律概念的交互，并探讨了新加坡、欧盟、美国和英国的选择原因。这些地区因其先进的AI技术而被认为应在法律层面率先考虑相关问题（或者应该如此）。欧盟的纳入使得本书同时涵盖了民法和普通法司法管辖区的内容。

最后，她根据“合理的同类人类”和“合理的生产者”标准提出了一套监管“框架”。简言之，在已知潜在危害较大的情形下，一般监管机构（中央政府）应有权判定某项应用是否过于危险而不可接受。监管机构还有权要求人工智能生产商作出特定披露并选择设计。特定领域的监管机构应有权在其领域内制定标准和期望（否则由一般监管机构执行）。若发生事故，国家的调查部门有权查阅人工智能生产商的记录，以判断其是否违背了合理人类执行同样任务的标准和/或该专业合理生产者的标准。针对后一种指控，可采取尽职调查抗辩，但无论何种情形均需支付赔偿。国家的调查部门不应阻碍消费者寻求其他救济，包括常见的消费者保护诉讼。

这种做法在原则上引发了疑问（为什么是国家的调查部门而非私人诉讼？），并且无疑会在任何真实事件中引发更多问题。但它为一个日益紧迫的议题提供了良好的开端。因此，这本书值得推荐。

詹姆斯·威尔逊 FRHistS 是一位独立法律作家。他最近出版的书是《丹宁勋爵：生平、法律与遗产》（Wildy, Simmonds & Hill 出版社，2023年）。

(以上内容均由Ai生成)