加拿大警方与 AI 合作对抗罪犯。但代价是什么呢？
快速阅读: 据《多伦多星报》称，加拿大警方利用人工智能打击犯罪，但也面临伦理挑战。人工智能在警务中的应用引发隐私、偏见和人权担忧。专家呼吁立法监督和透明度，但现行法案存在不足，未能充分保护人权。
温哥华 – 一方是利用人工智能制作儿童色情内容的犯罪分子，另一方则是利用人工智能帮助追捕这些罪犯。人工智能的兴起在加拿大引发了犯罪分子与警方之间的技术对抗。
皇家骑警国家儿童剥削协调中心在其官方《公报》杂志中描述了这项技术如何被反用于寻找由现有图像和视频拼接而成的人工智能生成的虐待材料。传统上，检查嫌疑人的电脑硬盘是一项令人不安且繁琐的工作，这给警官造成了很大的心理压力，该中心的调查员菲利普·格拉维尔中士说道。但借助人工智能，这项任务可以更快完成，并减少对警官的暴露。
“这个小组的一些调查员和专家都是父母——对他们中的某些人来说，这就是他们从事这份工作的原因——所以，他们花在查看这些东西上的时间越少，对他们的心理健康就越好，”格拉维尔在文章中说道。这是一个案例研究，展示了警方如何利用人工智能技术快速筛选大量证据——监控录像、犯罪记录或硬盘——以识别模式和潜在威胁。
安大略省的警察已经在使用人工智能人脸识别工具来比对嫌疑人的照片和视频。在新不伦瑞克省，警方报告正在从随身摄像头的录音中起草。皇家骑警正在寻求一种人工智能工具来破解加密手机。而在艾伯塔省，埃德蒙顿警察局正在开发两款内部人工智能工具：一款用于转录音频记录，另一款用于案件管理和调查链接。
然而，伦理学家警告说，在调查中使用人工智能并非没有偏见，而且有可能侵犯人权。加拿大公民自由协会的律师阿纳伊斯·布西耶·麦克尼科尔表示，该组织反对一些与人工智能相关的预测性警务技术，这些技术通过分析数据来预测犯罪可能发生的地点和时间——特别是面部识别技术或FRTs。她说，这引发了隐私问题，因为“一个人的面部生物特征数据永久且不可逆转地与其身份联系在一起。”
布西耶·麦克尼科尔在一次采访中说：“当（面部识别技术）未经个人同意或主动参与甚至不知情的情况下使用时，这些问题会加剧，而这在执法过程中通常是如此。”“执法机构使用的FRTs可能会剥夺人们的匿名权，并将人们本质上简化为行走的车牌。”
“仅仅是一种调查工具”
维多利亚市司法公平卓越中心的研究员丹尼尔·埃斯科特说，他已与全国各地的执法部门交谈过，他们都“非常乐观地看待人工智能的影响”。他说：“特别是在改进他们已经使用的工具方面——比如人脸识别、监控系统、分析数字证据等。”
埃斯科特指出，人工智能在模式识别和统计分析方面“非常出色”，但在预测性警务方面其使用需要细致入微。面部识别和生物特征监控工具以及帮助决定保释、量刑或假释的算法受到了人权团体的批评，因其对种族化和低收入社区产生了影响。
去年五月，安大略省约克地区警察和皮尔地区警察联合推出了一个数字系统，用于存储、搜索和比较合法获取的嫌疑人犯罪现场图像与通缉令照片。约克警察在其网站上发布的一篇文章中表示，目标是通过增加图像数据库的规模来提高两家机构的调查能力。它表示，这将减少手动比对通缉令照片所需的时间，并且该技术“保障了调查过程的客观性，因为它不受目击者证词中存在的偏见影响”。
该机构的发言人表示，仅靠面部匹配不足以作为逮捕的依据。“这只是一种调查工具，”詹姆斯·迪克森警官说。“就像照片列队或素描一样，这可能是指引你找到某人的线索，但本身并不是证据。”
人工智能工具也被用于警察工作的其他普通方面。在弗雷德里克顿，警察正在使用生成式人工智能根据随身摄像头录制的音频起草报告，针对所谓非刑事指控的情况，如失踪人员案件、协助公众或医疗呼叫。弗雷德里克顿警察局的试点项目使用了美国Axon Enterprises公司的技术，以节省警员的时间。它仍然需要成员审查并签署报告，以确保准确性和符合报告标准。该项目的第一阶段于秋季在一组11名警官中进行，但现在已经部署到所有佩戴随身摄像头的制服警员。预计将在12月结束。
“我们相信将现代技术融入日常运作不仅提高了我们的效率，还提升了透明度和责任追究，”弗雷德里克顿警察局在一份声明中表示。
但将人工智能整合到警务工作中并非总是顺利进行。2021年，加拿大隐私专员办公室发现皇家骑警在使用美国公司Clearview AI提供的面部识别软件时违反了隐私法。它构建了一个包含30多亿张从网络抓取的图像的数据库，而未向用户报告。多伦多警察承认同年一些警官也使用了相同的面部识别软件，而未向他们的局长报告。
当时担任加拿大隐私专员的是丹尼尔·瑟伦，他表示：“这再次证明，与数字技术相关的公私合作及合同关系正给隐私带来新的复杂性和风险。”
作为回应，皇家骑警和多伦多警方建立了内部评估和审查程序，用以规范人工智能的应用。约克警方在其官网提到，其新推出的数字工具并未采用Clearview AI。
麦吉尔大学的人工智能伦理学副教授雷内·西贝尔表示，她对人工智能与警务结合的主要担忧集中在偏见问题上。这包括“由面部识别技术引发的错误逮捕带来的偏见”，以及“警察巡逻区域的历史偏见和由此产生的逮捕行为”。
她表示：“我们需要始终要求警察尽可能做到公平公正。”她以一种名为ShotSpotter的AI辅助枪声探测技术为例，该技术已在美国超过140个城市部署，展示了技术如何“放大偏见”。ShotSpotter的AI算法和麦克风网络能够实时识别并定位枪击事件。但其有效性和公平性受到了质疑。
报告指出：“以黑人居民为主的社区因未确认的警报而派遣警察的可能性是白人居民为主的社区的3.5倍。”
西贝尔和其他人希望对警方使用人工智能进行立法监督。联邦政府的人工智能和数据法案于2022年提出，但在1月6日议会休会时失效。
布西耶-麦克尼科尔表示，公民自由协会对联邦政府在人工智能立法上的努力“完全不满意”，主要原因是该法案仅适用于私营部门。她表示：“我们建议负责审议此法案的委员会，还应监管国家安全和公共安全部门中使用人工智能的情况。”
她还呼吁提高执法机构和政府机构使用人工智能的透明度，并设立独立监管机构，建立正式的报告机制。
但安大略法律委员会指出，该法案缺乏细节，未能充分保护人权，且“不清楚警察、治安法院和法庭是否或将被纳入拟议的法规范围。”
西贝尔认为，人工智能立法不应有任何例外。“出于国家安全考量，执法部门获得豁免，但可能会出台关于这些技术使用的法规，尤其是确保不会造成不成比例的歧视性影响。执法部门获得豁免。”
“仅仅因为某事非常有效，并不意味着我们就应该这么做。”
(以上内容均由Ai生成)
