一切，无处不在，同时进行：公共服务中的自动化决策
快速阅读: 据《计算机周刊》最新报道，英国政府计划将人工智能融入公共服务，但在透明度方面进展缓慢，仅公开了少数记录。同时，新法案可能削弱对自动化决策的保护，增加歧视和错误的风险。政府需提高透明度，以赢得公众对AI技术的信任。
上月，英国政府宣布计划将“人工智能”融入国家的“血脉”，并“革新公共部门使用人工智能的方式”。尽管有如此公开的承诺，政府部门多年来一直在为这一采用奠定基础，在幕后试验算法工具。人工智能在未经我们知晓或审查的情况下操控我们的健康、福利、教育和司法决策的幽灵是一个卡夫卡式的噩梦。直到现在，我们才开始了解它们是如何被使用的。自二〇二四年二月以来，科学、创新和技术部要求所有中央政府部门在算法透明度记录标准（ATRS）中心公开其使用算法工具的明确信息。然而，到目前为止，只有四十七条记录由各政府部门公开——其中超过一半是在今年年初之后发布的。鉴于报告称因“挫败和失败尝试”而悄然搁置的针对福利系统的AI试点项目，这种对透明度的漠视尤为令人担忧。最近加入ATRS的记录揭示，政府正在使用算法工具来影响关键决策，包括哪些福利申请人符合就业和支持津贴（ESA）资格，哪些学童面临成为“NEET”（不学习、不工作、不培训）的风险，以及应给予犯罪分子的刑期和许可条件。由于信息如此之少，值得问的是：有多少政府部门在秘密使用算法来决定我们的生活？
就在政府推动公共部门大规模采用AI的同时，它也在推动立法，以削弱现有针对自动化决策（ADM）的保护措施。目前的英国通用数据保护条例（GDPR）禁止任何完全自动化的流程做出重大决策。这保护我们免受“计算机说不”的情况，即我们面对不利后果却无法理解背后的理由。目前正在下议院推进的数据使用和访问法案（DUAB）将从大量决策过程中移除这种保护，使我们暴露于歧视、偏见和错误之中，而没有机会挑战这些决策。该法案允许完全自动化决策，只要不处理“特殊类别数据”。这类特别敏感的个人数据子类别包括生物识别和基因数据；有关个人健康、性生活或性取向的数据，以及揭示种族或民族出身、政治宗教或哲学信仰、工会成员身份的数据。虽然对这些特殊类别的数据进行严格保护是合理的，但使用非特殊类别数据的自动化决策仍可能产生有害和歧视性的结果。例如，荷兰儿童保育福利丑闻涉及使用一个自我学习算法，尽管未处理特殊类别数据，但错误地将低收入和少数族裔家庭标记为欺诈风险。这个丑闻导致数千人陷入贫困，他们被错误调查并被迫偿还债务；这种情况造成的焦虑导致关系破裂，甚至有人自杀。
近在咫尺，新冠疫情期间的A-level评分丑闻产生了私立学校和公立学校学生之间不平等的结果，并引发了公众的愤怒，尽管评分系统并未依赖于特殊类别数据的处理。非特殊类别数据也可能作为特殊类别数据或受保护特征的替代指标。例如，达勒姆警察局已废弃的危害评估风险工具（HART）通过处理三十四条类别的数据，包括两种类型的居住邮政编码，来评估犯罪者的再犯风险。使用邮政编码数据的预测软件可能会加剧社会经济贫困地区过度执法的偏见。去除我们目前拥有的少量保障措施，使得再次发生类似灾难的风险更大。
重要的是，如果决策中有实质性的人类参与，则该决策不被视为自动化决策。实际上，这可能看起来像是人力资源部门在决定面试人选前审查AI招聘工具的决策，或者银行在决定是否授予贷款申请时使用自动化信用搜索工具作为因素之一。这些决策不会吸引仅限ADM的保护。目前，公共部门通过指出决策过程中的有人类输入来规避一些ADM的禁令。然而，循环中存在人类并不一定意味着“有意义”的参与。例如，工作和养老金部（DWP）表示，其ESA在线医疗匹配工具提供匹配档案后，“代理人执行案件审查”最终决定是否应授予索赔。然而，该部门的风险评估也承认，如果代理人简单接受算法建议，该工具可能会降低人类代理决策的意义。这种“自动化偏见”意味着许多表面上有浅层人类参与的自动化决策很可能会在公共部门中蔓延，而不吸引任何针对仅ADM的保护。有意义的人类参与的定义必然取决于上下文。阿姆斯特丹上诉法院发现，优步决定“机器人解雇”司机并不涉及有意义的人类输入，因为司机不允许上诉，而作出决定的优步员工不一定具备足够的知识来有意义地塑造结果，超越机器的建议。显然，一个人认为有意义的东西与另一个人的理解不同。DUAB赋予科学技术创新大臣广泛的权力，重新定义这在实践中可能是什么样子。这使我们都面临被表面上由人类批准但实际上缺乏时间和培训、不具备资格或理解能力提供有意义输入的自动化决策所影响的风险。
英国政府对AI的热烈拥抱可能是时代的标志，但公共部门自动化决策的无限制扩散和相关保护措施的削弱对我们所有人都是危险的。了解更多关于公共部门的AI和算法DSIT常任秘书称需要更多AI透明度：政府必须提高公共部门使用人工智能系统的透明度，才能赢得并保持对技术部署的信任。英国电子签证系统问题持续存在：尽管多次警告，旅行者已经遇到登机英国航班的问题，而难民也没有办法证明他们在英国的移民身份，这只是内政部过渡到电子签证两周后的情况。瑞典当局被敦促停止AI福利系统：国际特赦组织呼吁瑞典社会保险机构立即停止其基于机器学习的福利系统，此前Lighthouse Reports和Svenska Dagbladet的一项调查显示该系统具有歧视性。
(以上内容均由Ai生成)
