英国：政府肆无忌惮地使用科技和人工智能系统，导致身心障碍者和其他边缘化群体被排斥在外

快速阅读: 《国际特赦组织 （新闻稿）》消息，英国DWP因技术推广监管不力，导致残疾人、贫困者等陷入官僚困境。国际特赦组织报告指出，AI系统加剧了数字排斥，侵犯人权。需对系统进行独立审查并规范人工智能使用。

因数字排斥问题，英国就业与养老金部（DWP）在技术推广过程中监管不力，导致残疾人、贫困者以及有严重健康状况的人士陷入官僚主义的困境。国际特赦组织在其最新报告中指出。这份题为《技术过多，同理心不足》的报告揭示了，DWP不断测试、推出和撤回用于普遍福利（UC）、个人独立津贴（PIP）及其他社会保障计划的昂贵人工智能（AI）和数字技术，使得本已边缘化且面临贫困风险的英国人无法获得可及的社会保障体系。许多需要社会福利的人没有接触数字技术、互联网或联网设备的机会。由于经济条件限制、语言障碍以及电话服务等待时间长，他们被排除在DWP系统之外。

“DWP以减少‘成本’为使命，这是其沉迷于有问题的技术并过度依赖的核心原因。人们因为社会福利削减而难以维持生计，但DWP却更关注于监控申请人的实验性技术。”研究技术、经济、社会和文化权利的研究员伊莫金·里奇蒙德·比斯表示。“由技术驱动的申请和管理福利的系统，正在给那些已经在艰难地获取基本需求的人带来持续的去人性化和压力。”

这项研究是国际特赦组织2025年报告《社会不安全：英国社会保障系统失败对人权的毁灭性影响》的延伸，该报告详细说明了英国社会保障系统需要全面改革，才能重新走上符合人权的道路，并确保体面的生活水平。

防止贫困的适当社会保障支付的困难是交叉性且复杂的，技术只是更广泛的社会支持生态系统的一部分。两项调查的发现来源于问卷、与社会保障领取者和社会保障顾问的焦点小组访谈，并基于民间社会之前的工作。从2024年10月到2025年1月，通过这一过程收集了782人的观点。

既有缺陷与新问题叠加的完美风暴

多年紧缩政策后，数字技术的使用与英国社会保障系统的进一步削减相结合，造成了一种完美风暴，即既有缺陷被加剧，同时新的与这些新技术相关的问题也被创造出来。自动化系统和人工智能在社会保障评估和提供中的使用可能导致重大决策失误，这源于偏见或歧视性的算法，对申请人造成严重后果。

由于生活条件、教育程度、健康状况和收入水平等因素，个人可能会面临数字排斥——这些复杂因素并不总是能被自动社会保障系统完全捕捉到。

对于国际特赦组织采访的一位申请人来说，性别和社会经济地位都是她在线访问服务的障碍。“你知道，要有某种同情心，你知道，让表格和其他东西更容易些。我是相当文盲的。很多和我同龄的妇女和男人都不会用它们……所以他们就完蛋了。他们发短信给我，我无法打开。所以我打电话过去，我打不开。我没有平板电脑，我买不起平板电脑，你知道。”这位申请人告诉国际特赦组织。

人权影响

数字化和大规模的数据收集也创建了一个无所不在的社会保障系统，影响了申请人的隐私权、数据保护权和人类尊严。使用大量数据来确定是否符合国家支持资格并非新鲜事。然而，现在使用的数据规模和广度以及处理速度是新的，可能带来新的意外后果和人权风险。

“DWP对技术系统的实验已经危及了人权，并将需要帮助的人简化为数据点。一个申请的成功与否取决于他们是否正好符合某个框框或满足设定的标准，而不是他们实际的资格。在这种情况下，技术简化了人们复杂的真实情况，这贬低了人们的需求，尤其是在他们无法从人类工作人员那里获得所需支持时。”伊莫金·里奇蒙德·比斯表示。

在报告发布前，国际特赦组织致函DWP，并提供了研究发现和方法的综合摘要。DWP目前未就报告内容作出回应。

英国当局必须对社会保障系统以及DWP使用的数字系统进行独立、公正的审查，并废除任何违反人权的系统。我们需要制定法律来规范人工智能，以防止其导致人权侵犯。数字系统必须透明、可解释，而且绝不能是强制性的。

背景：

2025年5月，国际特赦组织的《社会不安全》报告揭露了英国社会保障系统中的削减、制裁和系统性失败如何使人们陷入更深的贫困。国际特赦组织还对丹麦、荷兰、印度、塞尔维亚的公共部门自动化和数字化开展了研究，并支持法国和瑞典在这些司法管辖区算法决策所带来的潜在人权风险和影响方面的研究。

(以上内容均由Ai生成)