DWP 被指控保护 AI 部署免受公众监督

快速阅读: 据《计算机周刊》称，英国就业与养老金部（DWP）因拒绝公开信息遭人权组织批评，称其“怀疑机器”存在偏见和歧视。Big Brother Watch和人权观察呼吁提高透明度，要求DWP对其系统负责，并允许人们挑战错误决定。

记者获悉，英国就业与养老金部（DWP）因拒绝公开信息，受到人权组织的批评。Big Brother Watch表示，DWP的“怀疑机器”运作一直免受公众审查，这导致其系统可能存在偏见和歧视。人权观察也指出，DWP以披露信息可能使个人利用福利制度为理由，为其不透明性进行辩护，但这误解了这些系统为何常具歧视性，并表明采用了惩罚性的方法。

这些系统通常依靠固定的身份特征来建立档案或风险评估分值，如“种族”或“残疾”，个人无法改变这些特征来欺骗系统。这导致了一个优化欺诈检测的系统，而非优化服务于大多数合法申请，同时仍能检测出异常的欺诈案例。

因此，Big Brother Watch和人权观察都呼吁英国政府提高透明度，说明其使用高风险数据工具的方式，以便让DWP对其系统的负面影响负责，并让人们能够挑战针对自己的错误决定。

Big Brother Watch的研究和调查主管杰克·赫夫特表示：“DWP持续推出高科技算法工具，而其自身评估发现这些工具充斥着偏见，令人担忧。当DWP躲在保密的墙后，拒绝披露关键信息，使得受影响的人和公众无法了解自动化是如何影响他们的生活以及涉及的偏见和隐私风险时，情况变得更加令人担忧。”

他进一步指出：“DWP不应继续推进，而应退一步，暂停使用任何包含未解释差异的模型，并必须更加透明地说明其如何使用高科技工具。对数百万无辜的人施加隐秘的自动或算法决策是错误的，而且拒绝解释这些决策是如何运作的。”

人权观察在其报告中强调，尽管DWP的人工智能系统的“现实影响”可以从人们与它们互动的经历以及民间社会团体所揭露的内容中看出，但在缺乏更大透明度的情况下，这些影响无法真正了解。“在技术使用方面缺乏透明度，就无法有意义地评估这些系统是否高效或合法运行，以及是否存在歧视。”它表示。

国际特赦组织的技术、经济、社会和文化权利研究员伊莫金-里士满·比奇补充说，DWP减少成本的任务是其过度依赖这些有问题技术的核心原因。“由于社会保障削减，人们正努力维持生计和养家糊口，而DWP却更关注于监视申请人的实验性技术。”她说。

“技术驱动的福利申请和管理机制，正在给那些已经在艰难地获取基本需求的人员带来持续的冷漠对待和压力。”

国际特赦组织在其报告中还指出，尽管DWP声称目标是“节约开支”，但它质疑这些所谓的节省是否真的会实现。“英国国家审计署对这些节省是否真的会实现表示怀疑。截至2024年，DWP估计自2010年以来，实施UC已花费29亿英镑。这些不断增长的成本和不断延迟的完成日期，引发了人们对数字化转型是否真的能引入最初用来证明其引入合理性的效率和成本节约的疑问。”

(以上内容均由Ai生成)