DWP 使用 AI 帮助做出有关人们福利的决策的计划

快速阅读: 据《伯明翰现场》称，就业和养老金部（DWP）使用人工智能工具“在线医疗匹配”来协助决定就业支持津贴（ESA）申请。该工具通过比对健康状况与清单来确定资格，准确率为87%，但曾存在低正确匹配率问题。DWP表示，该工具不会替代人类判断，且已在系统中处理了大量案件。不过，有人担心自动化可能导致偏见和不公平处罚。

就业和养老金部（DWP）计划使用人工智能辅助决定人们的福利申请。就业和养老金部（DWP）公布了其在福利系统中使用人工智能的新细节，该工具用于帮助决定人们是否有资格获得就业支持津贴。

新闻 安纳贝尔·巴格迪 高级记者 2025年2月22日 5:36

DWP 提前向神经多样性求职者提问以“增加成功几率”。就业和养老金部（DWP）披露了其使用人工智能来指导某些福利申请的批准或拒绝。该部门在官方政府算法数据库中分享的新细节中透露，它正在利用一个名为“在线医疗匹配”的人工智能工具来协助代理人员就就业支持津贴（ESA）申请做出决定。

这项福利由150万人申请，是为那些因健康状况影响工作能力的人提供的主要健康相关福利。DWP 声明称，该工具在代理人员的监督下用于确定福利资格。该工具通过将申请人申请福利时列出的健康状况与中央维护的清单进行对比，并识别“最接近的匹配”来运行。该过程的准确率为87%。然后，结果被用来使用“自动化注册解决方案”在ESA福利系统中注册申请。在这个阶段，一名人类代理将进行案件审查，最终决定是否授予ESA。

尽管自2020年7月以来该工具已投入运营，但DWP 直到周一才首次披露该工具的详细信息。该部门报告称，自引入以来，该工具已经处理了超过78万起案件，节省了42,500个运营小时。新工具的开发旨在改进福利决策，但也遇到了一些挑战。开发人员透露，从2020年到2024年的初始版本仅实现了35%的正确匹配率，需要人类代理人员纠正剩余的65%。这归因于算法更注重拼写匹配而非上下文理解。

有人对自动化对福利决策的影响表示担忧。Turn2us 政策和影响负责人雪莱·霍普金森评论道：“鉴于许多人难以联系到DWP 并面临长时间等待决定，使用自动化加速流程可能是积极的——如果操作得当。”她补充说：“过去AI驱动决策的问题表明自动化如何引入偏见并对需要支持的人不公平处罚。至关重要的是，人们要了解这些系统的运作方式，并有明确的途径挑战错误。政府必须确保AI为人民服务，而不是反对他们。”

去年12月，有报道称DWP 使用的机器学习程序在检测福利欺诈时表现出与年龄、残疾和国籍相关的偏见，这是内部评估和《卫报》报道的结果。尽管如此，DWP 坚持认为ESA匹配工具的偏见风险较低，因为它不使用申请人的个人信息，只使用他们的医疗状况。该部门对该工具的风险评估还涉及其使用可能削弱人类代理人员决定的重要性，声明：“为缓解这一问题，工作人员接受了培训，以确保他们检查结果，而不仅仅是接受解决方案提供的结果。当申请提交时，它会在屏幕底部给代理一些任务。其中之一是检查IRG代码，该代码指的是健康状况和医疗证据。”

DWP 的一位发言人评论说：“我们正在推动变革计划，以促进经济增长和生活水平提升，同时合理探索如何高效地使用人工智能提供部门服务并改善客户体验。人工智能不会替代人类判断——福利发放决定始终由DWP 案件工作者做出，任何不同意决定的人都可以提出上诉。”

在首相基尔·斯塔默于一月份宣布工党计划“加速”英国人工智能的使用后，关于该工具的信息浮出水面。他建议新技术将“革新”公共服务，包括福利、学校和卫生。然而，ESA匹配工具是DWP 首次在算法透明度登记册上共享的工具，尽管这是所有政府部门一年来的强制要求。DWP 表示，部门内持有所有在用人工智能工具的清单，但抵制了公布此信息的呼吁。

针对9月依据《信息自由法》提出的请求，该部门回应说：“允许公共机构如DWP 自行决定何时发布信息具有重大公共利益。管理信息的分发对于公共事务至关重要，当局应合理控制这一过程。因此，部门有权组织自己的发布方式。”

(以上内容均由Ai生成)