DWP 后的警告揭示了它如何使用 AI 来制定福利决策

快速阅读: 《大问题》消息，活动人士警告，英国就业和养老金部（DWP）在福利系统中使用名为“在线医疗匹配”的人工智能工具存在“偏见”风险。该工具用于辅助处理就业支持津贴（ESA）申请，准确率为87%。自2020年7月起，该工具已处理超78万件案件，但首个版本工具正确匹配率仅35%，需代理人修正大部分案例。

活动人士警告说，在就业和养老金部（DWP）揭示其在福利系统中使用人工智能后，存在“偏见”的风险。DWP透露，它正在使用一种名为“在线医疗匹配”的人工智能工具来辅助代理人处理就业支持津贴（ESA）申请。就业支持津贴（ESA）是一项英国政府福利，旨在为因疾病或残疾而工作能力受限的人提供经济支持，约有150万人申请这项福利。DWP声称，该人工智能工具用于决定某人是否有资格获得ESA，并由一名代理监督。据报道，该工具的工作原理是将申请ESA时填写的健康状况与中央维护的列表进行比较，找到“最接近的匹配”。然后，根据这个结果，通过“自动化注册解决方案”在ESA福利系统中登记申请。之后，人工代理进行案件审查并最终决定是否授予福利。据报道，该计划的准确预测率为87%。据报道，自2020年7月以来，人工智能工具一直在使用中，DWP声称自首次引入以来，该工具已处理超过78万件案件。开发者声称，2020年至2024年间使用的第一个版本的工具，正确匹配率仅为35%，65%的案例需要由代理人进行修正。

活动人士警告称，在福利系统中使用人工智能存在“偏见”的风险。就业和养老金部（DWP）透露，他们正在使用一种名为“在线医疗匹配”的人工智能工具来协助处理就业支持津贴（ESA）申请。就业支持津贴（ESA）是一项旨在为因疾病或残疾而丧失工作能力的人提供经济支持的英国政府福利，约有150万人申请这项福利。DWP表示，该人工智能工具用于决定某人是否有资格获得ESA，并由一名代理人监督。据报道，该工具的工作原理是将申请ESA时填写的健康状况与中央维护的列表进行对比，找到“最接近的匹配”。然后，根据这个结果，通过“自动化注册解决方案”在ESA福利系统中登记申请。之后，人工代理人进行案件审查并最终决定是否授予福利。据报道，该计划的准确预测率为87%。自2020年7月以来，该人工智能工具一直在使用中，DWP声称自首次引入以来，该工具已处理超过78万件案件。开发者表示，2020年至2024年间使用的第一个版本的工具，正确匹配率仅为35%，65%的案例需要由代理人进行修正。

(以上内容均由Ai生成)