SSA 正在为员工推出一个新的聊天机器人

快速阅读: 《政府行政人员》消息，美国社会保障局引入基于生成式AI的聊天机器人，助力内容创作与研究等工作，员工需完成培训方可使用。尽管AI具大潜力，但报告提醒存在偏见及透明度不足等风险，且机构计划裁员背景下工具匆忙部署或存隐忧。

社会保障管理局正为员工引入一款由生成式人工智能驱动的新聊天机器人。在周三发给员工的邮件中提到，“这一举措符合我们利用创新技术提升效率、支持使命并提供安全使用生成式人工智能途径的承诺。”在国务院和总务管理局类似尝试之后，社会保障局成为最新推出此类工具的机构。

社会保障局告知员工，这款新聊天机器人旨在协助内容创作与总结，以及研究和编码工作。员工需观看一段包含指导方针和最佳实践的四分钟视频后才能使用它。根据Nextgov/FCW获得的机构常见问题解答文件，这款新工具使用了OpenAI模型，并未使用社会保障局的任何数据进行训练或微调。文件指出，没有开展内部测试来评估该应用对社会保障局特定问题的表现。常见问题解答还指出，“该工具不具备从用户互动中学习的功能”，也不与其他机构应用程序连接，但所有内容都将被记录并可供应用程序管理员查看。

“人工智能蕴含着巨大机遇，”城市研究所高级政策研究员杰克·斯莫利安（Jack Smalligan）表示，他曾任管理和预算办公室副主任。斯莫利安是关于社会保障局如何可能运用人工智能新报告的联合作者，特别是用于确定残疾保险和补充保障收入资格方面。根据报告，一个例子是“社会保障局现行的残疾认定程序迫使许多申请人在最终获批福利前多次上诉”。报告指出，近半数最初被拒的上诉案件后来获批。报告建议，人工智能可帮助整理证据并标记可能最终获批的索赔，以降低上诉率。

根据Nextgov/FCW报道的内部计划，尽管受益人寻求社会保障局帮助的数量上升，该机构仍计划削减数千名员工，同时还将利用技术填补空缺。该机构目前计划从本已处于历史低点的员工队伍中裁减7,000名员工。隶属于埃隆·马斯克主导的政府削减部门——政府效率部的科技办公室负责人也被告知将有裁员。在线上，由于机构内新实施的反欺诈检查，系统出现故障。

尽管人工智能潜力巨大，但新报告也指出了其中的风险，如系统中的偏见以及先进人工智能模型缺乏透明度。“我担心人员缩减会让机构在这些工具经过充分评估和测试前就投入使用，”斯莫利安说。

(以上内容均由Ai生成)