政府将 AI 添加到人类服务的注意事项

快速阅读: 据《政府技术》称，政府机构正利用AI改善卫生与人类服务，特别是在动机性访谈（MI）方面。AI能提高效率、保护隐私，但需谨慎处理数据问题。例如，明尼苏达州和怀俄明州通过AI辅助MI培训和大数据分析，提升服务质量，同时保障客户隐私。 Lyssn等工具既为员工提供反馈，也助政府汇报治疗数据，但AI旨在辅助而非替代人类工作。

在卫生与人类服务领域工作的政府机构越来越多地寻求人工智能（AI）来改善服务交付——其中关键的一部分是动机性访谈（MI），这是一种基于证据的咨询技术，强调对客户表达同理心。AI可以在多个方面帮助卫生和人类服务领域，从大规模揭示信息洞见到主动提供公共卫生问题的信息，再到改进数据管理。一些政府正在探索利用AI解决劳动力短缺问题，这可能支持人类服务部门。

“我们知道，在每个州的人类服务人员配置都面临危机，”青年研究公司（YRI）战略、公平与发展副总裁格雷戈里·科瓦查拉说，YRI是纽约儿童与家庭服务办公室（OCFS）的非营利附属机构。然而，也存在关于AI的风险，而在卫生和人类服务领域，有独特的数据隐私问题；对于YRI来说，考虑收集的数据内容非常重要。值得注意的是，Lyssn允许用户决定他们的数据如何处理，首席技术官迈克·塔纳纳解释说。这可以包括数据存储的时间以及是否能够用于训练模型。使用Lyssn培训员工的机构可以分析真实的客户对话，但YRI选择使用模拟场景进行培训，以保护客户的机密性和安全性。

明尼苏达州斯蒂尔县也在开始在某些方面应用AI，并正在探索将其扩展到其他用途，该部门的人类服务主任尼古拉斯·亨德森说。明尼苏达州有一个由州指导、县级管理的人类服务模式。这意味着州政府提供指导和资金，而县政府需要满足特定的质量保证绩效指标——亨德森描述为州政府努力在儿童福利系统中实施MI时的巨大关注点。州政府与Lyssn有合作关系，这将影响所有儿童福利机构，包括县级机构；亨德森表示，实施这项技术的过程正在进行中。

在儿童福利领域，亨德森说，该县已经开始探索生成式AI技术——如ChatGPT——如何协助制定安全计划。为了保护数据隐私，该县目前只使用这些工具创建大纲，不输入任何敏感数据，之后可以添加。过去需要工作人员两小时完成的任务如今不到30分钟就能完成，亨德森指出。必须考虑司法管辖区的AI政策，以确保AI采用或新用例符合其规则；亨德森说，该县的政策允许某些产品和用例，但不允许其他，以减轻未评估用例或产品的风险。该县四分之一的居民领取公共援助，因此该县正在实施AI以满足呼叫需求，支持员工并提高门户服务部门的客户服务效率——调整其AI政策以兼顾合规性与实用性。

AI已经被该县的其他平台如微软Teams使用，该平台在其会议中内置了AI技术用于转录目的。亨德森说，该县在提升效率的同时会保护客户隐私：“希望对我们而言，这些效率意味着我们能在社区中做更多的工作，而不是花时间在社区电脑上进行数据录入。”

在怀俄明州，其家庭服务部使用Lyssn的AI进行忠实度监控，官员们最近决定扩大其使用范围，使员工能够按地区分割大数据集。这取代了一个手动过程，社会服务政策分析师玛丽亚·巴斯克斯-詹姆斯说。在采用任何AI之前，保密法是儿童福利系统的主要考虑因素，巴斯克斯-詹姆斯说。家庭在他们的录音上传到Lyssn之前必须签署释放表。她将尽管对技术有所顾虑但仍采用AI的做法可类比于暴露疗法，这种想法起初可能令人害怕，但熟悉这项技术已经显著减少了人们的担忧。现在，该平台提供的数据为州级MI培训提供了信息。

她说，由于与家庭的对话经常发生在嘈杂的环境中，这项技术对他们理解问题很有帮助，尤其是在“如此复杂的人类语言”方面。Lyssn的高级实施成功经理艾米丽·史密斯·戈林是前社会工作者，她直接与儿童福利机构互动。她解释说，健康和人类服务环境要求很高，通常在专业培训方面提供的支持有限。然而，AI能提供原本难以获取的反馈与指导。

她说，与政府机构合作的重要部分是教育他们了解工具的安全性、AI的好处以及公司对AI偏见的方法——公司每年发布年度报告。尽管最终目标是为机构提供有助于更好地支持客户的劳动力发展信息，但Lyssn的数据还帮助各州向联邦政府汇报基于证据的治疗方法的使用情况，塔纳纳说。

但是，史密斯·戈林强调，人类推动了技术和它所惠及的服务。她说，AI并非旨在取代人类：“我们并非是要取代人类，而是要增强他们所做的工作并支持他们开展工作。”

(以上内容均由Ai生成)