“生成式人工智能并非解决所有问题的解决方案”：调查揭示了官员对人工智能的“误解”

快速阅读: 据《公务员世界》最新报道，研究发现许多公务员对人工智能存在误解，政府数字服务中心正努力提升他们对AI的理解及应用能力。此外，AI的兴起促使政府重新审视服务治理方式，并加强相关指导方针与治理措施。政府还通过提供在线课程和资源帮助公务员掌握AI技能。

政府数字服务中心开展的一项密集研究计划发现，许多公务员对人工智能仍存有“误解”。在这项于2023年底至2024年初六个月内进行的研究中，数字部门实施了一项涵盖问卷调查与深度访谈的计划，与超过20个部门的150位官员进行了交流互动。根据GDS（政府数字服务中心）近期发布的博客文章，这项研究旨在了解“公务员需要哪些支持才能安全、自信且高效地使用AI”，因此探讨了他们的行为、态度、顾虑及活动。

该在线文章总结了研究中的几个关键发现。首先是“人们对AI的本质及其可能达成的目标存在误解”。在这半年期间，研究显示“公务员对AI的认知有所提升，并且对诸如聊天机器人的工具更为熟悉”。博客进一步补充道：“然而，他们对AI的理解受到生成式AI工具高调宣传的影响，部分参与者主要将其与生成式AI联系起来。”“认为AI就是大型语言模型和聊天机器人的这种误解可能使管理利益相关者的预期变得复杂。生成式AI工具并非解决所有问题的万能良方，还存在准确性、潜在偏见以及在某些情况下可持续性的问题。”

为了帮助人们建立对AI及其能力、应用场景和限制的真实理解，并协助机构判断AI是否适合作为其需求的正确工具，GDS认为“有时一个具体的案例或案例研究能够帮助澄清AI并转变人们的看法”。

研究的第二个重要发现是“AI的兴起为政府重新审视其服务治理方式提供了契机”。GDS报告指出，这种转变源于“调查受访者对AI潜在风险有着良好理解”。对新技术带来的危险的担忧，在政府层面和社会层面上都相似，包括“隐私、偏见、伦理、抄袭、安全以及潜在滥用”等问题。

博客补充道：“公务员意识到，在政府中使用AI因其数据特性、服务覆盖范围及影响力，会带来额外的复杂性和责任。” GDS发现，除定期更新的指导方针外，许多部门还引入了自己的独立治理措施。因此，负责基于AI的项目和服务的团队“认识到他们必须及时跟进最新的指导方针和最佳实践，以构建、测试和监控AI解决方案”。

GDS表示：“在整个政府范围内，我们仍在学习AI模型对服务治理流程的影响。”“随着许多团队正在探索验证、监控和评估AI服务的方法，有机会将跨部门的经验教训整合成对从事AI工作的人员有用的指南。”

GDS发现，除定期更新的指导方针外，许多部门还引入了自己的独立治理措施。因此，负责基于AI的项目和服务的团队“认识到他们需要及时掌握新的指导方针和最佳实践，以构建、测试和监控AI解决方案”。

变革推动者

研究的最后一个主要结论涉及数字部门如何“让更多公务员充分利用AI”。要做到这一点，GDS——以及更广泛的政府——需要理解由人工智能创造的新世界。

博客指出：“AI改变了我们与技术交互的方式，也改变了我们构建数字产品的方式。”“这种变化可能是令人畏惧的：它可能会改变一线员工提供服务的方式，数字和数据角色的职责，或者他们如何协作。”

为了在这种变化中蓬勃发展，博客强调了“提供相关的实际案例和尝试AI的机会”的重要性。

GDS补充道：“在我们的研究中，我们展示了对相关案例和分享知识机会的需求。”“不断发展的能力、态度的变化和更成熟的AI服务使这成为可能。展示政府用例有助于提高意识并制定良好的实践。”

这个基于科学、创新和技术部的数字团队已利用其研究成果帮助制定跨政府指导文件，包括《生成式AI框架》和英国政府的《AI手册》。

这篇文章——由GDS的三位研究和AI专家撰写，包括露易丝·佩特雷、约安娜·科洛曼和托马索·斯皮内利——称“正在进行的工作以解决我们在用户研究中学到的内容”。

这将包括定期审查和更新现有的手册，同时继续支持已经面向渴望了解更多新技术的政府雇员提供的教育项目。

博客说：“如果你有兴趣获得AI技能，你可以……通过公务员学习平台免费参加在线课程，并通过学习框架在政府校园获取现成培训内容。”“这些课程从简短的AI主题介绍到详细的在线课程不等，涵盖了AI技术和产品的技术方面。”

其他可用资源还包括由AI实践社区组织的每月聚会，以及通过算法透明记录标准中心发布的公共机构使用的算法记录库。