面向公务员的新 AI 指南

快速阅读: 据《库恩塞尔》最新报道，皇家公务员委员会发布指南，提倡公务员在使用生成式人工智能时注重伦理与监督。指南强调提升效率的同时防范风险，提供操作建议以保障数据安全与隐私，并建议对重要决策实施人工监督。

皇家公务员委员会呼吁公务员优先考虑人工智能使用的伦理与监督

夏拉布·蓝莫

为促进公务员在生成式人工智能（AI）领域的伦理与有效应用，皇家公务员委员会与政府科技局合作，近期发布了面向公务员的人工智能使用指南。

“在公共管理中整合生成式人工智能能够显著提升工作效率，帮助公务员实现例行任务的自动化，生成数据驱动的洞察，并以创新方式与公众互动。”指南中提到。

然而，该指南同时强调了应对潜在风险的重要性，包括错误信息、偏见以及隐私问题，这些问题可能破坏公众信任并削弱政府流程的完整性。

这份指南旨在为公务员提供必要的工具与知识，以充分发挥生成式人工智能的优势，同时保障国家安全利益、伦理标准、个人信息及数据隐私。

鉴于不丹目前尚未制定专门的人工智能政策与法规，该指南借鉴了加拿大、英国、瑞士、美国、阿拉伯联合酋长国及欧盟的相关法规与人工智能指南。“这将是政府部门内部生成式人工智能使用的临时指南。”指南指出。

生成式人工智能是一种能够根据用户输入或‘提示’生成新内容的技术，涵盖文本、图像、代码乃至视频等形式。诸如ChatGPT和Google Gemini这样的流行平台通过这一模型实时响应指令。不过，这些工具也会收集多种类型的用户数据，包括输入记录、设备信息以及AI生成的反馈。

指南提醒公务员，若未主动关闭历史跟踪或数据共享功能，此类数据可能被保存甚至用于训练人工智能模型。例如，关闭聊天记录后，用户输入会在30天后删除且不再用于后续训练。

指南鼓励公务员明确标注内容是否由人工智能生成，仔细审查AI输出以确保其事实性和逻辑准确性，并熟悉偏见、多样性、包容性、反种族主义、价值观及伦理规范，以便识别可能带有偏见或歧视的内容。

此外，指南建议官员避免将AI工具当作搜索引擎使用，除非该工具能提供可验证的来源。同时警告公务员在向AI工具输入信息时需格外谨慎，因为这相当于将信息上传至公开领域，任何人都可访问。

在处理个人或敏感信息时，指南提出了三种关键的脱敏方法：用无法追溯到个人的信息替换或修改可识别的详细信息；用虚构但格式一致的占位符替代电子邮件地址或电话号码等数据；以及在数据控制设置下关闭“改进模型供所有人使用”的功能，以防止AI平台出于培训目的使用内容。

指南还警告公务员切勿输入政府数据、个人身份信息（如姓名、员工ID号、公民ID号）、未发表的材料或任何敏感信息，尤其是被分类为第二级、第三级或第四级的数据。将此类数据输入AI平台可能导致敏感信息泄露、侵犯知识产权并对个人及机构造成伤害。

指南进一步建议公务员在使用生成式人工智能进行重要决策时实施人工监督，特别是在人力资源招聘、职业规划、财务管理以及学校和大学学生表现评估等领域。

这份指南不仅为公务员提供了实用的操作指引，也为推动生成式人工智能在公共管理中的健康发展奠定了坚实基础。

(以上内容均由Ai生成)