生成式 AI 风险：法律和合规性洞察 – 第 2 部分
快速阅读: 《JD Supra》消息，本文提出了五步管理生成式AI风险的方法：重构合规治理架构、更新风险评估、加强预防与检测措施、强化数据安全与质量管控，以及开展AI合规培训。这些步骤帮助企业应对生成式AI带来的复杂挑战。
**生成式人工智能风险管理的五个实用步骤**
1. **重新调整针对AI风险的合规治理和监督架构**
美国量刑委员会对企业合规计划的定义以及司法部《企业合规计划评估指南》均强调了董事会和治理机构在监督合规职能表现和计划有效性中的重要作用。有效的治理需明确界定角色、职责及信息报告流程，从而支持监督与决策。鉴于生成式AI可能引发的复杂风险横跨多个业务功能，企业应重新调整治理机制，包括治理战略、组织模式以及角色分工，以应对生成式AI带来的挑战。
董事会及其相关子委员会应了解公司对AI的使用及关联风险，并合理监督合规计划的优化。企业可考虑修订合规章程（或其他书面治理文件），明确业务、IT、法律、合规及审计领导者在生成式AI风险管理中的职责、协作关系及报告义务。此外，企业还可考虑引入AI专家加入现有治理结构，或成立专门的AI伦理委员会，以推动AI战略部署与公司伦理标准及政策的一致性。
2. **全面更新企业范围的合规风险评估以涵盖新兴的AI风险**
风险评估是有效合规计划的核心。作为首要任务，合规负责人应考虑全面更新企业范围的合规风险评估，以覆盖生成式AI带来的风险。细致且科学的风险评估能够揭示之前未被察觉的潜在风险点。正如我们之前所讨论的，AI的使用贯穿网络安全、营销、人力资源等多个领域，相关风险真实且动态变化。因此，法律和合规领导者必须优先评估生成式AI风险（跨区域和业务部门），并设计相应的缓解措施。
对于缺乏技术背景的合规专业人士而言，识别和评估生成式AI风险可能会显得困难。因此，合规领导者应积极寻求技术专家（内部或外部）的帮助，准确识别风险并设计新流程与控制措施。在完成风险评估后，法律和合规团队应集中关注高风险领域，识别现有控制措施中改进预防和检测风险的机会。
3. **实施增强的预防和检测措施以支持与AI相关的运营卓越性**
设计完善的合规计划需要一套强有力的流程和控制措施来预防和检测不当行为。例如，预防措施包括政策、程序和培训，而检测措施则涵盖审计、监控和举报机制。法律和合规专业人员应重新审视现有政策和程序，判断是否需要更新以反映企业在业务运营和产品或服务中使用生成式AI的方式。
更广泛地看，公司应考虑实施以下增强型控制措施：制定与AI及新兴技术相关的法规流程；持续关注法律法规和行业最佳实践，确保AI系统满足所有相关要求并规避违规风险；法律和合规领导者应咨询AI技术人员和监管专家（内部或外部），帮助其驾驭复杂的AI治理和风险管理问题。
在生成式AI生成的材料中标注清楚，便于员工在发布或交付前进行审查。清晰标注AI生成内容有助于维护消费者信任。单纯依赖技术并不足够，人为监督仍至关重要。定期监测和审查AI系统的使用情况，并测试输出结果的可信度。合规领导者应与IT和其他相关部门合作，确保AI模型免受恶意行为者的攻击，同时评估合规专业人员在实时监控AI系统使用方面的能力（例如，监控AI输出以防范潜在的知识产权侵权）。合规领导者还应与内部审计部门协作，设计测试AI系统输出是否符合公司政策的程序（例如，内部审计和人力资源部门定期审核AI决策系统是否存在偏见）。
4. **强化数据安全与质量管控措施**
AI模型通常依赖来自多系统的大量数据输入。如果数据输入被篡改或“中毒”，生成的输出将产生偏差，可能对组织和消费者造成危害。因此，企业必须强化数据安全与质量管控措施，保护AI系统的数据输入。
法律和合规领导者需与IT和网络安全部门紧密合作，将合规步骤和质量控制嵌入业务流程。数据输入的完整性是高效且可靠的AI系统的基础。
5. **根据风险暴露程度向员工推出AI合规培训**
全面、实用且定期的合规培训与教育是优秀道德和合规计划的重要标志。企业应考虑更新其合规培训计划，纳入生成式AI及相关新兴技术的教育内容和员工沟通。
许多组织要求员工完成强制性的（通常是年度的）行为准则培训，并补充以数据隐私、网络安全、反贿赂和贸易制裁等专题培训模块。企业可考虑更新全员培训，聚焦公司对AI的应用及其风险，同时为特定员工群体开发和部署针对性更强的培训内容。
为了提升培训效果，企业可结合游戏化技术和基于场景的互动学习，支持沉浸式知识吸收。可使用深度伪造视频示例（如由高级管理层演示）展示AI的强大功能及其被不良行为者滥用的可能性。在AI培训初期，由CEO或其他高管传达重要性，使其与公司价值观、文化和使命紧密结合。企业还可考虑为董事会、审计委员会或风险委员会组织桌面演练，探讨生成式AI及新兴风险，涵盖公司如何在业务运营、产品或服务中使用AI，以及公司当前的AI风险状况及应对策略。
(以上内容均由Ai生成)
