欧盟 AI 法案对视频游戏开发商的一些影响

快速阅读: 据《JD Supra》最新报道，2024年6月13日颁布的欧盟AI法规（EU）2024/1689将于2024年8月1日起生效，逐步在两年内应用。该法规根据开发者角色和AI风险级别界定其义务。开发者若提供AI系统，则需遵守严格的质量管理、风险管理及透明度要求；若部署第三方AI系统，则需遵循相应操作指南。所有开发者还需履行AI素养义务，提升员工对AI机会与风险的认识。

这篇博客文章简要概述了2024年6月13日颁布的欧盟条例(EU) 2024/1689关于人工智能（“AI法规”）对视频游戏开发者的影响。越来越多的开发者正在将AI系统整合到视频游戏中，包括生成背景、非玩家角色（NPC）、视频游戏中发现的物体历史等。其中一些用例在特定情况下受到监管，并产生AI法规下的义务。AI法规于2024年8月1日正式生效，并将在接下来的两年内逐步应用。AI法规条款的应用主要取决于两个因素：视频游戏开发者的角色和AI风险级别。

**视频游戏开发者的角色**

AI法规第2条界定了该法规的适用范围，指明哪些主体可能受AI法规约束。视频游戏开发者可能具体属于以下两类：

– AI系统提供商是指开发并将其投放至欧盟市场或以自己的名义或商标提供服务的AI系统开发者，无论是收费还是免费（AI法规第3(3)条）。
– AI系统部署者是指在职业活动中使用AI系统的用户，前提是他们位于欧盟境内或其AI系统的用户位于欧盟境内（AI法规第3(4)条）。

因此，如果视频游戏开发者开发自己的AI系统，则被视为提供商；如果集成第三方现有的AI系统，则被视为部署者。

**AI风险级别及相关义务**

AI法规根据AI系统的风险等级将其分为四类（AI法规第3(1)条）。经济运营商的责任因使用的AI系统风险水平而异：

– 风险不可接受的AI系统被禁止（AI法规第5条）。在视频游戏领域，最相关的禁令是提供或使用操纵技术或利用人们弱点的AI系统，从而造成重大伤害。例如，禁止使用AI生成的NPC来操纵玩家增加游戏支出。
– 高风险AI系统（AI法规第6、7条和附件III）对提供商有严格的义务，对部署者有较轻的义务（AI法规第2、3节）。视频游戏中涉及的高风险AI系统主要是那些对自然人健康、安全或基本权利构成重大风险的系统，特别是在情感识别方面（AI法规附件III(1)(c)）。这些系统可以用于使玩家与NPC之间的交流更加流畅自然，从而让玩家产生真实的情感反应，如同情、怜悯或愤怒。

高风险AI系统提供商的义务清单包括实施质量管理和风险管理体系、适当的数据治理和管理实践以及技术文档，确保透明度和信息传递给部署者，保持文档更新，确保系统对抗未经授权的更改或与主管当局合作。高风险AI系统的部署者应特别按照指示操作系统，确保有人监督，监控高风险AI系统的运行，或在发生任何事故或对人员健康、安全或基本权利构成风险时通知提供商和相关市场监管机构。

特定透明风险的AI系统包括聊天机器人、生成合成内容或深度伪造的AI系统或情感识别系统。它们触发更有限的义务，这些义务列于AI法规第50条。聊天机器人的提供商必须确保后者的发展方式能让玩家知道他们正在与AI系统互动（除非这显然对一个合理知情的人而言显而易见）。内容生成AI的提供商必须确保AI系统的输出以机器可读格式标记，并能检测为人工生成。情感识别系统的部署者必须告知玩家系统的操作方式，并根据《通用数据保护条例》（GDPR）处理个人数据，该条例与AI法规同时适用。深度伪造生成AI的部署者必须披露内容是人为生成或篡改的。

低风险AI系统不受AI法规监管。这一类别包括所有不属于上述类别的其他AI系统。欧委会表示，原则上，AI赋能的视频游戏在AI法规下没有义务，但公司可以选择自愿采纳额外的行为准则（参见《塑造欧洲数字未来》）。然而，需要注意的是，在特定情况下，如本节所述，AI法规将适用。此外，无论系统的风险水平如何，包括低风险，AI素养义务均适用。

**AI素养义务**

AI素养义务自2025年2月起适用于提供商和部署者（AI法规第4条），不论AI的风险水平。AI素养定义为技能、知识和理解能力，使提供商、部署者和受影响方能够做出知情的AI系统部署决策，以及了解AI的机会和风险及其可能造成的危害。最终目的是确保视频游戏开发人员的员工能够在考虑其技术知识、经验、教育和培训以及AI系统将要使用的环境的情况下，就AI做出知情决策，并考虑到AI系统将要使用的人群或群体。

AI法规未详细说明提供商和部署者如何遵守AI素养义务。实际上，可以通过多种步骤实现AI素养：

– 确定当前或计划在未来短期内使用或开发AI的员工；
– 评估员工当前的AI知识以识别差距（例如通过调查或测验）；
– 向使用AI的员工提供基础AI培训活动和材料，至少包括相关概念、规则和义务。

**结论**

欧盟对AI系统的监管对视频游戏开发者的影响取决于AI系统在特定视频游戏中的使用方式。AI法规尚处于早期阶段，我们正密切关注这一领域，尤其是在AI法规不断发展以适应新技术的过程中。

(以上内容均由Ai生成)