放大 AI #16 开源人工智能 我们真正在谈论什么，法律影响是什么……

快速阅读: 据《JD Supra》称，本文探讨了欧盟人工智能法案下开源AI的法律含义及挑战。开源AI虽能加速创新，但仍需遵守严格的监管要求。组织需确保其开源AI模型符合AI法案的规定，采取适当的数据保护措施，并注意许可和知识产权问题。通过了解法律环境，组织可充分利用开源AI的优势，同时确保合规。

我们真正讨论的是什么，以及欧盟人工智能法案下的法律含义是什么？人工智能（AI）的快速发展带来了显著的机会和挑战，尤其是在开源AI领域。开源模型通过让开发者基于现有工作进行构建并通过参与开源项目相互学习来加速创新。这种方法减少了开发时间和成本，提高了组织的生产力和竞争力。因此，最近在《包容性和可持续的人工智能声明》中可以看到，开源AI已成为AI生态系统中的优先话题，该声明反映了巴黎AI行动峰会的讨论结果。在本系列中，我们将深入探讨开源AI的概念。我们探索其定义、欧盟AI法案建立的监管框架以及开发或使用开源AI技术的组织需要考虑的法律问题。

因此，最近在《包容性和可持续的人工智能声明》中可以看到，开源AI已成为AI生态系统中的优先话题，该声明反映了巴黎AI行动峰会的讨论结果。在软件世界中，谈论开源基本上意味着公开源代码并允许第三方在此基础上进行构建。然而，与传统软件不同，传统软件完全基于其源代码运行，AI模型需要三个关键组件才能完全运行：代码、模型参数和训练数据。因此，在谈到AI时，这种额外的复杂性改变了开放性如何应用及其影响的范式。

AI中的开放性与开源AI

虽然“AI开发中的开放性”和“开源AI”这两个术语经常互换使用，但它们是不同的概念。根据AI法案第102条附录，开放性指的是使AI系统透明和可访问的更广泛的理念，这可以包括开源AI，但也涵盖了其他做法，如提供API或公共库以供模型访问。另一方面，开源AI特指在开源许可下发布AI系统，这些许可允许无限制（或轻微限制）的使用、修改和/或分发。AI法案第103条附录进一步解释说，免费和开源AI组件“涵盖软件、数据、模型和通用AI模型、工具、服务或AI系统的流程。”

那么，什么是开源？本质上，AI中的开源不仅指与使用或开发模型相关的源代码的发布，而是指模型本身的发布及其构成的参数。这就是开源倡议（OSI）在其提出的“开源AI”定义中所展示的内容，它表明“开源AI是一种授予自由的AI系统：出于任何目的使用该系统，无需请求许可。研究该系统的工作原理并检查其组件。出于任何目的修改该系统，包括改变其输出。与他人分享该系统，无论是经过修改还是未经过修改，用于任何目的。”根据OSI，许可证必须涵盖AI系统的所有必要组件，例如数据、代码和模型参数（例如权重），以符合开源标准。

鉴于开源AI可以在AI法案下免除繁重的监管要求，实现跨司法管辖区的标准化和统一定义将非常有益。

欧盟的AI法案于2024年8月1日生效，为AI系统建立了全面的监管框架。认识到开源AI对于研究和创新的潜力，AI法案为这类模型提供了一些豁免，这些豁免可能因开源AI是AI系统还是AI模型而有所不同。一方面，根据AI法案第2(12)条，在免费和开源许可下发布的AI系统除非被投放市场或投入使用为高风险AI系统；或属于禁止的AI实践；或属于以下AI实践之一：直接与自然人互动；或生成合成音频、图像、视频或文本内容；包含情感识别系统或生物特征分类系统；生成或操纵构成深度伪造的图像、音频或视频内容；生成或操纵旨在向公众传播公共利益信息的文本。鉴于这一长串的排除条款，开源AI系统的豁免可能几乎没有实际效果，组织在进行评估时应对此保持警惕。

另一方面，根据AI法案第104条附录，在免费和开源许可下发布的通用AI（GPAI）模型，如果其参数（包括权重）、模型架构信息和模型使用信息被公开，应受到例外处理，除非它们可以被视为存在系统性风险。然而，无论如何，这一豁免的范围似乎仅限于AI法案义务的一个狭窄部分，因为它：仅适用于对GPAI模型的透明度相关要求；且不应涉及（a）生产“关于模型训练所用内容的摘要”的义务；和（b）制定符合欧盟版权法的政策的义务。因此，AI法案中的开源豁免似乎是有限的。即使AI系统或GPAI模型是在免费和开源许可下授权的，它仍可能需要遵守AI法案，并需要仔细评估。

对于开发或部署AI的组织而言，理解开源AI的法律影响至关重要。以下是需要考虑的一些关键点：

遵守监管框架AI法案。组织必须确保其开源AI模型符合AI法案的要求，特别是如果它们属于高风险类别。这种合规涉及进行彻底的风险评估、实施必要的保障措施并维护详细的和技术性的文档。

数据保护法律（如《通用数据保护条例》（GDPR））。组织必须实施强大的数据保护措施，以保护用于训练和部署开源AI模型的个人数据。这包括遵守数据保护法规并实施技术和组织措施以防止数据泄露。

对许可和知识产权的警觉。清晰且可执行的许可协议对于保护开源AI开发者和用户的权利至关重要。组织应仔细审查并选择适合其AI模型的适当开源许可，确保它们与其目的和法律义务相符。

开源AI为科技行业提供了创新和合作的独特机会。通过了解法律环境并解决相关风险，组织可以在确保符合监管要求的同时利用开源AI的优势。组织应保持知情并积极应对这一不断发展的格局。

(以上内容均由Ai生成)