人工智能与人权
快速阅读: 据《马耳他时报》称，本文讨论了AI与人权的关系，指出AI虽有益处但需负责任使用，强调数据收集须受监管。引用荷兰SyRI案及欧盟AI法案，提出需加强公众意识与教育，确保AI发展符合人权、民主及法治原则。
我必须承认，我不是人工智能（AI）领域的专家。然而，我是一个坚定支持法治原则的人。我知道，为了让AI正常运作，需要设计出模拟人类大脑决策过程的算法。这些算法旨在处理海量数据，从而提供尽可能精准且有意义的结果。尽管有人声称AI具备“学习”能力，但如果没有数据收集或存在数据，AI便无法实现这一点。如果数据不足或者不完整，AI可能会“错误学习”。无论出于有意还是无意，都会收集个人资料，这些资料可能被用来分析行为模式。AI确实有其优势。它减轻了工作负担，提高了生产效率，并降低了成本，尤其是在不需要人际互动的任务中。然而，负责任且可问责地使用AI是不可或缺的。数据收集不应脱离独立监管。为了防止滥用，进一步发展应当考虑伦理和社会关切。欧洲人权与基本自由保护公约第8条第1款规定，“人人有权尊重其私生活、家庭生活、住宅和通信。”这一条款以及马耳他批准的公约中的其他条款，都是马耳他法律的一部分（第319章）。我们在欧盟基本权利宪章的第7条和第8条中找到了具有类似内容和质量的规定。由于里斯本条约，该宪章也成为马耳他法律的一部分。欧洲人权法院（ECtHR）曾宣布，第8条涵盖了保护个人身份权、个人发展权以及个人数据保护权，尽管后者并未特别确立为独立权利。AI与人权保护之间的复杂关系在海牙地区法院于2020年2月5日就案件编号C/09/550982/HA ZA 18/388作出判决后变得更加清晰。案件背景如下：荷兰政府制定了一项法定风险指示系统（SyRI），旨在预防和打击欺诈，主要针对社会保障领域（但不仅限于此）。该系统旨在在一个安全的环境中匿名链接和分析数据，从而生成风险报告。支撑SyRI的立法受到了质疑。案件不仅关注SyRI部署中的数据处理操作及其技术保障措施，还涉及行政机构之间交换个人数据以及向政府提供个人数据等问题。法院裁定SyRI违反了公约第8条（上述）。风险模型、指标和实际处理的数据既不公开也不为相关人员所知，对报告所涉及人员的私人生活产生了重大影响。SyRI立法没有规定数据主体的信息义务，使其能够知道自己数据正在被处理。立法也没有规定通知数据主体风险通知事实的义务，必要时应个别通知。虽然法院认可新技术可用于预防和打击欺诈的原则，并且原则上SyRI立法有正当目的，但新技术的发展也必须考虑个人数据保护权。立法必须提供足够的框架来保护隐私权，包括个人数据保护权，以便以透明且可核查的方式考虑所有利益相关方的利益。立法还必须允许任何人合理预期其私人生活将按照公约第8条得到尊重。法院发现SyRI立法未能满足这一要求。直接导致这一判决后，荷兰政府面临压力，不得不对实施SyRI负责，这导致10,000个荷兰家庭被错误指控欺诈国家，被迫偿还属于他们的钱并停止福利。设立了5亿欧元基金赔偿这些家庭。马克·吕特第三内阁承担集体责任，并在计划于2021年3月举行的大选前两个月辞职。在多边层面，欧盟和欧洲理事会都介入了。作为其数字战略的一部分，欧盟着手规范AI的发展和使用。2021年4月，欧盟委员会提出了第一部欧盟AI法，建立了基于风险的分类体系。2024年6月，《人工智能法案》获得通过。生效后，该法设定了期限：禁止使用的AI系统为六个月；高风险AI系统分别为24个月和36个月，分别根据法律附件III和附件I定义；通用AI为12个月。在欧盟委员会内设立了一个AI办公室以确保遵守。欧洲理事会也发表了意见，通过了《人工智能与人权、民主及法治框架公约》，旨在确保人工智能系统生命周期内的活动虽然有助于技术进步和创新，但必须完全一致于人权、民主和法治。该公约于2024年9月5日开放签署，甚至面向欧洲大陆以外的国家。截至目前，签署国包括欧盟、九个非欧盟欧洲国家、以色列、加拿大、美国和日本。公约的基本原则包括保护人的尊严、个人自主性、平等、无歧视、隐私、个人数据、透明度和监督、问责制、安全创新和可靠性。公约规定了救济措施、程序性权利和保障措施，包括引入风险管理要求。仅靠这些国际法律工具是不够的。需要大力投资于提高公众意识的战略和教育项目，帮助公众不仅了解AI的操作，还要了解其对日常生活的影响，强调提供透明且易于理解的信息的重要性，这些信息不仅要让专家，也要让公众可以获取。此外，人们应该合理告知其数据是如何被处理的。即使在AI的情况下，促进和保护人权也必须置于中心地位。为了进一步推进人权标准，良法是必需的。公民社会也应该保持警惕，增强意识，以识别AI可能对人权产生负面影响的问题。符合标准且尊重人权的AI符合公众利益。即使在AI的情况下，促进和保护人权也必须置于中心地位。为了进一步推进人权标准，良法是必需的。公民社会也应该保持警惕，增强意识，以识别AI可能对人权产生负面影响的问题。约瑟夫·扎米特·麦克肯退休法官约瑟夫·扎米特·麦克肯是议会监察专员。注册我们的免费新闻简报电子邮件：获取最新动态直接发送到您的邮箱：电子邮件：每日简报（每天早晨发送当天头条新闻）编者推荐（每周精选故事）请选择至少一个邮件列表。您可以随时通过点击我们电子邮件页脚中的链接退订。我们使用Mailchimp作为我们的营销平台。订阅即表示您同意您的信息将被转移到Mailchimp进行处理。
(以上内容均由Ai生成)
