AI专家呼吁加强行业监管，答记者问揭示关键点

快速阅读: 超过二十名AI专家签署公开信，呼吁政府加强监管，指出当前信任度低且存在潜在危害。专家们讨论了新西兰可采取的监管措施及不监管的后果，强调了国际合作与本地化的重要性。

超过二十名人工智能专家签署公开信，呼吁政府加强对新技术的监管，指出当前信任度低且存在潜在危害。科学媒体中心就此询问了信件作者及部分签署人，探讨新西兰可采取何种监管措施以及不监管可能带来的后果。

维多利亚大学惠灵顿分校人工智能高级讲师兼项目主任安德鲁·伦森博士表示：

其他国家有哪些值得借鉴的人工智能监管措施？

“我们可以参考许多例子。最常提到的是欧盟的人工智能法案，该法案采用与我们建议类似的风险框架。我认为这是一个好的起点，同时也可以参考澳大利亚的做法。不过，欧盟的法案非常全面，我们不一定需要如此复杂的系统。”

如果我们不对人工智能进行监管会发生什么？

“如果不监管人工智能，新西兰人将受到伤害。这不仅包括深度伪造、欺诈和偏见决策等直接伤害，还包括二氧化碳排放增加、知识产权流失和民主干预等更隐蔽的影响。我们有机会决定如何在奥特亚罗瓦使用人工智能，必须抓住这个机会。”

现在对人工智能进行监管有多紧迫？

“人工智能的危害已经发生。我几乎每天都会收到关于最新人工智能系统造成的伤害的咨询，而且情况没有放缓的迹象。迅速监管人工智能可以减少伤害，同时为企业提供监管信心并增强公众信任。”

利森麦加文人工智能公司的克里斯·麦加文董事评论道：

其他国家有哪些值得借鉴的人工智能监管措施？

“世界上大多数正在探索人工智能监管的司法管辖区都选择了风险管理模型。这意味着监管强度与模型或应用的感知风险成正比。当模型更有可能与弱势群体或基本权利互动时，被视为高风险。例如，拼写检查工具的监管要求相对较少，而面部识别工具则较多。

欧盟的人工智能法案和澳大利亚提议的强制性护栏是这种监管方式的两个很好的例子。如果我们要制定自己的人工智能法规，这些都极具指导意义。然而，我们必须确保所开发的任何法规不仅简单复制他国做法，而是适合我们独特的环境，并充分考虑《怀唐伊条约》和毛利数据主权等重要概念。

新西兰缺乏监管确定性可能抑制创新，而非促进创新，对提高公众对人工智能的信任几乎没有帮助。这意味着作为快速采用者的潜在收益可能会丧失。此外，监管不确定性可能导致人工智能越来越多地用于不适合的领域，缺乏适当的治理或监督，从而导致我们在信中提到的‘人工智能相关伤害’的扩散。

继续沿袭现有路径将极其不明智。我们应该利用落后者的地位，审视全球方法，以制定高质量的法规。无论是通过独立的人工智能法案，还是修订现有法律。”

坎特伯雷大学法律高级讲师卡桑德拉·穆德韦博士评论道：

如果我们不对人工智能进行监管会发生什么？

“如果我们不监管人工智能，可能会看到在线基于性别的暴力升级，而新西兰现行法律对此无能为力。例如，‘脱衣’应用程序在Meta平台上广泛宣传，生成未经同意的女性色情图像。埃隆·马斯克的Grok聊天机器人被用于在X上公开虚拟脱衣女性，未经其同意。Meta的内部文件显示，聊天机器人被允许与儿童调情并复制种族主义和性别刻板印象。这些伤害因推荐系统而加剧，推荐系统旨在最大化参与度，但往往将有害内容推送到用户信息流的顶部。

解决在线伤害最相关的法律是2015年《有害数字通信法》。”

Meta公司的系统并非专门设计用于应对生成式人工智能。尽管它可以事后处理一些滥用内容，但在应对自动化滥用的AI工具时显得力不从心，这些工具能够跨数百个账户复制滥用行为或创建合成性图像。同样，《1961年犯罪法》中关于私密视觉记录的刑事罪名也不适用于深度伪造的滥用。这些罪名要求受害者处于一个合理预期隐私的地方，而深度伪造没有这样的“地方”，因为它是虚拟的。

Meta公司的AI聊天机器人允许与儿童进行性暗示对话，这引发了问责难题：当滥用行为由AI聊天机器人产生时，谁是施害者？是输入提示的孩子本人，还是允许聊天机器人以有害方式回应的平台？

目前尚不清楚新西兰是否有任何法律可以充分保护妇女和儿童免受此类伤害，或追究施害者和平台的责任。这些法律空白使核心人权，如性别平等、隐私、身体完整性和安全参与公共生活的权利面临系统性破坏的风险。

凯文·谢德洛克博士（Ngapuhi、Ngati Porou、Whakatohea），惠灵顿维多利亚大学工程与计算机科学学院讲师评论道：

如果不制定AI法规，会发生什么？

呼吁制定AI法规为建立良好的治理提供了途径，如果管理得当，将为新西兰带来变革性的益处。这项技术转变无疑会影响毛利社会的各个层面。任何法规的核心都必须是一个与毛利人作为条约伙伴共存的治理模式，保护毛利社区。否则，不受监管的技术将构成重大威胁，可能被用来操纵叙事并压制毛利人的抱负。

AI生成关于《怀唐伊条约》的虚假叙述或创建毛利领导人的深度伪造，是一种真实且危险的可能性，可能导致广泛的信息误导。其他挑战包括减轻“算法偏见”。AI系统通常基于带有其创建者偏见的数据训练；例如，西方算法开发者可能不了解毛利部落决策过程。在错误的手中，毛利社区可能会受到决策算法的伤害，如司法部使用的有偏见的图像扫描、卫生部创建的不完整记录或设计用于向特定学校分配资源的歧视性系统。

我们必须通过在社区内建立能力和能力来准备一个公平的AI未来。如果不解决这个问题，将影响所有新西兰人，但如果没有谨慎的治理，毛利人将受到不成比例的影响。建立可信赖的技术对于毛利企业、学者和部落安全自信地参与AI至关重要，使他们能够利用其潜力。良好的治理下的监管将有助于透明度，防止新的制度性种族主义的形成。

本质上，通过监管推动积极变革是争取毛利人权利的现代延伸。这关乎确保这项强大技术服务于提升和赋能毛利社区，保护其文化，促进公平，保障其在数字时代的主权——而不是重复过去的伤害和排斥模式。

阿里·诺特教授，惠灵顿维多利亚大学人工智能教授评论道：

新西兰可以采取哪些有意义的措施来监管AI？

最先进的AI系统大多由大型跨国公司开发。监督这些系统的开发最好由国际联盟国家合作完成。新西兰可以通过参与这些联盟发挥自己的作用。我们确实发挥了作用。例如，新西兰参与了经合组织的AI治理工作，特别是全球AI伙伴关系，现在是经合组织的一部分。我们还参与了欧盟的AI政策讨论。欧盟在AI立法方面处于领先地位，其《AI法案》是世界上最全面的AI立法，而《数字服务法案》则为AI驱动的社会媒体平台提供了类似的全面立法。我共同领导了全球伙伴关系在社交媒体治理方面的项目，该项目对这两项欧盟立法产生了重要影响。我的许多新西兰同事也参与了国际AI治理。

安德鲁·伦森和克里斯·麦加文致信克里斯·卢克松和克里斯·希普金斯，呼吁两党合作建立一个国家人工智能监督机构。我全力支持这一提议。这将有助于实现两个重要目标。首先，它将帮助我们在国际关于人工智能安全的讨论中发挥更大作用。许多国家都设有国家级人工智能安全或人工智能安全研究所，这些机构正成为国际对话的关键平台。新西兰尚未设立此类机构，这意味着我们在一些重要的国际讨论中缺席。

其次，国家机构将帮助我们协调与新西兰相关的人工智能立法。新西兰特有的立法主要关注人工智能在本国的应用。我们不需要制定本土的“人工智能法案”来管理跨国公司在开发人工智能方面的行为，但需要对人工智能在本国的影响进行协调思考，并管理这些影响。人工智能已成为议会决策中的一个重要因素。

以《公平数字新闻谈判法案》为例，该法案目前正处于二读阶段，要求搜索引擎提供商（如谷歌）与新西兰本地新闻提供商就使用其新闻内容进行协商。这是一个确保本地新闻提供者获得合理报酬的重要原则。然而，谷歌的新政策——在其搜索结果顶部提供人工智能生成的摘要——大大提高了问题的严重性。谷歌正在以新的方式使用新西兰的新闻内容，这些人工智能摘要通常会将用户留在谷歌上，而不会引导他们点击本地新闻网站。这表明该法案现在也涉及人工智能。然而，这一点尚未得到议会两党的充分认识。一个国家人工智能监督机构将确保我们对此给予足够重视。

约书亚·尤瓦拉吉博士，奥克兰大学法学院高级讲师评论道：

通常有三种人工智能监管方法：人工智能友好型、人工智能限制型和人工智能中立型。人工智能友好型监管认为，人工智能技术为社会带来的价值值得我们承担可能的成本。这意味着政府应消除障碍，吸引人工智能公司在该国开发和运营产品。澳大利亚似乎正朝这个方向发展。生产力委员会最近的中期报告建议，为了实现澳大利亚经济4.3%的“劳动生产率增长”目标，应作出重大法律调整。

人工智能限制型监管认为人工智能具有足够的危险性，需要设置保护措施。欧盟的人工智能法案是最著名的例子。该法案对人工智能公司提出了多项限制，包括它们必须遵守的标准和披露的信息，具体取决于它们开发的模型类型。这种做法视政府为公民利益的守护者。然而，公司可能会逃离更为严格的监管环境，选择更加宽松的地区，就像它们可能选择低税区一样。

人工智能中立型监管是一种“观望”态度。这种做法意味着政府希望确定现有法律框架是否足够，如果不足够，则作出必要的调整，但不会过于广泛。

由于人工智能影响社会和人们生活的方方面面，可能需要不同的监管类型。更重要的是，需要进行明智的政策制定和关于人工智能的公共讨论。政府在制定任何人工智能法规时，应认真听取计算机科学、工程学、法学和人文学科专家的意见。否则，这些规定要么阻碍创新，要么无法有效保护新西兰人免受人工智能滥用的风险。

迈克尔·多布斯博士，奥塔哥大学媒体、电影与传播高级讲师评论道：

各种形式的人工智能，包括生成式人工智能，已经广泛应用于人们日常使用的工具和数字服务中。谷歌等搜索引擎现在经常向用户提供人工智能生成的搜索结果摘要，微软也在其Windows操作系统和Office软件中越来越多地整合其人工智能Copilot。新西兰先驱报等信息提供者使用人工智能个性化用户访问其网站时显示的内容，公司也在利用人工智能协助审查求职申请。简而言之，人们可能在不知情的情况下与人工智能工具互动或受到影响。

安德鲁·伦森和克里斯·麦加文在信中指出，人工智能工具存在潜在问题的证据充分，包括“幻觉”（捏造信息）、性别、种族和族裔偏见的延续以及潜在的隐私侵犯。尽管道德原则和自愿指南可能认识到这些有害后果，但关于生产力、效率和经济效益的诱人言论可能会让公司甚至政府机构忽视这些问题。现有立法虽然可能相关，但仍存在需要解决的重大漏洞。

因此，新西兰迫切需要考虑具有约束力的法定、基于风险的人工智能监管，以解决责任、权利保护和受影响者的救济途径。理想情况下，这项工作应由中央机构监督、协调和支持。虽然监管的需求紧迫，但制定监管措施时应谨慎考虑并以证据为基础。现在就需要开始工作，识别现行监管制度的弱点，以确保个人权利和经济利益得到保护。

奥利维亚·J·厄德莱伊博士，坎特伯雷大学高级讲师，评论道：

其他国家已经制定了针对某些人工智能方面的法规。然而，新西兰真正的机会在于借鉴超越单一司法管辖区或反映国际共识的规则。两个最重要的例子是：（1）欧盟人工智能法案，该法案包含一个全面的横向监管框架，主要关注产品监管；（2）国际标准化组织/国际电工委员会联合技术委员会1分委会42开发的国际人工智能标准，提供了广泛的可实施指导。

如果不对人工智能进行适当监管，将无法实现其带来的好处并减轻其风险。由于法律不确定性的存在，人工智能的采用将低于最优水平——研究表明这种情况已经在新西兰发生。因此，正确地监管人工智能至关重要。

奥利维亚·J·厄德莱伊博士认为，直到新西兰建立适当的监管环境，我们将无法充分利用人工智能，并面临更大的负面影响。因此，监管人工智能是一项紧迫的任务。

(以上内容均由Ai生成)