专家敦促加强人工智能监管以防止“失控”

快速阅读: 《国际新闻》消息，2023年12月，法国与印度共同主办了巴黎人工智能峰会，强调全球治理与可持续发展而非强制性规则。专家警告，需加强监管以防AI失控，提出建立全球风险和人工智能安全准备平台，识别风险并寻找解决方案。报告指出，AI带来的风险包括虚假信息、生物及网络攻击，甚至失去人类控制。领导人被敦促采取行动，确保AI安全可控。

2023年12月14日的插图中，展示了“人工智能人工智能”字样、机器人微型模型和玩具手。——路透社全球专家呼吁加强对人工智能（人工智能）的严格监管，以防止其脱离人类控制，因为全球领导人齐聚巴黎参加一场关于该技术的高层峰会。法国与印度共同主办周一和周二的活动，选择在2025年优先关注人工智能“行动”，将讨论重点从之前的英国布莱切利园和韩国首尔峰会上的安全问题转移到其他方面。法国的方法主张政府、企业和关键利益相关者支持全球人工智能治理，并承诺可持续发展，但不强加具有约束力的规则。马克龙总统的人工智能特使安妮·布韦罗说：“我们不想只谈论风险。还有非常现实的机会方面。”美国未来生命研究所负责人马克斯·泰格马克告诉法新社，法国不应错失采取行动的机会。“巴黎峰会上存在一个重要的分岔路口，应当积极面对。”麻省理工学院物理学家说。“生存意志”泰格马克研究所支持周日启动了一个名为“全球风险和人工智能安全准备平台”（全球风险和人工智能安全准备平台）的平台，旨在绘制与人工智能相关的重大风险以及全球正在开发的解决方案。“我们已经识别出大约300种工具和技术来应对这些风险，”全球风险和人工智能安全准备平台协调员赛勒斯·霍德斯说。

调查结果将提交给经合组织（经济合作与发展组织）和全球人工智能合作伙伴（全球人工智能合作伙伴）成员，这是一个包括几乎所有主要欧洲经济体、日本、韩国和美国在内的近30个国家集团，将于周日在巴黎举行会议。过去一周还见证了周四发布的首份国际人工智能安全报告，由96位专家编纂并得到30个国家、联合国、欧盟和经合组织的支持。报告中概述的风险范围从常见的内容，如网络上的虚假信息，到更加令人担忧的问题。“越来越多的证据表明，存在额外的风险，例如生物攻击或网络攻击，”报告协调人、著名计算机科学家优舒亚·本吉奥告诉法新社。长期来看，2018年人工智能奖得主本吉奥担心人类可能对人工智能系统失去控制，这可能是受到“自身生存意志”的驱使。“仅仅六年前，许多人认为达到ChatGPT-4级别的语言掌握还是科幻小说，但现在它已经成为现实，”泰格马克说，他指的是OpenAI的聊天机器人。“目前的主要问题是，许多有权力的人仍未意识到我们离构建通用人工智能（人工智能）更近，而不是弄清楚如何控制它。”人工智能指的是在所有领域都能与人类相等甚至超越的人工智能。其在未来几年的发展前景得到了OpenAI首席执行官山姆·奥特曼等人的认可。“最糟糕的情况是，这些美国或中国公司失去对这些系统的控制，之后地球将由机器主宰，”泰格马克说。拉塞尔同时也是国际安全和伦理人工智能协会的协调员，他认为政府应承担起建立针对武装人工智能的安全措施的责任。“如果有人想在巴黎附近建造一个新的核反应堆，他们必须向政府指定的专家证明该反应堆是安全的，不会失控……人工智能也应遵循同样的规定。”

(以上内容均由Ai生成)