专家呼吁监管以避免对 AI 的“失控”

快速阅读: 据《经济时报》最新报道，人工智能专家呼吁制定法规以防止失控。在巴黎召开的峰会上，全球领导人讨论了人工智能的治理。法国总统马克龙的人工智能特使安妮·布韦罗强调了机会而非仅限于风险。与此同时，专家们启动了一个项目来识别和应对人工智能的重大风险。

人工智能专家呼吁制定法规以避免对人工智能失去控制权。随着全球领导人齐聚巴黎参加关于该技术的峰会，这个问题变得更加紧迫。“在巴黎峰会上，我们面临着一个重要的选择，这应该被重视。”关注我们法新社最后更新时间：2025年2月9日，上午10:16:38（印度标准时间）分享此新闻广告太多？点击此处去除广告德里选举现场直播德里选举结果德里选举现场直播关键战场：哪里发生了什么德里D日：重要时刻回顾法国与印度共同主办周一和周二的会议，强调了2025年人工智能“行动”。法国的愿景是政府、企业和其它参与者支持人工智能的全球治理，并做出可持续性的承诺，但不设定强制性规则。“我们不想只谈论风险，还有非常现实的机会。”法国总统马克龙的人工智能特使安妮·布韦罗说。美国未来生命研究所负责人马克斯·泰格马克告诉法新社，法国不应错过采取行动的机会。“法国一直是国际合作的典范，并有机会真正引领世界。”麻省理工学院的物理学家说。

科技界热议话题更多>>

1. 亚马逊加入谷歌、微软的行列，云服务出现漏洞，股价下跌。
2. 通过统一的人工智能堆栈来转变治理结构。
3. 开创人工智能先河的合作者约翰·舒尔曼加入前首席技术官米拉·穆拉蒂的新创业公司。
4. 阿里巴巴高管表示，有关该公司计划投资DeepSeek的报道是不真实的。

股票交易通过投资正确的公司最大化回报由《经济时报》提供获得印度顶级商业新闻品牌的认证查看项目

“在巴黎峰会上，我们面临着一个重要的选择，这应该被重视。”生存意愿泰格马克研究所支持了周日启动的一个名为“全球风险与人工智能安全准备平台”（全球风险与人工智能安全准备平台）的项目，旨在绘制与人工智能相关的重大风险以及世界各地正在开发的解决方案。“我们已经识别出大约300种工具和技术来应对这些风险。”全球风险与人工智能安全准备平台协调员赛勒斯·霍德斯说。

调查结果将传递给经合组织（富裕国家俱乐部）和全球人工智能伙伴关系（全球人工智能伙伴关系）成员，这是一个包括主要欧洲经济体、日本、韩国和美国在内的近30个国家集团，将于周日在巴黎举行会议。过去一周还见证了第一份国际人工智能安全报告的发布，该报告由96位专家编纂，并得到30个国家、联合国、欧盟和经合组织的支持。文件中概述的风险从常见的网络虚假内容到更为严重的威胁。“额外风险如生物攻击或网络攻击的证据正在逐渐显现。”报告协调人、著名计算机科学家约书亚·本吉奥告诉法新社。

长期来看，2018年图灵奖得主本吉奥担心人类可能对人工智能系统失去控制，这可能是出于“自身的生存意愿”。“就在六年前，许多人还认为达到ChatGPT-4的语言掌握水平是科幻小说，但现在它实现了。”泰格马克说，他指的是OpenAI的聊天机器人。“现在的大问题是，许多有权势的人仍未理解，我们更接近于建立通用人工智能（通用人工智能），而不是学会如何控制它。”

超越人类智能？

通用人工智能是指一种在所有领域都能与人类相等甚至超越的人工智能。OpenAI首席执行官山姆·阿尔特曼等人曾预言这种技术将在未来几年内实现。“如果你粗略估算这些能力的增长速度，确实会让人觉得我们会在2026年或2027年实现这一目标。”竞争对手Anthropic公司的达里奥·阿莫迪在11月时说。“最糟糕的情况是，这些美国或中国公司失去了对这些系统的控制，之后地球将由机器统治。”泰格马克说。

加州大学伯克利分校的计算机科学教授斯图尔特·罗素最大的恐惧之一是“由人工智能控制的武器系统决定何时何地发动攻击”。罗素同时也是国际安全和伦理人工智能协会（国际安全和伦理人工智能协会）的协调人，他将责任归咎于政府设立防止武装人工智能的安全措施。泰格马克说，解决方法很简单：“在巴黎之外建造一个新的核反应堆之前，必须向政府指定的专家证明这个反应堆是安全的，不会失控……人工智能也应如此。”

(以上内容均由Ai生成)