超700名各界人士呼吁停止开发超级人工智能

快速阅读: 超过700名科学家、政治人物和名人呼吁暂停开发超越人类智能的AI，直到技术安全可靠并获公众支持。未来生命研究所发起，多位知名人士联署。

超过700名科学家、政治人物和名人，包括哈里王子、理查德·布兰森和史蒂夫·班农在内，于周三呼吁停止开发能够超越人类智能的人工智能。“这项倡议呼吁，在技术可靠安全且得到公众支持之前，禁止开发超级智能。”美国非政府组织“未来生命研究所”发布的一封公开信中写道。该组织致力于反对人工智能带来的危险。签署者包括“人工智能之父”、2024年诺贝尔物理学奖得主杰弗里·辛顿；加州大学伯克利分校计算机科学教授斯图尔特·罗素；以及蒙特利尔大学的世界顶尖人工智能科学家约书亚·本吉奥。其他签署者还包括维珍集团创始人理查德·布兰森；苹果公司联合创始人史蒂夫·沃兹尼亚克；美国总统唐纳德·特朗普的前顾问史蒂夫·班农；前总统贝拉克·奥巴马的国家安全顾问苏珊·赖斯。梵蒂冈人工智能专家保罗·贝纳蒂和名人如哈里王子及其妻子梅根，以及美国歌手will.i.am也对此表示支持。大多数主要的人工智能开发者都在追求实现人工通用智能（AGI），即人工智能达到所有人类智力水平的阶段，甚至超越这一水平的超级智能。在9月份由媒体集团Axel Springer组织的一次活动中，OpenAI首席执行官萨姆·阿尔特曼表示，超级智能可能在未来五年内实现。未来生命研究所主席马克斯·泰格马克告诉法新社，公司在没有监管框架的情况下不应追求这一目标。“许多人希望利用强大的人工智能工具来促进科学、医学、生产力等领域的发展，”该研究所的联合创始人安东尼·阿奎雷补充道，“但人工智能公司目前采取的道路，即竞相开发比人类更聪明、旨在取代人类的人工智能，这与公众的期望、科学家认为的安全性或宗教领袖认为正确的方向严重不符。”这封公开信呼应了一个月前在联合国大会期间由人工智能研究人员和行业工作者发布的另一封信，后者呼吁各国政府在2026年底前达成关于人工智能‘红线’的国际协议。

(以上内容均由Ai生成)