Dsit 宣布 15 万英镑的人工智能安全研究基金

快速阅读: 据《研究专业新闻》称，英国研究创新机构（UKRI）领导人工智能对齐研究，获1500万英镑资助，联合多国机构与企业，旨在确保AI安全可控。项目将推动技术实验，提升公众信任，促进AI健康发展。（98字）

英国研究创新机构（UKRI）领导人工智能对齐研究，获1500万英镑资助，联合多国机构与企业，旨在确保AI安全可控。项目将推动技术实验，提升公众信任，促进AI健康发展。

图片：英国研究创新机构（UKRI），来自Flickr网站
英国研究创新机构与产业界合作研究人工智能行为，允许“超越传统学术领域的技术实验”
科学、创新和技术部宣布了一项由超过1500万英镑资助的研究基金，用于研究人工智能的行为和控制。
7月30日，英国研究创新机构（UKRI）宣布其人工智能安全研究所将领导人工智能对齐研究——确保人工智能按照设计方式运行。
人工智能对齐项目是一个国际联盟，包括加拿大人工智能安全研究所、云服务平台亚马逊网络服务（AWS）以及美国人工智能公司Anthropic，还有英国研究创新机构和先进研究计划署等。
7月30日，英国研究创新机构（UKRI）宣布其人工智能安全研究所将领导人工智能对齐研究——确保人工智能按照设计方式运行。
科技大臣彼得·凯尔（如图）表示，随着人工智能系统持续以更快的速度发展，“我们必须推动研究，以确保这项变革性技术符合我们的利益”。
工程与物理科学研究理事会执行主席夏洛特·迪恩表示，该合作伙伴关系“汇集了英国人工智能生态体系的关键要素，弥合了基础科学研究与人工智能对齐实际挑战之间的差距”。
该项目被描述为资助研究，以确保人工智能系统保持对人类监督的响应性，并能够识别和消除可能带来社会风险的行为。计算机科学和认知科学等领域的研究人员最多可获得100万英镑的资金。研究人员将可以使用Anthropic和亚马逊网络服务的计算资源，英国研究创新机构表示这将使他们能够进行“超越传统学术领域的技术实验”。
人工智能与突破性创新
人工智能安全研究所首席科学家杰弗里·伊文斯表示：“人工智能对齐是我们这个时代最紧迫且资源匮乏的挑战之一。进步是必要的，但进展速度仍不够快，相对于人工智能发展的快速步伐而言。”
人工智能与突破性创新
该项目还将获得私营资助者的投资，以加速商业对齐解决方案。其顾问委员会成员包括图灵奖得主（被广泛认为是计算机科学领域的最高奖项），约舒亚·本吉奥和莎菲·戈德瓦塞尔。
人工智能是当前政府提升经济增长计划的关键组成部分。根据英国研究创新机构的说法，人工智能对齐项目将有助于消除安全人工智能采用的最大障碍之一：民众信任。
迪恩表示，EPSRC“致力于推进奠定人工智能安全的开创性研究，并通过与人工智能安全研究所及行业伙伴协同合作，我们正在加强国家人工智能生态系统的整体性”。
她补充道：“我们将共同努力，确保英国在人工智能领域的领导地位既能推动突破性创新，又能为社会带来实际利益。”
查看此文章在Research Professional上

(以上内容均由Ai生成)