不仅仅是一个名字：政府是否认真对待 AI？

快速阅读: 《SC 杂志美国》消息，上周，英国人工智能安全研究所更名为AI安全研究所，强调对AI安全的重视。新名称反映了对AI潜在安全风险的关注，包括网络攻击和犯罪行为。政府表示，研究所的任务是识别和减轻AI带来的最大风险，确保国家安全。尽管更名引发关注，但专家认为还需实际措施和行业合作来增强安全性。

上周，人工智能安全研究所更名为AI安全研究所，这对政府对待人工智能的态度意味着什么？上周我们报道了英国人工智能安全研究所更名为AI安全研究所的公告。这只是一个名字的变化，真的重要吗？实际上，这是一个相当重要的步骤。如果我们回顾一年多前的原始公告，它指出当时的“安全研究所”将通过仔细检查、评估和测试新的AI类型来推进世界对AI安全的理解，以便我们了解每个新模型的能力。确保安全其目标是进行基础研究，以应对在快速且不可预测的人工智能发展中如何保持人们的安全。当时的科学、创新和技术国务大臣米歇尔·多内兰表示，该研究所是“首个专注于高级AI公共利益安全的国家支持组织”，并表示该研究所将通过开发必要的社会技术基础设施来理解高级AI的风险并实现其治理。当然，自从这一公告以来，英国政府已经更换了领导人，这也带来了名称的变化。科技大臣彼得·凯莱说，新的名称将反映其对具有安全影响的严重AI风险的关注。这包括用于网络攻击的用途，以及化学和生物武器的发展，并促进欺诈和儿童性虐待等犯罪行为。在慕尼黑安全会议上，凯莱还提到人工智能安全研究所将与国防部国防科学技术实验室、国家安全通信中心（NCSC）和内政部合作。引起关注这就是为什么这很重要。一个新的名称并不能真正引起注意，但围绕人工智能创造对话和政策却能做到这一点。在过去几年中，当我们谈论人工智能时，这一直是持续的话题趋势和研究方向，现在看来政府也准备采取积极立场。政府发言人通过邮件向SC UK表示：“任何政府的第一要务都是保障公民的安全，确保国家安全是我们永远不会妥协的事情。研究所的任务现在非常明确——专注于识别和减轻由AI带来的最严重的风险——将研究所置于英国民众期待的位置。”AI参与正如我们之前所说，解决人工智能的努力不仅仅是关于网络安全和被网络罪犯利用的问题。根据TeamViewer最近的一份报告，82%的英国决策者每周都会使用人工智能，72%的受访者认为他们组织的人工智能采用已达到成熟阶段。弹性欧洲、中东和非洲地区现场首席技术官苏珊娜·巴顿说，看到政府更加重视人工智能安全令人感到安心，称这是一种务实的方法，重点关注具体和即时的风险。她说：“随着人工智能基础设施的发展，政府必须认识到，使创新成为可能的相同工具也容易被恶意行为者用于不法目的。”她表示，“我们已经看到人工智能被用来传播虚假信息、自动化网络攻击和操纵公众舆论。因此，建立一个机构来保护国家安全免受人工智能驱动威胁是合理且必要的一步。”她欢迎研究所名称中加入“安全”一词，称这标志着朝着正确方向迈出了一步，“但其效果将取决于这一框架如何转化为可操作的保障措施、行业合作和监管清晰度。”毕竟，“安全和安保必须并重。”然而，德尔内拉公司的首席安全科学家兼顾问CISO约瑟夫·卡森对这一宣布的接受态度较为冷淡，他表示虽然研究所扩大人工智能安全知识的努力是无价的，“真正的韧性需要组织采取主动措施加强自身的安全措施。”他声称，不受控制的AI操作，如涉及特权访问或数据完整性的操作，可能会造成灾难性后果，企业使用AI应该要求供应商采取设计安全和默认安全的方法。也许这是人工智能安全研究所工作的一部分，并推动制定政策，确保供应商和从业人员有更高的标准。目前，这不仅是一个新的名称——这是政府加入讨论并协调各部门以形成共同理解的机会。丹·雷伍德 高级编辑 SC媒体英国分社

丹·雷伍德是一位拥有超过20年经验的B2B记者，其中包括过去16年专注于网络安全领域的报道。他广泛报道了高级持续威胁、民族国家黑客、重大数据泄露和监管变化等话题。他在44CON、信息安全欧洲大会、RANT会议、BSides苏格兰、Steelcon和ESET安全日等多个活动上发表过演讲。工作之余，丹喜欢支持托特纳姆热刺队，管理调皮的猫咪，并品尝精酿啤酒。

(以上内容均由Ai生成)