新的 ROOST 计划在巴黎 AI 峰会上启动，旨在通过开源安全工具保护 AI

快速阅读: 据《Tech.eu》称，今日，人工智能行动峰会在巴黎启动了“稳健开放在线安全工具”(ROOST)计划，旨在构建适用于人工智能时代的安全基础设施。ROOST由多家科技公司和慈善机构支持，将提供免费、开源工具检测并报告儿童性虐待材料。截至目前，ROOST已筹集超2700万美元，用于前四年运营。此外，“当前AI”基金会将获“愿意的国家”4亿欧元资助，推动AI民主化。

今天，人工智能行动峰会在巴黎启动了“稳健开放在线安全工具”（ROOST）计划。ROOST是由哥伦比亚大学全球政治研究所孵化的新非营利组织，汇集了主要科技公司和慈善机构的专业知识、资源和投资，旨在构建适合人工智能时代的可扩展、互操作的安全基础设施。峰会的重点包括“确保人工智能是开放的、包容的、透明的、合乎伦理的、安全的和可信的”。

据OpenUK首席执行官阿曼达·布罗克称，此次发布是欧洲对开源技术更广泛承诺的一部分，这是至关重要的。她指出，倡导使用“开源数字工具管理人工智能”而非监管的做法是OpenUK长期在做的事情。根据布罗克的说法，这种方法对于未来人工智能的管理和安全性至关重要。

ROOST将提供免费、开源且易于使用的工具来检测、审查和报告儿童性虐待材料（CSAM），利用大型语言模型（LLM）来支持安全基础设施，并使核心安全技术更加易用。凭借专门的技术团队提供实际支持，ROOST将与各组织合作，帮助它们整合强大的安全措施，同时继续创新。

OpenUK顾问委员会的劳拉·吉尔伯特博士认为，当我们让人工智能工具和安全框架开源时，我们创造了一个全球创新实验室，同时通过透明度建立信任。

ROOST的创始合作伙伴包括：埃里克·施密特，Discord，OpenAI，谷歌，Roblox，约翰·S·和詹姆斯·L·奈特基金会，人工智能协作组织，帕特里克·J·麦戈文基金会，自由项目研究所。ROOST还受益于来自人工智能、慈善、学术界、开源、儿童安全和打击暴力极端主义领域的广泛合作伙伴的支持和专业知识。

截至目前，ROOST已从一系列领先的慈善机构和顶级科技公司筹集了超过2700万美元，用于其前四年的运营。ROOST旨在加速增长，并将其服务扩展到尽可能多的组织。据布罗克称，在这个以欧洲为基础的峰会上，确保我们的AI未来不会被少数几家公司掌控是贯穿所有讨论的主题。

峰会上还将宣布成立“当前AI”基金会，该基金会由“愿意的国家”资助4亿欧元，并包括数据公地和伦理AI实践作为AI民主化的必要推动因素。

(以上内容均由Ai生成)