​加州新法案或将推动 AI 安全监管，科技公司面临透明度新要求

快速阅读: 加州参议员维纳推动AI安全立法SB53，要求收入超5亿美元的AI实验室发布安全报告，涵盖潜在风险，并设员工举报渠道，强调州政府责任。

加利福尼亚州参议员斯科特・维纳(Scott Wiener)再次致力于推动 AI 安全立法,此次的新法案 SB53正在等待加州州长纽森的签署。维纳在2024年曾试图推出一项名为 SB1047的法案,但遭到了硅谷的强烈反对,最终被州长否决。此次 SB53的推出,虽然依旧面临挑战,但看起来更受欢迎,甚至获得了部分科技公司的支持。

SB53计划对收入超过5亿美元的主要 AI 实验室,如 OpenAI 和谷歌等,要求其发布安全报告,内容涉及其 AI 系统可能带来的潜在危害。这些报告将涵盖如导致人类死亡、网络攻击和化学武器等风险。与之前的 SB1047不同,此次法案不再对 AI 公司施加责任,而是更注重于透明度和自我报告。

此外,SB53还为 AI 实验室的员工设立了安全隐私举报渠道,允许他们向政府官员报告安全问题。同时,法案计划建立一个名为 CalCompute 的州立云计算集群,以支持除了大型科技公司外的 AI 研究资源。

尽管一些科技公司仍然认为 AI 监管应由联邦政府来进行,维纳表示,由于对联邦政府缺乏信任,州政府有责任在 AI 安全方面采取行动。他认为,当前美国联邦政府对 AI 的关注过于偏重于增长,而忽视了安全监管。

维纳的目标是确保加利福尼亚在 AI 安全方面引领全国,推动科技的创新,同时兼顾公众的健康与安全。他指出,科技行业不能仅仅依靠自我监管来保证安全,必须有合理的法律法规来保护公众利益。

划重点: 🌟 ** 新法案 SB53要求大型 AI 公司发布安全报告, 首次 对 AI 的潜在风险进行透明化管理。** 🛡️ ** 法案设立员工举报渠道,鼓励科技公司内部举报安全隐患。** 📈 ** 维纳强调州政府有责任在 AI 安全方面采取行动,推动安全监管的必要性。**

(以上内容均由Ai生成)