谷歌推新AI工具CodeMender，助力提前发现修复代码漏洞

快速阅读: Anthropic研究显示250个恶意文档即可污染AI模型，引发新网络攻击浪潮。Codemender等工具成应对关键，谷歌看好AI安全应用前景。

为什么像Codemender这样的工具是当务之急？

Nadeem Sarwar/SlashGear

随着人工智能技术的发展及其在从办公软件到代码生成等领域的深度融合，新的攻击面不断涌现。2025年10月初，Anthropic发布研究指出，仅仅250个恶意文档就足以污染大型AI模型，为其打开各种破坏活动的后门。值得注意的是，Anthropic获得了来自谷歌和亚马逊等公司的数十亿美元投资，其Claude聊天机器人目前支持微软Copilot和Office套件中的AI体验。

“这些漏洞对AI安全构成了重大威胁，”该公司在其分析报告中表示，该报告与英国AI安全研究所和艾伦·图灵研究所合作完成。英国政府也警告称，生成式AI可能导致更快、更广泛的网络钓鱼、恶意软件复制和网络入侵，甚至利用AI破解密码保护等简单任务。研究表明，生成式AI工具将引发新一轮的网络攻击浪潮。

即使是在2024年的《谷歌云网络安全预测》报告中也对不良行为者使用生成式AI工具发出了警报。然而，像Codemender这样的工具似乎能在一定程度上平衡这种态势。谷歌对其在安全领域部署AI的效果充满信心，认为“人类单独应对将变得越来越困难。”值得注意的是，谷歌尚未公布计划何时向公众发布Codemender，尽管考虑到整个系统的计算强度，这款工具可能主要面向企业客户。

(以上内容均由Ai生成)