谷歌分析：AI生成恶意软件效果不佳易被检测

快速阅读: 一些AI公司声称AI生成的恶意软件成为新威胁，如Anthropic报告其Claude模型被用于开发高级勒索软件。然而，谷歌和OpenAI的研究显示，AI在这一领域的实际应用效果有限，主要为实验性质，当前最大威胁仍来自传统手段。

评估提供了有力反驳，针对一些寻求新风险投资的人工智能公司夸大其词的说法，这些公司声称AI生成的恶意软件广泛存在，并成为威胁传统防御的新范式。一个典型的例子是Anthropic公司，该公司最近报告称发现了一名威胁行为者利用其Claude语言模型“开发、营销并分发了多个具有高级逃避能力、加密技术和防恢复机制的勒索软件变种。”该公司进一步表示：“没有Claude的帮助，他们无法实现或调试核心恶意软件组件，如加密算法、反分析技术或Windows内部操作。”

初创公司ConnectWise最近也提到，生成式AI“降低了威胁行为者进入游戏的门槛。”该帖子引用了一份来自OpenAI的独立报告，该报告发现有20个不同的威胁行为者使用其ChatGPT AI引擎来开发用于识别漏洞、编写攻击代码和调试代码的恶意软件。BugCrowd在一项针对自选个体的调查中指出，“74%的黑客认为AI让黑客活动更加容易，为新手打开了大门。”

然而，在某些情况下，这些报告的作者也注意到了本文所提及的相同限制。谷歌周三发布的报告显示，在其分析中，使用AI工具开发用于管理和隐蔽操作的命令控制通道时，“我们没有看到成功的自动化或任何突破性的功能。”OpenAI也表达了类似的观点。尽管如此，这些免责声明通常并不显眼，往往在渲染AI辅助恶意软件构成即时威胁的热潮中被淡化。

谷歌的报告还提供了一个有用的发现。一名利用该公司Gemini AI模型的威胁行为者通过伪装成白帽黑客参与夺旗游戏的研究，成功绕过了防护措施。这种竞争性练习旨在向参与者和观众传授有效的网络攻击策略。所有主流语言模型都内置了防护措施，以防止它们被恶意使用，例如用于网络攻击和自我伤害。谷歌表示，它已经进一步微调了对策，以抵抗此类策略。

总体而言，迄今为止出现的AI生成的恶意软件表明，这主要是实验性质的，且成果并不令人印象深刻。值得关注的是，这些事件是否展示了AI工具产生以前未知的新功能。不过，目前最大的威胁仍然主要依赖于传统的手段。

(以上内容均由Ai生成)