谷歌发现新恶意软件利用AI模型实时优化攻击

快速阅读: 谷歌发现三种利用AI技术的新型恶意软件，包括窃取凭证的“Quietvault”、通过Gemini修改代码逃避检测的“Promptflux”及与Qwen关联的数据挖掘恶意软件“Promptsteal”。谷歌已采取行动禁用相关资产，并在Gemini中增加防护措施。

谷歌发现新的恶意软件能够连接到人工智能模型，以实时改进攻击。在周三的一份报告中，该公司的威胁情报小组警告称，有三种恶意软件在实际操作中被使用，并不同程度地利用了生成式人工智能技术。其中一种攻击名为“Quietvault”，设计用于从Windows个人电脑上窃取登录凭证，同时利用“AI提示和主机上安装的AI命令行工具来搜索其他潜在的秘密，并将这些文件外泄。”公司没有进一步详细说明。

另一种名为“Promptflux”的恶意软件似乎是黑客的实验作品，它通过调用谷歌的Gemini聊天机器人来修改其计算机代码以逃避检测。“Promptflux最创新的部分是其‘思考机器人’模块，设计为定期查询Gemini以获取新的代码来规避防病毒软件的检测。”谷歌补充道。

通过谷歌的API，Promptflux恶意软件通过向Gemini发送指令，例如“提供一个小型的、自包含的VBScript函数或代码块，有助于躲避防病毒软件的检测。”这可能让Gemini听从并帮助恶意软件实时进化，甚至每小时重写整个源代码以逃避检测。然而，安全研究员马库斯·哈钦斯，曾协助关闭2017年的WannaCry勒索软件攻击，质疑这种AI生成的恶意软件是否真的构成威胁，指出这些指令弱效或不切实际。“它没有具体说明代码块应该做什么，或者如何躲避防病毒软件。只是假设Gemini本能地知道如何躲避防病毒软件（它不知道），”哈钦斯在LinkedIn上写道。

谷歌表示已经成功打击了Promptflux，该恶意软件是在开发阶段被发现的。“目前这种恶意软件的状态并未显示出能够入侵受害者的网络或设备的能力。我们已经采取行动禁用了与此活动相关的资产。”公司还提到，在Gemini中实施了保护措施，防止其协助此类请求。谷歌认为，Promptflux很可能属于“出于经济动机”的网络犯罪分子，而非国家支持的黑客。

此外，谷歌还警告了一种由乌克兰网络安全当局在七月标记的名为“Promptsteal”的AI驱动恶意软件。这种数据挖掘恶意软件连接到由中国阿里巴巴集团开发的Qwen大语言模型。Promptsteal伪装成图像生成程序，一旦安装，就会“生成命令供恶意软件执行，而不是直接在恶意软件中硬编码这些命令。”谷歌指出，“这些命令的输出随后由Promptsteal本地盲目执行，然后被外泄。”

谷歌同意乌克兰网络安全当局的观点，认为Promptsteal可能是俄罗斯国家支持的黑客组织APT28（也称为Fancy Bear）的作品。“APT28使用Prompsteal是我们首次观察到恶意软件在实际操作中查询部署的语言模型。”与此同时，Anthropic最近也发现一名黑客使用其Claude AI聊天机器人来帮助自动化并执行针对17个组织的大规模数据勒索活动。

(以上内容均由Ai生成)