谷歌发现新型AI辅助恶意软件，实时优化攻击手段

快速阅读: 谷歌发现三种利用AI技术的新型恶意软件，包括窃取凭证的Quietvault、通过Gemini修改代码逃避检测的Promptflux及可能与APT28有关的Promptsteal。谷歌已采取措施打击这些威胁。

谷歌发现新的恶意软件能够连接到人工智能模型，以实时优化其攻击。在周三的一份报告中，谷歌威胁情报团队警告称，三种恶意软件已在实际操作中使用，并不同程度地利用了生成式人工智能技术。其中一种名为Quietvault的攻击被设计用于从Windows个人电脑上窃取登录凭证，同时利用“人工智能提示和主机安装的人工智能命令行工具搜索受感染系统上的其他潜在秘密并外泄这些文件”，公司表示未进一步详细说明。

另一种名为Promptflux的恶意软件似乎是黑客的实验作品，它通过调用谷歌的Gemini聊天机器人来修改自身代码以逃避检测。“Promptflux最创新的部分是其‘思考机器人’模块，该模块被设计为定期向Gemini查询以获取新代码，以规避防病毒软件。”谷歌补充道。通过谷歌的API，Promptflux通过向Gemini发送诸如“提供一个简单、独立的VBScript函数或代码块，帮助规避防病毒检测”之类的提示工作。这似乎可以诱使Gemini遵从指令，从而帮助恶意软件实时进化，甚至每小时重写“整个恶意软件源代码以逃避检测”。

然而，安全研究员马库斯·哈钦斯（Marcus Hutchins）对这种由人工智能生成的恶意软件是否真正构成威胁表示怀疑，认为其提示过于薄弱或不切实际。“它没有具体说明代码块应该做什么，或者如何规避防病毒软件。这只是假设Gemini本能地知道如何规避防病毒软件（实际上它不知道），”哈钦斯在LinkedIn上写道。“这是我要称之为CTI渣滓（过度投资于人工智能的技术公司夸大人工智能渣滓恶意软件的重要性，试图兜售人工智能比实际情况更具变革性的观点）。”

与此同时，谷歌表示已经成功打击了Promptflux，在该恶意软件开发过程中发现了它。“目前这种恶意软件的状态并不能证明其有能力入侵受害者的网络或设备。我们已经采取行动禁用了与此活动相关的资产，”公司表示。此外，Gemini中还实施了保护措施，防止其协助此类请求。谷歌还指出，Promptflux很可能属于“以经济利益为目的”的网络犯罪分子，而非国家支持的黑客。

谷歌还警告了一种名为Promptsteal的人工智能驱动的恶意软件，该软件由乌克兰网络安全机构于7月标记。这种数据挖掘恶意软件连接到由中国阿里巴巴集团开发的Qwen大型语言模型。Promptsteal充当特洛伊木马，伪装成图像生成程序。一旦安装，它将“生成命令供恶意软件执行，而不是直接将命令硬编码到恶意软件中”，谷歌指出，“这些命令的输出随后由Promptsteal本地盲目执行，然后被外泄。”谷歌也同意乌克兰网络安全机构的看法，认为Promptsteal可能是俄罗斯国家支持的黑客组织APT28（又称Fancy Bear）的作品。“APT28使用Promptsteal是我们首次观察到恶意软件在实际操作中查询大型语言模型的情况。”公司补充道。

同时，Anthropic最近也发现一名黑客利用其Claude人工智能聊天机器人帮助自动化并执行针对17个组织的大规模数据勒索活动。

(以上内容均由Ai生成)