谷歌警告：新型AI驱动恶意软件家族现身

快速阅读: 谷歌威胁情报小组发现攻击者利用AI部署新型恶意软件，如PromptFlux、FruitShell等，通过大型语言模型实现动态变化和规避安全措施，谷歌已禁用相关API访问并加强防护。

谷歌威胁情报小组（GTIG）今年发现了一个重大转变，攻击者利用人工智能部署新的恶意软件家族，在执行过程中整合大型语言模型（LLM）。这种新方法使得在执行中动态改变成为可能，达到传统恶意软件几乎无法实现的操作灵活性。谷歌将此技术称为“即时”自修改，并以在乌克兰部署的实验性恶意软件PromptFlux和PromptSteal（又名LameHug）为例，展示了动态脚本生成、代码混淆及按需创建功能的应用。

PromptFlux是一种实验性的VBScript下载器，最新版本利用了谷歌的大型语言模型Gemini生成混淆的VBScript变体。它通过启动文件夹条目尝试持久化，并通过可移动驱动器和映射网络共享横向传播。“PromptFlux最创新的部分是其‘思考机器人’模块，设计用于定期查询Gemini以获取新的代码来规避防病毒软件。”谷歌解释说。研究人员表示，该提示非常具体且机器可解析，表明恶意软件的创造者旨在创建一个不断演变的“变形脚本”。

尽管谷歌未能将PromptFlux归因于特定的威胁行为者，但指出其战术、技术和程序表明它被一个以财务为目的的组织所使用。虽然PromptFlux尚处于早期开发阶段，尚未对目标造成实际损害，但谷歌采取行动禁用了其访问Gemini API的权限，并删除了所有相关资产。

谷歌今年还发现了另一种使用人工智能的恶意软件——FruitShell，这是一种PowerShell反向壳，建立远程命令和控制（C2）访问并执行任意命令。该恶意软件公开可用，研究人员认为其包含硬编码的提示，旨在绕过由大型语言模型支持的安全分析。

谷歌还提到了QuietVault，这是一种JavaScript凭证窃取器，针对GitHub/NPM令牌，通过动态创建的公共GitHub仓库泄露捕获的凭证。QuietVault利用主机上的AI命令行工具和提示搜索更多秘密并泄露它们。

在同一份AI启用的恶意软件名单上还有PromptLock，一种实验性的勒索软件，依赖Lua脚本在Windows、macOS和Linux机器上窃取和加密数据。

除了AI驱动的恶意软件外，谷歌的报告还记录了威胁行为者在整个攻击生命周期中滥用Gemini的多个案例。一名与中国有关联的行为者冒充CTF参赛者绕过Gemini的安全过滤器，获取漏洞细节，利用模型查找漏洞、制作钓鱼诱饵和构建数据泄露工具。伊朗黑客组织MuddyCoast（UNC3313）假装学生使用Gemini进行恶意软件开发和调试，无意中暴露了C2域和密钥。伊朗组织APT42滥用Gemini进行钓鱼和数据分析，创建诱饵、翻译内容并开发“数据处理代理”，将自然语言转换为SQL以挖掘个人数据。中国APT41利用Gemini提供代码帮助，增强其OSSTUN C2框架，并使用混淆库提高恶意软件的复杂性。最后，朝鲜威胁组织Masan（UNC1069）利用Gemini进行加密货币盗窃、多语言钓鱼和创建深度伪造诱饵，而Pukchong（UNC4899）则利用它开发针对边缘设备和浏览器的代码。对于所有识别出的案例，谷歌禁用了相关账户，并根据观察到的战术强化了模型防护措施，以增加滥用难度。

在地下论坛上，无论是英语还是俄语用户，对恶意的AI基础工具和服务的兴趣正在增长，这些工具和服务降低了部署更复杂攻击的技术门槛。“许多地下论坛广告的语言类似于合法AI模型的传统营销，强调提高工作效率和努力的同时，为有兴趣的客户提供指导。”谷歌在其今日发布的报告中指出。提供的服务范围从生成深度伪造和图像到恶意软件开发、钓鱼、研究和侦察以及漏洞利用。随着AI驱动的网络犯罪市场日趋成熟，这一趋势预示着传统工具在恶意操作中的替代。

谷歌威胁情报小组（GTIG）发现多个行为者正在推广多功能工具，这些工具能够覆盖攻击的各个阶段。向基于人工智能的服务的推进似乎非常激进，许多开发者在他们服务的免费版本中积极推广新功能，而高级功能如API和Discord访问则需要额外付费。谷歌强调，任何开发者在开发AI时都“必须既大胆又负责任”，并应设计出具有“强大安全防护措施”的AI系统，以防止滥用，遏制和干扰敌对行动。公司表示，会调查其服务和产品的任何滥用迹象，这包括与政府支持的威胁行为者有关的活动。除在适当情况下与执法部门合作外，谷歌还利用对抗敌对者的经验，“提高我们AI模型的安全性和保护”。《2026年CISO预算基准》报告现已发布！正值预算季节，超过300名CISO和安全领导者分享了他们对未来一年的规划、支出和优先事项。该报告汇总了他们的见解，帮助读者衡量策略、识别新兴趋势并比较优先级，为2026年的规划提供参考。了解顶级领导者如何将投资转化为可量化的成果。立即下载。相关文章：谷歌称搜索AI模式将全面了解用户信息；谷歌推出新的AI漏洞赏金计划，最高奖励3万美元；谷歌宣布每个人都能通过vibe code制作视频游戏；谷歌不会修复Gemini中的新ASCII走私攻击；谷歌桌面版Drive新增AI驱动的勒索软件检测功能。

(以上内容均由Ai生成)