谷歌警告新型AI驱动恶意软件家族出现

快速阅读: 谷歌威胁情报小组发现攻击者利用AI部署新型恶意软件，如PromptFlux和FruitShell，这些软件具备动态自修改能力，能绕过安全检测。谷歌已禁用相关账户并加强安全措施。

谷歌威胁情报小组（GTIG）今年发现了一种重大转变，攻击者开始利用人工智能部署新的恶意软件家族，这些软件在执行过程中整合了大型语言模型（LLM）。这种新方法允许在执行过程中动态更改，达到了传统恶意软件几乎无法实现的操作灵活性。

谷歌将这一技术称为“即时”自修改，并以实验性的PromptFlux恶意软件投放器和在乌克兰使用的PromptSteal（又称LameHug）数据挖掘工具为例，展示了动态脚本生成、代码混淆和按需创建功能的能力。PromptFlux是一种实验性的VBScript投放器，其最新版本利用了谷歌的LLM Gemini来生成混淆的VBScript变体。它通过启动文件夹项尝试持久化，并在可移动驱动器和映射网络共享上横向传播。“PromptFlux最具创新性的组件是‘思考机器人’模块，该模块设计为定期查询Gemini以获取新的代码，用于规避防病毒软件。”谷歌解释说。研究人员表示，该提示非常具体且机器可解析，显示出恶意软件的创造者旨在开发一种不断演变的“变形脚本”。

虽然谷歌无法将PromptFlux归因于特定的威胁行为者，但指出其战术、技术和程序表明它被一个以经济利益为动机的组织所使用。尽管PromptFlux处于早期发展阶段，尚未能够对目标造成实际损害，谷歌还是采取行动禁用了其访问Gemini API的权限，并删除了所有相关资产。

今年谷歌还发现了另一种由AI支持的恶意软件——FruitShell，这是一种PowerShell反向壳，建立远程命令和控制（C2）访问并执行任意命令。该恶意软件公开可用，研究人员表示，它包含硬编码的提示，旨在绕过由LLM支持的安全分析。

谷歌还提到了QuietVault，这是一种JavaScript凭证窃取器，针对GitHub/NPM令牌，将捕获的凭证泄露到动态创建的公共GitHub存储库中。QuietVault利用主机上的AI命令行工具和提示搜索更多秘密并泄露它们。

同样列在AI支持的恶意软件名单上的还有PromptLock，这是一种实验性的勒索软件，依赖Lua脚本来在Windows、macOS和Linux机器上窃取和加密数据。

除了AI支持的恶意软件外，谷歌的报告还记录了多个威胁行为者滥用Gemini的案例，贯穿整个攻击生命周期。一名与中国有关联的行为者伪装成CTF参与者，绕过Gemini的安全过滤器，获取漏洞细节，利用该模型寻找漏洞、制作钓鱼诱饵和构建泄露工具。伊朗黑客组织MuddyCoast（UNC3313）假装学生使用Gemini进行恶意软件开发和调试，意外暴露了C2域和密钥。伊朗APT42组织滥用Gemini进行钓鱼和数据分析，创建诱饵、翻译内容，并开发了一款“数据处理代理”，可以将自然语言转换为SQL，用于个人数据挖掘。中国的APT41利用Gemini提供代码协助，增强了其OSSTUN C2框架，并利用混淆库增加了恶意软件的复杂性。最后，朝鲜威胁组织Masan（UNC1069）利用Gemini进行加密货币盗窃、多语言钓鱼和创建深度伪造诱饵，而Pukchong（UNC4899）则利用它开发针对边缘设备和浏览器的代码。

在所有谷歌识别的案例中，谷歌禁用了相关账户，并加强了模型的安全措施，以增加其被滥用的难度。

地下论坛上的AI驱动网络犯罪工具

谷歌研究人员发现，在英语和俄语的地下市场，对恶意AI工具和服务的兴趣正在增长，这降低了部署更复杂攻击的技术门槛。“许多地下论坛广告的语言与合法AI模型的传统营销类似，声称提高工作流程效率和努力的同时，还为潜在客户提供指导。”谷歌在其今天发布的报告中说。提供的服务范围从生成深度伪造和图像到恶意软件开发、钓鱼、研究和侦察以及漏洞利用。随着AI驱动的网络犯罪市场的成熟，这一趋势预示着传统工具在恶意活动中的替代。

谷歌威胁情报小组（GTIG）发现多个行为者在推销多功能工具，这些工具能够覆盖攻击的各个阶段。向基于人工智能的服务的推进似乎十分激进，许多开发者在他们提供的免费版本中积极推广新功能，而高级功能通常包括API访问和Discord接入，需支付更高费用。谷歌强调，任何开发者对人工智能的开发“既要大胆也要负责任”，并应设计出具有“强大安全防护措施”的AI系统，以防止滥用、阻止并干扰敌对行动。该公司表示，会调查其服务和产品的任何滥用迹象，其中包括与政府支持的威胁行为者相关的活动。除了在适当情况下与执法部门合作外，谷歌还利用对抗敌对者的经验，“改进我们AI模型的安全性和保护”。

《2026年CISO预算基准》报告

现在正是预算季节！超过300名CISO和安全领导者分享了他们对未来一年的规划、支出和优先事项。该报告汇总了他们的见解，帮助读者衡量策略、识别新兴趋势，并在进入2026年之际比较自己的优先级。了解顶级领导者如何将投资转化为可衡量的影响。

立即下载

– 谷歌称搜索AI模式将了解你的一切

– 谷歌推出新的AI漏洞赏金计划，最高奖励3万美元

– 谷歌称所有人都能通过vibe code制作视频游戏

– 谷歌不会修复Gemini中的新ASCII走私攻击

– 谷歌桌面版Drive新增AI驱动的勒索软件检测功能

(以上内容均由Ai生成)