警惕AI浏览器安全漏洞：恶意图像可致黑客入侵

快速阅读: Brave Software揭露AI驱动浏览器存在“提示注入攻击”漏洞，黑客可通过隐藏指令操纵浏览器执行恶意操作，如访问危险网站或窃取用户信息，呼吁加强安全措施。

不要错过我们的最新报道。将PCMag设为Google上的首选来源。

据最新的安全研究显示，尽管AI驱动的浏览器被认为智能化，但它们也可能被利用来攻击用户，例如在分析网络图像时。

就在OpenAI推出其ChatGPT Atlas浏览器的同一天，Brave Software公布了如何诱骗AI浏览器执行恶意指令的细节。

这一潜在漏洞是另一种“提示注入攻击”，黑客秘密地向AI聊天机器人发送恶意提示，这可能包括加载危险网站或查看用户的电子邮件。专注于隐私保护的Brave浏览器开发者Brave一直警告，在软件中嵌入自动化的AI代理所涉及的风险。周二，该公司报告了一种针对Perplexity的AI驱动Comet浏览器的提示注入攻击，该攻击通过分析网络截图等图像进行传播。

“在我们的攻击中，我们能够将提示注入指令隐藏在图像中，使用淡蓝色文字置于黄色背景上，这意味着这些恶意指令实际上对用户来说是不可见的。”Brave Software写道。

如果Comet浏览器被要求分析该图像，它将读取并可能执行这些隐藏的恶意指令。Brave创建了一个攻击演示，成功地诱骗了Comet浏览器执行部分隐藏命令，包括查找用户的电子邮件和访问黑客控制的网站。

Brave还发现了一个类似的提示注入攻击，当Fellou浏览器被指示导航至黑客控制的网站时可能发生。攻击演示显示，Fellou会读取网站上的隐藏指令并执行它们，包括读取用户的电子邮件收件箱并将最近一封邮件的主题传递给黑客控制的网站。

“尽管Fellou浏览器对隐藏指令攻击表现出一定的抵抗力，但它仍然将网页可见内容视为可信输入给大型语言模型（LLM）。令人惊讶的是，我们发现仅仅要求浏览器访问一个网站就会导致浏览器将网站内容发送给他们的LLM，”Brave表示。

好消息是，当AI处理任务时，用户可以干预并阻止攻击，这一过程相对明显。不过，Brave认为这项研究突显了“间接提示注入不是孤立的问题，而是整个AI驱动浏览器类别面临的系统性挑战。”

“这些安全漏洞最可怕的一点在于，AI助手可以以用户的认证权限行事，”Brave在推特中补充道，“一旦被恶意网站劫持，代理浏览器可以访问用户的银行账户、工作邮箱或其他敏感信息。”

对此，Brave呼吁AI浏览器制造商实施额外的安全措施，防止潜在的攻击。这包括“对于打开网站或阅读电子邮件等代理浏览行为，需要获得用户的明确同意”，OpenAI和微软在其AI实现中已经采取了类似措施。

Brave已将这些漏洞报告给Perplexity和Fellou。Fellou尚未回应置评请求。然而，Perplexity告诉PCMag：“我们通过活跃的漏洞赏金计划与Brave紧密合作解决此问题（漏洞已修复，无法复现，且从未被任何用户利用）。”

尽管如此，Perplexity对Brave的公开指责表示不满。“我们对他们在公共场合对我们工作的误解感到失望。不过，我们鼓励所有安全对话的透明度，因为AI时代的到来引入了越来越多的变量和攻击点，”Perplexity说，并补充道：“我们在AI助手安全研究方面处于领先地位。”

(以上内容均由Ai生成)