Gartner警告：AI浏览器存安全风险

快速阅读: 据最新消息，AI浏览器在提升自动化操作的同时带来新型安全风险，包括提示注入、推理错误及钓鱼攻击，传统防护难以应对，亟需构建覆盖全交互链路的多层次安全监管体系。

近日，研究人员指出，人工智能浏览器在提升网络操作自动化水平的同时，也带来了新型网络安全风险。此类浏览器可自主浏览网页、填写表单并完成交易，在已认证状态下与网络资源交互，但其行为易受恶意操控。

据相关研究报告显示，AI浏览器面临的主要威胁包括间接提示注入引发的异常代理行为、因推理错误导致的操作失误，以及一旦被诱导访问钓鱼网站，可能造成凭证进一步泄露和滥用。专家强调，传统安全防护措施难以应对这些新风险，目前针对性解决方案尚处于初步探索阶段。

研究人员米罗柳博夫表示，当前在多模态通信监控方面存在显著空白，尤其是对语音指令等与AI浏览器交互方式的检测能力不足。这一短板使得攻击者可能通过非文本渠道绕过现有防御机制。

此外，OpenAI首席信息安全官丹·斯图基日前也在社交平台发文指出，提示注入仍是尚未解决的关键安全难题。他警告称，随着ChatGPT智能体功能的扩展，攻击方将投入大量资源寻找漏洞，诱使其执行非预期操作。

业内分析认为，随着AI代理技术加速落地，亟需建立覆盖全交互链路的安全监管体系。这不仅涉及模型本身的鲁棒性提升，还需在用户授权、行为审计和实时干预等方面构建多层次防护机制，以防范自动化代理被滥用于网络欺诈或数据窃取等场景。

(以上内容均由Ai生成)