Anthropic强调安全漏洞， Claude for Chrome即将发布

快速阅读: Anthropic推出Claude for Chrome扩展，提升在线操作体验，但面临23.6%成功率的“提示注入攻击”风险，公司正加紧修复漏洞，确保用户安全。

近日，人工智能公司Anth推出了一款名为Claude for Chrome的新功能，目前仅向1,000名Max计划用户开放测试。这款功能作为浏览器扩展，允许Claude在Google Chrome浏览器中查看网页、点击按钮及填写表单，旨在提升用户的在线操作体验。然而，Anthropic提醒用户，在正式发布前，该功能仍存在一些安全漏洞需要修复。

Anthropic指出，Claude for Chrome面临“提示注入攻击”的重大风险。这种攻击方式让恶意用户在网页中嵌入隐藏指令，进而诱使AI模型执行有害操作。为此，Anthropic进行了全面测试，覆盖123个测试案例，涉及29种不同的攻击场景。测试结果显示，在缺乏安全防护的情况下，Claude for Chrome遭受攻击的成功率高达23.6%。这一结果令Anthropic感到担忧，公司正加紧修复相关漏洞。

为应对这些安全风险，Anthropic承诺在Claude for Chrome正式推出前，采取更多安全措施，确保用户能够安全使用这项功能。随着人工智能技术的发展，确保用户在享受便捷服务的同时避免潜在的安全隐患，已成为该行业的共同责任。

Claude for Chrome的推出标志着人工智能技术在浏览器应用方面的重要进展，同时提醒我们，在快速发展的科技背景下，安全性问题亟需重视。Anthropic希望通过进一步的安全增强，为用户提供一个安全、高效的使用环境。

重点： Anthropic推出Claude for Chrome扩展，提升在线操作体验；存在“提示注入攻击”的安全隐患，成功率达到23.6%；Anthropic承诺修复漏洞，确保用户使用安全。

(以上内容均由Ai生成)