Claude浏览器扩展上线,Anthropic开放早期访问渠道
快速阅读: Anthropic 推出 Claude for Chrome 浏览器扩展封闭测试版,用户可在侧边栏与 Claude 聊天并操作网站,首批仅限 1,000 名 Claude Max 订阅者使用,公司提醒用户注意安全风险。
Claude 将 AI 技术集成到 Chrome 浏览器扩展中。封闭测试版允许用户在侧边栏与 Claude 聊天。Anthropic 提醒早期用户谨慎使用该扩展。
Anthropic 的 AI 模型 Claude 跟随 Perplexity 和 Dia 的步伐,将 AI 集成到浏览器中。Anthropic 的首次尝试是推出 Chrome 浏览器扩展的封闭测试版。通过此扩展,用户可以在持久的侧边栏中与 Claude 聊天,该侧边栏能够保持当前浏览器会话的上下文。除了对话功能外,扩展还可以读取、导航和操作网站,包括在 Zillow 上查找房源、总结文档或向购物车添加商品等任务,直接从浏览器侧边栏完成。
Anthropic 表示采取这种做法是因为认为“使用浏览器的 AI 不可避免:许多工作都在浏览器中进行,赋予 Claude 查看用户正在查看的内容、点击按钮和填写表单的能力将使其更加有用。”
大多数用户暂时还无法使用此扩展。在首次发布时,“Claude for Chrome”仅提供给 1,000 名 Claude Max 订阅者。Max 订阅计划分为两个级别,价格不菲。100 美元的计划提供每次会话五倍的使用量,而 200 美元的计划则提供 20 倍的使用量。订阅者还可以加入等待名单以试用 Claude for Chrome。
尽管许多用户渴望试用 Claude for Chrome,但也有人表示怀疑。一位 YCombinator 用户建议谨慎使用。
Anthropic 明白其中的风险。公司进行了广泛的对抗性提示注入测试,评估了代表 29 种不同攻击场景的 123 个测试案例。没有安全措施的情况下,浏览器使用受到恶意行为者的故意攻击时,攻击成功率高达 23.6%。
为了阻止这些攻击,Claude for Chrome 实施了一套强大的权限系统来减轻风险。用户必须为每个网站或特定操作授予明确的权限,涉及敏感任务(如购买或账户更改)时会加强安全性。扩展提供可定制的控制选项,让用户选择 Claude 何时可以自主行动以及何时需要人工批准。
此外,Claude for Chrome 不能用于高风险类别的网站,如金融服务、成人内容和盗版内容。
即便如此,即使有了所有这些防御措施,攻击成功率仍为 11.2%。Anthropic 警告用户谨慎使用该扩展,不要信任其处理私人信息或实际工作。有兴趣的用户可以申请试用该扩展。Anthropic 已经提醒用户,使用该扩展可能会进入危险区域。祝你好运。
(以上内容均由Ai生成)