安全问题尚存 Anthropic仍开始试用Chrome版Claude扩展

尽管存在一些安全问题，但Anthropic已经开始试用Chrome版Claude扩展，该扩展可能有助于增强用户体验和安全性，但仍需谨慎使用，关于安全问题，开发者正在积极解决并加强保护措施，以确保用户的隐私和数据安全，用户在使用该扩展时，建议密切关注安全更新和警告，以确保自己的安全。

Anthropic 已开始组织试用 Chrome 版 Claude，这是一款可以代表用户操作浏览器的 AI 扩展程序。然而，该工具容易受到即时注入攻击，这些攻击可能会诱使其在未经用户同意的情况下执行有害操作。Anthropic 意识到了这些风险，但无论如何，还是会发布该工具进行小范围测试。

Chrome 扩展程序标志着 Anthropic 进军竞争激烈的基于浏览器的人工智能市场，该市场面临着 Perplexity 的 Comet 浏览器和 OpenAI 的 ChatGPT Agent 等竞争对手。由于意识到安全风险，Anthropic于 4 月推出的100 美元和 200 美元 Claude Max 套餐仅限 1000 名用户使用。

在测试中，该公司发现恶意行为者可以通过使用即时注入攻击，在近四分之一的时间内操纵 Claude。这些攻击在网站、电子邮件或文档中嵌入隐藏指令，诱骗人工智能删除文件、窃取数据或发起未经授权的交易。

在一个令人不安的测试案例中，一封伪装成雇主的伪造电子邮件指示Claude以所谓的“安全原因”删除用户消息。由于缺乏安全措施，人工智能遵循了隐藏的命令，并在未经确认的情况下永久删除了数据。

Anthropic 声称已测试新的防护措施，在自主模式下将攻击成功率从 23.6% 降至 11.2%。Claude 现在需要用户批准才能执行购买、发布内容或共享敏感数据等高风险操作。用户还可以通过精细的网站权限来限制其访问范围。

默认情况下，Claude 无法访问金融服务网站、成人内容平台或盗版内容网站。这些限制有助于减少即时注入攻击的潜在危害，同时保留合法业务功能。

Anthropic 淡化了这种风险，称其新的缓解措施将快速注入成功率降低到低于使用桌面 Claude 客户端的水平。

尽管取得了这些进步，安全专家仍然对基于浏览器的AI代理的可行性持怀疑态度。独立研究员西蒙·威利森（Simon Willison）于2022年创造了“即时注入”一词，他称剩余的11.2%的攻击率是“灾难性的”，并质疑其是否真的能够安全实施。

最近发生的竞争产品事件凸显了这些担忧。上周，Brave 的安全研究人员通过恶意 Reddit 帖子操纵了Perplexity 的 Comet 浏览器，获取了用户 Gmail 帐户的访问权限并触发了未经授权的密码恢复流程。

Chrome 版 Claude 扩展程序扩展了 Anthropic 的“计算机使用”功能，使 AI 能够截取屏幕截图并控制鼠标完成任务。浏览器集成功能可实现更直接的网络交互，同时在多个标签页和网站之间保留对话上下文。

Anthropic 计划利用有限的试点项目来识别更多攻击模式，并在更广泛部署之前完善安全措施。然而，该公司承认，目前的保护措施不足以满足广大消费者的需求，早期采用者将承担巨大的风险。