⚠️ AI浏览器扩展面临“提示注入”攻击风险
人工智能（AI）浏览器扩展正面临严重的安全威胁，黑客可通过“提示注入”攻击操控AI代理，导致文件删除、数据窃取或金融交易等恶意行为。
主要发现：
* Anthropic的警告： AI公司Anthropic在测试其Claude AI Chrome扩展时发现，该扩展容易受到恶意文本的操控。在“红队”测试中，提示注入攻击的成功率高达23.6%。例如，一个成功的攻击利用网络钓鱼邮件，使Claude在未经用户确认的情况下删除了收件箱中的所有邮件。
* 缓解措施效果有限： 尽管Anthropic实施了修复措施，但通用提示注入攻击的成功率仅降至11.2%。不过，针对“四种浏览器特定攻击类型”，缓解措施将成功率降至0%。鉴于持续存在的威胁，Anthropic决定不将该扩展发布到研究预览之外。
* Perplexity浏览器也受影响： Brave Software也警告称，Perplexity的AI驱动Comet浏览器存在类似漏洞，恶意指令可隐藏在网页内容中，诱导AI执行。Perplexity回应称已修复该漏洞，并表示在修复前没有用户受到恶意攻击。
* 专家担忧： 软件工程师Simon Willison等批评者认为，由于大型语言模型（LLM）难以区分可信指令和不可信内容，代理式浏览器扩展存在“致命缺陷”，在缺乏100%可靠保护的情况下，这种模式存在巨大风险。
AI公司普遍表示，将认真对待网络安全工作，并持续努力应对日益复杂的攻击。
(PCMag.com)
via 茶馆 - Telegram Channel
人工智能（AI）浏览器扩展正面临严重的安全威胁，黑客可通过“提示注入”攻击操控AI代理，导致文件删除、数据窃取或金融交易等恶意行为。
主要发现：
* Anthropic的警告： AI公司Anthropic在测试其Claude AI Chrome扩展时发现，该扩展容易受到恶意文本的操控。在“红队”测试中，提示注入攻击的成功率高达23.6%。例如，一个成功的攻击利用网络钓鱼邮件，使Claude在未经用户确认的情况下删除了收件箱中的所有邮件。
* 缓解措施效果有限： 尽管Anthropic实施了修复措施，但通用提示注入攻击的成功率仅降至11.2%。不过，针对“四种浏览器特定攻击类型”，缓解措施将成功率降至0%。鉴于持续存在的威胁，Anthropic决定不将该扩展发布到研究预览之外。
* Perplexity浏览器也受影响： Brave Software也警告称，Perplexity的AI驱动Comet浏览器存在类似漏洞，恶意指令可隐藏在网页内容中，诱导AI执行。Perplexity回应称已修复该漏洞，并表示在修复前没有用户受到恶意攻击。
* 专家担忧： 软件工程师Simon Willison等批评者认为，由于大型语言模型（LLM）难以区分可信指令和不可信内容，代理式浏览器扩展存在“致命缺陷”，在缺乏100%可靠保护的情况下，这种模式存在巨大风险。
AI公司普遍表示，将认真对待网络安全工作，并持续努力应对日益复杂的攻击。
(PCMag.com)
via 茶馆 - Telegram Channel
