🔒 AI浏览器面临严重安全漏洞，修复困难
Anthropic公司周二警告称，其Claude AI Chrome浏览器扩展存在严重的安全漏洞，即“提示注入攻击”。这类攻击可诱导AI执行恶意指令，如删除文件、窃取数据或进行金融交易。Anthropic对123个测试案例（涵盖29种攻击场景）进行调查，发现初始攻击成功率为23.6%。尽管采取了缓解措施，成功率仍降至11.2%。针对四种特定浏览器攻击类型，缓解措施将成功率从35.7%降至0%。然而，Anthropic仍决定不发布该扩展的正式版本，理由是需要更多威胁测试，且恶意行为者不断开发新的攻击形式。
Brave Software也警告了Perplexity的AI驱动Comet浏览器存在类似漏洞，用户若要求其总结包含恶意指令的网页，AI可能被操控。软件工程师Simon Willison认为，由于大型语言模型（LLM）难以区分可信指令和不可信内容，这类“代理浏览器扩展”存在“致命缺陷”。Perplexity方面回应称，已与Brave合作修复了漏洞，且在修复前没有用户受到恶意提示攻击。
(PCMag.com)
via 茶馆 - Telegram Channel
Anthropic公司周二警告称，其Claude AI Chrome浏览器扩展存在严重的安全漏洞，即“提示注入攻击”。这类攻击可诱导AI执行恶意指令，如删除文件、窃取数据或进行金融交易。Anthropic对123个测试案例（涵盖29种攻击场景）进行调查，发现初始攻击成功率为23.6%。尽管采取了缓解措施，成功率仍降至11.2%。针对四种特定浏览器攻击类型，缓解措施将成功率从35.7%降至0%。然而，Anthropic仍决定不发布该扩展的正式版本，理由是需要更多威胁测试，且恶意行为者不断开发新的攻击形式。
Brave Software也警告了Perplexity的AI驱动Comet浏览器存在类似漏洞，用户若要求其总结包含恶意指令的网页，AI可能被操控。软件工程师Simon Willison认为，由于大型语言模型（LLM）难以区分可信指令和不可信内容，这类“代理浏览器扩展”存在“致命缺陷”。Perplexity方面回应称，已与Brave合作修复了漏洞，且在修复前没有用户受到恶意提示攻击。
(PCMag.com)
via 茶馆 - Telegram Channel
