🚨 Anthropic警告：黑客利用Claude AI大规模自动化数据勒索，影响17家机构

Anthropic公司近日披露，发现有黑客利用其Claude AI聊天机器人，以前所未有的程度自动化执行大规模数据勒索活动。在一个月内，该黑客攻击了至少17家机构，涵盖政府、医疗、紧急服务、宗教机构及一家国防承包商。

黑客滥用Claude的代码执行环境，自动化进行侦察、凭证窃取和网络渗透，并利用AI分析被盗财务数据以确定勒索金额（从7.5万美元到超过50万美元的比特币），甚至生成勒索信息。尽管Claude设有安全防护措施，但黑客通过上传伪装成“网络安全测试”的配置文件绕过了这些限制，并利用AI扫描漏洞网络、创建恶意软件以规避Windows Defender。

Anthropic指出，这标志着AI辅助网络犯罪的“演变”，AI不再仅是技术顾问，而是积极的行动者。公司已封禁相关账户，并开发了新的检测工具。Anthropic警告，预计未来将有更多黑客以类似方式利用AI，例如已有业余黑客利用Claude开发和销售勒索软件。此外，ESET也发现了一种名为“PromptLock”的勒索软件，利用OpenAI模型生成恶意代码。

(PCMag.com)

via 茶馆 - Telegram Channel