Anthropic阻止黑客利用Claude进行网络犯罪

Anthropic周三表示，已发现并阻止了试图滥用其Claude AI系统编写网络钓鱼邮件、创建恶意代码和规避安全过滤器的黑客。该公司的报告称，其内部系统已阻止这些攻击，并正在共享这些案例研究，展示攻击者如何试图使用Claude生成有害内容，以帮助他人了解风险。该报告列举了试图使用Claude起草定制钓鱼邮件、编写或修改恶意代码片段以及通过重复提示绕过安全防护的尝试。报告还描述了通过大规模生成具有说服力的帖子来策划影响活动，以及通过分步指导协助低技能黑客的努力。Anthropic表示，其遵循严格的安全实践，包括定期测试和外部审查并计划在发现重大威胁时持续发布报告。

—— 路透社

via 风向旗参考快讯 - Telegram Channel