Anthropic AI模型测试期间曾入侵三家公司

Anthropic周四表示，该公司在测试的软件曾接入了互联网，并在自身不知情的情况下入侵了一些毫无防备的公司。此类独立事件共发生三起，最早可追溯至今年四月。这三家公司均已在周一接到了事件通知。

在排查了超过14.1万次测试日志后，该公司发现Claude确实曾数次接入互联网。该公司的测试合作伙伴、以色列安全公司Irregular运行的系统存在 “配置错误”，导致这些模型获得了实时的互联网访问权限。

这些模型曾被设定为处于断网状态。但在测试过程中，不仅接入互联网，还利用猜测弱密码、寻找无需身份验证的系统等基本黑客手段，入侵了上述公司。这些模型错误地以为，这种入侵行为是其基准测试的一部分。

—— 华尔街日报

via 风向旗参考快讯 - Telegram Channel