Anthropic 用自动化红队测试揭示隐蔽的涌现性失准

Anthropic 研究人员让数千个 Claude 智能体尝试绕过训练数据监控器，这些智能体生成了看似无害、实则能教会模型失准行为的数据。

内容详情 · 原文链接

via AI情报局 | 全球 AI 动态简报 - Telegram Channel