在花🎗️科技圈:
🤖 Anthropic 调整 Claude API 思考块机制,防止模型推理被用于非法蒸馏 Anthropic 调整 Claude Fable 5.1 的 Messages API:对于受影响账户,多轮对话返回此前的思考块时,必须同时保持生成该思考块时的系统提示、工具和消息不变,否则 API 将报错;开发者也可启用“非严格”模式,由系统删除不匹配的思考块后继续请求。Anthropic 称,修改早期上下文可被用于诱导模型解密并输出推理,是工业规模非法蒸馏的一种手段。新机制目前适用于 2026 年 8 月 31…
🤖 Anthropic:蒸馏数据初步减少 90% 至 99%
Anthropic 10 月 12 日表示,初步证据显示,针对窃取 Claude 能力的模型蒸馏攻击,其新防护措施已使被提取数据减少约 90% 至 99%。公司称已封禁数万相关账号,部分账号发起攻击后不到两小时即被封。
措施包括限制推理内容跨会话、模型和账号流转,部署双阶段分类器并持续修补绕过手法。误报率低于 0.1%,但部分开发者需更新集成,被拦截请求仍可能收费。
Anthropic
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel