Google 在周四发布的第四季度安全报告中披露，全球多家私营实体及研究人员正试图通过“模型抽取”攻击逆向工程其 Gemini 聊天机器人。攻击者利用合法访问 Gemini API 的权限，发送了超过 10 万条精心设计的提示词，旨在诱导模型输出其内部推理过程和核心逻辑，而非仅提供最终答案。Google 将此类行为定性为知识产权窃取，指出攻击者意图克隆其专有逻辑以开发衍生产品，或在缺乏安全护栏的环境中复制 AI 功能。目前，Google 已识别并拦截了相关攻击，并强调此类行为严重违反服务条款，公司有权终止违规用户的访问权限。同时，Google 提醒其他 AI 开发者警惕此类针对模型商业机密的威胁。
(PCMag.com)
via 茶馆 - Telegram Channel
