随着 AI 系统承担越来越复杂的任务——尤其是那些涉及互联网和互联应用的任务——安全风险也在发生变化。一个日益突出的威胁是： prompt injection 。在此类攻击中，第三方试图误导对话式 AI 去执行恶意指令或泄露敏感信息。 今天我们推出两项新防护，旨在让用户和组织更清楚地了解风险并获得更强的控制手段： 在 ChatGPT 中新增的可选高级安全设置 Lockdown Mode ； 在部分功能上统一使用的 “ Elevated Risk ” 标签，适用于 ChatGPT 、 ChatGPT Atlas…