OpenAI公布针对欧盟人工智能法案的文本溯源及水印方案

为响应欧盟《人工智能法案》要求，OpenAI发布了文本水印技术textGrain。该技术通过在模型输出中植入隐形统计信号进行识别。用于内容溯源，有助于人们了解内容的来源、创建或编辑方式，以及是否包含与OpenAI的模型相关信号。

主要措施包括：即日起全球API客户可选择启用水印；未来几周内将在欧盟地区的ChatGPT和Codex中部署隐形水印；仅向受邀研究人员和专家组织开放检测器使用权限。该技术在短文本、编辑修改或受限语境（如数学）下效果会减弱。此外，水印无法衡量人类创作贡献、所有权或内容准确性。

—— OpenAI

via 风向旗参考快讯 - Telegram Channel