OpenAI新型o3/o4-mini模型为生成内容嵌入隐形字符
OpenAI近期向付费用户推送的o3和o4-mini模型被发现会在生成文本中插入特殊Unicode字符(如Narrow No-Break Space, NNBSP, U+202F),这些字符视觉不可见但可通过代码编辑器检测。AI初创公司Rumi认为这可能是OpenAI设计的文本水印系统,但技术分析也指出可能是模型从训练数据中学到的正确排版习惯。
目前OpenAI未公开回应字符用途。若作为水印,该方法虽误判率低,但容易被简单替换移除。此前OpenAI曾测试图像元数据和文本水印技术,但因准确性问题暂停。
WinBuzzer
📮投稿 ☘️频道 🌸聊天
via 科技圈🎗在花频道📮 - Telegram Channel
OpenAI近期向付费用户推送的o3和o4-mini模型被发现会在生成文本中插入特殊Unicode字符(如Narrow No-Break Space, NNBSP, U+202F),这些字符视觉不可见但可通过代码编辑器检测。AI初创公司Rumi认为这可能是OpenAI设计的文本水印系统,但技术分析也指出可能是模型从训练数据中学到的正确排版习惯。
目前OpenAI未公开回应字符用途。若作为水印,该方法虽误判率低,但容易被简单替换移除。此前OpenAI曾测试图像元数据和文本水印技术,但因准确性问题暂停。
WinBuzzer
📮投稿 ☘️频道 🌸聊天
via 科技圈🎗在花频道📮 - Telegram Channel