8月11日消息，Anthropic宣布将在新的Claude模型中加入“不易察觉的水印”技术，用于标识AI生成文本来源。该水印不会影响文本含义和阅读体验，可在复制粘贴过程中随内容保留，并可能在部分编辑操作后继续存在。
Anthropic表示，该功能是其根据欧盟《人工智能法案》推动AI透明度的一项措施。自8月2日及之后发布的Claude模型起，生成内容将支持标记识别，覆盖全球范围内通过Claude生成的文本，包括通过云服务商调用的版本。公司还计划向第三方提供水印检测工具，并正在考虑将该能力扩展至旧版模型。
此次技术升级被认为可能影响出版、教育等高度依赖文本原创性的领域。近年来，AI生成内容冒充人工创作的问题持续引发争议，部分出版项目曾因涉嫌使用AI文本而受到质疑。Claude文本水印可为出版社、学校和高校提供新的内容溯源手段，帮助识别未经披露的AI生成作品。
不过，Anthropic也指出，水印并非绝对可靠。对AI生成文本进行大规模编辑、改写、翻译，或与其他内容混合处理，都可能导致水印无法检测。此外，检测到水印只能证明内容曾由Claude参与生成，并不能直接证明Claude是文本的唯一作者，因为校对、翻译等辅助操作同样可能留下标记。
Anthropic并非首家探索AI文本标识技术的企业。2024年，谷歌DeepMind已宣布通过SynthID技术为Gemini生成的文本和视频添加水印，此前该技术已应用于AI图像领域。随着生成式AI应用普及，AI内容识别与来源追踪正成为行业透明化发展的重要方向。
via AI新闻资讯 (author: AI Base)
