Anthropic为Claude文本加水印以符合欧盟法律
Anthropic于2026年8月15日宣布,已开始为Claude生成的文本添加水印,以符合欧盟新的人工智能透明度规则。
水印在文本中留下一种读者不可见的模式,只有使用特定密钥才能解码。
这些变化适用于所有使用2026年8月2日之后发布模型的Claude产品。Anthropic表示,水印不会影响输出质量、不会减慢生成速度、不需要额外令牌,也不会增加生成成本。
Anthropic的技术改编自Google DeepMind的SynthID-Text方法,该方法在《自然》杂志上发表的一篇论文中有所描述。通常,大型语言模型会从一系列上下文合适的选项中随机选择每个单词;启用水印后,Claude使用密钥来选择下一个单词。在基于圆周率数字的示例中,如果密钥从序列3.1415926535中的2开始,则下一个单词是列表中的第六个,然后是第五个、第三个,再是第五个。
该公司将发布一个带有密钥的API,用于解码水印并确定Claude是否生成了文本块。它承认存在局限性:该方法无法判断Claude是撰写了文本还是仅进行了编辑,因此翻译和轻度编辑的文本也会被添加水印。如果Claude仅校对和轻度编辑文本,或者文本太短,水印可能无法检测到。轻度编辑Claude生成的文本可能不会去除水印;要确保去除,需要完全重写。
对于代码,水印通常比其他文本弱,因为代码通常需要精确输出。如果在文本生成中没有可用的选择,则无法应用水印。Anthropic还将通过向元数据中添加加密签名的注释来为图像添加水印,注明Claude生成了该图像。
Anthropic在发布时对所有Claude输出应用水印,因为它没有可靠的方法按地区实施这些更改。根据欧盟规则,其他AI公司也被要求对内容添加水印。该公司计划在公告发布后的几个月内为较旧的Claude模型添加水印功能。
Sources
- EngadgetSecondary
Comments
No comments yet. Be the first.