Claude 写的字里有了水印:欧盟要求什么,水印又能证明什么

从 8 月起,新 Claude 模型写的文字都带水印
Anthropic 8 月 14 日发布公告:之后的 Claude 模型生成的文字会带水印,原因是欧盟 AI 法案。1O’Reilly 10 月 22 日列出了已经加上水印的模型,包括 Opus 5.5、Sonnet 5.5、Haiku 5.5、Fable 5.1 等,Claude Desktop、Claude Code 和 API 都覆盖。2Anthropic 说暂时没法按地区区分,所以全球统一加;Claude 生成的图片等文件,则在元数据里写入 C2PA 内容凭证。1
水印不是隐藏字符,也不多花 token,更不带用户信息,查不出是哪个账户写的。1它藏在用词选择里,用的是 Google DeepMind 2024 年发表在 Nature 上的 SynthID-Text。13
- 抽候选:模型照常算出下一个词的概率,从中抽几个候选。意义:候选都是模型本来就可能写的词,不影响通顺和意思。
- 用密钥打分:用密钥加前几个词,给每个候选算一个分数。意义:只有持有密钥的一方算得出;同一个词换个位置分数就变,外人看不出规律。
- 两两淘汰:候选两两比较,分高的留下,最后剩一个。意义:把“偏向高分词”写进文字,却不硬性指定用哪个词。
- 积少成多:单个词看不出差别,几百个词下来高分词略多。意义:这是检测的统计依据,也是短文本信号弱的原因。
- 检测:用同一把密钥给每个词重新打分,看平均分是否明显高于 0.5。意义:普通文字贴着 0.5,带水印的稳定偏高,结论可以复核。
Google 在近 2000 万条 Gemini 回复上做过线上实验,用户评价几乎没有差别。32
欧盟要的是机器读得出,标签另有人负责
法案第 50 条 8 月 2 日起适用,把责任分给了不同的人(图 2)。4
- 提供方:生成合成文字、图像、音视频的 AI 系统,输出要做机器可读的标记,并且能被检测;只做常规编辑辅助、不实质改动输入的除外。4
- 发布方:就公共事务发布 AI 生成的文字要向公众披露;经过人工审核、且有人承担编辑责任的除外。4
- 怎么标:欧盟委员会 6 月 10 日定稿的行为准则是自愿的,要求必要时至少用两层标记,并给第三方提供检测手段。5Anthropic 7 月和约 190 家机构一起签了;它的两层就是文字水印加文件凭证。1
水印只回答一个问题:Claude 参与过没有
水印的核心意义,是把“这段话像不像 AI 写的”这种凭文风的猜测,换成一个可以验证的统计信号。但它能回答的问题很窄:1
- 它只能说明 Claude 可能参与过,证明不了一段话是人写的,也认不出别家的 AI。
- 它分不清“Claude 写的”和“Claude 大改过的”;人写的稿子只让 Claude 校对,通常留不下可测的信号。
- 短文本信号弱,事实性回答和代码基本不带水印,彻底改写会抹掉它。
而且检测不对公众开放:检测 API 只在内部预览,给监管、执法、媒体、研究机构和需要合规核验的企业。1这和我在 GDPR 那篇里的判断一样:个人看不到、也查不了,真正能核查的是监管和机构。
对用 Claude 写报告、写邮件的人,结论很实际:对外文件要按自己的 AI 使用政策如实披露,别指望水印替你说明;也别把查不到水印当成“人写的”证据。
参考
- How Claude's text watermarking works, Anthropic
- The latest Anthropic Claude models contain AI text watermarks: What does this mean for you?, O'Reilly Radar
- Scalable watermarking for identifying large language model outputs, Nature (PMC)
- Article 50: Transparency Obligations for Providers and Deployers of Certain AI Systems, EU Artificial Intelligence Act
- European Commission Publishes Final Code of Practice on Marking and Labelling AI-Generated Content, Jones Day
评论
匿名评论审核后显示,用 GitHub、X、Facebook 登录后直接显示。邮箱不公开,只用于回复通知。
评论暂时加载不出来,稍后再试。