← 全部文章

Claude 写的字里有了水印:欧盟要求什么,水印又能证明什么

一只手拿着一张 100 欧元纸币,纸币右侧是水印区和闪着光的防伪全息条,背景是虚化的灰褐色地砖
封面 · 来源: Markus Spiske / Unsplash
目录
  1. 从 8 月起,新 Claude 模型写的文字都带水印
  2. 欧盟要的是机器读得出,标签另有人负责
  3. 水印只回答一个问题:Claude 参与过没有

从 8 月起,新 Claude 模型写的文字都带水印

Anthropic 8 月 14 日发布公告:之后的 Claude 模型生成的文字会带水印,原因是欧盟 AI 法案。1O’Reilly 10 月 22 日列出了已经加上水印的模型,包括 Opus 5.5、Sonnet 5.5、Haiku 5.5、Fable 5.1 等,Claude Desktop、Claude Code 和 API 都覆盖。2Anthropic 说暂时没法按地区区分,所以全球统一加;Claude 生成的图片等文件,则在元数据里写入 C2PA 内容凭证。1

水印不是隐藏字符,也不多花 token,更不带用户信息,查不出是哪个账户写的。1它藏在用词选择里,用的是 Google DeepMind 2024 年发表在 Nature 上的 SynthID-Text。13

FIG.1文字水印的三步:写的时候偏向高分词,读者看不出差别,持有密钥的人检测时能看出平均分偏高。

原理分五步:32

  1. 抽候选:模型照常算出下一个词的概率,从中抽几个候选。意义:候选都是模型本来就可能写的词,不影响通顺和意思。
  2. 用密钥打分:用密钥加前几个词,给每个候选算一个分数。意义:只有持有密钥的一方算得出;同一个词换个位置分数就变,外人看不出规律。
  3. 两两淘汰:候选两两比较,分高的留下,最后剩一个。意义:把“偏向高分词”写进文字,却不硬性指定用哪个词。
  4. 积少成多:单个词看不出差别,几百个词下来高分词略多。意义:这是检测的统计依据,也是短文本信号弱的原因。
  5. 检测:用同一把密钥给每个词重新打分,看平均分是否明显高于 0.5。意义:普通文字贴着 0.5,带水印的稳定偏高,结论可以复核。

Google 在近 2000 万条 Gemini 回复上做过线上实验,用户评价几乎没有差别。32

欧盟要的是机器读得出,标签另有人负责

法案第 50 条 8 月 2 日起适用,把责任分给了不同的人(图 2)。4

FIG.2第 50 条下的分工:提供方负责机器可读的标记,发布方负责向公众披露,检测目前只对少数机构开放。
  • 提供方:生成合成文字、图像、音视频的 AI 系统,输出要做机器可读的标记,并且能被检测;只做常规编辑辅助、不实质改动输入的除外。4
  • 发布方:就公共事务发布 AI 生成的文字要向公众披露;经过人工审核、且有人承担编辑责任的除外。4
  • 怎么标:欧盟委员会 6 月 10 日定稿的行为准则是自愿的,要求必要时至少用两层标记,并给第三方提供检测手段。5Anthropic 7 月和约 190 家机构一起签了;它的两层就是文字水印加文件凭证。1

水印只回答一个问题:Claude 参与过没有

水印的核心意义,是把“这段话像不像 AI 写的”这种凭文风的猜测,换成一个可以验证的统计信号。但它能回答的问题很窄:1

  • 它只能说明 Claude 可能参与过,证明不了一段话是人写的,也认不出别家的 AI。
  • 它分不清“Claude 写的”和“Claude 大改过的”;人写的稿子只让 Claude 校对,通常留不下可测的信号。
  • 短文本信号弱,事实性回答和代码基本不带水印,彻底改写会抹掉它。

而且检测不对公众开放:检测 API 只在内部预览,给监管、执法、媒体、研究机构和需要合规核验的企业。1这和我在 GDPR 那篇里的判断一样:个人看不到、也查不了,真正能核查的是监管和机构。

对用 Claude 写报告、写邮件的人,结论很实际:对外文件要按自己的 AI 使用政策如实披露,别指望水印替你说明;也别把查不到水印当成“人写的”证据。

参考

  1. How Claude's text watermarking works, Anthropic
  2. The latest Anthropic Claude models contain AI text watermarks: What does this mean for you?, O'Reilly Radar
  3. Scalable watermarking for identifying large language model outputs, Nature (PMC)
  4. Article 50: Transparency Obligations for Providers and Deployers of Certain AI Systems, EU Artificial Intelligence Act
  5. European Commission Publishes Final Code of Practice on Marking and Labelling AI-Generated Content, Jones Day

评论