復(fù)制粘貼、簡(jiǎn)單修改都去不掉水印。8 月 2 日起Claude 生成的每一段文字都將攜帶隱形水印。水印嵌在文本的統(tǒng)計(jì)分布里復(fù)制粘貼也會(huì)被帶走部分編輯也抹不掉。Anthropic 周一在幫助文檔中公布了這項(xiàng)計(jì)劃。觸發(fā)它的是歐盟 AI 法案 Article 50 的透明度要求——生成式 AI 提供商必須標(biāo)記輸出內(nèi)容。https://ec.europa.eu/newsroom/dae/redirection/document/129555Anthropic 簽署了相關(guān)實(shí)踐準(zhǔn)則但標(biāo)記范圍遠(yuǎn)超法規(guī)管轄全球所有 Claude 產(chǎn)品的輸出一律適用不限歐盟用戶。兩層標(biāo)記文本隱寫加文件簽章Anthropic 為 AI 生成內(nèi)容設(shè)計(jì)了兩層標(biāo)記。第一層是文本水印。Claude 在生成文本時(shí)會(huì)在 Token 選擇過(guò)程中引入一種不可見的統(tǒng)計(jì)偏置。官方文檔中的說(shuō)法是「你看不到它它不會(huì)改變 Claude 回復(fù)的含義、質(zhì)量或可讀性?！惯@種水印內(nèi)嵌于文本本身不依賴外部元數(shù)據(jù)。幫助文檔指出水印「會(huì)隨文本的復(fù)制粘貼一起傳播經(jīng)過(guò)部分編輯后可能仍然存在」。水印在模型層面生效覆蓋所有 Claude 產(chǎn)品的文本輸出。技術(shù)原理方面一種通行的大模型水印思路是模型在生成文本時(shí)按照檢測(cè)算法預(yù)設(shè)的模式略微偏向某些 Token使輸出的統(tǒng)計(jì)分布偏離自然概率。這種偏置肉眼看不出來(lái)檢測(cè)工具可以識(shí)別。Anthropic 沒有公開自身方案的技術(shù)細(xì)節(jié)。Anthropic 聲稱水印「不改變含義」這在邏輯上排除了以詞匯選擇和位置作為溯源標(biāo)識(shí)的路徑——據(jù)報(bào)道蘋果曾用類似的詞匯替換技術(shù)追蹤內(nèi)部泄密者。水印很可能作用于比詞匯層更底層的統(tǒng)計(jì)特征但具體方案外界無(wú)從驗(yàn)證。第二層是文件溯源元數(shù)據(jù)。Claude 生成 .svg、.png、.jpg 等格式的文件時(shí)會(huì)附上數(shù)字簽名的溯源信息遵循內(nèi)容來(lái)源與真實(shí)性聯(lián)盟C2PA的開放標(biāo)準(zhǔn)。C2PA 簽名能標(biāo)記文件經(jīng)過(guò) Claude 處理并檢測(cè)文件是否遭篡改。兩層標(biāo)記的覆蓋范圍不同。文本水印在模型層面生效所有文本輸出都帶C2PA 元數(shù)據(jù)只附加在 Claude 支持處理的文件類型上部分云平臺(tái)可能不支持簽名元數(shù)據(jù)。Anthropic 表示將向用戶和第三方提供水印檢測(cè)工具但技術(shù)文檔尚未發(fā)布。覆蓋五條產(chǎn)品線全球生效歐盟 AI 法案約束的是在歐盟市場(chǎng)上線的 AI 系統(tǒng)Anthropic 選擇把標(biāo)記推向全球。官方文檔寫明標(biāo)記適用于所有受支持模型的輸出在 Claude 提供服務(wù)的所有地區(qū)生效覆蓋 Claude PlatformAPI、Claude、Claude Code、Claude Cowork、Claude Tag 五條產(chǎn)品線。通過(guò) AWS、Google Cloud、Microsoft Foundry 接入的云客戶文本水印同樣適用C2PA 簽名元數(shù)據(jù)視各平臺(tái)功能而定。時(shí)間線分成兩段。8 月 2 日是新模型的生效日期當(dāng)天及之后在歐盟上線的 Claude 新模型必須在發(fā)布時(shí)就支持標(biāo)記。8 月 2 日之前發(fā)布的舊模型歐盟 AI 法案留了過(guò)渡期合規(guī)截止日延至 12 月 2 日。Anthropic 正在為舊模型適配標(biāo)記功能未給出具體時(shí)間表。違規(guī)代價(jià)也寫在了法案里最高 1500 萬(wàn)歐元罰款或全球年?duì)I收的 3%取較高者。四重局限Anthropic 自己在打預(yù)防針Anthropic 在文檔中用了大量篇幅描述水印的局限。公告的措辭謹(jǐn)慎幾乎把每一種可能的誤讀都提前堵住了。有水印不等于 Claude 原創(chuàng)。用戶經(jīng)常用 Claude 校對(duì)、翻譯、摘要或做格式轉(zhuǎn)換輸出帶有水印但內(nèi)容來(lái)自用戶自己。Anthropic 的原文說(shuō)得清楚「Claude 可能不是原始作者。」檢測(cè)到水印只說(shuō)明內(nèi)容「可能經(jīng)過(guò) Claude 處理」。反過(guò)來(lái)沒有水印也不能證明內(nèi)容是人寫的。官方文檔列出了水印缺失的幾種場(chǎng)景舊模型生成的內(nèi)容本就不帶水印文本被大幅編輯、改寫、翻譯或混入其他文字后水印可能衰減到不可檢測(cè)過(guò)短的段落沒有足夠的文本量供檢測(cè)算法識(shí)別文件經(jīng)過(guò)格式轉(zhuǎn)換、重新保存或截圖后C2PA 元數(shù)據(jù)可能被剝離。另一方面質(zhì)量折損是更致命的爭(zhēng)議。學(xué)術(shù)研究記錄了水印強(qiáng)度與文本質(zhì)量之間的權(quán)衡——水印越強(qiáng)、越抗編輯越容易影響輸出質(zhì)量。有研究發(fā)現(xiàn)當(dāng)模型對(duì)輸出不夠自信時(shí)水印對(duì)文本質(zhì)量的負(fù)面影響更為明顯。IBM 研究人員也指出特定水印方案會(huì)拉低生成文本的質(zhì)量需要額外處理才能保持自然度。Anthropic 聲稱水印「不影響質(zhì)量和可讀性」但沒有公開技術(shù)方案用戶無(wú)法獨(dú)立驗(yàn)證這一說(shuō)法。C2PA 元數(shù)據(jù)的耐久性同樣存疑——C2PA 標(biāo)準(zhǔn)已有開源移除工具可用。元數(shù)據(jù)可以在格式轉(zhuǎn)換或重新保存時(shí)被剝離相比內(nèi)嵌于文本統(tǒng)計(jì)分布中的水印附加于文件外部的元數(shù)據(jù)更容易被清除。第一個(gè)大規(guī)模部署文本水印的主流 AI 公司Anthropic 是第一家在文本輸出上大規(guī)模部署水印的主流 AI 公司。谷歌 DeepMind 開發(fā)的 SynthID 覆蓋了文本、圖像和音頻的水印標(biāo)記。OpenAI 討論過(guò)水印方案部署節(jié)奏更慢。Anthropic 的做法中引人注目的一點(diǎn)是明確承諾向第三方開放檢測(cè)——拿到檢測(cè)權(quán)限的人可以驗(yàn)證一段文本是否經(jīng)過(guò) Claude 處理。這一承諾在用戶層面引發(fā)了爭(zhēng)議。付費(fèi)用戶無(wú)法關(guān)閉水印。對(duì)于用 Claude 代寫郵件、起草內(nèi)部文檔或生成任何需要溯源中性內(nèi)容的用戶來(lái)說(shuō)文本從此攜帶可被識(shí)別的來(lái)源標(biāo)記。Claude 用戶過(guò)去已就定價(jià)調(diào)整、可靠性和過(guò)度安全限制表達(dá)過(guò)不滿水印可能進(jìn)一步加劇這種摩擦。這一變化可能提升開源模型的吸引力。不帶水印是開源模型天然的一項(xiàng)特征對(duì)于不希望輸出被追溯的用戶這構(gòu)成了一個(gè)切換的實(shí)際動(dòng)機(jī)。對(duì) API 開發(fā)者Anthropic 在文檔中提醒在自己的產(chǎn)品中部署 Claude 的開發(fā)者需要自行評(píng)估 Article 50 對(duì)自身產(chǎn)品和服務(wù)的合規(guī)要求。水印從 Anthropic 的模型層生效下游開發(fā)者的法律義務(wù)需要另行判斷。檢測(cè)工具是整套方案的關(guān)鍵一環(huán)。水印的價(jià)值取決于檢測(cè)的可靠性和可得性——嵌入容易識(shí)別難。Anthropic 承諾的技術(shù)文檔和檢測(cè) API 何時(shí)落地、檢測(cè)精度如何、能否經(jīng)受對(duì)抗性攻擊將決定這套標(biāo)記機(jī)制是真正可用的透明度基礎(chǔ)設(shè)施還是僅限于一份交給歐盟的合規(guī)文書。原文鏈接剛剛Claude偷偷上線隱形水印每個(gè)字都可全球追蹤-36氪