Anthropic 為 Claude 加入隱形水印：所有經 AI 處理的文字內容都會被標記

Anthropic 宣佈即將為旗下所有模型處理過的內容加入機器可讀水印，以符合歐盟人工智能法案（EU AI Act）的要求。值得注意的是，水印適用範圍不限於 AI 生成的內容，連經 Claude 編輯的人類文字亦會被標記。

水印機制與覆蓋範圍

Anthropic 在支援文件中解釋，此次推出的機器可讀水印是為符合歐盟 AI 法案而設。該法案要求所有 AI 系統供應商為 AI 生成或操控的音訊、圖像、文字及影片輸出加上水印，適用於 8 月 2 日後推出的任何 AI 模型，並給予供應商寬限期至 2026 年 12 月更新已發佈的舊模型。

Anthropic 確認，今後所有在全球推出的新模型都會「由第一天起」為 AI 生成內容加上標記。文字輸出將帶有對用戶隱形的內嵌水印，其他生成的檔案則在支援的情況下附上數碼簽署的來源元數據。非文字內容會採用 C2PA 元數據方式記錄來源。

超越法規要求的做法

Anthropic 採取的覆蓋範圍比法規要求更廣。歐盟指引明確豁免「標準編輯的輔助功能」（例如文法修正）及未有「大幅改變」用戶文字內容的情況，但模型層面的水印無法分辨整篇生成與單純修改一個逗號，因此 Claude 可能連法規原本無意標記的內容都會蓋上水印。

該公司承認這個情況：「人們經常使用 Claude 校對、翻譯、摘要或轉換檔案。即使背後的意念、文字或數據來自其他來源，輸出內容亦可能帶有 Claude 標記。」換言之，即使是原創文字上的編輯工作，Claude 都會標記。

容易被繞過與誤解

文字水印的原理是讓模型在整個文件中以特定模式影響詞語選擇，只有透過適當工具在整體層面才能偵測。Anthropic 指出水印「會隨文字複製貼上而傳播，並可能經部分編輯後仍然存在」，但若水印文字被貼到另一個會編輯文字的聊天機械人系統，水印可能被破壞。圖像及影片方面，截圖或使用一般元數據編輯工具即可移除相關資訊。而一旦 Anthropic 公開水印的識別方法，建立去除系統並不困難。

此外，水印的信號並非結論性。Anthropic 表示「偵測到標記只提供內容曾經由 Claude 處理的信號，但並非完全確定」，甚至可能出現在並非由 Claude 生成的內容上，而「沒有偵測到標記亦不代表內容並非由 AI 生成或處理」。

檢測工具與罰則

Anthropic 表示計劃推出文字檢測 API，讓用戶自行偵測水印。若 Claude 的水印未能符合要求，歐盟 AI 法案設有嚴厲罰則，最高罰款達 1,500 萬歐元，或公司全球年度收入的 3%。

資料來源：Ars Technica