OpenAI將在歐盟給文本加水印
OpenAI發文稱，因應歐盟監管，內容溯源從圖像和音頻擴到文本，同時承認現有文本水印技術限制很大。圖像和音頻已有工具可覈驗是否由其模型生成。文本是在此之上，幫助判斷內容是否可能由OpenAI模型生成或編輯。
歐盟《人工智能法案》要求生成式供應商以機器可讀方式標識生成文本。透明度規則8月2日生效。未來數週，歐盟境內符合條件的ChatGPT和Codex文本會加不可見水印，覆蓋所有套餐。公司明確不把文本水印做成上線時的全球默認。
應用程序接口從今天起全球可選開，僅限部分模型，默認關閉。客戶自己決定要不要用來滿足透明義務。檢測器申請已開放，初期只給獲批研究者和專業機構，用來評估和改進。圖像、音頻的公開覈驗工具和內容溯源接口繼續對機構開放，不受這次文本限制。
水印不是可見標記。方法名爲textGrain，通過微調用詞留下讀者看不見、檢測器能識別的模式。文字被複制粘貼後信號仍在。公司稱水印不識別用戶，開啓後模型表現沒有有意義的變化。技術報告與賓夕法尼亞大學、耶魯大學研究者合寫。公司還稱，textGrain達到或超過Google DeepMind的SynthID文本方案。Anthropic在8月也按同一法案做了文本標識。
區域上線被寫成用來收集真實使用反饋。歐盟用戶會默認遇到，其他地區的ChatGPT和Codex不會。接口客戶即使在歐盟以外，也可以主動打開。
這是合規開關，不是新模型。買方是要機器可讀標識的歐盟監管對象和自願打開的接口客戶，賣方是在用詞裏嵌入信號的OpenAI。事件驅動的是8月2日已生效的透明度規則。資金不因水印移動，檢測權先留給獲批機構。受益的是需要交差的歐盟部署方，承壓的是依賴複製粘貼抹掉來源、而信號仍留在詞序裏的使用者。
來源：公開信息
ABAB AI 解讀
OpenAI此前只把公開覈驗放在圖像和音頻。文本拖到歐盟規則8月2日生效之後，10月5日纔給出方案。ChatGPT和Codex在歐盟數週內默認加水印，接口全球可選、默認關閉。Anthropic在8月已按同一法案做標識，底層被指向DeepMind的SynthID。OpenAI用textGrain回應，並稱達到或超過該方案。檢測器卻不公開，先給研究者。
資本沒有進新業務。成本在用詞分佈里加一把密鑰，報告與賓夕法尼亞大學、耶魯大學合寫。動機是滿足機器可讀義務，同時避免全球默認影響非歐盟產品。用戶身份不被水印攜帶，複製粘貼也去不掉信號。接口客戶可以把開關當成自己的合規選項，不由OpenAI替全球打開。
類比是相機廠商把C2PA來源信息寫進照片文件，而文字沒有文件頭可寫。OpenAI因此改詞序，不改頁面。行業處在監管驅動的標識階段：圖像音頻已有公開工具，文本剛從歐盟開始，全球默認被明確推遲。
結構上這是監管變化。生成文本的定價權仍在模型公司，可識別性被法律改成交付條件。機制是信號藏在下一個詞的選擇裏，檢測權先不交給公衆。歐盟用戶默認帶標記，其他地區要等接口客戶自己打開。
ABAB News · 認知定律
文字沒有文件頭，標記就寫進用詞裏。
合規可以先做區域默認，不必全球打開。
複製粘貼去得掉格式，去不掉詞序裏的信號。