OpenAI 確認已經擁有「文字浮水印」技術，但不願意使用

除了某些修改會讓浮水印失效外，OpenAI 也擔心這會「汙名化」某些使用者。

Andy Yang
ChatGPT
ChatGPT

在《華爾街日報》報導，OpenAI 其實早已擁有能夠以高準確度辨識文章是否由 ChatGPT 生成的工具，但卻遲遲不願公開後，該公司在最近的一篇部落格文章中透露了其「文字浮水印」技術研究的相關資訊，並解釋了尚未釋出該工具的原因。

OpenAI 表示，浮水印技術只是他們研究「文本遡源（Text Provenance）」的諸多解決方案之一，其他還有AI 分類器（classifiers）和元數據（metadata）等方式。文字浮水印儘管在某些情況下「準確度很高」，但面對某些形式的改動，浮水印就容易失效。這包括了使用翻譯系統、用另一個生成模型改寫、或要求模型在每個單詞之間插入特殊字符然後再刪除等，都容易造成誤判。

再者，OpenAI 對於追查文字來源這件事本身就保有疑慮，畢竟 AI 生成的文字雖然有不該被使用之處（例如學生作業），但另一邊嚴格地追查來源，也可能「不成比例地影響某些群體」。例如，它可能會汙名化將 AI 作為寫作工具的非母語英語使用者。

OpenAI 表示，他們一直在權衡這些風險，並且決定優先發布了爭議較小的影音內容驗證工具。OpenAI 的發言人向 TechCrunch 表示，由於其「複雜性和對更廣泛生態系的潛在影響」，OpenAI 選擇對文字採取更加「審慎的做法」。

相關文章：

緊貼最新科技資訊、網購優惠，追隨 Yahoo Tech 各大社交平台！

🎉📱 Tech Facebook：https://www.facebook.com/yahootechhk

🎉📱 Tech Instagram：https://www.instagram.com/yahootechhk/

🎉📱 Tech WhatsApp 社群：https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8

🎉📱 Tech WhatsApp 頻道：https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D

🎉📱 Tech Telegram 頻道：https://t.me/yahootechhk