因錯誤率較?OpenAI被迫叫停AI內容識別軟件

美國政府希望大型人工智能公司能夠披露那些使用人工智能創建的內容。另一邊，歐盟即將要求一些科技平臺在其人工智能生成的圖像、音頻和視頻上打上“顯著標記”，以便告知大眾這些東西是合成而來的。

然而，這里有一個大問題：識別人工智能創造的內容是一個巨大的技術挑戰。目前可用的最佳選擇是采取同樣由人工智能驅動的檢測工具和水印，但是它是檢測結果不一致、不準確等缺點。

事實上， 就在本周由于錯誤率過高，OpenAI關閉了自己的人工智能檢測工具。

但另一種方法最近引起了人們的注意：C2PA。它于兩年前推出，是一種開源的互聯網協議，依靠密碼學來對內容出處的細節進行編碼。

C2PA的開發人員經常將該協議比作“營養成分標簽”，它標明了內容來自哪里，以及是誰或什么創造了它。

該項目是非營利組織聯合開發基金會的一部分， 由Adobe 、Arm 、英特爾、微軟和Truepic發起，它們成立了內容來源和真實性聯盟， 英文全稱為Coalition for Content Provenance andAuthenticity，C2PA也由此得名。

目前，有1500多家公司通過開源社區“內容真實性倡議”參與了該項目，其中包括尼康、英國廣播公司（BBC）和索尼等多家知名機構。

近來，隨著人們對人工智能檢測和監管的興趣增強，上述項目的勢頭越來越大。C2PA主席安德魯·金克斯表示，在過去六個月里會員數量增加了56%。

知名媒體平臺Shutterstock已經作為成員加入，并宣布打算使用這一協議來標記其平臺上所有由人工智能生成的內容，包括其由DALL-E驅動的人工智能圖像生成器。該平臺的首席執行官薩耶·阿敏在一封電子郵件中告訴《麻省理工科技評論》，該公司正在通過“支持系統和基礎設施的開發來保護藝術家和用戶，這些系統和基礎架構可以創造更大的透明度，從而輕松識別藝術家的創作與人工智能生成或修改的藝術之間的區別。”

什么是C2PA，如何使?它？

微軟、英特爾、Adobe和其他主要科技公司于2021年2月開始研究C2PA，它們希望創建一個通用的互聯網協議，允許內容創作者選擇在其視覺和音頻內容上標注其來源信息。但就目前而言，該協議還不適用于基于文本的內容。

最重要的是，該項目具有跨互聯網的適應性和功能性，并且任何人都可以免費訪問其底層計算機代碼。

銷售內容驗證產品的Truepic公司已經使用Revel.ai演示了該協議到底該如何與深度偽造視頻搭配使用。當觀眾的光標懸停在屏幕右上角的一個小圖標上時，會出現一個關于視頻的信息框，其中包括“包含人工智能生成的內容”的信息披露。

Adobe還將C2PA（又被稱為內容憑證） 集成到了包括Photoshop和AdobeFirefly在內的幾款產品中。該公司的內容真實性倡議高級總監、C2PA項目負責人安迪·帕森表示：“我們認為這是一種增值，可能會吸引更多客戶使用Adobe工具。”

C2PA是通過密碼學來保護內容的，密碼學依賴于一系列代碼和密鑰來保護信息不被篡改，并記錄信息的來源。更具體地說，它的工作原理是通過一組加密綁定到每個像素的哈希值，來對出處信息進行編碼。

與人工智能檢測系統相比，C2PA提供了一些重要的優勢，后者能夠更好地逃避檢測。

水印，是另一種用于識別人工智能生成內容的典型技術。但是，C2PA是一個比水印更加標準化的系統， 在某些情況下比水印更容易查看。同時，該協議還可以與水印以及其他人工智能檢測工具一起使用。

信息來源的價值

在媒體中添加來源信息以打擊虛假信息， 并不是一個新想法。早期研究似乎表明這是有希望的：例如，此前牛津大學團隊在研究中發現，有證據表明用戶在獲得有關內容的出處信息之后，往往不太容易受到錯誤信息的影響。

事實上，在OpenAI關于其人工智能檢測工具的迭代上，該公司表示它正在專注于其他“來源（披露）技術”，以滿足相關方面的披露要求。

也就是說，來源信息遠不是一個萬無一失的解決方案。美國信息完整性中心主任、紐約布法羅大學教授呂思偉表示，C2PA不具有法律約束力，如果不要求在互聯網范圍內采用該標準，那么未標記的人工智能生成內容就會始終存在。

盡管他強調該項目仍然非常重要，但是他也表示：“缺乏全面的約束力使得這項工作存在內在漏洞。”

此外，由于C2PA依賴創作者選擇加入，該協議并未真正解決不良行為者使用人工智能生成內容的問題。目前，還不清楚元數據的提供到底能給公眾媒體流暢性帶來多大幫助。

因此，該聯盟最重大的挑戰可能是鼓勵整個互聯網生態系統廣泛地采用它的技術，尤其是鼓勵社交媒體平臺積極使用。

在C2PA協議的設計中，它會全方位地追溯出處信息。比如，一張照片的出處信息從相機拍攝、到它進入社交媒體時都會被編碼。但是，如果社交媒體平臺不使用該協議，它就不會顯示照片的出處數據。

目前，尚無主流社交媒體平臺采用C2PA。推特原本已經簽署了該項目，但在埃隆·馬斯克接手后退出了。該公司也暫停了參與其他以自愿參與為基礎的項目，而這些項目的重點多數是為了遏制錯誤信息。

不過，C2PA并不是“ 萬能藥”，它不能解決所有的錯誤信息問題，但它確實為共有的客觀現實奠定了基礎。

“（因此）在Meta上分享內容之前，你不必知道它是從哪里來的，但如果你想的話你可以選擇這樣做。鑒于生成媒體的驚人能力，我們認為這樣做的能力至關重要。”安迪·帕森表示。