“污染”數據怎么辦？

毛振華

某網絡平臺“國足捧起大力神杯”的AI 圖

ChatGPT（由OpenAI 訓練的大型語言模型）的橫空出世，叩開了新世界的大門：原來人工智能可以讓生活如此便利。隨著越來越多AIGC（生成式人工智能）工具陸續誕生及應用，全社會對人工智能給予了空前的關注和期待。

然而，狂歡過后，問題隨之而來。由AIGC生成的圖片、新聞、問答等開始蔓延到網絡世界的各個角落，隨著技術不斷升級，將它們與真實世界區分開的難度亦越來越大。

AIGC引發的人類數據庫“污染”問題，已擺上臺面。如何面對這一全新挑戰，人類無法回避。

一張國足捧起大力神杯的圖片，在網上廣為流傳。如果不是因為圖片內容與公眾的認知存在過大反差，僅就圖片而言，人物表情、動作、背景，完全能達到以假亂真的地步。

如此“逼真”的圖片，據網絡發布者稱，是由AI（人工智能）生成?？此茻o厘頭搞笑，但帶來的風險卻是實實在在的——它傳遞的錯誤信息很可能會被大眾認定是真實的，導致謠言大范圍傳播。

這并非杞人憂天。

黃燦燦晶瑩剔透的葡萄、嫩粉色嬌艷欲滴的海棠花、被陽光穿透斑駁的云彩……這些網絡上的圖片，盡管視覺效果驚艷，但都被證明由AIGC合成。不少網民擔心，諸如此類照片大量充斥在網上，不但混淆著人們的認知，長此以往技術迭代進步后，AIGC生成圖片恐怕將變得愈發真假難辨，從而將人類的數據庫“污染”。

擔心并非多余?，F實生活中，在美國科羅拉多州舉辦的一場藝術博覽會上，一幅名為《太空歌劇院》的畫作獲得數字藝術類別冠軍。但是，該作品先由AI制圖工具生成，再經Photoshop軟件潤色而來。事件在網絡上引發討論，不少藝術家指控AI作品參賽是作弊。

圖片可以“作假”，以客觀為本的新聞更是可以“生成”。

跟蹤錯誤信息的調查機構“新聞守衛”（NewsGuard）研究發現，由AIGC生成的虛假新聞和信息已開始爆發性增加，正成為當前互聯網時代的一項全新挑戰。

“新聞守衛”報告稱，生成虛假文章的網站數量自2023年5月以來激增了1000%以上，從49個增至600多個，涉及15種語言。這些網站每天生產大量文章，內容涉及政治、社會等多個領域。背后的動機各異，包括動搖信仰制造破壞，或者依靠兩極分化的內容吸引點擊量，獲取廣告收入。

該作品先由AI 制圖工具生成，再經Photoshop潤色而來。事件在網絡上引發討論，不少藝術家指控AI 作品參賽是作弊。

AIGC技術的進步讓幾乎任何人都能輕松創建看似合法的新聞網站，生產的內容往往與真實新聞難以區分。

例如，有一篇AIGC生成的文章虛構了有關“以色列總理內塔尼亞胡精神科醫生”的故事，這個虛假故事被廣泛傳播，甚至出現在了電視節目上。有的網站將真假新聞混淆在一起，大大增加了欺騙性故事的可信度。

“新聞守衛”提醒，這種情況的危險在于人工智能的范圍和規模，當它與更復雜的算法結合時，誤導性信息的擴散規模和速度將前所未見，成為一種新的信息戰。

AIGC新聞造假看似遙遠，其實已經發生在我們身邊。2023年12月28日，重慶市奉節縣警方發現，網民王某成在某資訊平臺利用AI寫作軟件，編造發布了一條“某地一煤礦發生事故已致12人遇難”的帖文，引發網民關注，造成不良社會影響。經警方調查，王某成這么做的目的是為了博人眼球、吸引流量。他本人也受到了應有的處罰。

與AIGC生成虛假新聞類似的是，在一些短視頻平臺，利用AIGC制作視頻傳播虛假信息的情況也越來越普遍。

《瞭望東方周刊》記者在某短視頻平臺上發現，這類視頻往往以AIGC創作出來的智慧老者、小和尚等“數字人”形象出現，他們“講話”的聲音、字幕也是由AIGC生成。對操作熟練的人來說，一個小時制作多段這類視頻不在話下。而視頻傳播的所謂養生知識、人生哲理、生活理念，要么觀點偏激、要么夾帶廣告“私貨”，對老年人和兒童具有很強的欺騙性。

奇安信集團行業安全研究中心主任裴智勇表示，無論聲音還是圖像，都可以通過特定的數學變換分解成若干個特征向量，對每個向量賦予特定的一組參數，就可以形成特定的聲音或圖像。所謂AI換聲，就是通過機器學習的方法，用某個人以往的聲音作為樣本進行學習，從而給聲音的每個特征向量賦予特定的參數，之后再用這組參數讀出新的內容，就可以做到語音、語氣甚至情感的模仿了。

美國加利福尼亞大學伯克利分校數字取證學教授漢尼·法里德認為，AI技術的進步讓詐騙者能輕易地根據簡短的音頻樣本來復制聲音。

“兩年前，你可能需要大量音頻來克隆一個人的聲音。但現在，只要你在社交平臺上發一段超過30秒的音頻，復制聲音就可以迅速實現?！睗h尼·法里德說。

現階段，多數人對AIGC生成的內容持平和與寬容的態度，是因為很多內容“一眼假”。但當技術躍升到難以分辨時，再敲響警鐘恐怕為時已晚。

在某款爆火的AIGC工具誕生之初，《瞭望東方周刊》記者試用發現，體驗感并不好。例如，對“劉翔在哪一年奪得世乒賽冠軍”這樣一個顯然錯誤的提問，它給出了“劉翔在2004年獲得了世界乒乓球錦標賽冠軍”的回答。重復一遍提問，又給出了2005年的答案。而對于“泰山是濟南的著名景點嗎”，它第一次的回答是“是的，泰山是濟南市的著名景點。它位于山東省泰安市，是中國五岳之一，有著悠久的歷史和豐富的文化”。相隔一段時間再次提出相同問題后，該工具才對答案進行糾正。但時隔近一年再次提出類似問題，該工具已經能夠很好應對，不再出現類似低級錯誤。

中國信通院云計算與大數據研究所人工智能部主任曹峰認為，生成式人工智能借助預訓練學習、微調學習、提示學習和強化學習等技術手段，再不斷通過人類反饋，實現了更強的自我學習能力。這正是其強大和可取之處。

AIGC經過反復專業訓練和數據積累，生成答復內容的準確性、個性化將逐步提升，屆時再分辨將難上加難。因此，由AIGC引發的人類數據庫“污染”問題是漸進式的，隱蔽性強，危害性不易被察覺。

技術越是進步，其生成內容的真假就愈發難分辨，對傳統世界形成“吞噬”。僅從技術角度而言，這將是一個難以阻擋的趨勢。

很難想象，未來人們檢索的圖片、數據、問答，比如動物的外貌、植物的外形、書畫的內容等，有相當一部分是經過AIGC修飾的。將這些“生成”的內容與真實世界對比的時候，人們又會以怎樣的心態來看待這個世界，做出怎樣的判斷。

除了“污染”人類數據庫，AIGC暗藏的另一個問題就是“自噬”。換言之，知識生成的過程是倒退而非前進的。

根據最新研究，將由人工智能生成的內容反饋給同類模型訓練，可能導致模型質量下降甚至崩潰。這種自我吞噬現象被科學家們稱為模型自噬。

研究人員指出，雖然AIGC算法在圖像、文本等領域取得了巨大進展，但持續使用合成數據來訓練模型會導致模型變得封閉，并最終失去多樣性和準確性。

來自美國斯坦福大學和加利福尼亞大學伯克利分校的一篇最新論文印證了這一點，2023年6月的GPT-4在一些任務上的表現客觀上要比3月更差。比如用同樣500道“判斷給定整數是否為質數”的問題來測兩個版本，發現3月份的GPT-4答對了488個，而6月只對了12個。

不止如此，代碼能力也下降了。研究人員認為，僅限AIGC生成的內容“喂”給模型，而沒有新鮮的數據，即由人類標注的數據，只會導致AIGC性能下降。

AIGC帶來的負面效應已經引起了相關部門重視。我國在2023年施行的《生成式人工智能服務管理暫行辦法》，專門提出要采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性，實質是為AIGC的未來進步空間拓寬賽道。

科技的發展最終要服務于人類的幸福美好生活。當大量虛幻甚至錯誤的信息使人類的知識空間變得不再純粹時，及時糾偏就很有必要。特別是在當下AIGC發展初期，放眼長遠果斷采取措施迫在眉睫。

現在，越來越多平臺開始要求AIGC生成的內容必須明確標注，以幫助人們作出正確理解。為AIGC設置“禁區”已很有必要，新聞領域就是其中之一。

數秦科技執行總裁兼首席科學家崔偉稱，AIGC生成的偽劣新聞已成為公害。例如，常常有自媒體發布油價上漲的新聞，但打開一看，近期并沒有官方消息發布。

“仔細觀察，可以發現這類新聞具備共性特征，諸如標題很驚人、吸引流量，點擊量和評論數都很高；內容非常格式化，先說新聞，然后幾百上千字談影響，煞有介事。有意思的是，每一篇都不盡相同，但是又非常類似。評論往往是網民不管真假大倒苦水，最終是平臺、自媒體賺了流量，讀者宣泄了情緒，沒人知道事實到底如何?！彼硎荆擜IGC被用于生成虛假信息時，其速度和規模的優勢會迅速放大誤導性內容的影響，導致公眾信任危機和社會秩序混亂。

“對于AIGC生成的內容，必須要有所約束?！彼ㄗh，尤其是要從源頭端、平臺端加強管理，在新聞范疇內嚴禁AI無中生有生成虛假新聞大肆傳播，更要杜絕假新聞的生產淪為工廠化、流水線。一旦發現，堅決清理相關內容，避免把辨別真假的困難留給大眾。即便是出于“黑色幽默”目的，也要將生成內容放置在非新聞欄目下，且明確標注，避免謠言被信以為真。

2023 年7 月7 日，2023 世界人工智能大會在上海舉行，觀眾參觀主題為“交響”的AIGC藝術展（辛夢晨/ 攝）

加強科技倫理治理，促進科技向善將成為一項長期工作。

崔偉等人士認為，技術本身并不具備道德判斷能力，它的應用取決于人類用戶的意圖。因此，制定和執行有關AIGC應用的倫理指導原則和法律法規顯得尤為重要。這不僅需要技術開發者和使用者的責任意識，也需要相關監管機構的有效介入。

北京航空航天大學法學院副教授趙精武表示，國家互聯網信息辦公室、工業和信息化部、公安部在2022年底制定了《互聯網信息服務深度合成管理規定》，明確了深度合成服務提供者的法定義務，例如應當采取技術或人工方式對深度合成服務使用者的輸入數據和合成結果進行審核。

“除了政府監管，科技公司、媒體、教育機構以及大眾都應在其中扮演重要角色。”趙精武認為，這不僅是一個技術問題，更是涉及社會治理、公眾教育和國際合作的廣泛問題。

以技術之力治理技術之亂，已提上日程。

“隨著技術的進步，社會的適應和應對機制需要更新。比如新聞機構和社交媒體平臺需要開發更高效的工具和方法，來識別和過濾AIGC生成的虛假內容?！毙禄鹂萍伎毓捎邢薰緟^塊鏈專家王陽平認為，區塊鏈技術有助于破解AIGC誘發的數據及知識造假難題。

他表示，新聞攝影、物種照片、公共知識等均可被記錄在區塊鏈上，且全程可溯源、內容透明不可篡改、永久記錄，可有效輔助人們提高認知和辨別能力，減少網絡虛假知識及謠言的產生。