“深度偽造”背景下新聞事實核查的路徑探析

2021-07-06 03:45:52徐燕萍

新媒體研究 2021年4期

徐燕萍

摘要社交媒體時代，虛假新聞泛濫，原先的新聞事實核查已經發生了變化。但“深度偽造”技術的出現，給新聞事實核查又帶來了新難題。應對這一困境，需要國家、社交媒體、把關者的共同努力，同時，更重要的是技術層面的探索，如開發檢測技術、聯手區塊鏈等新興技術以及研發“數字取證”技術。

關鍵詞深度偽造；虛假新聞；新聞事實核查

中圖分類號 G2 文獻標識碼 A 文章編號 2096-0360（2021）04-0008-03

根據中國互聯網數據資訊網最新發布的報告顯示，2020年Deepfake增長率超330%，美英成重災區。自2017年“深度偽造”技術被某Reddit用戶制作偽造色情視頻以來，“深度偽造”已逐漸滲透至政治、媒體等多個領域。至2020年，偽造品的數量已經達到49 081個，創下歷史新高。“虛假新聞泛濫”這一現象長期以來都困擾著媒體，而“深度偽造”可能會使這一問題更加嚴峻。面對移動互聯網和社交平臺的日益普及，傳統的人工核查已經難以應對，原先的事實核查也發生了一定嬗變。應對“深度偽造”，事實核查的路徑還需做出更多轉變與創新。

1 “深度偽造”簡述

“深度偽造”是“deep learning（深度學習）”和“fake（偽造）”的合成詞，作為“深度合成”技術的一種，“深度偽造”本質上是一種人體圖像合成技術，能夠根據人類的行為特征，合成圖片、視頻、語音，完成人臉替換[1]。催生“深度偽造”的是技術人員的一個簡單想法，將兩個深度學習的算法相互疊加，即可獲得逼真的圖像輸出結果。兩個算法分別是生成器與判決器，生成器負責原始數據的收集、復制，判決器負責鑒別偽造數據。

“深度偽造”的代表性應用是AI換臉，多應用于色情領域，如今，“深度偽造”已經開始涉獵政治、廣告、科學、醫療等其他領域。“深度偽造”開發者表示，該技術正在迅速發展，他們可以模仿的對象沒有限制，這意味著每一個人都是潛在的目標，未來“深度偽造”可能帶來一系列風險。同樣地，“深度偽造”技術對新聞真實性也會構成威脅。在“后真相”時代，公眾對媒體已經產生了信任危機，而“深度偽造”技術的出現會加劇這一現象，對新聞媒體的公信力造成進一步的沖擊[2]。

2 新聞事實核查的現狀

基于“深度偽造”技術篡改的視頻、圖片，雖然對虛假新聞的傳播會起到推波助瀾的作用，但虛假新聞并非起源于“深度偽造”。自新聞誕生的那天起，虛假新聞便如影隨形。新聞事實核查作為應對虛假新聞的有效措施，能從源頭避免虛假新聞的傳播，在社交媒體環境下，原先的新聞事實核查也發生了一定變化。

2.1 核查范圍廣泛

為確保政治新聞的真實性，2007年，《華盛頓郵報》針對2008年的美國大選推出了名為“Factchecking”的事實核查項目。同年，《坦帕灣時報》也成立了“PolitiFact”網站，并于2009年破格獲得了普利策新聞獎。起初，這些機構和平臺核查的內容均為政治或公眾人物的言論。然而，在媒體“搶新聞”的社會化媒體時期，海量信息的實時化傳播雖然獲得了可能，但也造成了虛假新聞的泛濫，嚴重影響了新聞的傳播品質與媒體的公信力[3]。由此，核查對象由政治人物擴散至社會化新聞，這一轉變以2010年4月美國“Storyful”網站的創立為標志，該網站致力于對美國各社交媒體上的用戶生產內容進行核查，并根據信息的真實情況貼上相應標簽。

2.2 核查方式多元

傳統媒體時期，事實核查工作主要依靠人工，核查人員通過已有的知識與經驗、查閱文獻資料、跑現場溝通等途徑核查信息。隨著技術的迭代與進步，新興技術成為了核查人員提高核查效率的得力助手。核查人員能夠利用大數據、算法提供的數據庫進行智能核查，迅速準確地定位、識別、排除虛假信息[4]。美國的信源調查網站“Storyful”發明的信息檢測工具——“新聞專線”便是基于大數據等技術進行信息檢測。一些機構還專門推出了事實核查客戶端，如國外《華盛頓郵報》的“事實核查者”（TruthTeller），國內的“騰訊較真平臺”等，這些平臺利用機器人和新興技術，能自動對網上冗雜的新聞數據進行核查，及時糾正錯誤信息。

2.3 核查過程趨動態化

傳統媒體時期，新聞發布由專業媒體壟斷，核查一般在事前，且核查主體為專業的新聞從業者。社交媒體時期，普通網民的主體地位凸顯，話語權提升，這種壟斷被打破[5]。同時，傳播速度的實時化要求與海量信息使得核查人員的工作負擔加重。由此核查過程發生了兩點明顯的變化：第一，核查順序由“事前核查”變成了“后續糾正”或“事件追蹤”；第二，核查主體由專業媒體擴散至普通網民。移動互聯時代，新聞由新近發生的事件轉變為即時發生的事件，事實核查也轉變為動態的過程，需根據事件發展狀態及時跟進核查進度。而普通網民在提供一手信息，搜集信息素材方面能夠起到重要作用，因此一些核查機構也鼓勵網民主動參與核查工作[6]。

從以上幾點變化可以看出新聞事實核查在不斷完善，但從互聯網上“虛假新聞依然泛濫”這一現象可以發現，新聞事實核查存在以下效果困境。第一，社會化新聞魚龍混雜，加重了核查人員的負擔。第二，信息處于即時更新的狀態，大數據提供的數據庫未必全面。算法在定位虛假信息時存在立場偏差，這些虛假信息未必最值得核查，但一定最吸引人的眼球[7]。第三，網民缺乏專業媒介素養，容易被虛假信息蒙蔽雙眼。而“深度偽造”技術的出現，則為核查新聞事實帶來了更多難題。

3 “深度偽造”技術下新聞事實核查的困境

3.1 偽造內容成為虛假新聞的信息素材

在“全民皆記者”的社交媒體時代，社交媒體是重要的新聞來源場所。移動網絡的廣泛普及，使得專業記者不需要跑現場，滑動手指便能獲取最新信息。但社會化媒體作為一個以用戶生產內容為主體的平臺，信息質量參差不齊。虛假新聞久久得不到根治，主要是因為有盈利市場，能博人眼球。如今圖片、視頻等元素使得新聞的形式更加多元，而經過“深度偽造”合成的圖片、視頻更具趣味性，更能貼近用戶需求，抓住人們的獵奇心理[8]。在“深度偽造”技術加持下，各類虛假照片、視頻在社交媒體上瘋狂蔓延。不僅誤導了大眾，也誤導了專業媒體人，將這些合成內容作為新聞來源，進行二次傳播。

3.2 偽造內容常人難以鑒別

早期，“深度偽造”需借助同一面孔的多張不同角度照片才能完成人臉替換，且替換痕跡較明顯。隨著技術的不斷進步，如今僅憑一張照片就能實時匹配面部表情，生成換臉視頻，還能自動調節替換后臉部的色差、亮度及替換邊緣的差異。雖然已有相關檢測技術能識別出偽造內容，但未來前景仍不樂觀。在“深度偽造”技術背后，生成器和鑒別器是相輔相成的，鑒別器在識別偽造內容方面可能會做的越來越好，但同時，生成器也能通過當前的鑒別技術進行防御和反擊。這意味著，鑒別技術無法永遠保持在生成技術前方[9]。面對技術都無法完全鑒別的偽造內容，常人更是難以鑒別。

3.3 偽造信息的傳播范圍廣泛

在每一次的重大事件中，我們幾乎都會在社交媒體上發現誤導性視頻和照片。這背后體現出的是社交媒體病毒式的傳播特征。與傳統媒體相比，社交媒體具有即時、互動、分享、“多對多”交流等特點。社交媒體UGC的形式得以讓每個用戶成為關系鏈傳播中的一個節點，因此，往往能取得“病毒式”的傳播效果[10]。2018年4月網上流傳的“奧巴馬辱罵特朗普”的造假視頻，2020年初在社交媒體上引起廣泛轉發的“被火燒焦的澳大利亞”的造假圖片，這些偽造視頻、圖片都是結合時下人們關注的熱點，再借助社交媒體的漣漪效應，造成了大規模的擴散，誤導了大眾。

4 “深度偽造”背景下新聞事實核查的應對之策

4.1 國家、社交媒體、把關者的共同努力

在社交媒體信息泛濫的背景下，網絡信息本就讓人真假難辨，而“深度偽造”技術進一步提高了可靠信息的獲取成本，增加了新聞事實核查的難度。為應對這一困境，國家、社交媒體、把關者需攜手應對。

首先，國家應出臺規制“深度偽造”的相關法案，法律規制是應對技術風險的必要手段。當前，美國、歐盟、德國在立法方面較為積極，相關法案也比較細致，值得我國借鑒。我國尚沒有針對“深度偽造”專門立法，但相關法案已有涉及，未來還需繼續完善[11]。其次，作為虛假新聞肆虐的重要場所，社交媒體也應擔負起平臺的責任，完善管控措施。添加事實核查標簽、資助研究機構研發“深度偽造”檢測工具等都是必要的措施。此外，社交媒體也應積極與其他平臺、機構合作，完善核查數據庫，提高核查效率。最后，把關者作為新聞事實核查中最重要的一環，應做好把關，回歸“事前核查”[12]。在發布新聞前，盡到“把關”的職責，從源頭阻斷虛假新聞的傳播。雖然利用相關技術能提升核查效率，但技術可能存在漏洞，人工核查仍是核查工作中不可或缺的一步流程。

4.2 技術層面

隨著“深度偽造”技術的門檻大大降低，普通人逐漸也成為了“應用者。未來“深度偽造”可能被用于篡改圖像、視頻，制造大量的虛假新聞。為避免“深度偽造”嚴重挑戰新聞真實的邊界，在改善新聞事實核查的過程中，更應注重將“深度偽造”考慮在內，探索技術方面的應對措施。

1）開發基于人工智能模型的檢測技術。目前，學界和業界對“深度偽造”檢測技術的開發如火如荼。其中，研究最多的是基于人工智能模型的檢測技術。國內清華大學的人工智能企業RealAI發布的深度偽造視頻檢測工具——“DeepReal”，主要利用深度學習算法、大量數據集訓練模型，可在1秒內對超過10人同框的圖像與視頻進行識別，識別率可達99%。“DeepReal”還于近日完成了新一輪的服務與算法升級，在原有基礎上，新增批量導入、輸出檢測報告等功能，檢測范圍及防御對抗能力大大提高。2020年1月，北京大學與微軟亞洲研究院聯合推出深度偽造識別工具“FaceX-Ray”，能將假臉重新混入目標圖像或視頻，以從中尋找邊界，能有效地識別出未被發現的假圖像，并可靠地預測圖像混合區域，精準度可達99%以上。國外也有許多研究成果，美國Adobe公司推出的反向PS工具。依托于AI算法，該工具能自動識別出人像圖片中經過圖像液化工具修改的部分，并將圖像還原，準確率高達99%；滑鐵盧大學的研究人員開發了被稱為“Darwin.AI”的技術，該技術使用深度學習來檢測虛假新聞；加州大學河濱分校的研究人員研發出了一種由遞歸神經網絡和編碼過濾器組成的自動檢測算法，能夠將偽造圖像分成若干部分，在更全面的層次上去考慮整個圖像的情況，準確率在71%～95%之間[13]。以上這些檢測工具為核查新聞事實、打擊偽造內容帶來了新希望，但基于“生成對抗網絡”的技術原理，這些檢測技術也很容易被識破。因此，未來技術人員仍需不斷開發、完善檢測技術。

2）聯手數字水印、指紋與區塊鏈，對視頻進行溯源。應對“深度偽造”，確保信息真實，僅依靠人工智能模型遠遠不夠，有必要結合數字水印、區塊鏈等新興技術。數字水印是信息安全領域的前沿技術，能夠通過信號處理的方法在多媒體數據中嵌入隱蔽的標記，這種標記只有通過專用的檢測器或閱讀器才能提取，通常不可見[14]。數字水印安全性高，難以篡改，會隨著原始內容的變化而變化，從而能夠檢測出原始數據的變更。此外，數字指紋同樣適用于檢測偽造視頻。在發布相關視頻前，可以提取視頻中一些重要信息作為視頻指紋，如此每個視頻都能夠生成一個特定的指紋，相當于該視頻身份的標識，也利于鑒別偽造視頻。區塊鏈作為記錄互聯網數據的新方式，同樣是應對“深度偽造”的有效方式[15]。區塊鏈最大的特點是能對原始數據進行溯源，既有利于版權保護又能識別篡改內容。除了追蹤視頻內容的來源，也可以在區塊鏈上創建視頻的同時加上驗證標簽或者圖形。當遇到可疑的音視頻文件時就能進行身份驗證，與原始文件比較，將偽造內容剝離出來。為了應對“深度偽造”濫用的增加，Ambervideo.co公司開發了檢測軟件，可以查看視頻和音頻軌道及其中的各個方面，以尋找可能的修改痕跡。但這種追溯方法無法檢測到新的“深度偽造”算法，為此該公司以區塊鏈作為基礎結構，每30秒存儲一次哈希值，若參數被更改則暗示著視頻被篡改的可能性。

3）聚焦新聞媒體，加快“數字取證”技術的研發。目前反“深度偽造”檢測工具已經有了一定研究成果，但媒體生成和操縱技術也在快速發展，當前的檢測技術還不足以檢測偽造的媒體信息，因而為媒體研發應對虛假新聞的檢測工具迫在眉睫。在這方面，我國可以借鑒美國國防高級研究計劃局設立的“媒體鑒證”項目，該項目旨在尋求“深度偽造”識別工具，應對大規模的自動化虛假信息攻擊活動。鑒于目前的檢測技術可能會隨著篡改技術的飛速發展而不斷失效，國防高級研究計劃局還研發了“語義取證”技術，檢測遭篡改媒體中的“語義錯誤”。這些“語義錯誤”往往是偽造媒體容易忽視的細節，如人物佩戴的耳環前后不一致。這種語義不一致性檢測工具若能最終形成，將會顯著提高媒體偽造者的作惡成本，防御者也可以輕松判斷媒體真偽。此外，“深度偽造”作為人工智能的一個分支，我們自然也能通過人工智能來反向助力數字媒體取證。谷歌母公司Alphabet推出的一款名為“Assembler”的AI工具，能夠幫助人們檢驗原始照片是否被篡改。對于新聞媒體而言，“Assembler”或許可以成為一款得力的事實檢查工具。目前“Assembler”已經被法新社、CodeforAfrica和Rappler等在內的新聞和事實檢查機構所采用。媒體內容作為網絡數字內容的主體，在網絡安全中占據著重要的地位，數字取證與安全可以維持現代數字社會秩序，確保數據的真實可靠，維護媒體的信譽。國內目前還未出現成熟的數字媒體取證技術，但首屆中國媒體取證與安全大會已于2020年11月6日至11月8日在合肥成功舉辦，相信不遠的將來數字媒體取證與安全會發展至一個新的臺階。

技術是中立的，“深度偽造”作為一種技術，并無對與錯。“深度偽造”也帶來了許多信息紅利，如幫助電商平臺實現“數字試穿”，幫助廣告主實現“千人千面”的營銷，滿足受眾的多樣化需求等等[16]。但不能忽視“深度偽造”造成的色情犯罪、聲音詐騙、虛假新聞等問題，尤其是虛假新聞，對媒體、政府、社會的信任體系會造成猛烈的沖擊。因此，新聞事實核查仍要堅守，除了政府、社交媒體、把關者的共同努力，更要在技術層面積極探索，開發檢測技術。

參考文獻

[1]張濤.后真相時代深度偽造的法律風險及其規制[J].電子政務，2020（4）：91-101.

[2]殷文，張杰，鄭方惠.網絡謠言傳播過程中的中介化信任研究[J].當代傳播，2019，05：36-39，60.

[3]袁玥，馮廣圣.突發公共事件中農村社區大喇叭強動員效果探析：以新冠肺炎疫情報道為例[J].新聞知識，2020（11）：47-53.

[4]孫夢婷，何晴，黃蓉.故宮文創的跨媒介傳播策略[J].東南傳播，2020（9）：83-85.

[5]李惠敏.助力鄉村文化自信：涉農紀錄片的當代價值研究：以記住鄉愁為例[J].東南傳播，2020（6）：35-37.

[6]楊鑫，馮廣圣.基于趣緣的隱形連接下文化的狂歡：基于“驚雷”“淡黃長裙”現象的考察[J].東南傳播，2020（11）：83-85.

[7]位云玲，馮廣圣.算法新聞推薦的社會責任反思[J].新聞知識，2020（9）：23-26.

[8]馮廣圣.報業“一體化”轉型模型構建[J].新聞與寫作，2018（3）：94-96.

[9]魏書音，劉玉琢.深度偽造技術正在顛覆網絡空間的可信性[J].網絡安全和信息化，2020（10）：27-28.

[10]李越，吳斯，馮廣圣.UGC視角下的網絡社區內容分層管理個案研究：以站酷社區為例[J].東南傳播，2019（7）：121-123.

[11]位云玲.原創文化類綜藝節目持續走紅的原因探究：以《上新了！故宮》為例[J].藝術評鑒，2019（7）：169-170，76.