Deepfake加持下短視頻類假新聞的演變與治理

翟紅蕾 鄒心晨

摘?要：人工智能時代，假新聞在Deepfake等新興技術的影響下不斷嬗變，形態也從文本轉向音頻、視頻，這不僅在一定程度上縱容了更多假新聞的產生，也對受眾辨別信息的能力提出了更高的要求。但是，技術并沒有邪惡之分，媒介技術的革新也不是假新聞出現的根源，當前人類認知能力、道德水平及媒介規范程度跟不上技術的變革，如何借助人工智能技術有利的一面營造良好的內容生態，進而幫助用戶提高媒介素養，才是治理假新聞的有效途徑，也是當前亟待解決的問題。

關鍵詞：Deepfake;假新聞;深度偽造;人工智能時代

中圖分類號：G210??文獻標識碼：A?文章編號：1672-8122（2020）11-0034-03

一、深度偽造技術下假新聞的升級

（一）假新聞的音頻轉向

2017年以來，以直播、短視頻、智能音頻為主導的媒介變革正在悄然改變我們的媒介認知圖景。以短視頻為例，根據2020年1月6日抖音發布的《2019抖音數據報告》顯示：截至2020年1月5日，抖音日活躍用戶數已經突破4億。而中國互聯網絡信息中心發布的第45次《中國互聯網絡發展狀況統計報告》顯示：截至2020年3月，我國網民規模達9.04億，短視頻用戶7.73億，即時通訊用戶達8.96億，特別是社交與短視頻開始融合，出現了以音頻、短視頻、直播等作為新形式的社交產品或功能，如微信的“視頻號”、字節跳動推出的小視頻社交軟件“多閃”、知乎也開通了直播功能[1]。這些都意味著用戶的閱讀方式已經由文字時代轉到讀圖時代，又在逐漸過渡到觀影時代。尤其是在5G技術投入商用之后，不僅信息呈現方式向短視頻傾斜，假新聞呈現形態也開始進行短視頻轉向。

2017年，英國柯林斯詞典（Collins Dictionary）選取“假新聞”（Fake news）作為年度熱詞，并將其定義為：假借新聞報道形式傳播的錯誤、虛假、聳人聽聞的信息。楊保軍對假新聞的定義為：“假新聞是在性質上相對于‘真新聞存在的一個概念，描述的是在形式上、姿態上完全具備新聞的特征，但實質上沒有新聞本質特征（真實性）的‘新聞”[2]。

在傳統媒體時代，假新聞的根本特性是新聞事實與信源的虛假性，但在人工智能時代，假新聞的范疇根本不止如此。由于技術賦權、算法偏見的影響，即使有大數據作為支撐，那些沒有準確、全面、恰當地報道事實而形成的新聞依然可以被看作是假新聞。

（二）深度偽造（Deepfake）的應用

深度偽造的英文“Deepfake”是由“Deep machine learning”和“Fake photo”組合而成，是柯林斯收錄的2019年年度熱詞之一。deepfake本質是一種深度學習模型，是圖像合成、替換的技術框架[3]。作為一種新形態的偽造技術，創作者可以借其篡改視頻中人物的面容、聲音等信息，從而制作出難以辨別真假的短視頻。

視頻深度偽造技術也被稱為AI換臉技術（AI face swap），具體工作原理與影視后期類似。首先將原視頻按幀轉化成大量圖片，然后再對目標對象的臉部進行替換，最后將替換完成的圖片重新渲染合成新視頻，而Deepfake技術的加持會使整個過程實現自動化。音頻偽造亦是如此，通過Deepfake技術，編碼者可以把目標對象的語速、語調、音色等聲道信息綜合生成為聲音模型，然后根據目標對象的聲音模型找出聲音特征，再依據特征對語音信息進行調整，以此模擬出相應的音頻信息。

關于Deepfake技術發展的歷史，從2017年Reddit用戶“Deepfakes”首次上傳換臉視頻引發熱議，到2019年2月嗶哩嗶哩Up主將朱茵的臉換成楊冪火爆網絡，再到9月份在中國應用市場一夜爆紅又被迅速下架的換臉應用“ZAO”，Deepfake技術開始入侵并擾亂正常的傳播秩序。

在Deepfake技術出現之前，關于圖片造假多是專業人士運用專業軟件進行后期加工的手段，但隨著技術的普及，隨便一臺手機都能下載修圖軟件，而“ZAO”更是將這一技術無限簡化，用戶僅需要一張正臉照就能進行“AI換臉”成為視頻當事人。這意味著傳播在初始階段就開始失真，信息源的造假無疑給假新聞的生產傳播提供了便利，更為重要的是，短視頻與社交媒體結合后其傳播速度加快，同時因為算法自動生成，其制作成本和門檻較低，導致所生產的假新聞不僅內容“逼真”，識別也更加困難。

二、深度假新聞的特征與危害

（一）人工智能時代假新聞的新特征

對于整個社會來說，任何新技術帶來的變革與作用都是巨大的。一方面，Deepfake技術在影視文化行業的想象空間極大;另一方面，惡搞、造假使其伴隨著肖像權、版權和倫理層面的爭議，尤其是在新聞領域，Deepfake技術濫用會造成“深度假新聞”。在Deepfake技術出現之前，假新聞大多以文字呈現，但隨著人工智能技術逐漸滲入到短視頻生產，如AI主播、ZAO以及Deepfake等有深度學習技能的應用使假新聞呈現出以下新特征。

第一，人工智能技術賦能使假新聞越來越難被識別出來。初代的人工智能技術在新聞領域的造假程度，是依賴使用者或者算法制定者的技術水平，但隨著深度學習技術的加入，短視頻造假越來越逼真，用戶很難在短時間內辨別新聞的真假。

第二，假新聞報道主體泛化，信息源難辨真假。過去新聞報道的主體一般只有專業媒體，如今人人都是信息源的時代，不管是有意無意，即使是用戶自娛自樂的傳播行為，一旦短視頻上傳到平臺就默認將信息置于公眾視野，也隨時會成為別人的信息源，而互聯網上任何一個傳播節點都可能是假新聞的搖籃。

第三，智能媒體在新聞生產以及算法設計運行的各個環節，更容易產生帶有偏見的假新聞，而且這種偏見更不容易被察覺。雖說不同新聞APP抓取的數據樣本不同，但樣本規模、屬性以及算法程序也不一定完全客觀。算法歸結到底還是人工產物，不可避免地會夾雜人的局限和偏見，一旦算法源代碼有偏見，則生產或推送的結果也必定含有偏見，那依據這樣的人工智能技術所生產的新聞可信度與效度都值得懷疑。

（二）人工智能時代假新聞的危害加成

人工智能時代，大數據、算法技術讓新聞內容的生產、推送更加精確;AI主播、寫作機器人自動生成內容解放了生產力;物聯網技術、5G技術的發展應用也塑造了一個更加智能化的世界。盡管新媒介技術的加持使媒介使用權力不斷被下放，信息源更加多元化，內容生產形式與效率被刷新，但也必須認識到用戶在閱讀、分享各種信息時會更難辨別真假信息，尤其是微博、微信、抖音等新媒體，他們不僅傳謠快，辟謠也會更難，識別治理假新聞的成本也就更高。例如，各大組織就格外關注Deepfake在美國大選新聞報道中的應用，因為在2016年美國大選期間，Twitter等社交媒體的信息大戰讓人記憶猶新，不同利益集團相互指責和控訴對方制造和傳播各種虛假信息，在這期間，制造、傳播假新聞甚至已經成為了一條“灰色”產業鏈[4]。

2018年，MIT的三位研究者參考6家事實核查網站提供的標準，對2006至2017年間12.6萬條Twitter的真假新聞傳播力進行了評估，這是迄今為止最大規模的假新聞實證研究，他們發現假新聞在轉發層級、傳播人數、擴散范圍等多個指標上碾壓真新聞，且傳播速度至少快6倍[5]。而在人工智能時代，短視頻形式的假新聞以智能化的形式進行傳播，其更具感染力、更易混淆視聽，對新聞業的負面影響也更為巨大。首先，因為假新聞泛濫不僅破壞著媒體自身的公信力，對新聞傳播工作人員污名化，而且還會損害國家權力機關在人民心中的形象;其次，假新聞的泛濫破壞了正常的新聞傳播秩序，影響人們之間的正常交往，造成社會信任危機;再次，Deepfake等技術在新聞傳播領域中的濫用不僅侵犯個人隱私，還敗壞社會道德風氣;最后，在全球化視野下，一些特殊的假新聞可能會影響正常的國際關系。

三、人工智能時代假新聞出現的動機與治理策略

假新聞作為一種傳播現象，它在各個時代、各個國家地區都普遍存在，只不過泛濫程度、具體表現形態、形成原因以及治理的策略會有所不同。中國目前沒有單獨的新聞傳播法，在面對以Deepfake、ZAO為代表的深度偽造技術的智能媒體時，治理假新聞還是要從行業大環境、受眾媒介素養、媒體人的職業道德以及相關法律法規等方面著手[6]。

（一）政府要推進對深度偽造技術的預警識別研發、立法與監管

對于政府單位而言，要加大對識別檢測技術的資助力度，并加快落實對深度偽造技術與行為的立法監管，明確Deepfake技術濫用責任主體。

首先，避免Deepfake技術濫用造成的危害，關鍵就是預警識別技術工具的研發，只要預警識別技術領先于偽造技術，假新聞的生產、傳播就會得到極大壓制;其次，從經驗來看，往往先是出現了一種技術的濫用并影響到正常的生活秩序，才會出現相關的政策法規。AI換臉技術誕生于2017年，但我國相關單位在2019年11月29日才針對深度造假技術的濫用印發《網絡短視頻信息服務管理規定》，《規定》指出在線視頻新聞和音頻服務的提供者和用戶“不得”使用深度學習和虛擬現實等新技術來創建、發布和播放“假新聞”，于2020年1月1日正式生效[7]，這意味著在前兩年Deppfake技術的使用并沒有受到約束;最后，從源頭上防止假新聞的出現，就必須明確濫用Deepfake技術生產主體的法律責任。

（二）傳媒界要加強與科技界的合作

雖然，現代信息的繁雜降低了編輯部對真實信息的報道速度，ZAO、Deepfake等應用則加劇了虛假信息的傳播，但解鈴還需系鈴人，面對深度假新聞傳媒屆也并不是無計可施。傳媒界必須要加強與科技界的合作，抓緊研發抑制Deepfake技術濫用的技術工具。2017年人工智能基金會（AI Foundation）開發了一款名為“現實衛士”（Reality Defender）的智能軟件用來檢測潛在的虛假媒體，工作原理與病毒防護軟件類似，在用戶瀏覽網頁時不僅會掃描每一幅圖像、視頻，篩選出媒體平臺中的假新聞，還允許用戶上報自己瀏覽過的疑似假新聞，甚至可以使用人工智能驅動的判斷技術檢測信息是自我演變還是人為生成的痕跡。

（三）用戶要提高對信息的警惕和識別深度假新聞的能力

一如打擊虛假信息的非營利組織“初稿”（First Draft）負責人Claire Wardle所說：“如果你不能百分之百確定一個視頻是真的，請不要分享，不值得冒險”[8]。用戶要在接收信息的過程中學會分辯信息的真假，提高識別深度假新聞的能力。

（四）傳播平臺需要加強內容審核，承擔更多的社會責任

作為搭載、傳達用戶各種信息的平臺，具有控制并監測平臺信息真實性的責任。假新聞在社交媒體平臺上，具有傳播速度快、范圍廣且辟謠難的特點，所以必須強化傳播平臺的社會責任，在加強內容審核時，還要在相關信息上做好標識，這樣才能在傳播過程中一定程度上阻止深度假新聞的擴散。

（五）新聞傳播工作人員要加強自身素養，堅守新聞倫理

作為新聞傳播工作人員，面對Deepfake等深度偽造技術的沖擊，一方面，要堅守新聞倫理;另一方面，也要致力于提高自己檢驗深度假新聞的能力。不管是多重信源核實，還是假借人工智能技術之手，只要能快速檢驗內容真實性，便能更好地制止虛假信息的傳播。

四、結?語

從紙媒、門戶網站、新媒體、流媒體再到各種智能媒體，信息載體的形式在不斷變化，媒介功能也在不斷完善，不斷下放到普通用戶，但普羅大眾也必須意識到，在享受人工智能技術帶來便利、推動行業變革的同時也加深了假新聞的泛濫。

基于Deepfake等深度偽造技術實現了短視頻的換臉、換聲，包括以AI主播為代表的智能機器也開始以獨立信源的身份進入新聞傳播初始階段，這在一定程度上沖擊了“眼見為實”的常識。雖說Deepfake等深度偽造技術越來越智能，但公眾、專業人員鑒別虛假圖像和短視頻的能力也在不斷提高，相關輔助檢測技術也在加速迭代，隨著“打假”技術的升級以及公眾媒介素養的不斷提高，相信我們會不斷接近那個最理想、最真實的信息世界。

參考文獻：

[1]中國互聯網絡信息中心（CNNIC）.第45次《中國互聯網絡發展狀況統計報告》[R].2020-04-28.

[2]楊保軍.認清假新聞的真面目[J].新聞與記者，2011（2）：4-11.

[3]柯林斯詞典2019年度熱詞[EB/OL].https：//www.collinsdictionary.com/word-lovers-blog/new/collins-word-of-the-year-2019-shortlist，580，HCB.html.

[4]史安斌，王沛楠.作為社會抗爭的假新聞——美國大選假新聞現象的闡釋路徑與生成機制[J].新聞記者，2017（6）：4-12.

[5]S.Vosoughi.D.Roy.The Spread of True and False News Online.Science.2018.359（6380）：1146-1151.

[6]匡文波.人工智能時代假新聞的“共謀”及其規避路徑[J].上海師范大學學報，2019（4）.

[7]國家互聯網信息辦公室文化和旅游部國家廣播電視總局.網絡音視頻信息服務管理規定[EB/OL]. http：//www.cac.gov.cn/2019-11/29/c_1576561 820911259.htm，2019-11-29.

[8]Supasorn Suwajanakorn.視頻直播.真人的假視頻以及如何識別他們[EB/OL].TTV譯直播，https：//ttv.cn/archives/3650.

[責任編輯：楊楚珺]