深度偽造技術沖擊新聞行業的風險與對策研究

○楊俊豐 曾莎莎

一、深度偽造的產生與發展

深度偽造技術（deepfake）依托于“生成式對抗網絡”（GANs）的機器學習模型，是將圖片或者視頻合并疊加到原圖片或視頻上，借助神經網絡技術進行大樣本學習，利用多種樣本和數據，采用相互檢驗和匡糾模型，將想要模仿的人的聲音或者面部表情等其他動作合成虛假內容的一項人工智能技術。

深度偽造最早是在2014 年由蘋果公司伊恩·古德費羅為核心的小組發明出來的，2019 年8 月，陌陌公司旗下一款名為“ZAO”的應用正式發布，這讓深度偽造技術走進國內大眾的視野，該軟件可以對用戶上傳的面部特征進行分析，從而實現用戶隨意想成為某個角色的體驗，因此這款軟件也被用戶稱為“一鍵換臉”，風靡一時，隨后因涉嫌過度搜集用戶隱私信息被要求下架。

目前深度偽造技術已應用于眾多行業，傳媒、醫療、教育甚至政治等領域都能看到深度偽造的身影。2020年美國總統選舉期間，特朗普就在推特上轉發了一條深度偽造的視頻，視頻內容是拜登伸出舌頭在胡言亂語，這條偽造視頻混淆了選民的判斷。俄烏沖突中，烏克蘭總統澤連斯基宣布投降的視頻在社交媒體平臺爆火，但隨后被判定為深度偽造作品。除此之外，利用深度偽造換臉女明星制作視頻催生了一批黑灰產業。

二、深度偽造對新聞行業的沖擊

新聞專業主義的基本理論框架是倡導新聞報道的真實性、客觀性和公正性，強調媒介的社會責任。新媒體時代，傳播生態已經發生了重大變革，人們更傾向于從社交媒體獲取信息，而深度偽造帶來的各種深度虛假內容借助社交媒體傳播，使信息更加魚龍混雜，這對新聞行業追求的真實、客觀、公正都造成了沖擊。

（一）沖擊“新聞真實”

真實是新聞的生命，在新聞報道中，最基本的要求就是堅持新聞真實。從攝影攝像等視圖技術產生以來，視圖所代表的客觀性就在新聞和法律等領域慢慢建立起來，成為表達真相最有力的證據，因為人們通常相信“眼見為實，耳聽為虛”。然而，深度偽造的技術特征使“眼見為實”這一理念遭受了前所未有的沖擊。深度偽造帶來的圖像、音視頻的高度逼真性，使眾多信息成為了“合成真實”的信息，受眾接收到這些信息時認為是真實的，但其實是經過處理、合成后的“真實”，其本質上是虛假信息。在視頻中進行深度偽造，更換關鍵新聞細節或人物面部特征，都足以讓整個新聞事件產生截然不同的“事實”。如今深度合成事實越來越容易，部分依托于深度偽造技術的軟件已經能夠實現一鍵換臉，用戶可以簡單而輕松地操作，通過替換人臉、聲音等特征達到偽造事實的效果。特別是新媒體時代，大量新聞的來源是各大社交媒體平臺，因此社交媒體也成為新型偽造技術發揮的重要舞臺，進一步加速了虛假信息的泛濫。目前市場上還沒有出現可以輕易鑒別深度偽造作品的技術或工具，因此對合成產品的辨別仍是一大難題。

（二）造成“深度后真相”

“客觀事實對于形塑公共輿論的影響力，不如訴諸個人的情感與信念?！边@是牛津詞典對后真相的定義。注意力經濟背景下，傳統媒體、新媒體、非專業媒體都在搶奪用戶的注意力，誰能夠吸引用戶的注意力，誰就能率先搶占市場，由此導致了許多自媒體為了流量和曝光率不顧新聞事實的亂象。后真相時代，真相的傳播呈現出扭曲狀態，部分新聞媒體不求“最準”只求“第一”，在事實真相還未完全暴露之前就匆匆定下了結論。在這種浮躁的傳播環境下，深度偽造具備了快速發展的條件，部分軟件甚至“一鍵式”就能實現輕松換臉，高度逼真的“事實”混淆了大眾的視聽，擾亂了大眾的理性思考能力。由于鑒別和識破深度偽造作品需要更高的技術、更多的時間和精力，因此立場和情緒先一步取代真相。即使最后成功鑒別并還原了真相，但是在此期間偽造作品大量傳播，用戶已被立場和情緒裹挾，不愿意再相信真相。注意力的爭奪加上深度偽造的難以察覺，使真相愈加滯后和隱蔽。

（三）違反新聞倫理與法規

深度偽造終究屬于技術范疇，技術的使用在于人為，合理使用會促進新聞行業和其他領域的發展，但是濫用的話就將侵害公民的合法權益。首先是侵犯公民的隱私權。在司法實踐中，公民個人的電話號碼、個人身體狀況、其他隱私等受到法律保護。在新聞報道中，為了獲得某些新聞當事人的線索和細節，利用深度偽造技術，編造假的新聞細節，或者隨意合成圖片或視頻，這將侵犯公民的隱私權。其次是損害公民的名譽權。英國Wired雜志曾報道，自2020年7月份以來，一款名為DeepNude的深度偽造機器人攻擊過至少10.4萬名女性，每個月都有成千上萬的用戶使用該技術來創建他人的裸照。這些無中生有的裸照嚴重損害了受害者的名譽，造成她們個人社會評價降低。最后，深度偽造技術還可能侵犯公民的肖像權和聲音權。深度偽造最常見的方式就是人臉與聲音的合成或替換，無論是對人臉的“移花接木”，還是對聲音的合成篡改，都將給公民的肖像權和聲音權帶來風險。

（四）帶來媒體信任危機

信息爆炸的今天，受眾每天面對來自媒體和眾多自媒體的海量信息，其中充斥著大量帶有個人情緒和主觀感受的新聞信息，受眾卻難以及時察覺到危險的信息并加以辨別，這種態度會影響媒體的公信力。風險的社會放大理論認為，風險事件與心理、社會等因素相互作用，可以增強或減弱風險的公眾感知，媒體在對風險事件進行社會加工的過程中也會對風險的強度和廣度產生影響。特別是在新媒體時代，新媒體、社交媒體平臺成為受眾獲取信息的主要途徑，深度偽造制作簡單，只需輔助性工具，受眾即可成為偽造者，創作偽造作品。深度偽造的作品迎合受眾的需求，因此在形式上更容易獲得受眾認同，在初期會得到受眾的信任。一旦用戶發現喜愛的作品是經過合成的，這種信任立馬會轉變為不信任，連帶著對整個媒體平臺都持有懷疑的態度。目前還沒有開發出有效的應對深度偽造的技術，因此如果媒體在難以辨別事實真假的情況下，隨意使用或者傳播深度偽造作品，對其公信力會造成巨大沖擊。

三、應對深度偽造的對策

面對深度偽造給新聞行業帶來的負面影響，應從多個維度著手，借助社會各界的力量。新聞工作者要提升專業素質，提高辨別深度偽造作品的能力，不隨意生產、傳播并能夠及時核查；相關部門應加強對深度偽造技術的規制，對其進行嚴格監管防止被濫用。

（一）專業媒體機構：完善事實核查機制

隨著深度偽造技術的成熟與普及，新聞報道的客觀性與公正性受到嚴重沖擊?！昂铣傻恼鎸崱薄捌唇诱鎸崱薄把垡姴灰欢閷崱苯o專業新聞工作者對事件的判斷造成了困擾。受深度偽造技術的影響，傳統的核查方式很難做到客觀、公正、全面。因此新聞專業主義也應當隨著技術的發展豐富其內涵、拓展其體系。深度偽造技術之下，圖片和視頻已經不能作為有力的證據，新聞工作者需要尋找多種信息源線索并加以求證。并且傳統的靠人力核查方式已經不足以核查當下人工智能時代的所有信息，這就需要專業媒體機構加快對鑒別技術的研究和引進，配合新興的算法、大數據、人工智能、云計算等技術，辨別各渠道信息源的真實性，新聞工作者也需要盡快學習先進技術的使用，共同構建更加全面真實的新聞原貌。

（二）社交媒體平臺：強化社會責任

如今，以微博、抖音、小紅書等為代表的社交媒體快速發展，成為信息廣泛傳播的重要平臺和渠道，也是對新聞信息傳播造成沖擊的環節之一。社交媒體的便利性，降低了利用互聯網刻意散播深度偽造產品的成本。同時也得益于網絡的發達，用戶發布的信息能夠實現病毒式傳播，在傳播期間，作品的發布人可以隨時變換，始發者可以藏匿，這也令建立起來的監管機制難以迅速有效執行。我國現行《網絡安全法》顯示，網絡運營者有責任對用戶發布的信息進行監督管理，發現發布或者傳輸法律、行政法規禁止的信息，應當立即停止該信息的傳輸，并采取消除等措施?；谏疃葌卧旒夹g的特殊性，社交媒體平臺的社會責任應當強化。首先，深度偽造產品沒有被明確列為是法律、行政法規禁止發布或傳輸的信息，因此社交媒體平臺需要自覺承擔社會責任，對于內容明顯存在社會風險或違反法律法規的深度偽造作品進行刪除和屏蔽。其次，若用戶上傳深度偽造作品，平臺應予以明顯的標記，從傳播源頭提醒其他受眾。最后，若深度偽造產品出現大范圍的傳播，平臺應給予限制，最大程度地減少深度偽造產品帶來的負面影響。

（三）技術應對：重視辨識工具的開發

加快鑒別、監測等技術的研發是防范深度偽造的重要手段，只要讓鑒別技術先于并且比深度偽造技術更成熟，那么深度偽造技術帶給人類社會的危險程度就會下降，對新聞行業的沖擊也會減小。盡管深度偽造技術能夠合成高度逼真的圖片、視頻和聲音，但是由于人體特征的特殊性和靈活性，任何偽造產品都很難做到與真實人物完全一樣。例如，偽造人物的面部表情很難有真實人物的面部表情那么豐富和靈動。隨著越來越多學界和業界人士對深度偽造技術的重視和反思，目前針對深度偽造的檢測技術也有所進展。美國國防部曾研究出全球首個通過預測眼睛狀態的“反換臉”工具，能達到99%的準確率。不過深度偽造技術也在不斷更新換代，因此檢測技術也要不斷升級，先后有研究人員利用區塊鏈和其他分布式賬本技術、采取多特征融合檢測方法、基于VGG16和卷積神經網絡結構等方法進行檢測技術的升級。不過道高一尺魔高一丈，這些檢測技術還不足以應對深度偽造技術大規模的使用。相關檢測技術的發展應當引起相關部門的重視。

（四）法律規制：推進監管更新

2017 年，一段關于偽造奧巴馬演講的視頻引起社會各界對此技術的關注，隨后美國出臺了《深度偽造責任法案》等多個針對深度偽造技術的法案。中國在這方面也取得了進展，《民法典》中有規定任何組織或個人不得利用信息技術偽造等手段侵害他人肖像權。但是規定中仍然不是明確地針對深度偽造，對濫用深度偽造技術的處罰也沒有明確的規定，其適用范圍“肖像權”有一定的局限性，深度偽造技術不斷升級，不僅會侵犯公民肖像權，還會侵犯公民的名譽權、聲音權等多種權利。因此應當對相關法律進行進一步完善。此外還應當設置專門的監管部門，對深度偽造技術的運用進行嚴格監管，對濫用技術的組織和平臺給予嚴厲打擊，并開啟投訴通道。深度偽造技術已經發展得越來越成熟，并且應用前景廣闊，急需更新的法律規范該技術在市場中的運用。

四、結語

雖然目前在國內深度偽造技術還沒有被濫用，但是在國外主流社交媒體平臺已經出現了大量深度偽造產品，對傳媒等行業產生了許多負面影響，造成了更加復雜的輿論環境。由深度偽造帶來的深度假信息沖擊著客觀事實，混淆了大眾對真相的認知，污染了傳媒生態環境。深度偽造技術無論是對個人還是行業都有著極大的風險，新聞行業必須及時意識到潛在的危險性，與其他行業和部門協作應對，掌握對新技術的主動權，防止深度偽造的濫用造成更大的威脅。