“深度偽造”技術在傳媒領域的新應用和異化風險

文/吳靜

在俄烏沖突的第三周，烏克蘭總統澤連斯基宣布投降的視頻在推特和臉書上爆火。視頻中他置身于國徽之前，鄭重對烏克蘭士兵說：“我要求你們放下武器，回到你們的家人身邊。這場戰爭不值得為之而死。我建議你們繼續活下去，我也會這樣做?！比欢@竟然是一條“深度偽造”的虛假視頻。2022年3月17日，澤連斯基在他的社交媒體賬號上澄清此事。與此同時，俄羅斯總統普京宣布戰爭結束的視頻也被證明是“深度偽造”技術的產物。該技術憑借以假亂真的影音還原和閃電般的全球傳播速度登上各國媒體頭條，躍居國際輿論的風口浪尖。

一、“深度偽造”的前世今生

“深度偽造”（Deepfake）是由“深度學習”（Deep learning）和“偽造”（Fake）構成的合成詞匯?！吧疃葌卧臁奔夹g是當下人工智能時代的一種合成媒體技術。利用深度學習算法進行自動化的數據修改、處理和生產，實現圖片、音頻及視頻的智能模擬和偽造。其高度仿真的效果不僅肉眼難辨真偽，即便是Microsoft和Amazon的人臉識別系統對高達78%的“深度偽造”視頻也無法辨認。

“深度偽造”并非突然橫空出世，而是信息科學、認知科學、物理學等多學科融合快速發展到一定階段的新產物。“深度偽造”之前就有“淺層偽造”（Cheap Fakes），是指利用人工手動或者常規技術，對圖片、音頻和視頻進行剪輯、切割、重組等調整以實現特定傳播效果的技術。但“淺層偽造”由于技術缺陷，人臉和身體在動作、光線和場景變換時會顯得僵硬可笑，語音語調也不自然。迫切的市場需求呼喚著新技術的到來。20世紀90年代，一項國外研究設計的人臉視頻合成的計算機程序，成為“深度偽造”技術的第一個實例。在沉寂了十余年之后，相關研究再次回暖，2016年和2017年先后出現了兩篇重量級的研究，對3D模型重建追蹤和面部仿真合成視頻進行了開創性的探索?！吧疃葌卧臁庇蓛蓚€生成對抗網絡（GAN）的人工神經網絡作為“生成器”和“判別器”協同工作來實現?！吧善鳌睂Υ罅康囊曨l和音頻數據集進行訓練，使其能學習和模仿人類的面部表情、身體動作、語音語調，之后采用深度學習算法將其挪移到另一個人身上。“判別器”負責檢測這些偽造的數據?；跈z測結果生成對抗網絡，不斷調整參數進行優化，直至機器無法分辨視頻和音頻真偽。這種基于人工智能的深度學習技術，使得偽造效果與素材量的多寡呈正比，即人臉或聲音數據集越多，偽造的逼真度就越高，而且還結合臉型、微表情、眼神、膚色、皺紋、動作、音色、音調、語氣等生物特征進行綜合學習，是以往“淺層偽造”技術難以企及的。此時，“深度偽造”尚屬于象牙塔中的高科技，僅為科研機構、科技巨頭和影視巨鱷研發使用，高額的研發費用和專業的設備儀器使普通網民無法觸及。

2017年12月，一名昵稱為“deepfake”的用戶在紅迪網（美國訪問量排名第七的社交娛樂網站）上，借助深度學習算法用斯嘉麗·約翰遜、蓋爾·加朵等女名星的臉部覆蓋到色情影片中的演員面部，隨后在其他網絡平臺上快速涌現了一大批模仿者，“深度偽造”視頻開始在網絡流傳。此后，開源方法和更便捷的應用程序不斷涌現出來，如FaceApp、FakeApp、FaceToFace、DeepFaceLab，國內則出現過ZAO、螞蟻呀嘿等換臉軟件（均已下架）。智能終端的升級和技術門檻的降低促成了“深度偽造”這一智能技術的平民化下沉。如何更好地使用該技術為人類社會服務，并規避其技術異化風險，勢必成為未來傳媒業關注的焦點問題。

二、“深度偽造”在傳媒領域應用的新突破

近年來，“深度偽造”技術的發展勢如破竹，影響和惠及信息技術、醫療衛生、教育培訓、商業營銷等眾多行業。在傳媒領域中，“深度偽造”正處于起步和探索階段，在影視、新聞、廣告方面大放異彩，成為備受行業矚目的下一片藍海。人工智能與傳媒行業深度融合，可激發從業人員的創造力、加強傳播內容的表現力、提高傳媒產品的沖擊力，賦予受眾新鮮的體驗感，提升優質內容的傳播力。

1.影視業：超越時空限制，拓寬無限想象?！吧疃葌卧臁币呀浽趥鹘y的影視行業中嶄露頭角，其被行業廣泛采用可能只是時間問題。迪斯尼公司一直致力于該技術的研發，繼開發演員換臉系統之后，2020年又發表了一項成果，能把DeepFakeLab創建的視頻最高分辨率從256*256像素提升至1024*1024，這極大地推動了電影制作方法的智能升級?！吧疃葌卧臁奔夹g為從業人員創新注入活力，為影視表演突破時空限制創造了條件，使天馬行空的大膽想象變成現實。從目前影視行業的應用來看，主要體現在三個方面。首先是復活演員的影像和聲音。例如，美國電影《速度與激情7》才拍完一半，主演保羅·沃克因事故意外去世，導演溫子仁認為“復活保羅，像創作一本《圣經》”，所幸“深度偽造”技術助力實現了這一艱巨任務。把保羅·沃克在《速度與激情》系列拍攝的全部鏡頭和幕后素材整理成大型數據集，保羅·沃克的三弟和二弟分別擔綱他的“臉部替身”和“動作替身”拍攝了260個鏡頭，然后運用“深度偽造”技術把保羅·沃克的面部特征映射到替身們的表演中，從而使故去的保羅·沃克在大熒幕完美復活。除了影像，故去名人的聲音也能復活。2022年3月9日，Netflix推出六集紀錄片《安迪·沃霍爾：時代日記》，記錄了1987年去世的美國著名波普藝術家安迪·沃霍爾的傳奇一生。該片獲得安迪·沃霍爾基金會的許可，使用“深度換聲”的人工智能技術還原他的聲音，恍如他親自旁白自己極其復雜的內心。央視紀錄片《創新中國》采用該技術讓已故配音演員李易的聲音重現電視熒屏。這種聲音的復活，無論在認知還是審美上，都給觀眾營造出非凡的真實感，實現了創新與懷念的雙重效果。其次是實現演員的去老化。電影《愛爾蘭人》利用“深度偽造”技術對主演羅伯特·德尼羅進行了數字化減齡，使其年輕了30歲。再次是突發情況下解決換角壓力，如今在國內“深度偽造”技術已成為劣跡藝人影視作品的救場工具，《長安十二時辰》和《光榮時代》等電視劇都采用“深度換臉”實現劣跡藝人露臉鏡頭的全部替換。

2.新聞業：增效內容生產，助力報道創新?！吧疃葌卧臁奔夹g在新聞傳播行業迎來了跳躍發展。首先是打造真人形象的人工智能主播，近幾年已在各國新聞業中廣泛應用。人工智能主播可以逼真還原真人主播的口唇動作、面部表情、肢體姿態和語音語調，能獨立承擔主持和播報，且具備成本低、無間斷、零誤差、多語言、多場景等明顯優勢，提升了新聞信息傳播的智能化進程。2018年，新華社推出了AI主播“新小浩”，在新聞領域開創了實時音視頻與真人形象合成的先河，之后“新小萌”“新小微”“夢瑤”“紀寧”等AI主播閃亮登場，已貢獻2萬則新聞報道，時長近5萬分鐘，瀏覽量70億次。人民日報打造的虛擬主播“果果”，形象與聲音可與真人主播原型果欣禹以假亂真。只要輸入文本，AI主播就能快速轉換成新聞播報，并能用普通話、粵語、英語、法語、韓語等多種語言播報新聞，從而大幅降低新聞節目制作成本，提升新聞內容的生產效率，甚至顛覆未來的新聞生產方式。2022年2月，中央廣播電視總臺首位超仿真人工智能主播“AI王冠”問世，采用DeepBrain AI深度學習技術，通過數百個節目視頻來學習真人的聲音、口音和姿勢，使其擁有流暢自然的語言、真實鮮活的神情和清晰入微的膚質。在2022年兩會報道中，真人王冠與“AI王冠”同框互動的《“冠”察兩會》節目，形式新穎，火速出圈，深受青年觀眾喜歡。日本放送協會（NHK）的“Yomiko”、英國獨立電視（ITV）的“Sophia”、韓國MBN電視臺的“金柱夏”等真人AI主播一經推出，都在本國新聞界引起轟動，并掀起了革新性的熱潮。其次，“深度偽造”技術還可以使新聞老照片煥發新生。新華社在2021年五四青年節期間推出一款融媒新聞產品，利用深度換臉技術讓錢學森、張聞天、徐特立、雷鋒、聶耳等16位已故的歷史名人穿越時空，與大眾來了一場視頻聊天，用自己的人生感悟為當代青年答疑解惑、指點迷津，創造了極佳的新聞傳播效果。再次，打造手語AI合成主播。例如，2022年北京冬奧會，總臺央視推出了全球首個手語AI合成主播“小聰”，能用流暢準確的手語進行新聞解說，為我國2700萬聽障群體第一時間帶來冬奧精彩進展的賽事報道，讓他們更加便捷高效地獲取新聞。

3.廣告業：激活匠心創意，升級用戶體驗?！吧疃葌卧臁奔夹g為廣告行業帶來了變革性的影響。人工智能大幅減少了廣告制作的時間、精力和成本，激發了更高水平的廣告創意，提高了廣告的感官沖擊力，升級了廣告用戶的個性化體驗。首先，深度換臉解決了新冠疫情背景下廣告拍攝明星的困難。由于三年多來新冠病毒的肆虐，不少國家曾出臺居家隔離的政策，限制了面對面的廣告拍攝活動，很多明星無法到場參與拍攝，致使一眾廣告公司無法更新視頻素材。利用人工智能對歷史素材進行深度合成提供了新的創意思路。2021年，俄羅斯電信運營商斥資100萬美元邀請好萊塢明星布魯斯·威利斯拍攝新廣告，然而并非真人出演，而是通過深度換臉技術制造了完美復刻的替身演員。廣告技術人員選擇了34000個布魯斯的影像片段，運用人工神經網絡將其臉部覆蓋到替身男演員的臉上，從而創建出廣告中的新形象。目前，一些國外廣告公司通過合法渠道獲得有影響力的公眾人物面孔和聲音的使用權，將深度合成的內容轉化為數以千計的個性化定向廣告進行投放。其次，催生令人震撼的創意廣告。2022年3月，西班牙電視流媒體平臺Dish Latino推出付費電視服務廣告，拉美著名喜劇演員羅伯托·戈麥斯在去世近八年后重現銀幕，與他的兒子談論當今世界電視媒體的變化方式。廣告營造的父子隔世重逢的驚喜、感動和幽默收獲了網友400萬點贊。再次，激發用戶的在線體驗感。該技術可以將在線體驗式營銷直接帶給廣告用戶。例如，人工智能公司Superpersonal開發的虛擬試衣間系統，可把用戶的臉部覆蓋到廣告視頻的模特臉上，實現下單前的在線試穿。一些在線網絡游戲廣告也嘗試把游戲的角色面部轉換為用戶真實臉部，讓玩家在購買前體驗游戲的精彩。營銷學家發現，當消費者將產品視為自己的延伸時，他們愿意支付更高的價格、購買更多產品并向他人進行宣傳。

三、“深度偽造”在傳媒領域的技術異化風險

技術異化是指在新技術發明、擴散和轉化應用進程中，在功利主義價值觀和技術至上主義的驅使下，悖離科技以人為本的終極目標而誤入歧途。被異化的新興技術違背法律、倫理、道德和人本主義精神，反噬社會，嚴重威脅人類的主體地位和社會的正常運行?！吧疃葌卧臁弊鳛槿斯ぶ悄軙r代的前沿合成媒體技術，在其突破性發展過程中，也出現了賦能與異化交織、向善與趨惡并存的復雜局面，不加限制的濫用對政治、經濟、社會、文化、軍事、國際關系帶來不可估量的重大風險，筆者從新聞真實的消解、傳播秩序的失范、輿論引導的失靈三個維度，來嘗試剖析“深度偽造”在傳媒領域引起的沖擊和挑戰。

1.新聞真實的消解。真實性是新聞得以存在的基本價值、理由和意義，是新聞報道的最高工作準則和新聞工作的終極目標?！吧疃葌卧臁钡男侣務掌?、視頻和音頻越來越逼真，無論是普通公眾抑或是專業媒體甚至是智能識別器都難辨真偽，任其發展，真實影像將被侵蝕、原始聲音會被篡改、新聞真實將被混淆、媒介生態會被污染。

2018年，加蓬軍方發布了總統阿里·邦戈“深度換臉”的虛假新聞，誤導本國民眾質疑總統履職能力，最終觸發軍隊政變。2019年，馬來西亞經濟事務部長阿茲明·阿里深陷同性不雅“深度偽造”視頻風波，其政治生涯遭到嚴重打擊。2020年，比利時總理蘇菲·威爾梅斯關于新冠病毒感染是生態危機惡果的“深度偽造”演講視頻也引發本國的巨大爭議。2020年，美國總統競選期間，奧巴馬嘲諷特朗普是蠢貨、特朗普攻擊巴黎氣候協議、拜登接受采訪時睡著的視頻，雖然后來都被證實為“深度偽造”假新聞，然而通過對總統候選人原有言語和形象微妙改變，使其品格、健康和心理狀況受到大眾質疑，完全可以影響選民的情緒和選擇。時至今日，澤連斯基宣布投降的“深度偽造”新聞仍然在互聯網散布，影響著輿論的走向。人類正在進入以信息為基礎的數字時代，新聞的深度失真引發的信息混亂和社會動蕩是極為危險的，對于政治穩定、經濟運行、國家安全的影響非常深遠。

2.傳播秩序的失范。信息是數字時代的重要經濟產品和核心社會資源，在媒介產業化的時代背景下，以“真實”“客觀”“準確”“完整”“誠信”“專業”“尊重”“平等”“責任”等倫理原則構建的傳播秩序維系著整個信息傳播過程。而一旦傳播者出于種種逐利動機，借助“深度偽造”技術傳播虛假不實或夸張變形的信息，違背了公共傳播倫理，破壞了傳受雙方間的契約原則，就會產生傳播秩序的失范，加劇網絡世界的混亂無序，由此衍生一系列新型的違法行為。

從2017年開始，美國的“深度換臉”色情視頻在網絡泛濫，眾多女明星和名人在不知情的情況下被替換成不雅視頻的主人公，肖像權和名譽權被惡意侵犯，在歐美影視圈引起強烈抗議。甚至還形成了制造、銷售深度換臉淫穢視頻的黑色產業鏈。2021年，臺灣省破獲一起案件，犯罪團伙利用“深度偽造”技術制作不雅影片，著名歌星等119人臉部被盜用制作成猥褻影片在網絡售賣，不法獲利高達1338萬臺幣?！吧疃葥Q臉”還演化為色情報復和敲詐勒索的新型犯罪工具，侵害公民的人身權和財產權。印度女記者拉娜·阿尤布因在新聞報道中揭露當地官員在屠殺事件中的不作為，有人將她的臉與色情片女主角的臉互換，合成不雅視頻在網絡惡意散布。美國女演員貝拉·索恩自曝曾被黑客以“深度偽造”色情視頻敲詐勒索。2021年，《華盛頓郵報》曾報道美國一婦女創建“深度偽造”視頻，用來騷擾她女兒高中拉拉隊中的競爭對手。她偽造了其他拉拉隊成員吸煙、喝酒和裸體的不雅視頻，然后用匿名賬戶向這些女孩發送視頻并建議她們自殺，該婦女已被逮捕并被指控犯有六項騷擾罪。此外，“深度偽造”還被用于網絡詐騙。

3.輿論引導的失靈?！吧疃葌卧臁奔夹g的濫用還引起民眾精神世界深層次的危機，產生迷茫、懷疑、恐慌、焦慮、抑郁等負面情緒，對信息真實性的懷疑和對媒體信任的衰退將使媒體公信力變得更加脆弱，進一步擠壓官方正面信息的傳播空間，最終可能引起國家和政府輿論引導的失靈。

近兩年新冠疫情影響全國，有人利用“深度偽造”技術偽造了鐘南山院士的聲音和視頻，炮制了諸多虛假信息。例如，鐘院士演講說確診患者中無一素食者感染新冠病毒、鐘南山院士趕赴滿洲里、烏魯木齊、意大利等多地抗疫，鐘院士為牛奶、草莓、藥品、保健品代言，后經官方證實皆為謠言，但傳播甚廣，謠言遠遠跑在了真相前面。另外，“深度偽造”還利用首因效應而取得先機，使得正面輿論引導糾偏非常困難。例如，2017年，印度各地陸續出現因“深度偽造”的謠言而導致市民無故被殺的案件。謠言利用合成圖片和視頻偽造了綁匪拐賣兒童販賣人體器官的虛假信息，馬哈拉施特拉邦的居民誤把5名路人當做綁匪毆打致死。雖然當地政府和警方緊急辟謠，澄清事實，但大眾不信任官方媒體，而對假消息深信不疑，以至于之后又發生13起同類案件，造成27人死亡。

四、結語

自“深度偽造”技術進入大眾視野以來，可謂毀譽參半，爭議不斷。在傳媒領域，我們要看到“深度偽造”技術在影視、新聞、廣告、娛樂對傳媒領域帶來的激烈沖擊和反噬風險?！吧疃葌卧臁奔夹g和任何新技術一樣具有雙面性，利與弊相互依存、相伴而生。怎樣用規范來約束技術的恣意濫用、規避技術異化的風險，是人類社會永恒的話題和無法回避的時代責任。要始終堅持科技以人為本的思想，推進“深度偽造”等人工智能技術的創新、研發及合法合理應用。一方面，要借鑒各國優秀的治理經驗，對已經出現的異化現象進行科學研判和積極治理，從文化觀念、法律法規、技術反制、平臺管理、內容溯源、監督機制、行業自律和媒介素養等維度，整合推進技術異化治理體系的構建與創新；另一方面，要警惕潛在和未知的技術異化風險，大力開展技術預測工作，創建具備高度前瞻性的風險預判制度和完善的突發危機應急管理制度，保障人工智能技術以向善的力量推進社會發展。