基于深度學習的“變臉”技術Deepfake的現實威脅

黎凌　郭曦

摘要：Deepfake是人工智能的為基礎的圖像合成技術。它能復制任何人的臉到任何視頻中并且惟妙惟肖。任何技術的出現都是雙刃劍，好的方面是大大縮短制作周期，降低視頻制作難度和成本，顯著增強視頻呈現效果;另一方面技術它也帶來現實威脅且影響巨大，為此對Deepfake的現實威脅進行了研究。

關鍵詞：Deepfake;換臉;威脅;GANs;造假視頻

引言

很多人看過吳宇森的經典之作《變臉Face/Off》。“變臉”這樣的效果需要大量的資金和專業團隊才能完成，而今一個人、一臺電腦、幾張照片就能實現。愛因斯坦幾十年前預言奉勸人們呆在家中對抗新冠病毒視頻（圖一）。但很顯然這是假的，這是位視頻特效師疫情期間一個人在家用Deepfake技術完成的假視頻。

一、Deepfake的起源

2017年末 Reddit社區一位昵稱為“Deepfakes”的用戶發布篡改過的女明星換臉色情視頻。女明星與色情的信息標簽，讓視頻迅速傳播，引起了社會軒然大波。視頻效果看起來就像那個人真的干了某些事。自此Deepfake憑借逼真換臉效果廣為人知。Reddit社區的始作俑者將自己的技術代碼開源。這項技術吸引了相當多的人前來研究并不斷“改良”并同樣公之于眾。

二、淺談Deepfake的原理

Deepfake的理論基礎GANs（生成式對抗網絡，論文《Generative Adversarial Nets》中提出），原理是讓兩個網絡相互競爭，一個網絡制造假圖片，一個網絡檢造假照片，這樣進入到相互博弈的過程，直到出現無法發現破綻的圖片。

更形象的比喻，生成器是造假幣的犯罪分子，而判別器是警察，犯罪分子不斷造出假幣，警察鑒別發現各種漏洞，這樣就迫使犯罪分子不斷提高造假手段最終造出一張無限接近真實的假幣。這也就是GANs的核心目的，從數據中生成全新樣本。

三、Deepfake的現實威脅

1.Deepfake帶來的影響首當其沖指向女性

報告《DeepFake現狀：前景、威脅和影響》指出，互聯網96% Deepfake視頻是色情視頻，目標是女星。波士頓大學教授 Danielle Citron 曾表示，“Deepfakes 已經成為了攻擊女性的武器。"

普通女性面對的困擾不這么簡單，造假視頻讓她們很有可能面對敲詐、報復、惡意誹謗等財產和名譽風險行為。

2.deepfake技術被應用到灰色地帶甚至犯罪

在國內給一百多元，提供一張照片，就可以讓任何人成為小視頻的主角。之前這樣的活動是要在暗網中的交易，而今滲透進國內知名二手交易平臺。這讓每一個普通人的利益都有可能受損，因為你不知道自己哪天就“火”在微信群中。

更加嚴重的是，媒體報道國外一家公司的多名員工就已經被Deepfake制作的CEO假聲音，詐騙多達22萬歐元的資金。Deepfake技術的引入，讓犯罪分子手中的造假人像，造假語音等難以辨別，也令犯罪活動更加難以偵查，難以防御，難以反擊。

3.Deepfakes 技術在政治、安全等方面的影響是巨大深遠的

“無論是視頻音頻，還是文本，我們社會依賴和信任的多個數字通信渠道都已遭到了顛覆。”一位研究者如是說道。2018 年，非洲加蓬總統 Ali Bongo因為患上嚴重的中風而消失。但政府封鎖了消息，他的消失引發了社會的不安和某些人的躁動。為了消解人們的疑慮和懷疑，政府公布利用Deepfake制作的 Ali Bongo 錄制的新年致辭的視頻。反而引發更大的疑慮，軍方甚至以此為借口出動軍隊發動政變。

這事件表明Deepfake技術在政治活動中已經被使用，影響效果巨大到可以破壞某些政治進程改寫一個國家的歷史。

四、Deepfake技術泛濫的應當引起重視

目前涌現了大量人臉fake的軟件，如FakeApp、ZAO等等。使用者甚至完全不需要技術背景，技術“小白”可以輕松使用。

Deepfake的巨大威力讓很多人坐立不安，美國共和黨參議員盧比奧，就曾將Deepfake與核武器相提并論。

盡管大家不都認同他的看法，但這仍舊引起廣泛的關注。2019年6月美國眾議院提出法案打擊Deepfake濫用 。同年9月，Facebook、微軟聯合舉辦deepfake識別競賽，而早在2018年谷歌發布大型數據集打擊deepfake濫用。上述的外國政企界應對措施，deepfake的危害更應該引起我們的警醒。

五、結束語

時間已經來到2020年，由于新冠疫情的影響，正在深刻的塑造著當今以及未來的世界格局，這其中免不了一番國與國之間明爭暗斗。而這樣的技術我們也應當加緊制定法規來約束其發展。正如老祖宗告訴我們的：害人之心不可有，防人之心不可無。

參考文獻

[1]Ian Goodfellow .[1406.2661] Generative Adversarial Networks，2014.

[2]Deep Trace Labs .The State of Deepfakes： Landscape，Threats， and Impact 2019-09.

[3]孫妍，李玉洋.閑魚涉黃，花150元就能把你的臉安在色情視頻里.2020-08-14

http：//www.it-times.com.cn/a/hulianwang/2020/0814/32485.html.

[4]PingWest. DeepFake“換臉視頻”：當你的頭出現在A片演員身體上，2019-01-07

https：//tech.sina.com.cn/it/2019-01-07/doc-ihqhqcis3799077.shtml.

[5]伍文靚. AI 大毒瘤：96% 的 Deepfakes 視頻涉及色情，還攪動多國政局，2019-10-15

https：//www.leiphone.com/news/201910/6GlP2CNmf9I96Wu8.html.

作者簡介

黎凌（1989.12-），男，漢族，籍貫廣西柳州，本科，助理工程師，研究方向：信息安全。