從“深度合成”到“深度偽造”

李偉

一個無良網民催生的新技術

通過簡單的App操作，視頻中的一個人物就能輕易地被替換成另一個人物，表情、動作、姿態幾乎能夠完全同步。這類基于AI的人體圖像合成技術被統稱為“深度偽造”，意指通過AI深度學習的方式，將現有的圖像和視頻組合并疊加成新的圖像和視頻，達到以假亂真的效果。它最初有另外一個名稱——“深度合成”。2015年到2016年，美國的程序員圈子開始流行制作搞笑的“換頭”視頻。在此基礎上，AI深度學習的算法不斷疊加，形成了一個技術體系，被稱為“深度合成”。典型的“深度合成”技術體系主要包括人臉替換、人臉再現、人臉合成以及語音合成等4種形式。

人臉替換是指將某人（源人物）的臉部圖像“縫合”到另一個人（目標人物）的臉上，從而覆蓋目標人物的面部;人臉再現利用AI技術改變人的面部特征，包括目標對象的口鼻、眉毛、眼睛，從而操控目標對象的臉部表情。人臉再現不同于人臉替換，前者側重于改變某人的面部表情，從而讓其“看起來正在說他從未說過的話”;人臉合成可以創建全新的人臉圖像，隨機生成的人臉圖像，可以媲美真實的人臉圖像，甚至能夠代替一些真實人物的肖像，用于廣告宣傳、用戶頭像等;語音合成涉及創建特定的聲音模型，不僅可以將文字轉化成聲音，而且可以將其轉化為接近真人語調和語音節奏的聲音。例如，風靡加拿大的語音合成系統軟件RealTalk，與以往基于語音輸入生成人聲的系統不同，它可以僅基于文本輸入就生成接近真人語音的聲音。

2017年，“深度合成”技術因為一個無良網民的操作而變了味。在美國新聞網站Reddit的論壇上，一個名為“深度偽造”的用戶上傳了經過AI技術篡改的色情視頻，這些視頻中的成人演員的臉竟然被替換成了當紅明星的臉！為了吸引流量，追求商業利益，Reddit網站非但沒有對這種操作進行封殺，反而將論壇直接更名為“深度偽造”，搖身一變成為分享虛假色情視頻的線上窩點。

盡管“深度偽造”論壇因充斥大量合成的色情視頻而被美國政府勒令關閉，但這種技術開源的算法和工具性的應用不斷涌現，比如Faceswap、FakeApp、face2face等。從那時起，美歐的新聞媒體開始使用“深度偽造”一詞來指代這種基于AI的技術。

兩年前開始在國內流行

“深度偽造”技術在中國的流行始于2019年初。彼時，這種技術被稱為“AI換臉”。有影視劇愛好者將1994年版《射雕英雄傳》的一個片段在網絡上傳播開來。劇中人物黃蓉的扮演者朱茵的面孔，被換成了一位當紅的內地女明星。雖然人物的五官能夠看出不同，但換臉后的人物表情、動作自然、流暢?！白屇趁餍撬查g擁有實力派演員的演技”，這種操作風靡一時，影視劇愛好者爭相制作并傳播經典影視劇的“換臉”視頻。

互聯網時代，沒有永遠的旁觀者，人人都可以成為參與者。既然可以給明星換臉，那么自己為什么不嘗試一下呢？2019年八九月份，一種新奇的App刷屏微信朋友圈。在手機上安裝這類App，就可以在視頻模板中給自己“一鍵換臉”，把自己植入某經典影視劇的片段中。用戶體驗后的感受是：視頻中自己的臉介于某明星和自己的相貌之間，相似度超過80%。

從此，“深度偽造”技術在我國的社交平臺上流行起來。在一些互聯網平臺上搜索“換臉術”，能找到相當數量的視頻。有的是由軟件直接生成的，有的是由專門做“換臉視頻“的發燒友上傳的。

1997年，著名導演吳宇森曾執導過一部獲得第70屆奧斯卡金像獎的動作影片——《變臉》，講述恐怖分子和探員之間通過整形手術換臉后互換身份角色的故事。吳宇森或許沒有想到，20多年后，不需要實施整形手術就可實現的“AI換臉”風靡全球。

在國內，“深度偽造”技術已經在影視劇制作領域得到應用。或許有觀眾在電視劇中看到過這樣的角色：他看起來有點像演員A，但仔細看看，發現是演員B。其實這個角色最開始是由演員A飾演的，但他因個人的不當言論或行為而被封殺，導致該劇不能播出。制作方只得請來演員B救場。劇集當然不可能重新拍攝，這時候就輪到“深度偽造”技術大顯身手了。經過“AI換臉”，劇中演員A的形象全部換成了演員B。

目前“深度偽造”技術被應用于影視、娛樂和社交等諸多領域，或是被用于升級傳統的音視頻處理技術，帶來更好的影音體驗，或是被用于進一步打破語言障礙，優化社交體驗。從中長期來看，“深度偽造”技術既可以基于其深度仿真的特征，超越時空限制，豐富人們在虛擬世界的交互體驗，也可以基于其合成性，創造一些超越真實世界的“素材”。

然而，與在影視劇制作等領域的應用相比，“深度偽造”技術催生的“灰色產業”令人擔憂。在線上購物平臺搜索“AI換臉”，能找到大量音視頻。有商家提供這種定制服務，報價僅幾十元。有的商家提供PS“換頭換臉”服務，可以為用戶的照片更換背景，制作與明星的“合影”，或者將用戶的“頭”完美地“嫁接”到明星的身上，不僅能實現正臉替換，還能將側臉換成正臉。也有商家表示，可以定制“AI換臉”視頻，制作“穿越大片”、實施形象包裝。制作這類視頻的收費標準一般為每分鐘60元左右。

察覺風險? 審慎回應

AI的快速發展，使得“深度偽造”技術不斷迭代，尤其是“生成對抗網絡”（GAN）技術的出現，使得“深度偽造”技術不僅所需的數據量下降，而且產品質量也比前幾代版本大幅提高?！吧疃葌卧臁弊鳛橐环N技術工具，能讓“偽造物”具有高度的真實性。這種技術優勢意味著，它可以在很多領域發揮作用。

2017年以來，有關“深度偽造”技術的開源軟件在全球各國涌現。其開發成本大幅降低，并且能夠被不具備專業知識的普通人輕易地使用。制作這類視頻不需要高超的技巧，AI算法與面部映射軟件結合，在偽造的內容中嵌入一個人的聲音、面孔和體態等身份信息，“一鍵”便可制作想要的視頻。

上傳自己的“臉”，就能把諸多明星的表演換成自己的“表演”——這類技術帶來有趣體驗的同時，也引發人們對隱私、版權、安全等方面的擔憂。

“深度偽造”技術泛濫帶來的一個嚴重后果，就是使信息的真實性面臨嚴峻挑戰。自從攝影技術、視頻、射線掃描技術出現后，視覺文本的客觀性就在法律、新聞以及其他社會領域被慢慢建立起來，成為真相的代表，或者說，它們是反映真相的最有力的證據。“眼見為實”成為這一認知權威的通俗表達。在這個意義上，視覺客觀性源自特定的專業權威體制。

然而，“深度偽造”的技術優勢和“游獵”特征，使得這一專業權威體制遭遇前所未有的挑戰。借助這種技術制作出的視覺文本，有了與事實不同乃至完全相反的內容和涵義，造成了視覺文本的自我顛覆，也就從根本上顛覆了客觀性或者真相的生產體制。

PS技術出現并被廣泛應用后，“有圖”不再“有真相”。“深度偽造”技術的出現，則讓原本代表著真相的視頻變成了鏡花水月。這對于本來就“假消息滿天飛”的互聯網來說，無疑進一步造成“信任崩壞”。

迄今為止，可以說立法是滯后于“深度偽造”技術發展的，催生了一定的“灰色地帶”。“深度偽造”技術生成的圖像和視頻，基本上都是由AI從零開始創建的，而且可以不受限制地用于任何目的，不必擔心版權、傳播權、侵權賠償和版稅等問題。因此，這也帶來了“深度偽造”圖像及視頻的版權歸屬問題。

“深度偽造”行為一旦被利益相關者發現，誰有權刪除數據？違法者或侵權者制作的信息，是否具備權利屬性？當社交平臺發現疑似“深度偽造”視頻時，是否可以簡單地通過刪除來規避責任？這種行為是否會阻礙信息傳播自由？

在注意力經濟興起的社會背景下，與“深度偽造”的博弈是一場“有關真實的游戲”。在以AI為技術基礎的“后真相時代”，“深度偽造”進一步用超越人類識別能力的技術，模糊了真與假的界限，并將真相開放為“可加工的內容”，供所有參與者使用。“深度偽造”開啟的是普通人參與視覺表達的新階段。然而，這種表達方式也給整個社會帶來了更大的挑戰。察覺風險，審慎回應，應該是我們做出努力的第一步。