“深度偽造”技術的刑法規制體系構建

李騰

摘?要：作為人工智能應用的重點領域，“深度偽造”技術借助于“深度學習”技術和“生成式對抗網絡”模型，能對影音圖像進行高精度合成。刑法規制“深度偽造”技術的必要性在于該技術易被濫用;正當性源于對該技術的自主性、便捷性、逼真性等特征及其隱患的審視;可行性基于域外有對該技術進行規制的立法經驗。我國刑法規制“深度偽造”技術應秉持以下立場：以客觀、中立的態度審視該技術的風險與收益，合理控制刑法介入的深度，以發揮刑法的預防機能為目標。具體可采取三條規制路徑：通過強化個人生物識別信息的刑法保護，從前端防范“深度偽造”技術被濫用;通過增設“身份冒用罪”，強化個人身份的刑法保護，規范“深度偽造”技術的合理使用;通過“通知—刪除”“發現—標識”“發現—刪除”義務的履行，強化網絡平臺的刑事責任，預防“深度偽造”的危害后果傳播。

關鍵詞：“深度偽造”;社會危害;刑法介入;應然立場;規制路徑

中圖分類號：D924.1?文獻標識碼：A

文章編號：1003-0751（2020）10-0053-10

一、“深度偽造”技術帶來實踐挑戰

2019年8月底，一款名為ZAO的智能換臉軟件爆紅網絡，該軟件依托“深度偽造”（deep fake）技術，用戶只需在該軟件的應用程序中注冊并上傳自己的頭像照片，即可將視頻中人物的頭像更換為自己的。該款智能應用程序的推廣，使得“換臉”對公眾而言不再是難以企及的高端科技，任何人都可以享受“換臉”帶來的娛樂，甚至體驗一次成為經典影視劇主角的快感。但是，僅僅數天后，該款應用程序設計團隊便因用戶隱私協議不規范、存在數據泄露風險等網絡安全問題而被工信部約談，隨即該款應用程序被微信屏蔽訪問。①智能換臉應用程序的“夭折”隱含全社會對“深度偽造”技術被濫用的擔憂。

在美國，“深度偽造”技術走紅同樣引發諸多道德和法律問題。早在2017年11月，美國社交新聞網站紅迪網（Reddit）的一位用戶便通過“深度偽造”技術，將電影《神奇女俠》中女主角加爾·加多（Gal Gadot）的臉嫁接到色情電影中，并將該視頻上傳至網絡，引發了極大轟動。2018年1月，“深度偽造”技術的應用程序正式上線，換臉的對象從公眾人物迅速擴展至親友、同學、同事之間，加劇了合成視頻在網絡的傳播，紅迪網不得不關閉“深度偽造”技術討論區以減少該技術被濫用的可能性。同年，加拿大蒙特利爾大學三名博士聯合創辦的一家名為“琴鳥”（Lyrebird）的公司更是開發出了“語音合成”軟件，只要對目標人物的聲音進行1分鐘以上的錄音，再將錄音“喂”給該軟件進行學習，就能得到一個特別的密鑰，利用這個密鑰就可以用目標人物的聲音偽造出任何想說的話。②由此，經過“深度偽造”技術處理的視頻、聲音成為具有高度欺騙性的影音資料，使人們不僅陷入“耳聽為虛”的窘境，更陷入“眼見不為實”的認知混亂，而換臉技術與語音合成技術的疊加適用更增加了合成視頻的辨別難度，也加劇了各界對“深度偽造”技術被濫用的擔憂。

作為人工智能技術發展的新興領域，“深度偽造”技術確實能增加社交的互動性、娛樂性，這種功效與國家大力扶持人工智能產業發展的初衷是一致的。但是，“深度偽造”技術被濫用會引發諸多風險，甚至造成嚴重的危害后果。面對“深度偽造”技術的“兩面性”，刑法應當秉持何種立場來看待技術革新？在國家尚未對人工智能發展建立完備的法治體系的背景下，該如何平衡對自由價值的崇尚與對秩序價值的追求？面對“深度偽造”技術被濫用的風險，刑法應以何種路徑對該技術進行規制？回應上述議題不僅能使我們正視“深度偽造”技術發展的利弊并將其限制在合理的應用場景，更能在宏觀層面厘清刑法介入技術發展的程度，理順技術發展與社會應用的關系，以刑事法治保障社會福祉的增加。

二、“深度偽造”技術的解構

當前，“換臉”已經成為合成視頻應用的代名詞，其所依托的“深度偽造”技術也進入大眾視野。“深度偽造”作為“深度學習”（deep learning）與“偽造”（fake）的融合，通常是指基于人工智能合成技術，將已有的視頻、音頻、圖片疊加至目標影片或圖像上，從而創制出新的影音圖像的技術。③隨著技術的革新，“深度偽造”技術已經不限于視頻、音頻、圖像的合成與偽造，而成為涵蓋現實偽造與虛擬現實創制的應用技術。“深度偽造”技術的應用所涵蓋的領域包括：第一，通過對視頻中的人臉進行更換，使被替換者能夠實施自己從未有過的行為;第二，通過對目標對象的口型、語速和面部表情進行重塑，使目標人物表達出非真實性的言論;第三，通過對目標人物的聲音進行學習，創制出目標人物的聲音模型并進行非真實性的語義表達;第四，通過軟件創建現實中并不存在的人物形象。④日本人工智能公司數據網格（Data Grid）開發的人工智能軟件已經能自動生產虛擬人物的全身模型，并將之應用于未來的服裝行業。⑤由于音頻圖像合成技術發展得較為成熟，“深度偽造”技術在實踐中主要被用于對視頻、音頻的合成。上述技術也可以疊加應用，如通過人臉和語音的雙重偽造，創制出某一政治家從未發表過的演講視頻。厘清“深度偽造”技術通過何種運作機理完成上述合成過程，無疑是理解該技術的基礎，也是確立刑法在何種程度上介入這一新興技術領域的前提。

“深度偽造”技術合成的視頻、音頻之所以能起到以假亂真的效果，主要緣于“學習—監督”算法的設定與應用：一方面通過“深度學習”技術的應用，使程序具有對樣本進行深度分析、轉化、重構的能力，能在短時間內提煉出樣本視頻、音頻、圖像的共性，合成新的密鑰，在此基礎上創制學習成果并予以輸出;另一方面通過“生成式對抗網絡”算法模型的設定，使“深度偽造”技術能夠自動、反復地對已生成的視頻、音頻、圖像進行修正、重構，并在自動學習的過程中不斷提升成果質量，達到“溫故而知新”的效果。

（一）“深度學習”技術為“深度偽造”提供算法支撐

“深度學習”作為人工智能在智能化進程中的核心技術，為“深度偽造”技術的發展提供了算法支撐。“深度學習”技術通過相互聯結的多層次神經網絡，對輸入的數據進行分布式信息儲存、大規模并行處理，并根據設定的程序對數據進行計算分析，完成設定的任務。“深度學習”技術能在短時間內完成對視頻、音頻、圖像的學習并輸出新合成的影音圖像，這成為“深度偽造”走向智能化的技術基礎。以換臉程序的應用為例，當海量的樣本圖片被“喂”給“換臉算法”后，“換臉算法”會對不同場景、角度、光線圖片下的目標人臉進行識別，轉換為不同的二進制編碼，并對上述二進制編碼的共性進行提煉，形成新的目標人物的二進制編碼。此后，“換臉算法”會將新合成的目標人物逐幀映射到原有視頻人物的面部，形成新的視頻影像，以此完成對樣本圖片的轉化、分析、重構。前文提及的“琴鳥”公司創制的“語音合成”軟件也是基于同樣的運作原理，即將目標人物的聲音進行輸入并轉換為二進制編碼，在長時間的語音編碼的基礎上將目標人物的語音特點進行提煉，形成新的二進制編碼，他人只要利用這套編碼進行語音轉換，就可生成目標人物的語音內容。

“深度學習”技術通過模擬人腦的運行規律，在此基礎上構建一套能夠不斷優化學習的神經網絡，連續對目標數據進行轉換學習，在大量目標數據的基礎上提煉出目標數據的共性。隨著算法訓練數據量的增大，“深度學習”技術所提煉出的目標數據的共性特征愈發精確，最終輸出的算法結果也愈發接近目標數據。只要給予“深度學習”技術足夠的樣本數據，其合成高質量的視頻、音頻內容就只是時間問題。伴隨著云計算在人工智能領域的廣泛運用，在短時間內合成視頻、音頻不再有技術障礙。

（二）“生成式對抗網絡”算法模型不斷優化“深度偽造”合成效果

“深度學習”技術為“深度偽造”創制合成視頻、音頻提供了基礎算法，但真正促進“深度偽造”技術向高質量邁進的是“生成式對抗網絡”算法模型的構建。不同于傳統“深度學習”技術所采用的單鏈條學習網絡，“生成式對抗網絡”采用兩條并行的學習神經網絡，在互動式對抗中逐步優化學習結果。其中，第一條學習神經網絡通過對“深度學習”技術的應用，初步創制出合成的影音圖像;第二條學習神經網絡通過將合成的視頻、音頻與樣本數據進行對比，對合成效果進行二次驗證;如果合成數據與樣本數據之間的差異達到一定比例，則新合成的視頻、音頻會被退回到第一條學習神經網絡中重新進行學習、分析、提煉，直到檢測結果符合設定的誤差范圍。正是在這種“對抗式”學習過程中，“深度偽造”技術不斷進行自我學習、自我優化，也正是在這種“雙向互動式”學習過程中，兩種算法通過相互監督，不斷改進，直至產生高質量的影音圖像。在“生成式對抗網絡”模型設計中，兩條學習神經網絡中的一條擔負著生成功能，另一條擔負著鑒別功能，兩者能在大數據的“喂食”下不斷進行無監督學習，各自在進行算法訓練的同時督促對方算法的提升。因此，當訓練數據足夠充分時，“深度偽造”技術創制出的視頻、音頻完全能起到以假亂真的效果。

三、對“深度偽造”技術進行刑法規制的證成

“深度偽造”是人工智能技術的綜合運用，其為現代生活帶來娛樂體驗的同時，也會帶來諸多風險。當風險演化為現實危害時，就需要刑法介入，將該技術限制在合理的應用場景。

（一）刑法規制的必要性：對“深度偽造”技術造成現實危害的隱憂

影音圖像的合成并非新興技術，其關注度空前高漲只是由于此前合成技術的應用具有較高的壁壘而與普通大眾無緣。令人遺憾的是，合成技術借助于“深度偽造”技術“走下神壇”，卻以“異化”的方式進入公眾視野。隨著2017年紅迪網上虛假成人情色視頻的出現，“深度偽造”技術以一鳴驚人的方式完成了首秀，此后其實踐應用日益呈現出“異化”的趨勢。繼前文提及的加爾·加多之后，《哈利·波特》中赫敏的扮演者艾瑪·沃特森（Emma Watson）、《這個殺手不太冷》中女主角的扮演者娜塔莉·波特曼（Natalie Portman）甚至美國總統特朗普的女兒伊萬卡·特朗普（Ivanka Trump）都曾成為合成情色視頻的受害者。在我國，部分網站上兜售的明星情色視頻也使眾多女性成為“深度偽造”技術被濫用的受害者。⑥這些合成視頻本已嚴重侵犯被害人的名譽權、肖像權等基本權利，再被用來騷擾、侮辱、勒索被害人時，更會給被害人帶來二次傷害。⑦此外，當運用“深度偽造”技術制作的合成視頻被用于“人臉驗證”領域時，又會造成他人財產損失，特別是在支付型應用程序中，行為人通過制作“眨眼”“搖頭”等視頻以模擬被害人，騙過應用程序對活體認證的要求，便可實施貸款、盜刷資金等侵財行為，“深度偽造”技術由此淪為犯罪工具。⑧

如果說“深度偽造”技術被應用于上述場景僅會對個體法益造成侵害，尚不足以引起重視，當該技術借助于對他人身份的冒用而影響社會穩定時，就會造成更大的危害。特別是當虛假視頻、音頻配合著謠言在網絡上進行擴散時，不僅會突破時空的限制，加劇控制難度，還極有可能導致社會秩序陷入混亂與無序。⑨例如，當“深度偽造”技術被應用于金融領域時，可能引發金融體系整體性動蕩。由于金融市場具有對信息高度敏感的特性，任何一條敏感信息的傳遞都會迅速引發金融市場波動，當行為人制作“黑天鵝”事件的虛假視頻并通過網絡進行傳播時，在金融市場缺乏預期的情況下，這一虛假視頻無異于重磅炸彈，資金出于避險需求必然在極短時間內大幅流出金融體系，繼而引發證券、債券、外匯市場的連鎖反應，嚴重影響金融市場的穩定和預期。⑩同理，在我國全力迎戰新冠肺炎疫情期間，如果有人利用“深度偽造”技術制作出某權威專家發表“疫情不可防、不可控”的虛假視頻，就極有可能引發全社會的不穩定。在信息爆炸時代，民眾對信息的真偽雖然有一定的鑒別能力，但當謠言以視頻的形式出現時，不僅深度契合“眼見為實”的認知共性，更在權威專家“背書”的基礎上大幅增加謠言的可信度，由此導致虛假視頻、音頻的影響范圍越廣、影響深度和危害性越大。當“眼見不為實”成為社會常態時，必然會對長期延續下來的認知體系產生強烈沖擊，激起人們對一切事物的懷疑，直接沖擊社會信任體系。B11由此導致在公共場合需要使用視頻、音頻以佐證相關行為時，出現無法進行有效證明的窘境，社會信任的基石受到侵害。

上述情況足以引發社會秩序的動蕩與不安，但“深度偽造”技術被濫用的危害還不止于此。如果該技術被用于挑撥國家關系，則世界范圍內地區穩定、國際關系穩定都會陷入不確定的風險之中。當“深度偽造”技術被用于制造國家間宣戰畫面或者創制并不存在的恐怖襲擊畫面時，極有可能引發國家間的過激反應或者將國家間的對立、沖突推向無法挽回的境地。這種假設并非危言聳聽。當前，“深度偽造”技術已經能通過對2小時語音資料的深度學習，在5天內合成特朗普代表美國向世界任何國家宣戰的語音，語音合成效果真假難辨。B12德國有研究者在“深度偽造”技術的應用上已經能將其欲表達的語義及相應的表情變化復制到一些國家領導人的講話視頻中。B13難以想象，這樣的音頻或視頻的傳播會對本已摩擦不斷的世界造成何種影響。

正是由于“深度偽造”技術的濫用會引發對個人人身權利、財產權利的侵害，引發社會秩序混亂甚至對國家安全、世界安全造成威脅，所以對“深度偽造”技術應用的擔憂并不是空洞的設想。這為刑法介入技術發展以防范技術被濫用奠定了現實基礎。

（二）刑法規制的正當性：對“深度偽造”技術的特征及其隱患的審視

單純的影音圖形合成并非新興技術，“深度偽造”技術之所以引發社會的擔憂，主要源于該技術帶來的視頻、音頻合成方式變化為其被濫用提供了極大的便利。較之傳統的視頻、音頻合成技術，“深度偽造”技術的特征主要表現為以下三點。

第一，視頻、音頻合成的“自主性”。“深度偽造”技術改變了傳統視頻、音頻合成路徑，使系統生成視頻、音頻具有自主性，不僅大大提升合成效率，還極大地降低合成成本。“雖然電影特效和深受廣大網民喜愛的‘PS技術都是‘無中生有的偽造，但它們是被動性偽造，依賴個體參與，是單一的、獨立性的偽造。而深度偽造借助人工智能技術，可以實現機器的自主學習，偽造的行為脫離了人的參與，通過人工智能的計算機程序自動完成。它將偽造從被動性偽造推入了自主性偽造的全新階段。”B14傳統的視頻合成技術不僅需要大量工作人員對目標人臉的特征進行提取、重構并在視頻中逐幀進行替換，還需要工作人員根據講話內容再對目標人臉的嘴型進行修正。這一過程不僅需要專業團隊的協作、耗費大量的時間，還難以保證視頻合成效果的流暢性。但是，“深度偽造”技術使實踐中對目標人臉特征的提取、轉化、重構工作完全基于“深度學習”后的自動化運作，極大地降低了各項成本投入。

第二，視頻、音頻合成的“便捷性”。在“深度偽造”技術被廣泛應用之前，視頻、音頻合成不僅具有專業技術門檻，還需要高昂的費用，普通民眾對此望而卻步。因此，在較長時間內，高質量的視頻、音頻合成技術的應用場景主要限于商業影視劇制作領域，難免陷入“曲高而和寡”的境地。但是，“深度偽造”技術的興起打破了技術、成本壁壘，視頻、音頻合成成為大眾科技。伴隨著網絡公司通過應用程序對“深度偽造”技術進行推廣，“深度偽造”技術的受眾面愈發廣泛，其技術門檻進一步降低。只要自己的電腦、手機有足夠的運行程序，每個人都可以享受“換臉”帶來的愉悅感。

第三，視頻、音頻合成的“逼真性”。“深度偽造”技術基于“對抗式生成網絡”，使應用程序在“生成—鑒別”模型中能夠不斷對樣本數據進行分解和重組，而每一次“學習—監督”過程的淬煉都會使目標人臉的替換效果更上一層樓。正是在這種無監督學習的模型設計中，“深度偽造”技術能不斷對合成過程進行打磨，不斷對合成效果進行升級。如果樣本數據足夠充分，目標人物表達不同感情時所對應的面部表情、在不同光照下面部影像的成像規律甚至在不同場景中動作習慣的細微變化，均能被“深度偽造”技術捕捉并予以演繹。“深度偽造”技術合成比人工識別更加精準，制作效果更加逼真。

由于“深度偽造”技術具有“自主性”“便捷性”“逼真性”特征，使得高質量的影音圖像合成成為易于掌握的技能，但受眾群體過于廣泛易引發各種后果，加劇了人們對“深度偽造”技術的隱憂。如果視頻、音頻合成被用于服務社會，自然能增進全社會的福祉;但事實是，網絡的互聯互通已經將世界聯系為一個整體，數據的跨境流動已成為常態，獲取任何人的視頻、圖片都不再是難事，通過“深度偽造”技術的應用能夠對視頻、圖片進行深度學習、完成偽造并將之應用于任何場景。特別是對公眾人物而言，涉及其面部特征、語音特征的樣本數據較多且易于獲取，通過“深度偽造”技術進行大樣本的學習和模仿，所制造出的合成視頻、音頻不經過專業性的技術鑒別就難判真偽，由此引發的危害后果實難控制和預防。這更加決定了刑法應當有所作為，對“深度偽造”技術的應用進行規制。

（三）刑法規制的可行性：對“深度偽造”技術相關域外立法的借鑒

針對“深度偽造”技術被濫用所引發的危害后果，有的國家出臺了專門性立法對該技術的應用場景進行限制，并將部分濫用該技術的行為視為犯罪行為予以規制。這為我國對“深度偽造”技術的濫用進行刑法規制提供了經驗借鑒。

作為“深度偽造”技術的發源地，美國嘗試在聯邦和州兩個層面通過立法規制該技術的濫用。在聯邦層面，2019年6月，由眾議員Clarke提出的《深度偽造責任法案》（Deep Fakes Accountability Act）旨在防止本國及外國勢力利用“深度偽造”技術對美國大選進行干預，要求合成視頻創制者以在視頻中添加水印及個人聲明的方式對“深度偽造”技術進行應用;B15對于違反標識義務，意圖羞辱他人或者干擾政治運作、引發武力或外交沖突而發布合成視頻的行為，將面臨最高5年監禁的刑事處罰。B16在州層面，2019年7月，弗吉尼亞州對《復仇情色法案》（Nonconsensual Pornography Law）進行修正，將利用“深度偽造”技術合成他人情色視頻、圖片并予以傳播的行為定義為“未經他人同意而將他人的色情視頻、圖片予以傳播”的犯罪行為，對該行為可判處最高12個月監禁及2500美元罰款。B17由此，弗吉尼亞州成為美國第一個對“深度偽造”技術進行立法回應的地區。同年9月，旨在防止“深度偽造”技術影響選舉公正性并保障選舉安全的得克薩斯州《以虛假視頻干預選舉結果的刑事犯罪法案》（Relating to the Creation of A Criminal Offense for Fabricating A Deceptive Video with Intent to Influence the Outcome of An Election Bill）生效，該法案將利用“深度偽造”技術在選舉30日內制作有關候選人的虛假視頻并進行傳播的行為規定為犯罪行為。B18同年10月，加利福尼亞州通過了《730號議會法案》（Assembly Bill No.730），將在選舉前60日內制造、傳播經過篡改的有關政治家、選舉候選人的視頻、音頻、圖像的行為視為犯罪行為。B19與美國的治理模式不同，歐盟并未針對“深度偽造”技術出臺專門性立法，而是以《通用數據保護條例》（General Data Protection Regulation）為依據，將數據權作為獨立的憲法性權利和公民基本權利予以保護，以規范數據采集、儲存、保管、應用流程，應對“深度偽造”技術被濫用對公民身份的冒用和隱私的侵犯。B20

從上述立法例可以看出，域外立法以刑事責任規制“深度偽造”技術被濫用的邏輯在于：限制該技術的應用場景，對以影響選舉為目的制作并傳播合成視頻、音頻、圖像的行為予以限制或禁止，對制作、傳播未經他人同意的合成色情視頻、音頻、圖像的行為予以禁止;通過要求制作者對使用“深度偽造”技術制成的視頻、音頻、圖像進行標記，防止該技術被用于非法場景;通過加強前端生物識別信息和數據權利保護，防范“深度偽造”技術被濫用。

我國尚未針對“深度偽造”技術出臺專門性法規，但2019年11月18日國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局聯合印發的《網絡音視頻信息服務管理規定》（以下簡稱《規定》）明確要求，網絡音視頻信息服務提供者、使用者在對基于深度學習和虛擬現實技術合成的視頻、音頻信息進行制作和傳播的過程中，應當進行明顯的標識，同時不得利用上述技術制作、發布、傳播虛假新聞。B21這一方面通過明確制作者的標識義務以區分視頻、音頻是否系合成，另一方面通過禁止“深度偽造”技術在新聞信息領域的應用而限制該技術的應用范圍，確保新聞信息發布的準確性、權威性。《規定》通過具體的技術路徑設置展現了國家層面對“深度偽造”技術應用要區分場景的規制態度，對于未來出臺相關國家立法具有指導性意義。由于《規定》對“深度偽造”技術應用場景的區分不夠細化以及缺乏配套的規制措施，使得其缺乏可操作性。例如，個人基于娛樂的目的，利用“深度偽造”技術將自己或朋友的頭像與經典影片中的情節合成新的視頻并在社交網站上與他人分享，但并未履行標識義務，對此行為該如何規制？《規定》中并沒有具體的應對措施。再如，有人利用“深度偽造”技術對央視新聞聯播的內容進行拼接、合成并在網絡上傳播，但系以幽默、詼諧的方式贊揚國家發展成就，該行為是否屬于《規定》禁止的偽造新聞行為而應一律禁止？這恐怕也值得商榷。對于視頻、音頻的制作者未履行《規定》中的標識義務和禁止適用義務，《規定》中并沒有相應的規制措施。這就使得《規定》的宣示意義大于實踐價值，造成法律保護的缺位。

一般而言，對于技術的規制，應當先從民事法律、行政法律規制開始，最后才用刑法規制。但是，由于“深度偽造”屬于新興技術，現行民事法律、行政法律針對該技術的規范尚不完善，在此情況下，刑法應當有所作為，直接對濫用該技術造成嚴重社會危害的行為進行獨立評價。

四、刑法規制“深度偽造”技術的應然立場及路徑展開

技術創新的刑法規制是一個永恒的難題，規制過多會限制技術的發展與應用甚至阻礙技術創新，規制缺位會使技術被濫用而導致嚴重的危害后果。因此，當刑法介入技術創新時，需要在頂層設計上確立規制的應然立場，在此基礎上進行規制路徑完善。

（一）刑法規制“深度偽造”技術的應然立場

通常而言，技術的發展與革新是沿著從技術原理向實踐應用轉化再向意識形態階序發展的脈絡演進的，在技術逐漸社會化的過程中，刑法介入的程度應當愈發深入，并最終形成刑法規制與技術發展的平衡狀態。B22但是，對于“深度偽造”技術，不能完全按照上述階序演化路徑進行刑法規制。因為“深度偽造”技術創立之初就呈現出“異化”的趨勢，由此引發的技術被濫用的隱憂已經超過了技術紅利帶來的娛樂體驗，刑法的介入更顯急迫。這就需要首先確立刑法對“深度偽造”技術進行規制的基本立場，再以此為基礎進行規制路徑展開，通過逆向治理思維完成對“深度偽造”技術進行刑法規制的頂層設計。

1.宏觀立場：以“兩面性”視角控制規制的深度

“深度偽造”技術應用的差異化會導致兩極化的結果。該技術被用于損害他人人格、危害社會管理秩序、危害國家安全，導致潛在的風險向現實危害后果轉化時，需要刑法的強勢介入;該技術被應用于社交、娛樂場景時又顯露出“友好面相”，“可以讓電影、紀錄片等藝術創作突破時空限制，以更真實的方式呈現，也能實現替身演員演出等效果;可以給通過視頻進行的批評、諷刺、戲仿等提供新的表達形式;可以創造虛擬主播來播報新聞、天氣預報等內容;也可以給醫療、零售、娛樂等領域提供更具親和力的人形問診機器人、虛擬客服、虛擬偶像等”B23。因此，刑法應承擔起應有的職責，強化對技術扭曲使用行為的制裁，控制和約束技術的濫用;同時，刑法應當控制對技術行為的評價深度，以保護正常的技術應用活動。B24正是基于“深度偽造”技術的“兩面性”特征，美國社交網站Facebook在過去兩年間并未禁止“深度偽造”視頻在該網站上傳播。

在全球面臨第四次科技革命的背景下，實現關鍵領域的核心技術突破成為國家間科技競爭的主要角力場，也成為我國國家競爭力實現“彎道超車”的關鍵。這就要求我國刑法在對“深度偽造”技術進行規制時，既要考慮該技術被濫用的危害，又要兼顧該技術在實際應用中的有效性。回顧我國信息化發展的歷程可以看出，我國對大數據、物聯網等新興產業采取普遍支持的態度，在一些國家禁止使用的人臉識別技術在我國公共場所也得到普遍使用。對于以“深度偽造”技術為代表的人工智能發展，我國應以“兩面性”視角進行合理的限制。限制技術的應用場景而非完全禁止技術的應用，是刑法介入“深度偽造”技術領域的應然立場。

2.微觀立場：以預防機能實現規制的效果

對于“深度偽造”技術被濫用，可以適用我國《刑法》中的若干罪名。例如，當該技術被用于侵犯公民名譽、財產時，可以以侮辱罪、盜竊罪、（信用卡）詐騙罪甚至傳播淫穢物品（牟利）罪對相關行為予以規制;當該技術被用于侵犯公共法益時，可以根據實行行為所侵害的具體法益類型，以編造并傳播證券或期貨交易信息罪、損害商業聲譽罪、編造或故意傳播虛假信息罪、偽證罪、辯護人或訴訟代理人偽造證據罪予以規制;當該技術被用于侵犯公共安全、國家安全時，可以以煽動分裂國家罪、煽動顛覆國家政權罪、宣揚恐怖主義或極端主義或煽動實施恐怖活動罪、戰時故意提供虛假敵情罪、戰時造謠擾亂軍心罪、戰時造謠惑眾罪對危害行為予以規制。上述罪名為規制濫用“深度偽造”技術的行為提供了相對完整的刑事制裁體系，但這套產生于農業社會、成熟于工業社會的刑法理論與刑罰觀念過度強調事后懲罰而忽略事前預防，在信息社會呈現出規制的無效性和適用的滯后性。B25這種缺陷突出表現在：如果說“深度偽造”技術被用于侵犯個人法益時，刑法的事后規制尚能使被侵害的社會關系得以恢復，當“深度偽造”技術被用于危害國家、公共安全時，所造成的嚴重危害往往難以通過事后懲治予以補救。特別是網絡的無限延展性和無國界性使得“深度偽造”技術被濫用的危害后果傳播具有不可控性、危害性呈數量級增長，行為的社會危害性遠遠超過刑罰的嚴厲性，更加凸顯刑法的事后懲戒機制在網絡治理領域的無效性。因此，近年來，刑法預防機能的發揮得到更多提倡，“預備行為實行化”“幫助行為正犯化”“民事、行政違法行為犯罪化”等理論在刑事立法中得以彰顯，刑法規制的行為類型愈發向前端延伸，旨在將危險后果控制在萌芽狀態。B26對于“深度偽造”技術的刑法規制同樣應強化對前端行為的制裁，突出刑法的預防機能，將實然性危害消滅于萌芽狀態。

（二）以“信息保護+應用治理+平臺監管”模式構建刑法規制路徑

“深度偽造”技術的刑法規制是一項系統性工程，從底層數據收集到中層對數據加工處理的算法指令再到上層數據和算法的最終應用，構成規制的重要維度。B27在多層次規制維度中，算法治理屬于技術發展的范疇，刑法對此不宜過多介入;數據治理和應用場景限制是刑法規制“深度偽造”技術的重點領域。此外，隨著網絡平臺在網絡社會結構中發揮樞紐作用、扮演著“準政府”的角色，不斷強化網絡平臺的監管責任成為刑法規制“深度偽造”技術的重要抓手。B28由此，可以構建“信息保護+應用治理+平臺監管”的刑法規制路徑，充分發揮刑法的預防機能，確保“深度偽造”技術在刑事法治體系下有序發展。

1.強化個人生物識別信息的刑法保護

濫用“深度偽造”技術行為的本質是借助于他人的生物識別信息實現身份冒用，這就要求刑法特別關注該技術應用的前端保護，強化對侵犯個體人臉特征、語音特征等生物識別信息行為的規制，減少個人身份信息相關數據被濫用的可能性。事實上，換臉軟件事件中直接導致ZAO應用程序下架整改的原因并非單純的對換臉技術本身的擔憂，還包括該款應用程序在用戶協議中要求用戶或肖像權人同意ZAO及其關聯公司永久保留、存儲、轉讓、使用用戶肖像，從而引發了對個人生物識別信息泄露的擔憂。B29

當前，“由于社會數據化進程的加快，各種之前不被關注的個人信息所具有的潛在價值被逐步挖掘，以往單純的、沒有意義的‘碎片變為了對主體自身具有重要價值的‘信息，越來越多的個人信息需要被納入法律的保護范圍”B30。特別是隨著對生物識別信息進行研究和應用的社會探索的加快，生物識別信息已經成為全方位“解鎖”個人信息的密鑰。以人臉信息為例，由于人臉具有穩定性、易于識別、易于采集的特征，使得人臉識別技術成為人工智能迅速擴展的領域，已經在手機解鎖、智能支付、門禁安防、交通出行、金融認證甚至公共安全監控識別領域得到全場景推廣應用。當各個應用場景都對人臉信息進行識別和驗證時，不僅完成對個體人臉信息的抓取與保留，還能通過人臉這道“門”與既有數據庫中的個體數據進行關聯、對比，于是個體的身份信息、行蹤軌跡、電話號碼、收入狀況、消費習慣等信息均可能遭到泄露。人臉的功能從體現個人外在形象的社會屬性逐漸呈現出具有個體特質的私人屬性，人臉信息也從公開信息逐漸演化為個人隱私信息。最關鍵的是，由于人臉、聲音等外在生物特征能被以非接觸的方式予以采集和應用，個體極有可能在無意間被第三方獲取個人生物識別信息，該信息作為唯一身份標識一旦泄露，身份被冒用的風險極高且由于個人難以追索控制，最終會對個體的人身權利和財產權利造成不可逆的損害。B31因此，人臉信息已經不是傳統技術條件下的公開信息，其已經成為事關個人身份、財產、隱私的個人機密敏感信息。“深度偽造”技術無疑能放大個人生物識別信息被濫用的危害性，因而通過刑法規制“深度偽造”技術也是信息化時代強化個人信息保護的必然要求。

在我國，《全國人民代表大會常務委員會關于加強網絡信息保護的決定》《網絡安全法》《刑法》以及《最高人民法院、最高人民檢察院關于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》（以下簡稱《解釋》）共同構成規制侵犯公民個人信息行為的刑事制裁體系。其中，《全國人民代表大會常務委員會關于加強網絡信息保護的決定》《網絡安全法》作為前置法明確將個人生物識別信息作為公民個人信息的應有之義予以保護B32，《解釋》再次確認了對具有身份識別功能的生物識別信息的刑法保護B33。但是，由于司法機關對公民個人信息的認識仍停留于對信息隱私特性的保護，導致實踐中司法資源過多投放到對個人身份信息及個人活動信息這類具有較強隱私屬性的信息的保護上，對人臉、聲音這些具有較強外在社會交往屬性的生物識別信息卻有意無意地忽視了，從而造成刑法保護的缺位。因此，在現有刑法體系下，激活刑法對個人生物識別信息的保護顯得尤為迫切。這要求司法機關深刻認識到，不同于一般的個人信息，生物識別信息是與個人的身份、財產密切相關的個人機密敏感信息，需要投入更多司法資源加以保護。司法機關應當通過侵犯公民個人信息罪的實踐擴容，加大對個人生物識別信息的刑法保護，從源頭減少人臉、聲紋等個人生物識別信息數據被通過“深度偽造”技術進行濫用的可能性。

2.通過增設罪名規制身份冒用行為

在“深度偽造”技術被濫用的過程中，法益侵害直接指向對他人身份的冒用。因此，在強化前端個人信息保護的同時，刑法應著重規制“深度偽造”技術的使用過程，通過限定該技術的應用場景、明確技術使用者的責任，將該技術的應用規范在有序狀態下。一方面，當使用者基于娛樂的目的，制作自己、同學、親友及他人的合成影音圖像時，由于該類行為并不具有社會危害性，故不應以刑法進行評價。但是，由于“深度偽造”技術的高度模仿性使得合成的影音圖形有可能被他人用于違法犯罪場景，所以制作者、傳播者仍應謹慎地使用“深度偽造”技術。制作者、傳播者可通過履行如下義務，作為免責的依據。首先，使用者不得將“深度偽造”技術應用于色情、暴力、恐怖主義等違法犯罪場景;其次，使用者應當履行標識義務，在利用“深度偽造”技術合成影音圖像時進行明顯的標記;最后，對于法律、法規、行政規章在現階段及未來列舉的“深度偽造”技術應用場景“負面清單”，制作者、傳播者應當恪守。由此，可以充分發揮“深度偽造”技術在商業、娛樂領域的正向價值。另一方面，當使用者未經他人同意而使用“深度偽造”技術制作他人的影音圖像時，由于合成的影音圖像可以被用于后端的違法犯罪行為，所以即便合成的內容不違法，合成行為也構成對他人身份的冒用。特別是隨著個人生物識別信息在“識別”“認證”中的作用愈發凸顯，利用“深度偽造+個人生物識別信息”更易完成對他人身份的冒用，使得該類行為的危害性愈發明顯，應當將該類行為納入刑法規制體系。

我國《刑法》中存在一批針對身份冒用行為的罪名，招搖撞騙罪、冒充軍人招搖撞騙罪以及使用虛假身份證件、盜用身份證件罪均是直接規制身份冒用行為的罪名，合同詐騙罪、信用卡詐騙罪、妨害信用卡管理罪中也附隨對身份冒用行為的評價。但是，上述罪名體系無法完全涵蓋利用“深度偽造”技術實施的身份冒用行為。招搖撞騙罪的冒充對象是國家機關工作人員，冒充軍人招搖撞騙罪的冒充對象是軍人，此兩個罪名均是針對特殊群體的立法保護，利用“深度偽造”技術對其他群體身份的冒用不在其規制之列。使用虛假身份證件、盜用身份證件罪的犯罪對象是法定的身份證明文件，所規制的是行為人通過偽造、變造、盜用他人居民身份證、護照、社會保障卡、駕駛證等法定證明證件進行身份冒用的行為等行為類型，對利用他人生物識別信息進行身份冒用的行為無法予以規制。合同詐騙罪、信用卡詐騙罪、妨害信用卡管理罪均是將身份冒用行為作為手段行為進行評價的，如果行為人未實施后續的取財、領卡行為，則身份冒用行為不再進行單獨評價。因此，現有的刑法罪名無法對濫用“深度偽造”技術進行身份冒用的行為進行評價。“在信息高度發達的當今社會，身份承載了更多的價值和內容，各種身份信息成為電子交易、入學就業的憑證，例如身份證號碼、姓名、性別、出生日期、職業、銀行戶名及賬號、家庭住址等，這些信息在某種程度上成為確認一個人身份的手段和憑證。一方面，信息社會中獲取他人身份信息相對簡便和成本低廉，盜竊身份的違法犯罪行為開始不斷增多，另一方面，伴隨著個人身份信息承載了越來越多的作為謀取便捷、舒適生活的手段，甚至可以作為實施犯罪的‘通行證，身份犯罪開始爆發式增加。”B34身份冒用行為的危害性增加與相應的刑法規制缺失的狀態日益凸顯。身份冒用不是新型危害行為，近幾年來被媒體曝光的冒名頂替上大學事件就是該行為危害性的真實寫照。在這些事件中，身份被冒用者不只是失去了公平的求學機會，甚至整個人生被改寫。在互聯網背景下，借助于“深度偽造”技術的身份冒用行為將成為一種更加常態化也更具有社會危害性的行為，刑法有必要通過增設“身份冒用罪”對該行為進行規制B35。

3.強化網絡平臺的刑事責任，預防危害后果傳播

互聯網歷經Web1.0“人機互動”到Web2.0“人人互動”再到Web3.0“空間互動”的迭代升級，已經逐漸擺脫工具屬性，成為人們互動交流的秩序空間。在現實空間與網絡空間并存的雙層社會體系下，網絡平臺已經逐漸擺脫被管理者的角色而越來越多地承擔網絡空間的管理、自治義務，扮演著管理者的角色。B36作為信息交互、數據留存、秩序維護的中樞場所，網絡平臺既能導致“深度偽造”技術被濫用的危害后果呈數量級增長，也能將這種危害后果控制在“襁褓”之中，因而不斷強化平臺監管的刑事責任是規范“深度偽造”技術的有效方式。

我國《刑法》以拒不履行信息網絡安全管理義務罪、非法利用信息網絡罪、幫助信息網絡犯罪活動罪三個罪名構建了網絡平臺運營的刑事責任，然而，由于“深度偽造”技術的應用成果、應用場景兼具違法與合法的可能性，導致實踐中網絡平臺主體對合成影音圖像的內容存在認識錯誤。在現行司法解釋尚未對上述罪名的類型化特征進行總結的前提下，筆者認為當前應以“通知—刪除”義務的履行作為規范罪名適用的標準，在未來技術成熟時以“發現—標識”“發現—刪除”義務的履行作為評價網絡平臺主體刑事責任的依據。

從科技發展趨勢來看，對“深度偽造”技術及其傳播內容的審查必然成為網絡平臺審查義務的應有之義。B37但是，由于“深度偽造”技術的識別尚不成熟且通過技術合作的方式識別“深度偽造”技術的應用會增加網絡平臺的運營成本，所以真正能使用“深度偽造”識別技術并對“深度偽造”技術的內容進行實質審查的僅限于少數互聯網頭部平臺。從刑法適用的平等性、均衡性的角度出發，目前應以“通知—刪除”義務的履行作為評價網絡平臺主體罪與非罪、此罪與彼罪的標準，以預防“深度偽造”技術被濫用后果的傳播。具體而言，網絡平臺主體應當履行如下義務：其一，負有對合成的影音圖像內容進行審查的義務，對有涉黃、涉暴、涉恐等內容的影音圖像，應當予以刪除以防止其傳播。其二，除了網絡平臺自查，當利用“深度偽造”技術合成的影音圖像被相關監管部門指出其應用場景違法或者被權利人主張侵權時，網絡平臺應當對該影音圖像進行內容審查，若其涉嫌違法則應予以刪除。如果上述“通知—刪除”義務得以積極履行，就表明網絡平臺運營者對“深度偽造”技術被濫用的危害后果持排斥態度，從而不以刑法予以評價;反之，根據網絡平臺運營者的主觀認知，分別以拒不履行信息網絡安全管理義務罪、非法利用信息網絡罪、幫助信息網絡犯罪活動罪進行具體評價。

在將來反向識別技術發展得相對成熟時，對“深度偽造”技術的審查將成為網絡平臺的應然義務，屆時應當將“發現—標識”“發現—刪除”義務作為平臺主體刑事責任的內容。對于通過“深度偽造”技術識別出的合成影音圖像，網絡平臺運營者應當區分以下情形予以處置：首先，將內容違法的影音圖像予以刪除;其次，對屬于“深度偽造”技術創制的影音圖像未加標記的，通過添加水印、標識的方式提醒公眾知悉;最后，對利用“深度偽造”技術創制的影音圖像屬于應用場景違法的，予以刪除。2019年11月國家互聯網信息辦公室等部門印發的《網絡音視頻信息服務管理規定》明確禁止“深度偽造”技術在新聞信息領域的應用，隨著后期相關立法的出臺，必將有“深度偽造”技術應用場景“負面清單”為網絡平臺附加更多審查義務，網絡平臺不僅要基于破解技術識別出“深度偽造”視頻，還要對屬于“負面清單”管制范圍、違反“負面清單”應用場景的合成影音圖像及時予以刪除。通過不斷強化網絡平臺的實質審查義務，有助于預防“深度偽造”技術被濫用的危害后果傳播。

五、結語

在人類進入智能化時代的征途上，新興科技的突破性發展帶來歡喜與隱憂的情況是并存的。這也激發人們對新興科技治理規則的探索熱情。在抒發熱情之余，更應秉持一份理性，既要通過規則的設定與落實，使新興科技為我所用，又要避免科技發展走向失序的深淵，要讓科技的歸科技、法律的歸法律。

注釋

①B29參見蔡淑敏：《從爆紅到被整改，換臉App“ZAO”降溫》，《國際金融報》2019年9月9日。

②B14參見李懷勝：《濫用個人生物識別信息的刑事制裁思路》，《政法論壇》2020年第4期。

③See Brandon J. Terrifying High-tech Porn： Creepy 'Deepfake' Videos are on the Rise， http：//www.foxnews.com/tech/terrifying-high-tech-porn-creepy-deepfake-videos-are-on-the-rise.

④參見苗爭鳴：《可怕的“深度偽造”技術》，《世界知識》2019年第22期。

⑤See DJ PANGBURN. You've been Warned： Full Body Deepfakes are the Next Step in AI-based Human Mimicry， http：//www.fastcompany.com/90407145/youve-been-warned-full-body-deepfakes-are-the-next-step-in-ai-based-human-mimicry.

⑥參見揭書宜：《不雅視頻將女明星換臉成主角售賣：涉多重違法》，澎湃新聞網，https：//www.thepaper.cn/newsDetail_forward_4326898，2019年12月24日。

⑦See Douglas Harris. Deepfakes： False Pornography is Here and the Law cannot Protect You， Duke L. & Tech. Review， 2019， Vol.99.

⑧參見明樂齊：《網絡黑產犯罪的趨勢與治理對策研究》，《山東警察學院學報》2019年第4期。

⑨參見劉憲權：《網絡造謠、傳謠行為刑法規制體系的構建與完善》，《法學家》2016年第6期。

⑩參見王帥：《“深度偽造”的法律風險與防范》，《中國城鄉金融報》2019年12月20日。

B11參見王祿生：《論“深度偽造”智能技術的一體化規制》，《東方法學》2019年第6期。

B12See Micheal Chertoff and Anders Fogh Rasmussen. The Unhackable Election： What It Takes to Defend Democracy， 98 Foreign Aff.， 160（2019）.

B13B15See Mary Frost. Clarke Introduces Bill to Combat High-tech Altered Videos， https：//brooklyneagle.com/articles/2019/06/14/clarke-introduces-bill-to-combat-high-tech-altered-videos/.

B16See H.R.3230- Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019，http：//www.congress.gov/bill/116th-congress/house-bill/3230.

B17See Waldman Ari Ezra. A Breach of Trust： Fighting Nonconsensual Pornography， lowa Law Review， 2017， No.2.

B18See Bill Title：Relating to the Creation of A Criminal Offense for Fabricating A Deceptive Video with Intent to Influence the Outcome of An Election， https：//legiscan.com/TX/text/SB751/id/1902830.

B19參見李桐佑：《美加州立法禁“深度偽造”視頻》，環球網，https：//news.ifeng.com/c/7qbaZk1sS4u，2020年1月22日。

B20參見商希雪：《生物特征識別信息商業應用的中國立場與制度進路》，《江西社會科學》2020年第2期。

B21《網絡音視頻信息服務管理規定》第11條規定：“網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識。網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息。轉載音視頻新聞信息的，應當依法轉載國家規定范圍內的單位發布的音視頻新聞信息。”

B22參見于志剛：《網絡安全對公共安全、國家安全的嵌入態勢和應對策略》，《法學論壇》2014年第6期。

B23曹建峰：《深度偽造技術的法律挑戰及應對》，《信息安全與通信保密》2019年第10期。

B24參見于志剛：《網絡空間中培訓黑客技術行為的入罪化》，《云南大學學報》（法學版）2010年第1期。

B25參見于志剛：《中國網絡犯罪的代際演變、刑法樣本與理論貢獻》，《社會科學文摘》2019年第5期。

B26參見孫萬懷：《違法相對性理論的崩潰》，《政治與法律》2016年第3期。

B27參見石婧、常禹雨、祝夢迪：《人工智能“深度偽造”的治理模式比較研究》，《電子政務》2020年第5期。

B28參見于志剛：《中國互聯網領域立法體系化建構的路徑》，《理論視野》2016年第5期。

B30于志剛、吳尚聰：《我國網絡犯罪發展及其立法、司法、理論應對的歷史梳理》，《政治與法律》2018年第1期。

B31參見付微明：《個人生物識別信息的法律保護模式與中國選擇》，《華東政法大學學報》2019年第6期。

B32《全國人民代表大會常務委員會關于加強網絡信息保護的決定》第1條規定：“國家保護能夠識別公民個人身份和涉及公民個人隱私的電子信息。”《網絡安全法》第76條第5款規定：“個人信息，是指以電子或者其他方式記錄的能夠單獨或者與其他信息結合識別自然人個人身份的各種信息，包括但不限于自然人的姓名、出生日期、身份證號碼、個人生物識別信息、住址、電話號碼等。”

B33《最高人民法院、最高人民檢察院關于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》第1條指出，“能夠單獨或者與其他信息結合識別特定自然人身份”的信息屬于公民個人信息。

B34于志剛：《關于“身份盜竊”行為的入罪化思考》，《北京聯合大學學報》（人文社會科學版）2011年第1期。

B35筆者的設想是：將“身份冒用罪”作為我國《刑法》第280條第2款進行規定，同時將該條第1款即使用虛假身份證件、盜用身份證件罪的法定刑提升為“情節嚴重的，處3年以下有期徒刑、管制或拘役”，“情節特別嚴重的，處3年以上7年以下有期徒刑”兩檔，與該條規定的其他罪名相協調。“身份冒用罪”的具體內容可設計為：“冒用他人身份，情節嚴重的，處三年以下有期徒刑、拘役或管制，并處罰金;情節特別嚴重的，處三年以上七年以下有期徒刑，并處罰金。”

B36參見于志剛：《“雙層社會”中傳統刑法的適用空間》，《法學》2013年第10期。

B37See Jack M. Balkin. Free Speech in the Algorithmic Society： Big Data， Private Governance， and New School Speech Regulation， 51 U.C.D.L. Review， 2018， Vol.51.

責任編輯：鄧?林