《民法典》視野下深度偽造技術的法律風險與規則應對

賈章范

清華大學，北京 100084

一、問題的提出

2019年8月30日，陌陌公司旗下的“換臉”軟件ZAO正式發布。該軟件利用深度偽造技術將網絡用戶的面部特征替換至影視片段中的相關角色，從而實現具有高度相似性的“一鍵換臉”。隨后，該軟件因《用戶使用協議》涉嫌過度索取個人信息、存在數據泄露風險等問題而引起社會輿論高度關注。2019年9月3日，工業和信息化部網絡安全管理局就網絡數據安全問題約談陌陌公司負責人，并對個人信息安全保護、新技術安全評估和風險防范等問題作出相應要求[1]。其實，早在2017年11月，匿名網絡用戶u/deepfakes就在社交門戶網站Reddit上傳了與影視明星相關的偽造視頻，深度偽造技術進入社會公眾視野，并呈現出快速發展趨勢，諸多社會公眾人物成為深度偽造技術的受害者。

“深度偽造”（deepfake）是深度學習（deep learn-ing）和偽造（fake）的合成詞，是一種基于深度學習和機器學習而生的新興技術，能應用于視頻偽造、語音合成、圖像替換、筆跡模仿等領域，并產生具有高度相似性的逼真效果[2]。雖然利用計算機技術對視頻或圖片進行編輯的現象已屢見不鮮，但直接將不相關言語和行為與特定個人相聯系，并產生以假亂真效果的應用程序仍屬罕見。隨著深度偽造技術的發展和“一鍵換臉”等類似應用的普及，非專業人員也能快速制作出具有高度相似性且難以識別的圖片和視頻。

在傳統社會語境下，視頻和音頻曾是對現實的可靠記錄，但深度偽造技術有可能改變這一傳統認知觀念，并對個人認知、社會秩序和國家安全產生影響。由于深度偽造技術引發社會公眾關注的時間較短，我國學界對該技術引發法律問題的研究剛剛起步，因此，筆者嘗試從深度偽造技術的應用原理和適用現狀入手，分析深度偽造技術在不同維度上可能引發的法律風險，并提出相應風險規避措施和應對方法，以期為深度偽造技術的正確使用提供參考。

二、深度偽造技術的應用原理及適用現狀

（一）深度偽造技術的應用原理

深度偽造技術依托于多個節點組成的神經網絡，通過數據供給方式訓練出相應算法模型，并以新的數據模型取代原有數據模型。與傳統數據生成方式相比，由Goodfellow團隊在2014年提出的生成對抗網絡（GAN，Generative Adversarial Networks）為深度偽造技術的產生提供了無監督學習的理論模型，生成模型（Generative Model）和判別模型（Discriminative Model）組成了生成對抗網絡的主要模塊，并在互相博弈的過程中提升彼此訓練速度[3]。具體而言，生成模型的任務是在深度學習大量數據的基礎上生成新數據，而判別模型的任務在于識別其中修飾成分，并重新修改識別出來的數據發回生成模型，直至判別模型無法識別出修飾部分時，生成的數據才能成為下一步技術處理的“原材料”。在這場類似于零和博弈的模型訓練中，生成模型和判別模型通過交替優化方式達到無法區分修飾部分的目的，這也是深度偽造視頻具有高度相似性和難以識別性的重要原因。

以面部替換的深度偽造算法為例，技術設計者先從網絡空間內獲取大量被替換者視頻或圖片，并用生成對抗網絡中的生成模型偽造出替換者面部特征數據，再通過對抗模型對比被替換者與替換者的面部特征數據，挑選出判定為“真”的面部數據作為人臉替換新“材料”，繼而借助新的靜態影像材料合成動態深度偽造視頻，判定為“假”的面部數據將發回生成模型重新修飾，直至對抗模型無法識別而判定為“真”。從理論方面推演，只要有足夠多的人臉數據和實驗樣本，深度偽造技術總能把任意對象的面部數據更換為被替換者的面部數據。

（二）深度偽造技術適用現狀及特征

荷蘭網絡安全公司Deeptrace在2019年9月發布了全球第一份深度偽造技術應用情況調查報告《深度偽造的狀況：范圍、威脅和影響》（The State of Deepfakes:Landscape，Threat，and Impact）。通過具體案例分析和數據對比方式，分析深度偽造技術的應用現狀和潛在風險，以此管窺深度偽造技術的應用現狀及特征①本部分主要數據均來源于此報告。。

1.視頻數量快速增長，技術應用門檻降低。根據報告顯示，截至2019年9月，以英語為語言載體的深度偽造視頻數量接近1.5萬個，而在2018年12月，該種類視頻數量僅為7 964個。在不到九個月的時間里，深度偽造視頻數量近乎翻倍。這種趨勢與非專業人員能夠利用簡單開源代碼制作深度偽造視頻緊密相關。從技術發展歷程來看，深度偽造技術作為專業復雜的計算機算法，其應用需要以海量計算機數據和專業人員的人為干預為前提，一般社會公眾并不具備對數據進行精準標注和訓練的能力。但隨著算法模型日益成熟，尤其是2017年11月匿名網絡用戶u/deepfakes上傳深度偽造技術的開源算法后，非專業人士在計算機系統輔助下可簡單生成相關偽造視頻。與之相類似，陌陌公司的軟件ZAO能夠輕易實現“一鍵換臉”，其原因也在于大型互聯網公司將業已成熟的計算機算法應用于日常生活場景，不斷提升的精準度和趣味性使所有人均可能成為深度偽造技術的應用者和受害者。甚至在軟件ZAO上線當晚，服務器消耗當月三分之一儲存量，陌陌公司不得不因訪問人數過多而采取相應限制措施，“換臉軟件”的民眾參與度可見一斑。

2.對特定群體的風險。從職業分布來看，被侵權者中絕大多數為娛樂行業和新聞傳媒領域從業人員，還包括少部分政治人物和企業家。深度偽造技術對娛樂行業和新聞行業人員的侵害多體現在人身權利侵害，而對政治人物和企業家的侵害多體現在散布虛假信息，從而影響企業運營、社會秩序和國家安全。美國戰略與國際研究中心在2019年10月發布了《相信你的眼睛？深度偽造政策簡介》的研究報告，指出深度偽造技術對社會秩序、個人權利和國家的威脅。

3.技術快速發展，偽造產物具有高度相似性。根據Deeptrace報告顯示，在生成對抗網絡引起公眾關注之前，該領域研究成果不足百篇，但僅在2017年，便有469篇相關論文問世。至2019年9月，該領域新的研究成果已達到1 207篇，足見深度偽造技術研發之快速。與技術研發相適應的是，深度偽造技術生成結果真實度越來越高，大多數人無從分辨。來自斯坦福大學、普林斯頓大學、德國馬克斯普朗克信息學院和Adobe研究院的多名研究者運用深度偽造技術，將財經電視臺的原報道“蘋果股價收盤于191.45美元”更改為“蘋果股價收盤于182.25美元”。研究者邀請了138名用戶參與關于“視頻編輯”的調研，并事先告知受試者視頻有深度偽造可能。最終結果顯示，仍然有59.6%的受試者認為被這項技術編輯過的視頻是真實的視頻，20%的受試者認為未經編輯過的視頻反而為假[4]。

三、深度偽造技術的法律風險及其法經濟學分析

從表面來看，深度偽造技術是將他人生物特征移轉給其他主體或虛構他人行為和言論，這些并非因深度偽造技術而生的新事物，只是將技術難度降低至社會公眾亦可操作的程度。但與傳統偽造方式相比，深度偽造技術通過數據積累和算法設計合成虛假視頻，其高度真實性和難以證偽性易使其他社會主體產生錯誤認知，整體社會信任機制可能會受到嚴重影響。因此，深度偽造技術的法律風險源于其作為侵權手段、虛假信息和先進算法所引發的社會風險，從法經濟學角度分析深度偽造技術應用機制，能夠為深度偽造技術的規制和應用提供不同方法進路，為深度偽造技術利用提供法律借鑒和思考。

（一）作為侵權手段的成本收益分析

從應用現狀來看，深度偽造技術有可能催生出侵害個人人身或財產的黑色交易鏈條。

隨著大數據產業和人工智能技術發展，深度偽造技術將使得針對特定個人的精準詐騙更為猖獗，法國保險公司Euler Hermes曾發布相關客戶因深度偽造技術而受騙的報告。網絡詐騙分子模仿并合成了德國母公司首席執行官的語音音頻，對該公司下屬一家未具名的英國能源公司進行詐騙。子公司首席執行官誤判該音頻真實性，并向相關匈牙利供應商支付了24.3萬美元。隨后，該費用被轉移，Euler Hermes將這些損失作為公司欺詐保險政策的一部分給予賠償[5]。

深度偽造技術能夠為黑色交易鏈條提供更為便捷和隱蔽的交易機會，針對特定個人的精準詐騙和網絡攻擊成本顯著降低，而相關行為的成功率和收益將獲得提升。對于受害人而言，他們甚至無法得知自己是否被侵權、被誰侵權、侵權視頻的傳播范圍等基本事實。若受害人希望證明深度偽造視頻為假，記錄所有生活細節的不在場服務（alibi service）可以成為一項選擇[6]，但這種以犧牲隱私為代價的維權成本亦是受害人無法承受之重。簡而言之，深度偽造技術有可能為相關侵權行為打開便捷的通道，侵權人的侵權成本降低，收益顯著提升，而受害人卻深陷于權益遭受侵害而不知和維護權利而不能的尷尬局面。

（二）虛假信息傳播的負外部性考量

深度偽造技術生成的圖像、語音和視頻等除自身非真實性外，其社會危害性的考量還來源于因傳播行為而生的負外部性。雖然深度偽造的圖像或視頻本身即有侵害他人權利的可能，但其負外部性的溢出卻與這些圖像或視頻傳播密不可分。從負外部性角度分析，行為人對他人和社會利益產生影響，而受影響的個人或社會卻無法獲得相應補償，恢復原有秩序的費用也得不到相關生產者的考量。因此，負外部性效應的解決需要綜合考量社會資源使用方式，由雙方互相妥協或規定資源使用范圍和方式。在深度偽造視頻傳播過程中，由于網絡空間非直接接觸性，難以實現偽造視頻制作者和受害人協商，因此規定資源使用范圍和方式更為可行。美國參議院情報委員會在2019年1月發布的《全球威脅評估》指出，競爭對手可能嘗試使用深度偽造技術或類似機器學習技術以制作令人信服但非真實的圖像、音頻和視頻文件，從而影響美國及其盟友與合作伙伴，也可能利用信息網絡直接操縱或干擾選舉系統。

以美國眾議院議長南希·佩洛西（Nancy Pelosi）“醉酒案”為例，在一段偽造視頻中，佩洛西說話結巴、舉止怪異，如同醉酒一般。該視頻被美國前總統特朗普轉載于“臉譜網”上，引發社會公眾對佩洛西身體健康狀況的擔憂，該視頻獲得了250萬次點擊量，佩洛西不得不反復向公眾證明自身并不存在身體健康問題，并對相關視頻真實性進行調查和分析。因此，深度偽造技術在政治領域的不當應用可能引發國家秩序混亂。即使在真實信息傳播過程中，深度偽造技術也有可能被反對者利用，從而擾亂社會秩序。因此，應嘗試將深度偽造技術限定于特定應用領域，或禁止在某些領域內使用，并將該領域相關視頻推定為真實，從而減少虛假信息傳播過程中的負外部性。

（三）先進算法加劇信息不對稱

“算法”一詞最早由波斯數學家Al-Khwarizmi在公元9世紀提出，本意為阿拉伯數字的運算法則，并在20世紀中葉發展成為計算機科學核心概念[7]。作為深度偽造技術的核心算法，生成對抗網絡的產生推動了計算機科學發展。技術研發者常以技術中立和科學發展作為對抗輿論質疑的理論工具，但技術中立本質在于應用領域及是否會給他人和社會帶來損害，技術中立不能作為侵權人的免責理由，也不能以技術中立為由回避人工智能發展的商業偏好、善惡價值和社會風險[8]。深度偽造技術的工具屬性不會受到法律的否定性評價，但技術不當利用加劇了受害人因不知侵權行為而生的信息不對稱風險，濫用該技術帶來的人身或財產損害需要受到法律否定性評價。從傳播受眾角度分析，互聯網上早已存在通過視頻剪輯或修改配音的方式改編影視作品中的經典片段，但這種行為只是借助影視作品中角色發表對當前社會的評論或利用其他方式對影視片段重新解讀，觀看者能夠區分出原有視頻和經過編輯的視頻，后者不足以讓社會公眾產生不合理信賴，在特定視頻場景內并不存在信息不對稱情形。即使這種視頻有可能產生侵害保護作品完整權的風險，但可以從原有視頻的合理使用、現有視頻的獨創性等角度規避，通常不會引發社會公眾信任風險。

在傳統侵權行為中，受害人通常會知悉自己的人身或財產受到損害，并能夠及時確定侵權主體，保存侵權行為證據，尋求法律途徑救濟。而深度偽造技術的不當應用改變了大多數傳統侵權行為的直接接觸性，技術操作者可以在受害人完全不知情的情況下制作虛假影音視頻，因信息不對稱導致受害人不知損害存在的風險極高，遑論追究操作人的責任。有學者指出，否認開發者“全能性”和超越算法“工具性”特質使得結果監管往往不能達到預想目的[9]。因此，從信息不對稱角度來看，增加被侵權人知悉侵權行為的可能和機會，防止其他社會主體對信息真實性產生錯誤認知，能夠有效遏制深度偽造技術的不當應用，降低偽造視頻的社會危害性，并為受害人維權提供相應證明材料。

四、法律救濟與規則應對

2019年2月，嗶哩嗶哩網站用戶“換臉哥”用深度偽造技術將《射雕英雄傳》中出演黃蓉角色的朱茵更換成楊冪，該話題在微博平臺上產生1.2億次閱讀量和2.7萬次討論。隨后，視頻制作者刪除了相關視頻，并聲明制作視頻只是用于技術交流，未從中盈利。以“楊冪換臉朱茵”視頻作為學術討論典型事例，并嘗試從權利救濟和規則應對角度分析。

（一）現有法律救濟的可能途徑

1.肖像權保護路徑。從現有民事權利框架來看，肖像權和名譽權與“換臉視頻”直接相關。肖像權是自然人以自身肖像所體現的利益為內容的權利，包含肖像享有權、肖像制作權、肖像使用權和禁止侵害權[10]。我國《民法典》第一千零一十九條第一款對深度偽造技術做出回應，丑化、污損、利用信息技術手段偽造等均屬于侵害他人肖像權的行為，行為人應當承擔民事責任。雖然有學者認為，利用信息技術手段偽造他人肖像的行為并不一定會導致丑化、污損他人肖像的結果，將上述三種并列作為侵害肖像權的方式并不妥當，且深度偽造技術實質上侵害了受害人的肖像自主權，而該部分內容可為《民法典》第一千零一十九條第二款所涵蓋，無須將“利用信息技術手段偽造”單獨作為侵害肖像權的事由[11]。但筆者認為，在《民法典》二審稿制定過程中，以軟件ZAO為代表的深度偽造技術引發了社會公眾對新興技術濫用和個人信息泄露的強烈擔憂，立法者將深度偽造技術納入《民法典》約束范圍反映了《民法典》與時俱進、回應社會實踐的品質。值得注意的是，行為人不僅侵害了替換人的肖像權，同時也侵害了被替換人的肖像權，而后者肖像權常受到忽視。在“楊冪換臉朱茵”的視頻中，視頻制作人不僅侵害了楊冪的肖像權，還侵害了朱茵的肖像權，朱茵亦可基于肖像權受到侵害而要求視頻制作者刪除該視頻。

2.名譽權保護路徑。名譽負載社會整體對該主體的總體評價，因此具有表彰人格尊嚴的價值[12]，名譽權即為免除名譽遭受侵害之權利[13]。在我國立法和司法實踐中，侵害名譽權方式主要分為侮辱和誹謗兩種，“名譽權如何構成”也常轉化為對侵害名譽權類型的總結，借助類型化思維對名譽權進行保護。判斷利用深度偽造技術進行視頻制作的行為是否侵害名譽權，應主要判斷該行為是否構成侮辱或誹謗他人，造成他人名譽損害。在“楊冪換臉朱茵”視頻中，朱茵飾演的黃蓉靈動俏皮，備受稱贊，視頻制作者將朱茵的面部特征更換為楊冪后，眾多網友紛紛稱贊楊冪“演技”有所提升，并表示“毫無違和感”。從名譽權保護的客體來看，社會公眾對楊冪和朱茵的社會評價并未因該視頻而降低，因此該視頻并不構成對楊冪和朱茵名譽權的侵犯。這與軟件ZAO上的“換臉視頻”類似。該軟件上存在眾多“換臉”素材，網絡用戶可以將影視片段中角色的臉換成自身面部特征。該行為的違法性體現在未經他人同意而更改他人肖像，并非因該視頻制作帶來被替換人名譽的貶損。在一定程度上，類似視頻的真實性受到影視片段中特定場景約束，該軟件在操作程序中明確標明制作人和制作軟件，相關視頻傳播通常不會導致社會公眾產生錯誤信任。當然這種情形并非適用于所有情況。如將他人面部特征應用于帶有侮辱、誹謗、貶損性質的視頻，倘若行為人制作了類似視頻但并未通過網絡傳播，受害人在得知后，是否一定無法通過名譽權獲得法律救濟？筆者認為，視頻制作人將他人肖像應用于貶損、侮辱他人的視頻中，行為本身侵害了他人肖像權，但就名譽權侵權而言，視頻制作行為增加了名譽受侵害風險，而受害人得知即意味著該視頻已進入傳播領域，名譽受侵害風險已成為現實損害，除非視頻制作者能夠證明該視頻不存在被第三人知曉的可能性，否則，應當認定該行為侵害了他人名譽權。

3.個人敏感信息保護路徑。面部特征是表明自然人身份最直接信息，也是自然人在社會交往中最直接的“名片”。在傳統社會語境中，人臉信息主要受到肖像權保護，目的在于防止未經自然人同意而使用他人肖像或惡意丑化、污損他人肖像。隨著大數據和人工智能技術發展，面部特征信息被無處不在的攝像頭采集、識別和分析，圍繞社會治理和個人隱私保護的利益衡量也在不斷探索和博弈，過度采集和使用人臉信息越來越成為當下亟待應對的社會問題。根據2018年5月生效的《信息安全技術個人信息安全規范》（GB/T 35273—2017），個人敏感信息（personal sensitive information）是指一旦泄露、非法提供或濫用可能危害人身和財產安全，易導致個人名譽、身心健康受到損害或歧視性待遇的個人信息，包括身份證件號碼、個人生物識別信息、銀行賬號、通信記錄和內容、財產信息、征信信息等內容。面部特征信息屬于自然人特有的個人生物識別信息，應當歸屬于個人敏感信息，不能被其他主體隨意收集、使用和存儲。未經他人同意而收集、使用他人的人臉信息，或用深度偽造技術進行“換臉”，該行為本身屬于對個人敏感信息的侵害，受害人有權要求行為人停止侵害、消除影響、賠禮道歉，并在造成精神損害時予以賠償。

4.知識產權保護路徑。從知識產權保護視角分析，深度偽造視頻的制作人還可能侵害原有視頻著作權人和表演者權利。原有視頻為完整作品的一部分，未經著作權人的同意對原有部分進行篡改，侵害原有視頻著作權人的修改權和保護作品完整權。人臉“更換”并不屬于改變原有視頻的創造性表達，偽造視頻無法得到《著作權法》保護。這也意味著，偽造視頻在傳播過程中可能會侵害著作權人的信息網絡傳播權和演員的表演者權。在“楊冪換臉朱茵”視頻中，偽造視頻的制作者侵害了《射雕英雄傳》著作權人的修改權和保護作品完整權，也在傳播過程中侵害了著作權人的網絡信息傳播權。同時，觀眾無法從偽造視頻中識別朱茵個人，其表演內容也受到篡改和歪曲，偽造視頻制作者侵害了朱茵的表演者權。

（二）深度偽造技術的規則應對

1.視頻制作者征求多重同意的義務。在深度偽造視頻的制作過程中，偽造視頻制作者應當考慮到該行為可能溢出的負外部性，而解決方式在于由制作者自行承擔該行為可能引發的社會風險。具體而言，制作偽造視頻的行為與替換人、被替換人和原有視頻的著作權人緊密相關，深度偽造視頻的制作者應當征求上述三位主體同意。多重同意機制看似過于嚴苛，在實踐中也會產生偽造視頻制作人負擔過重、多重同意機制難以實現等問題，但該機制目的在于防范深度偽造視頻對肖像權和個人敏感信息的侵害，減少互聯網空間非直接接觸性帶來的信息不對稱，保障受害人知情權和同意權。換言之，只要受害人能夠證明偽造視頻由特定個人制作且未經其同意，即可確認行為違法，減輕受害人舉證負擔。

但行為具有違法性并不代表一定會承擔相應法律責任，為達到權利人保護與促進技術發展相平衡目的，在一些特殊情形下可以免除當事人法律責任。例如，為實現科學研究、課堂教學、國家機關執行公務、個人學習或欣賞等目的時，征求多重同意義務可以在一定情形下得到豁免。原因在于，深度偽造技術作為一項新興計算機算法，過于嚴苛的制度設置會限制技術發展空間，且該技術確實能滿足部分社會公眾的學習或娛樂需求。該需求并不因制度嚴苛而消失，與其設置過高條件致使使用者普遍違法，不如在制度設計時仔細考量相關價值需求和行為目的，在加強受害人核心利益保護的同時，為客觀存在的社會需求和技術發展保有一定空間。美國眾議院議員伊維特·克拉克（Yvette Clarke）在2019年6月提出《深度偽造責任法案》（Deepfakes Accountability Act），規定了較為嚴格的刑事處罰和民事救濟條款，旨在限制錯誤信息傳播，保護國家信息安全和個人人身和財產權利。該法案同時規定了諸多免責情形，其中包括重大活動虛假性的披露、最終成果符合相關規定、未進行實質性修改、不會導致公眾誤認、為保護國家安全和公共安全等內容。此外，我國《著作權法》第二十二條也規定了特定情形的豁免義務，包含個人學習或欣賞、課堂教學、科學研究等，旨在實現保護著作權和其他社會利益間的平衡。“楊冪換臉朱茵”視頻制作者確實侵害了相關主體權利，該行為的可免責性可以從個人學習或科學研究等角度論證，而非當事人提出的“非以營利為目的”。換言之，即使當事人非以營利為目的，將受害人面部特征替換至意在侮辱、誹謗、貶損他人的視頻之中，受害人亦可基于肖像權和名譽權受到侵犯為由，請求相應法律救濟。

2.視頻制作者明確標識和說明義務。利用深度偽造技術制作的視頻，不僅應當在制作過程中征求相關主體多重同意，還應注意偽造視頻在傳播過程中可能對不特定第三人的影響。具體而言，視頻制作人應以顯著方式在視頻開始部分添加“該視頻為深度偽造視頻”提示，表明該視頻的制作目的，并在視頻播放過程中，采用無法祛除的水印、標志等方式明確標識出制作者、制作軟件等信息，并在視頻末尾添加制作人聯系方式、制作時間和原有視頻相關鏈接。對專門提供深度偽造技術的軟件而言，類似標識和說明程序應在用戶制作視頻過程中自動生成，且采用技術手段使該標識信息和說明部分無法被刪改或剪輯。這種標識和說明義務可以成為相關軟件服務提供者減輕或免除責任的事由，目的在于防止不特定第三人因深度偽造視頻而產生不合理認知或信賴。

有學者認為，損害的非法性植根于社會能夠知悉的深度偽造產物[14]。從規范目的角度分析，深度偽造技術引發社會風險的原因在于對相關人員權利的侵害和在傳播過程中導致社會公眾信以為真。若不存在侵害當事人民事權利和危害國家安全的情形，社會公眾也不會對具有高度相似性的視頻產生不合理信賴，深度偽造技術的社會危害性將大幅減少，視頻制作者的法律責任也將大幅減輕，從而達到平衡多方利益目的。

3.網絡服務提供者的提示說明義務和“技術正當程序”義務。在專門提供深度偽造技術以供網絡用戶娛樂的平臺上，網絡服務提供者提供的可供網絡用戶“換臉”的視頻素材，應當滿足多重同意要求，并承擔明確標識和說明義務，此時網絡服務提供者成為視頻上傳者和發布者，不適用“通知-刪除”規則。對于網絡用戶上傳的深度偽造視頻素材，網絡服務提供者只需明確告知用戶需要承擔征求多重同意、明確標識和說明義務，并以顯著提示方式告知上傳深度偽造視頻可能引發的法律風險。該風險不能簡單地混合在《用戶使用協議》中，而是在用戶選擇上傳相關視頻時，明確地予以提示和說明，并用視頻、圖片、文字、事例等方式告知其法律后果。當然，網絡服務提供者通常會欠缺相應動力，但如果履行義務可成為網絡服務提供者免責事由之一，網絡服務提供者則會為規避風險而積極履行。若用戶選擇繼續上傳，網絡服務提供者應當自動生成“該視頻為偽造視頻”相關信息，并在權利人主張侵權責任之時，刪除或下架相關視頻，將權利人主張告知網絡用戶。有學者提出“技術正當程序”（Technological Due Process）可以作為新的法律原則，通過平臺企業的社會責任或者自我治理機制，可以達到有效遏制“深度偽造”負面影響的效果[15]。相關網絡服務者可以通過游戲測評、調查問卷、積分獎勵等方式增強用戶識別虛假信息和批判性接受信息能力。對相關視頻和信息的準確性和客觀性予以全面思考和理解，不僅是生活在互聯網技術高度發達的現代社會的必備技能，也是網絡服務提供者承擔自身社會責任的體現?！凹夹g正當程序”內容還包括針對深度偽造技術制定特殊政策、開發識別程序和增加相應程序獲取信息難度[16]。

4.審慎包容的監管政策。深度偽造技術的法律監管，可以采用分級分類的審慎監管思路。對于危害國家安全、破壞民主選舉、散布色情視頻、實施精準詐騙等具有嚴重社會危害性和侵害公民人身權利和財產權利的行為，要采用綜合法律手段予以打擊，必要時追究行為人相應刑事責任。而對于僅以娛樂為目的的“換臉”軟件而言，該領域視頻通常不足以引發社會公眾誤信，且只要網絡平臺盡到相應注意義務，對于該領域的法律監管可采取較為寬松的監管手段。值得注意的是，國家監管手段的寬松是公權力自身謙抑性的要求，并不意味著對自然人權利侵害的賠償責任可以減輕，兩種類型的法律調整方式存在一定差別。

審慎包容的監管政策還意味著鼓勵和支持識別、破解、標注等相關技術的發展。美國國防部高級研究計劃局（Defense Advanced Research Pro-jects Agency）在認識到“換臉”技術可能引發問題的嚴重性后，發起了一項媒體取證（media forensics）項目來促進自動檢測和評估數字視覺媒體完整性的技術。Google公司引入事實核查標簽（Fact Check Tag）功能，并與國際事實核查網絡（International Fact-Checking Network）建立新的伙伴關系，以幫助讀者更好地查證事實和理解新聞。有學者指出，政府應加大對預警監測技術的資助力度，建立政策與技術之間常態化交流機制，鼓勵反制深度偽造技術領域的科技創新[17]。2019年11月，國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局聯合出臺《關于印發〈網絡音視頻信息服務管理規定〉的通知》，對利用深度學習、虛擬現實等新技術制作的音頻和視頻服務作明確規定，其中包括安全評估、顯著標識、禁止制作虛假新聞消息等措施。值得注意的是，未明確標識的深度偽造視頻或音頻須由網絡服務提供者停止傳輸，但以顯著方式標識后即可繼續傳輸。另外，深度偽造技術的產物與其他音頻和視頻一樣，除危害國家安全、社會秩序和個人權利的內容外，并未對其他內容作出特殊規定，體現了監管機關相對寬松的態度。

五、結語

隨著信息技術和互聯網產業快速發展，深度偽造技術的興起是計算機技術發展的必然產物，也是現代信息社會面臨風險的冰山一角。與之相類似，人臉識別技術的濫用、利用差別定價算法進行大數據殺熟、網絡服務提供者過度索取個人信息、大規模個人信息泄露等問題均是現代信息社會不得不應對的挑戰，如何在鼓勵技術、產業發展和自然人權利保護之間尋求平衡，是解決這些問題的關鍵。與之相應的理論創新和制度構建大多圍繞雙方或多方利益權衡展開。深度偽造技術本身即蘊含侵害他人權利的重大風險，其負外部性的溢出也會對不特定第三人、社會秩序和國家安全產生一定影響。因此，深度偽造技術的規范應用并非在于否定相關技術研發，而是在于限制該技術的應用范圍，強化相關主體權利保護，打擊網絡犯罪活動。進入傳播領域的深度偽造產物應當明確標識和說明相關視頻的偽造性，采取分級分類的監管手段，在技術發展與權利人保護之間尋求平衡。