“深度偽造”音視頻傳播帶來的法律風險及其規制

張秋芳

摘要：“深度偽造”音視頻是基于深度學習的一種新型信息篡改與置換技術，是對視頻、音頻和其他內容進行數字化創作或修改的結果?！吧疃葌卧臁币粢曨l通過網絡社交媒體的漣漪效應迅速傳播，導致法律風險逐漸增多。鑒于此，司法實踐中應對深度偽造音視頻肖像權侵權標準區別對待；明確制作者傳播者的標識義務；采用過錯推定原則追究音視頻平臺民事責任；政府采取多元化的事前事中監管措施，盡可能減少“深度偽造”音視頻傳播的負面效應，進而尋求技術革新與風險調控之間的最佳平衡。

關鍵詞：“深度偽造”音視頻 侵權認定 網絡平臺責任 監管義務

“深度偽造”音視頻是在人工智能發展基礎上衍生出來的一種合成技術，該技術使用一種深度學習的自動編碼器，可以把一個人的面孔或語音轉換成任意其他人的音視頻，以迎合大眾獵奇心理。深度偽造技術主要應用于娛樂視頻的創作，從2015年僅在美國程序員行業之間流行的搞笑“換頭”視頻，發展到被無限制地應用于電影電視和社交娛樂網站?！渡疃群铣蓱檬筅厔輬蟾妫?022）》顯示，2021年深度合成音視頻數量與2017年相比增長了10倍以上，其迭代更新的內容也已經達到了連專業人員都難以憑肉眼辨別真偽的程度。高度逼真的深度偽造音視頻在社交網絡傳播中被濫用的可能性迅速提升，由此帶來的法律風險也隨之增多。面對顛覆性技術異化在網絡空間帶來的多維風險和挑戰，法律理應進行積極應對。

一、深度偽造音視頻及其網絡傳播的法律風險

深度偽造視頻作為人工智能換臉技術的應用，其核心原理是利用生成對抗網絡或者卷積神經網絡等算法將某個視頻中的圖像替換為其他人物的面孔，并重新合成所謂的假視頻。音頻偽造是通過“語音克隆”技術，即說話者自適應和說話者編碼的方式，將目標對象的語速、語調等聲道信息表示成一個聲音模型，對標準聲道模型進行微調，以模擬出該說話人的聲音。隨著音頻信息的訓練樣本數量增加，經過多輪的循環學習后，生成器生成的內容極為逼真。從AI換臉到系統地偽造語音、圖像和視頻，當虛擬化的個人形象在網絡傳播中被濫用，就可能涉及侵犯公民人格權、知識產權及社會秩序等。

（一）民事風險：侵犯肖像權、名譽權和知識產權

深度偽造音視頻在未經許可的情況下，擅自利用某人的面部圖像、視頻和聲音素材逼真地移植到他人身上，侵害了他人的人格權益如肖像權、聲音權。現實中通過移花接木將一些明星的面孔替換到色情視頻中的演員身上，這種貶損受害人的方式涉嫌侵犯名譽權。另外，利用深度偽造技術將電影、電視劇原素材視頻進行歪曲和篡改，可能存在盜版侵權風險。依照知識產權法相關規定，視頻作品的作者享有作品不受任意修改的權利，對影視劇中演員進行惡搞、篡改原影視劇作品，作品完整性將遭受侵害；若擅自將換臉后的影視片段在網絡上傳播，也可能涉嫌侵害著作權人信息網絡傳播權。

（二）刑事風險：妨害社會管理秩序

美國德克薩斯大學法學教授羅伯特·切斯尼認為，如果互聯網上的資訊環境以有害的方式與個體的認識偏差發生交互碰撞，真相將在意識形態領域中慢慢消退，而深度偽造技術將使這個問題變得更嚴重。深度偽造音視頻具有兩種否認或歪曲事實的方法：一是欺騙者可以利用網絡操縱和散布經加工后的聲音和圖像來蒙蔽大眾；二是通過網絡譴責真實的信息是“偽造”的，使公眾意見產生偏差。若利用深度偽造音視頻誘導公眾生成錯誤的“民意”，將會影響公眾、政府乃至司法機關對各類社會事件評估和判斷的公正性，造成社會政治危機，妨害社會管理秩序。如果利用深度偽造音視頻通過網絡煽動民族分離，危及國家安全，則可能構成犯罪。

二、深度偽造音視頻及其傳播對現有法律的挑戰

深度偽造技術的低門檻使侵權人的侵權成本降低，由此助長了深度偽造音視頻侵權案件發生，盡管現有的法律規章在宏觀方面對此予以規制，但深度偽造音視頻侵權界限不明，再加上監管不到位，音視頻平臺責任劃分模糊等問題都加劇了司法認定的難度。

（一）深度偽造音視頻侵權認定困難

對于深度偽造音視頻侵權行為，《民法典》第1019條予以積極回應，規定不得利用信息技術手段偽造等方式侵害他人的肖像權，但司法實踐中就肖像權的可識別性判斷、名譽權侵權認定和舉證責任方面尚存難題。

1.肖像權侵權認定困難。傳統的肖像權侵權行為要求公民肖像未經許可而被適用，且該肖像具有可識別性，其中未經許可使用的肖像和由該肖像識別的對象是一致的，而深度偽造音視頻中二者恰恰相分離。如果侵權人只滿足其中一個條件，能否認定為深度偽造音視頻侵犯某人的肖像權？網絡傳播中深度偽造視頻侵犯肖像權對象的隨機性和多重性也使侵權認定更復雜。另外，鑒于侵犯肖像權可能導致被侵權人名譽受損，而現行法律關于深度偽造對名譽權侵權的界定尚不明確。《民法典》有關侵害名譽權的規定適用于文學藝術作品，并未將深度偽造產物納入其中，如何判斷深度偽造音視頻的行為是否侵害名譽權也是司法認定的難點。

2.著作權侵權舉證困難。深度偽造視頻對原始視頻進行換臉編輯、修改，可能侵害原作者的知識產權，權利人能夠以著作權被侵害為由提起訴訟。然而，如何證明偽造視頻在網絡傳播中對權利人造成的實際損失卻相當困難，從而導致被侵權人難以得到充分的法律救濟。另外，由于互聯網天然具有不受地域限制的屬性，深度偽造視頻能在網絡空間飛速傳播，其造成的危害范圍更廣。面對網絡中如此分散的、隨機的海量“偽造”視頻，著作權方的維權成本無疑不斷增加。

（二）音視頻平臺法律責任難以認定

目前，法律在規制深度偽造技術行為時以過錯責任原則追究民事責任容易縱容違法，同時，刑事定性過于嚴苛又難以收到應有的效果。

1.過錯責任認定原則不利于保護被侵權人的權益。依照《網絡信息內容生態管理規定》，網絡平臺服務商如果利用深度偽造音視頻進行違法活動，或不履行相應監管義務，應承擔民事過錯責任。依照《民法典》關于網絡侵權中的“避風港”規則和“紅旗”規則，當平臺服務商違反“通知-去掉”義務和“反通知”義務時都應該承擔連帶責任。這些規定都表明對平臺服務商適用過錯責任原則，但科技發展使網絡平臺對深度偽造音視頻甄別檢測能力逐步加強，如果依然適用傳統民事過錯責任原則不利于保護被侵權人的權益。司法實踐中應依平臺服務商在傳播深度偽造音視頻中所發揮的不同作用，使其有區別地承擔相應的責任。

2.刑事責任追究過于嚴苛易流于形式。刑法規制網絡平臺傳播深度偽造音視頻的行為主要涉及拒不履行信息網絡安全管理義務罪，即平臺不履行信息網絡安全管理義務，經監管部門責令采取改正措施而拒不改正的行為。但該罪在司法實踐中的適用率較低，原因是該罪名中的前置性法律對于網絡服務提供者的安全管理義務的規定并不具體，從而使司法實踐中對于網絡服務提供者的不作為行為是否構成犯罪出現模糊性判斷。另外，該罪名中行政程序前置化的硬性規定會使刑事司法陷入另一種負面形態：由于事前行政程序正當性的判斷對犯罪行為的定性具有決定性影響，但刑法又無法杜絕行政程序中各種形式的不作為主義，這將影響刑事司法的獨立性和公平性，導致遭受“深度偽造”技術侵害的權利相關人得不到及時、充分的救濟。

（三）行政監管：義務不明，效果不佳

深度偽造技術的核心依然是算法，由于深度偽造音視頻的專業性和復雜性，用戶很難了解算法技術所隱藏的風險。而《數據安全管理辦法》對數據泄露的潛在風險并沒有設置政府的算法監管職責，基于“深度偽造”音視頻自身特征通過網絡平臺傳播，其社會負面效應會迅速擴大，即使上述行政法規對深度偽造技術的規制發揮作用，但既有的社會影響已成定局，這種事后監督很難保障用戶的合法權益?！峨娮由虅辗ā冯m然對網絡平臺的算法責任進行了規定，某種程度上說明我國立法在規制網絡平臺方面融入了風險預防，將對算法的監管予以提前，以預防和減少風險的發生。然而，由于相關法條籠統導致實踐操作中執法部門對于未履行算法監管義務的網絡平臺也顯得捉襟見肘。《網絡音視頻信息服務管理規定》（以下簡稱“規定”）中要求平臺服務商對深度偽造音視頻審查的義務，但并沒有對具體如何審查做出詳細的規定，因此難以收到預期的效果。

三、深度偽造視頻及其傳播風險的法律規制

針對上述法律規制深度偽造視頻中存在的問題，應明確制作者、傳播者的標識義務、強化音視頻平臺的審查義務并細化政府監管措施。

（一）深度偽造音視頻民事侵權的認定

深度偽造音視頻民事侵權主要圍繞肖像權、名譽權以及著作權的認定，肖像權侵權的認定因公眾人物和一般人物的肖像權可識別性判斷標準不同而有所區別，名譽權侵權關鍵看是否對肖像權人實施侮辱誹謗行為；至于知識產權方面，則需要通過明確深度偽造音視頻制作者、傳播者的標識義務來加大著作權的保護力度。

1.區別肖像權可識別性的判斷標準。基于上述深度偽造視頻侵犯肖像權與傳統肖像權侵權的差別，深度偽造視頻侵權認定的難點是如何判斷肖像權的可識別性。通常情況下，只要我們從深度偽造視頻中可以辨別出某個人的形象，即當看到一段深度偽造視頻，能聯系某個特定自然人，就可以推定其滿足了肖像權侵權的可識別性特征。深度偽造音視頻為了增加網上的點擊量，博人眼球，絕大多數牽涉到公眾人物的肖像，伊萬卡·特朗普、米歇爾·奧巴馬等換臉視頻都曾經在網絡傳播，都是深度偽造技術的受害者。我國亦有相似案例，利用深度偽造技術將楊冪的面孔換到94版《射雕英雄傳》中演員朱茵身上。這種深度偽造行為不僅侵犯楊冪的肖像權，而且也侵犯受害人朱茵的肖像權。作為一線明星演員，她們的社會知名度相對較高，其肖像的可識別性非常明顯。然而“深度偽造”應用APP并不需要很深的專業技術背景，一般人都可以利用該軟件制作換臉視頻，這就導致“換臉”的對象擴大到身邊熟識的普通人。而普通人肖像權的可識別性的判斷標準往往局限于其社交朋友圈，能否構成肖像權侵權需要由法官結合其具體的社交范圍而確定。

名譽侵權主要指文學作品、行為語言或其他形式等對他人名譽造成負面影響的行為。盡管表面上看不包含深度偽造音視頻的行為，但事實上可以將其作為其他形式的一種擴大解釋。因此，深度偽造作為名譽侵權的行為方式之一是不違背立法原意的。依照《民法典》，判斷某個行為是否構成名譽權侵權，關鍵是對肖像權人是否實施了侮辱或誹謗，是否對其名譽造成損害。司法實踐中通常采取推定的方法，只要有證據證明傳播中的深度偽造音視頻具有侮辱、誹謗性，并為公眾所知，基本就可以推定構成名譽侵權。美國知名網站Reddit將深度偽造色情視頻中的角色替換為多位明星演員的面孔，這種以侮辱的方式貶損他人的聲譽就可能構成名譽侵權。相反，在“楊冪換臉朱茵”的視頻中，二者的社會評價并未因該視頻的傳播而降低，其名譽沒有因此遭受損害，故不構成名譽權侵權。

2.明確規定制作者、傳播者的標識義務。由于深度偽造視頻的隨機性、傳播快、外溢的負面效應強等特點，視頻內容的制作者應該預料到其行為可能帶來的潛在社會風險，在開始利用深度偽造技術編輯視頻之初，應征得原視頻版權人和相關換臉視頻所涉肖像權人的同意。鑒于深度偽造視頻通常在網絡中傳播，對深度偽造音視頻應通過嵌入數字水印、文字、語音標識等方式顯示合成作品信息或在視頻的顯著位置標明“深度偽造”字樣。網絡平臺也應保證視頻在傳播過程中的信息標志不能被去除，這種“自我披露”形式旨在使視頻創作者及傳播者對其制作、傳播的音視頻負責，并以此區分偽造視頻和原視頻，保護原視頻作者的著作權。

3.強化被侵權人知悉權以便提供證據。與傳統侵權行為不同，由于網絡非直接接觸性帶來的信息不對稱的特點，視頻偽造者在受害人完全不知情的情況下可以制作虛假音視頻，從而導致受害人無法及時確定侵權主體、收集證據來尋求法律救濟。因此，明確深度偽造視頻制作者的標識義務除了避免涉嫌著作權侵權的風險外，還在一定程度上能夠防止他人對信息真實性產生錯誤認知的幾率，保障受害人知情權和同意權，從而可以減少深度偽造音視頻所帶來的社會危害。司法實踐中，只要受害人能夠證明偽造視頻未經權利人許可，即可確認其構成侵權，由此能夠減輕受害人舉證負擔。

（二）明晰音視頻平臺義務及法律責任

為強化音視頻平臺的監管審查義務，應采用過錯推定原則使平臺承擔連帶責任。同時，建議消除拒不履行信息網絡安全管理義務罪中行政程序的硬性條款，適當補充量刑情節。

1.平臺方面：侵權責任認定采用推定過錯責任原則。網絡平臺作為信息交互、數據存儲和秩序維護的核心場所，既有可能使深度偽造技術濫用的危害結果持續惡化，也可以將危害程度遏制在萌芽狀態，因此明確平臺服務商的法律責任是規范深度偽造技術行之有效的方式之一。科技發展使網絡平臺已由傳統中立者轉變為集多功能為一體的復合型平臺服務提供者，地位變化使其很多情況下不能再以“技術中立”為由規避法律責任。鑒于此，《規定》明確了網絡音視頻平臺應采用技術鑒別方案核查視頻內容的真偽，以便及時發現未標識的深度合成作品。該條款強化了音視頻平臺事前審查義務，排除“避風港原則”的適用，網絡平臺由“通知—刪除”的被動監管處置模式，轉為對深度偽造音視頻進行內容和權限等方面的事先合法性審查。音視頻平臺通過開發鑒別偽造音視頻的預警軟件過濾刪除偽造“作品”，有效阻斷偽造音視頻的網絡傳播。若音視頻平臺沒有履行上述義務，就應與制作者承擔連帶侵權責任。同時，侵權認定應采取過錯責任推定原則，將受害人的舉證責任僅限于證明客觀的因果關系，主觀方面的舉證責任則由音視頻平臺自己承擔，當平臺不能證明自身主觀無過錯時，則推定其構成民事侵權。

2.刑事方面：修改拒不履行信息網絡安全管理義務罪。刑法在規制深度偽造技術方面應在遵循謙抑性原則的前提下修改拒不履行信息網絡安全管理義務罪，防止行政程序上的問題影響刑事司法的獨立。鑒于此，筆者建議該罪中增加網絡用戶相關主體的通知義務與監管部門責令改正這一行政前置程序平行的私立救濟方式，以此賦予權利人更多選擇權利救濟的途徑，從而消除行政程序的硬性限制。同時，由于網絡運營商掌握海量個人生物識別信息數據，經常通過“流氓”用戶協議輕而易舉地永久獲取個人信息，所以在司法程序中該罪應實行舉證責任倒置才能更公平有效地保護公民權利。此外，司法解釋可以對該罪量刑情節進行適當補充，通過富有彈性的量刑情節對打擊犯罪和言論自由兩種價值進行平衡，不僅可增加一些具體的加重情節進行警示，還可以通過增加減免情節鼓勵網絡運營方積極履行安全管理義務，避免盲目加重網絡運營方的責任導致對用戶言論自由的過度限制，這樣既保障公民的信息安全，又有利于推動“深度偽造”技術良性發展。

（三）細化政府事前事中監管責任

政府應設置算法監督部門對音視頻平臺信息資源庫運用的監管，通過行政約談加強對音視頻平臺的事前事中監督。

1.明確政府的算法系統監管職責。人工智能技術算法本身是中立的，但技術畢竟由人操控，“技術中立”依然體現人的價值觀念導向。因此，政府應設置算法監督部門，通過增設平臺投訴功能對深度偽造技術所利用的資源庫的來源和運用進行監管，指導音視頻平臺利用過濾技術優化信息推薦機制，對平臺濫用個人生物信息的行為予以嚴厲打擊。通過規范平臺使用數據的行為，降低個人信息泄露的風險，從根源上減少深度偽造音視頻。同時，政府應制定音視頻平臺行業標準，要求平臺通過向監管部門自我申報等方式來實現監管。網信部門可以定期就網絡平臺和社交媒體對深度偽造技術的應用情況進行排查，將惡意泄露個人用戶生物信息的平臺拉入黑名單予以警示。

2.利用行政約談進行事中監督。行政約談作為一種準行政行為，是政府傳遞規制信息的一種柔性規制工具，其在規制網絡信息方面發揮著舉足輕重的作用。目前，行政約談已經作為規制“深度偽造”技術行為的一種手段規制。《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》明確規定網絡信息服務商對輿情影響大的新技術應用有進行安全評估的義務，并對結果負責。據此，音視頻平臺需要對深度偽造音視頻的傳播安全性進行評估，如果沒有履行相應義務就會被政府約談?？焓?、字節跳動等網絡平臺都曾因怠于履行安全評估義務而被國家網信辦和公安部門約談。政府部門通過事前事中監管，對音視頻平臺可能的侵權行為進行及時處置和有效應對。

四、結語

“深度偽造”音視頻的影響逐漸擴大，網絡傳播中所伴隨而生的一些技術風險自然無法避免，相關輔助檢測技術作為對此的回應也在加速迭代，如采用溯源技術對音視頻上的水印進行溯源防偽，通過神經網絡檢測法、眨眼頻率分析法對換臉視頻進行反向破解等。美國國防研究計劃局的“視頻鑒別”項目，推出全球首款“反換臉”人工智能刑偵工具。但技術層面的突破不能解決問題的根源，面對深度偽造音視頻傳播中的風險，更需要來自法律層面的強制力和政府、行業對音視頻平臺的有效監管。

作者系中原工學院法學院副教授、美國波士頓學院訪問學者

參考文獻

[1]姜瀛.人工智能“深度偽造”技術風險刑法規制的向度與限度[J].南京社會科學，2021（09）.

[2]深度合成應用趨勢報告發布.專家：未來一切都可能被偽造[EB/OL].（2022-02-19）[2022-07-06].https：//new.qq.com/ omn/20220219/20220219A0A64M00.html.

[3]喻國明，梁爽.重構與挑戰：“深度合成”的傳播影響與技術反思[J].山西大學學報（哲學社會科學版），2021（02）.

[4]趙秉志，袁彬.《刑法修正案（十一）》理解與適用[M].北京：中國人民大學出版社，2021.

[5]黃旭東，林詩晴.深度偽造技術侵權的民事責任認定[EB/ OL].（2022-02-19）[2022-07-06].http：//www.mzyfz.com/ html/1022/2021-04-07/content-1473624.html.

[6]毛寧，楊會.深度偽造技術的監管困境及其法律應對[J].長白學刊，2021（05）.

[7]王祿生.論“深度偽造”智能技術的一體化規制[J].東方法學，2019（06）.

[8]熊波.網絡服務提供者刑事責任“行政程序前置化”的消極性及其克服[J].政治與法律，2019（05）.

[9]章琦.深度偽造的刑法規制路徑[J].中州大學學報，2022（01）.

[10]賈章范.《民法典》視野下深度偽造技術的法律風險與規則應對[J].東北農業大學學報（社會科學版），2021（01）.

[11]石巍，黃家星.“深度偽造”的風險與法律規制——兼論《民法典》相關規則適用[J].天津法學，2020（04）.

【編輯：王秦】