深度偽造技術的法律規制

趙文迪

摘?要：“深度偽造”是利用深度學習技術中的“生成式對抗網絡”模型數字化處理和生成智能圖片或音視頻的技術。隨著數字時代人工智能技術的不斷創新，深度偽造技術在各個領域也開始廣泛傳播和應用，它具有高度真實性、簡易操作性和迅速傳播性的特點。在應用過程中，極易出現信息失真與泄露、侵犯公民合法權益、威脅社會公共秩序等問題。本文根據深度偽造的法律規制現狀探索其解決路徑，通過健全制作者和平臺責任制度、確立多元化監管模式和完善事后救濟措施，以期在法律規制之下促進深度偽造技術良性發展。

關鍵詞：深度偽造；人工智能；法律規制

中圖分類號：D9?????文獻標識碼：A??????doi：10.19311/j.cnki.16723198.2023.19.068

人工智能已步入技術與產業相結合發展的新時期，新技術革命的時代即將到來，其應用場景也變得越來越多樣化和廣泛。“深度偽造”（deep?fake）是由深度學習（deep?learning）與偽造（fake）結合而成的一種新型合成詞，可用于偽造視頻、語音、圖像、筆跡等方面，并可生成與原作品相似程度較高的真實效果。深度偽造技術是當前人工智能技術飛速發展的成果之一，它作為一種圖片、音視頻的制造手段，在某些情況下能發揮其獨特的作用。例如將這一技術運用到軟件開發中，能為用戶創建極具體驗感的自主制作虛擬圖片、音視頻的APP；電影制片公司還可以利用深度偽造技術創造出在沒有替身的情況下的具有逼真效果的特效，以提升觀感與電影特效水平。

正是因為深度偽造技術操作簡易，在深度偽造技術發展迅猛及廣泛使用的當下，有犯罪動機的人會將這種技術濫用于非法活動，給人們帶來更大的風險。在深度偽造技術提供強大的技術支撐的情形下，國內各大社交平臺、視頻網站等領域涌現出了大量的AI換臉視頻，造成了社交網絡涌現的信息難辨虛實的現象。深度偽造技術的應用可以根據制作者目的概括為具有趣味性、娛樂性的深度偽造作品，和帶有主觀惡意的深度偽造作品。帶有主觀惡意的深度偽造作品，若被用于特定用途，將對個人利益、社會治理甚至國家安全構成嚴重威脅與挑戰。例如，基于深度偽造技術生成的色情視頻就是其中最常見的侵權行為的一種。這類視頻不僅侵犯了臉部權利人的肖像權、名譽權等權利，也同時損害了被換臉人的肖像權甚至是表演者權；它還被用于制作虛假換臉視頻對某些國家當前的政治事件進行虛假的負面報道，例如在外網推特上經常出現篡改國外政治領導人物人臉的發言視頻。這種虛假信息傳播既有可能加劇社會矛盾，也有可能對一個國家的政治形象造成影響。在其他方面，深度偽造技術導致的詐騙活動也會對公司和個人造成財務經濟上的損害，或是對公司的股價造成影響。因此深度偽造技術應用帶來的法律風險不容小覷，對深度偽造技術的法律規制進行探索具有積極的意義。

1?深度偽造技術的主要特征

1.1?高度真實性

以深度偽造技術生成的視頻為例子，其利用了大量的人臉樣本，并進行數據收集和分析，最終生成物無論是表情還是動作，都極為逼真，光靠人類的眼睛無法分辨。因此很多罪犯都會利用這種特點來作案。例如利用深度偽造技術換臉的AI視頻電信網絡詐騙正在全國爆發，中國互聯網協會官微也發文警惕“AI換臉”“AI換聲”等虛假音視頻。

1.2?簡易操作性

深度偽造技術的原理復雜，早期這種技術不具備廣泛使用與流通的條件。如今，網絡時代為深度偽造技術的應用市場帶來了極大的發展空間，軟件公司會根據自己的利益需求，憑借深度偽造技術帶來的紅利去滿足用戶的不同愛好和興趣，讓玩家可以通過APP簡易操作制作虛擬圖片或者視頻，甚至有不法分子以此制作具有名人效應的色情換臉視頻營利。

1.3?迅速傳播性

隨著人工智能技術的不斷發展和廣泛應用，降低了制造各種深度偽造作品的門檻。在傳播速度層面，只要使用一部手機，就可以通過“一鍵轉發”實現在互聯網上的擴散。從傳播內容上分析，在深度偽造生成物中，占據比例最多的是含色情和政治類作品。從專業傳播學的視角來談，色情和政治類作品通常具有低俗、虛假、傳播迅速的特征。從而造成了網絡和社交媒體上能迅速傳播一批“有心人”惡意制作的深度偽造作品。

2?深度偽造技術的社會治理風險

2.1?信息失真與泄露

深度偽造技術可以利用真實和虛假的信息相糅合來達到欺詐目的，隨著其被推廣和大量應用，不可避免地會帶來信息失真與泄露等嚴重后果。當深度偽造技術被非法使用來散布謠言、擾亂公眾視聽時，這種有害引導輿論的行為就是在操控公眾意識，并破壞社會信任體系，從而對公共秩序的穩定產生了嚴重的危害。這種現象使得社會傳播的海量信息都處于真實與虛假混雜、界限模糊的窘境，造成了信息失真與大量泄露的現狀。

2.2?侵害個人合法權益

對于深度偽造技術產生的作品而言，風險之一是它會對作品中所涉及人物的人身權益造成損害。最初這項技術的傳播便是被國外用來制作各種類型的色情換臉視頻，現如今“換臉”的目標從藝人明星和政治家迅速擴大到了普通群眾。可以看出，深度偽造技術的普及和傳播速度極快。這就導致了過于簡單，幾乎是“無門檻”的操作行為使被“換臉”的藝人明星或者普通群眾的名譽和肖像權都極易遭到侵害。深度偽造技術制作的換臉視頻除了作為一種自娛自樂的工具，還可以作為一種敲詐、羞辱、騷擾受害人的工具，對公民的人身和財產造成了傷害。

2.3?擾亂社會公共秩序

如今，深度偽造技術已經在許多國家的情報工作中得到了廣泛的運用。當網絡間諜竊取了真實情報之后會與虛假情報混合發布，然后利用深度偽造技術，對虛假信息進行聲音和視頻的融合，以此來增強虛假情報的可信度，并借此來操控輿論，讓人無法分辨真假，從而對國家安全和國際秩序造成更大的威脅。在經濟上，也發生過使用深度偽造技術制造虛假信息，損害企業信譽，擾亂金融市場秩序的真實案例。在社會層面上，不法分子通過使用虛假資訊來混淆大眾的認識，妨礙了真實消息的傳播，消解社會大眾對政府機構以及新聞媒體的信任，進而對真實的信息也產生了懷疑。究其根源，是由于高水平的深度偽造技術生成物對社會群眾的認知產生了巨大的沖擊，使得依照目前一般人的判定標準難以分辨。

3?現行立法對深度偽造技術應用的規制

3.1?現行立法規制現狀

目前，我國還沒有直接針對深度偽造技術的法律規制。濫用深偽造技術的行為可能侵犯到公民肖像權、名譽權、著作權和財產權等，給公民的個人信息安全帶來巨大的威脅。因此根據上述權利相應的法律保護，我們可以通過現行的有關立法來進行間接規制。《民法典》第1019條規定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。例如“換臉視頻”這類深度偽造技術生成的作品便會在未經權利人同意的前提下，將人臉合成替換到視頻中，然后在互聯網上進行公開發布與傳播，同時侵犯了“被換臉”本人以及原視頻出演者雙方的肖像權。《民法典》第五章是關于保障名譽權，如果深度偽造技術生成物蘊含色情污蔑和誹謗侮辱性質的內容并且被傳播擴散，就會產生對權利人名譽權的侵犯。除了《民法典》之外，我國《個人信息保護法》第28條將生物識別明確規定為敏感個人信息加以保護，使其免遭他人侵犯。深度偽造技術的間接規制也體現在我國《著作權法》中。為了獲取流量與熱度，利用深度偽造技術的視頻制作者往往會以當前熱門影視作品為原始素材對象。按照我國《著作權法》第3條第6款的規定，這一類型的素材資料是受法律保護的視聽作品。深度偽造技術是利用人臉替換技術產生的偽造新視頻，可以通過保護作品完整權的角度進行規制。《著作權法》第39條還對表演者權做出了規定。深度偽造技術產生的偽造視頻侵犯了原作品演員的表演者權。

3.2?深度偽造技術應用規制的局限性

3.2.1?制作者和平臺責任規定模糊

深度偽造技術的法律規制既應包含權利保護，也應包含對制作者和平臺責任的規定。除了制作者理所應當遵循的創作作品不侵害他人權益、不擾亂社會公共秩序之外，對平臺相應責任也應進行規制。在現行的立法中，由于立法層級較低，規定模糊籠統，在實際應用時效果并不理想。例如《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》則對平臺責任進行了一定程度的規定并對此作出了一個重大的創新，即明確了每個網絡信息服務提供商即平臺主體必須自己進行或將其委托給第三方進行的安全評估。即主要考慮了對用戶隱私的保護，以及對網絡中不良信息傳播的防范能力。在第5條中，還要求平臺將舉報和申訴的相關步驟以及具體內容向社會公布，以便于受害人獲得救濟。

3.2.2?現有監管制度不完善

目前我國尚無一個統一的網絡技術監管主體，主要是由網信部門、公安部門和工信部門在其職責領域進行獨立或聯合進行監管的，各個部門的責任劃分還沒有清晰的界定，容易導致重復監管或者無人監管的現象，使得行政執法部門難以進行有效的處罰。現有法律規定中還存在著網絡服務提供者與平臺經營者的權利沖突問題。在我國對互聯網信息技術系統的傳統管制中，公權力機關通常被視為監管主體，而網絡平臺作為主要的傳播途徑，卻往往被忽視了其作用。隨著網絡技術的發展和完善，網絡平臺已經成為深度偽造侵權責任認定中重要的一環。現行的相關法律對于互聯網平臺的監管責任規定比較松散，大多是采取了事后救濟的方式，難以對受害人造成的損害進行彌補。

3.2.3?事后救濟機制存在缺陷

法律規制的不足之處在于其通常是一種事后規范，而對于受害者的事后救濟機制則存在明顯的缺陷。由于網絡傳播的快速性，如果沒有及時、有效地清除侵權行為帶來的負面影響，就會繼續發酵蔓延。首先，由于數據的可刪改性，被侵權人需要花費大量時間和金錢來收集、保留證據并證明數據的真實性，從而大大增加了維權成本。由于信息技術擁有者與無法獲取信息技術者之間的信息不對等，導致處于劣勢的被侵權人難以輕松獲取掌握在信息技術擁有者手中的證據，增加了證據收集的難度。其次，違法行為所產生的代價相對較低，在未造成嚴重后果的情況下，侵權人或許只需承擔微不足道的違法成本，例如刪除偽造的音視頻、道歉賠禮等，然而這種低成本、低風險的方式并不能有效地震懾侵權行為人，反而可能會助長其氣焰。

4?深度偽造技術應用法律規制的完善

4.1?健全制作者和平臺責任制度

首先，在制作者利用深度偽造技術生成作品的過程中，制作者應當履行告知多方權利人并征得權利人同意的義務。明確權利人知悉的范圍。制作者在發布偽造生成物時，必須明確標注其偽造的屬性，例如采用添加水印等方法。若制作的是深度偽造的換臉視頻，那么在標注其偽造性的同時，還必須標注原視頻的來源，避免對著作權和表演者權的侵害，避免用戶產生誤解。必須確立明確的規定，要求當制作者未能履行其披露義務時，必須承擔相應的責任，包括但不限于刪除偽造的生成物，否則可能會被永久封禁賬號和內容等。

網絡平臺的監管作用是對虛假信息進行過濾和甄別的重要陣地。其應履行“通知—刪除”的職責和提示、說明義務。若發現了侵權行為，應將證據保存留檔，為受害者舉證提供幫助。網絡平臺還需要提高對深度偽造內容的檢測技術水平，并加強對深度偽造內容的審查力度。構建完善的數據庫，以識別深度偽造的違法和不良信息內容，提高其識別和檢測的準確性。在發現深度偽造技術生成物因審核失誤而擴散傳播時，平臺應立即限制該信息的閱讀、查看和轉發權限，阻止虛假信息的傳播。

4.2?確立多元化的監管模式

隨著人工智能技術的迅猛發展，網絡侵權案件數量急劇攀升。根據當前狀況，應當建立以政府為主導的多元協同監管模式，確立明確的監管機構及其職責分配。同時加強對網絡運營商的監管，確保網絡運行安全和信息安全。網絡平臺需要更好地發揮自身的監管優點，從而達到對互聯網信息進行實時監控的目標。利用大數據分析手段發現犯罪線索已經成為一個重要趨勢。確立“黑名單”制度并收集相關數據，是必不可少的一項措施，并且大數據分析可以從不同角度對被侵權人進行分類研究。

另一方面，確立一套多元化的監督機制，建立一個公眾參與的監督平臺，確保在發現侵權行為時能夠獲得有效的舉報渠道。還應該完善對舉報行為的懲罰機制。為確保舉報行為不受惡意干擾，應要求舉報人提供初步證明，并保證對舉報進行快速響應和公正的調查處理。

4.3?完善事后救濟措施

在某些情況下，可以采用證明責任倒置的方式。在證明責任的分配上，立法者應該立足于權利和義務的公平，在必要時偏向于弱小一方，從而達到證明責任倒置的平衡作用。如果法律規定深度偽造技術制作者有告知當事人的義務，并要求被侵權人證明未收到通知不具有合理性，那么采用舉證責任倒置的方式，制作者需要證明已履行告知義務和擁有免責事由，這樣做更加合理。

另一方面，我們需要重新審視對于損害賠償的認定。根據我國法律和司法解釋的規定，對于精神損害的認定，必須遵循嚴格的標準，確保其達到嚴重損害的程度，以保障受害者的權益。在司法實踐中因缺乏對此類案件的具體適用規則而導致了大量糾紛產生。對于每個人所遭受的傷害程度，其主觀感受因情況而異，因此在實際操作中難以達成一致的認定標準。若將侵害行為細分為不同等級，根據其惡劣程度確定損害的大小，這種做法更具合理性，更容易統一標準。同時，推行具有懲罰性的賠償機制，加大犯罪懲罰力度，引入懲罰性賠償機制，加強對侵權主體的經濟懲罰力度。對于那些利用深度偽造技術進行侵權行為的數據收集者、處理者或平臺，應當對受害人遭受的損失加倍賠償，這樣才能夠有效彌補受害者損失，同時起到犯罪警示作用。

參考文獻

[1]萬志前，陳晨.深度合成技術應用的法律風險與協同規制[J].科技與法律，2021，（5）：8592.

[2]華劼.深度偽造內容著作權侵權問題研究[J].電子知識產權，2020，（4）：1624.

[3]李靜宇.數字時代個人信息保護與合理使用[J].未來與發展，2022，（6）：3641.

[4]林愛珺，林倩敏.AI換臉的技術風險與多元規制[J].未來傳播，2023，（1）：6069.

[5]毛寧，楊會.深度偽造技術的監管困境及其法律應對[J].長白學刊，2021，（5）：94101.

[6]文銘，孫圓圓.深度偽造技術應用風險以及法律規制研究[J].中國科技論壇，2023，（4）：158167.