人工智能時代 “深度偽造” 濫用行為的法律規制

□張遠婷

（江西師范大學 政法學院，江西 南昌 330013）

引言

“Deepfake（深度偽造）” 一詞是 “Deep learning（深度學習）” 和 “fake（造假）” 的組合體，它是一種利用深度學習算法對圖像、視頻和音頻進行超現實數字組合型偽造的一項技術。2018年8月，美國市場上發布了一款名為 “FakeApp” 的應用程序，該程序可以幫助用戶快捷地創建 “Deepfake（深度偽造）” 產品。該應用程序降低了創建此類 “深度偽造” 產品所需的技術門檻，這增加了公眾人物或私人陷入 “深度偽造” 視頻或音頻風波的風險。2019年8月，中國境內一款名為 “ZAO” 的應用程序于發布后的24小時內迅速流行開來，用戶只需上傳一張照片就可以自動實現逼真度極高的 “換臉”。越來越多的互聯網用戶開始學習如何使用 “Deepfake” 技術，這使得利用上述技術制作虛假視頻的情況將變得更加普及和難以控制，并且這類 “深度偽造” 內容的滲入將影響公眾意識，從而引發社會信用危機。對此，即使是一些大型的互聯網公司也難以較為輕松地從技術上辨別出這類假視頻。數字 “深度偽造” 技術在中國雖尚未呈現出濫用趨勢，但國外數字 “深度偽造” 技術濫用行為的出現仍然值得我國警惕。然而截至2020年10月，濫用 “深度偽造” 技術制作假視頻侵害法益或他人合法權益的行為尚未得到法律的有效監管。

一、 “深度偽造” 技術濫用現狀及對法律制度帶來的多重挑戰

（一）數字 “深度偽造” 技術濫用現狀

自從2017年第一個運用人工智能數字 “深度偽造” 技術合成的假視頻問世以來，在大約一年的時間里這類假視頻已經發展到了與真實視頻幾乎無法區別的地步。雖然存在不少良性利用 “深度偽造” 技術創造經濟效益的例子，但 “深度偽造” 技術最早流行應用于色情視頻作品的歷史卻引發了人們持久的擔憂。譬如2017年12月，美國一位叫Deepfakes的用戶運用人工智能 “深度偽造” 技術把電影《神奇女俠》女主角蓋爾·加朵的臉換到了情色電影里的女主角的臉上。

隨著人工智能與機器深度學習技術的不斷組合使用，這類制作 “深度偽造” 視頻的技術仍處在不斷進步之中，并且這種技術的應用逐步由單一的色情影視制作向政治選舉輿論操縱、社交媒體假新聞、軍事假情報和知名人士個人信息侵犯等領域轉變。譬如2018年3月，美國網絡上出現了一段槍支控制活動家艾瑪·岡薩雷斯（Emma Gonzalez）撕毀憲法副本的假視頻。實際上在原始視頻中，岡薩雷斯撕毀了一個文件（但不是憲法副本）以倡導槍支管制，但有人出于煽動性目的篡改了該圖像。 “深度偽造” 視頻的流行將使社會普通公眾區分真實和偽造視頻的能力受到進一步的削弱，從而對我們日常生活的各個微觀領域造成潛在的傷害，甚至也會對社會、法律和政治等宏觀層面造成現實的危害。

“深度偽造” 技術的算法已經能夠做到這種程度：網絡用戶只需將一個公眾人物的演講錄音輸入生成式對抗網絡模型，就能創造出與公眾人物真實音頻極度相似的假音頻，并且這個假音頻的內容完全可以按照用戶的需要自由設計。一些網絡上流行的 “深度偽造” 視頻正是使用機器學習算法創建的，任何對 “深度學習” 算法有著一定專業知識的用戶僅僅使用容易獲得的公開音頻、視頻材料和開源代碼就可以創建出類似的假視頻。這也是數字 “深度偽造” 技術存在潛在重大安全威脅的原因之一：網絡上隨處可見海量公開的圖片、音頻、視頻材料以及開源代碼，這為任何擁有 “深度學習” 算法專業知識的用戶以極其低廉的成本創建出符合其需要的 “深度偽造” 品提供了極為便利的條件。不法分子濫用 “深度偽造” 技術造成的危害可能不僅僅是情色視頻效應帶來的名譽權損害，更為重要的還可能引發身份盜取、侵犯知識產權、操縱政治選舉、削弱對政府機構的信任、威脅國家安全以及破壞國際關系等一系列后果。

（二） “深度偽造” 濫用行為對現行法律制度帶來的多重挑戰

1.動搖音頻和視頻等視聽資料作為法定證據的信任基礎

在現代各國的司法訴訟實踐和訴訟法律文本中，音頻和視頻等視聽資料早已被視為法定證據種類之一。錄音和錄像以其能夠直觀地被人們聽見或看見的特性代表著記錄并還原真相的力量。數字 “深度偽造” 技術的出現使人們分辨真假音頻或視頻變得極其困難，即使專業人士利用相關檢測技術也難以辨別其真實性，這使得人們眼睛看到的和耳朵聽到的信息不再具備強有力的真實性，實際上動搖了音頻和視頻等法定證據種類存在的信任基礎。這也給司法實踐中案件的審理帶來雙重困境：違法或犯罪分子可能會利用 “深度偽造” 技術制作他們需要的假音頻或視頻，用以誣陷他人，極大可能會導致冤假錯案發生；在 “誰主張、誰舉證” 的訴訟證據規則之下，違法或犯罪分子為逃避法律制裁可能否認用以指證其違法或犯罪行為的音頻或視頻的真實性。其理由是這些音頻或視頻都是運用 “深度偽造” 技術制作出來的，當法庭無法證偽時，這些違法或犯罪分子可能逃脫相應的法律責任。這實際上對訴訟法和證據法的相關規則帶來嚴峻挑戰。

2.現行民事法律制度可能無法提供 “及時、充分、有效” 的救濟

數字 “深度偽造” 技術濫用行為會對現有民事法律制度造成嚴峻挑戰。以 “深度偽造” 換臉視頻為例， “深度偽造” 技術濫用行為常對應于侵犯 “被換臉對象” 的肖像權、名譽權和著作權，但是，現有的民事侵權制度卻無法對 “被換臉對象” 提供 “及時、充分而有效” 的救濟。這是因為：

首先， “深度偽造” 換臉視頻的制作者有時難以落入肖像權的救濟渠道。盡管未經肖像權人同意而使用其肖像是構成侵犯肖像權的核心要件，但在現實生活中，部分網絡用戶對某些數字平臺協議中嵌入的授權使用肖像的條款常常不夠重視而直接選擇 “同意” 二字。如ZAO換臉APP的用戶協議第6條第1款規定： “在您上傳及/或發布用戶內容以前，您同意或者確保實際權利人同意授予ZAO及其關聯公司以及ZAO用戶全球范圍內完全免費、不可撤銷、永久、可轉授和可再許可的權利，包括但不限于可以對用戶內容進行全部或部分的修改與編輯。”

其次，名譽是社會對他人的一種評價， “深度偽造” 換臉視頻要構成侵犯名譽權，就必須符合一定的要件。其中一個要件就是需要有 “受害人” 的社會評價被降低的現實后果。在實踐中，單純的 “深度偽造” “換臉” 視頻游戲可能并不會導致 “受害人” 的社會評價降低，因而對所謂 “受害人” 名譽的貶損可能難以得到證明，損害后果也難以得到量化。退一步而言，即使對某人的名譽有所貶損，但只要沒有達到足夠嚴重的程度，其訴訟請求在司法實踐中也往往難以得到支持。

再次，即使 “深度偽造” 視頻侵犯了公民或法人的知識產權，但既可能出現很難證明被侵權人實際損失的局面，又可能出現很難評估侵權人的實際營利所得的情況，因而導致司法實踐中知識產權人的訴訟請求難以得到支持。

最后，在現有民事侵權制度規則之下，被侵權人的維權難度較大，維權成本過高。有些侵權人往往身處境外實施 “深度偽造” 侵權行為，當追訴侵權人時，國內民事法律的適用會遭遇空間效力的阻隔。一國民事法律只能約束其領土范圍內的人、行為和事件，但對跨境散布 “深度偽造” 虛假信息的行為卻難有約束力。此外，從實踐情況來看， “深度偽造” 信息的制作者在互聯網上發布相關信息時往往會采用最先進的加密技術以實現個人域名的匿名化，在現有技術條件下很難通過追蹤溯源的方式找到制作者加以追訴，因而導致 “受害者” 在維權過程中需要花費的時間、精力和費用將遠遠超出其可能獲得的補償。此外，這些民事救濟渠道的不足還在于其是一種事后救濟渠道，難以及時救濟互聯網侵權損害后果的迅速擴大。

3.現行刑法規制思路難以滿足直接抑制 “深度偽造” 的特殊需求

數字 “深度偽造” 技術濫用行為實際上可能侵犯刑法所保護的多種法益。這些被侵害的法益涵蓋個人法益、社會法益和國家法益。刑法要做到規制一種行為而達到保護多重法益的目的并不容易。從法益保護的視角出發，傳統刑法抑制 “深度偽造” 技術濫用行為仍是遵循類型化的規制思路，并將其轉化為針對具體危險的歸罪制裁路徑。依據這種思路和濫用 “深度偽造” 技術可能被應用的場景來考慮，現有刑法規制可以考慮適用的罪名主要有侮辱罪、誹謗罪、詐騙罪、侵犯著作權罪、尋釁滋事罪或傳播淫穢物品罪等。從 “深度偽造” 內容和危害后果看，利用 “深度偽造” 技術實施的單一行為可能會同時符合多個罪的犯罪構成要件，此時可以按照想象競合歸罪原則進行處理。現有刑法對其規制是基于一種目的性行為的結果歸責思路，且需 “深度偽造” 品達到刑法評價意義上的 “重大損害結果” 或 “加重情節” 時才能適用，反映出傳統刑法所規制的側重點是 “深度偽造” 品的傳播，而不是制作行為本身。這種結果導向的規制思路雖然在一定程度上能夠起到抑制 “深度偽造” 品傳播的作用，但因沒有就制作行為本身進行針對性規制而可能導致效果不佳。制作 “深度偽造” 品的行為本質上是一種刑法評價意義上的數字 “身份盜竊” 行為，其法益侵害的對象是個人生物識別信息。這種濫用公民個人生物識別信息的行為本身就具備獨立的危害性，具備行為犯的犯罪構成要件。由此可見，上述刑法規制思路顯然難以滿足直接抑制 “深度偽造” 技術濫用行為的特殊需求。

4.部分國際法制度面臨系統性重塑或修改的風險

數字 “深度偽造” 技術創造了新的環境，以前沒有問題的法律突然被發現涵蓋范圍不那么恰當，導致現有國際法律制度暴露出包容性不足的問題。 “法律與技術變革” 理論認為新技術既可以通過創造新的實體或促成新的行為而直接改變法律制度，又可以通過改變激勵機制或價值觀而間接改變法律制度。因而從該理論的視角出發，人工智能數字 “深度偽造” 技術可以直接或間接地改變國際法律制度。正如美國學者科林·皮克（Colin Picker）所指出的那樣，技術創新推動了整個歷史上 “國際法的創造，修改或破壞”。越來越具有顛覆性影響的數字 “深度偽造” 技術被濫用可能會對國際法的關鍵性前提產生系統性、破壞性影響。它所造成的法律漏洞將很難彌補，其所提供的破壞力將削平強國全面參與或遵守國際法制度的前提性理由，部分國際法制度面臨被淘汰的風險。譬如恐怖分子或敵對勢力在境外利用 “深度偽造” 技術實施抹黑他國政要、發布并傳播帶有種族歧視或民族壓迫色彩內容的虛假視頻等威脅國際安全的犯罪活動時，有可能使該種國際犯罪的對象、時間、地點混淆不清，這都給主權國家相關法律適用的空間效力及管轄權帶來新的挑戰。數字技術不遵守傳統的領土邊界等主權規范，世界需要新的協調機制來檢測和應對數字 “深度偽造” 技術對國家安全乃至國際安全帶來的新挑戰。此時，僅僅依靠一國國內法律體系將難以應對這些挑戰。為此，國際法律制度將需要變革以適應或解決新的情況，這將可能導致國際監管模式發生系統性變更。

二、法律 “深度偽造” 濫用行為：安全與自由利益之爭

（一）規制 “深度偽造” 濫用行為的利益指向之一：安全

“深度偽造” 等可能帶來顛覆性安全威脅的人工智能應用風險的出現，標志著人類智能已經分化出其自身的 “對立面” ，一個現實的表現就在于人類智能已經越來越難以控制人工智能所帶來的 “系統性” 風險。 “和所有技術一樣，人工智能也可能會落入不法之徒手里。”如何更好地使處于人類智能 “對立面” 的人工智能新技術始終遵循合理開發和利用的軌道，考驗著人類在科技變革時代下社會治理的智慧和能力。我們認為，技術賦予了生命一種力量，這種力量要么讓生命實現空前的興盛，要么讓生命走向自我毀滅，而我們更青睞前一種。法律作為人類社會規范人的行為的有效手段，自然也成為規范 “人工智能主體” 行為的重要選擇手段。人類智慧與人工智能能否實現和諧相處，關鍵就在于能否創設出一套能夠調和人類智慧與人工智能之間潛在矛盾運動所帶來的利益沖突的社會制度，這樣一套制度代表著人類在未來不確定的生活中追求安全秩序的強烈期許。人工智能技術所帶來的潛在系統性安全威脅，使人們意識到設定超高的安全性與可解釋性標準已經迫在眉睫。

“深度偽造” 技術與其他新興技術的融合，為操縱或欺騙民眾的認知以實現顛覆性攻擊創造了可能。在人工智能時代與 “數字化” 迭代背景之下，重要的不是誰贏得新的領地，而是誰控制了數據。因為誰控制了數據，誰就可以低成本地贏得任何特定國家或政體內公民的信任、人心乃至思想。可以說，人工智能時代的網絡空間不僅成為信息、商業和戰略技術運作激烈競爭的新領域，而且已經成為新的戰場，其方式模糊了戰爭與和平的界限，使我們每個人都成為后現代沖突的潛在目標。不法分子濫用 “深度偽造” 技術可以輕而易舉地掌握生成高質量數字偽造品的訣竅，以影響和操縱輿論。政府監管機構必須意識到在網絡空間組合運用 “深度偽造” 等新興技術操縱民意或者誘導性攻擊他人的行為，會威脅到個人、集體、國家乃至世界的安全利益。法律并不對 “深度偽造” 技術本身做出否定性評價，而只對濫用該技術實施一系列侵犯各種法益的行為做出否定性評價，其評價實質在于維護安全利益的需要。 “濫用” 一詞本身就帶有法律否定性的規范價值判斷的成分，執法者要綜合自身經驗和價值取向才能對 “何為濫用” 做出較為準確的判斷。數字 “深度偽造” 技術被濫用的可能性已經呈現，法律規制這一技術濫用行為面臨著多重的安全利益需要：既是保障個人人身和財產權利安全的需要，也是維護政治體制安全的需要，還是維護國家安全乃至國際安全的需要。

（二）規制 “深度偽造” 濫用行為的利益指向之二：自由

自由作為建構人類社會的重要基準價值尺度之一，對人類社會的演進和 “人的解放” 而言意義重大。從科技哲學的視野來看，人工智能及其衍生技術發展所引發的自由利益保障需求，是追求 “人的解放” 這一終極價值需求的體現。當代意蘊之下 “人的解放” 是指 “人” 在自然、社會、思維等層面獲得更大、更多的自由，是 “人” 所面臨的大量舊矛盾的解決和新矛盾的涌現。在當代經濟社會產生急速變革的情形之下，人的力量隨著人工智能等新技術的發展得到進一步的擴張， “人的解放” 所代表的時間尺度、空間尺度和價值尺度在智能時代得到了前所未有的升華。一方面，在人工智能時代，人的自由而全面的發展需要通過合理開發和利用人工智能得以表現出來；另一方面，人的自由而全面的發展也會正向促進人工智能的健康發展，離開了人的自由而全面的發展的人工智能往往會失去前進的 “靈魂”。因此，人的自由而全面的發展與人工智能的健康發展之間存在密切的聯系。可以說，人類創造和使用人工智能以滿足自身多樣化的需求，本身就是追求和實現自由利益的一種表達方式。

“深度偽造” 技術作為人工智能技術發展追求開放和多元場景化的一個衍生品，其發展也代表著人類在自由利益追求機會之下多樣化選擇的可能性。畢竟，善用 “深度偽造” 技術也能產生一定的 “正向” 效應。正如 “自由的價值主要在于它為并非出自設計的發展提供了機會”。 “表達自由和意見的多樣性是真理浮現和彰顯的必要環境。”因此，法律在規制人工智能帶來的潛在安全威脅時，必須審慎地評判其可能對人工智能自由發展所帶來的利益損害程度，也應當對自由利益的實現保持足夠的尊重和耐心，從而避免對可能的發展機會帶來過大的抑制。

（三）規制 “深度偽造” 濫用行為：安全利益抑或自由利益，何者為先？

鑒于人工智能 “深度偽造” 濫用行為牽涉法理上的安全與自由利益之爭，有必要在規制 “深度偽造” 濫用行為的過程中首先明確保障何種利益為先。人工智能技術的高速發展固然推動了人類加快進入智能型社會的步伐，但同時也引導著人類走向更加不確定性的未來，因而亟須對其所帶來的社會和法律風險展開現代性反思。在高科技時代，科學對社會產生的 “正向” 影響與 “負向” 影響均呈現出幾何級數增長。盡管在 “技術中性” 的觀念之下， “深度偽造” 技術本身并無善惡之分，善用該技術也可以產生相對積極的經濟和社會價值。但以 “深度偽造” 為代表的人工智能技術所引發的 “負向效應” 表明技術越發展，越需要人類的素質和能力跟上技術發展的腳步，否則將會產生人類越來越難以掌控技術應用風險的情形。在智能時代的時空范圍之內，規制風險的一種可行途徑是確立一項基本的原則：在猶豫不決時，應遵循預防原則，小心謹慎以保障安全利益的基本需求。為保障安全，就必須對預防的尺度做必要的成本與收益分析，其中也包括對自由損害程度的成本與收益分析。在風險理論中，人工智能存在著現代性的負面影響，因此有必要采取預防性行為和因應性的制度。法律制度的價值和意義就在于規范和追尋技術上的可以管理的哪怕是可能性很小或影響范圍很小的風險和災難的每一個細節。

法律所履行的安全功能對保障實現自由、正義價值而言至關重要。霍布斯曾言： “人民的安全是至高無上的法律。”這句話彰顯出安全價值利益在法律上的重要地位。法律上安全目的的重要性就在于其創造了一種確定性的秩序，能夠用以堅決保護人民重大的利益和需要，因為人們所追求的幸福生活目標和自由利益只有在一定程度的安全和有序的基礎上才能真正得以實現，其重大價值就此可見一斑。誠如德國法學家魏德士教授所指出的： “法創造著秩序，雖然首先是在形式上。在人類的共同生活中，人們寧可容忍有問題的、不符合目的的或者根本就是‘不公正的’法律規則的存在，也不愿意看到完全失去法律控制的狀態。”目前，人工智能的發展存在替代人類與增強人類兩條路線，法律需要在這兩條路線之間審慎地作出選擇。因為在技術的發展過程中，法律要較為明確地界定二者之間的界限并不容易。一條較為公認的標準是法律應當肯定人工智能局部性替代人類的積極意義，并預防和避免人類整體性利益被損害。

不受控制的 “深度偽造” 虛假信息可能對人們享有言論自由權的能力產生嚴重的負面影響，并可能對政治制度產生破壞性影響。旨在確保透明度的立法既有助于打擊虛假信息，同時又可以維護言論自由的權利。在對自由限度的解讀中，法國思想家孟德斯鳩認為 “自由絕不意味著可以隨心所欲，自由是做法律所許可的一切事情的權利”。由此可見，法律對某些看似需要 “自由” 的行為作出規制，恰恰是為了更好地維護自由本身蘊含的長遠利益需求。過去，我們一直信奉 “思想和言論表達自由” 的價值觀念，鼓勵更多言論自由表達，其目的在于防止真相被蒙蔽并激發新思想的創造。但在 “深度偽造” 技術濫用之下，公眾發現辨別信息的真假變得極端困難時，這種尊奉 “思想和言論自由” 為金科玉律的觀念，在后真相時代恐怕需要經歷一番限縮解釋了。規制 “深度造假” 濫用行為的目的在于抑制消極因素，發揮積極效應。無論如何，人們創造技術是為了更好地滿足人類追求美好生活的需要，實現這個目標的關鍵是人們運用技術的手段和目的要合乎一般法律原則與道德倫理的要求。

三、全球監管 “深度偽造” 濫用行為的模式

鑒于不法分子濫用數字 “深度偽造” 技術將會帶來一系列的消極影響，法律人必須思考如何規制濫用該技術的行為。為此，各國開始在運用法律手段規制 “深度偽造” 技術濫用行為上進行了初步的立法嘗試，形成了數字平臺 “自我監管” 、政府 “直接監管” 以及 “平臺+政府” 聯合共同監管三種治理模式。

（一） “自我監管” 模式：數字平臺的自我調節行動

數字平臺 “自我監管” 模式旨在推動互聯網平臺公司主動承擔起對網絡環境中用戶發布內容的真實性和行為的合法性加以審查的責任，強調依靠數字平臺 “自愿” 實施系列措施打擊包括 “深度偽造” 在內的各種數字虛假信息，其性質屬于一種數字平臺自我調節機制。如全球著名的數字平臺公司臉書、推特以及谷歌宣布將采取一項以 “阻止錯誤信息或虛假新聞傳播” 為目標的行動計劃。臉書創建了一個旨在提高 “廣告透明度” 的 “廣告庫” ，同時與第三方的網絡事實核查員保持合作，并每月定期發布因 “內容不真實行為” 而被凍結的賬戶數量報告。同樣，美國推特公司宣布禁止發布包括提及政治候選人或立法等政治性內容的廣告，并開發出一個工具用以專門對此類 “數字虛假內容” 進行標注。然而自我調節機制在治理 “深度偽造” 信息時也存在一些顯而易見的弊端：①數字平臺自我審查的透明度不足，難以提供可供政府等第三方核查的相關數據；②過度依賴數字平臺自身設定的算法實施自動化過濾，容易導致數字平臺與政府機構之間出現信息不對稱；③數字平臺自主過濾虛假信息的措施可能與自身的利益出現沖突，導致自我審查動力不足。因為數字平臺尤其是免費社交網站的收入更多地依賴于盡可能多的廣告銷售收入，需要吸引和維持受眾盡可能長時間地參與網絡話題的討論。

實踐證明，由于缺乏針對性、足夠的激勵機制以及較強的外部監管壓力， “自我監管” 模式在治理 “深度偽造” 技術濫用現象中呈現的效果不佳。德國青少年保護網于2017年開展的一項調研數據顯示，依靠網絡數字平臺 “自我監管” 模式清理數字虛假信息的效果不佳。如臉書上只有39%的數字虛假信息被及時清理，推特上只有1%的數字虛假信息被及時清理。盡管數字平臺 “自我監督” 模式存在種種不足，但這種自律方式是增強數字平臺責任意識重要而不可或缺的一步。單純由政府機構采取打擊行動實際上難以應對網絡用戶每天上傳的海量信息，也遠遠不足以解決網絡虛假信息的傳播問題，因而鼓勵數字平臺參與打擊包括 “深度偽造” 在內的網絡虛假信息仍然是必要的。

（二） “直接監管” 模式：來自政府的單邊行動

政府 “直接監管” 模式強調從國家層面制定相應法律來禁止實施包括發布 “深度偽造” 在內的各種數字虛假信息的行為。這一模式在許多國家已經得到了立法上的實踐，其中以美國對數字 “深度偽造” 技術濫用行為采取 “直接監管” 的行動最為典型。早在數字 “深度偽造” 技術誕生不久后，美國國家安全部門便察覺到了濫用數字 “深度偽造” 技術對國家安全造成重大危害的現實可能性，因而積極支持有關部門從法律和政策層面加強對數字 “深度偽造” 技術濫用行為的監管。在聯邦立法層面，美國陸續提出了一系列有針對性的法案。譬如2018年12月，美國參議員Ben Sasse提出的《2018年惡意偽造禁令法案》將制作 “深度偽造” 內容的行為人和明知是 “深度偽造” 內容卻仍放任其繼續傳播的數字平臺納入了規制的范圍。2019年6月12日，美國眾議員Yvette Clarke又提出了《深度偽造責任法案》，旨在限制利用 “深度偽造” 技術合成虛假信息以威脅選舉活動的行為。該法案的基本內容包括：①強調 “深度偽造” 內容制作者負有披露義務；政府負有開發識別 “深度偽造” 內容相關技術的義務；規定被侵權人享有訴權；將利用 “深度偽造” 技術實施的數字冒名行為視作假冒行為進行規制。實際上，該法案的出臺在美國招致了一些批評，主要是因為其部分重要定義較為模糊、條文可操作性不強、與美國憲法第一修正案保護言論自由的精神存在潛在沖突。同年6月28日，美國又出臺了《2019年深度偽造報告法案》，該法案主要規定了三項重要內容：①明確將數字 “內容偽造” 定義為使用包括人工智能 “深度偽造” 在內的各種新興技術來制作意圖產生誘導性結果的音頻或視頻內容；②規定國土安全部需評估外國實體對數字內容偽造的使用，并負有定期發布關于 “深度偽造” 技術前瞻性研究報告的義務；③規定了美國對 “深度偽造” 技術實施以 “國土安全部為主導，其他部門相協調” 的監管架構。

其他一些國家也采取了直接立法形式禁止實施包括 “深度偽造” 在內的網絡數字虛假信息行為，規定對發布和傳播數字虛假信息的行為施以罰款乃至監禁的處罰。有些國家的法律還授權政府相關機構封禁網站、凍結社交媒體賬戶或刪除網上數字虛假信息。如2019年3月，俄羅斯推出了《假新聞法》，該法規定對在數字平臺以及博客、媒體、網絡出版物上傳播 “明知是不真實的社會重大信息” 的用戶處以高達150萬盧布（約合人民幣15.5萬元）的罰款，并授權國家機關立即通知數字平臺和 “網絡出版物” 編輯在24小時內刪除內容，否則將凍結該網站的訪問權限。2019年5月8日，新加坡出臺了《防止網絡假信息和網絡操縱法案》，該法案規定對未依照政府指令及時刪除或更正網絡假信息的數字平臺，處以高達100萬新元（約合人民幣500萬元）的罰款；對惡意散播虛假信息、企圖損害公共利益的行為人，處以有期徒刑最高為10年、罰金最高為10萬新元（約50萬人民幣）的處罰。匈牙利于2020年3月出臺了一項法案規定對實施傳播數字虛假信息的行為人處以最高5年監禁的處罰。我國于2019年11月29日頒布了部門規章性質的《網絡音視頻信息服務管理規定》，其第11條禁止網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用深度學習、虛擬現實等新技術及新應用制作、發布、傳播虛假新聞信息。

在對待包括 “深度偽造” 在內的各種網絡數字虛假信息的監管上，盡管多國普遍采取了一種自上而下的直接監管模式，但這種模式在治理 “深度偽造” 技術濫用行為中也往往效果欠佳。這是因為在治理數字 “深度偽造” 問題時，網絡數字平臺與傳統政府監管機構之間存在較大技術差異，巨大的信息不對稱使監管機構實際上難以及時地對網上出現的 “深度偽造” 虛假信息加以處理，同時也難以準確把握監管的現實尺度。此外，民眾也擔憂這種 “直接監管” 模式可能存在過度壓縮網絡空間言論自由的嫌疑。由于難以界定 “深度偽造” 信息的含義，這種由國家驅動的硬性規定可能為政府濫用權力決定什么是 “深度偽造” 信息開辟新的途徑，進而產生過度壓制言論自由的風險。

（三） “平臺+政府” 聯合共同監管模式：歐盟層面的多邊努力

“平臺+政府” 聯合監管模式強調數字平臺與政府部門共同負有責任來治理包括 “深度偽造” 在內的數字虛假信息，要求數字平臺在政府主管機構的監督下實施一系列切實有效的治理措施。歐盟采用了此種模式，旨在歐盟層面和國家層面的主管部門、互聯網平臺公司、媒體組織、研究人員和其他利益相關者之間建立一個治理數字虛假信息的合作框架。歐盟意在找出一種 “折中方案” ，從而發揮出數字平臺和政府監管在打擊數字虛假信息方面的雙重積極性。2018年5月25日，歐盟出臺了通行于歐盟成員內部的《通用數據保護條例》，該條例界定了 “同意” 和 “個人敏感數據” 等重要概念，加強了對在線平臺用戶的個人數據的保護，提出了嚴厲打擊數字虛假信息的主張。同時，該法案第71條 “算法可解釋性” 要求所有公司必須解釋算法的自動決策，這意味著 “深度偽造” 算法的黑箱操作已涉嫌違法。這是第一個就個人數據信息加以嚴格保護的強制性規定。2018年，歐盟委員會宣布成立了一個由新聞媒體、學術界和互聯網平臺公司代表組成的高級別專家工作組，其職責是：研究制定打擊包括 “深度偽造” 在內的數字虛假信息的行動方案，定期發布現狀分析報告，建議所需采取的法律行動。在此基礎上，歐盟委員會發布了重要報告《處置網絡虛假信息：歐洲進路》，該報告提出了應對數字虛假信息的4種方法，并將 “數字虛假信息” 定義為 “出于故意或經濟利益而制作，并在網絡平臺上傳播可能給公眾造成現實傷害的虛假或者誘導性信息” 。此外，該報告還指出數字虛假信息得以制造、上傳和傳播是受到現有數字平臺生態系統缺乏透明度和可追溯性，算法欺詐和網絡平臺廣告收入來源模式的影響。同時，歐盟層面也支持依靠網絡數字平臺簽署自愿共同遵守的行為準則來進行 “自律監管” 。如歐盟委員會推動出臺了《歐盟反虛假信息行為守則》作為 “全球第一套平臺自律標準” ，該守則由數字平臺、廣告主和廣告行業自愿簽署，其主要目的是提高網絡政治廣告的透明度，解決虛假賬戶的問題，賦予消費者舉報虛假信息的權力。

客觀而言，歐盟采用的這種 “平臺+政府” 聯合共同監管模式是結合了歐盟組織及其成員國層面硬性規定和平臺自律性質軟性規定的兩種優勢，但須知這兩種不同性質的規定之間不可避免地會出現利益和銜接上的沖突。此外，由于歐盟是將 “深度偽造” 納入數字虛假信息的治理路徑，因而可能缺乏針對性。但上述沖突并非不可調和，其不足之處也可以通過在泛歐層面上更果斷地采取共同監管行動框架來部分地加以克服。

四、規制 “深度偽造” 濫用行為的法律對策

（一）推動建立和完善治理 “深度偽造” 濫用行為的國際合作機制

打擊跨國數字 “深度偽造” 虛假信息意味著首先要在超國家層面建立相應的監管機制，這就需要有條件地制定新條約以明確禁止或控制該技術在國際政治和國家安全領域的發展或使用。鑒于濫用該技術制作虛假數字信息并結合互聯網全球迅捷傳播的力量將給國際安全帶來重大威脅，濫用這一技術的行為已被大多數或幾乎所有國家認為是危險和不可取的。這就為在國際法領域構建相應的協調監管機制提供了形成廣泛共識的信任基礎。雖然建立新的針對數字 “深度偽造” 技術的規制制度在國際法律領域并不那么容易，但理論上，國際法律體系顯然能夠提出和形成新的法律制度，以解決該技術所帶來的制度空白。因此，如何建立新的針對性國際機制才是問題的關鍵所在，具體而言，推動建立治理該技術濫用行為的國際合作機制有兩條：

其一，可以嘗試將 “深度偽造” 虛假信息的治理納入即將構建的人工智能全球治理框架之中。人工智能技術的發展使得沒有一個國家能夠單獨應對其帶來的安全威脅與挑戰。對此，誠如谷歌CEO桑達爾·皮查伊在2020年1月召開的達沃斯論壇上提出的觀點一樣： “人工智能的管理需要一個全球性的框架。”由于各國已經認識到人工智能技術發展可能給全球安全帶來普遍性挑戰，因而在全球層面構建人工智能治理框架勢在必行且已開始轉化為實際行動。如在國際層面，2019年5月，OECD成員國已批準了名為 “負責任地管理可信AI原則” 作為全球首個政府間合作簽署的AI組合型管理原則，其內容包括包容性增長、可持續發展和福祉原則，以人為本的價值觀和公平原則，透明性和可解釋性原則，穩健性和安全可靠原則以及責任原則。上述原則有望成為未來治理AI的國際通行準則。中國是人工智能發展大國，業已于2019年6月頒布了《新一代人工智能治理原則》作為框架性治理文件。數字 “深度偽造” 技術是人工智能技術的一個重要分支，我國倡導將其納入即將構建的人工智能全球治理框架之中加以規制也在情理之中。

其二，可以考慮將濫用數字 “深度偽造” 技術制作虛假信息的行為納入國際刑事協作和國際反恐合作機制的規制之中。鑒于跨國 “深度偽造” 虛假信息可能侵害國際社會的共同法益，因而利用現有的國際刑事協作機制來加以打擊是較為可行的。此外，數字 “深度偽造” 虛假信息常被視作新型信息戰常用的重要手段，其對國家安全乃至國際安全的危害性不亞于發動一場恐怖熱戰的襲擊。因此，從維護國家安全的角度出發，將濫用 “深度偽造” 技術制作危害國家安全的虛假信息行為嵌入國際反恐合作機制加以規制也是恰當的。同時，各國還應在現有國際機制之下強化跨國數字平臺對于管控 “深度偽造” 虛假信息傳播的法律和社會責任。

（二）效仿歐盟推行 “平臺+政府” 聯合監管模式

數字 “深度偽造” 技術濫用行為牽涉多種利益，除積極開展國際合作監管之外，仍需要在國內聯合多部門、多行業進行監管。為有效應對 “深度偽造” 虛假信息監管的復雜性和應用場景的多變性，建議我國采用 “一主多輔” 的監管架構，明確各政府監管機構的監管責任并合理劃分監管范圍。所謂 “一主多輔” 是指以 “國家安全部” 為主導，以 “中央宣傳部、中央網信辦、公安部、國家新聞出版廣電總局” 等部門為輔助。監管機構應明確劃定網絡用戶利用 “深度偽造” 技術的違法 “紅線” 。綜合分析比較全球監管模式的利弊來看，我國借鑒歐盟所采取的 “平臺+政府” 聯合監管模式加以規制更為妥當。當然，歐盟模式仍需克服其現存的兩大弊端：其一，歐盟及其成員國的強制性立法對規制數字 “深度偽造” 虛假信息缺乏針對性和足夠的協調性。其二，歐盟推行的權威機構監管下的數字平臺 “自律” 機制在利益調節上仍然存在不順暢之處。針對歐盟模式的弊端，我國可在即將出臺的《數據安全法》中果斷地加入 “深度偽造” 虛假信息規制條款來加強針對性和協調性。此外，我國還可在推行政府監管與數字平臺自律機制聯合行動的前提下，積極推動數字平臺就商業廣告創收模式開展變革，明確數字平臺的定期報告義務以增強透明性，從而實現數字平臺自我利益與公共利益有效平衡的調節目標。這種方法可以糾正數字平臺自律與政府機構監管之間存在的一些信息和權力的不對稱，同時確保必要的靈活性。

（三）加強網絡數字平臺的責任：引入 “準行政責任” 機制

網絡數字平臺相較其他市場主體在識別和處理數字虛假信息上天然地存在資金和技術兩個層面的優勢。目前我國關于網絡平臺數字虛假信息治理和法律責任的規定主要集中于《侵權責任法》《網絡安全法》《信息網絡傳播權保護條例》之中，但這三部法律法規就數字平臺治理虛假信息所施加的責任要求普遍較輕，因而難以實現促使其 “自律” 治理的目標。此外，數字平臺對個人數據的保護基本遵循著傳統的 “通知—同意” 的隱私保護策略，難以應對 “深度偽造” 虛假信息帶來的挑戰，而單純的 “平臺自律” 方式也無法起到實質性作用。基于 “深度偽造” 虛假信息帶來的嚴重現實威脅，有必要加重網絡數字平臺在打擊 “深度偽造” 虛假信息時的責任。一條規制 “深度偽造” 虛假信息制造和傳播行為的可行的路徑是將 “準行政責任” 機制引入網絡數字平臺責任承擔制度之中。所謂 “準行政責任” 是指對網絡數字平臺施以類似行政機構的監管義務，以專門針對性地監控和報告數字 “深度偽造” 虛假信息制造和傳播行為，否則施以巨額罰款。

“深度偽造” 虛假信息的主要表現載體是視頻或音頻，因而網絡數字平臺抑制 “深度偽造” 虛假信息的 “準行政責任” 機制也應當主要針對視頻或音頻來進行設計。數字平臺未來的舉措固然是應該以開發人工智能工具為導向，結合人工智能反 “深度偽造” 技術來審查全球數十億用戶發布的內容。但由于現有的檢測技術實際上無法做到識別全部的 “深度偽造” 虛假信息，因而從現實情況來考慮，通過重點監控用戶非法行為的方式以尋找 “深度偽造” 內容的跡象是必要且可行的，有利于集中技術力量重點打擊影響重大的此類非法行為。基于互聯網龐大的用戶群、即時傳播的速度和域名虛擬化的特征，網絡數字平臺有必要針對上述特征制定如下規則：①主動對50萬點擊量以上的網絡熱點視頻或音頻開展 “深度偽造” 合成審查。②對網絡用戶發布的涉及國家安全、公共安全、政治安全等敏感信息、敏感詞匯的視頻或音頻加以標記，主動開展 “深度偽造” 合成審查，并錄入定期報告事件之中。③網絡平臺應遵循 “發現/通知—刪除/禁止傳播—溯源” 規則處理 “深度偽造” 虛假信息。也即網絡平臺一經自己發現或者經由用戶舉報發現線上存在 “深度偽造” 虛假信息，就必須立即動用檢測技術手段加以確認，然后采取刪除、斷開鏈接、禁止再次上傳等措施遏制其傳播，最后還應主動追蹤溯源到 “深度偽造” 虛假信息的域名和域名背后的真實用戶。

（四）引入懲罰性賠償威懾 “深度偽造” 技術濫用行為人

國家運用法律手段追究 “深度偽造” 虛假信息制作者和發布者的責任是必要的，同時也需注意給予 “受害人” “充分、及時、有效” 的救濟。有學者提出要賦予 “深度偽造” 虛假信息制作者聲明義務或者標記義務，但這種做法實際上不太現實。這是因為善用 “深度偽造” 技術仍可以產生相對積極的效果，制作者聲明或不聲明的意義不大，這種善意行為不需要法律過多加以規制；而濫用該技術制作危害性的虛假信息時，制作者必定存在逃避處罰的心態，因而其不會主動地加以聲明或者即使聲明了也要加以處罰。目前我國治理數字虛假信息的責任承擔制度無法有效抑制 “深度偽造” 技術濫用行為的實施，其原因主要在于制作 “深度偽造” 虛假信息的侵權違法成本過低，不足以對此類行為形成足夠的經濟威懾力，也不足以對 “受害人” 提供充分的救濟。因此有必要引入一種極具懲罰性質的民事責任來改善此種情況，懲罰性賠償制度可以滿足這一要求。在制定《民法典》之前，我國懲罰性賠償機制主要存在于消費者權益保護、食品安全、商品房買賣、產品缺陷領域；《民法典》制定之后，我國果斷在知識產權領域引入了懲罰性賠償機制作為兜底條款，用以遏制頻繁發生的、惡意侵害他人知識產權的行為。 “深度偽造” 虛假信息也在一定意義上涉及知識產權侵權問題。因此，我國也可考慮在規制 “深度偽造” 技術濫用行為上引入懲罰性賠償機制。

結語

大數據與人工智能技術互動所產生的 “疊加效應” 給現行法律制度體系帶來了前所未有的挑戰，傳統法律制度必須勇于回應這些挑戰并作出適當變革。數字 “深度偽造” 技術是人工智能的衍生技術，濫用該技術所帶來的一系列潛在安全威脅問題凸顯出法律應對此類前沿科技發展的滯后性。對此，單純依靠某一部法律來規制新技術的濫用行為往往難以達成預期的效果，往往需要多部相關法律協同創新才能取得較為理想的效果。當然，要解決好 “深度偽造” 技術發展帶來的應用風險，仍需組合使用除法律之外的其他手段共同施為。