“深度偽造”技術的法律風險及其協同治理研究

王惠敏，蔡士林

（1.江蘇師范大學法學院；2.中國礦業大學人文與藝術學院，江蘇徐州 221116）

1 問題的提出

習近平在世界人工智能大會上指出：“在移動互聯網、大數據、超級計算、傳感網、腦科學等新理論新技術驅動下，人工智能呈現深度學習、跨界融合、人機協同、群智開放、自主操控等新特征，正在對經濟發展、社會進步、全球治理等方面產生重大而深遠的影響［1］。”“深度偽造”技術便是人工智能社會進化過程中的縮影。“深度偽造”（Deep fake）是“深度學習”和“偽造”兩個詞的合成語，主要指對圖像、視頻和音頻進行超現實的數字偽造［2］。“深度偽造”通過操縱先前存在的視頻片段或圖片可以描述從未發生過的事情。例如喬丹·皮爾在短片《奧巴馬的“深度偽造”》中利用了過去鏈接地址的真實視頻進行剪輯而創建了一個全新視頻，將自己想說的話借助奧巴馬表達出來。又如2019 年，臉書上流出美國現任總統特朗普批判比利時氣候問題的假視頻［3］。之前德國的研究團隊就曾因為制作多國領導人的虛假視頻而被控訴［4］。針對此種情形，美國國會就“深度偽造”可能帶來的國家安全和個人隱私問題曾舉行過多場聽證會。無獨有偶，我國近期出現的“楊冪換臉”事件首次將“深度偽造”拉入國人的視野中來，后來在APPStore 中出現了包括“ZAO”“AI 換臉”“FaceApp”等多款應用程序則是將“深偽”變成輿論的焦點。

隨著“深度偽造”技術被廣泛運用，其犯罪邊界問題逐漸成為互聯網討論的熱門話題，尤其在大數據時代，個人信息的價值日益凸顯，此類糾紛必然也會越來越多［5］。遺憾的是，當前理論界就法律與“深度偽造”技術的關系議題投入了一部分的精力，并取得相應的研究成果，但基本上都以宏大敘事的方式展開，并未準確理清二者的內在聯系。隨著當下時代從“技術就是生產力”到“知識就是生產力”再到“信息就是生產力”的轉化，以及云計算、物聯網和大數據的應用與發展，個人信息成為大數據時代的重要財富［6］，“深度偽造”的技術風險也日益凸顯，因此，探究該技術的治理路徑，不僅有利于“深度偽造”行為法律規制問題的研究更具有情景化效應，而且也益于公民和國家法益的針對性保護。本文擬從“深度偽造”的技術原理出發，分析其法律風險，并在此基礎上探尋治理路徑。

2 “深度偽造”的技術原理與主要類型

在回應“深度偽造”技術治理路徑這一命題時，首先需要我們清晰勾勒出其技術原理和特征，因為這些技術關鍵點不僅直接影響甚至是決定未來法律發展的走向，而且還為法律變革提供了技術參數。誠如周佑勇［7］教授所言：“智能時代到來，我們必須深刻領悟其背后的技術載體和基礎，否則一切的法律變革都會成為自說自話的文字游戲。”

2.1 “深度偽造”的技術原理

本世紀初，圖像和音頻識別迎來了大數據時代和復雜模型時代。一方面，計算機的運算能力繼續提高，研究人員能夠嘗試計算更大的復雜模型；另一方面，數字化攝影技術深入改變了人臉圖像的獲取手段，極大降低了人臉圖像的獲取成本，使得大數據的識別算法成為可能。自攝影技術誕生，人類便致力于尋找操作或控制媒體介質的方法，最早可以追溯至19 世紀60 年代。典型例子便是拉罕·林肯的肖像，這張照片實際上是林肯頭部和約翰·卡爾霍恩身體的照片的結合［8］。由此可見，利用諸如多次曝光和組合印刷等技術對圖像進行修改早已不再是“獨門秘籍”，而后來Photoshop 軟件甚至可以改變圖像實質結構，實現攝影藝術家的夙愿。“深度偽造”技術的關鍵是使用“神經網絡”（Neural Network）進行機器學習。神經網絡初期以節點網絡為特征，而節點網絡是由一組隨機設定的數值標準控制。正如經驗可以細化大腦的神經節點，實例可以訓練神經網絡系統一樣，如果網絡處理大量的樣本，它就可以創建越來越精確的模型。例如，華盛頓大學的研究人員曾用前總統巴拉克·奧巴馬的一段視頻來演示這項技術，使人覺得他說了一些無法理解的話［9］。就其本身而言，借助神經網絡方法的機器學習將預示著創建假圖像、視頻和音頻的能力的升級。

“深度偽造”技術的興起主要得益于“生成式對抗網絡”（GAN）和“卷積神經網絡”（CNN）。GAN 同時使用了兩個神經網絡，一個稱為“生成器”的神經網絡利用數據集生成一個模擬數據集的樣本，主要負責基于底層圖像數據集生成樣本輸出（例如圖像）；而另一個稱之為“鑒別器”的神經網絡主要負責基于真實的目標圖像對“生成器”生成的偽造圖像進行驗證和評估［10］。這兩個神經網絡以迭代的方式生成逼真的“作品”，逐漸接近原始數據集中的圖像。“深度偽造”中算法之間進行對抗式訓練，提升彼此的速度以便生成高度仿真的虛假圖像或視頻。GAN 技術的日益優化，無疑會出現一系列極具說服力且難以揭穿“產品”。而CNN 是一種專門處理具有類似網格結構的數據的神經網絡，例如時間序列的數據（可以視為在時間軸上有規律地采樣形成的一堆網絡）和圖像數據（可以視為二維的像素網絡）。這是第一個通過自動學習卷積核的人工神經網絡系統，具備CNN 最基礎的性質。此種卷積網絡結構共分為七層，一個輸入層、兩個卷積層、兩個子采樣層、一個全連接層和一個輸入層［11］。

2.2 “深度偽造”技術的主要類型

2.2.1 視頻偽造：AI 換臉技術

應當說，視頻偽造是“深度偽造”的代表，同時也是社會治理上的重災區。視頻偽造也被稱之為“AI 換臉技術”（AI Face Swap），該技術的運行原理是通過GAN 抑或者CNN 等算法將目標對象的面部“縫合”到被模仿的對象上［12］。人工智能、機器學習和生成式對抗網絡都是用戶創建“深度偽造”的工具。例如，紅迪網匿名用戶使用“張量流圖”（Tensor Flow，簡稱TF）將蓋爾·加朵的臉和其他名人的臉移到色情視頻中色情明星的身體上［13］，而關聯性的圖片皆是由Google、YouTube 等開源數據庫中獲取。這種轉換（面部替換）的實現都得益于“深度學習”，由相互連接的節點組成的網絡，這些節點會自動對輸入數據進行自主計算，因此受害者的臉及其各種角度和位置都跟隨著視頻中的身體。詳言之，將模仿人物的視頻逐幀轉化成大量圖片，然后將模仿對象面部替換成目標對象面部，最后將替換的圖片借助深度學習技術自動完成偽造視頻替換。

2.2.2 音頻偽造

過去音頻偽造的主要方法是創建一個大型數據庫，其中包含來自源的聲音片段，然后將這些片段組合并重新排序，以生成模擬語音。為了降低制作門檻和成本，滿足藝術尤其是電影業的發展需求，眾多科技公司將“深度偽造”技術的研發提上日程，諸如谷歌的“深層思維”部門（DeepMind）“Wavenet”模型、百度的DeepVoice 模型和GAN 模型。藍鳥公司（Lyre bird）曾發布了一些簡短的音頻剪輯，用以模擬巴拉克·奧巴馬、唐納德·特朗普和希拉里·克林頓對“深度偽造”技術的討論。就音頻而言，GANs 使用神經網絡學習并再現源的屬性，并以毫秒為單位對語音進行模型構建。當這個經過處理的音頻與一個由GAN 創建的視頻結合在一起時，其結果是此視頻的外觀和聲音都與另一個視頻高度相似。但實際上這一“深度偽造”行為是用機器學習算法創建的，使用容易獲取的材料和開源代碼，任何具有深度學習算法工作知識的人都可以把它們放在一起［14］。人工智能時代，民眾獲取信息和數據的門檻被各種應用程序拉低，各種傻瓜式的操作備受追捧，故而只要相關材料對公眾開放，任何一個擁有相關技術知識或使用應用程序的人都可以利用它們來創作任何他或她想要的東西。這也從側面解釋了“深度偽造”技術可能異化為危險源的緣由。

3 “深度偽造”技術的法律風險

“深度偽造”技術在形塑創新型社會的同時，也攜帶著內在的法律風險因子。事實上，對法律風險給予必要關注，既是有效保護人類法益的需要，也是確保新技術良性發展的要求。

3.1 個人數據風險系數驟增

隨著信息技術的發展，數據處理（傳輸、共享、儲存、計算等）成本快速下降，數據開始從簡單的信息代碼演變為一種資源［15］。特別是在數據挖掘和網絡爬蟲的技術加持下［16］，大規模處理個人信息正逐漸成為一種廣泛存在的經濟現象，這推動了經濟的發展和社會的進步，但是也給公民自身帶來了不可避免的麻煩［17］。具體原因可以分為以下兩個方面。

第一，個人信息（自決）權形同虛設。個人信息權是指信息主體依法對其個人信息所享有的支配、控制并排除他人侵害的權利［18］。無論是理論界還是實務界、國內抑或域外幾乎都異口同聲地強調大數據語境下法律應當著力維護信息主體的權益。盡管在權利屬性上可能存在分歧（“隱私權”“財產權”“新型權利”等），但絕大多數學者都認為數據或信息國內和跨境流通需要事先征得信息主體的同意，這被認為是個人信息權的基礎。從形式上看，這種“同意”機制似乎為防止個人數據的濫用提供了保護罩，如此一來“深度偽造”的不正當性概率就會降低。事實上，將事前同意作為個人信息自決權的關鍵既不現實也不科學。一方面，雖然各個網絡平臺都相繼設置了使用前的“用戶協議”或“提示條款”，但其內容繁雜，且字體較小，短時間內用戶難以理解內容的真實含義，而若要繼續就必須選擇“同意”。另一方面，信息主體對于個人信息的控制力也相當薄弱。以“深度偽造”中的“換臉視頻”為例，換臉需要A和B兩組數據模型，而模型的構建有必須以彼此真實的視頻和音頻作為“深度學習”和計算的對象［19］。如果信息主體對于個人信息真實的強控制力存在，那么“深度偽造”的作品應該是主體所許可或同意的，自然不會出現是所謂的“色情產品”。實際上，個人信息名義上歸屬于個人，但是其依賴的存儲路徑是服務器和終端設備，信息主體的占有權大打折扣。概言之，信息主體對于個人信息控制和決定權的虛化為“深度偽造”的蔓延提供了條件。

第二，并未劃定數據控制者和管理者的責任。大規模數據的共性分析不僅給信息控制者帶來可觀的商業利益，也直接改善了消費者（信息主體）的生活和工作環境，帶來了快速迭代創新等便利［20］。獲得信息紅利的互聯網數據控制者內在隱藏著一種抵牾情緒，不情愿在數據或信息審查上投入過多的成本。一方面，我國的互聯網發展處于上升期，單純依靠數據控制者去消解內部和外部風險超出了企業的心理預期。不可否認，近年來我國積極推進個人信息保護法的立法進程，例如《刑法修正案九》增設了“侵犯公民個人信息罪”，但是依舊缺乏系統和全面的個人信息保護規范。此種背景下，既存條文對于數據控制者的責任規定過于原則，且注重追究刑事責任，這無疑為互聯網企業規避行政和民事責任塑造了僥幸心理［21］。另一方面，我國法律對于個人數據管理者的權責界定不明，容易出現互相推諉的情形，這給風險的出現預留了機會窗口。作為互聯網管理的專門性機構，國家互聯網信息辦公室在制度安排上強調網絡信息內容生態治理需要政府、企業、社會、網民等多方主體參與，共同構建良好的網絡生態［22］。但是在具體的內容設計上卻更多論證互聯網平臺、網絡信息內容生產者以及使用者的義務和責任，例如2020 年施行的《網絡信息內容生態治理規定》第3 條規定：“國家網信部門負責統籌協調全國網絡信息內容生態治理和相關監督管理工作，各有關主管部門依據各自職責做好網絡信息內容生態治理工作。”對于監管的內容、方式等具體細節并未詳加說明，且其他主體的責任規定占整個條文內容的60%以上。

3.2 女性名譽和財產權備受沖擊

在科技人士暢談深度偽造可能帶來的技術“紅利”時，我們更應該謹慎對待可能由此引發的法律風險。“深度偽造”的學習功能和算法特征的疊加提升了女性權益的受侵害風險，而自媒體時代則進一步促成了不可控局面的形成。

第一，侵害女性的名譽權。客觀層面而言，名譽就是他人對自己的看法；主觀層面而言，則是自身對于他人看法的顧忌［23］。女性名譽體現為一種間接性的關系價值，也即當他人的觀點或者看法足以影響自己生活時，這種評價才會被重視［24］。人是社會性的動物，女性在一個分工精細化的文明社會中，其大部分事情的完成都需要他人的協助，而在這種關系鏈中，他人對自己的評價就變得異常重要。女性名譽受到侵害不僅使其自身遭受精神痛苦，而且還會蔓延至工作、教育等多個環節，最終摧毀原有的良好社交關系。

第一次真正意義的“深度偽造”出現在Reddit的R/CelebFakes 版塊，該版塊“主要致力于將名人ps 成裸照。”例如2017 年9 月30 日，用戶“deepfakes”發布了一張女演員麥茜·威廉姆斯的虛擬臉，并制作了相關的性愛視頻。用戶開始根據彼此的數據集建立更有說服力的面部表情交換模型。盡管后來麥茜·威廉姆斯向該網站成功提出索賠，但仍未阻止相關偽造視頻的傳播，并且因此患上抑郁癥。誠如有學者所言：“人工智能技術的推進，使得不被遺忘成為一種新常態，女性名譽的受損風險指數上升［25］。”“深度偽造”的設計初衷與色情密切相關，許多偽造者會選擇制作女性的色情視頻。加之該技術操作簡單，使用者迅速增多，偽造的內容自然也是千奇百怪，而相應的受害對象也從最初的女明星發展為普通女性。例如諾埃爾·馬丁多年來一直是深度偽造的受害者，匿名者把她的臉ps 到其他人的色情照片上。后來攻擊升級，偽造者把(她)修改成色情視頻，似乎顯示(她)進行了多次性行為［26］。此種語境下的“深度偽造”儼然已經成為對女性名譽攻擊的工具。實際上，只需要“一兩個他們想要偽造的面孔的高質量視頻”，任何人都可以利用Fake APP 制作女性性愛視頻。上述侵害形式與我國《民法典·人格權編》中關于名譽權構成要件相吻合，此外《婦女權益保障法》第39 條也規定：“婦女的名譽權和人格尊嚴受法律保護。禁止用侮辱、誹謗、宣揚隱私等方式損害婦女的名譽和人格。”

第二，危及女性的財產權。由于“深度偽造”背后的算法技術日漸成熟，它對于女性權益的侵害就變得簡單和不易識別，“色情報復”便是典型代表。色情復仇，也被稱為“非自愿色情”或“非經雙方同意的色情”，指“在女性不同意或不知情的情況下，傳播其的色情照片或視頻，目的主要在于以此向對方勒索財物［27］。”“深度偽造”的興起，使得圖片和視頻都有可能被“ps 成性愛”，女性自然成為大部分虛假性愛視頻的受害者。事實上，一些社交媒體用戶已經表示有興趣在自己的生活中與各種各樣的女性進行“深度偽造”。例如澳大利亞的高中生艾娃喜歡將自拍照片上傳到Instagram 去記錄和分享生活，然而卻被他人通過“網絡爬蟲”的方式竊取并偽造成性愛視頻發送給她。偽造者向其索要財物并聲稱，如果不支付足夠的財物，就將視頻公之于眾。遺憾的是，在她向司法機關求助無望的情況下自殺身亡［28］。

由于技術的通用性，“深度偽造”得以在任何常規視頻的環境中使用，而這對于女性來說無疑是一場災難。有統計數據顯示，“深度偽造”出現以來，針對女性的敲詐、勒索、恐嚇等數字顯著攀升［29］。本文認為可以歸結為3 個方面的原因。其一，現實生活中女性仍然屬于弱勢群體，當無法證明視頻實際上是偽造的，她們會處于恐懼狀態且多數情形下會選擇沉默，故而容易成為受侵害的對象。其二，“深度偽造”技術的盛行會導致真實視頻的價值就會降低。正如有學者指出，試想如果偽造視頻不能被信任，那么就需要一個確證的視頻來揭穿另一個“深度偽造”是被篡改，而這無疑使本應得到證實的證據得到認可的成本變高［30］。時至今日，視頻一直是一個相對可靠的信息來源，但是，一旦“深度偽造”變得更受歡迎，任何視頻的價值——無論是真的還是假的——都必然會下降，因為沒有可靠的方法來確定視頻是否被操縱。其三，對于女性權益保護的法律途徑并不暢通。法學界認為，“深度偽造”行為的女性受害者幾乎沒有法律追索權，因為法律對受害者可起訴的對象進行了限制。由于互聯網上普遍存在匿名性，如果一位女士受到“深度偽造”的傷害，卻找不到視頻的創作者，那么她可能就沒有可識別的起訴對象。例如美國《通信規范法》授予網站對第三方內容的索賠豁免權，我國《民法典》也并未強化互聯網運營商的注意和監管義務。故而，法律并不支持受害女性起訴一家社交媒體網站所上傳“深度偽造”視頻或音頻的行為。

3.3 大眾知情權和表達自由受限

自20 世紀40 年代提出知情權概念后,知情權很快成為新聞傳播學中的核心問題,也成為法學研究的重大課題［31］。所謂知情權其基本含義是公民有權知道他應該知道的事情，國家應最大限度地確認和保障公民知悉、獲取信息、尤其是政務信息的權利［32］。在信息成為生產要素的信息時代，網絡知情權意味著國家應最大限度地確認和保障公民知悉、獲取政務和本人真實信息的權利。表達自由亦稱“言論自由”，指公民依法享有的，以合法方式發表、公開、傳播客觀事實信息或個人主觀意見的自由權利［33］。“深度偽造”技術的運行邏輯仿佛一臺謊言機器，加之網絡介質的傳輸特性，頃刻間贗品便被傳遞到世界的每個角落［34］。

大眾知情權和表達自由從立法規范轉化為具體權利的內核是什么，這直接關系到兩項權利能否落地的關鍵。本文認為，知情權和表達自由都是將民眾納入政治主體作為終極目標，完成監督公民身份的形塑。一方面，民主制度的歷次變革和推進都將民眾權利義務嵌入其中進行建構，無論是英國的“光榮革命”所創立的君主立憲制抑或是我國的“辛亥革命”建立的共和政體都佐證了這一點。另一方面公民從現代國家主權下的法律身份向積極參與政治、公共領域的對話和對共同體的一部分漸變和進化。顯然，“深度偽造”技術堵塞甚至摧毀了現代國家公民間、公民與國家的對話通道，遮蔽了民主前行的“眼睛”。

具體而言，“深度偽造”借助于“網絡爬蟲”等技術將零散的圖片或視頻從網絡中抓取并篩選出來，然后進行剪輯和拼裝，最后在自動編碼器和卷積神經網絡的加持下，制造出以假亂真的“產品”。在既存甄別技術條件下，民眾不可能精準辨識，偽造的事實也基本上是博人眼球為原動力，而一個信息越是被關注，謠言就越有可有能會產生。因此，特殊的環境會提升公眾對相關信息的關注度。如果一個群體處境危險，或處境困難，群體中的許多成員可能比較易怒，并且容易責備他人。當危機出現，或可怕的事情發生，“深度偽造”就不可避免了［35］。例如新型冠狀病毒疫情期間，就有網絡用戶利用該技術偽造出子虛烏有的事實。此種語境下民眾的知情權便被削弱甚至剝奪，信息流動的路徑會被新偽造的通道置換，出現所謂的信息障礙和信息不對稱現象。由于源頭的信息錯誤，民眾接受和二次傳播的信息必然也存在重大瑕疵，而在此基礎上產生的評價性觀點以及社會輿論也隨之偏向，可能形成民意與司法的對抗或撕裂［36］。

4 “深度偽造”技術的協同治理

越來越多的國家跳出了傳統以技術維度為主解決“深度偽造”技術的問題框架，開始將其納入社會治理的范疇以實現綜合治理，例如美國通過自上而下的審慎規則，歐盟選擇主動出擊的形式應對危機。本文認為，立足國情，我國應當選擇協同治理模式，構建“三位一體”的治理路徑，將包括法律、技術、平臺義務等在內的三個方面納入其中。

4.1 法律層面：不宜擴大既存的違法犯罪圈

面對以“深度偽造”技術的代表的生物特征識別技術的滲透式發展，有學者認為其已經觸及到公民個人信息權的內核，而現存的評價體系存在兩種缺陷和不足：其一，對深度偽造的規制僅旁敲側擊，是一種“兩頭重、中間輕”的模式；其二，無法完美應對生物識別信息的濫用，主要原因在于并未深刻領悟“深度偽造”技術獨立的危害性后果，而習慣于與其他犯罪現象綁定規制［37］。應當說，這是一種較為激進的觀點。

一方面，對于“深度偽造”技術的規制，既存的法律體系同樣具有層次性和梯度性。之所以認為我國對于“深度偽造”的規制不足，主要理由是域外國家和地區都進行了相關立法。例如美國2019 年的《深度偽造報告法案》《關于制作虛假視頻意圖影響選舉結果的刑事犯罪法案》等都通過立法直接表明了懲治的立場。就立法層面而言，不可否認美國和歐盟都通過不同的立法方向去規范“深度偽造”技術的發展，但這并非意味我國的出路就是“照搬照抄”。我國近年來頒行的《關于辦理利用信息網絡實施誹謗等刑事案件適用法律若干問題的解釋》《App 違法違規收集使用個人信息行為認定方法》《網絡信息內容生態治理規定》《網絡視頻信息服務管理規定》《民法典》《數據安全法》等已經可以實現對于類如“深度偽造”的人工智能技術規制的理論供給。有學者認為，從黑色產業鏈的角度來看，我國對于“深度偽造”技術的法律規制缺乏中游（中端）行為的考量。實際上，就“深度偽造”技術本身而言，可以分為：信息的獲取（上游行為）、算法的加工（中游行為）、偽造音頻或視頻的發布（下游行為）。如果但就中游行為而言，我們無法準確判定其動機或意圖，故而不能直接法律介入。當然這并不意味著前端行為的于法無據，上述法律及司法解釋對非法獲取信息或數據的行為同樣可以規制。與此同時，我國在向技術創新型國家轉變的過程中，需要給予新技術以正確的引導，而非一味地推崇“技術未動，懲罰先行”的思路。

另一方面，“深度偽造”本質上是中立性技術，需要其他危害結果來充足構成要件。有學者從全面和從嚴保護個人生物特征識別信息的角度出發，認為既存的法律無法解決“合法獲取+非法使用”類型的“深度偽造”，因此倡導修改招搖撞騙罪和增加專屬性罪名兩個途徑［38］。通常刑法以實害結果作為行為規制的主要對象，而針對重大法益的則通過具體危險和抽象危險予以，這在本質上屬于預防性刑法。事實上，預防性犯罪化的立法應當受到“重大風險”“預防風險”“完成危害”與“可歸責性”等四項要件的限制，否則會造成嚴重的過罪化［39］。而我國學者提出的招搖撞騙罪或者盜竊罪都屬于傳統的罪名，所以不能犯罪遷移，仍然需要維系構成要件的完整性和充足性。概言之，無論民事、行政抑或是刑事領域，既存的法律體系都有能力實現對“深度偽造”技術的引導和規制，滿足基本的理論供給。

4.2 技術層面：“自證”+“它證”結合

4.2.1 要求“深度偽造”制作者標識作品屬性

一方面，由于“深度偽造”技術操作日益簡單化，譬如通過FakeApp、ZaoApp 以及FaceApp 等便可完成偽造，所以使用者迅速增多。例如2019 年iOS 商店向中國用戶推出一款名為ZaoApp 的面部交換應用程序，通過使用手機上的自拍照可以逼真地更改角色臉部，結果3 天之內占據應用程序下載量榜首［40］。另一方面，偽造的內容自然也是千奇百怪，而相應的受害對象也從最初的明星發展為政客，甚至是普通民眾。例如一段假視頻中顯示倡導控槍活動人士艾瑪·岡薩雷斯撕毀了一份憲法。實際上，在最初的視頻中，岡薩雷斯撕毀一張大紙，上面畫著普爾塞夫的靶子，但有人為了煽動性的目的篡改了圖像。申言之，“深度偽造”技術的濫用呈現出一種分散、隨機和難以主動監管的特征。如此一來，就需要構建一種全新的作者聲明義務體系，將其與真實作品進行有效區隔。為了不阻礙“深度偽造”技術創造社會效益，不宜對制作者設置過高的義務，故而只需要遵循兩項基本要求：其一，偽造者在圖片或視頻的醒目位置以水印方式標注作品系“深度偽造”，同時在偽造音頻的開頭和結束部分特別說明作品屬性；其二，偽造者在作品的傳輸、共享等過程中向他人或平臺履行提示義務。要求制作者標識作品屬性，為減少“深度偽造”內生性風險提供了支持。

4.2.2 合作研發檢測性時間戳工具

“深度偽造”是人工智能技術與視頻、音頻處理技術的完美結合，它不是第一個，也必定不是最后一個。我們現在需要一種技術對其進行反制，以便在失控的情形下可以減小危害。互聯網時代的信息擴散呈指數級增長，故而一種快速發現“深度偽造”和普遍有效的方法將有助于解決這一緊迫的公共政策問題。應當說，這種破解技術需要緊跟深度偽造技術的創新才可能實現目標。倘若這種技術存在并可以通過社交媒體平臺部署，上述系統性危害將會減少。最近有科技公司力圖創建驗證偽造內容的證據系統進而快速確認信息源的可靠性。但是需要說明的是這些系統一般是針對特定的偽造產品，無法惠及整個視頻或音頻，其適用范圍自然極其有限。

本文認為，此種情形下應該考慮開發低成本的時間戳工具，而不必期望內容具有內部認證。時間戳是指在服務器為每一個區塊加上的時間序列，記錄了該區塊的產生時間，采用了Unix 的時間計數方式，一般會精確到秒。時間戳的存在，使得區塊上的信息得以保存，而且可以作為交易證明的一個很重要的信息。因為時間戳是寫入到區塊中的，同時在計算哈希值的過程中會將父區塊的時間戳納入進行哈希散列，從而形成了對前一個時間戳的“增強”，而區塊一旦被鏈接上區塊鏈，就會成為全網所有節點的“公共賬本”，很難被篡改［41］。目前，部分生成內容的語音和視頻記錄設備的制造商已經開始嘗試使用各種時間戳工具，這些時間戳工具將元數據附加到特定設備創建的圖像和視頻上。該元數據可用于檢測某個文件是否已隨時間修改。

“深度偽造”技術濫用的受害者是信息主體，不是信息控制者，故而信息控制者很難有充分的激勵與能力保護個人數據，只是被動的應付法律要求［42］。加之，時間戳工具的研發成本高昂且技術復雜，所以無論國有還是民營企業都不情愿加入這場技術和資金的角力中來。為了提高民營科技公司和高校的參與積極性，可以給予適當的稅收優惠或者成果利用上的補貼［43］，考慮吸引可靠且具備相當科技實力的民營企業和高校加入共同研發隊伍。例如我國的華為公司，在移動通信、芯片研發等多個領域都享有盛名，國家完全可以邀請其共同參與研發時間戳技術。公私合作共同研發檢測性軟件，為辨識“深度偽造”技術的生成物提供了可能。

4.3 平臺層面：階段化管理常態化

“用數據說話、用數據決策、用數據管理、用數據創新”儼然成為實現國家治理現代化的新路徑。互聯網平臺對于信息或數據的報送逐漸成為政府重要的數據源［44］。“深度偽造”技術之所以會迅速崛起除了得益于背后有著廣闊的新媒體市場和利潤空間，互聯網平臺的推手作用同樣不容小覷。作為“深度偽造”的發源地，并逐漸成為其“逐鹿天下”的主戰場——互聯網平臺——并不僅局限于做一個旁觀者，而應承擔比報送義務更為廣泛的責任。易言之，既然網絡平臺作為利益的獲得方，便應該承擔相應的監督義務，將這種負面影響降到最低或扼殺在萌芽階段。正如有學者所言：“雖然深度偽造技術的規制尚不明晰，但在關涉信息安全問題上，平臺至少要遵循技術正當程序方可免責”［45］。筆者認為，平臺應當承擔的監管義務可以具化為以下3個方面。

第一，在上傳階段，網絡平臺應該盡到一定的提醒或通知義務。傳統的視頻或者音頻播放政策中并未過分強調用戶所上傳內容的真實性，因為只要不觸及相關的法律都被默認為言論自由的另一種表現。故而，平臺的網絡審查和監管義務便形同虛設。而“深度偽造”行為的出現，尤其是當所涉內容為國家安全事務，則應該設置警告條款（禁止上傳），旨在提醒上傳者將偽造的作品上傳到互聯網上的法律后果，以免誤導民眾。例如，美國在“深度偽造”技術出現之后迅速做出回應，修改相關網站的視頻及音頻播放政策，以確保用戶知悉。

第二，在審查環節，網絡平臺在發現可能存在“深度偽造”的內容，應當及時報送相關部門。提醒或通知義務只是平臺預防“深度偽造”行為的前置性方案。當網絡平臺認為“深度偽造”的作品可能已經在網上播放時，但僅靠平臺已有技術無法確定內容的真實性，此時應當立即報告互聯網管理部門，例如國家互聯網信息辦公室。期間可以先屏蔽或者撤下該視頻，以防止事態擴大。當證明確系深度偽造的作品，且尚不構成犯罪的，平臺可以對于上傳者予以封號并通知其他互聯網運營商。當證明并非偽造作品時，則應該立即解封原作品，恢復播放。

第三，在觀察用戶反饋報告后，倘若發現“深度偽造”內容應當及時移除。近期Discord、Gyfcat和Twitter，已經開始從其網站上移除“深度偽造”作品，并明確禁止交換面部色情內容。不可否認，服務器的容量和運行壓力使得網絡運行商不可能全天候關注平臺上的視頻內容真實情況，所以需要平臺與用戶間的協作。針對用戶及受害者所提供的報告，就“深度偽造”的視頻內容進行審查，如果視頻或音頻有涉及侵害公民或國家法益的內容，則應當予以移除。盡管各大視頻分享和播放視頻網站都設置了投訴和舉報程序，但實際效果并不理想，因此可以考慮給予舉報內容真實的用戶一定的獎勵或者采用有獎填寫調查報告的形式來展開。

5 結語

誠然，“深度偽造”內生性的技術風險可能異化為危及個人、社會甚至是國家權益的秘密武器，但它也推進了計算機成像技術進程和社會的發展，并在藝術、醫療、教育等領域顯現出獨特的魅力，因此不可過分強調立法或司法的過度干預。本文認為通過法律、技術以及平臺三方共同參與和發力可以將“深度偽造”技術的威脅降到最低，進而維系科技和法律之間的生態平衡。當然，未來應當在意識層面，強化公民數據主體身份的認同感，使民眾實現從圍觀者向參與者的角色轉變。