深度合成技術應用的法律風險與協同規制

萬志前　陳晨

摘? ? 要：深度合成技術是人工智能領域里一項顛覆性技術突破，該技術在滿足人們多元化需求的同時也產生了技術異化、信息失真、信息泄露等風險。應從多個維度協同治理深度合成技術所生風險：在技術層面，以技術規制技術，提高溯源防偽和反向破解技術的能力水平，發揮技術的規范功能;在行業層面，以商業倫理治理技術，強化倫理的引導作用和業內組織的協調能力;在法律層面，以法律規范技術，結合中國實際和借鑒外國立法經驗，以《民法典》的相關條款為基礎，明確技術的使用邊界、使用程序及濫用技術的法律后果等。

關鍵詞：人工智能;深度合成;人臉識別;技術異化;商業倫理;民法典

中圖分類號：D 912 .29? ? ? ? ? ? 文獻標識碼：A? ? ? ? ? 文章編號：2096-9783（2021）05-0085-08

一、問題的提出

人工智能已經進入技術與產業融合發展的新階段，一個“泛在智能”的新技術革命時代正在來臨，人工智能基礎設施逐漸完善，應用場景也更加多元和廣闊[1]。深度合成技術（deep synthesis）1即是人工智能領域的一項重要突破[2]，目前已廣泛應用于多個領域，如在影視行業為影視特效和圖像影音帶來升級，在網絡社交中提升用戶的虛擬互動和娛樂體驗，在電子商務領域優化服務和增強在線購物體驗，在媒體傳播上打造虛擬主播、虛擬歌手，在醫療領域幫助漸凍癥患者、老年癡呆癥患者康復，構建智慧醫療體系等等，這些應用充分展示了深度合成技術巨大的發展潛力和實施遠景。

技術是一把無形的“雙刃劍”。深度合成技術在為社會帶來便捷和福祉的同時，也帶來了新的挑戰和風險。例如2017年11月，外網Reddit平臺上一位名為“深度偽造”（deepfake）的用戶通過電腦技術將色情影視片中演員的臉換成明星、政客等名人的臉，制作仿真度極高的視頻并發布，引起眾多網民模仿制作假電影、假新聞[3]。因其發展迅猛，“deepfake”一詞由網名演變成深度合成技術的代稱。該技術在我國引起普遍關注源于2019年的3月，Bilibili視頻播放平臺的一位名為“換臉哥”的用戶利用該技術將電視劇《射雕英雄傳》里原本由朱茵扮演的角色“換臉”成由楊冪“表演”。至2019年9月，一款名為“ZAO-逢臉造戲”的“換臉”應用軟件引發廣泛的輿論與關注，用戶只需簡單上傳本人或他人的照片等就可以將影視作品中的角色“換臉”，制作出由自己或他人“主演”的小視頻。該軟件因存在未經明示同意而收集用戶個人生物識別信息、個人信息處理規則不清晰、過度索取用戶的肖像權、數據泄露和濫用風險等問題而迅速下架。

人工智能的時代已經來臨，先進的技術和開放的數據流動能為社會帶來巨大的信息紅利，但是深度合成技術生成的信息影響力能被瞬間成千成萬倍地放大，其所具備的負面作用不容小覷[4]。目前，國內關于深度合成技術風險與規制的研究主要集中于技術濫用問題[4];扭曲信息傳播渠道導致的“后真相”時代危機[5];對技術的一體化規制，如加強數據平臺責任、明確技術使用者權限、保障公眾數據安全等[3]。本文將結合深度合成技術原理，進一步分析深度合成技術應用的法律風險，并在此基礎上探尋此類風險的協同規制。

二、深度合成技術的原理與應用

深度合成技術是人工智能領域里一項“顛覆傳統認知”的縱深發展合成技術（AI-generated media），即以人工智能為手段，實現視覺、聽覺等方面的模仿和修改，從而達到以假亂真的超高度仿真效果。人工智能是深度合成的技術支持，深度合成是人工智能的內容輸出，二者是手段與目的的關系[6]。

（一）深度合成技術的原理

深度合成的過程就是將個人的照片、視頻等數據輸入到智能算法當中，然后由智能算法在多次訓練的基礎上，自動完成“換臉”操作[7]。其革新在于運用對抗生成網絡模型（Generative Adversarial Networks，簡稱“GAN模型”），該模型與傳統深度學習技術（Deep Learning）的單向性相比，引入了“對抗”機制，并由兩組深度卷積神經網絡雙向進行，包括生成器和判定器[8]。在該網絡系統中含有圖像空間和隱層子空間，由圖像空間將創作的圖片投影到隱層子空間，由于投影變換具有非正交和非線性特點，且可以根據不同要求構造不同的網絡[9]，因此創作的圖像具有高度相似性。

基于神經網絡的技術支撐，對抗生成網絡模型的工作原理是運用生成器和判定器這兩個神經網絡進行圖像的高仿，先由操作者從互聯網等移動平臺上獲取較大數量的目標人物視頻或圖像信息，形成可供生成器進行算法訓練的數據庫，此后由生成器通過神經網絡訓練并生成的視頻、圖像等，并經過判定器對原來的真實圖像數據與偽造數據進行博弈，如果兩者誤差很小，達到了“以假亂真”的程度，則可以保留該偽造數據作為下一步“換臉”的素材。如果兩者誤差很大，系統將自動把數據返回給生成器進行新一輪的計算訓練，直至生成的圖像與原真實圖像相比能通過判定器鑒別方可使用。最終，通過反復地訓練和篩選，生成器所創造的數據與原有的真實數據具有相同的分布排列，使得判定器無法準確識別生成器所造差異，二者達到相對平衡，從而使偽造視頻能夠欺瞞大多數人的眼睛[10]。

（二）深度合成技術的應用

深度合成技術目前已獲得廣泛應用，主要的應用場景包括人臉替換（face replacement）、人臉再現（face re-enactment）、人臉合成（face generation）和語音合成（speech synthesis）四個方面[2]。具體而言，人臉替換即人們熟知的“換臉”技術，如曾風靡一時的“ZAO”應用軟件可以根據用戶上傳的照片自動替換影視中角色的臉，制作出由用戶“出演”的小視頻。而人臉再現主要是通過操作、改變視頻中人物的面部表情和說話內容，使其看起來說出或作出并非基于其本人意愿的事。人臉合成則是通過人工智能技術改變人物的面部特征，或者創建新的人臉圖像，這項技術可被應用于社交媒體，如美顏相機、創作虛擬形象等;也可用于影視行業制作特效，使演員“返老還童”，甚至“起死回生”，如使《速度和激情7》里的角色沃克“復活”;還可以廣泛應用于藝術體驗、旅游等領域，使參與者能身臨其境的感受更加豐富的視覺體驗。語音合成不僅可以通過機器自動轉化文字和聲音、翻譯等，還可以通過機器創作新的語音系統，如虛擬歌手初音未來、洛天依、艾靈，參與新華社兩會報道的3D主播等。除此之外，深度合成技術開始朝著綜合運用、全身合成、數字虛擬人（digital person）等方面發展，這些都表明深度合成技術蘊含著巨大的發展潛能和前景。

作為人工智能領域的突破性進展成果，深度合成技術具有高度的仿真性，技術成果泛在的使用性和快速進化性等特點[3]，這些技術優勢的應用中同樣蘊含著風險，其不僅是一把雙刃劍，很可能還是一把雙刃不平衡的劍[11]。若使用不當或被濫用，深度合成技術的負面效應將愈發凸顯。例如，網上廣泛傳播的明星或政客的“換臉”視頻涉及色情、虛假言論等不實內容，不僅對個人名譽造成不良影響，也對社會信用和公共秩序產生不良影響。

三、深度合成技術應用的法律風險

風險（risk）不同于危險（danger），風險是危險的一種形式，即指“可能發生的危險”[12]。烏爾里希·貝克是首次提出風險社會概念的社會學家，其認為，當代社會已經是一個風險的社會，且最大的風險是技術風險[13]。技術所導致的風險可大致分為內部風險和外部風險，內部風險源于認知程度的限制和技術能力的缺失，外部風險則是由內部風險外溢對人類社會所產生的不良影響[14]。據此，不當使用深度合成技術所導致的風險可分為內部的技術異化風險，以及外部的信息失真和信息泄露風險。

（一）技術異化風險

所謂異化（alienation），其意有疏遠、背離之意，技術異化的本質在于科學技術和人文社會背道而馳，即以經濟利益為目的，脫離了技術創新和以人為本的初衷，違背了法律法規、倫理道德的約束，以此獲取不正當利益而損害社會可持續發展的現象[15]，最終將導致社會的異化、人的異化。這是因為相較于傳統技術的線性增長，新技術賦能社會呈現指數級發展，計算機構成了越來越復雜的操作系統，普通群眾難以真正了解系統背后的運作原理，反而不得不遵循其操作規范，當技術出現漏洞或被不當利用時，其破壞性和威脅性將極度放大并反噬社會，加劇社會的碎裂化。且隨著新技術應用方式和場景的多樣性組合與變換，其不斷模糊著真實世界和數字世界的界限，逐漸影響到人類生活的方方面面，系統網絡錯綜復雜，蘊含著極大的錯誤疊加與連鎖反應風險。

深度合成技術具有泛在的使用性，當核心技術攻關和開源軟件公布后，技術的普及成本逐漸降低，即使是普通民眾也無需經過專業的訓練就能較快地掌握操作方法。隨著深度合成技術在多場景之中的推廣應用，技術異化的風險也愈發增大，“科學從原本溫文爾雅、帶領人民走出黑暗時代的‘賽先生， 變成了帶領人們急速駛入未來世界、力量極其龐大卻又找不到方向的巨型怪獸賽維坦（Seviathan）”[16]，諸如濫用技術制作虛假視頻和偽造不實言論侮辱、誹謗、恐嚇他人等例子，將對個人權益、社會穩定、國家安全構成威脅。

（二）信息失真風險

新技術浪潮下一切皆可數字化，基于機器深度學習和互聯網發展優勢的深度合成技術更是具有深度擷取大眾數據的風險[17]，若再借助網絡爬蟲技術2，深度合成科技能夠挖掘和獲取的數據將十分可觀。諸如圖像、語音、行為等信息被全方位監測、計算，人們在技術面前將“無所遁形”，現實社會與虛擬世界的界限逐漸被打破，形成“透明的個人與幽暗的數據掌控者”[18]之鮮明對比。

越來越難跨越的數字鴻溝把人們劃分為掌握信息技術的人和無法獲得信息技術的人，若那些數據掌握者不當利用深度合成技術散布謠言、擾亂公眾視聽，此不當引導輿論方向的行為是對公眾意識的操縱和社會信任體系的破壞，嚴重影響公共秩序的穩定。這些虛假信息逼真程度之高，往往以十分令人相信的方式呈現給社會公眾，盡管人們也會忽略一部分與他們認知不符的謠言和緋聞，但當此類信息達到一定數量時，很難讓人不得不注意并相信其中的內容[19]。這更加快了信息由“眼見為實”向“眼見為虛”的轉變，使社會陷入真相與假象紛繁復雜、界限模糊的困境之中，造成“真相的終結”，并繼而進入“后真相”（Post-truth）時代3。若不及時消除風險，將使人們長期處于真假難辨的社會環境之中，對所見所聞都產生懷疑和不信任，進而沖擊官方媒體、政府機構的公信力，引發社會信任危機，擾亂社會中原本良好穩定的公共秩序[20]。

（三）信息泄露風險

目前，高科技犯罪已成為社會治理的重要問題，濫用深度合成技術最為直接的風險之一是信息的過度搜集和泄露，蘊含著極大的安全隱患。

以深度合成技術為代表的人工智能科技以數據搜集和計算為運行基礎，其中又以個人信息為最有價值的數據資源，且個人信息是一項包含精神權利和財產利益的綜合性新型權利，保障個人信息安全就是保護個人權利、維護社會穩定的前提，其重要性不可小覷。在信息化時代下，個人信息已深度卷入技術風險之中，新技術把社會上各個領域的信息予以數據化和可視化，并通過數據畫像進行精準營銷和信息投放，具有巨大的財富價值，一旦信息數據泄露，將在整個網絡系統曝光和擴散，所有信息都存在被輕易獲取的風險[21]。同時，對于臉部、視網膜等包含個人生物特征的生物識別信息也是深度合成技術極易侵犯的對象。這類信息具有防偽、私密、便攜、難遺失等特征，并具有唯一對應性和不可更改性，相較于其他類型的個人信息而言更具敏感性，對其收集、使用和存儲的安全要求更高，一旦發布將很難被消除或修改[22]。而深度合成技術恰恰是利用生物特征予以數據化處理的運作模式，其通過四通八達的網絡線路廣泛搜集擬合成對象的臉部神態、聲音強調等個性化信息，并存入數據庫中，若出現技術漏洞被黑客入侵竊取，或被技術使用者不當利用，大量的生物識別信息將面臨被泄露和濫用的風險，嚴重威脅個人安全和社會穩定。

四、深度合成技術應用的協同規制

根據技術社會建構理論，分析新技術所帶來的影響時應當尋求其有益途徑，遏制其消極方面，并著眼于其潛在的正面應用和有效的監管方式[23]。據此，為了防止技術被利益驅動而破壞社會秩序，應當積極尋求規制技術的方法和出路。美國是最先對人工智能技術作出回應的國家，其主要從平臺規范、技術對抗和立法監管三個方面進行規制[24]，歐盟則制定了一系列的條例和方案將深度合成技術納入到規制框架之中。也有學者提出以“R.E.A.L.”模式規范深度合成技術的應用，即記錄原始內容以確保內容的真實性（Record original content to assure deniability）、提前曝光深度合成內容（Expose deepfakes early）、提倡法律的保護作用（Advocate for legal protection）、使用信用機制調節（Leverage trust）[25]。綜合已有研究，本文擬從技術、倫理、法律三個層面尋求深度合成技術的規制路徑。

（一）以技術規制技術

技術作為社會規范的一種形式，與道德、習慣、紀律、法律互為補充，共同規制人們的社會行為。技術規制的優勢在于其能夠更加直接、準確、高效、經濟地發揮規范和調節作用，它不僅可以為人們樹立相應的行為準則，還可以使人們不得不依據該準則行事，更直接地實現規范的目的。正因如此，人們對技術規范的需求甚至會超過法律規范，且技術規范的影響力可以打破時間和空間的束縛，不受國界限制，這對于網絡環境下人們尋求維權之道尤具有吸引力[26]。對于新技術所帶來的問題，需要通過發展新技術加以解決，即通過技術解決技術所來的問題。

深度合成技術呈高速發展的趨勢，相應的識別和破解技術必須及時跟進甚至是超越深度合成技術的發展速度，才能及時防范因技術濫用所引發的風險。對此，布法羅大學人工智能研究所所長大衛·德曼將這場技術的競爭比喻成“貓抓老鼠的游戲”[27]。目前，對深度合成技術的規制主要集中在溯源防偽和反向破解兩項技術：前者是對原始視頻添加“數字水印”，從創作源頭保證視頻的真實性，以清晰地辨識視頻的真假;后者是針對深度合成技術含量高的視頻和圖像進行代碼破解，撕開技術層面的“面紗”以揭露偽造視頻。

在溯源防偽技術上，主要是區塊鏈技術應用，即運用數據加密、時間戳、分布式共識和經濟激勵等手段，在節點無需互相信任的分布式系統中實現去中心化信用的點對點交易與協作[28]。防篡改記錄、數據編輯日志等都是可以公開查詢的，有效保證了用戶身份信息和網絡行為的真實性和不可篡改性，使得任何偽造數據的行為都暴露無遺，區塊鏈技術在數據資產的真實性和原始性保護方面發揮了重要作用[29]。在國外已有公司開始借助區塊鏈技術為原著的照片、音頻、視頻等添加時間戳等“數字水印”，在分布式賬本上形成永久的元數據記錄[30]。這類似于版權領域中的技術保護措施，版權人可以運用特殊的印刷方式和技術保證正版版權作品的質量，使人們不得不遵守版權人設定的消費正版版權作品的規則，從而防止盜版、偽造，提高正品的銷售額，減少了大規模的版權侵權現象[26]。在關于深度合成技術方面的法律法規尚未健全的情況下，通過溯源防偽技術添加“數字水印”的方式可以保護原版照片、音頻、視頻等媒體不被輕易修改，即使被用于制作虛假視頻，也可以在新視頻中顯示“數字水印”標識，從而提醒觀看者注意辨別視頻的真假，防止不法分子制作和散布不實信息。

在反向破解技術上，國外已開展多項先進技術的研發。如美國加州大學伯克利分校和南加州大學合作研發可以識別生物標簽的人工智能系統[31]，甚至還有研發人員能通過血液進入皮膚時的細微變化來識別視頻中人物是否被深度合成技術進行了篡改[32]。2020年9月2日，微軟公司還推出一款新視頻認證工具，通過檢測合成內容的混合邊界，以及人眼無法看出來的微妙褪色或灰度元素，從而識別利用深度合成技術所制作的虛假視頻[33]。通過提升反向破解技術，能為人們識別相關作品是否為深度合成所做提供科學的鑒別手段。

（二）以商業倫理治理技術

商業倫理是提供判斷主體行為是否合乎道德與真理的一種規則、標準 、規范或原則[34]。其本身雖不具有法律意義上的強制性， 但有道德上的導向性和自我約束性[35]。當前，我國人工智能企業的現狀是各企業的發展水平和進度參差不齊，導致諸多行業亂象，原因之一便是缺乏商業倫理的規范與引導。

商業倫理規范就是按照符合道德的標準和規則進行行業自律。行業自律是一種重要的自主治理形式，能夠構建良性的行業合作秩序、促進行業健康發展，是風險治理機制的重要手段[36]。一方面，行業內部可以在國家立法基礎上，結合本行業自身發展特點制定更為清晰適用的準則規——形成統一的商業倫理;另一方面，還能有效緩解技術過快發展而引起的立法供給不足問題，為后續立法提供可參考的經驗，避免盲目和超前立法扼殺技術創新的活力[37]。在人工智能飛速發展的勢頭下，為消除技術異化可能對人類造成的風險，科學技術研發者必須及時對價值訴求、道德期望和安全滿足作出回應，否則將會導致行業失范的危機。為了更好地建立行業自律體系，商業倫理不可缺位。通過商業倫理，企業之間可以建立信任關系，降低交易成本，樹立良好形象，獲得長期績效等。且隨著全球經濟市場競爭的愈演愈烈，商業倫理在原有的價值評判基礎外，添加了關于企業如何更有效地實施市場行為的引導要素，并從利益相關者視角出發，有助于構建多元化商業倫理系統，以加強企業的社會責任感[38]。

面對日新月異的人工智能技術發展，相對于政府機構的后續監管而言，企業處于獲取行業發展最新動態和解決新技術復雜多變問題的最前沿，因此有關行業協會或組織聯盟通過確立自律規范實現對內部成員的管理和約束，將更有利于引導行業的正向發展，從而實現與外部的國家強制監管的良性互動和補充。以英國的行業自律模式為例，該國的行業組織包括網絡觀察基金會（IWF）、互聯網服務提供商協會（ISPA）、移動寬帶集團（MBG）等，對入會要求、行業競爭、非法言論和虛假信息等制定了詳細的互聯網自律業務守則。而作為全球最大的人工智能行業組織——人工智能伙伴關系聯盟（Partnership on? AI，簡稱PAI聯盟）是一個由美國企業發起的非營利性聯盟，其成員包含Google、Facebook、Amazon、IBM等企業，該聯盟在匯聚全球先進技術力量促進人工智能的發展、防止人工智能技術濫用、完善人工智能道德倫理等方面都對世界IT行業作出了巨大的貢獻。同時，發揮行業領軍企業的帶頭作用亦有助于引領整個行業良性發展。如Twitter公司發布首個反Deepfake策略草案、Google公司發布的《谷歌AI的原則》、國內騰訊公司提倡的“科技向善”理念等都為行業遵守技術倫理起到了表率作用。

（三）以法律規范技術

法律是最具有明確性、確定性和國家強制性的社會規范，其通過指引、評價、教育等作用以實現調整社會關系和維護秩序的目的[39]，這些特征使法律成為風險治理機制的重要手段，立法者必須重視控制風險功能的法治化[40]。具體而言，深度合成技術在法律層面上的規制可以從技術的使用邊界、技術的使用程序、濫用技術的法律后果三方面予以規范。

在技術的使用邊界上，明確應當予以禁止的不當使用深度合成技術的行為。如美國為應對深度合成技術帶來的挑戰，美國聯邦與各州共計提出了12項立法法案對該技術予以規制[41]，其中尤以弗吉尼亞州、德克薩斯州、加利福尼亞州為代表的州級立法最為嚴格。例如，弗吉尼亞州將未經授權而傳播利用深度合成技術制作的圖像和視頻的行為定為犯罪，加利福尼亞州禁止深度合成技術用于色情傳播和政治助選[24]。而在技術發達的歐洲，歐盟的《一般數據保護條例》被稱為“史上最嚴數據保護條例”，該條例對深度合成技術使用邊界作出了十分嚴苛的規定，如第9條要求數據控制者對涉及數據主體“識別自然人的生物性數據”都應當禁止使用[42]。在我國立法中，如《中華人民共和國民法典》（以下簡稱《民法典》）第1019條，即是針對新技術侵害肖像權所制定的保護措施[43]，第1024條也規定了任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽權。

在技術的使用程序上，制定能夠涵蓋各個應用環節的使用規范。如2020年3月12日，美國華盛頓州出臺的首部人臉識別法案《SB 6280法案》規定了嚴格的責任報告制度，主要是對政府機關使用人臉識別服務的行為予以規范，防止公權力對人臉識別技術的濫用[44]。歐盟則更強調自上而下的監管，對深度合成技術予以統一管理。歐盟理事會于2018年6月28日通過的《歐盟反虛假信息行為守則》將利用深度合成技術制作的不實內容納入虛假信息管理范疇，增加有關抵御虛假信息的保護措施[45]。我國《民法典》第1035條規定，對個人信息處理應當征得信息主體的同意，需明示處理的規則、目的、方式和范圍，且遵循合法、正當、必要原則。2021年6月10日通過的《中華人民共和國數據安全法》（以下簡稱《數據安全法》）第三章“數據安全制度”中明確提出了國家要對數據進行分級分類的保護，制定數據安全風險評估、報告、信息共享和監測預警機制以應對突發性數據安全問題;第四章“數據安全保護義務”強調從事數據處理的中介機構應要求數據提供者說明數據來源，并負有審核數據交易雙方身份并留存信息和記錄的義務。這些都對深度合成技術的使用程序作出了明確的指引。

同時，立法還應明確濫用深度合成技術的法律后果，懲戒不法分子違法使用技術的行為，提高技術濫用成本。如美國弗吉尼亞州對濫用深度合成技術的犯罪行為最高可判處一年監禁和2 500美元罰款[24]。歐盟則規定對嚴重違反本條例條款的施加最高10 000 000至20 000 000歐元的行政罰款，對企業最高可處以其上一年度全球范圍內營業額的2%至4%的罰款[42]。我國《民法典》第995條至第1000條則規定，受害人有權請求侵權人承擔停止侵害、消除影響、恢復名譽、賠禮道歉、精神損害賠償等責任，同時還可以向法院申請人格權行為禁令，據此可以及時制止濫用深度合成技術對肖像權、名譽權、隱私權等人格權的侵犯。《數據安全法》第六章“法律責任”更是加大了對侵權行為的懲罰力度，如對違法開展數據活動的個人、組織予以警告和罰款，同時追究服務機構和直接負責人的責任。通過濫用深度合成技術危害國家安全、公共利益的，可以依照《刑法》以誹謗罪、敲詐勒索罪、詐騙罪、傳播淫穢物品罪、煽動實施恐怖活動罪等罪名予以懲罰。

整體而言，我國關于深度合成技術的法律法規零散于各部門法之中，其實際操作性有待加強[46]。面對日新月異的深度合成等人工智能技術的發展，法律作為最后一道安全防線需不斷更新與完善，以及時應對新技術帶來的挑戰。

結? 語

深度合成技術具有高度仿真性、泛在使用性和快速進化性的特點，該技術在促進社會多元化需求的同時，也具有一定的安全隱患，其潛在的風險不僅在于“合成”，更在于“深度”，尤其是智能化水平已遠遠超出一般的視頻、音頻處理技術。隨著技術的普及和推廣，技術濫用現象也愈演愈烈，極可能引發技術異化、信息失真、信息泄露的風險生成。

在新技術治理上，不應以其風險而一概否認深度合成技術存在的合理性和發展的有益性，相反，應當積極尋求正向的解決方案和規范機制。在行業規范中，行業倫理不可缺位，倫理引導是行業自律的重要指向標。而法律是規制技術的必要手段，在堅持安全合法的監管底線，避免技術的不當利用給公民、社會和國家造成不可控威脅的同時，亦要避免法律規制過嚴而可能阻礙技術發展。因而，應堅持包容審慎的立法和監管原則，在合理的范圍內包容和鼓勵技術創新，為技術發展創造良好的合適的制度環境，避免因矯枉過正而挫傷市場主體技術創新積極性，影響技術的社會經濟價值發揮。對此，可通過多方參與、風險評估、成本效益分析等機制，確保立法和監管的科學化、精細化、靈活化，并可考慮設立“安全港”規則或者監管例外來鼓勵人工智能的應用。當然，立法并非唯一有效的方式，法律具有滯后性，難以跟上技術發展的步伐，尤其是對于仍在快速發展的深度合成技術而言更是如此。因此，需要借助溯源防偽、反向破解等技術措施，并通過行業內的公約、標準、最佳實踐、倫理指南等行業自律措施，以及提升公眾數字素養等，實現對深度合成技術應用風險的多維治理。

參考文獻：

[1] 騰訊研究院. 2020騰訊人工智能白皮書[R/OL].（2020-08-01）[2020-08-10] https：//tisi.org/.

[2] 曹建峰. AI生成內容發展報告2020——“深度合成”（deep synthesis）商業化元年[R/OL]. （2020-05-11）[2020-06-20].

[3] 王祿生. 論“深度偽造”智能技術的一體化規制 ——從“楊冪換臉視頻”談起[J]. 東方法學，2019，（10）：1-14.

[4] 曹建峰，方齡曼. 人工智能時代下的“煩惱”：美國國會聽證會探討“深度偽造（deepfake）”風險及對策[EB/OL].（2019-07-02）[2019-12-21].

[5] 張濤. 后真相時代深度偽造的法律風險及其規制[J]. 電子政務，2020（04）：91-101.

[6] 莊嘉. 涉罪前瞻：AI解鎖暗黑應用技能包[J]. 檢察風云，2019（11）：11-13.

[7] Samantha Cole. AI-Assisted Fake Porn Is Here and Were All Fucked， MOTHERBOARD[EB/OL]. （2017-11-11）[2020-05-02]https：//motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn.

[8] Goodfellow I J， Pouget-Abadie J， Mirza M， et al. Generative Adversarial Networks[J]. Advances in Neural Information Processing Systems， 2014，3：2672-2680.

[9] S.Y Lee， Y.K Ham， et al. Recognition of human front faces using knowledge- based feature extraction and neurofuzzy algorithm[J] .Pattern Recognition ， 1996 ， 29（11）：1863-1876.

[10] 暴雨軒，蘆天亮，杜彥輝. 深度偽造視頻檢測技術綜述[J]. 計算機科學，2020（9）：283-292.

[11] 肖濱. 信息技術在國家治理中的雙面性與非均衡性[J]. 學術研究，2009（11）： 31-36.

[12] 中國社會科學院語言研究所詞典編輯室編. 現代漢語詞典[M]. 北京：商務印書館，1980：325.

[13] [德]烏爾里希·貝克 著，王武龍 編譯. 從工業社會到風險社會（上篇）——關于人類生存、社會結構和生態啟蒙等問題的思考[J]. 馬克思主義與現實，2003（3）：26-45.

[14] 張樂. 新興技術風險的挑戰及其適應性治理[J]. 上海行政學院學報，2021（1）： 13-27.

[15] 陳仕偉. 大數據技術異化的倫理治理[J]. 自然辯證法研究，2016（1）： 46-50.

[16] 高奇琦. 人工智能：馴服賽維坦[M]. 上海：上海交通大學出版社，2018： 280-281.

[17] 蔡士林. 深度偽造”的技術邏輯與法律變革[J]. 政法論叢，2020（6）：131-140.

[18] 鄭戈. 在鼓勵創新與保護人權之間——法律如何回應大數據技術革新的挑戰[J]. 探索與爭鳴，2016（7）： 79-85.

[19] Chesney， Danielle Keats Citron.Deep Fakes and the Challenge for Privacy，Free Expression，and National Security[J].21st Century-Style Truth Decay，2019：882-891.

[20] Chesney R，Citron D K. Deep fakes： A looming challenge for privacy， democracy， and national security[EB/OL]. 107 California Law Review （2019，Forthcoming）; U of Texas Law， Public Law Research Paper No. 692; U of Maryland Legal Studies Research Paper No. 2018-21. （2019-11-25）[2020-6-02]. https：//ssrn.com/abstract=3213954.

[21] 周佑勇. 論智能時代的技術邏輯與法律變革[J]. 東南大學學報（哲學社會科學版），2019（5）： 61-75.

[22] 趙淑鈺. 生物識別信息法律規制的國際經驗與啟示[J]. 網絡空間戰略論壇，2019（11）：37-43.

[23] Andrei O. J. Kwok & Sharon G. M. Koh. Deepfake： a social construction of technology perspective[J]. Routledge Taylor&Francis Group.（Feb. 28， 2020）.

[24] 石婧，常禹雨，祝夢迪. 人工智能“深度偽造”的治理模式比較研究[J]. 電子政務，2020（5）：69-79.

[25] Jan Kietzmann ， Linda W. Lee ， Ian P. McCarthy ，Tim C. Kietzmann，Deepfakes： Trick or treat？ [J].Business Horizons，2020：135-146.

[26] 羅莉. 作為社會規范的技術與法律的協調——中國反技術規避規則檢討[J]. 中國社會科學，2006（1）：72-84.

[27] 曹建峰，方齡曼. “深度偽造”的風險及對策研究[J]. 信息安全與通信保密，2020（2）：89-97.

[28] 袁勇，王飛躍. 區塊鏈技術發展現狀與展望[J]. 自動化學報，2016（4）：481-494.

[29] 孟雪，劉宗媛，李倩. 深度偽造技術給網絡可信身份管理帶來的挑戰與對策[J]. 網絡空間安全，2020（6）：75-79.

[30] Robert Chesney ，Danielle Citron. Deepfakes and the New Disinformation War： The Coming Age of Post-Truth Geopolitics[J].98 Foreign Aff.147，154 （2019）.

[31] Agarwal S， Farid H， Gu Y， et al. Protecting world leaders against deep fakes[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops， 2019： 38-45.

[32] 馮衛東. “換臉”也逃不過數字真探法眼[N]. 科技日報，2018-8-10（2）.

[33] 站長之家. 微軟推出新視頻認證工具，可識別AI深度偽造視頻[EB/OL].（2020-09-02）[2020-09-13] https：//www.chinaz.com/2020/0902/1179414.shtml.

[34] Lewis， P.V. Defining ‘business ethics： Like nailing jello to a wall[J]. Journal of Business Ethics， 1985（4）： 377-383.

[35] 黎來芳. 商業倫理 誠信義務與不道德控制——鴻儀系“掏空”上市公司的案例研究[J]. 會計研究，2005（11）：8-14.

[36] 鄧小兵，劉曉思. 中英網絡治理的行業自律比較研究[J]. 甘肅行政學院學報，2017（5）：114-125.

[37] 張新寶. 從隱私到個人信息： 利益再衡量的理論與制度安排[J]. 中國法學，2015（3）：38-59.

[38] 莫申江，王重鳴. 國外商業倫理研究回顧與展望[J]. 外國經濟與管理，2009（7）： 16-22.

[39] 張文顯.法理學（第四版）[M].北京：高等教育出版社，2011： 47.

[40] 吳漢東. 人工智能時代的制度安排與法律規制[J]. 西北政法大學學報，2017（5）：128-136.

[41] Deepfake legislation： A nationwide survey — State and federal lawmakers consider legislation to regulate manipulated media[EB/OL]. （2019-09-25）[2019-11-19]. https：//www.jdsupra.com/legalnews/deepfakelegislation-a-nationwide-86809/.

[42] 丁曉東 譯.《一般數據保護條例》[EB/OL].（2018-05-23）[2020-06-02]https：//www.tisi.org/5029.

[43] 楊立新. 人格權編草案二審稿的最新進展及存在的問題[J]. 河南社會科學，2019（7）：26-35.

[44] 網絡法專報編委會. 騰訊網絡法專報2020年4月刊.[EB/OL].（2020-06-04）[2020-09-13] https：//www.tisi.org/14557.

[45] 中國信息化百人會數據治理委員會 譯.《歐盟反虛假信息行為守則》.[EB/OL].（2019-02-16）[2020-09-13]https：//www.sohu.com/a/295183284_470089.

[46] 文銘，劉博. 人臉識別技術應用中的法律規制研究[J]. 科技與法律，2020（4）：77-85.

The Legal Risk and Co-regulation of the Application of Deep Synthesis Technology

Wan Zhiqian， Chen Chen

（College of Humanities & Law， Huazhong Agricultural University， Wuhan 430070， China）

Abstract： Deep synthesis is a disruptive technology breakthrough in the field of artificial intelligence， which not only meets people's diverse needs， but also leads to some risks， including technology alienation， information distortion and information leakage. To guard against these risks arising from the abuse of deep synthesis， it is necessary to take diversified governance. At the level of technical governance， we need to develop security trace ability and reverse decryption technology， and exert the standard function of technology. At the level of industry governance， we need to strengthen the guiding role of business ethics and the coordination ability of industrial organizations by self-discipline. At the level of legal governance， according to some clauses of the Civil Code and combining with Chinese reality and foreign legislative experience， it is better to perfect existing legal system to regulate deep synthesis， including clarifying technology use boundary， procedure as well as the legal consequence of technology abuse.

Key words： artificial intelligence; deep synthesis; face recognition; technology alienation; business ethics; the Civil Code