“深度偽造”技術的倫理反思

徐燕萍

DOI：10.16644/j.cnki.cn33-1094/tp.2021.11.033

摘? 要： 近年來“深度偽造”技術不斷迭代，在給社會帶來諸多發展機遇的同時，也帶來了許多倫理問題。以“Deepnude”為代表的相關色情軟件，引起了社會各界人士的廣泛關注與討論。文章旨在厘清“深度偽造”的概念，分析基于深偽技術的色情軟件“Deepnude”帶來的侵犯女性權益、社會安全風險、信任危機等倫理問題，并從國家、相關職能部門和第三方平臺的角度提出對策。

關鍵詞： 深度偽造; 色情軟件; 倫理問題; 對策

中圖分類號：TP399? ? ? ? ? 文獻標識碼：A? ? ?文章編號：1006-8228（2021）11-118-04

Ethical reflection on "deepfake" technology

——Take the one-click undressing software "Deepnude" as an example

Xu Yanping

（School of Humanities and Social Sciences， Nanjing Forestry University， Nanjing， Jiangsu 210037， China）

Abstract： In recent years， the "deepfake" technology has been iterated continuously， which has brought many development opportunities to the society， but also brought many ethical issues. Related pornographic software represented by "Deepnude" has aroused widespread concern and discussion among people from all walks of life. This article aims to clarify the concept of "deepfake"， analyze the ethical issues of infringement of womens rights， social security risks， trust crisis， etc. brought by the “deepfake” technology based pornographic software "Deepnude"， and proposes countermeasures from the perspective of the state， relevant functional departments and third-party platforms.

Key words： deepfake; pornography; ethical issues; countermeasure

0 引言

近兩年來，“深度偽造”見諸報端，成為媒體爭相報道的對象。“深度偽造”是基于人工智能的一種合成技術，于2017年橫空出世，在一位名為“deepfake”的美國社交用戶利用該技術生成、上傳一段不雅視頻后，逐漸進入大眾視野。發展之初，深偽技術主要用于制作娛樂視頻，如人臉替換，此時期的替換痕跡較為明顯，非專業人員也易于鑒別虛假視頻。隨著技術的飛速發展，合成的虛假圖像、視頻愈加逼真，同時其實現成本也逐漸降低，“深度偽造”開始走向技術普及。

如今，作為一種編織虛假信息的強大工具，再借助互聯網的強“連接”性，“深度偽造”開始遍布互聯網的各個角落。據中國信通院2020年12月9日發布的《人工智能安全框架（2020年）》藍皮報告顯示，隨著全球人工智能規模化建設和應用加速，人工智能帶來的安全風險日益凸顯。“深度偽造”作為人工智能的一項子技術，其帶來的諸多安全風險同樣值得我們警惕，比如已經引發民眾擔憂的色情視頻、聲音詐騙、擾亂政治選舉等問題。當偽造內容越來越數字化，我們勢必應予以重視。

1 “深度偽造”技術

“深度偽造”由英文“deep machine learning”（深度機器學習）和“fake photo”（假照片）組合而成，本質上是一種深度學習模型在圖像合成、替換領域的技術結合，屬于深度圖像生成模型的應用。

“深度偽造”能基于人類行為特征如面部、聲音等合成圖像、視頻、音頻。2014年有研究者提出了“對抗生成網絡”（Generative Adversial Networks，GAN）。GAN的核心思想在于兩個網絡：生成器和判別器。生成器負責生成圖像欺騙判決器，判別器負責區分真實或合成的圖像，這兩個網絡在不斷博弈中能產生逼真的圖像輸出結果，“深度偽造”便是基于GAN原理的一種技術。

目前，“深度偽造”已被應用于電影、廣告、醫療、政治、媒體等諸多領域。正如“技術中性論”這一科技價值觀，即科技的每一次突破，都會帶來意想不到的福音。利用“深度偽造”技術，電影公司能輕松替換影視作品中演員的臉、廣告主能實現一鍵“虛擬試衣”與千人千面的廣告植入、醫療人士能利用該技術改善醫學圖像分析等等。但基于“深度偽造”技術的應用并非都是正面積極的，一些應用也在挑戰著倫理邊界，甚至構成了犯罪。如利用“深度偽造”技術制作色情視頻，進行聲音詐騙，篡改圖像和視頻傳播虛假新聞，以及擾亂政治、操縱輿論等諸多問題。

2 色情軟件“Deepnude”帶來的倫理問題

根據2019年一項針對15，000個“深度偽造”視頻的統計顯示，96%的深度偽造視頻是黃色成人視頻。基于此，文章主要對深偽技術所帶來的色情視頻泛濫這一倫理問題進行探討。2019年6月，一鍵脫衣軟件“Deepnude”刷爆網絡。據英國Wired雜志報道，2020年7月份以來，至少有10.4萬名婦女受到深度偽造機器人“Deepnude”的攻擊。“Deepnude”軟件使用深度學習和生成對抗網絡生成受害者的裸體圖片，其AI算法是在真實裸照的大型數據庫上訓練出來的，能夠在最終圖像中合成身體敏感部位。用戶只需上傳一張女性照片，軟件就能在30s內自動除去女性的衣物。可見，“深度偽造”技術將假冒濫用推向了危險的新領域，帶來了侵犯女性合法權利、社會安全風險、信任危機等倫理問題。

2.1 侵犯女性合法權益

2.1.1 肖像權

“Deepnude”軟件在生成色情視頻之前，需要相關女性的照片作為樣本，以此將色情視頻中女演員的臉替換為其他女性的臉，這顯然侵犯了女性的肖像權。肖像權作為一種重要的人格權，在我國的諸多法律條文中都對保護肖像權作出了明文規定。且根據2021年1月1日起實施的《民法典》第一千零一十九條，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。

2.1.2 名譽權

每個公民或法人都具有保持并維護自己名譽的權利，色情視頻并非是積極向善的東西，對女性受害者的名譽會造成一定損害。女性受害者分為兩類：女明星和普通女性。女明星由于知名度高，偽造視頻較易被澄清，但卻沒有人去為普通女性證實/澄清。對于普通女性而言，這些色情偽造視頻不僅會損害她們的名譽，她們的工作前景、人際關系和精神健康都會受到影響，甚至完全毀掉她們的生活。

2.1.3 隱私權

隱私權起源于19世紀末的西方，我國在2010年的《侵權責任法》中將隱私權正式明確列為獨立的權利。如今對個人隱私的追逐已成為商業機構獲利的方法之一，正如“Deepnude”軟件通過挖掘女性在社交媒體上發布的照片生成色情內容獲取利益。印度記者拉娜·阿尤布曾因臥底報道了印度某暴亂中的教徒屠殺，被報復者利用“Deepnude”軟件偽造了色情視頻。隨后阿尤布的個人信息被曝光，并受到了大量死亡和強奸威脅。這一事例足以證明色情偽造視頻對女性隱私權的侵犯。

2.2 威脅社會公共安全

眼下，技術能重塑人們的認知這一點無可辯駁，正如算法能通過個性化推送固化人們的既有認知，同樣的，“深度偽造”的開發者也將固有的偏見傳遞給了技術[1]。色情造假軟件背后隱藏著深刻的社會性結構偏見，并通過技術放大了這種不公正的社會結構，強化了既有的、結構性的性別秩序[2]。因而，軟件極有可能淪為男性“色情復仇”的武器，造成一些惡性犯罪事件。其他偽造內容同樣存在安全風險，2018年，社交媒體軟件“WhatsApp”上有人造謠多名印度人綁架小孩或涉及其他犯罪，導致這些人遭受暴力致死。未來可能還會有不法分子利用偽造內容，煽動暴力沖突，威脅公共治安、公民的生命安全。

“深度偽造”帶來的財產安全、政治安全問題同樣值得警惕。2019年3月，英國某能源公司被敲詐22萬歐元，正是因為犯罪分子利用了“深度偽造”技術模仿公司CEO的聲音。近年來“深度偽造”語音詐騙正在興起，目前的詐騙對象多為公司高管，未來詐騙對象可能會涉及普通民眾，威脅民眾的財產安全。其次是政治安全問題，“深度偽造”可能會在背后操縱選舉，對西方國家的民主選舉造成威脅。2016年美國選舉期間，就有特朗普的支持者偽造其競爭對手南希佩洛西的演講視頻，使其看上去像喝醉了酒，說話含糊不清。未來“深度偽造”可能繼續被用于偽造政治領導人的相關視頻，擾亂政治安全，干擾選舉。

2.3 引發社會信任危機

目前色情偽造視頻已經發展到了高度精準化的程度，普通人難以鑒別真偽，這會進一步引發人與人之間的猜疑，將人們包圍在“不確定性”之中，使社會的信任體系面臨崩塌。此外，“深度偽造”對企業信譽、媒體信譽也會產生影響。企業信譽是一個企業在激烈的市場競爭中屹立不倒、維持其經營活動的必要條件。設想某企業在首次募股前，被人惡意偽造該企業CEO宣布破產的假視頻，后果將不堪設想。同樣的，利用“深度偽造”技術篡改企業負責人的公開談話視頻，詆毀其形象，也會影響到企業的信譽與經濟利益。而利用“深度偽造”傳播虛假新聞，對媒體的公信力也會造成破壞。后真相時代，媒體已經面臨信任危機，若公眾長期處于“深度偽造”營造的虛假信息環境中，更會加劇這種不信任[3]。

3 “深度偽造”倫理問題的解決對策

現如今，“深度偽造”的門檻已大大降低，普通人通過一臺手機、電腦甚至某個軟件就能實現AI換臉。如2019年風靡國內社交媒體的軟件——ZAO，用戶只需上傳一張自己的照片，就能輕松實現人臉替換。技術門檻的降低同時，也意味著風險的增加，因此，相應的防御措施、解決對策需盡快提上日程。

3.1 國家：制定相關法案

在新技術的治理與風險防范方面，法律規制一直是必不可少的手段[4]。我國目前還未針對“深度偽造”專門立法，但相關法案已有所涉及。如2019年11月29日國家網信辦發布的《網絡音視頻信息服務管理規定》第10-13條，提出了AI造假視頻不得隨意發布等諸多相關規定;2020年3月1日發布的《網絡信息內容生態治理規定》中，規定網絡信息內容服務使用者、生產者和平臺不得開展網絡暴力、人肉搜索、深度偽造、流量造假、操縱賬號等違法活動。總體上，我國關于人工智能等先進技術的立法還不全面。因此，在立法方面可以借鑒美國，美國是最早提出對“深度偽造”技術進行立法的國家，相關法案較多且比較完善。如2018年12月，美國參議院提出的《2018年惡意偽造禁令法案》;2019年3月，美國參議院提出的《2019年商業人臉識別隱私法案》;2019年6月，美國參議院提出的《2018年惡意偽造禁令法案》等等。這些法案針對“深度偽造”可能造成的風險作出了各種規定，值得我國借鑒。

3.2 相關職能部門

3.2.1 政府：加強對公民的宣傳教育

隨著人工智能技術的不斷迭代，基于“深度偽造”合成的視頻將會越來越逼真，普通公眾難以鑒別，也容易上當受騙。為此，政府首先應加強對公民進行“深度偽造”這類新興技術的宣傳與教育，為公民科普相關知識，提升公民的警惕意識。其次，注意力經濟時代，政府要注重培養公民的信息素養。由于“深度偽造”產品比較新穎，能夠抓住人們的獵奇心理，如果公民不假思索地跟著轉載、點贊，很可能會加速和擴大假消息的破壞性影響。因此政府在確保為公民提供可靠信息渠道的同時，也要教育公眾審慎傳播信息，避免虛假信息的二次傳播與泛濫。最后，政府也應資助“深度偽造”檢測工具的研發，盡管目前還沒有完善的檢測技術，但偽造內容也并非毫無破綻。為了在新的“深度偽造”產品出現之后能盡快地研發出相應的檢測工具并推廣，政府的資助是必要的。

3.2.2 專家：制定相關的倫理指南

眼下，一些不法分子公然利用“深度偽造”技術展開犯罪活動，有些行為如偽造色情視頻或許尚不構成犯罪，但也對他人造成了一定傷害。由于網絡的使用成本低，檢測技術也不夠精準能夠找到偽造者，因此，對于“深度偽造”技術的治理，將會是一場持久戰。除了硬性措施的規范，也離不開道德的約束。在這方面，可以借鑒歐盟人工智能高級專家組于2019年4月8日發布的《可信賴AI的倫理指南》[5]。指南第一章就概述了適用于人工智能系統的四項倫理原則：①尊重人類的主體性;②避免傷害;③公平性;④可解釋性。該指南將這些原則視為AI從業者應始終堅持的“倫理準則”。我國也可以參照該指南制定相應的“深度偽造”倫理指引，雖然倫理準則不具備強制約束力，但對于規范“深度偽造”創建者、使用者的行為，也能夠起到一定的作用。

3.2.3 研發機構：開發檢測技術

應對“深度偽造”技術帶來的倫理問題，開發相應的檢測工具至關重要。目前學界和業界已經有了諸多研究成果：2019年，加州大學伯克利分校和南加州大學的一個團隊訓練了一個模型，來尋找精確的“面部動作單位”以識別偽造視頻[6]。近日，來自商湯科技的研究人員與新加坡南洋理工大學合作，設計了“DeeperForensics-1.0”，這是一種用于人臉偽造檢測的數據集，這些數據集帶有標簽，能夠指示哪些內容是由人工智能處理的。此外還有專門針對聲音的檢測工具，如Resemble團隊研發的名為“Resemblyzer”的開源工具，該工具使用人工智能和機器學習來獲取語音樣本的高級表示，能夠預測語音的真實性。國內也有許多相關研究成果，如騰訊優圖實驗室的人臉合成檢測平臺——“FaceIn人臉防偽”、人工智能企業RealAI研發的深度偽造視頻檢測工具——“DeepReal”等等。但目前檢測器還未能達到完美的精度，深度偽造的假冒者身份仍然無法確定，并且由于生成器和鑒別器之間持續博弈的狀態，任何檢測技術隨時都可能被突破，未來仍需不斷完善與發展。

3.3 第三方平臺：加強監管，完善管控措施

如今，社交媒體已成為人們獲取信息的重要渠道，同時社交媒體也是造假者發布偽造內容的天堂。當平臺發現偽造內容時，是簡單刪除規避責任還是任其傳播？顯然，全盤否定與放任自由都過于極端。社交媒體應主動承擔社會責任，從各方面出臺管控措施[7]。與第三方合作以識別偽造內容是社交媒體的首要任務，如臉書為應對社交網絡中充斥的色情視頻造假問題，發起了“深度偽造”挑戰賽，與微軟以及麻省理工、牛津等院校的學者合作，力圖開發能有效識別假視頻的技術。在能夠識別偽造內容之后，社交媒體應建立統一的標準管控偽造內容。目前各大平臺標準不一，有些只刪除使用人工智能制作的假視頻，有些對偽造視頻和剪輯視頻都會貼上假視頻的標簽，這種模棱兩可的做法可能會讓偽造者有機可乘[8]。因此，各大社交平臺應選擇合作，針對“深度偽造”建立統一的管控標準。對于一些違反倫理道德、構成犯罪的偽造內容，嚴格將其下架，對于一些普通的偽造內容也要貼上相關標簽，以防誤導受眾。

4 結束語

在“深度偽造”技術迅猛發展的當下，本文以色情偽造軟件“Deepnude”為個案，探討了“深度偽造”技術可能會帶來的系列倫理問題，包括侵犯女性權益、社會安全風險、信任危機等等。此外，本文提出了國家應制定相關法案、政府應加強對公民的宣傳教育、專家應制定相關倫理指南、研發機構應開發檢測技術以及第三方應加強監管、完善管控措施等建議。雖然目前“深度偽造”還未在我國得到大規模應用，但國外的種種案例警醒我國也應提前針對“深度偽造”做好對策部署，在具體如何應用“深度偽造”技術層面，值得進一步研究。

參考文獻（References）：

[1] 位云玲，馮廣圣.算法新聞推薦的社會責任反思[J].新聞知識，2020.9：23-26

[2] 呂志文.構建與解構：“男性向”網絡小說改編劇分析[J].藝海，2020.7：82-83

[3] 位云玲.新聞反轉的內在機理、影響及治理探究[J].新聞知識，2019.4：86-89

[4] 李越，吳斯，馮廣圣.UGC視角下的網絡社區內容分層管理個案研究——以站酷社區為例[J].東南傳播，2019.7：121-123

[5] 張濤.后真相時代深度偽造的法律風險及其規制[J].電子政務，2020.4：91-101

[6] 陳昌鳳，徐芳依.智能時代的“深度偽造”信息及其治理方式[J].新聞與寫作，2020.4：66-71

[7] 王燦.基于營銷3.0視角的企業整合品牌傳播研究——以宜家家居為例[J].東南傳播，2019.5：136-138

[8] 高威，蕭子豪，朱益靈.DeepFake技術背后的安全問題：機遇與挑戰[J].信息安全研究，2020.6（7）：634-644