AI換臉的技術風險與多元規制

林愛珺,林倩敏

(暨南大學新聞與傳播學院,廣東廣州510632)

2019年，自“ZAO”軟件應用AI換臉技術成為網絡輿論焦點后，該技術也因此進入大眾視野。如今，AI換臉等深度偽造技術已經覆蓋了娛樂、媒體、政治等多個領域。AI換臉的虛假新聞也帶來了各種新聞倫理風險，嚴重擾亂了輿論生態，沖擊媒體公信力。2022年11月25日，國家互聯網信息辦公室正式公布《互聯網信息服務深度合成管理規定》(以下簡稱《規定》)，并于2023年1月10日起開始施行。《規定》對于深度合成技術在互聯網中的應用作出具體說明與嚴格規定，回應并補充了《民法典》及《個人信息保護法》中關于利用信息技術手段偽造等方式侵害他人權利及個人信息保護的規定，對人臉生成、人臉替換、人臉操控、姿態操控等虛擬人物圖像的開發與應用作出了規定，為AI換臉等深度合成技術的應用厘清底線。

一、AI換臉技術：人臉圖像的深度偽造

AI換臉技術(AI face swap)是基于人臉圖像識別的深度偽造技術。它源自Photoshop技術對人臉圖像進行的編輯改造，廣泛應用于證件照人臉美化以及人臉圖像視頻制作。后來，在深度學習技術的支持下，識別目標對象的面部特征而后利用算法將其“嫁接”到被模仿對象上的技術被稱為人臉深度偽造技術，即AI換臉。

AI換臉技術首先建立在人臉識別技術的基礎之上。人臉識別技術是識別人臉生物特征并以此進行匹配和身份識別的技術。其通過掃描人臉圖像或視頻，識別和偵測主要器官后形成位置信息(人臉模版)，據此創建數據集并將其與待檢驗的人臉圖像相比對，從而實現身份識別與身份驗證的目的。[1]偽造人臉的深度學習算法普遍使用的是“生成性對抗網絡”(Generative Adversarial Network,GAN)和卷積神經網絡(Convolutional Neural Network,CNN)，GAN是一種通過生成模型和判別模型互相博弈的方法來學習數據分布的生成式網絡，CNN則是一類包含卷積計算且具有深度結構的前饋神經網絡。[2]

AI換臉技術是深度偽造技術最廣泛的應用。深度偽造技術(Deepfake)指基于人工智能尤其是深度學習的人像合成技術，現已發展為包括人臉圖像及視頻偽造、聲音偽造等深度合成技術。[3]該技術因美國“Deepfake”事件引起廣泛關注。2017年名為“Deepfake”的Reddit論壇用戶發布了一段將斯嘉麗·約翰遜等女演員面孔嫁接在色情表演者裸體身上的假視頻，用展示獵奇的淫穢表演賺流量。“Deepfake”還發布了一種機器學習算法，并聲稱該算法可以將名人轉換成色情視頻里的人物角色，引起了一陣轟動，這也意味著AI換臉技術算法代碼的開源。此后，AI換臉幾乎成為一種無成本且簡單可及的技術。在Github社區中AI換臉項目數量相當多，如Deepface Lab、Openface Wap、Face App等，大部分APP提供一鍵式的換臉操作，增大了技術濫用的風險。

二、AI換臉技術侵害個人信息安全

AI換臉技術中涉及的人臉信息包括人臉生物特征以及人臉模板，屬于個人生物識別信息，具有高度敏感性。在AI換臉的過程中，對人臉生物識別信息的采集、存儲以及使用全鏈條生產模式是該技術運行的底層邏輯，監管不力則存在侵害個人信息安全的風險。

(一)人臉生物識別信息具有高度敏感性

人臉生物識別信息屬于生物信息，具有高度敏感性。根據《通用數據保護條例》第九條規定，生物信息包括自然人的指紋、聲音、虹膜、臉相、靜脈等生物信息，且均屬于敏感信息，人臉生物識別信息包括人臉模版，即“臉相”，屬于敏感信息。我國《個人信息保護法》規定，“個人敏感信息”指自然人的人格尊嚴受到侵害或者人身、財產安全受到危害的個人信息，包括生物識別、金融賬戶、行蹤軌跡以及未滿14周歲的未成年人的個人信息等。人臉生物識別信息是對面部特征的識別信息，即生物識別信息的一種，也歸屬于“個人敏感信息”。

人臉生物識別信息的高度敏感性在于該類信息的唯一特性，一旦采集將很難被消除或修改。“人臉”作為人體的身體器官，具有唯一、不可替代的特性，人臉生物識別信息通過掃描人臉而得來，延續了真實人臉的唯一特性。人臉生物識別信息源于人臉模版的數據點集合，如若人臉特征本身沒有發生改變，那么人臉生物識別信息也不會發生改變。人臉生物識別信息以數據集的形式存放在虛擬網絡數據庫中，消除與修改數據集需進入該網絡節點進行刪除，如若數據集已進行運輸流轉，那么消除數據集更是需要經由追溯流轉源頭或泄露源頭才能查清，流程繁瑣且需耗費大量人力物力。

高度敏感性也意味著存在巨大的安全風險。人臉生物識別信息能夠直接鏈接到其他的敏感個人信息，一旦該類信息被非法盜取便可能導致其他的深層信息被挖掘與泄露，進一步造成銀行卡、社交賬戶的非法盜用，嚴重威脅公民信息安全與生命財產安全。2018年某網絡詐騙團伙使用軟件將公民頭像照片制作成3D頭像，并利用非法得來的公民個人身份信息注冊支付寶賬號，通過人臉識別認證后詐騙支付寶提供的邀請注冊新用戶的紅包獎勵，從中非法牟利4萬元。(1)中國裁判文書網《張富、余杭飛、史良浩等侵犯公民個人信息罪二審刑事裁定書》。不法分子將人臉照片制作成3D頭像，利用對人臉生物識別信息的偵測原理破解支付寶的人臉識別技術，并利用非法獲取的個人身份信息偽造真實個人身份實施詐騙活動。其中人臉生物識別信息的非法利用是實施詐騙活動的關鍵一環，利用人臉生物識別信息與個人身份信息結合偽造虛擬身份ID，進而導致他人個人財產被盜取。隨著人臉生物識別信息的應用場景日益廣泛，生物信息安全風險也日益增長。

(二) AI換臉技術的濫用增大個人生物信息安全風險

AI換臉技術的運行過程亦是對生物識別信息(敏感信息)的處理應用過程。AI換臉首先需要利用人臉識別技術對人臉圖像進行偵測和識別，并從中提取核心特征信息，再對人臉特征進行測量得到人臉模板并以數據集形式儲存于數據庫；其次通過機器學習訓練確定人臉變換矩陣，得到人臉替換轉換編碼；最后在原有的人臉圖像上進行轉化，導出“換臉”之后的偽造圖像或視頻。可見，識別人臉生物特征以及提取人臉模版是AI換臉技術運行的關鍵核心。據《人臉識別規定》第一條第三款規定，人臉識別中的人臉信息屬于《民法典》第一千零三十四條中規定的生物識別信息。因此，在AI換臉技術運行過程中，對人臉生物識別信息的采集、存儲以及使用全鏈條生產模式是該技術運行的底層邏輯，一旦發生技術操作失誤或黑客入侵事件則將導致大量的個人生物識別信息泄露，存在較大的生物信息安全隱患。

而AI換臉技術的濫用更加劇了安全風險。AI換臉在當下幾乎成為一種無門檻使用技術，往往作為一種娛樂手段與社交媒體音視頻傳播相結合，實質上是化為奪人眼球的噱頭以捕獲更多流量。2021年，抖音APP上發起名為性別反轉挑戰的話題并提供性別反轉的“AI換臉”濾鏡。該濾鏡便是利用AI換臉技術生成對應的異性人臉圖像，操作十分簡單快捷，目前該濾鏡的參與量已超過兩千萬次。用戶出于娛樂休閑的目的，利用AI換臉技術制作短視頻，并將其上傳至網絡，但對于運用AI換臉技術采集自身人臉生物識別信息的過程一無所知，更對其中生物信息采集及泄露的風險毫無察覺。

而當下我國針對AI換臉技術處理該類信息的流程仍缺少監管。目前我國有關AI換臉技術的法律規定體現在三處，分別在《民法典》《網絡生態治理規定》及《網絡音視頻信息服務管理規定》。《網絡生態治理規定》《網絡音視頻信息服務管理規定》這兩份法律文件的規定過于寬泛，而《民法典》則主要體現在第一千零一十九條中“利用信息技術手段”侵害肖像權，這就導致其對AI換臉技術侵害個人信息安全的規制并不能發揮具有針對性的遏制作用。另外，《規定》第十四、十五條規定，對于提供具有對人臉生物識別信息編輯功能的算法模型等應當自行開展安全評估，采集人臉生物識別信息前應獲得單獨同意及加強儲存數據集的管理。

在我國現行法律下，由AI換臉技術帶來的個人生物識別信息安全威脅仍缺乏有力規制。應當加強對人臉生物識別信息的保護，對人臉生物信息的采集、存儲應當采取嚴格的保護措施，嚴格限定使用場景，否則存在嚴重的生物信息安全隱患。

三、AI換臉侵犯肖像權

《民法典》在第一千零一十八條第二款中第一次明確規定肖像的概念與具體內涵，“肖像是通過影像、雕塑、繪畫等方式在一定載體上所反映的特定自然人可以被識別的外部形象”。一般認為，肖像應當包含自然人“可識別”的外部形象，即得以在外部形象上與特定自然人之間建立對應聯系。面部、身影甚至真人表情包等能夠達到“可識別”程度的同樣可以作為肖像。

構成肖像權侵權有兩種途徑：破壞他人肖像完整性，未經肖像權人同意而使用、公開他人肖像。破壞他人肖像完整性指的是采取以丑化、污損，或者利用信息技術手段偽造等方式侵害他人肖像。AI換臉技術是對人臉圖像的嫁接與挪移，利用AI換臉技術偽造甚至丑化、污損，或未經他人同意使用其肖像進行AI換臉并公開都構成侵權。

(一) 利用信息技術手段偽造他人肖像

《民法典》第一千零一十九條第一款規定，“任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權”。“利用信息技術手段偽造”中的“信息技術”泛指在信息科學的指導下擴展人類信息功能的技術總和，具有一般性的技術性和區別于其他技術的信息性特征。[4]利用信息技術性的手段對他人肖像進行“再現”達到“可識別”的程度，即是“偽造”他人肖像。AI換臉技術通過掃描人臉圖像提取有用的生物特征信息(如臉部輪廓、眼睛的大小、嘴巴的位置)生成人臉模版，再對人臉模版進行編碼形成數據集，并依據特定的算法規則轉化，實質上是將人臉生物特征信息化并加以算法函數化轉變的技術處理流程，兼具信息性與技術性。換臉后達成以假亂真、能夠被識別為“同一人”的視覺效果，構成對他人肖像的“偽造”。因此，利用AI換臉技術將他人的肖像偽造到特定場景中的行為，屬于“利用信息技術手段偽造”侵害他人肖像權。

2021年8月，騰訊QQ、微信平臺上有大量用戶通過私聊、群聊渠道以截圖、轉發形式傳播含有使用AI換臉技術對明星劉某進行丑化、侮辱的合成視頻、視頻截圖及含有侮辱誹謗言論的聊天記錄，對當事人造成了極其惡劣的影響，嚴重侵害當事人的肖像權。該用戶利用AI換臉技術將劉某的肖像嫁接到特定的淫穢場景中，即通過“信息技術手段”達到丑化、侮辱劉某的非法目的，而鑒于劉某作為明星的公眾人物身份，合成的圖像與視頻只要足以被一般公眾識別為同一人，達到可被認定為“真實”的程度，即構成“偽造”，屬于“利用信息技術手段偽造”侵害他人肖像權的非法行為。

利用AI換臉技術對臉部圖像進行嫁接、編輯，無疑破壞了肖像的完整性，是既定的侵害事實。但AI換臉對人臉圖像的“偽造”并不等同于“丑化”“污損”他人肖像，兩者的損害程度相去甚遠。在2017年美國Reddit網站換臉色情視頻事件中，以好萊塢當紅女星為首的十幾名女性遭受肖像權、名譽權的嚴重侵害。而在國內“肌肉金輪”系列視頻中，AI換臉技術卻為當事人增加不少收益。嗶哩嗶哩平臺某用戶將某知名游戲主播的面部肖像嫁接到了以身材為賣點的國外某短視頻博主的身體上，兩者適配度極高，從而引發了視頻的爆火，該游戲主播也受益于此知名度暴漲。利用AI換臉技術“偽造”他人肖像合成音視頻進行傳播，可能給當事人帶來聚光燈式的關注與巨額的流量曝光，但利用該技術手段達成“丑化”“污損”的非法目的則直接導致當事人權益嚴重受損，技術使用者的主觀動機與目的是其中的關鍵。

AI換臉技術并非中立，而是帶有“偽造”的特殊屬性，但將AI換臉技術矮化為邪惡的技術則是典型的“技術有罪論”。技術無罪，人難脫其罪。在AI換臉技術開發的初始階段，研發者們忽視了技術在發展與應用過程中存在的風險，片面考慮到技術帶來的市場效益便將其投入市場，并非技術有罪，而是資本無限逐利的“原罪”。

(二)未經他人同意使用肖像進行AI換臉

《民法典》第一千零一十九條第二款規定，未經肖像權人同意制作、使用、公開其肖像，破壞了肖像權的專有性，具有侵害他人肖像權的違法性。在《民法典》頒行前，依據《民法通則》第一百條的規定，未經肖像權人同意而以營利為目的制作、使用、公開他人肖像的行為構成侵權行為。《民法典》頒布后不再將其作為侵害肖像權的構成要件，實質上擴大了肖像權保護范圍并優先保護肖像權的精神性利益。即便沒有營利目的，未經他人同意擅自利用AI換臉技術合成他人肖像甚至廣泛傳播，一般是行為人有意識的、存有某種心理動機的行為，通常不會因為不注意的心理狀態而誤用他人肖像，過錯形態為故意，主觀過錯明顯，客觀上也造成了對他人肖像權特別是肖像權中精神利益的侵害。

未經他人同意擅自利用AI換臉技術嫁接他人肖像，合成“AI換臉音視頻”并散播，一般出于不同的心理動機。“AI換臉音視頻”也可以由此分為以下不同種類：娛樂類、淫穢類、政治類。娛樂傳播類音視頻是出于娛樂游戲化傳播目的，利用AI換臉技術對人臉圖像進行嫁接處理，最終實現在媒體上的大范圍傳播。淫穢類音視頻是基于AI換臉技術將他人臉部圖像嫁接至扮演色情淫穢音視頻的角色身上，通常上傳至色情網站并非法獲利。政治類音視頻是出于表達政治訴求或制造政治輿論沖突的動機，利用AI換臉技術將國家領袖或相關政治人物的人臉圖像嫁接、處理、生成的合成音視頻。

在互聯網上，公眾一般出于娛樂惡搞的目的利用AI換臉技術合成音視頻，將他人的面部圖像嫁接至其他人的身體上或者虛擬人物上，刻意制造反差極大或者適配度極高的視覺效果，并將合成音視頻在社交媒體平臺公開傳播，屬于“鬼畜類”二次創作。在利用AI換臉技術嫁接他人肖像技術的使用過程中，當事人對選擇不同的面部圖像應當具備一定的自主性，并非處于疏忽大意或不注意的心理狀態。嗶哩嗶哩平臺某UP主利用AI換臉技術將明星楊某的臉疊加到影視劇中“黃蓉”一角身上并公開這段偽造視頻，楊某換上了“黃蓉”的微表情后顯得無比靈動，與其平時的演技形成鮮明對比，也因此引發網友的關注。因此，雖然該UP主聲稱制作視頻并不存在營利行為，但并非出于“不注意”的心理狀態，其主觀動機存疑，雖無明顯惡意但也難謂善意。

利用AI換臉技術將女性明星偶像的面部圖像嫁接至淫穢色情視頻的行為，具有強烈的丑化、侮辱等惡意，并且通常將其上傳至色情網站牟利，顯然構成肖像權侵權，同時還嚴重污損當事人名譽。對于存有政治性目標的特殊群體而言，技術是一條攫取政治利益的新途徑。利用AI換臉技術將國家領導人或其他政治人物的臉部圖像嫁接至其他身體，或在原有基礎上單獨對微表情、微動作進行轉變，輔以聲音軌道的智能轉換合成逼真的音視頻后公開，能夠引發大量關注或攻擊政治對手。

出于不同目的與心理動機而未經他人同意利用AI換臉技術使用他人肖像將造成不同程度的損害結果，但一般情況下都并非出于“無意識”的過失狀態。對于一般大眾而言，AI換臉技術更多的是一種娛樂惡搞、表達自我、休閑放松的方式，考慮到此情形下制作合成音視頻的行為動機惡意不大，應當結合過錯程度、受侵害人的知名度等不同方面認定侵權責任及賠償，酌情處理。

四、視覺失真與新聞失實

真實是新聞的生命，真實的新聞內容能夠幫助人們正確認識世界。真實是信任之源，真實地報道新聞能夠贏得人們對媒體的信任，確立媒體合法性。但AI換臉技術的濫用帶來了大量低俗、博眼球的換臉音視頻的無序傳播與媒體亂象，這些虛假音視頻沖擊著公眾對“真實”本意的認知與共識。AI換臉下的虛假新聞更是消解了新聞報道內容的真實性和公眾對于新聞的理解真實，同時也挑戰著媒體公信力，帶來前所未有的新聞倫理風險。

(一) 視覺失真

智能時代下AI換臉技術對人臉信息的偽造造成視覺上的失真效果，挑戰了真實性原則。媒介技術的發展增強了人不斷認識世界的信息功能，拓展了人類的認知邊界，可以說，技術的重要功能便是增強人們正確認識現實世界的能力。AI換臉技術的使用卻是對真實人臉信息進行偽造、合成虛假圖層的過程，利用人臉識別技術與深度學習的算法偽造人臉的生物特征，達到一般公眾無法辨別真偽的程度，并且呈現出極具沖擊性的視覺效果，具有“偽造”的技術屬性。從實質上看，AI換臉技術作為一種數字工具的存在深刻影響著信息真實的建構過程，技術手段制造失真的假象反噬真實的信息本源，這正印證了麥克盧漢“媒介即訊息”的觀點。

AI換臉技術將公眾置于虛實難辨的信息場景之中，打破“人臉即真實”的社會共識，造成認知層面上的“失真”。隱私場景理論認為，信息流動具有情景化的特點，信息組合者將信息從原本合適的場景中抽離后將其嵌入到信息主體陌生的場景中，信息主體便無法對新場景作出準確的判斷。[5]AI換臉音視頻在媒體平臺上的廣泛傳播將公眾從原先真實人臉的場景中抽離，切換至真實與虛假人臉難以辨清的新場景，逐步打破了公眾以人臉作為真實憑證的傳統認知。而智能時代下的電子證偽機制卻尚未建立，在動態的信息傳遞過程中公眾缺乏技術手段辨別真偽，也就無法建立新的關于“真實”的認知，被動地陷入“失真”狀態。AI換臉技術造成的“視覺失真”也即數字時代中“真實”的具體內涵在新技術沖擊下不斷消解的體現，而AI換臉技術應用于新聞行業也對新聞真實產生了新的挑戰。

(二) 新聞失實

學界對“新聞真實”其原則性理念基本達成一致，即新聞真實是新聞的靈魂，但對于新聞何以謂真、何以為真卻莫衷一是。近年來在智能傳播的大背景下出現了諸多關于“新聞真實”概念內涵的重新討論，包括“報道真實”“假設真實”“見證真實”等說法。筆者認為，新聞真實首先應當是新聞報道真實，是新聞報道過程中應當遵守的職業倫理準則。AI換臉技術在媒體領域的應用中對新聞內容進行了偽造，而對AI換臉音視頻的使用不當也破壞了新聞報道程序的正當性。

應用AI換臉技術制作虛假新聞的行為嚴重違背了新聞真實原則。真實性原則既是一種道德倫理，也是新聞行業的報道編輯原則，以及記者在報道過程中應當遵循的職業規范。在真實性原則的指導下，媒體應以真實、準確的態度報道事實，挖掘事實真相。而新聞媒體行業對AI換臉技術的應用卻違背了真實性原則。例如2018年加蓬政府發布總統在電視中“向國民發表新年致辭”的換臉偽造音視頻[6]，嚴重違背了媒體行業的真實性原則。當AI換臉技術被媒體用以制作虛假新聞，偽造不存在的新聞內容，真實性原則也就蕩然無存。

對AI換臉音視頻內容的不當使用破壞了新聞報道程序的正當性。“程序正義”是一種過程的正義，著眼于正義的普遍形式，考慮的是程序的正當性。[7]實現程序正義是對新聞真實的更高要求，報道事實和報道程序正當且準確都是構成新聞真實缺一不可的要素。[8]據POLITCO報紙報道，在特朗普宣布退出全球氣候協定后，比利時某政黨組織利用深度偽造技術制作了一段“特朗普”宣稱“比利時也應該跟隨美國退出全球氣候協定”的AI換臉音視頻。[9]該新聞在報道中使用了虛假的AI換臉內容，并沒有明顯標識視頻內容為合成作品，僅在視頻最后作出提示，既偽造了虛假的報道內容，也在報道程序上存在不正當的操作。

(三)挑戰媒體公信力

真實性原則是媒體的公信力所在。新聞真實不僅停留于新聞內容的客觀真實，更強調新聞的“信任性真實”，即受眾理解、信任的真實。[10]源于社交媒體的社交性與連接性屬性，有學者進一步提出了“假設真實”的概念，認為“新聞真實”在社交媒體時代更體現為媒體追尋受眾信任與認可的進程，這也是媒體的公信力所在。[11]而AI換臉技術對于媒體公信力的破壞，就在于其制造的虛假新聞在新媒體平臺上快速擴散后引起公眾對于媒體的不信任感。

自媒體為了攫取流量，大范圍擴散傳播充斥獵奇色彩的虛假新聞，受眾因無法辨別真偽而誤信，而在核查后發現自己被蒙騙，由此降低對原本報道該新聞的媒體的信任度。澳大利亞學者研究發現，在第三方機構對新聞報道中政治人物的“聲稱”進行核查后反而降低了受眾對于進行新聞報道媒體的信任度。[12]專業(機構)媒體核查合成新聞或制作AI換臉音視頻警醒公眾[13]，一方面使得公眾將信任投資轉向權威的新聞媒體，形成新聞行動者網絡中不同新聞權威的分層；但另一方面自媒體同樣屬于新新聞生態系統的重要一環并且在數量上占據絕對優勢，公眾對自媒體信任度的降低反而降低了對新聞業的系統性信任。

在媒介技術的發展之下，專業(機構)媒體、自媒體、平臺媒體等構成新新聞生態系統，多元的新聞行動者實質上代表了新興而豐富的新聞采寫與傳播模式，但這也帶來了難以統一的行為邏輯與規范理念。面對AI換臉技術的挑戰，不同的新聞行動者都應當加強對于AI換臉虛假新聞的治理力度，公眾也應當提升對虛假內容的辨別能力，攜手共建真實、客觀的社會公共輿論場與網絡媒體生態環境。

五、AI換臉的多元規制

AI換臉技術在快速發展過程中潛藏著法律與新聞倫理風險，需要加強法律監管力度并通過媒體平臺對其亂象進行規制，在市場、技術和規則之間找到平衡點。

(一) 增強個人生物識別信息的保護

1.落實人臉生物識別信息采集中的“知情—同意”原則

要嚴格把控人臉生物識別信息的采集，落實個人對于AI換臉等深度偽造技術采集生物識別信息的知情同意。根據《規定》第十四條第二款，提供顯著編輯人臉、人聲等生物識別信息功能的深度合成服務提供者，應當明確提示深度合成服務使用者需要提前依法告知被編輯信息的個人主體，并獲取被編輯信息的個人主體的“單獨同意”而非概括同意。依據該條款，被編輯信息的個人主體僅僅能知曉其個人生物識別信息被編輯，告知不充分，個人在事先很難準確預測進一步處理人臉識別信息的“目的、方式和范圍”以及使用的深度、廣度，很難達到充分的“知情同意”。[14]《個人信息保護法》對收集生物識別信息等敏感信息有明確規定，在應用AI換臉技術過程中對于人臉生物信息的采集需要符合特定目的和有充分必要性，且必須告知個人信息收集的必要性，以及對于個人的影響后才能進行。由此，(深度合成服務提供者)還需要明確告知信息權利人其收集處理的內容、目的、方式及是否與第三方共享，以此實現充分知情基礎上真正的同意。

2.提高對個人生物識別信息的收集與存儲標準

作為敏感個人信息，人臉識別信息的存儲需要明確存儲級別和措施。[15]《規定》第十四條第一款指出，深度合成服務提供者應當采取必要措施保障數據安全，確保數據在處理過程中“合法、正當”；加強數據集訓練管理，提高對于涉及個人信息數據的訓練數據集的保護力度，不得非法處理個人信息。依據《網絡安全法》，個人生物識別信息的存儲必須與個人身份信息分開存儲。(2)國家市場監督管理總局、國家標準化管理委員會正式發布國家標準《信息安全技術 個人信息安全規范》第5.4條規定。因此，在AI換臉技術的應用過程中應當針對后續人臉生物信息的存儲、運輸傳遞及使用作出明示說明，保障個人信息的安全。但《規定》中對于應用深度合成技術收集敏感個人信息后采取何種級別的保存措施，以及能否有權委托第三方保存等具體問題，尚未作出特殊規定與說明。

《民法典》第一千零三十四條中將公民個人信息分為“私密信息”和“一般信息”兩類。有觀點認為個人隱私及私密信息強調私密性，以及與個人尊嚴的強關聯關系，人臉生物識別信息雖然敏感卻并不私密，相反甚至具有公開性。[16]但筆者認為，正如身高、體重、女性三圍等基于可視的身體特征而提取出的以數據形式呈現的數據集一樣，基于人臉生物特征提取的人臉生物識別信息同屬于隱私中的私密信息，具有私密性。人臉生物識別信息集高度敏感性及私密性于一體。(深度合成服務提供者)應當分而治之地采取不同規格的保存措施存儲不同層級的個人信息，將一般信息與敏感信息進行分級處理，對人臉生物識別信息等敏感個人信息采取高規格的保護措施。雖然民法典中明確規定未獲得信息權利人同意不得將個人生物識別信息轉移至第三方機構，但將深度合成服務提供者所承擔的采集個人生物識別信息，以及存儲個人生物識別信息功能相分離，引入第三方存儲機構有利于提高個人生物識別信息的儲存安全系數。

(二) 加強媒體平臺對深度合成作品的管理

1.強化平臺的主體責任

《規定》第七條、第八條中明確指出深度合成服務提供者的主體責任與應盡義務，如完善平臺與創作者的服務協議，在內容上傳前要求創作者自覺對內容進行標識，并采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核，對于未進行標識的內容應當停止傳輸；以顯著方式提示深度合成服務使用者承擔相應的信息安全義務等。因此，作為深度合成服務的提供者，同時具有輿論屬性與社會動員能力的媒體平臺，必須承擔相應的主體責任。

我國新媒體中的AI換臉音視頻普遍存在多媒體平臺傳播的現象，當AI換臉視頻制作完成后傳播至微博、微信等其他平臺時，就可能存在多方的深度合成服務提供者。此時面對多個主體承擔連帶責任的情況，承擔責任的深度合成服務提供者是否需要從內容制作平臺追溯至其他傳播平臺存有爭議。依據《規定》第二十三條，提供深度合成服務的組織、個人屬于深度合成服務提供者，為深度合成服務提供技術支持的組織、個人屬于深度合成服務技術支持者。顯然，傳播平臺應當屬于“深度合成服務提供者”，AI換臉技術的使用者并非孤立地散播AI換臉深度合成音視頻，其往往借助媒體平臺發布，以達到大范圍傳播擴散的效果。因此，筆者認為，無論作為內容制作的平臺，抑或由平臺用戶轉發擴散的其他傳播平臺，都應該承擔相應的責任。《規定》第六條：“不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息。”法律明確禁止媒體平臺及用戶利用AI換臉技術合成虛假新聞。媒體平臺及用戶不得利用AI換臉技術杜撰虛假的新聞內容，無論是對個人或名人的換臉或對其面部微表情進行轉換等，都是違法的。隨意使用國家領導人的肖像進行深度合成，在我國不但構成侵權，還存在其他風險。另外，如果轉載的深度合成的新聞作品中涉及他人肖像，如虛擬主播主持的新聞作品、VR新聞等，應當“依法轉載互聯網新聞信息稿源單位發布的新聞信息”。

2.深度合成作品必須作出明顯標識

依據《規定》第九條、第十七條(3)《規定》第十七條，“深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識”中列舉五種情況，其中第三款即AI換臉“人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務”。，作為深度合成服務提供者，平臺必須要求信息提供者進行身份認證并對其上傳的相關的深度合成內容作出明顯標示標識，促進塑造客觀、真實的媒體生態環境。平臺可以應用區塊鏈技術為用戶提供在深度合成作品上作出明顯標識的技術手段，如運用數字水印、分布式共識和經濟激勵等手段，實現去中心化信用的點對點交易與協作。[17]平臺還可以在內容中應用溯源防偽技術增強網絡平臺中對用戶隱私的保護，如一種可以應對基于GAN的編輯與篡改的端到端的深度學習方法，解決原創者作品被肆意偽造修改而難以追溯源頭的難題。[18]阿里云開發者社區建立了時間戳在線轉換工具，能夠為用戶提供一份電子證據以證明用戶的某些數據的產生時間，普通公眾可以通過保存時間戳作為“數字水印”保護個人創作作品，積極配合平臺管理深度合成內容。

除建立明顯標識的保護之外，平臺也應當防范出現深度合成內容未進行明顯標識的情形。《規定》第十八條，任何組織、個人不得采用技術手段刪除、篡改、隱匿相應的深度合成標識。當平臺檢測到信息提供者未對規定的深度合成信息內容進行顯著標識時，應當立即中止內容的發布，并要求上傳者按照規定標識顯著記號才能進行公開與傳播。當平臺檢測到未按規定進行顯著標識的深度合成信息內容在其平臺上廣泛傳播時，應當立即封鎖該信息的閱讀查看與轉發權限，并對內容傳播者進行通告處理。

3.增強對深度合成內容的監測

平臺需要不斷引進新型檢測技術，擴展新的組件技術提高檢測精確性，以解決新問題。當下針對AI換臉的偽造音視頻已有專門的探測技術進行檢驗，包括多種探測方式：其一，從人臉固有特征發現生理特征上的區別；其二，從偽造方法出發，觀察生成對抗網絡的固有痕跡或通過修改卷積神經網絡結構來檢測偽造視頻；其三，抓住視頻內容的時序性進行偽造檢測。目前絕大多數方法的準確率指標都已達到95%，但是這些指標都是在公開數據集上得到的，實際互聯網環境中的準確率只有70%左右。[16]而類似于能夠跟蹤用戶所有對話、行為軌跡的生命日志記錄又存在明顯的侵犯用戶個人隱私的弊病，難以真正推行。因此，以上技術都并非盡善盡美，平臺亟須在實際應用中不斷革新檢測技術，加強對深度合成內容的檢測管理。

平臺還應當加強對深度合成內容的審核。建立健全用于識別違法和不良深度合成信息內容的數據庫，提高對違法和不良深度合成內容的識別度與檢測準確率，對于其中違法以及不良的內容進行刪除。當發現因審核失誤而導致違法和不良的深度合成內容擴散傳播時，平臺應立即封鎖該信息的閱讀查看與轉發權限，以中止虛假信息的傳播，對相關的信息提供者予以處置，并及時采取相應的辟謠措施，向用戶公示虛假內容及比對情況，同時將相關信息報相關部門備案，承擔起相應的管理職責。

(三) 提高公眾的媒介素養

1.提高信息甄別能力

英國學者湯普森和利維斯認為，媒介素養就像“疫苗”，大眾通過接種“疫苗”便能夠對當時通俗流行文化“免疫”，從而保持獨立思考、批判的精神。[19]當下以技術為主導的媒介邏輯重構著社會的各個領域，AR、VR、直播等技術手段建構起融合多重感官的沉浸式媒介體驗，大眾亟待提升對龐雜而富媒化的信息內容進行甄別和批判性思考的處理能力。在面對AI換臉等合成技術制造的虛假新聞時，一方面，公眾應在視覺沖擊前保持冷靜理智的頭腦，注重媒介內容的客觀性、真實性、準確性，弱化主觀性、情感性等非理性因素的影響，時刻保持對媒介信息的批判意識；另一方面，公眾應當理性甄別媒介信息，對帶有深度合成標識的內容保持警惕，對于權威信源投以更多的信任而非將關注放在小道消息與營銷號等自媒體消息上，不盲從、不盲信媒介信息內容。

2.增強媒介使用能力

在萬物皆媒的數字時代，網絡媒體生態在技術賦權下，不僅是投射真實世界的擬態環境，而且在各類人機交互的社交網絡中虛實相融、信息雜糅，對當代公民素養提出了更高的要求。“技術是一種解蔽方式”，海德格爾在《技術的追問》中提出應以技術手段破解技術困境。如何鑒別AI換臉技術中的虛假新聞，也需要公眾和平臺積極、有效地利用一些檢測網站以及事實核查平臺對新聞內容進行核查，主動使用相關媒介技術了解技術黑箱的運行法則，作出理性分析與判斷。在媒介使用過程中，還應當對媒介技術所產生的技術風險有所防范，尤其注意個人生物識別信息安全，涉及人臉識別、人聲識別、指紋、瞳孔等生物識別信息時需要充分了解信息的采集、使用與存儲流程以及信息采集目的的充分必要性以及使用情況，謹慎使用生物識別信息。公眾應積極使用媒介技術發展“延伸”自身的信息功能，在新媒體的使用過程中開拓視野、培養多元化思維以及建構信息知識網絡，在虛擬的網絡世界中提升自身的信息獲取能力、信息使用效率，主動參與到社會公共事務的討論與民主決策中去，成為理性的網絡公民。

3.樹立法制觀念

媒介素養極具情境性，伴隨著信息傳播技術的快速變化，其內涵與維度也發生著不同轉變。在AI技術與社會化媒體深度融合發展下，智能技術改造升級傳統數字傳播語境的同時也帶來一系列法律風險，諸如使用AI換臉侵害肖像權、創作剪輯類短視頻侵害著作權，以及個性化算法推薦過度收集個人信息侵害隱私權等。這要求公民具備一定的與媒體相關的法律知識與法制觀念。“網絡空間并非法外之地”，公眾在使用AI換臉技術制作娛樂類音視頻的過程中要注意其帶來的法律風險。公眾應當學習相關的網絡安全法律法規，增強法制觀念并將其內化為自律行為，共同構建法治化的媒體生態環境，清朗網絡空間。

六、結 論

“走太快了，靈魂跟不上。”這是一個游牧部落的古訓，也是對人工智能技術突飛猛進但隱患頻仍現狀的映射。我國AI換臉技術的開發和利用正處于高速發展階段，但對其產生的技術風險以及必要的規制對策還缺乏足夠的認識和深入的研討。AI換臉技術是一把利弊兼具的雙刃劍，在深度合成音視頻娛樂大眾的同時，其技術濫用而缺少監管也潛藏著生物信息安全隱患與傳播侵權的局部無序亂象。而AI換臉技術應用于新聞制作，尤其涉足政治領域的嚴肅新聞時，加劇視覺失真與新聞失實的困境，形成復雜的網絡輿論生態混沌。

加快規范技術開發的立法，讓技術插上倫理的翅膀，乃是當務之急。同時，要積極預防新媒體AI換臉技術應用對社會信任機制的沖擊，加強事實核查機制的建設，建立健全謠言核查平臺與辟謠機制。對于AI換臉等深度合成技術的應用，應該在個人信息安全、企業基于用戶信息的技術創新發展、數字社會治理上找到平衡。