“AI換臉術”的價值、風險與發展方向

摘要：智媒體時代，人工智能技術、海量數據的獲取、超級計算軟件的應用為“AI換臉術”的進一步發展提供了契機，“AI換臉術”是對人臉識別系統的升級，隨著該項技術的更新迭代，由此引發的社會問題必須予以提前預判并加以控制。基于此，文章闡述“AI換臉術”在影視、新聞、廣告及娛樂等領域的應用價值，并深入分析其面臨的大眾社會身份的解構、倫理道德邊界的沖擊、侵權違法現象的加劇、相關軟件發展的混亂等風險，并提出提升大眾技術素養、推動政策法律實施、創新多元化應用方向、加強反偵察技術應用等策略，以期對“AI換臉術”的價值回歸有所助益。

關鍵詞：“AI換臉術” 人工智能 法律 倫理道德 智媒體

從最初的2G移動傳播技術到如今5G移動傳播技術的普及，從最初的算法推薦到如今的人工智能應用，媒介環境從新媒體、融媒體、全媒體時代一路走來，進入一個技術更加智能成熟的智媒體時代。智媒體時代下的AI人工智能技術不斷升級，并廣泛應用于計算機、經濟、政治領域，以及各行業的控制系統、仿真系統中，其中以仿真系統為基礎的“AI換臉術”一經問世便成為影視行業、短視頻行業的“新寵”，迅速掀起“AI換臉”熱潮。智能技術的生產與應用造福了許多行業，“AI換臉術”的廣泛應用也彰顯出一定價值，使部分行業與用戶享受到技術所帶來的紅利與歡樂。現階段，在挖掘“AI換臉術”發展價值的同時，需要思考技術背后蘊藏的風險，“AI換臉術”的隱憂亟待探討和解決。

一、“AI換臉術”的價值體現

“AI換臉術”（Artificial intelligence powered face swapping technology）又稱“深度偽造技術”（Deep fake），是指機器或系統通過深度學習（Deep learning）與偽造（Fake），結合虛擬現實技術、視覺合成技術能夠在圖像、視頻及虛擬場景中實施人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等一系列操作的技術。隨著“AI換臉術”的技術公開和應用下沉，“ZAO”“Deepfakes Web”及“Face Swap Live”等以“AI換臉術”為核心的軟件逐漸增多，“AI換臉術”從服務行業轉向服務大眾，應用范圍更加廣泛。

1.提升影視制作質量。“AI換臉術”的出現促使影視行業發生了一場前所未有的產業變革，在重構演員角色、后期特效等方面具有深刻影響。一直以來，影視行業對于特效和演員換臉的需求從未減少，尤其是《阿凡達》《復仇者聯盟》等對演員妝造、形象有特殊需求的特效影視。影視換臉經歷傳統實物化妝換臉、數字圖像換臉、三維動作捕捉術換臉三個階段后，發展至如今的“AI換臉術”。相較于以往的影視換臉方式，“AI換臉術”實現了高效率、高逼真度、超自然和低成本換臉，一方面顯著提升影視創制生態的整體質量，幫助影視演員實現跨時空、跨物種及跨年齡的完美演繹；另一方面拯救大批因個別演員違規而被迫下架的影視劇，如熱播影視《狂飆》《甄嬛傳》等均在上線后及時通過“AI換臉術”完成演員替換。

2.喚醒廣告營銷市場。企業廣告營銷與技術發展息息相關，“AI換臉術”的應用能夠喚醒廣告營銷市場，利用“AI換臉術”可以進行創意營銷，創設多元式、沉浸式的營銷環境，使用戶在立體可感的環境中感受服務和產品。用戶可以將個人肖像通過“AI換臉術”轉移到所需要的產品、服務和場景中，如服飾、妝造、發型、藝術照等生活類服務，以及直播、游戲、旅游等場景類服務，獲得身臨其境的代入感，從而為產品和服務打開新的營銷通道。例如，2022年三八婦女節，傳統家電企業美的利用“AI換臉術”策劃了一場“美的AI換新劇場”活動，通過生成女性職業影集成功完成別具一格的品牌營銷。

3.擴大新聞傳播范圍。技術因素在新聞生態及格局的改變中發揮著至關重要的作用，智媒體時代新聞傳播面臨信息爆炸、受眾注意力缺失等現狀，“AI換臉術”的應用能夠創新新聞生產傳播方式，擴大新聞傳播范圍。其一，“AI換臉術”能夠在技術層面為新聞生產提供多元創意和便捷通道，如北京冬奧會央視虛擬手語主持人的五官形象借助“AI換臉術”得以塑造完成，其面部表情和動作神態成為當時科技的一大亮點。其二，“AI換臉術”能夠增強用戶與媒體之間的互動，用戶可以通過進入新聞場景、模擬主持人播報等方式直觀感受新聞現場、參與新聞活動，如在中國人民解放軍建軍90周年之際，人民日報客戶端推出《快看吶！這是我的軍裝照》活動，用戶可以通過“AI換臉術”獲得個人軍裝照，此活動最終瀏覽量超過10億次，實現了以互動方式擴大新聞傳播范圍。

4.帶動數字娛樂發展。隨著“AI換臉術”的技術愈發成熟和便捷，很多社交平臺開始借助“AI換臉術”進行特效創新，吸引用戶參與。“ZAO”作為國內較早利用“AI換臉術”將用戶肖像替代影視明星視頻的APP，上線初期便吸引大量用戶參與且深受大眾喜愛，短時間內登頂應用商店的下載榜首。現階段，抖音、快手等社交類短視頻平臺中也有幫助用戶換裝變臉的特效，其借助“AI換臉術”通過選取用戶全臉或五官局部特征實現換臉。例如，抖音的“超級變臉”特效能夠幫助用戶看到自身不同年齡段的模樣，同時“國風照”“影視照”特效也備受用戶喜愛。總之，“AI換臉術”使大眾獲得即時性的娛樂感官體驗，可帶動數字娛樂發展。

二、“AI換臉術”存在的風險

在發展過程中，“AI換臉術”的技術成本不斷降低，社交媒體平臺對初級“AI換臉術”的應用進一步助推了該項技術的普及和傳播，使得“AI換臉術”應用價值凸顯。“AI換臉術”能夠實現一鍵生成、快速成型，意味著該技術已經能夠脫離編碼被自由運用于更廣泛的領域，但是當前“AI換臉術”的應用更多集中在娛樂領域，技術進步與社會實踐明顯失衡，導致“AI換臉術”的市場化過程如同“被打開的潘多拉魔盒”，由此引發的社會問題不容忽視。

1.大眾社會身份的解構。肖像既是大眾在社會交往中用于區分、辨識身份的基礎，也是大眾建構社會身份的第一要素。“AI換臉術”的應用打破了社會大眾明確彼此身份的界限，既是對大眾肖像、身體、聲音及意識的剝離，也是對大眾社會身份的解構。“AI換臉術”的使用界限不明及泛娛樂化趨勢會導致越來越多的“非本體肖像”充斥在互聯網平臺，在媒介化程度不斷加深的當下，身份和肖像虛實難辨。一方面，會造成社會身份的混亂，打亂社會原有的社交秩序；另一方面，會引發大眾對自我身份認知的模糊性。

2.倫理道德邊界的沖擊。“AI換臉術”的出現是對媒介倫理和社會道德的一次沖擊。由于“AI換臉術”對人面部特征、表情、動作甚至面部光感的模仿越來越逼真，換臉之后的圖片和視頻足以達到以假亂真的境界，應用于影視短視頻及新聞傳播領域，致使虛假內容不斷攀升，“有圖有真相”的時代就此終結。例如，在美國競選期間，有人利用“AI換臉術”仿制奧巴馬演講視頻，制造的虛假政治新聞挑戰著媒介權威。此外，有網友借助“AI換臉術”將已故親人照片制作成視頻，并與其進行隔空的視頻對話，縱使技術“溫情”的一面得以被展示，但背后的倫理道德問題始終爭論不休。

3.侵權違法現象的加劇。“AI換臉術”作為智媒體時代的一項新技術，在為部分行業提供便利和新發展方向的同時，伴隨著法律問題和侵權糾紛。當前，由于“AI換臉術”的技術日益成熟，一鍵換臉的便捷性與對原肖像的極高還原度，使得只需擁有一張肖像照未經本人同意便可以隨意使用，許多明星被換臉至多種場合并廣泛傳播，引起大眾誤解，嚴重侵犯他人的肖像權和知識產權。甚至部分不法分子利用“AI換臉術”批量生產不雅照片及視頻，以此來吸引流量獲取收益，不僅侵犯他人的肖像權和名譽權，也對社會發展造成嚴重負面影響。此外，部分人利用“AI換臉術”偽造視頻進行盜刷和詐騙等違法活動，嚴重損害他人經濟利益。

4.相關軟件發展的混亂。曾經紅極一時的換臉APP“ZAO”通過“完全免費、不可撤銷、永久使用用戶肖像”等隱藏的不平等條例對用戶的肖像和權利進行過度索取和免責使用，被相關部門約談后幾乎在一夜之間就銷聲匿跡，因“螞蟻呀嘿”特效爆紅的換臉APP“Avatarify”在中國區上架一周就被下架。但是，除了“ZAO”“Avatarify”等知名換臉APP能夠被及時監控和發現之外，微信平臺和各大應用商店還有大量“AI換臉”小程序和APP，這類軟件很容易脫離監管范疇，且軟件內的很多功能和特效使用均需要收費。一方面，收費標準的合理性和規范性得不到保障；另一方面，無形中加大了用戶生物識別信息及隱私泄露的風險。

三、“AI換臉術”的發展方向

2020年全國信息安全標準化技術委員會等機構發布《人臉識別應用公眾調研報告》（以下簡稱《報告》），《報告》顯示超過90%的受訪人群接觸并使用人臉識別系統，60%的受訪人群對人臉識別類技術表示擔憂，30%受訪人群表示因人臉信息泄露自身權利遭到侵害。因此，只有引導大眾理性看待技術發展，將“AI換臉術”的應用控制在合理領域，才能夠持續正向地發揮“AI換臉術”的價值。

1.提升大眾技術素養。“AI換臉術”將大眾帶入一個“狂歡世界”，但對于部分人而言狂歡是以生物信息和隱私泄露為代價的，甚至還需要承擔侵害他人肖像權、名譽權的責任。智媒體時代，培養大眾媒介素養是根本，但提升大眾技術素養才是關鍵。一方面，大眾應當增強自身理解技術的能力，即主動了解“AI換臉術”的技術原理，正確認識“AI換臉術”的價值所在，實現從技術狂歡到技術理性的轉變。另一方面，大眾應當增強自身技術使用能力，尤其要在倫理道德范疇之內使用技術，從而有效降低有意或無意引發的侵權風險。

此外，當前以“AI換臉術”為支撐的各類APP和小程序，很容易便能獲取到用戶的個人信息，尤其是對于頻繁使用真人肖像進行換臉操作的用戶，這些軟件的留痕和追蹤能力較強，用戶綜合信息在軟件上的安全系數極低。因此，大眾技術素養的提升還需體現在對個人信息的保護方面，其一，大眾在進行“AI換臉”前應認真閱讀相關軟件設置的使用條例，在了解清楚使用規則后再使用。其二，針對不了解的“AI換臉術”軟件或是非正規渠道的“AI換臉”軟件，在不清楚是否存在安全隱患的情況下，大眾應當審慎處理，拒絕授權個人信息。其三，為了防止“AI換臉”軟件對個人隱私和生物信息的泄露和濫用，大眾需要有意識地留存使用痕跡，保留相關證據，以備舉報、維權等不時之需。

2.推動政策法律實施。鑒于一些“AI換臉術”的應用已嚴重影響社會秩序，部分甚至已觸碰法律紅線，若繼續放任“AI換臉術”肆意升級及與其相關產業的野蠻生長，必將導致風險日益增長，甚至走向無法預料和無法控制的境地。因此，推動相關政策和法律的實施是防止“AI換臉術”風險升級的有效方式，能夠打破一直以來的“技術中立”僵局，引導“AI換臉術”和與其相關軟件朝著更加高效、安全的方向發展。

其一，法律應明確與“AI換臉術”相關的人身權利，如隱私權、肖像權、知識產權及表演者權等，并完善侵權表現、維權途徑及懲戒措施，將“AI換臉術”引起的風險納入法律監管體系中。其二，相關部門應出臺相應政策，結合“AI算法”的安全評估制度，徹查“AI換臉術”軟件市場，及時處理和下架違反市場規則、技術規則及倫理道德的軟件，規范“AI換臉”軟件市場發展。其三，從技術本身著手，陳列出嚴禁“AI換臉術”涉足的領域和從事的活動，并要求通過“AI換臉術”制作的圖片和視頻中必須有“AI換臉”的痕跡，以加水印的方式來幫助大眾識別真偽。

3.創新多元化應用方向。“AI換臉術”在多個領域已顯現出技術優勢，但過分偏向于商業領域會導致“AI換臉術”只追求經濟效益而忽略社會效益，技術的逐利性過強也會無形之中引起技術無視倫理道德或是通過彌補技術漏洞來規避政策的現象。創新“AI換臉術”多元化應用方向，既能夠讓該技術在更多領域發揮價值，引導“AI換臉術”為社會服務，也能夠通過正規方式保障技術的經濟效益，反哺“AI換臉術”升級。

“AI換臉術”除了在影視、娛樂及廣告營銷等領域深入發展，還應當在社會公益領域不斷深耕，促進社會問題的有效解決。例如，“AI換臉術”可以借助面部識別和照片識別功能，修復老舊照片；通過還原文物資料和歷史人物，輔助歷史文化研究。再如，“AI換臉術”可以深入公安系統，幫助警務人員還原與案件相關的人員樣貌，尤其是針對幼年走失的兒童，“AI換臉術”可以結合走失兒童親屬的樣貌特征，結合“AI算法”測算出走失兒童不同年齡段的樣貌，提高公安尋人效率及準確率。

4.加強反偵察技術應用。面對“AI換臉術”濫用、監管幅度大及治理難度大等問題，單純依靠政策和法律手段進行人為干預的效果不甚理想，治理速度遠不及“AI換臉”違法圖片、視頻的生產速度。因此，需要借助技術力量來制衡技術發展，減少對“AI換臉術”的濫用。2023年1月10日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布的《互聯網信息服務深度合成管理規定》正式實施，其中有關“AI換臉術”顯著標識中規定“任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識”，這就需要進一步加強AI技術與區塊鏈技術的綜合應用，在技術層面為“AI換臉”作品標識“不可篡改”“不可偽造”加碼。

加強反偵察技術的應用還需要研發與“AI換臉術”相對的“反換臉”檢測技術，如美國英特爾公司在2022年11月推出一款名為“Fake Catcher（虛假捕獵者）”的軟件，主要用來檢測和處理“AI換臉”視頻，該軟件的精準率高達96%，有效遏制了“AI換臉術”的濫用。但是，“反換臉”檢測技術容易“一刀切”，對于部分正常需要“AI換臉術”支撐的內容顯失公平，還需要持續技術升級以開發分領域、分場景和分對象的個性化治理軟件，同時結合人工審查和申訴環節，保障“AI換臉術”在合理范圍內發展。

作者單位 韓國世宗大學

參考文獻

[1]楊叢遜.人工智能時代AI換臉技術對新聞領域的影響[J].傳播力研究，2020（01）.

[2]萬旭琪.AI換臉視頻中的身份解構、倫理爭議與法律風險探究——以“ZAO”App為例[J].東南傳播，2020（03）.

【編輯：朱垚穎】