深度偽造技術正在顛覆網(wǎng)絡空間的可信性

魏書音 劉玉琢

數(shù)據(jù)顯示，當前，我國網(wǎng)絡視頻用戶規(guī)模達 8.5 億，占到網(wǎng)民的 94.1%。網(wǎng)絡視頻應用在快速普及的過程中也帶火了“人工智能+人臉識別”類軟件，比如 ZAO、Deepfacelab 等。此類軟件所使用的深度偽造技術在帶來娛樂的同時，可能引發(fā)的安全風險也備受關注。如果通過深度偽造技術制作造假新聞和色情視頻等違法信息，必將造成“眼見不一定為實”的普遍不信任感，進而會對國家安全、政治安全和個人合法權益造成威脅。

深度偽造技術特征

深度偽造是一種基于人工智能的人體圖像合成技術。深度偽造技術的興起是人工智能發(fā)展到一定階段的產物，源于人工智能系統(tǒng)生成對抗網(wǎng)絡（GAN）的進步。GAN 由生成器和識別器兩個相互競爭的系統(tǒng)組成。建立 GAN 的第一步是識別所需的輸出，并為生成器創(chuàng)建一個培訓數(shù)據(jù)集。一旦生成器開始創(chuàng)建可接受的輸出內容，就可以將視頻剪輯提供給識別器進行鑒別;如果鑒別出視頻是假的，就會告訴生成器在創(chuàng)建下一個視頻時需要修正的地方。根據(jù)每次的“對抗”結果，生成器會調整其制作時使用到的參數(shù)，直到鑒別器無法辨別生成作品和真跡，以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上生成深度偽造視頻。

深度偽造視頻難以鑒別。目前，還沒有鑒別深度偽造視頻的商業(yè)工具。隨著生成器越來越擅長創(chuàng)建假視頻剪輯，鑒別器也越來越擅長識別它們。相反，隨著鑒別器在識別假視頻方面做得越來越好，生成器在創(chuàng)建假視頻方面也做得越來越好。理論上，只要給 GAN 當前掌握的所有鑒證技術，它就能通過學習進行自我進化，規(guī)避鑒證監(jiān)測。攻擊會被防御反擊，反過來又被更復雜的攻擊所抵消。鑒別技術只可能暫時領先，深度偽造視頻創(chuàng)造者很快就能趕上最新的檢測技術。未來，生成假視頻和檢測假視頻將持續(xù)進行“道高一尺、魔高一丈”的反復博弈。

深度偽造軟件價廉且易操作，廣受用戶歡迎。在深度偽造出現(xiàn)前，視頻換臉技術最早應用于電影領域，獲得的技術和資金成本較大。2017 年以來，該技術在“GitHub”的開源軟件涌現(xiàn)，開發(fā)技術很容易被獲取，能被不具備專業(yè)知識的普通人利用并輕易制作。制造視頻并不需要很高的技巧，機器學習算法與面部映射軟件相結合，偽造內容來劫持一個人的聲音、面孔和身體等身份信息變得廉價而容易，普通大眾一鍵便可制造想要的視頻。

深度偽造技術濫用帶來的

安全風險

威脅國家安全和政治安全。深度偽造技術被運用在政治領域，可成為損毀國家形象、挑撥內部矛盾的武器。一是通過偽造國家領導人的圖片、視頻，詆毀國家形象、制造內部矛盾。二是通過攔截篡改相關事件的新聞報道，傳播虛假信息，削弱對國家機構和官方新聞媒體的公信力，擾亂政治秩序。三是深度偽造技術已經(jīng)濫用于情報工作。美聯(lián)社報道稱，一名間諜使用 AI 生成的個人資料和圖片在全球著名的職場社交平臺 LinkedIn 上欺騙聯(lián)系人，包括政治專家和政府內部人士。此外，還可能影響選舉活動，比如在選舉前故意傳播虛假信息，誹謗選舉人，進而影響選舉的公正性。

侵犯個人肖像權、名譽權等合法權益。深度偽造技術最初被應用于色情行業(yè)。2017 年 12 月，一個名為“DeepFakes”的用戶在 Reddit 網(wǎng)站發(fā)布“假視頻”，將成人色情電影中演員的臉替換成了知名女演員的臉，畫面以假亂真。2019 年出現(xiàn)的一鍵生成裸照軟件 DeepNude，只要輸入一張完整的女性圖片就可自動生成相應的裸照。受害者通常沒有追索權，而且照片上傳之后很難刪除。這一技術會損害當事人聲譽，甚至毀掉其職業(yè)生涯。對此，美國弗吉尼亞州已將利用深度偽造、photoshop 或其他工具制作的虛假照片、視頻納入管理范疇。

帶來個人信息安全風險。深度偽造軟件收集的用戶照片，以及眨眼、搖頭等動態(tài)行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，后果不堪設想。同時，被用作生物識別身份的語音也非常容易被模仿者欺騙。2019 年 3 月，網(wǎng)絡犯罪分子利用一款基于 AI 的軟件模仿了一家德國母公司首席執(zhí)行官的聲音，欺騙該公司旗下一家英國能源公司的經(jīng)理向詐騙者控制的銀行賬戶轉款 24.3 萬美元。

幾點思考

開展深度偽造技術安全風險評估。美國高度重視深度偽造技術的應用問題，兩黨議員分別在眾、參兩院同時提出《2019 年深度偽造報告法案》（Deepfakes Report Act of 2019），要求評估深度偽造技術的安全風險。2019 年 6 月 13 日，美國眾議院情報委員會為此專門召開聽證會，公開討論深度偽造技術給國家、社會和個人帶來的風險及防范措施。我國也應將深度偽造技術納入新技術新應用的安全風險評估中，充分評估該技術目前的發(fā)展狀況、適用領域和范圍，未來發(fā)展方向和應用趨勢，以及對國家安全和政治安全的影響、對公民個人權益的損害等。

制定與深度偽造技術有關的規(guī)范標準。近年來，美國陸續(xù)出臺《2018 年惡意偽造禁令法案》和《深度偽造責任法案》，主張對深度偽造技術進行嚴格限制。建議我國相關部門盡快制修訂相關技術標準，明確深度偽造技術的適用范圍，涉及國家安全、公共利益和公民合法權益的，要對其適用性進行明確限制，尤其是對深度偽造視頻的傳播應嚴格限制，如傳播需用水印等進行標明。將偽造視頻納入違法和不良信息規(guī)制范圍，嚴禁違法有害信息的傳播;對深度偽造軟件收集使用信息的行為進行評估，加強對人臉等生物識別信息的保護;明確互聯(lián)網(wǎng)平臺和偽造視頻者的責任，督促互聯(lián)網(wǎng)平臺利用自身技術優(yōu)勢，加強對違規(guī)違法行為的管理。

強化對深度偽造鑒別技術的研發(fā)。美國國防高級研究計劃局（DARPA）設立“媒體鑒證”項目，開發(fā)能夠識別深度偽造視頻的工具。2019 年 9 月， Facebook 投入 1000 萬美元，與微軟、Partnership on AI 以及多所大學共同發(fā)起深度偽造檢測挑戰(zhàn)賽，激勵和促進檢測研究。我國相關部門在加強管理的同時，應大力促進第三方檢測機構開展深度偽造監(jiān)測鑒別業(yè)務，鼓勵企業(yè)加大對鑒別技術研發(fā)的投入;利用區(qū)塊鏈、電子認證簽名等技術，開發(fā)相關鑒別工具。