兩條路徑：歐美的規制實踐

辛嘉

“臉書”發起“深度偽造檢測挑戰賽”

歐盟和美國對于利用“深度偽造”實施的犯罪行為，有著相近的定義，即偽造不實信息，并試圖操縱這種信息以獲得經濟、政治利益或造成損害。在規制方面，歐美都將“深度偽造”視同于不實信息，并擬定相應的法律政策。

歐盟的規制實踐

在歐盟的規制實踐中，尚未出臺專門針對“深度偽造”的立法及其他規制標準。通過梳理歐盟的規制實踐可以發現，其主要是從兩個方面將“深度偽造”納入規制框架。一是納入已有的有關不實信息的規制框架;二是納入有關AI的規制框架。這意味著與不實信息和AI相關的規制標準、規制措施都適用于“深度偽造”。

2018年6月，歐盟理事會通過了《歐盟不實信息實踐準則》，該準則的附件列出了應對不實信息的最佳做法。

一是積極推動行業自我規制。歐盟委員會要求網絡平臺或社交媒體必須依照《歐盟不實信息實踐準則》兌現相關承諾，除了要求“臉書”等網絡科技公司必須到歐洲議會接受聽證外，歐盟執行委員會與歐洲議會還明確表示，如果自我規制效果不佳，將會考慮立法介入。

二是要求不同利害關系人進行合作，并建立評估審核機制。《歐盟不實信息實踐準則》遵循“多方利害關系人程序”，原因在于不實信息的傳播有多種因素，且受到信息生態系統中廣泛參與者的促進和影響，因此所有利害關系人都可以在消除不實信息傳播方面發揮作用。

三是賦權消費者，提升公民的媒體識讀素養。歐盟認為，讓民眾了解媒體和信息，進而判定及運用信息，是防范不實信息的根本之道。因此，《歐盟不實信息實踐準則》要求網絡巨頭公司為用戶提供工具，幫助用戶發現不同的新聞來源和不同的觀點，同時辨別不實信息，以提升社會公眾的媒體識讀能力，讓其可以主動選擇內容及參與制作。

2019年4月，歐盟執行委員會AI高級專家工作組（High-Level Expert Group on AI）提出了《可信賴AI倫理指引》，設立AI規制框架，以使AI具備可信賴性。該指引指出，“可信賴性AI”應當具備三個關鍵特征：一是合法性，應當遵循所有適用于AI的法規;二是倫理性，確保符合倫理原則與價值;三是“魯棒性”（robust），從技術與社會層面避免AI于無意間造成傷害。

《可信賴AI倫理指引》對于“深度偽造”也適用。該倫理指引涵蓋了AI的全生命周期，包括“數據管理”“算法開發”以及“商業運用”。

例如，《可信賴AI倫理指引》對“隱私和數據管理”提出的要求是：必須尊重隱私并遵循適當的數據管理機制，大眾應可完全控制自己的個人數據，且相關應用不會對大眾造成傷害或歧視;另外，在管理上必須預防他人對數據的盜取。

在檢視“深度偽造”的合法性時，必須提出下列問題：一是所取得的臉部影像以及所建立的影像數據庫是否經過當事人的同意;二是是否建立適當的個人數據控制機制;三是在臉部數據的利用上是否符合個人數據保護規范之要求;四是是否落實數據保護措施。

美國的規制實踐

與歐盟相比，美國對“深度偽造”技術的約束，態度更為積極、明確，在應對措施上也更為細致，不僅在聯邦層面有專門立法的趨勢，而且一些州已經走在了前面，通過法律對“深度偽造”予以規制。此外，美國一些網絡巨頭公司也通過自我規制積極應對“深度偽造”。

自2018年以來，“深度偽造”技術引起美國國會兩黨議員的高度關注，他們先后提交了各有側重的法案，包括《惡意深度偽造禁止法案》《深度偽造問責法案》和《2019年深度偽造報告法案》。從這些法案的內容可以管窺美國聯邦層面對“深度偽造”的規制方向。

以《深度偽造問責法案》為例，可以對美國聯邦層面的規制實踐進行概述。2019年6月12日，美國民主黨與共和黨共同向國會提交《深度偽造問責法案》，提出“先進技術虛假個人記錄”的定義，對不同類型的虛假記錄提出了法律要求，主要包括以下內容：

一是標識“數字水印”。任何含有移動視覺元素的虛假個人記錄，都應當嵌入“數字水印”，明確標識該記錄含有虛擬的視聽元素;二是視聽信息披露。任何包含音頻和視覺元素的虛假個人記錄，都應當包括以下內容：①不少于1條表達清晰的口頭陳述，明確該記錄的影像及聲音經過修改，并簡要描述修改程度。②在視頻播放過程中，必須在底部標識清晰可見的文字陳述，表明影像及聲音經過修改，并簡要描述修改程度;三是視覺信息披露。任何僅包含視覺元素的虛假個人記錄，都應當在視覺元素的整個持續時間內，在影像底部以清晰易讀的文字表明該影像經過修改，并簡要描述修改程度;四是音頻信息披露。任何僅包含音頻元素的虛假個人記錄，都應當在開端以口頭表述的方式明確表明包含經過修改的音頻元素，并簡要描述修改程度。如果該記錄的時長超過兩分鐘，則每間隔兩分鐘需要以口頭陳述的方式明確表明該記錄經過修改，并簡要描述修改程度。

根據《深度偽造問責法案》，違反規定須承擔刑事責任或行政責任。

與聯邦層面相比，美國的很多州對于“深度偽造”的規制明顯走在前面。目前已經有一些州通過了正式法律，對“深度偽造”進行規制，比較有代表性的州包括加利福尼亞、弗吉尼亞和得克薩斯。

以加利福尼亞州為例，該州的《選舉中欺騙性音頻或視覺媒體法案》規定，禁止任何個人、委員會或其他組織在選舉前60日內，故意創建或散布任何意圖損害候選人聲譽或誤導選民的、實質上具有欺騙性的音頻或視頻。為了避免對公民的表達自由造成限制，該法案規定了例外情形：①廣播電臺或電視臺、有線電視或衛星電視運營商、節目程序員或制片人，可播放實質上具有欺騙性的音頻或視頻;②可播放諷刺或戲仿的實質上具有欺騙性的音頻或視頻;等等。

面對立法者的積極作為，美國社會各界給予的回應卻并不一致。一些理論界的學者認為，當立法者在考慮是否需要從刑事、民事及行政角度給“深度偽造”的受害者提供法律救濟時，也應當思考“深度偽造”的實施者以及“深度偽造”物是否應受言論自由的保護。

產業界的部分人認為，現有的立法在不同程度上加重了網絡服務提供商的法律責任，如要求網絡平臺對深度偽造視頻進行事實審核或事后刪除，這已經明顯違反了《通信規范法》第230節賦予網絡平臺的“豁免權”。而且現有法案還存在諸多有待厘清的難題，如“深度偽造”與模仿、娛樂之間如何區分。

為了避免政府過多介入，美國一些網絡科技公司進行自我規制，探索解決“深度偽造”問題的辦法。

2019年9月，“臉書”投入1000萬美元，與康奈爾大學技術學院、麻省理工學院、英國牛津大學等高校共同發起“深度偽造檢測挑戰賽”。“臉書”委托研究人員開發具備高度真實性的“深度偽造”視頻，作為測試檢測工具的數據集。“臉書”希望通過該項目，一方面可以征集識別“深度偽造”的最佳檢測工具，另一方面也希望引起社會公眾對“深度偽造”問題的關注。該項目獲得了學術界的廣泛支持。

借鑒意義

有的國家和地區專門針對“深度偽造”立法予以規制，有的則將其涵蓋在不實信息或虛假新聞的規制空間內。不管是采取哪種模式，其目的都是為了最大限度地降低“深度偽造”技術對個人、社會及國家帶來的危害。

各國（地區）因應“深度偽造”的策略雖有不同，但也存在一些共性，這些經驗值得關注。一是通過立法對“深度偽造”進行規制，明確相關的權利義務及法律責任。二是賦予個人尋求法律救濟的權利，允許個人在遭受損害后向法院提起訴訟。三是加強網絡平臺的“看門人”責任，強化行業自我規制，要求網絡平臺積極履行監管義務。四是鼓勵公私合作，加強技術研發，利用技術“規制”技術。

編輯：姚志剛 winter-yao@163.com