ZAO火爆卻注定短命背后：換臉攻擊一直都存在？

許偉

8月30日晚，一款主打視頻換臉功能的、名為“ZAO”的App“點燃”社交網絡。經過一夜發酵，iOS商店內的App下載量迅速攀升至娛樂類第二位——ZAO服務器也因此數次崩潰。

不過，伴隨刷屏的，是業內外無數人士的質疑，甚至厭惡和反感——引起巨大爭議的用戶隱私保護條款背后，是我們的臉早就被濫用，甚至攻擊都一直存在。

ZAO或將步前輩短命后塵

其實，因攻陷用戶朋友圈及多個社交媒體平臺而一夜爆火的ZAO，并不是第一個搭載“換臉”技術的平臺。

早在今年5月，Snapchat就已經推出了一款“變性濾鏡”，這讓它一度爬升至總榜第三位。但隨著用戶新鮮感的喪失，現在Snapchat已跌至總榜1000名之外。

今年7月，俄羅斯的AI換臉產品FaceApp復制了Snapchat的崛起之路，不僅能將人臉進行轉化，還能在此基礎上實現男性變女性、哭臉變笑臉、老年變青年等更為復雜的操作。可惜的是，FaceApp的火熱并沒有因此得到延續，截至目前，FaceApp在App Store總榜排名已跌至600名開外。

就拿以上兩個案例來說，“AI換臉”技術雖然為平臺帶來了流量，但都好景不長。

目前來看，當紅的ZAO正在進行引流工作，那么它能不能將這流量轉換為實打實的長久用戶？

圍繞“AI換臉”技術，ZAO目前只有視頻換臉、視頻分享朋友圈及表情制作三大功能。很顯然，如Snapchat和FaceApp一樣，這些簡易功能通常難以讓用戶的熱情持續下去。

而根據其設置，用戶直接上傳照片就可以將平臺上多個知名影視劇片段中原來人物的臉替換成照片人物的臉，毫無疑問，對用戶來說極大地降低了使用門檻。但它對照片高清晰度的要求又帶來了新門檻：若是照片不符合平臺要求則不能進行“換臉”操作，這必然會讓用戶喪失一定的體驗感。

相較于內置功能是否能夠留住用戶的不確定性，ZAO帶來的風險是現在就能看到的。

首先，ZAO用戶協議中包含的多項條款都有著巨大的法律風險。而使用ZAO換臉功能后（必須同意用戶協議后才能使用），ZAO不光借此免費獲得了上傳資料中所包含肖像信息的使用權和轉授權，還將侵權的風險轉嫁給了用戶。

知名法律博主“法山叔”表示，ZAO涉嫌過度攫取用戶授權，讓用戶在無形中將自己的肖像權拱手讓人，“以后你的臉將完全有可能被別人隨意使用，變換”。

其次，ZAO上有大量國內外影視綜藝內容片段，還能支持用戶自主上傳素材，這些海量素材也帶來了版權隱患。

知名IT與知識產權律師趙占領分析認為，通過與權利人進行合作以獲得授權，有效解決了ZAO的商業模式的合規問題，但是畢竟獲取授權是有代價的，限制了平臺所獲取的素材的種類和數量。而若是由用戶上傳進而得到版權，則大大降低了平臺獲取內容的成本，豐富了平臺上的素材，有助于滿足更多用戶的需求。

總的來說，雖然目前ZAO是一個免費應用，但不論是從用戶體驗角度，還是出于使用風險考慮，ZAO都不會是用戶長久使用的必選項。

繞過人臉識別并不難？

值得關注的是，無論ZAO是否一款短命火爆產品，其背后卻是一個嚴重問題：我的臉還好嗎？

央行科技司司長李偉上個月就曾表示，“人臉是非常敏感的個人信息，一旦泄露會帶來非常大的影響。”

相較指紋等其他生物特征，人臉識別最大不同就在于，它能無需接觸，就遠距離發生作用——這意味著，相關機構和個人可能未經當事人同意，甚至完全不知情的情況下讀取并搜集其數據，進而非法使用。

2011年，谷歌母公司Alphabet董事長埃里克·施密特說，人臉識別“很可怕”，并承諾谷歌公司不會建立用戶照片的數據庫；去年7月，科技巨頭微軟總裁史密斯（ Brad Smith）發表官方博文，談到了人臉識別給社會帶來的復雜影響。

更擔心的是非法利用——這種擔心并非杞人憂天。實際上，利用Deepfake造假技術，艾瑪·沃森等一眾歐美女明星，此前就被“換臉”在了不可描述的小電影上，一時轟動全網。

ZAO也是如此。有用戶擔心，ZAO采集了用戶面部信息，同時也在注冊時獲得了自己的手機號，是否會有可能被不法分子用于支付寶、網上銀行等App的實名認證，從而危及自己的金融財產安全。

一位國有大行網絡金融部負責人表示，其團隊今年年初找權威機構做過人臉識別相關的檢測，活體檢測、視頻攻擊等方面存在一定風險，雖然后臺算法升級會使防控效果有一定提升，類似換臉的攻擊威脅還是會一直存在。

不過，上述人士也強調，人們也沒有必要太過擔憂，因為“目前在手機銀行應用人臉識別是作為輔助認證，要輔以短信等其他認證工具。小額支付領域風險較小，強調便捷，在有相關賠付保障情況下采取人臉識別問題應該也不大”。

據了解，“刷臉支付”采用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬件結合的方式進行檢測，來判斷采集到的人臉是不是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

“AI換臉”已形成黑色產業鏈

有網友表示，ZAO這次之所以引起如此大的關注，是因為以往的換臉視頻，對技術有著比較高的門檻要求，而ZAO一下子把門檻降到了最低，普通手機用戶都可以玩了。

其實，這背后還有一個難以否認的事實是——目前，“AI換臉”已經形成一個非法牟利的地下黑色產業鏈。

此前《新京報》就有報道稱，互聯網上大量出現通過“AI換臉”實現的由知名女藝人“主演”的不雅視頻，在百度貼吧、閑魚等主要網絡平臺均有出售。

而據“智東西”此前報道，目前AI換臉黑產已經形成了完整的產業鏈，從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售后服務。

根據鋅刻度記者最新了解的情況來看，這種情況并未得到好轉。比如，在瀏覽器搜索“換臉教程”，有多個教程詳述制作細節，足夠教會用戶如何使用“換臉”技術；在淘寶、閑魚等平臺搜索“換臉”，大部分商家顯示可售賣成品照片及提供定制服務，部分商家還售賣軟件和教程；至于在deepfake吧里，則可以找到明顯帶著暗示性字眼的資源帖。

這些不法商家之所以如此明目張膽，與早前監管的缺失不無關系。值得慶幸的是，相關監管部門已經注意到了“AI換臉”技術帶來的危害性。

今年4月，民法典人格權編草案和物權編草案的二審稿新增了這樣一條規定：任何組織或者個人，不得以利用信息技術手段偽造的方式侵害他人的肖像權。

國家網信辦會同有關部門在5月底發布的《數據安全管理辦法（征求意見稿）》中也提到，“網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息，應以明顯方式標明“合成”字樣；不得以謀取利益或損害他人利益為目的自動合成信息。”

但由于人工智能技術所具有的高度的不確定性、創新性和復雜性，面對千變萬化的應用場景，目前想要所有亂象得到根治也絕非易事。

畢竟技術本無罪，全看使用技術的人想拿它做什么。目前來看，更重要的是相關AI企業應該堅守自身底線。著名學者吳伯凡就認為，科技本身是不能向善的，應該是讓科技向善，人在使用技術的時候一定要有初心，讓科技向善。