為什么“ZAO”對(duì)社會(huì)是危險(xiǎn)的

王振乾

“ZAO-逢臉造戲”APP可謂一夜爆紅。利用這款軟件，只要將自己的照片上傳，就能用自己的臉替換各類熱門視頻中的主角。一些人大呼過癮，享受“功成名就”的快感，也有一些人敏銳地發(fā)現(xiàn)了個(gè)人信息泄露的巨大風(fēng)險(xiǎn)。

其實(shí)，換臉APP“ZAO”利用的并不是新技術(shù)，只是將近年來(lái)在人工智能、面部識(shí)別領(lǐng)域取得的技術(shù)進(jìn)步應(yīng)用到了日常生活中，國(guó)外也有DeepFakes 和DeepNude，但是因?yàn)榇嬖诰薮箫L(fēng)險(xiǎn)，一經(jīng)產(chǎn)生，即被迅速封殺。

被廣泛質(zhì)疑之后，“ZAO”迅速修改了用戶協(xié)議，刪除了限制用戶權(quán)利、強(qiáng)制用戶無(wú)限授權(quán)的內(nèi)容。但是，即使“ZAO”在修改協(xié)議以后，還涉嫌侵犯原作品的修改權(quán)、保護(hù)作品完整權(quán)，以及使用人的隱私權(quán)等民事權(quán)利，此外，還有兩個(gè)更為關(guān)鍵的問題：

一是數(shù)據(jù)安全問題。該APP宣傳的是“逢臉作戲”，普通人“僅僅一張照片，出演天下好戲”。 “ZAO”運(yùn)營(yíng)團(tuán)隊(duì)聲明稱不會(huì)儲(chǔ)存?zhèn)€人面部生物識(shí)別信息，但是肖像本身就屬于個(gè)人生物識(shí)別信息，一旦泄露或者濫用可能危及人身和財(cái)產(chǎn)安全，即使是后期技術(shù)疊加所實(shí)現(xiàn)的虛構(gòu)圖像，仍然達(dá)到肉眼近似的效果。如果被非法利用，極易導(dǎo)致個(gè)人名譽(yù)受損、身心健康受到?jīng)_擊。《網(wǎng)絡(luò)安全法》規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)采取技術(shù)措施和其他必要措施，確保其收集的個(gè)人信息安全，防止信息泄露、毀損、丟失，《個(gè)人信息安全規(guī)范》（GB/T35273-2017）進(jìn)一步規(guī)定了個(gè)人信息安全的基本原則，比如目的明確、最少夠用、確保安全等，還規(guī)定了個(gè)人信息控制者的管理和培訓(xùn)。

雖然“ZAO”運(yùn)營(yíng)團(tuán)隊(duì)稱采取了加密措施，遵守法律并保護(hù)個(gè)人信息和數(shù)據(jù)安全，但是其并沒有按照《個(gè)人信息安全規(guī)范》要求，明確責(zé)任部門與人員、開展個(gè)人信息安全影響評(píng)估、進(jìn)行安全審計(jì)。數(shù)據(jù)是信息時(shí)代的石油，誰(shuí)掌控了數(shù)據(jù)，誰(shuí)就控制了命脈，對(duì)數(shù)據(jù)安全的漠視其實(shí)就是系統(tǒng)性風(fēng)險(xiǎn)的前兆。所以，如果沒有按照法律、法規(guī)以及行業(yè)標(biāo)準(zhǔn)要求做好數(shù)據(jù)安全工作，這款軟件很難真正獲得市場(chǎng)好評(píng)。因此，雖然“ZAO”修改了用戶協(xié)議并發(fā)布了致歉聲明，但其用戶評(píng)分仍然直線下滑。

二是犯罪風(fēng)險(xiǎn)問題。“ZAO”的技術(shù)雖然無(wú)法突破現(xiàn)有的3D面部識(shí)別技術(shù)，也無(wú)法解鎖支付軟件，但在信息社會(huì)，一條假信息傳播速度極快，造成的后果甚至無(wú)法彌補(bǔ)。這款軟件合成的視頻在日常生活中完全可以以假亂真，制作各種聳人聽聞的視頻、虛假消息、色情視頻，打破“眼見為實(shí)”的常態(tài)輿論環(huán)境，不僅會(huì)擾亂公眾正常認(rèn)知，還對(duì)現(xiàn)有社會(huì)秩序形成沖擊。其實(shí)，這款軟件“逢臉作戲”的預(yù)設(shè)就意味著為犯罪行為提供了更為豐富的手段和工具。

一直以來(lái)，技術(shù)都是一把雙刃劍，它可以改變生活，也可以毀掉生活。比如，依靠網(wǎng)絡(luò)技術(shù)發(fā)展起來(lái)的P2P，一方面給生活帶來(lái)巨大便利，另一方面P2P暴雷潮洶涌而來(lái)，產(chǎn)生了“金融難民”，甚至在一些地方引發(fā)“擠兌潮”。現(xiàn)在來(lái)看，法律法規(guī)不夠健全，金融機(jī)構(gòu)的監(jiān)管不夠有力，以及司法的滯后性，都導(dǎo)致了P2P的野蠻生長(zhǎng)。而且，普通百姓對(duì)新生事物的了解不夠，風(fēng)險(xiǎn)意識(shí)差，尤其是一些上了年紀(jì)的人，思維還停留在計(jì)劃經(jīng)濟(jì)時(shí)代。比如，有的人會(huì)認(rèn)為既然能在電視臺(tái)播廣告，能舉行大型新聞發(fā)布會(huì)，那這個(gè)公司的信譽(yù)就一定有保證。

技術(shù)的應(yīng)用需要一個(gè)過程，應(yīng)當(dāng)根據(jù)社會(huì)發(fā)展階段、結(jié)合民眾的接受程度，逐步推進(jìn)。如果貿(mào)然鋪開，怕是打開了潘多拉的盒子。在采用新技術(shù)之前，一定要提前考慮新技術(shù)帶來(lái)的風(fēng)險(xiǎn)，才能防患未然。

其實(shí)，近年來(lái)我國(guó)高度重視個(gè)人數(shù)據(jù)保護(hù)。2017年6月1日，《網(wǎng)絡(luò)安全法》開始實(shí)施，已經(jīng)運(yùn)行了兩年多。該法規(guī)定，主管部門對(duì)網(wǎng)絡(luò)運(yùn)營(yíng)者、網(wǎng)絡(luò)產(chǎn)品或者服務(wù)的提供者侵害個(gè)人依法得到權(quán)利保護(hù)的信息，可以根據(jù)情節(jié)責(zé)令改正、警告、沒收違法所得、處違法所得1倍以上10倍以下罰款，沒有違法所得的，處100萬(wàn)元以下罰款，對(duì)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處1萬(wàn)元以上10萬(wàn)元以下罰款。如果情節(jié)嚴(yán)重的，還可以責(zé)令暫停相關(guān)業(yè)務(wù)、停業(yè)整頓、關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營(yíng)業(yè)執(zhí)照。我國(guó)國(guó)家標(biāo)準(zhǔn)化委員會(huì)也制定了《個(gè)人信息安全規(guī)范》（GB/T 35273-2017），已經(jīng)在2018年5月1日實(shí)施，專門規(guī)定了信息使用的原則，個(gè)人信息的共享、轉(zhuǎn)讓、公開披露等內(nèi)容，要求開展個(gè)人信息安全影響評(píng)估。

但是，對(duì)比一下歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）可以發(fā)現(xiàn)，我們還有更長(zhǎng)的路要走。該條例要求設(shè)立數(shù)據(jù)保護(hù)官，違反該條例可以被處以高達(dá)全球收入的4%或者2000萬(wàn)歐元罰款，并且以較高者為準(zhǔn)，而且內(nèi)容更為詳細(xì)，標(biāo)準(zhǔn)更為嚴(yán)格，管理范圍更加廣泛，是一劑保護(hù)用戶數(shù)據(jù)安全的猛藥。比如英國(guó)航空公司因?yàn)樾孤队脩魯?shù)據(jù)被罰1.8339億英鎊。可以看出，我國(guó)對(duì)個(gè)人信息數(shù)據(jù)的保護(hù)力度還不夠強(qiáng)，現(xiàn)有法律法規(guī)以及標(biāo)準(zhǔn)的確立的管理手段可以繼續(xù)豐富，處罰數(shù)額可以更大，相關(guān)主管部門可以繼續(xù)細(xì)化個(gè)人信息規(guī)范并推動(dòng)出臺(tái)《網(wǎng)絡(luò)安全法》實(shí)施細(xì)則，司法機(jī)構(gòu)可以適時(shí)公布一批指導(dǎo)案例。

“ZAO-逢臉造戲”APP告訴我們，眼見不一定為實(shí)，要有獨(dú)立判斷，更要有個(gè)人信息保護(hù)意識(shí)。只有符合法律法規(guī)，切實(shí)執(zhí)行行業(yè)標(biāo)準(zhǔn)，充分評(píng)估風(fēng)險(xiǎn)并制定相應(yīng)預(yù)案的產(chǎn)品才能真正贏得市場(chǎng)。