呂惠
2019年8月31日,橫空出世的換臉APP“ZAO”引人注目。ZAO使用AI技術,用戶只需要提交正面清晰照片,就可以將經典影視劇中的男女主角替換為自己的臉。因短時間內大量用戶涌入,31日當天該APP還顯示“服務器制作量過大,請稍候再試。”
但同時,這個APP及其用戶信息“綁架條款”引起了對信息安全的恐慌。特別是作為支付工具的人臉識別一旦被破解,用戶的金融信息安全堪憂。
對此支付寶也在知乎賬號中進行了回應。
時逢2019世界人工智能大會,在8月31日下午的“信息安全的AI時代”的圓桌討論中,來自監管和業界的人士對換臉APP乃至臉部識別應用的風險程度各抒己見。
中國信通院云計算與大數據研究所金融科技部副主任何陽表示:政府監管最離不開的是標準,標準其實是第一位的。產業可能在最開始發展可以有各種各樣的技術,當真正地要產業化實現應用的時候,標準是非常重要的。我自己去年也參加了央行專門面向人工智能的標準,當時選的一個領域,我現在看來覺得這個領域非常具有預見性———面向支付領域生物識別的標準。
這兩天大家可能都發現朋友圈最火的應用就是“換臉”,人臉是個非常重要的信息。現在很多的技術公司,尤其是人工智能公司采用各種各樣的技術采集人臉,把它用在各種場景中,金融更不必說,很多手機APP都是刷臉支付。
到底信息的采集用什么樣的方式,怎么樣保證合規,如何保證未來的應用不做壞人?或者用谷歌的要求來講“不作惡”。
在當前的市場環境下,需要有新的標準。雖然可能歐盟的《通用數據保護條例》(GDPR)的確給企業的運營造成一些麻煩,但是我想之所以采取這樣的一個動作,的確是到了必須先規范再發展的階段。在我們國內,現在人工智能的發展,特別是在人臉識別、人臉支付這方面,也已經到了必須要拿出相應的標準和規范來。如果沒有這樣的標準和規范出來,我們在享受人工智能帶來便利的同時,也會面臨著巨大的安全風險。
合合信息聯合創始人、啟信寶CEO陳青山表示:很多商務樓需要“刷臉辦門卡”,但不知道這些數據能否被好好地保留、不泄露,也不知道這些服務器的數據安全等級是否達到等保要求。我覺得現在人臉識別用得太廣泛了,它的確很便利,但是我擔心的是所有這些系統的安全性怎么樣?一旦這些數據被某些有心人或暗網人拿到,后果不堪設想,暗網的人可以在這里耐心地潛伏一年,甚至兩年、三年,把所有的數據收集到之后才把這個漏洞曝出來。
DataVisor維擇科技中國區總經理吳中表示:AI其實是一個工具,可以在好人手里、也可以在壞人手里。“黑產”很多技術手段不比你差,他有更多的動力去做這個事情。我聽到有一個技術可以通過爬你的朋友圈,找到你的照片,這個東西就可以完整地復現人臉的ID去完成人臉驗證。
從數據安全的角度來看,未來信息會更合規。以前會收集很多的數據,但是現在隨著《網絡安全法》、GDPR這些起來之后,我們會進入一個更合規的階段。