
就在一夜之間,一款名為ZAO的APP迅速躥紅。在這款APP中,用戶只要上傳頭像圖片,APP就能利用人工智能與機器視覺技術,把一些著名影視片段中演員的樣子替換成用戶的樣子。
這款APP也引發了一些憂慮:如此強大的“換臉術”會不會被濫用?比如,犯罪分子利用“換臉”技術在視頻里向家屬實施詐騙、敲詐;自己的臉被換到色情視頻的主角頭上……
ZAO的技術源于2017年reddit論壇內一個ID為Deepfake的用戶。當時,這個用戶在reddit論壇上傳了AI換臉視頻,把色情電影中女演員的臉換成了一些著名影星。在一片聲討聲后,reddit社區封禁了Deepfake,但Deepfake卻把源代碼開源了。這就意味著,稍有技術力量的人或公司,都能完成同樣的事。
所以,ZAO不是什么高科技,而是基于開源程序的“低科技”商業應用。更大的問題在于,這個肉眼難辨、足以亂真的換臉技術居然可能是唾手可得的,甚至可能輕意落到詐騙、色情產業的違法分子手里,這就不禁讓人倒吸一口冷氣。
人類幾十萬年來,一直把臉作為最重要的生物識別指標,通過“看臉”來區別你、我、他,然而這個最明確的邊界卻模糊了。法律有沒有做好準備?行政管理有沒有做好準備?人心有沒有做好準備?