刷臉的倫理與法律邊界在哪里？

吳雪

AI換臉軟件“ZAO”的走紅，打開了人臉數據應用的潘多拉魔盒。

在北京中關村的一家咖啡館里，劉嘉正在演示自己的創業項目。只見他上傳一張用戶照片，幾秒內就可自動生成一份長達12頁的“事業報告”，報告會對一個人的外形、性格、內在進行分析評價，診斷其職業和管理風格，多次試驗后，準確度驚人。

“這絕對不是AI算命。”劉嘉反復向記者強調產品是基于基因學、心理學、醫學等科學，并結合了AI和大數據等前沿技術。攀談中，記者猜測劉嘉的目標很可能是——只需一張照片，就能洞悉你的一切。

驚奇，伴隨著恐懼。劉嘉的項目只是人臉識別浪潮中的一朵小小浪花，但不得不承認一個事實，我們的人臉正在成為別人的一門生意。從17萬條數據在網絡商城公開售賣，到曇花一現的換臉游戲“ZAO”，再到刷臉時代的一路狂奔，人們在享受便捷紅利的同時，也面臨安全隱患和倫理道德的雙重拷問。

我們的人臉正在成為別人的一門生意。人們在享受便捷紅利的同時，也面臨安全隱患和倫理道德的雙重拷問。

“人家一掃你的臉就支付了，這不相當于一個行走的密碼嗎？”這位消費者“不敢刷臉”的擔憂，正在成為大眾拒絕刷臉的普遍理由，校園刷臉會否涉及學生隱私？小區監控的邊界在哪里？刷臉失誤帶來的成本誰來承擔？城市管理者怎樣將技術用對地方，而又不越界公民的隱私底線？假如我的臉被“賣”了，難道我要去換一張臉嗎？

這些問題，都值得探討，或者給出一個合理的答案。

便捷背后的“烏龍事件”

你是誰？每一天，人們都需要無數次回答這個問題，向各種人、機器亮明身份。路遇警察臨檢，出示身份;出入境，護照必須傍身掃描，即便是人盡皆知的馬化騰，如果手機設置了安全認證，每天一次次向手機證明“我就是我”，也是必要操作。

刷臉的出現，似乎解決了這一繁瑣程序。四年前，馬云在德國漢諾威參加通信和信息技術博覽會時，現場用刷臉支付在淘寶上購買了一枚1948年的漢諾威紀念郵票，正式將刷臉技術推至臺前，人們開始意識到，丟掉證件、手機、車票等身外物，憑著一張臉穿行世界，不再是天方夜譚。

位于松江大學城的上海對外經貿大學，一棟宿舍樓前，大三學生許娟正在進行刷臉開門，“我帶著眼鏡，也能識別得很清楚，不用進門前再翻包找一卡通了。”許娟說，從去年開始，學校率先采用了國際領先算法的“人臉識別”系統，在宿舍刷臉進出、在圖書館借閱圖書，靠一張臉就能在校園里暢行無阻。

“除了出入宿舍和圖書館的監控，還可以幫助宿管阿姨統計學生的回寢時間、晚歸次數等，提高了宿舍的安全性。”上海對外經貿大學信息中心副主任劉亮亮告訴《新民周刊》，刷臉系統的上線，確實提升了學校的管理效率，但也存在不足，比如學生的照片久遠、像素較低，會影響刷臉識別率，但總體來說是小概率事件。

相比之下，失誤率在城市管理中面臨的挑戰似乎更大。前不久，“豐巢快遞柜刷臉漏洞”的話題沖上了微博熱搜，浙江嘉興一所小學四名小學生，拿著一張打印的家長頭像，成功打開了小區門口的豐巢快遞柜，取走了原本不屬于他們的快遞。結果證實，豐巢采用的人臉識別是一張2D平面圖像，安全級別不夠，極易破解。

電子抓拍也難免“烏龍”。一位長年跑福建到汕頭線路的大貨司機稱，有一次，在家休假的他竟然收到了貨車在其他省份的違法記錄，事后雖證實是人臉識別的匹配有誤，但也給他帶來了不小的麻煩。“我不可能為了一二百元的罰款，再去交涉，太浪費時間，后來干脆就交了罰款。”

取件刷臉的潦草上線，大貨司機吃的“啞巴虧”，難免讓公眾對刷臉的安全系數持懷疑態度。可怕的是，類似棘手的烏龍事件是不分地域的。曾有機構使用亞馬遜公司的面部識別系統掃描了535名國會議員的面部照片，并與相關數據庫中的2.5萬張罪犯照片比對，結果28名議員被系統識別為罪犯。而“把普通人錯認為罪犯”的高失誤率，早在2017年的歐洲冠軍聯賽決賽上，就被媒體大肆報道過。

技術成熟度的質疑源于技術本身，社會倫理則需要其他學科知識來解決。當人臉作為認證信息對準鏡頭時，鏡頭不僅可能會“說謊”，還會帶上“有色眼鏡”，專業用語叫做算法歧視。多年以前，眼睛普遍比較小的美國亞裔們總是跑去消費者協會投訴，說自己根本沒閉眼，但尼康相機的“眨眼提醒”總是提示他們拍照時眨眼了。

《Nature》也有文章曾指出，計算機視覺算法對一張印度新娘的照片只會貼上“表演藝術”和“禮服”兩個標簽，而谷歌的面部識別技術也一度總把黑人朋友標記為“猩猩”;美國麻省理工學院“媒體實驗室”曾針對微軟、IBM和中國曠視科技3家公司進行過測試，結果顯示，在1270張圖片中判斷人物性別，對膚色較淺男性的判斷錯誤率低于1%，但對膚色較深女性的判斷錯誤率從21%到35%不等。

有學者指出，算法歧視主要是數據中地域多樣性的缺乏導致的，但不可否認，一旦人臉識別技術應用到司法、執法等關鍵領域，技術問題所帶來的影響絕不只是啼笑皆非的“烏龍事件”那么簡單。去年，支付寶推出刷臉支付產品“蜻蜓”，以“現金返還獎勵、安裝成本降低”作為誠意邀請，仍然遭遇中小商戶的搖頭拒絕，刷臉的推廣實際上并不順利。

“上帝視角”的邊界在哪

目前看來，失誤率帶來的尷尬，似乎不是技術運用者最擔心的問題。對于被監控者來說，在被錯誤判定為違法者或缺勤打卡人時，最多付出時間和金錢成本，而這些相較于刷臉工具的便捷性，大多數人的態度是可以容忍。

2017年9月26日，北京，考生經過人臉識別系統確認后進入考場。

因此，在人工智能不斷滲透人類生活的今天，人臉識別的邊界就顯得特別重要。“上帝視角還是凡人視角”的辯題，業界早已爭論多年。大門口考勤、醫務室治療、演唱會抓捕逃犯甚至科學家通過識別情緒傳感器作研究，好處自然不必說。但不止一所高校對于人臉識別進課堂有所保留，也是事實。

“只要你進教室那一刻起，系統每隔30秒會對你全程進行掃描。你低頭多長時間，玩手機幾次，發呆幾次，閱讀幾次，趴桌子幾次，全都能感知到，若不專注行為達到一定分值，系統就會向顯示屏推送提醒。”關于多家高校啟動的學情分析課堂，中國農業大學本科生院綜合處處長韋笑表達了自己的顧慮，他認為，學生的抬頭率并不能精準判斷學生的能力和效率，而且教室作為特殊的公共場所，監控下的教師和學生的行為，很可能都不是真實狀態。

習慣在課堂上走神的大三學生聰聰說，這種強迫式的“盯梢”，并不能幫自己自律，反而會有些逆反情緒。“我一般夜晚學習效率高，但從數據判定看我就是不努力學習的那個人，會不會太偏見了。”一所公立師范學校的申姓老師也表示，通過監控，老師確實更了解學生，工作效率也提高了，但教師的行為暴露在天眼之下，導致一些課件偽裝、業績作假的行為出現，同樣會阻礙真實教學的發生。

在人臉識別的圈子，邊界至今仍是一個探不到底的“規則黑洞”。隨著手機解鎖的普遍應用，人臉識別終將面臨被泄露和被濫用的風險。

而一些校園啟動的“智慧德育”系統，更易引發倫理爭議。設想一個場景，以往老師看到做好事或調皮搗蛋的孩子，如果不是本班學生，根本不知道是誰。現在好了，只要掏出手機，對準學生一咔嚓，屏幕立即跳出他的信息，父母職位、孩子年齡、家庭情況摸得門清兒，結合不同學生家庭信息，老師是否會使用不同處理方式，不好說，但可以肯定，傳統的有教無類，學生平等，在類似情形下被“刷臉神器”撬動了。

中國教育科學研究院研究員儲朝暉認為，在人工智能的包辦下，教育鏈條或只剩下智能，“人工”慢慢在減少，但技術對于教學只能是錦上添花，并不能替代教與學的位置。“水至清則無魚，這個簡單的道理誰都懂，如果人臉識別沒用對地方，很可能得到一個‘留得住學生的人，留不住學生的心的結果。”

什么時候該刷臉，刷臉的倫理界限在哪里，關于邊界的社會矛盾對沖也越發凸顯。一位刷臉系統代理商劉闖告訴記者，曾經有一家健身房找上他們，說為了防止實體鑰匙丟失，希望在更衣室儲物柜上加入“刷臉”系統，他的第一反應是“拒絕”。“你在更衣室的柜子上使用攝像頭，本身就是一個非常大的錯誤，這種涉及公眾隱私的場所，應該堅決不允許人臉識別。”

那么，換言之，在公共場所使用人臉識別就變得合理正當了嗎？未必。法國巴黎的一家書店，通過分析監控視頻，仔細觀察購物者的動作，店員會上前做出“心領神會”的服務，但在機器面前，每一個強忍住的哈欠，每一絲惱怒的表情都會被察覺，人際關系可能變得更加理性，也似乎會更加機械而冷漠，試問，這樣的上帝視角真的好嗎？

此前，公眾就對谷歌曾研發的一款裝在智能手機上的街景軟件，表達過強烈不滿，原因是當這個軟件掃描街景時，也會對路過的行人進行面部信息采集，最終谷歌妥協并對人臉信息打馬賽克。只不過“上帝視角”的按鈕一旦觸發，誰又會保證不會有“第二個谷歌”出現，偷偷在你走路時，坐在地鐵時，不知不覺將你的人臉信息搜集走，而你卻毫無察覺。

在人臉識別的圈子，邊界至今仍是一個探不到底的“規則黑洞”。

人臉被賣的風險 很可怕

那么，問題來了，是不是本人只要不做違法違規的壞事，信息被采集也無所謂。正如蘋果公司CEO庫克曾說過的話，“技術本身沒有好與壞，一切由我們人來決定”。

在人臉識別快速發展的四年，安全隱患與倫理后果，并不是危言聳聽。今年9月，有媒體報道，網上有商家公開兜售17萬條“人臉數據”，涵蓋2000人的肖像，每個人約有50到100張照片，而被兜售者并不知情。

據兜售的商家稱，自己平時從事人工智能相關工作，收集人臉數據發售，不過就是“掙個飯錢”而已，在其售賣的人臉樣本中，一部分是從搜索引擎上抓取的，另一部分來自境外一家軟件公司的數據庫等。早在2017年，前美國中央情報局技術分析員斯諾登就曾預言，隨著手機解鎖的普遍應用，人臉識別終將面臨被泄露和被濫用的風險。

以曇花一現的換臉游戲“ZAO”為例，披著“隱形條款”公然搜集用戶人臉信息，它降低了AI換臉的使用門檻，但同樣可能被愛炫富的微商們用于“和明星總統握手”的虛假宣傳，如果馬云“親自代言”的視頻很奏效，“馬云語錄”的雞血開場白取代也是分分鐘的事。

早在2017年底，國外一位ID為“deepfakes”的網友，就利用換臉技術將色情作品中的主角換成明星臉，并上傳到著名的色情影片分享網站Pornhub上，試想一下，如果有人把我們換臉成犯罪事件主角、被綁架的人質……或者偽裝成我們進行視頻通話，對親友進行詐騙，后果不堪設想。

2017年9月4日，沈陽，行人闖紅燈人臉識別系統顯示信息大屏亮相十字路口。

當然，更可怕的是“有人偽裝你的臉”，福布斯記者Thomas Brewster曾用合成的一張3D頭像，打印出一個3D頭型，并成功解鎖了4款手機，人臉識別被成功騙過，足以證明偽裝門檻到底有多低。記者用淘寶搜索“假臉面皮”，發現以二三十塊的極低價格，即可輕松買到周潤發、劉德華、周星馳等明星的乳膠面具，有商家也可接受定制。

“ZAO”下架后的第一時間，支付寶曾站出來回應，“不管換臉軟件多逼真，都無法突破刷臉支付。”但在大批用戶已開通“刷臉支付”的當下，人們難免戰戰兢兢。中國圖像圖形學學會可視化與可視分析專委會秘書長、天津大學軟件工程專業教授張加萬表示，人臉識別技術并沒有人們想象的那么安全，即使人臉識別中的活體檢測技術，也并非銅墻鐵壁般牢靠，“如果人臉數據和個人信息打通，將徹底迎來透明時代，整個面部識別也就形同虛設了”。

隨著低成本、快速、大量地記錄，存儲和分析人臉圖像的能力終有一天會使隱私、公平和信任等發生根本性的改變。今年5月，巧達科技就利用大量代理IP地址、偽造設備標識等技術手段“打通”數據，非法竊取用戶信息，36名嫌疑人連續兩年獲利5.3億元。辦案民警介紹，爬蟲工程師將搜集來的2.2億份簡歷、10億份通訊錄，重新合并、排列，結合社會、組織、家庭關系，“再比對”后形成完整的簡歷和用戶畫像。

張加萬表示，由于面部信息是具有唯一性特征的生物信息，銀行卡信息泄露還可以更換銀行卡，人臉信息泄露后將是終身泄露。未來，非常可能出現的場景是：當我們走進一家商店，店員立刻就能知曉關于我們的一切：身份、職業、收入、偏好、性格……而當這一天來臨時，每個人都將處于“裸奔”狀態，甚至戴上面具也無濟于事，因為攝像頭還能識別你的體型甚至步態。

技術跑在了監管前面

坦白講，我們除非與世隔絕，否則無法完全拒絕人臉識別。

以換臉游戲“ZAO”為例，技術是成熟的，之所以不能被推廣，就是因為還有很多法律、倫理問題沒有討論清楚。美國學術界、政府機構和初創企業試圖從技術上設置“安全壁壘”，比如推出自己的圖像、視頻驗證、標記技術，期望通過在你拍攝照片或視頻的時候自動添加時間、位置信息等方式，對抗AI換臉視頻、圖片帶來的威脅，但顯然無法解決根本矛盾。

上海申蘊律師事務所陸斌律師向《新民周刊》表示，目前國家還沒有一部針對“人臉識別”“刷臉”問題的專門法律，對于網絡運營商采集的公民“人臉識別”，只能援引《民法總則》《侵權責任法》《網絡安全法》等法律來進行保障。關于個人敏感信息、生物信息等還沒有明確的法律界定，建議盡快通過立法予以明確。

對于個人而言，需要在便利性和個人信息保護上權衡和取舍，對于珍視個人信息勝于便利的人，最好完全不使用任何要求進行人臉識別的 App，通過市場機制倒逼企業做好隱私保護。

當技術跑在了監管前面，刷臉就該被禁用嗎？在陸斌看來，如果法律跟不上就限制科技發展，是“因噎廢食”的做法，不明智也不可取，總體來說，“刷臉”“二維碼”“指紋識別”等新技術的發展帶給社會的便利顯然是利大于弊的。綜合目前世界多國的做法，立法強化對人臉信息搜集的應用場景約束已經開始。今年7月，馬薩諸塞州的薩默維爾市成為美國第二個禁止人臉識別的城市，但只是禁止了公共場所的使用權，并未涉及商業范疇。

2019年4月6日，北京奧林匹克公園中心區，公廁內的人臉識別廁紙機

“人臉識別技術在商業上的使用無法一刀切禁止”，對外經貿大學數字經濟與法律創新研究中心執行主任許可認為，從理論上講，所有的數據都有泄露的可能。對于個人而言，需要在便利性和個人信息保護上權衡和取舍，對于珍視個人信息勝于便利的人，最好完全不使用任何要求進行人臉識別的App，通過市場機制倒逼企業做好隱私保護。

至于人們擔心的金融支付安全，央行科技司司長李偉在9月20日的金融網絡安全論壇上建議，一方面，不要簡單地將人臉特征作為唯一的交易驗證因素，須根據風險等級結合用戶口令等其他因素進行多因素認證;另一方面，金融機構在相關交易時，人臉數據采集應提前告知用戶信息使用的方式，明確獲得客戶授權。

不過有專家也提醒，現在對于人臉數據的科普還遠遠不能讓人們充分意識到其隱藏的風險，“很多客戶根本看不懂那些授權文件里的內容代表哪些具體內涵，但為了使用那些服務，還是同意了授權。”因此，在技術仍存在風險的時候，廣泛應用于各種商業領域，應當慎重。

中國人民大學法學院教授劉俊海表示：“針對刷臉支付，監管者應當與時俱進，盡快出臺相應的法律法規，自覺消除監管的漏洞，用技術來強化監管。監管者也應當盡快出臺相關的生物特征有關的信息采集的法律規則和技術標準。關于（消費者）所處的位置、活動軌跡、瀏覽的習慣等等，都應當納入法制的監管軌道上來。”

除此之外，劉俊海認為：企業也應當自律，推廣刷臉技術時換位思考，解決痛點，能夠證明自己采集的消費者的生物信息等敏感信息，是合法、透明、安全的。今年5月，我們關于數據的立法出臺，明確規定網絡運營方在收集個人信息時，必須明確經過用戶同意，禁止以默認授權、功能捆綁等形式強迫、誤導。歐洲監管機構在2018年5月生效的《通用數據保護條例》，也規定將包括“臉紋”在內的生物信息屬于其所有者，使用這些信息需要征得本人同意，值得借鑒。

教育部科學技術司司長雷朝滋接受媒體采訪時也曾發出提醒，建議學校慎重使用這些技術軟件，關于學生的個人信息，能不采集就不采集，能少采集就少采集。這些警告同樣適用于城市管理、商業運作甚至個人生活，關鍵在于，雷朝滋的提醒是否能夠引起人們的足夠重視？“刷臉”時代里，公眾能否對自己的安全負責？

有一句話說科技是為懶人而生，越懶越方便越好。據一位智慧社區項目代理商回憶，他們在做智慧社區項目時，有些小區用戶希望使用人臉識別系統的同時，保留原來的磁扣門禁等方式，他們照做了，“但體驗過刷臉的人基本都把磁扣方式忘掉了，因為他嘗到了便捷的甜頭”。