AI時代，你被監控了嗎

田地

2019年9月，開學第一周，位于江蘇南京的中國藥科大學，在部分教室“試水”安裝了人臉識別系統，“監控學生”一時間成為爆炸性新聞。這種人臉識別監控可在學生進入教室后自動識別個人信息，對簽到簽退、學生上課聽課情況（是否認真聽講，課堂上是否抬頭低頭、抬頭低頭了幾次和多長時間，是否在玩手機，是否閉眼打瞌睡，是否發呆）進行監控。

AI適用范圍和倫理爭議

今天，人工智能（AI）的強勢發展讓人臉識別技術逐步滲透進人們的生活、工作和學習中。學生上課被人臉識別監控并非新鮮事，很多學校都在“試水”。這勢必引起雙方的博弈：學生認為，這是在侵犯自己的隱私；但校方認為，此舉意在減少學生逃課、早退、花錢找人代課以及上課不認真聽講等行為，提高學生到課率，嚴肅課堂紀律。校方早已向公安部門和法務部門咨詢，教室屬于公開場所，不存在“侵犯隱私”的說法。

人臉識別技術發展過程中遇到的第一個重要問題便是適用范圍及隨之產生的倫理問題。如果人臉識別只是用于刑事鑒識，似乎并無問題，而且中國早已經發展出了完備的天眼系統，這套系統通過應用人工智能、視頻圖像處理等多種專業技術，能在第一時間對人臉信息進行捕捉和匹配，識別速度快且準確度高。目前，已經有20多個省市的警務系統和這套天眼系統實現了對接，系統能夠通過布控在城市公共場所的攝像頭對人臉進行實時、精準且快速的甄別；同時，該系統會將抓拍到的人臉照片和公安局逃犯數據庫內的幾十萬個數據進行對比，在三秒內即可完成身份確認和準確定位，讓犯罪分子無處可逃。

但是，如果把人臉識別用于學校或單位監控學生和員工，勢必產生倫理爭議，因為學生和員工不是嫌疑犯。只要是在紀律所允許的范圍，便不能剝奪他們學習、工作和生活的自由。

前不久，南京河西區某環衛公司為環衛工人配發了智能手表，以監控他們的勞動。這款手表除了能定位環衛工人外，還會催促工人勞動，只要工人在原地停留休息20分鐘，手表就會自動發出“加油”的報警聲。批評者認為，這種做法毫無人性，對工人極為嚴苛和殘忍。

上海中醫藥大學附屬閔行薔薇小學也引進了AI系統，用于學校教學和學生學習。無論是老師還是學生，一舉一動都處于AI的嚴密監控之下，連學生在日常生活中有無微笑、有無向老師問好、有無主動撿垃圾、隊列是否整齊等細節，都會被AI捕捉，反饋到總控中心。這種做法也被視為是對學生隱私的剝奪，是讓孩子進了集中營和監獄。

在輿論的一片譴責聲中，南京環衛工人的枷鎖—智能手表被摘除了。現在，教育部對中國藥科大學的人臉識別“試水”進行了回應。今年9月5日，教育部科學技術司司長雷朝滋在接受采訪時表示：“（對于人臉識別技術應用）我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟件。”這個表態意味著，官方對使用人臉識別監控學生是持謹慎態度的。

盡管有教育部的表態，中國藥科大學的學生和其他學校的學生能否逃脫被全面監控的命運還很難說。中國藥科大學稱，學校將根據人臉識別監控“試水”后的效果確定是否在所有教室都安裝人臉識別系統。

技術的局限與法律的沖突

人臉識別只是生物識別的一種，盡管在識別個體上有較大的優勢，但也存在技術漏洞，也會出錯。在英國，警方已經在大型公共活動中嘗試使用人臉識別技術，如在倫敦諾丁山狂歡節中使用，但是由于人臉識別技術的漏洞，已經導致了錯抓2000多人。

盡管如此，進入AI時代，在監控下生活似乎是現代人難以逃脫的宿命。除了管理者有充分理由外，如監控工人可以提高生產效率，監控學生可以督促學生好好學習，一些國家的法律也都有意無意在支持這一舉動。

就連十分注重個人權利、保護個人隱私的美國，也有法律規定：在一定條件下，雇主是可以監控員工的，同理，學校也可以監控學生。根據《美國憲法第四修正案》和《加州憲法》的規定，公民都有隱私權。但是，公民的隱私權是否受到了侵犯，取決于你的雇主試圖查出有關你的什么事情。

事實上，根據“雇主試圖查出員工的什么事情”這一要素，雇主想要監控員工的工作情況，以了解生產水平和生產力，一般來說是可以被接受的。因此，雇主和主管是可以在工作場所安裝視頻和音頻監控設備的；但是，在員工的洗手間或更衣間里安裝視頻設備則是非法侵犯隱私權。

可以類比的是，學校管理方認為課堂是公共空間，所以為了“愛學生”，為了促進學習，就應當啟用監控。不過，即便員工和學生可以被監控，也存在監控的程度和范圍問題，同時監控是否有效以及是否真的是“為了被監控者好”，也很難認定。不過，如果人臉識別監控真的有效，人們是否應該讓渡自己的隱私和自由來接受AI監控呢？

美國新罕布什爾州達特茅斯學院的安德魯·坎貝爾教授研發的配合智能手機自帶的傳感器的應用程序可以持續監控員工的身體活動、地理位置、手機使用情況、環境光線等。通過一年內對全美750名工人進行測試，發現該系統能夠區分各行各業人們的績效水平，準確率為80%。

美國另一項研究結果則提示，監控員工未必就能取得好的工作成果和績效。華盛頓大學圣路易斯分校的研究人員在3年時間內追蹤了42家醫院的5200名護理人員，發現他們在受到監控的情況下，其前兩年的洗手率會有所增加，但監控放松后又會回落；而且在取消監控措施后，洗手率甚至低于監控前的水平。不過，這項研究也從另一個角度提供了必須監控人們生活、工作和學習的更充分和更重要的理由，撤掉監控后醫護人員就懶得洗手（這對病人和員工雙方都不利，會加大疾病的傳播概率），那么，為何不始終采用AI監控，讓醫護人員永遠保持工作前后洗手的行為呢？

監控面臨的“拉鋸戰”

在工作效率、有益人們的健康以及其他理由面前，AI監控已經大行其道，也成為現代人頭上的緊箍咒，誰也逃不掉。每個人的隱私，包括私人信息和私人活動都要退而成為次要的因素。

在此情況下，人們的工作和職位也受到威脅。2019年初，媒體曝光亞馬遜公司利用計算機系統，自動跟蹤數百名未能完成生產指標的配送中心員工，這個系統還會自動生成任何關于質量或生產率的警告，而無需上級的輸入。在獲知這些員工的情況后，亞馬遜公司解雇了他們。盡管亞馬遜公司事后予以否認，但這已表明，無處不在的監控已經“降臨”，稍有懈怠，就有可能失業失學。

不過，也有一些國家認定用人臉識別監控學生是違法行為。瑞典數據保護監管局（DPA）對瑞典北部城市謝萊夫特奧開出了該國的第一張依據歐盟《通用數據保護條例》（GDPR）的罰單，金額相當于1.9萬歐元（約15萬元人民幣），原因是該市的一所高中使用人臉識別技術來監控在校學生的出勤情況，之前既沒有向DPA報備，而且又非法處理了學生敏感的生物特征識別數據。

盡管學校辯稱事前爭得了學生的同意，但律師認為，學生是在學校董事會管理之下，無法判斷學生的“同意”是否為學生的獨立意志。DPA堅持認為，在日常環境中對學生進行攝像監控侵犯了學生的隱私。

現在，歐盟正在探索控制和監管人臉識別技術的立法，希望制定一套“AI監管的世界性標準”，建立起“足以保護個人的、明確的、可預測和統一的規則”。這樣的立法將在GDPR的現有基礎上更進一步，主要針對可能“帶來特定風險”的人臉識別等技術。

同時，美國的亞馬遜人臉識別系統由于難以識別膚色、性別和年齡而將28名國會議員識別為罪犯，由此引發了爭論。為此，美國舊金山議會及時立法，禁止政府購買以及使用人臉識別技術，使得舊金山成為美國第一個禁止人臉識別技術的城市。

科技進步使得人類進入了以人工智能為代表的信息時代，這固然讓人們的生活更為方便、舒適；但是科技發展的一個悖論也出現了，AI越發達，人們的隱私越容易被暴露，以科技來改善生活和提高自由度的理想反而漸行漸遠。這樣的AI技術真的是人類想要的嗎？