人工智能的暗黑秘密？對數據的需求沒有邊界

Bart Perkins 陳琳華

人工智能革命渴望獲得個人數據。在機器智能和監視活動出現交集之前，美國政府需要遵守聯邦隱私立法。

人工智能可能會通過多種方式為人類提供幫助。無人駕駛汽車和智能基礎設施有望通過讓人們在城市的移動變得更加便捷來減少擁堵;經過改進的診斷和治療正在增加人類的壽命;在企業中，人工智能可以幫助優化招聘決策，讓工廠更加安全，實現日常任務的自動化，生成更為客觀的績效評估，并幫助企業更好地了解他們的客戶。

新的工具正在不斷涌現。亞馬遜已經獲得兩項手環專利，可以跟蹤工人填寫訂單時和裝箱時的手部動作。手環使用射頻來精準地跟蹤手部的運動，當檢測到低效運動時，手環會通過振動指導工人的手部在正確的方向運動。Humanyze研發了一種社交徽章，可以追蹤員工在辦公室中的活動進而從中分析員工與同事之間的互動交流情況。歐萊雅的UV Sense可追蹤佩戴者暴露在紫外線中的情況，然后將數據發送到她們的手機上。Cogito可以在客服代表接聽電話時監測她們是否急客戶之所急。

不幸的是，要想充分實現這些工具的優勢需要大量數據，這些數據也使得對消費者和員工的監控變得更加容易。中國的社會信用體系于2014年啟動，預計到2020年全面投入運行。該系統為創建個人檔案匯總了支付歷史、醫療信息、法律記錄以及其他數據。主要城市也都安裝了大量的攝像頭。

在隱私層面上，We-Vib曾經銷售了一款可以通過智能手機控制的藍牙振動器。2017年，We-Vib盡管沒有承認犯有錯誤，但是還是同意支付375萬美元來解決一場集體訴訟，該訴訟認為We-Vib收集了有關性玩具使用頻率和使用方式的數據。

確實，大量數據以人們意想不到的方式在讓社會受益。2018年4月，Joseph DeAngelo被指控為金州殺手，涉嫌從20世紀70年代和80年代開始犯下了一系列謀殺與強奸案。在方便個人研究家族族譜的網站上，警方將嫌疑人的遺傳圖譜與網站上的基因圖譜進行了對比。最終，警方確定了一個群體與犯罪分子有著相同的遺傳物質，并根據年齡、性別以及他們居住的地方排除了一些人。在確定了DeAngelo為犯罪嫌疑人之后，警方從其丟棄的垃圾中提取到了他的DNA，發現與犯罪現場提取的樣本相符。

雖然這些基因數據庫幫助警方破了數十年的陳年舊案，但是該數據庫的使用引發了人們對隱私問題的擔憂。很少有人會向存儲庫提供遺傳數據，并希望執法部門對該數據文件進行審查。提供者可能沒有意識到自己的行為可能會導致政府掌握那些不同意公開遺傳信息的親屬的相關信息，有的親屬甚至不知道家族的遺傳信息已經存儲在了數據庫中。

如今，全球的隱私問題正日益嚴重。2018年5月，歐盟實施了全面的隱私保護規則，即通用數據保護條例（GDPR）。其他國家也正在進行立法。為了保護數字隱私，加拿大提出了國家網絡安全戰略。印度的個人數據保護法案的重點是人工智能道德、個人隱私、安全和透明度。它們由一個獨立的監管機構監督，并對違法行為進行嚴厲處罰。據聯合國統計，目前已經有一百多個國家出臺了數據保護和隱私法。盡管如此，聯合國也承認許多立法最近沒有進行更新，并且不夠強大，不足以讓公民相信自己的隱私會得到充分保護。

2016年，許多亞馬遜、蘋果、Facebook、谷歌和微軟的工程師、設計師和其他員工越來越擔心他們發表的名為Never Again（到此為止）公開信的監管力。這個名字涉及IBM在第二次世界大戰期間扮演的不光彩角色，其利用穿孔卡片和卡片分類技術幫助美國政府管理對日裔美國人的拘禁，以及幫助納粹追蹤大屠殺的受害者。Never Again公開信的簽署者承諾拒絕建立任何數據庫，以幫助美國政府收集有關個人宗教信仰的信息，因為他們擔心此類數據庫可能導致大規模的驅逐出境行動。

在2018年10月召開的布魯塞爾國際數據保護和隱私委員會會議期間，蘋果首席執行官蒂姆·庫克表達了他對“數據工業綜合體”的擔憂。他警告說，對個人數據的收集和綜合正在創建一個“永久性的數字檔案，它們會讓企業比你更了解自己。”為此，他支持GDPR并呼吁美國出臺相應的隱私立法。

隱私監管的7項原則

庫克是對的。現在是時候讓美國跟隨其他國家制定數字隱私法了。新法規至少應包括以下原則。

1.盡量減少對數據的收集

數據收集應限于手頭任務所需的數據。可能在某天會派上用場的額外數據應當被限制收集。個人身份信息應被從用于分析的數據存儲中刪除。

2.數據收集行為應告知用戶

在收集數據時應告知用戶，同時告知用戶這些數據將被如何使用。個人應當能夠決定是否允許在每個活動期間被采集數據。瀏覽器和網站的條款應當簡單并便于理解，以便消費者能夠快速做出決定。

3.允許個人訪問自己的數據

個人應該能夠復制自己的數據并糾正或刪除不準確的個人數據。當前，在一些企業中，更正幾乎是不可能的事情。最近一位同事試圖更新自己的信用報告，將住址更改為新的門牌號。因為她發現開發商變更了街道地址的最后一位數，但是信用部門拒絕修改該條目。

4.實現決策透明

人工智能正通過法律、招聘、大學錄取等決策對個人生活產生越來越大的影響。由于人工智能是通過大量的規則來使用海量數據，因此人們通常無法理解人工智能引擎是如何得出結論的。雖然在玩游戲時，人類是否理解人工智能引擎的邏輯并不重要，但是在偏見或意外可能會影響最終結果的情況下，這是不可接受的。

Equivant工具可預測被告人犯下新罪行的可能性。因此在量刑時，使用該工具的法官通常會對高風險評估的被告人更加嚴厲。不幸的是，由于評分機制具有專屬性，因此被告人無法質疑自己的風險評估分數。

ProPublica為一家公益新聞調查機構，其在2013年和2014年對佛羅里達州布勞沃德縣的7000名被告人進行了分析。ProPublica將這些被告人在接下來的兩年內實際犯下的新罪行為與Equivant的預測進行了比較。他們得出的結論是，Equivant的風險評分并不可靠。該工具預測黑人被告未來重新犯罪的可能性是白人被告的兩倍，但是這一預測并不準確。不過，Equivant對此并不認同，他們認為ProPublica的方法存在缺陷。毫無疑問，對個人生活具有如此重大潛在影響的量刑工具需要高度的準確性，并需要有合理的邏輯支撐。

5.確保數據安全

每個收集和存儲數據的實體都需要確保數據安全，防止被不適當地訪問。萬豪酒店和Quora網站最近為一連串的數據泄露事件再添兩起，這些事件已導致大量的用戶受到影響。

6.強制合規

積極執法并從重處罰對于新法規的效力至關重要。主要的技術公司賺了很多錢，輕微的處罰對于他們來說可以當作業務成本被忽略掉。

7.制定國家法律

新的美國隱私法應涵蓋所有收集個人數據的企業，而不僅僅是技術公司。此外，還需要聯邦立法，否則其他州將遵循加利福尼亞州做法，制定自己的州法律，屆時各個州的法律可能彼此間沖突。

立法對企業的影響

新的隱私法規將迫使一些企業重新考慮自己的商業模式。今天，許多消費者會提供個人數據，以換取免費使用搜索引擎、社交媒體和其他一些工具。關注隱私的消費者可能更愿意支付少量費用以換取真正的匿名。雖然目前理論上可以實現在瀏覽網頁時不留下任何痕跡，但是大多數消費者發現如果沒有熟練的技術人員的幫助，根本就不可能實現匿名。

辦公室需要進行仔細規劃并做出一些妥協，以平衡企業部署新工具的需求和員工保護個人隱私的愿望。新的法規可能會造成員工被迫同意數據被收集的情況。根據新法規中的表述，許多現有工具可能會生成一些被視為個人信息的內容，如果員工拒絕跟蹤，那么可能導致工具無法使用。

毫無疑問，遵守新法規會迫使企業更加謹慎地處理員工數據。主管訪問權限可能僅限于與個人績效直接相關的員工數據，分析工具僅可使用匿名數據。運營良好的企業可以為希望提高績效的員工提供獨立指導。

人工智能帶來了許多好處，同時還將為我們提供了一些目前無法想象到的其他好處。與所有新技術一樣，它們可以用來造福人類，也可以被濫用。當我們解決了如何確保所收集的數據不被用于不適當的監視時，或許Scott McNealy在1999年說過“你沒有隱私，忘掉這件事吧”的斷言才不會變成真的。