政府需要得到數據的管控權

編譯 胡德良

英國宣布要建立一個新的數據倫理中心，這是一件受歡迎的事情。但是，我們必須確保該中心要有能力解決其所認定的倫理問題。

叫停研發殺手機器人的活動引起了人們對自動武器危害的關注

數據無處不在。然而，數據會讓我們的生活變得更好，還是會使我們處于危險之中呢？近幾個月來，人們已經搞清楚的一點是，雖然不斷擴大的數據所呈現的機會是很多的，但是所造成的威脅也很多。因此，我們需要更加合理地管控數據——針對如何利用和開發這種新技術出臺一套指導原則，這么做是因為數據誤用會帶來威脅，會致使公眾反對此類創新。

包括優步公司和莫里森公司在內的企業發生了數據泄漏，這已經成為頭條新聞。但是，以自身的商業應用為目的而開發人工智能和查明信息，在這種情況下企業能夠以何種方式合法地使用數據，這一點并沒有較為廣泛地公開化。

對于人工智能潛在的軍事用途，來自各方面的擔憂不斷加劇，以致20000多名研究人員最近簽署了一封警告信，警告政策制定者要當心自動武器的危害，因為這些自動武器能夠利用運算法則來襲擊具體的目標。我了解到開發這些技術相對容易和廉價，這是令人震驚的。對自動無人機進行編程，可以使其搜尋目標的特征，而且可以在沒有監視的情況下從遠處對其進行控制……所有這一切都是通過數據驅動的運算法則實現的。

如果這就是市場的發展所致，那么很可能需要進一步加強有力的管控和監督了。我們需要一套倫理和管理法規，不僅僅是為了數據保護，而是為了讓社會群眾擁有真正的發言權，讓他們去建議各個組織能夠怎樣利用我們的數據來獲得優勢，不管是商業優勢、政治優勢還是其他方面的優勢。畢竟，那是我們的數據，保護人民必須是重中之重。在數據立法背后，對原則的公共保證是關鍵。因此，以人們可以理解的方式來傳達這種保證很重要。

我樂意接受最近由英國科學院和皇家學會所做的一份有關數據管控的報告，他們在這些問題上已經做了認真的工作。該報告涵蓋了制定數據管控措施所需要的環境，解釋了社會正在以何種方式發生變化，為何制定數據政策一定要考慮“數據相關爭議”帶來的風險，一定要考慮具有警告意義的歷史故事——“廣泛采用新技術會增加公眾的焦慮感，或者會導致激烈的公共爭議”之類的故事。報告還闡述了什么叫數據管控原則，需要利用這些原則來明確地制定所有形式的數據管控措施，確保數據具有可信性，要相信對整體數據的管理和使用。透明度是關鍵：允許問責制的存在，使任何引入的管控法規都具有合法性。

正值英國脫歐之時，局面混亂不堪，但英國仍然提出要建立一個新的數據倫理中心，這是一項迎合了英國技術行業呼聲的新發展，因此備受歡迎。

英國科學院和皇家學會認為，首要的數據管控原則應該是“促進人類的繁榮昌盛”。對于某些人來講，這個說法可能聽起來有點理想化了，但是他們認為應該支持數據治理和管控的觀點是正確的。這些觀點如下：保護個人和集體權益；確保在數據管理和數據利用影響下的交易具有透明性、可解釋性和包容性；找出最佳實踐案例，從中吸取成功的經驗和失敗的教訓；加強現有的民主管理。

該報告還提倡由一個新的機構來管理整個數據格局，而不是僅僅管理某些部門和領域的數據。這樣才會在符合上面列出的這些原則的情況下支持數據管理權的移交，并提出改進建議。該機構在對話中將會具有包容性，而且也擁有獨立性，同時又與不同的社區相連。

有跡象表明，該報告所提的建議并未被忽視。正值英國脫歐之時，局面混亂不堪，預算在一定程度上也受到了影響，但英國仍然提出要建立一個新的數據倫理中心，這是一項迎合了英國技術行業呼聲的新發展，因此備受歡迎。然而，這樣一個中心的資金來源并不明確。對于提議的數據倫理中心，政府的概述如下：“這是世界上首個能夠在人工智能和數據驅動技術領域確保安全創新和倫理創新的咨詢機構。”但是，該機構是否擁有當前數據格局所需要的管控優勢或權力呢？就其地位跟信息專員辦公室（ICO）的關系而言，這個新機構可能會產生進一步的問題，有可能會遇到近年來信息專員辦公室本身所經歷的管控影響力不足的問題。我們需要確保英國科學院和皇家學會所設想的多元化的、包容性的和教育性的管控機構能夠取得成效，并且需要確保其有能力帶來變革。

那么，為了使公民免受數據使用不當可能造成的公共傷害，《數據保護法案》目前正在通過議會審核，該法案還將需要什么附加條款呢？我們拭目以待。作為全黨派議會數據分析小組的主席，我聽到過無數組織為了更加有效地進行民事保護而發起運動的情況，還聽說過數據驅動的營銷組織將數據當作搖錢樹、利用數據打開潛在商機的情況。毫不奇怪，公眾對于其個人數據可能被用于哪些領域感到擔憂，并且對數據立法持懷疑態度，特別是最近媒體對有關面部生物識別技術等問題的報道，更是讓人憂心忡忡。就在今年夏天，維權機構“老大哥觀察組織”（Big Brother Watch）報道說，倫敦大都會警察局提議，試用帶有人臉識別軟件的相機來掃描諾丁山狂歡節上人群的臉部，這樣是為了給他們提個醒，讓他們知道他們所懼怕的人可能會出來鬧事。這種人工智能軟件創造了面部特征的生物識別運算法則，這對警方可能是有幫助的，但是議會對于數據的這種用法沒有進行過任何討論。從法律的角度來看，警方沒有做任何錯事，但是可以理解的是這樣利用人工智能使一些人感到非常不自在。除此之外，該技術不能代表正常維持治安的未來，而且目前準確度的欠缺使這種方法存在風險，有許多匹配出現錯誤，這意味著在未經無辜的人們許可的情況下正在生成他們的面部生物特征。

因此，我們需要解決一系列的倫理難題。在數據方面，有些人會本能地懷疑國家機構，其他人會對私營部門的數據使用情況保持謹慎態度。對于運算法則引導下的自動武器不存在任何審查，這一情況應該引起各方的關注。議會跟公眾一起制定更加合理的數據倫理規則，出臺保障每個人安全的管控措施，這是至關重要的。

此前，我們已經看到在不了解公眾需要充分參與決策、需要權衡風險和收益的情況下，創新技術被商業利益所推動時會產生怎樣的結果。由于新技術提出了類似的難題，我們需要正確的政治體系和倫理體系來幫助確保每個人都能受益。作為政治家，我們有責任出臺數據管控措施，使人們保持健康和安全，這是放在第一位的。如果想要利用大數據來真正地“促進人類的繁榮昌盛”，提高人們的生活質量和工作質量，就必須要先保護人民的利益，而不是保護商業利益。