科學家像你一樣對大數據引發的道德問題充滿困惑

張莎拉（Sarah Zhang）

滕智紅/譯

科學家像你一樣對大數據引發的道德問題充滿困惑

張莎拉（Sarah Zhang）

滕智紅/譯

伯恩哈特·朗恩（Bernhard Lang）

2016年5月中旬，當一位研究人員惡作劇地公布了約會網站（OkCupid）7萬份包括用戶名和性取向在內的個人檔案時，人們很憤怒。當臉譜網（Facebook）研究人員把2014年發表在信息流上的情緒感染研究編成故事時，人們真的憤怒了。于是，約會網站整理版權歸屬問題撤下了這些資料；出版臉譜網研究的期刊發表了一篇《提請注意》（expression of concern）的文章。憤怒成為構筑道德界限的一種方式。我們從錯誤中吸取教訓。

但是令人吃驚的是，爆料出上述兩種大數據的研究人員從未料到公眾會憤怒（約會網站的研究似乎沒有經過任何形式的道德審查流程，而臉譜網的實驗得到了康奈爾道德審查委員會的同意）。這表明了這一新的研究領域未經道德審查的情況有多嚴重。與經過幾十年臨床試驗形成的醫學研究不同，分析龐大的、半公開的數據庫的風險-回報問題才剛剛開始。

而負責監管這些風險的審查委員會是東拼西湊、蝸牛慢爬似地進入了 21世紀。根據美國普遍法則（the Common Rule），由聯邦基金資助的研究必須經過道德審查。而審查系統并不統一，每一所大學都有自己的機構審查委員會，即IRB （institutional review board）。審查委員會成員大多是大學研究人員，最普遍的是生物醫學專業。幾乎沒有職業道德家。

電腦學家或安全專家就更少了，而在這類新穎研究中，為保護參與者的利益，這些專家是不可或缺的。未來隱私論壇的政策顧問凱爾西·芬奇（Kelsey Finch）說：“機構審查委員會所做的決策可能會因委員會成員、大學和成員當天的心情不同而不同?！泵绹谐汕先f個類似的道德審查委員會——它們在數字化時代大多要依靠自己來把握研究的道德問題。

醫學的起源

普通法則和道德審查委員會制度也是憤怒的產物——當然它們犯過的錯誤更嚴重。在20世紀70年代，公眾最終得知，在美國政府所做的時間跨度為幾十年的亞拉巴馬州的塔斯基吉實驗中，醫生對那些身患梅毒的非裔美國佃農不予治療，為的是研究疾病的發展狀況。爭論結果是美國衛生及公共服務部（the United States Department of Health and Human Services）以人類為研究對象的課題研究新法規得以建立，并被推廣到所有聯邦機構?，F在，任何獲得聯邦基金資助的機構必須成立道德審查委員會來監督涉及人類的研究，無論是新的流感疫苗還是土耳其地毯銷售商的人種學。

喬治梅森大學（George Mason University）歷史學家、關于社會科學道德審查委員會一書的作者扎卡里·施拉格（Zachary Schrag）說：“醫療機構的實驗研究構架得到了相當大的發展?！钡皇撬械娜祟愌芯勘举|上都是醫學的，很多社會學家就感到審查過程不適用于自己的研究，因為社會研究往往比生與死的風險要微妙得多。

某些道德審查委員會的要求對社會科學而言顯得很荒謬。例如，知情同意書上經常有“選擇參與是……”的話來減少病人可能因拒絕參與將意味著放棄醫學治療產生的恐懼。但如果是志愿者填寫關于應試習慣的調查表，那么很顯然，對于同樣的問詢，人們唯一的回答是“不參與”。

社會學家一時間強烈抗議道德審查委員會不公正。美國大學教授協會建議增加道德審查委員會中社會學家的人數或者成立只評估社會科學研究的獨立委員會。2013年，該協會甚至提交了一份報告，建議對于自己風險極小的工作，研究人員應當自行決定是否需要征得道德審查委員會的同意。這樣做還能為道德審查委員會騰出更多的時間致力于生死攸關的生物醫學研究。

新的風險

這不是說社會科學研究整體上——特別是社會科學大數據研究——沒有風險。有了新科技以后，從來不怎么起作用的系統所起的作用更小了。

威斯康辛大學斯托特分校（the University of Wisconsin-Stout）的道德學家伊麗莎白·布坎南（Elizabeth Buchanan）認為，基于網絡的研究進入了第三階段，產生了新的道德問題。第一階段開始于20世紀90年代的網絡調查，第二階段是社交媒體網站帶來的數據?，F在處于第三階段，研究人員能購買推特（Twitter）幾年前的數據，并把它合并到其他公開的數據中。她說：“就是在相互融合中我們發現了道德和隱私的沖突。”

布坎南最近在一家道德審查委員會那里，審查一項建議把社交媒體提到毒品的街道名稱合并到公眾可查詢的犯罪信息中的提議。從技術上來說，所有這些信息在某種程度上都是公開的——即使有些推文曾被刪除了或者封鎖在個人日志里。但把信息合并起來的行為意味著通過例行研究能夠識別犯罪背后的人。道德審查委員會最終同意了該項目。布坎南說，在這些案例中，你必須權衡社會研究價值與風險的關系，并首先通過剝離公開發布的潛在標識符的數據，使風險最小化。

隨著科技發生變化，對參與者來說，風險很難預測。2013年，美國麻省理工學院（MIT）的研究人員發現，根據最初一批研究人員自己發表在網上的參與者信息，就能把姓名和公開提供的DNA序列匹配起來。指出這一點的是遺傳學家嗎？他曾經是位電腦安全專家?！拔艺J為委員會成員中有統計專家、電腦專家或網絡技術安全專家真的非常重要，”布坎南說，“現實的確如此。我們要考慮的不僅僅是有人對調查中提出的問題感到沮喪。”

也許其他機構，如要求研究人員分享數據的公共的科學資源庫，應當收拾道德問題的爛攤子。西奈山（Mount Sinai）的生物倫理學家米歇爾·梅爾（Michelle Meyer）在一封郵件中說：“需要有人監管，但最佳的監管主體不可能是在分離識別和重新鑒定技術方面通常缺少項目專業知識的道德審查委員會?！?/p>

即使在熟悉大數據威力的網絡研究者中，態度也不一而同。馬里蘭大學（Michelle Meyer）的信息技術研究員凱蒂·希爾頓（Katie Shilton）采訪了20名在線數據研究人員后發現，對待像忽視服務條款和取得知情同意書方面的道德問題，受訪者的“分歧相當大”。令人奇怪的是，研究人員還說，道德審查委員會從來不質疑自己工作存在道德問題——但審查人員和同僚們質疑過。網絡研究者協會和互聯網數據分析應用中心等各種團體發布了指導方針，而那些真正有權力的人——那些機構審查委員會成員——才勉強跟上步伐。

在非學術界，像微軟那樣的公司開始制定自己的道德審查流程。2015年12月，未來隱私論壇的芬奇組織了一個叫做“在道德審查委員會之外”的研討會來思考非聯邦基金資助的研究如何進行道德審查流程。畢竟，像臉譜網、 約會網站、“閱后即焚”照片應用（Snapchat）和網飛（Netflix）這樣的現代科技公司坐擁一堆20世紀的社會學家想象不到的數據。

當然，公司任何時候都在拿我們做實驗，不管是網址A 或B的測試標題還是雜貨店改變付款排隊外形。但當這些公司聘請更多具有博士項目的統計專家時，學術界看到了縮小差別和使用數據來豐富公眾知識的機會。也許通過這些合作能形成不斷更新的道德指導方針?；蛟S這只是一時的混亂。

原文標題：Scientists Are Just as Confused About the Ethics of Big-Data Research as You