警務大數據分析中的倫理風險及其控制*

張舒冰 馬希鵬 王澤婷

江蘇警官學院，江蘇 南京 210012

2019年回顧，大數據已然在這個信息爆炸的時代以數字形式為許多行業注入了新的活力，這些行業亦開始了哈佛大學社會學教授加里·金所謂的“量化進程”。公安作為國家與社會安全保衛的重要行業，經過多年的積累掌握著海量信息，在這股大數據的浪潮中建設“智慧公安”的行動已經在全國范圍內展開。

一、警務大數據分析中的倫理風險內涵及其表現形態

關于倫理風險的產生，有學者稱“技術倫理風險主要緣于對技術理性的盲目擴張，致使技術主體過分把科學技術社會化，從而與價值理性產生了嚴重斷裂。”[1]張彥教授將“倫理風險”定義為“道德選擇的不確定性引起的可能的危害或損失。[2]在其《價值排序與倫理風險》一書中提出了一種以“倫理風險”為研究進路的方式，“倫理風險”范疇改變了傳統的線形的思維模式，為摸索大數據發展之漏洞提供另一維度的思路。[3]由此啟發，筆者以為，倫理風險更多的是在討論操縱和搬運大數據背后的“人為”因素注入技術理性而產生的不良反應。對于警務大數據的運用過程中，倫理風險主要有以下三種表現形態：

(一)數據警務對個人信息權的沖擊

從最新《民法總則》增設的對個人信息保護內容來看，出于更好地保護我國公民的隱私權，從立法層面在私法體系中肯定個人信息權。[4]公安機關強制或無形采集信息本身存在人權與公共利益的交換與妥協，但警務人員泄露信息的問題已經不再新鮮，甚至一度成為私人利器。這種數據—人的控制模式造成了數據警務理性的缺失，在筆者與戶籍民警的采訪交流中，據透露行業內確有因私諸如搜索個人開房記錄，調查家庭背景等等現象。

(二)數據警務真實性存疑可能性

互聯網海量信息數據中存在不少數據難辨真偽，影響各行業判斷與決策，警務數據也并不樂觀。警務大數據的收集、處理過程中，同樣存在人為的失范問題引發風險之流。從主觀故意的角度看，部分警務人員出于私交或利益驅使非法修改或者偽造數據錄入或傳播；從非主觀故意的角度看，亦存在由于數據管理不當、數據源本身的固化認識等造成數據錯誤的可能性。通過走訪與交流，筆者就了解到生活中，存在著如：警務平臺的信息與戶籍信息不同影響辦證、警方重點管控人員信息登記錯誤誤錄入前科記錄影響個人社會評價等情況。

(三)數據警務實現的困境

警務數據差異問題。國內學者對大數據技術的倫理風險普遍考慮到“數據鴻溝”——國與國之間數據霸權，同樣在警務大數據的建設中也存在數據“鴻溝”問題。但筆者認為這更傾向于一種數據差異，雖然同樣是競爭帶來的風險，一個是客觀使然，另一個則是人為主觀的結果。大數據技術研發以及后期數據的整合需要資金與技術的投入，我國國內各地區發展參差不齊。由此帶來一個問題即是智慧警務的建設往往形成“分塊運動”，以省為單位或者例如京津冀帶動周邊省份協同發展之類的模式，無法形成全國統一聯網的形式將數據物盡其用，而仍然呈現“數據孤島”的狀況。此外，公安機關內部各部門分立，各自掌握不同的信息都可以形成一種“數據孤島”，這一倫理風險出于個人或集體的利益對抗而不利于數據的統一調度和整合。

二、警務大數據倫理風險產生的原因

關于警務大數據倫理風險產生的原因，筆者認為可以從主體發端、技術原因和制度背景三方面展開討論：

(一)主體角度：主體的復雜性

筆者以為倫理風險之所以存在最大的因素即是存在“人”這一不確定因素，警務大數據從采集、處理到存儲、運用的過程中一共有四方主體可能參與其中：警方、數據公司、服務平臺、個人。在前我們不斷討論到警方內部與外部的難題導致風險的出現，但是往往容易忽略相對的數據源：與警方合作的數據公司、服務平臺以及個人各個環節都可能出現差錯與人為導向。鮑曉燕認為“從目前警務實踐來看，由于法律依據的缺失以及行業壁壘等客觀因素的限制，我們對來自社會其他行業、領域的社會信息資源占有量并不樂觀，還遠不足以構成對社會面的全面覆蓋?！盵5]正如張彥教授所述“倫理更多的是從行為者整體的角度來指稱”，各個平臺、企業本身就是“行為者整體”，其內部有著自己的“感性”決策，最終影響著數據獲取的速度、數據的質量與數據的保護。

(二)客觀技術原因：“信息人”偏見

“信息人”這一概念直接將人在虛擬時空中的“信息至上”特征表達出，然而數據是人為記錄的，存在真實性的問題，也就是說，“信息人”的身份識別度低，容易產生判斷失誤。根據“信息”判別使得一個人的品格由數據固化，而且數據推算“人”這一不確定因素到底會存在誤差。高質量的數據分析需要高質量(準確、均勻)的數據。筆者與警務人員的采訪交流了解到，實務中依靠大數據抓捕確實存在“抓錯人”的情況，而后不了了之。這是技術本身固有的缺陷對數據推算帶來失真，影響了辦案效率，同時也給個別無辜的百姓帶來不便，對公安機關形象之塑造亦有潛在負面影響。

(三)制度背景：制度制約的不足

我國的警務大數據建設起步較晚，發展在各地區也參差不齊，難免在進取過程中存在不少問題，但是法律的滯后性使得亂象叢生規約不足。筆者通過對公安機關內部進行問卷調查了解到關于警務數據的采集、存儲、管理和使用方面在其內部還沒有形成一套完善和統一的倫理準則，所以各部門往往根據自身的標準，多重標準的情況難免會產生沖突，引發倫理問題。

三、警務大數據運用過程中控制倫理風險的原則及其對策的研究

從預測和補償的角度來說“風險概念是指因決策的局限性造成的不確定性，原則上是可以預測和控制的?！盵6]針對警務大數據的倫理風險，筆者認為可以從倫理原則和具體措施兩方面討論：

(一)倫理原則

1.無害原則。弗蘭克那認為，倫理是指一個社會的道德規范系統賦予人們在動機或行為上的是非善惡的判斷標準。無害原則，則是道德化的體現。在數據的使用發端要求數據使用者帶著以人為本，致用于民的目的，善意地使用個人信息，這是一種無形的道德規約，期待公安機關內部可以建立一套完善、統一的倫理道德準則。[7]

2.權責統一原則。公安機關內部現實行權限分級制度體現“權責統一”，不同級別享有不同的數據接觸權限，但是實務中地方基層公安在繁重的工作壓力下，權限分級往往流于形式：需求不同，但手上的權限不匹配導致為求便利公開分享權限(一人密鑰公開共享)，實為隱患。建議應當根據不同的需要進行權限等級的調整，實現真正的權限對應。

3.透明公開原則。筆者任務該原則有兩方面益處：一方面尊重個人信息權，另一方面有利于勘誤，當事人及時糾正錯誤數據，保證未來的精準決斷。警方以及合作的數據公司所使用的預測算法應該以公開透明的方式接受公眾的監督，通過了解他們的價值取向和關注點及時作出調整獲得認可，促進數據警務的規范運用。

(二)具體措施

對于警務大數據倫理風險的控制只是停留在倫理原則層面的探討往往是不夠的也容易流于形式，正在做到預測和補償風險，還是應該施以具體措施進行規制：

1.行業自律。針對主體的復雜性，正如我們所知，越來越多的科技品牌如華為、騰訊、阿里巴巴等行業與警方進行合作，與這些行業聯合已是大勢所趨，所以將主體簡化，減少數據接觸方不現實。因此，筆者認為，例如警企合作應該學習美國踐行的“行業自律”的辦法，在公安與企業內部形成自我約束力，通過行業聯盟內部制定嚴格的信息保護倫理標準，與利益掛鉤驅動行業自律——制定信息保護認證，達到標準的企業準入大數據應用門檻，并實現數據使用的隔離性、保密性和可追蹤性，讓數據在安全可控范圍內使用。

2.技術驅動。倫理風險的產生，與技術原因有著密不可分的關系。我國警務數據建設發展較晚，這方面的尖端人才培養投入需要大量資金和技術支持。技術方面，著重培養技術人員，可以通過增加警察院校的網安專業專門培養方向或者引進技術人才納入編制。資金方面，筆者認為正如警企合作解決科技的同時，可以帶入投資方運營解決資金問題，通過社會的力量最后收益于社會。與此同時，警惕“唯數據主義”，應當將傳統的辦案方式與高尖端技術結合互補，減少辦案差錯，樹立高質量辦案的公安形象。

3.制度填白。只有由國家和政府部門為大數據技術的發展提供政策保證和法律監督，才能夠保證我國在大數據隱私倫理監管方面處于領先位置。[8]國家立法部門應當制定與大數據采集、存儲、處理、運用一系列法律法規以應對當前的大數據法律空白來規制不當行為對個人信息的侵犯并給予公民相當的監督權限協調警務數據健康的建立。[9]

四、結語

2017年1月，在美國加州阿西洛馬召開的“阿西洛馬會議”上，專家們聯合簽署了“阿西洛馬人工智能原則”，23條原則其中就包括“道德標準和價值觀念”此類倫理問題。可見，在大數據盛行發展的時代，世界關注到了倫理風險的存在。在警務建設中，倫理風險的可認識性和可控性，保持大數據發展取得動態平衡，更好地促進警務的信息化建設。