“人像對比抓捕嫌疑人”技術中的倫理風險*

蔣 嬌 馬希鵬 董敏君

江蘇警官學院，江蘇 南京 210012

一、倫理風險的內涵及其控制辦法

(一)倫理風險與價值排序

倫理風險是與政治風險、經濟風險等相對應的風險類型的一種，其基本含義是道德選擇的不確定性引起的可能的危害或損失，而控制倫理風險最有效措施就是進行價值排序，價值排序是倫理學研究中控制倫理風險的重要辦法。生活中每個人都有自己的道德價值觀以及自己所認定的價值排序表，比如誠實守信、善良、正義、公平等等，但這些價值觀念的序列不是一成不變的，它們會根據不同情境中的倫理風險變化，甚至會相互碰撞和沖突，形成道德困境①，從而只能通過個人的經歷與認知選擇優先實現的價值以避免更多的潛在風險。因此，可以通俗地將價值排序界定為在倫理風險與道德困境中優先選擇維護一種或幾種價值觀念，就是一個價值排序的過程。

(二)控制倫理風險在警務大數據分析中的意義

大數據分析是大數據理念與辦法的中心，是指利用現代科技手段對海量類型多樣的數據進行分析并從中找出可以幫助公安決策以及其他有用信息的過程②。運用價值排序辦法可以在不同倫理風險情形中最大程度地維護公平正義與社會治安，其有三個方面的意義：第一，有利于實現個人認知與價值。控制倫理風險時進行價值排序的過程是個人或者組織進行判斷選擇的過程，因此其有利于個人或組織實現其價值認知與判斷；第二，控制警務大數據分析中的倫理風險有利于保障警務工作的順利進行，最大程度地保障社會安定與價值秩序，實現公安機關的職能；第三，價值排序與道德選擇可以引領警務大數據分析的發展，通過公安機關與民警的價值判斷選擇，在運用大數據分析手段時公安機關會盡可能避免倫理風險，使警務大數據更健康積極地發展。

(三)目標倫理價值的分類

隨著科技發展與世界全球化的深入，人們接受更多東西從而價值逐漸多元化，因此出現了更多的道德困境與價值風險時，而公安機關在做出價值判斷時往往比以前更加難判斷選擇，因為其不僅要從維護社會治安的角度完成工作，也要兼顧自己和普通民眾的一般觀念的價值選擇，在出現兩者沖突時更要最合適的倫理價值判斷。而目標倫理價值可以分為③維護國家和法律秩序的政治價值、維護社會正常生活秩序與良好風氣的社會價值、維護經濟秩序的經濟價值、維護文化習俗和精神的文化價值以及維護公民的信賴的心理價值。

二、“人像對比抓捕嫌疑人”技術中的倫理風險

由于社會的變化以及生活節奏的加快，僅僅依靠公安機關正式登記采集的信息遠遠不足以應付各種突發事件，也不可避免地存在潛在的價值沖突與倫理風險，主要體現在以下方面：

(一)在收集到人臉信息并識別過程中，會因個人容貌外形的變化出現誤差，機器不能百分百準確地識別每個公民身份，致使部分合法公民不能進入車站內甚至被誤解檢查。而且這個結果不是百分百準確，因容貌存在相似可能將合法公民也納入可疑人員范圍，造成判斷結果的混淆，部分合法公民也會被盤查，造成這些公民一定程度的權益侵犯，同時也會降低民眾對公安機關的信任程度。但是為了能夠及時控制潛在警情與可疑人員，公安機關又不得不采信機器檢測結果，因此造成了警務工作侵犯公民權益的沖突。

(二)在“人像識別抓捕嫌疑人”中，公安機關掌握著機器即時采集的大量數據結果，而大數據的巨大潛力使得別有用心者可以從一大堆雜亂的數據信息中精準捕獲個人的隱私信息，甚至能夠做到預測人們的隱私行為，從而使得個人的身份、行為、喜好等個人隱私信息有隨時被暴露的風險④，具體泄露的隱患可以表現在兩方面，第一是公安機關內部人員出現信息泄露問題，尤其是普遍知識水平不高的輔警群體；第二就是機器與數據平臺的建設不完備，保密技術不先進，很有可能出現崩潰和惡意竊取信息的危險，造成公民個人隱私信息的泄露信息，但是公安機關為了實現管理社會的職能不得不全方面采集公民信息，因此出現警務管理工作與公民信息隱私的沖突。

(三)警根據技術確定犯罪嫌疑人后，為了讓犯罪嫌疑人及時落網，公安機通常會現場實施抓捕，但在由此也會造成對其他公民正常生活造成影響，尤其是在車站、機場等人口密集之地，往往會造成社會公共秩序的混亂，此時就造成了社會秩序與警務工作的沖突。

(四)“人像識別技術”的運用，是為了減輕公安民警的壓力，幫助公安機關完成維護治安的工作，但是在實踐中科技的運用往往會使公安民警依賴于機器的數據采集及分析結果，自身的主觀觀察的判斷能力發揮不夠，造成公安民警主觀能動性的退化。因此，大數據分析技術也會帶來科技運用與人的作用的沖突，但這個沖突往往是可以通過人的意識而解決的。

三、“人像對比抓捕嫌疑人”的目標價值選擇和價值排序

(一)在公民個人權益與警務數據分析的價值沖突的情形中，體現了目標價值中政治價值與心理價值的沖突。警務大數據分析出現的偏差和錯誤，是公安機關為了抓捕犯罪分子、維護法律權威與政治秩序的結果，而這些偏差使得部分公民被誤解，形成對公安機關工作的不信任，是心理價值的降低。在面對此時政治價值與心理價值的困境時，優先維護政治價值，實現公共利益的統一，但同時完全可以采取一定方法控制這種價值沖突與倫理風險的出現，比如改進改進“人臉識別”系統，使其更精準識別人臉，更高效地鎖定可疑人員，降低倫理風險出現概率。

(二)公安機關在收集公民信息時，民眾是基于對公權力的信任才將個人隱私交予采采集，如果因為人或者技術的弊端使公民信息泄露，民眾對公安機關的心理價值價值會受損，因此公安機關也可通過督促、教育民警、輔警的保護個人信息意識和技術平臺、數據庫的改進，控制風險出現。

(三)在維護社會秩序與警務工作的沖突中，警務工作所體現的同樣是政治價值，而社會公共秩序的穩定體現的則是社會價值，同公民與警務數據分析一樣，一般條件下應優先實現政治價值，因為如果放棄政治價值的實現、讓犯罪分子逃之夭夭，會對國家法治秩序、公安公信力造成更大的不利。但優先實現政治價值的同時公安機關也可控制社會價值降低的程度，比如在抓捕行動時兼顧所處的公共環境秩序和抓捕犯罪嫌疑人的緊迫性，思考用什么樣的方式抓人、怎么不侵害公共環境中的其他公民和怎么把對公共秩序的影響降到最小等問題，把社會價值的損害程度降到最小。

(四)在2017年1月阿西洛馬會議上來自全球各地的頂級行業領袖討論而制定23條阿西洛馬原則，其中對于人工智能的發展提出了要發展有益的只能而非無限發展人工智能的人工智能發展方向。因此可見，科技智能的發展不應取代人的作用，人的主觀意識與活動是自古進化而來，人是整個社會文化創造者與傳播者，因此人的活動體現的是文化價值的傳承，無論多先進頂級的科技數據，也無法替代人類弘揚傳承文化。但同時，科技的發展對社會公共設施的完善與國力的提升是極其有利的，其政治價值與社會價值十分明顯。

在“人像對比抓捕嫌疑人”的數據分析中，雖然其大數據分析對公安機關制止違法犯罪活動、抓捕嫌疑人具有顯著作用，但也造成公安干警過于依賴數據分析系統，導致其自主分析靈活運用的能力減弱自主判斷，并且在公安隊伍中，一是部分年齡大的老民警，其現代信息意識和信息技術操作技能差，另一部分學歷高、信息技術操作技能高的青年民警又過于依賴現代信息技術。在“智慧警務”建設中，“智”是科技，“慧”是人的能動性和創造性，因此必須注重“人機結合”⑤。因此，在科技智能與人本身發生價值沖突時，應明確目標倫理價值所代表的真正利益，在社會價值、國家價值和文化價值出現沖突時，一方面需要提高公安隊伍的信息應用意識和信息技術操作技能，運用好技術帶來的便利，但同時也要發揮人才機制，注重人的主觀作用。

四、結語

公安部門作為一個國家的重要機構，警務大數據的分析應用為其提供了高科技、高效率的協助，但同時產生的倫理風險是價值排序和道德決策過程產生的不確定要素的集合，直接影響到人們必須承擔的道德結果和倫理責任?！叭四樧R別”系統是公安機關在大數據與科技應用方面的倫理風險的典型，其產生的關于政治價值、文化價值、社會價值、心理價值等方面的沖突，也是整個警務大數據分析的倫理沖突體現，需要結合情形做出具體的價值選擇，同時控制好另外倫理價值的損害度，避免倫理風險與道德沖突的持久存在。

[ 注 釋 ]

①張彥.論“價值排序”研究的三個主要問[J].倫理學研究，2010，5(3).

②官思發，孟璽，李宗潔，劉揚.大數據分析研究現狀、問題與對策[G].情報雜志，2015，5，34(5).

③彭浩，龍際夢，蔡中祥，于曉彭，張喬.基于價值的目標排序模型研究[J].彈劍與制導學報，2017.11.

④董軍，程昊.大數據技術的倫理風險及其控制——基于國內大數據倫理問題研究的分析[J].自然辯證法研究，2017-11-18.

⑤張兆端.“智慧警務”：大數據時代的警務模式[J].公安研究，2014(6).