個人信用算法評分存在的問題與法律對策

一、前言

近幾年，全國各城市在個人信用建設方面著重發展，各地方政府都在積極推進個人信用評分的普及和應用，利用算法技術，結合數據進行治理，不僅減少執法的成本，更能提高政府行政監管的效率。個人信用算法評分能夠有效制約公民的失信行為，因個人信用算法評分具有信用懲戒功能，所以個人信用算法評分在產生和運用過程的許多問題值得思考。其在帶來便利的同時也陷入了濫用和泛化的危機，在研究評分機制的過程中，由于數據的濫用，責任分配不明等問題的出現，就引出了如何約束算法和合理使用信用數據等法律問題。

二、個人信用算法評分概述

（一）個人信用算法評分的發展

隨著政府在公共信用治理領域的深入工作，中國正在建設覆蓋多個領域的“信用社會”。政府對信用治理進行了探索，在傳統的聲譽監管的基礎之上，在不同的社會場景中推廣應用個人信用算法評分。2018 年1 月，杭州市、南京市、廈門市、成都市、宿遷市、惠州市、溫州市、威海市、濰坊市、義烏市、榮成市12 個城市被國家評為首批社會信用體系建設示范城市，目前國內已有20多所城市推出了個人信用評分制度。總的來看，現在城市個人信用分有的呈現為等級形式，有的城市既有個人信用算法評分又有細化的信用等級，另外有些城市是基于個人的基礎分，再根據行為進行信用分的加減。

（二）個人信用算法評分的特點

我國正處于大規模“評分社會”的初始階段。在信用數據的歸集基礎上利用算法技術，使得個人信用算法評分與傳統的個人征信評價有所不同，地方的個人信用算法評分的發展呈現了幾種特點。

第一，個人信用算法評分的評價體系更加高效，注重社會公共性，能夠提高政府的公信力。全國各地都在按照標準化，規范化和制度化的方式來發展個人信用分建設。

第二，信用數據能夠更好的整合和保護。個人信用算法評分通過將信用數據進行整合、歸類、交流，通過大數據技術，為信用的主體制定了相對精準的個人畫像，使信用數據能夠更好的反映出主體的行為，進行合理合法的信用懲戒。同時，在個人信用算法評分的各個階段相對傳統征信更注重信息安全和信息主體權利的保障。

第三，個人信用算法評分是基于大數據和算法技術產生的，信用數據的類型十分多，同時個人信用算法評分的指標體系多元化，所得出的評分比傳統的評價方法更加準確。

三、個人信用算法評分中數據使用問題

算法行政是通過比較行為與算法選擇的獎懲之間相關性來生成對自我之行的激勵，進而基于信用數據的算法替代政府執行法律來實施獎懲，從而有效降低執行成本。目前各地政府正在積極推進由算法主導的個人信用評分的應用，但利用算法進行個人信用評分有時會出現令人擔憂的問題，如“黑箱”運作，缺乏透明與問責制，難以保障公民的算法解釋權。

（一）數據失真

政府在利用算法的同時要也要考慮算法黑箱問題，算法技術的運用可能會超越信用信息主體對數據的控制。

并不是所有的信用數據都對評分有意義，對信用數據的過分挖掘和濫用造成了算法和信息主體地位不平等和信息不對稱的情況。目前我國地方實踐中已經出現了公共信息目錄化管理、信用信息分類管理等制度實踐，從而試圖將信用信息進行類型化管理。在具體的應用場景與主體認知差距過大的情況下，類型化管理與主體的真實行為可能存在較大偏差，從而加大了算法與行為主體的地位不平等和信息不對稱的局面。

（二）個人信用算法評分的歸責問題

當個人信用算法評分出現錯誤時，算法的復雜性和中立性就成為了做出個人信用評分的決策機關推卸責任的借口，使得責任主體認定的復雜化，責任的分配是算法評分中需要解決的重要問題。

算法具有物理上的復雜性。算法在物理上的隱蔽性和分散性使得監管機關很難確定是誰以及在何處制造威脅。在個人信用算法評分的過程中，出于保護算法開發者的知識產權的目的，技術公司和政府機構都傾向于保護算法的不公開。同時，公民缺乏對算法的技術的理解，對自己提交的資料如何經過算法的得出個人信用評分并不清楚，從而對行政機關是否利用算法進行數據濫用和造成結果歧視產生擔憂。

算法技術具有中立性。技術中立不僅包括功能中立和價值中立，還有責任中立，即技術使用者和實施者不能對技術作用于社會的負面效應承擔責任，只要他們對此沒有主觀上的故意。因為算法的中立性和自動決策的特性，傳統的侵權責任邏輯不能適用，因此不能單一考慮是技術機構或政府機關的責任，需要新的歸責制度。

四、個人信用算法評分的法律規制

（一）構建個人信用算法評分的法律框架

制定個人信用評分的相關規定，規范評分工作。當前我國個人信用算法評分一直處在一個實踐在前，立法滯后的狀態，目前法律中沒有對個人信用算法評分的明確規定，只可以參考現有的《征信業管理條例》中的規則。我國目前并沒有一部國家層面上的法律和行政法規來指導個人信用的發展。在針對個人信用算法評分的立法上，首先要完善和重新解釋現有法律中有關信用管理的條款，對信用管理的內容與相關的最新法律進行整理和結合。個人信用算法評分應以現行的法律和行政法規為依據，結合《行政處罰法》的相關規定，結合實際情況制定《社會信用條例》，更加詳細準確地規定個人信用評分的原則、程序、救濟機制和應用場景等。其次，在建立健全信用法律法規體系的同時，對于具體的地方個人信用算法評分的建設性意見和指導方案進行補充和完善。

（二）健全個人信用算法評分的程序機制

實質性正當程序權利可以保障基本自由利益，程序性正當程序權利可以防止政府任意剝奪憲法保護的利益。政府應當給予信息主體知曉、使用和維護自己信用信息的權利。

首先，行政機關在收集和使用信用信息時，應遵循行政法中的比例原則進行。關于宗教信仰、身體健康狀況、婚姻狀況等與評分和社會信用建設無關的信息應排除在外，此外，當前法律規范和道德規范能夠調節的信用行為產生的信息也不應當納入評分的影響因素中。

其次，個人應當擁有知情權，個人有權查看自己的信用信息和信用評分，有權對算法的種類、邏輯、價值觀等進行了解，有權要求做出評分的行政機關做出解釋。

最后，賦予信用信息主體異議權，在個人信用信息的歸集、計算和使用過程中，都可能存在錯誤。可以對個人信用算法評分提出異議，要求管理信用的政府機關對信用數據的使用、算法的評分邏輯、評分的應用場景等進行審核。

（三）明晰責任分配

算法具有可解釋性，這是法律責任的分配的重要前提。在個人信用算法評分的歸責問題上，應根據具體的案例進行分析和判斷。對于算法解釋的過程就是分析責任的過程。倒推算法決策的整個過程，找出導致法律后果產生最為直接的因果關系的環節，然后根據相應的過錯確定各主體應承擔的法律責任，通過算法解釋來構建合理的問責體系。在利用算法進行個人信用評分時出現錯誤結果、不利結果時，應根據權責相一致的原則進行責任的分配，算法的控制者和使用評分的政府機關都應該對算法做出評分的原因和依據的數據做出解釋，否則應該承擔相應的法律責任。法律問責是規范算法的有力手段，在個人信用算法評分的運用過程中也作為一項重要機制保護公眾在個人信用算法評分的使用過程中權利不受損害，對個人信用評分的發展起到了重要作用。