算法權力歧視下的平等權保護

摘要：隨著互聯網平臺涉及范圍的擴大，算法的使用開始制約著人們的日常生活。算法權力同時打破了制度化權力和非制度化權力間的界限，使權力不再集中于政府。在實際應用中，算法依然會表現出人類社會中長期存在的歧視，甚至加劇固化這樣的歧視與偏見。法律作為社會的普遍性規范，預測和解決的只能是社會的大概率事件，在成本的制約下無法對個人進行個性的規制，在算法權力歧視下加強對平等權的保護應當從單純對數據的保護變化到對算法運行的規制，加強對算法的權力規制。

關鍵詞：算法權力;歧視;平等權;法律保護

中圖分類號：D923;TP18文獻標識碼：A文章編號：2095-6916（2021）09-0031-03

隨著平臺型經濟在全球范圍內的快速發展，互聯網平臺企業作為其主體核心，逐漸開始影響社會、政治、經濟等各個領域，其在公共事務和個人生活中的影響力不斷增強。資源與需求的低成本高效匹配是市場的追求，而互聯網平臺高效的資源匹配正是其快速發展的核心動力，其技術基石是大數據和智能算法。在英國上議院下屬的人工智能特別委員會所做的報告中，算法被定義為：“一系列用于計算或者解決問題的指令，尤其適于計算機。算法構成了計算機所能做的事情的基礎，由此也是所有人工智能系統的一個基本方面。”

隨著互聯網平臺涉及范圍的擴大，其算法的使用開始影響著人們的日常生活。從私人領域的網購推薦、飲食外賣到公共領域的個人信用、政府管理，算法不僅成為個人生活的決策者，并且開始取代公權力機構做決策。大數據已經脫離技術的范疇，開始演變為新的權力形態，建立了一種新的社會圖景和現實。一個由算法主導決策的社會開始覆蓋過去的社會運行模式，在帶來高效率、客觀化的同時，卻由于算法技術的專業性和算法運行過程的“黑箱”不透明性使得公眾理解算法受阻、法律監管困難。如 2013 年哈佛大學 Latanya 所作的研究表明，谷歌的 AdSense 在在線廣告的投遞中，會首先根據姓名對搜索者的膚色、種族進行判斷，如果被認定為黑人，被推送“某人被逮捕的”的記錄類型的廣告將遠高于白人。這種帶有特定價值取向的歧視性行為是對公民平等權的侵犯，相比于傳統的歧視行為，算法打破了物理空間界限，借助因技術壁壘產生的隱蔽性、隔離性和不可識別性，對過去平等權保護模式提出了挑戰。

一、算法權力：全新的權力形態

科學技術作為推動社會進步的生產力，包括其所物化后的產品機器，而機器本身只是一種工具，其不具有價值取向。但是當技術成為特定主體獲取利益的工具和途徑時，技術便不再具有客觀性，而逐漸表現出權力特征。就如同馬爾庫塞所認為的那樣，科技與技術本身如同意識形態一樣，也具有明顯的工具性和奴役性，扮演著在社會中奴役人的功能。正如他在《單向度的人》書中所說的那樣：“人們控制自然的科學辦法”，結果“為人對人的統治提供了概念和工具”。算法權力表現出的便是一種技術權力。算法是基于對大數據資源的使用分析，進而實現對人的行為和公共資源的調度，這不僅是它的表現形式，也是它區別于其他權力形態的表現。算法權力不再需要傳統暴力機關進行維護，而是在各個主體對算法的實體法產物形成過度依賴后，再由少數群體對算法核心技術進行壟斷，進而表現出權力的特征。算法運行過程中會受到設計者價值傾向、利益選擇等意愿的極大影響，算法的設計者就自然地成為算法權力的實際掌握者和權力的歸屬對象。

算法權力以算法技術作為運行內核，在該權力形態下，權力與權利關系具有特殊性，兩者的來源為社會權力的增加和個人權利減少之后的再分配。此時，個人權利是由算法帶來的技術便利賦予的，計算能力的加強使得算法可以對更多的數據進行處理分析，促使算法與個人日常以及社會的嵌入加深，多方面促進了算法的實體化應用，自然賦予了個人更多的權利以及社會公共福利。

在公權力方面，現代社會治理離不開官僚體系。對于官僚主義者來說，其追求的目標即是建立一個更高效率的社會制度。算法通過向技術官僚提供一個解決效率問題的工具，使算法成為真正的權威來源，將人們對政策的關注點從官僚轉移到計算上來。而這樣的政府過度依賴以及民眾偏差認識，使得整個社會的治理出現“去政治化”，會加深民眾對政府的不信任感，使得社會治理過程出現危機。

私權力方面，借助代碼 / 架構權力模型，將各類規范代碼化，對賬戶的行為進行數據化的轉化并借助算法進行相應分析，作出評分評價和引導，形成“代碼就是法律”的管理模式。這樣的“權力—數據—評分”的規訓機制構成了網絡空間的權力基礎。這樣的模式是在給予互聯網平臺對生產效率追求的刺激之下逐步形成的，而平臺和用戶之間的數據交互也使得被大眾所接受的規范開始合理且合法地成為平臺的規則，使得傳統法律不能處理的空白領域得以填充。但這樣類似于私人立法的方式，存在著平臺與用戶、交易者與交易者之間的信息獲取不平等的問題，平臺享受了不可撼動的地位，對消費者存在一定的剩余壓縮。

算法權力具有“黑箱”性質，即所不知的，既不能打開，又不能直接從外部觀察其內部狀態的系統。首先，因為算法本身的學習難度較大，普通人需要大量的時間精力才能知悉算法的運行邏輯和運作原則。其次，現行的算法設計大多是由企業完成，設計和研發過程變為企業自身的內部行為，使得設計和研發人員的價值取向和利益傾向可以隨意加入到算法之中，甚至于政府及其相關部門都難以掌握其目的和原理。最后，算法本身具有知識產權屬性，算法的運行具有一定商業秘密性質。要求公開算法的公共訴求和企業平臺追求的商業性質產生沖突，企業為防止被競爭對手利用而失去商業競爭力，往往不會選擇把算法交由他人審核甚至公之于眾。

算法權力同時打破了制度化權力和非制度化權力間的界限，使權力不再集中于政府這一單一主體，部分能夠使用算法的企業尤其是互聯網平臺企業自然也會擁有一定的權力，最終表現出以政府主體為核心，散射出多重非制度化的權力社會關系。算法權力還實現了在物理空間和網絡空間之間的跨越，突破了傳統的權力物理邊界。傳統的以官僚體系為連接方式的權力模式會隨著物理空間的擴大以及控制內容的增多而逐漸減弱其控制力，而隨著電子技術以及物聯網、云計算等交互技術的發展，人們獲取和交換信息的能力不斷加強，傳統權力便通過算法這一媒介實現了在時間和空間上的拓展，算法權力也從網絡空間開始向信用、教育、投資等現實物理領域拓展。

二、算法權力之下的歧視危機

（一）算法本身所表現出來的社會歧視性

公共政策的制定多是基于對不確定事件發生可能性的信念，當算法用于公共政策制定時，人們都會對這個擺脫個人主觀評估和人類思維局限的決策模式報以極高的期待。但在實際應用中，算法依然會表現出人類社會中長期存在的歧視，甚至加劇固化這樣的歧視與偏見。

一是因為算法本身是人類設計的產物，是人類社會的技術投射。算法將各組數據抽象出函數與模型，并利用新的數據驗證優化已有的模型，對多個事物進行分類，通過外在特征對新事物進行預測，這與人類的思維與認知方法相似。

二是算法的出現是人類對效率效益追求的集中體現。以互聯網為依托，以算法為技術核心的各類平臺通過數據分析和精準預測帶來了實在的經濟利益。當算法以經濟利益和效率為最高指導標準時，勢必會忽視甚至抵觸平等、自由等現代社會理念，而這些理念只是算法構建的世界中的一部分數據而已。

三是數據并不具有絕對的中立性。首先，數據的產生并不一定反映真實的情況，個人某些數據的產生具有偶然性，錯誤數據的產生也難以避免，偶然和錯誤的數據并不能作為預測未來的依據。其次，數據的收據存在偏差，數據可以說是現實社會在電子技術世界的鏡像映射，現實中存在的偏見與歧視的特殊社會行為和心理則會相應地反映到數據中心，自然無法得到公正的算法結果。

（二）傳統法律難以有效應對算法歧視

法律作為社會的普遍性規范，預測和解決的只能是社會的大概率事件，在成本的制約下無法對個人進行個性的規制，但隨著算法技術的廣泛使用，法律可以根據個人產生的數據制定個性化的規則。

首先，平等權所追求的法律面前人人平等，其內涵是法律的可知性與一般性。法律的一般性表現出的是意志、對象和適用上的一般性，這種一般性對法制建設發揮著積極的促進作用，可以說是法治的支撐點。若是個人的權利義務會因為個人行為數據在算法模式下產生差異，那么平等權實現的可能性便蕩然無存。由算法產生的個性化規則容易導致實質上的不平等，實質化的平等必需是和理性和正當性的差異化對待，實質化的平等追求的是特殊事實與一般規則的一一對應。而算法的個性化規則是特殊事實與特殊規則間的對應，使得法律具有不確定性，期待可能性大打折扣，難以保證算法做出的劃分不具有歧視性。

其次，傳統以立法為核心的保護模式具有先天的滯后性。在過去技術更迭緩慢、社會經濟結構變化不夠劇烈的時代，穩定的立法起到了很好的維持社會穩定的作用。但法律的調整方式是回應性的，是趨向于保守的，而算法的發展是快速更迭的，依靠大數據和實時的自我學習升級，算法權力涉及的深度與廣度在不斷增加，相應的，歧視可能也在不斷增加。先占者將利用其資本、技術和資源使其壟斷地位難以被法律撼動，過去的法律思想和法典意識將難以應對新時代的發展。

第三，傳統的行為主義司法救濟難以有效應對算法歧視。過去的保護模式是在侵害行為發生之后，采用事后賠償、懲罰來予以矯正，其追求的是對侵害結果的控制。由于算法本身難以預測，其對不同個體、不同方面表現出來的歧視內容可能大相徑庭，難以對未來的侵害方式和侵害結果進行有效的預測。算法同時具有較高技術性，使得立法和司法人員難以完整理解和全面把握其內在邏輯，進而采取保守態度使得立法更為滯后。因此，算法歧視的救濟模式應當變為對風險的預知和防控。

三、平等權保護新模式

如上文所述，算法本身具有的黑箱屬性，透明度不足，使得其運行過程難以被理解，同時，在算法的高度專業性以及商業秘密保護等掩蓋之下，許多有意識和無意識的歧視都被隱藏在難以被人們理解的代碼、公式和數據之中。因此，需要用新的方式面對算法歧視。

（一）應當從單純對數據的保護變化到對算法運行的規制

過去，平等權的保護側重保障的是數據的獲取和使用過程中對個人隱私權的侵犯，但隨著時代的變化，數據產生和使用的方式發生了巨大的變動，各個商業平臺與公權力部門利用各自的算法，甚至在互聯網上形成了割據的形勢，占據著各自的權力范圍，使得傳統的數據保護模式逐漸失靈。單純的數據不能產生危害，數據只有經過算法的加工才會出現可能的風險和危害，因此需要加大對算法使用者在算法使用過程中的監管與識別。

算法作為一種復雜且具有較強專業性的技術，傳統的機器識別以及一般人工識別將難以辨別其中的歧視行為。只有加強專業人士對算法運行的識別判斷，以及對普通公民進行相應的人工智能算法教育，使得大眾能夠充分認識了解算法，理解算法可能帶來的歧視、偏見等問題，增強大眾在新時代的新的“維權”想法，才能夠實現社會中的廣泛共識。

（二）加強對算法的權力規制

算法雖然是一門技術，但如果法律僅僅將其作為一項技術進行規制，將忽略算法除去技術屬性的權力屬性。如果僅僅視為一項技術予以規制，將使得其應當被規制的重點被忽略，例如僅僅關注其不透明，而要求公開算法的技術和運行方式，這只會使得公眾的認知壓力不斷加大，而不能從實質上去解決問題。同時，相關的算法平臺企業會承擔更多的開發投入、商業秘密保護和知識產權競爭的壓力。這樣單一層次的規制，最終難免為了規制而規制，而失去了算法技術的優勢。當把算法認定為一種權力予以規制時，現有的針對公權力的監管模式和體系可以很好地套用在算法權力之上，從而保證制度的合理運行，其對責任主體的判斷和制約也會變得更加得心應手。也就是說，可以不斷督促設計者增強對算法使用過程中的責任。

參考文獻：

[1] 張愛軍，王首航.算法：一種新的權力形態[J].治理現代化研究，2020（1）.

[2] Latanya Sweeney.Discrimination in online ad delivery[J].Queue， 2013（3）.

[3] 劉永謀.機器與統治——馬克思科學技術論的權力之維[J].科學技術哲學研究，2012（1）.

[4] David Beer.The Social Power of Algorithms[J].Information， Communication & Society，2016（1）.

[5] 尼爾·波斯曼.技術壟斷：文化向技術投降[M].何道寬，譯.北京：中信出版社，2019.

[6] 胡凌. 超越代碼：從賽博空間到物理世界的控制/生產機制[J].華東政法大學學報，2018（1）.

[7] 許可.人工智能的算法黑箱與數據正義 [N].社會科學報，2018-03-29（6）.

[8] 胡凌.人工智能視閾下的網絡法核心問題 [J].中國法律評論，2018（2）.

[9] 鄭戈.人工智能與法律的未來[J].公民與法 （綜合版），2017（12）.

[10] 張凌寒.算法權力的興起、異化及法律規制[J].法商研究，2019（4）.

作者簡介：黃梓航（1999—），男，漢族，四川廣元人，單位為華東政法大學，研究方向為法學。

（責任編輯：王寶林）