智能時代算法治理的合理性證成

蘇令銀

More and more literature studies how algorithms shape the social order based on their unprecedented ability to manage social complexity from the perspective of institutionalism and social governance. As a new type of technical governance and a unique form of social coordination, algorithmic governance seems to have gone beyond the established management scope and mode. Therefore, a new way of thinking mode about how to adjust the order and social relations is needed. Algorithmic governance has achieved the result of group discipline and coordination in a novel way, which can be explained by Hobbes’s political philosophy. Comparing algorithm governance with it can highlight their similarity in social governance and therefore prove the rationality of algorithm governance.

一、引 言

隨著人工智能技術逐漸借助于算法嵌入到社會治理之中，學界更多是從批判意義上對算法治理進行討論的，比較多地關注了算法治理帶來的風險、挑戰、困境及其應對問題。①參見唐皇鳳：《數字利維坦的內在風險與數據治理》，《探索與爭鳴》2018年第5期；賈開：《人工智能與算法治理研究》，《中國行政管理》2019年第1期；陳思：《算法治理：智能社會技術異化的風險及應對》，《湖北大學學報》2020年第1期；孫慶春、賈煥銀：《算法治理與治理算法》，《重慶大學學報(社會科學版)》2019年。本文關注社會治理過程中算法治理的合理性及其依據。隨著高度自適應算法決策系統的普及，人們對此類應用程序的社會和政治作用的興趣日益高漲。有兩種方法可以直接看到算法決策系統的政治維度。首先，算法決策系統被政治行為者作為治理活動和促進政黨政治目標的工具。其次，算法系統被作為政治行動的對象進行討論，由于一些應用程序可能產生深遠的社會影響，越來越多的研究設法解決這個問題，即如何能夠和應該如何監管算法系統。然而，由于算法在自動化和高度自主性的決策系統中的應用，使得新的規制形式成為可能，因此，算法也被認為具有更廣泛的政治意義。大量來自媒體和法律研究領域的貢獻在于將它們描述為構建行為和干預社會秩序的體系，并因此賦予算法政治地位。類似地，一些學者將基于算法的協調稱為一種治理形式，并通過塑造社會現實的結構介入到社會和文化中。②DANAHER,J..“The threat of algocracy:reality,resistance and accommodation.”Philosophy &Technology,2016，29(3)：pp.245-268.

現有的研究突出了算法治理的特殊性及其處理復雜協調任務的空前能力。作為一種社會導向形式，算法治理似乎在其他已建立的治理形式中脫穎而出。因此，現有的概念似乎不足以讓人們正確地理解算法治理及其所需的社會秩序。然而，雖然算法治理確實是一種實現社會協調結果的新模式，但它仍然可以與一個相當古老的政治哲學模板保持一致。本文借鑒霍布斯的政治哲學，展示了算法治理作為一種塑造社會秩序和促進社會協調的方式的主要特征，分析了它究竟是如何與利維坦相媲美的。探究這一類比的價值在于更清晰地了解什么樣的社會秩序和算法治理會成為現實。

盡管算法治理在響應其接收到的個人輸入時可以達到令人敬畏的程度，但這并不等于民主統治的響應性和問責性。相反，就像霍布斯的《利維坦》一樣，它承諾產生某些結果，如果不這樣做，這些結果是無法用服從來換取的。它消除了對于政治來說至關重要的東西，因為對產生結果的方式的爭論和挑戰在這個過程中沒有立足之地。認識到算法治理的政治中立核心及其對社會進行排序的模式是重要的，它在一定程度上發揮了公共權力的政治作用，而且這種權力絕不是完全中立的，因為它必然體現某些價值和目標。

二、算法治理的興起及其特征

算法治理的出現與數字技術的進步密切相關，特別是自20世紀90年代以來，數字技術的進步極大地增強了以信息為基礎的規制活動和處理復雜協調問題的能力。生成、傳輸、存儲和處理信息能力的爆炸式增長，使得網絡交互的形式成為可能，其特征是多種實體共存，可以動態地調整他們的行為。

利用這些技術能力的規制形式在規則范圍內對算法治理進行討論。這種治理通常被視為一種特殊的社會規制模式，它承諾將極大地提高管理社會復雜性的能力。利用這種能力，實施這種治理的具體設想便是所謂的智慧城市。在智慧城市的背景下，算法決策系統應該促進對城市資源和流程的智能管理（例如在能源、交通、教育或犯罪領域），但也應該更好地包括并服務于市民及其需求。以交通管理為例，算法治理通過設置交通燈、引導駕駛員、根據實際需求動態調整公共交通來實現城市交通系統的優化。這種智能交通管理甚至可以包括單獨和動態地將司機引導到停車位，從而優化時間和精力的總體成本。處理本案例中涉及的具體復雜協調任務是通過算法治理的一般特性實現的，這些特性允許算法治理在其他領域執行類似的操作。在現有文獻的基礎上，成熟的算法治理以其最有效的形式和作為調節行為的手段，具有三個基本特征。

首先，算法治理的特征是分布式實體的分散協調過程。有關行為和某些實體狀態變化的信息反饋到算法決策系統，以便其他實體行為能夠與這些信息更新相協調。然而，這不是完全自發的，也不是混亂的。各種輸入在算法系統中相遇，算法系統介入行為的相互調整和協調，并進一步從構成協調活動基礎的輸入中產生知識。算法治理通過一種特定的調控形式——設計調控——來發揮其規制作用。這個概念已經出現在萊斯格的（Lessig）“代碼即法律”①LESSIG,L..Code:and other laws of cyberspace，In Nachdr.New York:The Perseus Books Group，2002：pp.8-15.的聲明中。這意味著代碼具有制度性，因為它通過允許某些決策和限制其他決策來有效地構建行為。類似地，算法治理不需要做出有約束力的決定來影響和引導行為——盡管它當然也會涉及具有強制性的決定。相反，它可以通過設計參與者的信息環境來實現這一點。楊（Yeung）因此使用“選擇架構”②YEUNG,K..“Hypernudge,big data as a mode of regulation by design”.Information,Communication &Society,2017，20(1)：p.120.的概念來描述算法治理的形式如何通過提供特定的信息、選項和建議來構建參與者的決策情況，從而使一些選擇更多，而另一些選擇更少。

其次，算法治理基于處理行為信息的學習和適應，預測分布式實體的未來行為，從而根據這些預測對它們進行最佳協調。以這種方式優化輸出可以基于注冊信息的組合進行，包括個體行為、較大環境中的變化以及這些實體整體的聚合變化。通過這種方式，自主性算法決策系統能夠檢測出行為中的模式，然后將其用于規制行為。它動態地調整自身以適應不斷變化的環境和輸入，從而優化生成的輸出。

再次，算法系統產生的輸出（例如信息、建議或決策）進一步被個性化，以使其適應個人及其特征。這樣，算法治理的目標是大規模定制同時得到最佳協調的輸出。具體地說，它是基于許多實體上已注冊的模式行為的智能搶占，這有助于確保有效解決協調問題。這也意味著，所討論的社會關系的規制和排序并不僅僅來自于提供一個單一的框架或規則體系結構，這些規則共同嵌入并構建個人的行為。相反，算法治理能夠獨立地、自主地嵌入和規制行為——因此相當于某種微嵌入，并提供大規模個性化。

在這一點上，把“代碼即法律”顛倒過來是有意義的。在算法治理的背景下，從表面上看法律被視為一種相當粗糙的代碼形式。正如萊斯格在論證中所承認的那樣，代碼和算法在規范行為方面的作用可以與法律相媲美，而以高度自主性算法系統形式出現的權威性代碼則可以應對更大的復雜性①LESSIG,L..Code:and other laws of cyberspace，In Nachdr.New York:The Perseus Books Group，2002：pp.8-15.。其決策規則在動態地適應不斷輸入時可能會發生快速變化；個人的微觀嵌入包括選擇和決策規則，這些規則可能是非常細粒度的。因此，算法決策系統可以根據學習到的不同處理規則與個體進行交互，這些規則適應了個體的性格和行為模式——就像一張毯子，它被鋪在一個不平整的表面上。這個毯子越固化，它的微觀規則的紋理就越變成一種鑄造模型，可以規制或約束個人的行為。基于這些能力，算法治理可以執行非常有效的社會規制，甚至在沒有強制因素的情況下也可以起作用。它可以通過對信息環境和眾多個人決策情況的高度適應性、協調性和針對性的干預來實現。

三、算法治理：實現復雜社會治理的可能性

算法治理以一種獨特的、高度復雜的模式出現，這種模式對社會關系進行排序，并在潛在的大規模范圍內產生集體協調結果。這些能力不僅僅是理論上的可能性。有大量的應用程序旨在利用算法治理的潛力來管理復雜的社會規制問題，各國也越來越多地利用算法決策系統來提高各個領域的駕馭能力和轉向能力。一般來說，算法決策系統增強了作為政府關鍵政策資源之一的信息或節點。

根據行為經濟學的觀點，國家可能會使用“說服”和其他方式來影響利用信息權力的行為，從而構建決策情景并進行有針對性的干預，包括結合使用算法決策系統②DUNLEAVY,P..“Big data”and policy learning.In G.Stoker &M.Evans (Eds.),Evidence-based policy making in the social science:methods that matter.Bristol Chicago,IL:Policy Press，2016:p.77.等。此外，在安全、法律和秩序領域，利用算法治理能力的綜合監控系統可用于監控和識別安全風險，以有選擇性、針對性的方式進行預測和干預。③ZWEIG,K.A.,WENZELBURGER,G.,&KRAFFT,T.D..On chances and risks of security related algorithmic decision making systems.European Journal for Security Research,2018，3(2)：pp.181-203.通過這種方式，國家能夠將風險最小化，而不必通過規則設置對行為進行分級和集體約束，從而允許更高層次的社會復雜性。

在公共服務層面，算法決策系統可以被視為“數字時代治理”的核心部分。數字增強管理利用處理后的大量分布式數據來預測服務需求并自動提供服務，這類智能服務使公民能夠被誘導進而要求他們成為更加個性化公共服務的共同生產者。在這種情況下使用的算法治理還可以對公民行為做出預測，利用預測來改變期望和誘導動機，從而優化協調努力和實現理想目標。總之，“在這種情況下的治理意味著教會算法根據公民的行為來行事”④WILLIAMSON,B..“Knowing public services:cross-sector intermediaries and algorithmic governance in public sector reform.”Public Policy and Administration,2014，29(4)：p.308.。

算法決策是由國家來處理各個領域的社會關系，如刑事司法、教育、交通、醫療保健和社會福利——因此將這種治理用于表面上的政治功能。然而，類似形式的規制和協調也可以被發現超出了國家的范圍。私人行動者（如互聯網平臺）也可能采用算法治理的方式，對社會秩序進行大規模干預和塑造。例如，算法決策系統應用于營銷實踐，使用大量個人數據對其進行分類，預測其偏好并自主地、有選擇地以在線廣告或推薦的形式呈現信息。更普遍的是，互聯網平臺的過濾和決策機制引導著信息流，塑造著數百萬用戶的社會感知。因此，它們影響了文化、知識和社會現實的構建。如關于搜索引擎，納珀利（Napoli）指出：“作為搜索引擎核心的算法發揮著與現有媒體機構類似的政治功能。盡管只有少數參與者（比如大型互聯網公司和金融機構）能夠建立覆蓋大型集體的算法系統，但他們仍然建立了具有深遠社會影響的信息基礎設施。”⑤NAPOLI,P.M..“Automated media:an institutional theory perspective on algorithmic media production and consumption:automated media.”Communication Theory,2014，24(3)：pp.340-360.

事實上，由算法決策系統執行的社會排序并不局限于狹義上的國家或政治角色，這與治理的概念（治理不一定由政府完成）非常一致。這種基于算法的協調也通常符合對治理的共同理解，即治理是通過相互依賴的行動者之間的協調過程，并根據制度化的規則來規制社會關系。然而，盡管治理的概念是出了名的廣泛，但算法決策系統執行的這種復雜的協調超出了現有的治理形式，似乎超越了傳統的類別和治理形式。人們有充分的理由認為，算法治理是一種規制和管理社會復雜性的獨特模式，它需要一種新的方式來思考社會如何才能有序。

首先，從算法治理動態實現分散協調的角度來看，它類似于基于市場的交互協調，并接近一種可能的社會治理形式，即社會自組織。與此同時，由于算法治理的技術控制元素，它表現出更接近相反的特征。它不僅依靠分散的以市場為基礎的協調的“智慧”，而且根據它用來作為其選擇和決定基礎的一種特殊知識采取行動，以取得最佳的協調結果。算法系統產生的一種知識，它或多或少對這種知識具有排他性訪問。因此，就像一個技術型政府一樣，信息系統應該具有規制規則制定和行為指示的高級知識。

其次，算法治理對于它作為一個行動者的地位是矛盾的。一方面，它符合作為一套規則來創造期望，塑造和嵌入行為的制度的普遍概念。另一方面，它針對目標干預的規則是有選擇性的、動態調整的，這為自主行動者提供了算法治理特性，算法決策系統調解并主動干預許多個體的感知和行為。它是自我調節的，隨著時間的推移而學習，從而逐漸調整執行干預的方式。

再次，算法決策系統作為一個集中的實體，與大量的個體實體交互。然而，它并不是以一種統一的方式，而是以一種差異化的方式——通過其個性化輸出的能力——來做到這一點，就好像它同時是許多不同的行動者。

總的來說，有了這些能力，算法治理顯示出在復雜性增加的情況下調節社會關系的非凡能力。因此，它有可能改變未來社會的組織方式。這不僅適用于前面提到的應用程序，在這些應用程序中，國家使用算法決策系統來解決某些領域的協調問題。算法治理的能力也形成了更廣闊的社會愿景的基礎，在這個社會中，社會關系日益協同，并由一個全面的、算法增強的神經系統的智能規制來塑造——這一愿景也為智慧城市的創建提供了信息，并與電子政府的某些理念產生了強烈的共鳴。除了簡單地承諾有效和高效地處理社會規制任務之外，算法治理還以高度響應和分散的方式管理復雜性社會，它納入并容納受其協調活動影響的個人的投入。具體來說，它整合了各種不同的投入，將復雜性轉化為集體協調和規制結果，但沒有根除這種復雜性。在這一方面，它甚至反映了在不犧牲多樣性的情況下創造統一的民主承諾，同時在管理社會復雜性和實現響應能力方面超越了任何已知的治理形式。這可能有助于進一步形成這樣一種概念，即算法治理本身可以維持一種新的社會秩序方式。然而，這種概念最終可能是具有誤導性的。

四、算法治理：智能時代社會治理的新范式

（一）算法治理：算法驅動下的數據巨機器

算法治理作為塑造社會秩序的一種非常有效的模式出現，它在一定程度上發揮了政治功能，產生了集體協調的結果，這些結果可以等同于作為一種規范行為模式的集體約束決策。這一功能還以前所未有的管理社會復雜性的能力得以實現。然而，其新穎的特點和特殊的運作模式，為理解算法治理實現什么樣的社會秩序或政治愿景提供了條件，人們可以借鑒一個已經成為現代政治思想基石的模板——托馬斯·霍布斯的《利維坦》。智能社會的運作模式是利用所有個人的力量，形成算法治理與協調的一部分，這讓人想起霍布斯的《利維坦》中的人物形象——他甚至將其視為一臺巨大的機器。從某種意義上說，算法決策系統形成了一種“算法利維坦”（Algorithms Leviathan），因為它們激發了一種潛力，這種潛力在于涉及許多個人的可能協調結果。它是通過實現復雜的協調任務和解決協調挑戰來實現的，而參與這些任務的個人甚至不一定知道這些挑戰的存在。因為個體之間沒有通過相互作用來產生集體行動的解決方案，他們都通過算法系統作為中介來協調他們的各種行動并產生集體結果。因此，通過與中介的交互，他們都可以表現得好像實現某個結果是他們的集體目標，但是他們不必了解這種協調工作固有的復雜的手段—目的關系，這是算法系統的任務。

總之，個人不必相互信任，他們首先必須期望通過算法協調進行的調解能產生令人滿意的結果。不僅在他們的背后，而且在其他人的背后，這種協調類似于“看不見的手”對社會關系進行排序的想法——甚至比基于市場的協調更相似，因為在算法治理中，存在一個執行主動引導的實體。盡管這種轉向似乎與霍布斯設想的那種規則相差甚遠，但仍有一個驚人的共性，即有效性。這種有效性植根于一個單一的算法系統，該系統從眾多的個體那里汲取力量。同樣，霍布斯明確地把利維坦理解為一個“人造人”，但它由許多個人組成。

像霍布斯的利維坦那樣，算法系統的排序、選擇和決策雖然居于幕后，但仍然存在并在多種社會關系中發揮作用。因此，算法治理也呈現出一種制度性特征，即它被歸化并具有自己的生命。與其他機構一樣，它可以嵌入到社會實踐中，通過提供信息和激勵以及形成預期來調節社會互動。正如施羅德和凌格（Schroeder&Ling）在更廣泛意義上所指出的那樣，“信息和通信技術的擴散導致社會關系和個體體驗越來越多地以技術為媒介”①SCHROEDER,R.,&LING,R..“Durkheim and Weber on the social implications of new information and communication technologies.”New Media &Society,2014，16(5)：pp.789-805.。在這方面，算法治理是一個特別突出的例子，它是一種有力的中介——主動干預社會秩序——它在后臺運行時無處不在。在霍布斯看來：“統治君主和實現某種社會秩序的安排是通過個人之間相互同意放棄個人做任何事情的自由而建立起來的。”②HOBBES,T..Hobbes’s leviathan.Oxford:Clarendon Press，1909：pp.133—134.具體來說，個體將決策的權力和責任割讓給算法系統，使系統能夠在一定程度上基于預測個體的欲望和偏好并據此進行干預的基礎上，履行其協調作用。

這是通過這些個體之間的社會契約實現的，然而，與其說它是某種真正的原始契約，不如說它是一種假想的結構：個人放棄他們的自然自由，將權力交給統治者。統治者的任務是創造和保護社會秩序，并為每個成員維護同等程度的個人自由。這是并行的算法協調，是基于自愿放棄一些個人自主。具體來說，個人將決策的權力和責任交給算法系統，以便系統能夠履行其協調作用，部分基于預測個人的欲望和偏好，并相應地進行干預。與算法治理系統綁定的個人會希望將他們對系統的信任提高到期望算法協調將滿足他們大多數需求的程度。就像霍布斯對政治秩序的看法一樣，個人通過自我約束，通過放棄自由來實現一種授權，因為他們渴望在算法系統的輸出中占有一席之地。然而，這并不是通過一些實際的社會契約來實現的，而是通過許多有意或無意的個人決定來實現的，從而使自己服從于算法的協調。

一個主要的區別是利維坦的權威基本上是建立在對過早和暴力死亡的恐懼，以及對安全的承諾。相反，算法協調的權威不是來自保障和平，而是來自幫助追求幸福和滿足個人偏好的承諾。然而，在這種情況下，最優的協調結果可能會被削弱——就像霍布斯所說的英聯邦在放棄對君主的服從時所做的那樣。要信任算法協調工作，個人必須能夠期望它是有效的、公正的和公平的。因此，它的輸出創造了算法治理的接受度和合法性。這反映了霍布斯的觀點，即政治統治的合法性最終建立在其有效性之上。在這種可感知的有效性的情況下，算法協調的中介系統提供信息、建議或決策，使得它們所處理的問題傾向于自身利益的需要。事實上，正如一些學者所指出的那樣，如果這能給他們帶來明顯的好處和便利的話，人們普遍愿意服從甚至依賴于各種形式的算法監控和規制。③ZUBOFF,S..The age of surveillance capitalism:the fight for the future at the new frontier of power.London:Profile Books，2019：p.121.只要個人不質疑算法的有效性和公平性，沉迷于算法協調帶來的好處，它不必具有權威性和約束力，以達到同等的效果，這標志著算法治理和霍布斯的君主思想之間的進一步類似。

為了實現其有效性和效率，并實施協調，算法協調同樣要求個體依靠其卓越的分布式意識和“智能”來實現個體滿意的結果，這也是更大的協調努力的一部分。將這種協調工作開放給挑戰和質疑這一過程的個人，讓他們利用自己的判斷，將很容易犯阻撓算法系統性能的風險。以前面提到的停車引導系統為例，可以說明算法決策的爭論如何破壞協調工作。越多的個人推脫本應產生一個最佳的集體結果的算法建議和決策，或對這些決策背后的標準提出質疑，就越難達到最優的結果。此外，在協調過程中，算法決策的可競爭性可能會促使個人利用這個選項來改善結果——從而阻礙協調工作。這并不是說算法治理必然形成一個絕對權威，不由受其決策影響的那些人的控制。正如下文闡述的，對算法治理的控制很可能通過適當的程序實現。然而，就其優化和協調的過程而言，它需要作為一個不容置疑的權威來運作，如果它要實現這種能力，就必須有能力取得最佳的協調結果。因此，算法治理的價值似乎在于它作為“運轉良好的數據巨機器”的特性，用卡爾·施密特（Schmitt）的話來說：“它指的是國家在某些政治思想中假定的價值。”①SCHMITT,C..The leviathan in the state theory of Thomas Hobbes:meaning and failure of a political symbol.Westport,Conn:Greenwood Press，1996：p.42.然而，施密特補充說，國家似乎只是一個純粹的技術手段和中立安排。類似地，前面的考慮意味著算法治理不僅僅是一種技術手段，它還將是一種特定的社會秩序——即對社會事務的政治中立性管理。

（二）政治中立：算法治理的根本追求

與利維坦的地位和權力類似，算法協調的權力與無爭議是密切相關的。這就是算法治理的一個根本特征，它與政治完全相反，因為政治是一個持續的過程，在這個過程中，不同的觀點可以相互競爭，對現狀的挑戰不斷出現。在這里，不再有一個開放的過程，在這個過程中，可以為集體決定，為治理公民的價值觀、規則和制度而斗爭以實現政治目的。它的反面就是朗西埃所稱的警察，警察被理解為社會生活的管理和秩序，而不是對這種管理的質疑。②RANCIERE,J..Disagreement:politics and philosophy.Minneapolis:Univ.of Minnesota Press，1999：pp.27-31.從后一種意義上說，《利維坦》是政治中立性的，它通過建立主權的行為和這個主權為管理社會秩序而做出的集體有約束力的決定，充分體現了它的政治中立性。沒有政治辯論和爭辯的空間，君主本質上是一個強大的管理者；這種治理社會的主要任務是確保私人經濟活動能夠開展和展開的空間，而不是建立一個政治斗爭的舞臺。

算法協調也具有這種政治中立性。一方面，它是一種潛在的強大的協調模式，可以塑造社會關系并有效地運作，就好像它在做出集體和權威的決定一樣。另一方面，它的協調過程遵循一種行政的、技術官僚的解決問題和對投入做出反應的模式，例如以偏好或需求的形式③KITCHIN,R..“The real-time city? Big data and smart urbanism.”GeoJournal,2014，79(1)：pp.1-14.。因此，它與上面所描述的政治有著根本的不同，也與詮釋學的追求（在政治所涉及的語言模式中創造并與意義斗爭）不同。這一進程不能按照預先確定的方向進行，也不能停留在現實的基礎上，因為它不是關于優化某些目標，而是關于確定規制目標和價值應該是什么。根據實用主義哲學及其社會觀點，語言的使用總是包含著一種不可消除的不確定性因素，因為語言游戲從來都不是完全復制和穩定的，但它們總是伴隨著修改、突變和開放。算法治理無法減輕個人在這些語言游戲中的徜徉、應對不確定性和不同的觀點，以及決定何時挑戰現有規則和決策。

因此，希爾德布蘭特（Hildebrandt）強調了一個重要的區別，即關注法律實踐中的信息處理，而不是計算操作。她指出，法律是一種論證實踐，而不僅僅是一種信息處理。因此，法律判決不僅僅是在準確性方面的表現，“判決本身是基于對法律確定性的任何具體解釋的可競爭性”④HILDEBRANDT,M..“Law as information in the era of data-driven agency:law as information.”The Modern Law Review,2016，79(1)：pp.1-30.。與計算中符號的處理不同，法律實踐是以論證為基礎，以人類語言的方式進行的。它包含了一種主體間性和解釋學的維度，即關于意義、社會規則和價值內容與基礎的斗爭。這種做法允許經歷一個通過重新評估、修訂和更新社會規則和價值觀來學習的過程。相反，雖然算法治理通過響應不斷變化的輸入也能自我調整。但這不會在對話和推理的層次上發生，也不會涉及規制其進程的目標和參數。

因此，算法協調的高度響應性（包括提供個性化輸出作為對個人輸入的響應）不應與受此控制的人的集體影響或自主性相混淆。它與自由民主制度所實現的反應方式有著根本的不同，后者涉及一個持續的過程，即根據被統治者的投入來設定、爭論，甚至可能修訂目標和決定。相比之下，算法治理的自主性是為了最好地實現某些實質性和程序性的目標，而這些目標本身并不是優化和協調過程中的主題。

綜上所述，算法系統的學習和算法協調作為管理社會關系的一種方式不能取代政治學習過程，而算法治理實現響應性的意義在于它響應單個輸入，并對應著類似于個體消費的首選項實現。

（三）價值關涉：算法治理對社會治理的影響

總之，通過算法治理來實現社會協調和管理社會復雜性與通過政治來處理社會復雜性是完全不同的。然而，這兩者在一些方面有功能上的聯系。雖然算法治理需要一種政治中立性的規制模式，但正是這種政治中立性對社會治理產生了重要的影響。

首先，嘗試在某些領域建立算法治理，并根據其運作模式塑造這些領域的社會關系。這樣的嘗試很可能是基于這樣的前提，即正確設計的算法決策可以實現對復雜問題的卓越和客觀的解決方案。這本身就是一個社會治理舉動，因為算法治理等同于發揮公共權力，而這種權力絕不是中立的。正如學者一再指出的那樣，算法決策系統必然包含特定的價值、目標和程序參數，這些價值、目標和過程參數決定了決策系統的運行，而這些價值、目標和過程參數永遠都不是中立的或客觀的，即使它們可能被規范化并被視為理所當然。這些規制其活動的目標和參數形成了算法治理的制度核心，很容易被其不斷的流動性、適應性和以不同方式與分布式實體交互的能力所掩蓋。

其次，算法治理背后的目標和價值問題可以被明確地提出，并且在其體系結構的核心原則和目標上可能會有沖突。但這一政治進程本身不會遵循管理和技術官僚解決問題的模式，也不會成為算法協調的一部分。社會治理起始于算法系統應該完成什么、應該體現什么價值、應該實現什么公平概念等辯題。這正是試圖給算法系統一個明確的、社會公認的基礎，并“在人類價值和治理算法之間創建通道”的想法①RAHWAN,I..“Society-in-the-loop:programming the algorithmic social contract.”Ethics and Information Technology,2017，(online first)：pp.1-10.。此外，算法決策系統本身用于集成和聚合輸入，以促進政治互動、意見和群體意志形成。可以設計相應的系統或平臺來維持持續的爭論和審議過程②VAN DEN HOVEN,J..“E-democracy,E-contestation and the monitorial citizen*.”Ethics and Information Technology,2005，7(2)：pp.51-59.。然而，這樣做的時候，他們完全不會執行上面描述的那種算法協調。因為協調、學習和判斷的機制存在于參與的個體中，涉及他們通過公認的程序共同設定的目標，以管理他們的互動關系。

無論如何，關于算法治理的適當設計和使用的價值辯論會引發涉及復雜技術問題的難題。繼希爾德布蘭特之后，產生歧義的一個主要原因是，為同一目的設計的不同算法系統導致了不同的結果③算法系統以數據的形式處理輸入，而這些數據本身并不能說明問題——它必須基于選擇規則和關于什么是相關的決策進行處理；基于現有信息進行選擇、分類和區分的具體方式總是以一種特定的方式呈現。。此外，還有各種各樣的、部分相互矛盾的方法來評估和實現目標（例如質量和公平性）這為討論最佳解決方案提供了大量的空間④BERK,R.,HEIDARI,H.,JABBARI,S.,KEARNS,M.,&ROTH,A..“Fairness in criminal justice risk assessments:the state of the art.”Sociological Methods&Research,2018，4（1）：p.253.。

再次，算法治理可以努力消除政治中涉及價值關涉的領域。它具有微自主性過程和分類能力，通過分離和分類而不是集成來解決協調問題（例如，通過合法機構的審議或權威決策）。事實上，算法排序可以解決看似不可避免的個體與歸屬或社區之間的緊張關系，換句話說，也可以解決社會整合中的機制與有機體和諧之間的緊張關系。個人可以選擇他們的社會環境和社區，并通過算法過濾來維護自己的邊界。因此，加強和維持社區不再必然與個體化和復雜的功能分化相沖突。因為算法協調可以幫助容納和整合許多不同的或多或少封閉的社會領域的多樣性。通過這種方式，它減輕了在社會高度復雜性條件下治理的核心挑戰之一，即從多樣性中創造和諧與統一。

算法治理——如果它運行良好的話——通過對輸入和輸出做出適應性的響應來產生令人滿意的結果。然后，它朝著這樣一種狀態努力，即它的規制目標和參數甚至沒有理由進入人們的視野。這種定位在其設計中有一個重要的含義。這意味著無論其實質性和程序性目標是否由受影響者制定，它的目標是通過被認為是令人滿意的輸出做出反應和接受。在這種情況下，受影響的積極的個體經驗和算法系統的有效性，以及效率的誘惑可以激發對算法的信任，這些都涉及關于算法治理的價值責任問題。正如許多學者所指出的，問責制問題的出現不僅因為其復雜的過程缺乏透明度，而且絕大多數個人仍然無法理解這種復雜性，但也因為通過設計實現的算法治理致力于消除問責制問題及其所體現的目標和價值的場合①LEPRI,B.,OLIVER,N.,LETOUZE,E.,PENTLAND,A.,&VINCK,P..“Fair,transparent,and accountable algorithmic decision-making processes:the premise,the proposed solutions,and the open challenges.”Philosophy &Technology,2018，31(4)：pp.611-627.。從這個意義上說，它在產生滿意的個人目標方面似乎是非常有效的，但是這些人是由他們自己制定的規則和目標來管理的，而這些規則和目標并不是個人自己制定的，也不是集體授權的，這種情況是否會出現在算法治理的未來應用中還有待觀察。至少在當前應用算法治理的實踐中，其結果、有效性和效率可以作為社會治理效能的主要評估標準。在商業應用程序（如互聯網平臺）中，個人消費者和用戶主要對接收某些服務和商品感興趣，即對于用戶來說，只要規制準則這些服務是有實際內容的，如何生成這些服務的問題就可以忽略不計——即使算法決策系統執行的是集體規制和協調功能。然而，對于由國家建立的應用程序，也可以觀察到類似的輸出維度的首要性。即使是強調程序層面的智慧城市概念化，也主要是指公民參與的過程，但往往不被視為政治行為。公民應該在算法系統中提供他們的參與性輸入，以利用他們的分布式知識和集體智慧，然后可以用來提供更好的服務，他們不打算頒布某種形式的集體自治。此外，正如布勞內斯和古德曼（Brauneis&Goodman）對算法治理在美國監管領域(如犯罪、健康和教育)的各種應用所表明的那樣，這些應用主要是通過它們的有效性來證明和衡量的②BRAUNEIS,R.,&GOODMAN,E.P..“Algorithmic transparency for the smart city.”SSRN Electronic Journal,2017,https://www.ssrn.com/abstract=3012499(Accesssd May16,2018).。與此同時，它們往往在透明度和問責制方面存在缺陷，而這些標準的重要性卻處于從屬地位。因此，在現實的應用程序中有一個明顯的趨勢，即根據算法治理的有效性來判斷算法治理。

總之，在滿足個人的需求和偏好方面，算法治理就像一個“巨大的機器”，調節著社會關系卻又退居幕后，從而實現一種社會治理功能。

五、結 論

算法治理是規范社會行為和形成社會關系的有效形式之一，有充分的理由認為它是一種真正新穎和獨特的治理形式，這種治理形式基于算法決策系統的能力，能夠處理復雜的社會規制與協調任務。一方面，它涉及一種強有力的去中心化的、類似市場的協調形式和社會自組織的思想。另一方面，它也展示了一種技術統治的元素，并有目的地介入到社會關系中，這些社會關系基于一些高級知識或智能，而這些知識或智能是最優協調行為所必需的。此外，算法治理通過設定規則和預期來形成類似于其他機構的社會關系。因此，算法治理涉及創建基于微嵌入的集體協調結果，微嵌入是個體行為的嵌入，自主地構建個人的決策。通過這種運作模式，算法治理標志著管理社會復雜性能力的質的變化。算法治理以其最有力的形式發揮了公共權力，因為它實現的結果可以等同于狹義上的集體約束決策與政治決策。與此同時，算法治理作為一種排序社會關系的新方式出現，甚至不太符合治理的一般概念。因此，算法治理似乎需要更新現有的思考方式，即如何在社會高度復雜的條件下實現社會秩序。

然而，如上所述，盡管算法治理具有新奇的性質，但它可以用霍布斯的觀點來理解，即君主是政治思想中的一個基本人物和模板。算法治理相當于某種“利維坦”，或者一個在后臺運行的“巨型機器”，將眾多個體的力量集合起來加以利用，這使得協調的結果成為可能。而個體本身是無法實現協調的。就像霍布斯的利維坦一樣，算法治理的有效性決定了它的可接受性。它需要個人放棄一部分自主性——即干預協調過程的自主性——以便算法治理能夠產生使這些個人受益的結果，否則這是不可能的。算法治理可以包括對社會關系的治理，這種治理對那些受影響的人是有益的，旨在產生響應性強、令人滿意的結果——正如霍布斯的利維坦理想狀態下會做的那樣。因為算法治理的目的是為順從的個人產生令人滿意的結果，它的社會政治結構與霍布斯的主權理論非常相似，盡管在社會技術條件方面的巨大差異可能掩蓋了這種相似性。與利維坦一樣，算法治理的運作模式最終表現出政治中立性，因為它沒有預見到對規制它的目標和標準的質疑或競爭。在實現其治理功能和復雜協調結果的過程中，算法決策系統是一個不容置疑的權威。因此，一方面，算法治理可以高度響應和適應個人輸入。另一方面，它只是在努力實現治理其協調工作的實質性和程序性目標方面具有高度適應性，而在修改這些治理標準本身方面卻沒有這種適應性。此外，算法治理的目標是對單個輸入做出反應和響應，并產生令人滿意的結果，而不管那些受影響的人是否已經設置或甚至意識到治理這個過程的目標。然而，這種社會關系的排序從來都不是中立的，因為它遵循特定的價值目標和參數。因此，有利于以某種方式對其他人發揮公共權力。

允許設置和修改這些價值目標的過程需要在算法治理之外來實現。如果那些受到算法治理影響的人能夠看到其集體協調成果以他們的名義產生，那么這種社會規制就必須得到集體授權。只有政治進程才能提供這種授權，以實現某些具體和程序性的目標，從而產生集體協調的結果。然而，政治過程涉及的是一種學習和適應，這與算法治理的適應過程及其工具性優化模式有著根本的不同。它是建立在對社會生活秩序的思想、價值觀和目標的持續斗爭的基礎上的，這一斗爭涉及話語中意義和解釋的重新談判。

總之，與霍布斯《利維坦》的類比有助于證成智能時代算法治理的合理性，以及為什么算法系統的學習不能替代涉及政治性的那種學習。當然，算法治理在管理社會復雜性和處理實體多樣性方面具有很強的能力，它的目標是在這些實體之間實現協調。但是，從多樣性中創造統一的政治任務則完全是另一回事。然而，盡管算法協調不能取代政治，但它越有效、高效地滿足個人的期望和偏好，它就越有可能表現出政治中立性：通過包容個人的異質需求和愿望，消除彼此間的摩擦，這需要彌合、整合不同的觀點和要求的復雜過程。也許正是在這種意義上，算法治理恰恰給社會治理帶來了最大的挑戰。