馬爾庫塞技術異化理論視角下算法治理的困境與反思

[摘 要] 馬爾庫塞的技術異化論繼承了馬克思的異化勞動思想，還利用弗洛伊德的精神分析學深入分析了發(fā)達工業(yè)社會條件下性格和心理層面異化的表現(xiàn)。馬爾庫塞認為科學技術具有兩面性，科學技術提高勞動生產(chǎn)率的同時，也讓人們喪失了作為主體獨立思考的能力。當前社會各種智能技術的廣泛應用都需要以算法作為基礎，算法技術已經(jīng)轉(zhuǎn)變了社會治理方式。在算法技術與社會運行和治理融合愈發(fā)緊密的背景下，算法治理隱含的異化問題逐漸凸顯。面對算法治理導致需求異化、勞動異化、主體性減弱等問題，目前可以從算法技術進行反治理、法律與政策的規(guī)范、培養(yǎng)面對算法技術的正確價值觀等多個方面解決，促進技術與治理良性循環(huán)，從而完善算法治理能力。

[關 鍵 詞] 馬爾庫塞；技術異化；算法治理

馬爾庫塞在《單向度的人》和《反革命與造反》以及其他作品中，都闡述了他的技術異化觀點，這是技術進步導致他具有極權主義特質(zhì)的原因。雖然他生活的時代與現(xiàn)在存在差異，但他對于技術導致的異化問題的思考，在當代展現(xiàn)得更深入。在當前的信息技術社會中，算法技術被視為核心技術之一。從計算機程序設計的視角來看，算法是由一系列用于解決問題的指令組合而成，能夠在規(guī)定時間內(nèi)按照既定的標準投入，實現(xiàn)高效的輸出結果。當前，利用信息技術進行社會治理已經(jīng)成為一種趨勢，但其快速的發(fā)展也帶來了一系列新的問題，包括威脅數(shù)據(jù)隱私安全、用戶主體標簽化、人類主體意識逐漸被減弱、技術奴役人類等。深入反思馬爾庫塞的“單向度者”和極權社會的觀點，將有助于我們更深入地理解算法治理中的異化問題，并在算法治理的發(fā)展趨勢中尋找合適的解決策略。

一、馬爾庫塞的技術異化理論

20世紀初期，科技迅速嶄露頭角，為我們帶來了前所未見的物質(zhì)性財富。然而，科技在本質(zhì)上的技術理性已經(jīng)開始逐漸轉(zhuǎn)變?yōu)橄魅鮽€體主體性的實質(zhì)性力量。此種變化扭曲了人與社會之間的關系，人類與大自然的關系也失去了平衡。法蘭克福學派在當時社會的背景下，汲取了馬克思關于異化的觀點和盧卡奇的物化理論，進而孕育出其最具有代表性的社會批判立場。馬爾庫塞作為這個流派的顯著人物，他主要關注“技術的異化”。馬爾庫塞在其作品《單向度的人》中以一個獨特的角色出現(xiàn)，他借鑒馬克思“異化勞動”的哲學思想，對此進行深度的重新解讀。

（一）技術異化的理論來源

異化是當一個主體與其行為的反面分離時，存在一種與主體的外在性和異己性相對立的異化權力。在馬克思的觀點中，社會的矛盾源于勞動的異化，人們的勞動行為和成果與這種異化是分離的，他們利用異己的權利來奴役和控制人們。

馬爾庫塞對馬克思關于異化勞動的觀點進行了進一步的繼承和拓展。他認為科學技術是一把雙刃劍，隨著技術的不斷進步，勞動生產(chǎn)率顯著提升，然而在財富持續(xù)增長的同時，技術也成為一種帶有極權主義色彩的操縱工具，給人們造成嚴重的負面影響。在馬爾庫塞的著作《單向度的人》中，他首次清晰地闡述了“技術異化”的定義。馬爾庫塞觀察到，在高度工業(yè)化的資本主義社會中，階級間的矛盾似乎得到了消解。他進一步指出，對技術的管理似乎真實地體現(xiàn)了對整個社會群體和社會利益的正面影響，這導致所有的沖突和對立似乎都變得毫無根據(jù)。[1]在資本主義初期的成長過程中，科技尚未完全成熟，社會各階層間的矛盾也變得尤為突出。工人們時常遭受資本家的壓迫和剝削，他們視機械為競爭對象，強烈不贊同機械化工作。然而，伴隨科技領域的持續(xù)進步，技術和工業(yè)化帶來的高度組織化和標準化趨勢已經(jīng)逐漸淡化了資本家與勞動者的沖突。與此同時，由于生產(chǎn)和消費習慣的改變，人們逐步融入機械設備中，這迫使他們按照統(tǒng)一的工作流程行事，進一步減弱了他們的主觀能動性和反抗欲望，導致失去批判思維的能力。

馬爾庫塞認為，科技的異化導致人們失去了否定、批判和超越性思維。人類是一種由技術主導的生物，這樣的統(tǒng)治模式讓每個人都陷入一種被壓制的境地。在資本主義快速崛起之前，人類的社會進化方式是多種多樣的。但是，在資本主義快速崛起的時代背景中，人類的多樣性進程受到了某些限制，統(tǒng)治者開始利用科技工具來主導和控制社會的話語結構。伴隨科技進步的速度，人們對物質(zhì)的渴求逐漸得到回應，不再尋求自由或與眾不同的生活哲學。在資本主義高度發(fā)展的工業(yè)社會，居民或許會覺得身處于相對寬松與自由的氛圍里，但實際上這只是一種表面上的幸福體驗，人們不再進行批判性的思考，而是成為一個單一的存在。單向度是指那些在失去否定、批判和超越的能力后，只滿足于現(xiàn)實中的利益的人。盡管這種技術與政治的融合并沒有推動人類走出固有的王國，但從技術的外在表現(xiàn)來看，人類的自決權和自主性似乎完成了馬克思描述的從自由王國向必然王國的歷史性轉(zhuǎn)變。我們似乎已經(jīng)擺脫了對事物的依賴，實現(xiàn)了人類的自由和全面發(fā)展。然而，我們沒有受到奴役和折磨，人類在依賴事物的過程中的社會形態(tài)并沒有發(fā)生改變，反而呈現(xiàn)出極權主義統(tǒng)治的另一種形態(tài)。

（二）技術異化的表現(xiàn)

第一，技術異化導致人的自我意識和個體生活的異化現(xiàn)象。在現(xiàn)代社會中，技術的發(fā)展在一定程度上解放和加強了人與自然的聯(lián)系，與此同時，技術也成為一種異化力量，使人們逐漸遠離自然和自我的本真。這種異化不僅表現(xiàn)在物質(zhì)層面，還表現(xiàn)在精神層面，即人的自我意識和個體生活的異化。算法治理過程中，治理削弱了主體決策的能力和行政機關的統(tǒng)治權威，人們更加依賴算法產(chǎn)生的治理數(shù)據(jù)和治理結果，逃避承擔治理效果產(chǎn)生的責任，將決策和責任都寄托在算法治理上。

第二，技術異化的外在表現(xiàn)形式是單向度的社會。在這種社會中，人們喪失了否定性和批判性的思維，沉溺于虛假的需求，實則是本質(zhì)自由的缺失，導致成為單向度的人。這種單向度的社會狀態(tài)是技術異化對人們思維方式和生活方式深刻影響的具體體現(xiàn)。當前社會，我們許多時刻的判斷力和需求都依靠算法結果，這減弱了人們自我學習和自我判斷的能力，并且在一定程度上降低了民主化，算法“計劃”了人們大部分的需求。

第三，馬爾庫塞還指出，技術異化的根源在于現(xiàn)代社會對技術的過度崇拜和依賴。人們狂熱地追求技術發(fā)展，卻忽視了技術對人性和生活的負面影響，導致技術與人性的疏離和異化。這是一種技術拜物教的趨勢，社會治理過程中對技術高度依賴，忽視了技術本身也是人創(chuàng)造出來的，誤以為技術可以完成全部的治理工作，過度崇拜技術本身而無視其對人性和生活的負面影響。

二、算法治理技術異化的困境

算法治理涉及對算法的構建、研發(fā)、實施以及可能帶來的社會后果的全面管理和監(jiān)控。隨著人工智能和大數(shù)據(jù)技術的飛速進步，各種算法在多個行業(yè)中廣泛應用，無論是在商務決策、公眾服務還是社會管理中，它們都扮演著不可或缺的角色。但是，算法的不恰當應用或其設計上的瑕疵可能會造成不公正、不透明乃至有害的后果。而目前社會治理的過程中廣泛應用信息技術，算法治理的方式已經(jīng)滲透到社會治理的各個方面，但算法治理使人們的生活陷入困境，比如，人在無形之中被數(shù)據(jù)監(jiān)控與監(jiān)管；用戶產(chǎn)生的個性化數(shù)據(jù)為自身帶來許多固定化標簽；人們也逐漸依賴算法進行治理等技術異化問題。

（一）無形中侵犯隱私

米歇爾·福柯在杰里米·邊沁提出的“全景敞視監(jiān)獄”理念的基礎上，深入解釋了“全景敞視主義”的核心思想。“全景敞視”代表一種單一方向的思考方式和技術手段。在一個既封閉又被劃分的空間中，每個人都被放置在一個固定的位置，接受全面的觀察，并持續(xù)地進行探索、檢查和分類。[2]隨著網(wǎng)絡傳播技術的不斷進步，“全景敞視主義”理論已經(jīng)嶄露頭角，成為一種創(chuàng)新的研究方法和范式。這一理論不僅為人們提供了全新的觀察角度和認識世界的途徑，同時也在不斷地改變社會和文化的形態(tài)。馬克·波斯特將“全景敞視主義”思想延伸至現(xiàn)代數(shù)據(jù)媒體的范疇，并進一步提出“超級全景監(jiān)獄”這一新概念。[3]在這個網(wǎng)絡環(huán)境中，算法的權力得到無限制的擴展，使得技術可以實時監(jiān)控用戶的行為，并根據(jù)技術指導逐步實施行為規(guī)范。在這個過程中，“算法黑箱式監(jiān)控”是一種顯著的特征。受到“算法黑箱”的影響，用戶常常沉浸在技術的困境中，對此視而不見。

（二）用戶畫像標簽化

網(wǎng)絡平臺經(jīng)常利用尖端的技術工具實時追蹤和監(jiān)視用戶在線的行為模式，同時也會監(jiān)聽和監(jiān)控用戶在線下進行的各種活動。利用這些技術和方法，該平臺有能力識別和分析用戶的多種特性，并能夠?qū)崟r更新用戶的畫像，進而高效分析個體和群體的行為模式。新興算法的影響力呈現(xiàn)出無界限的增長趨勢，這為技術帶來一種超越時間和地理界限的全新視角。算法權力是一種基于算法構建的權力關系模型，它以數(shù)據(jù)為基礎并通過算法來實現(xiàn)對數(shù)據(jù)的控制和支配。

（三）人類趨于邊緣化

技術異化的危險主要是人類被邊緣化，而這一邊緣化的問題具體表現(xiàn)為人類對算法技術似乎不能充分掌控，從而誘發(fā)不確定性。從技術上講，算法給社會治理提供了高效率、高自主性等性質(zhì)，但同時也映射出一個嚴重問題——身處信息海洋，人要保持清醒、客觀、理性就顯得格外艱難。在大量信息面前，人在解放個體思維的同時，也隨之產(chǎn)生深深的憂慮。在算法技術飛速發(fā)展的背景下，資本主義愿望與技術發(fā)展需要將持續(xù)推動技術進步。

正如馬爾庫塞曾經(jīng)強調(diào)，高度專制的技術和資金體系正在重塑現(xiàn)行的政府架構，塑造一個由金融力量和權利體系共同主宰的全新的政治氛圍。此類變化很可能在政治領域誘發(fā)一系列的不穩(wěn)定性，而技術是否合法是其中的一個重要問題。在目前技術政治的理論框架下，成熟的資本主義社會依靠技術的合理運作征服和管理社會的參與者，這使得技術逐漸轉(zhuǎn)變?yōu)橐环N新的工具來掌控人類社會。

三、算法治理技術異化的解困之道

算法治理雖然帶來了一系列技術異化的問題，但也不應當悲觀或是不作為，面對困境應當提出針對性的解決辦法。算法治理涉及社會的多個主體，可以從不同層面著手提出解決辦法。

（一）采用反治理策略的算法管理

公共治理活動是一種權力行為，也必然存在針對權力目標的反作用力。換言之，權力與反抗是并生的，就像物理學中作用力和反作用力同時并存一樣。[4]在傳統(tǒng)的權力思維中，公眾管理活動通常被認為是權力持有者從上至下對治理命令、規(guī)章和法律的研究、選定、發(fā)布和實施的單一過程，而治理研究則被視為此流程中提高效率的重要工具。這個觀念漏掉了治理實體對于公共事務的反應——也就是反治理方面。事實上，反治理活動會深刻影響和改變公共管理的本質(zhì)，可能導致其形態(tài)改變或消失，甚至在某種程度上失去效力。

治理和反治理并存是公共管理領域的常態(tài)做法。反治理研究的主要目的并不是完全根除反治理行為，而是希望對其有更深的認識并實施有力的管理。技術治理呈現(xiàn)出知識與權力運作的典型模式，這意味著部分權力的實施依賴于技術的支持，而部分知識的創(chuàng)造則依賴于力量的推動，這兩方面都是不可或缺的。在治理過程中，技術反治理的塑造效果與技術治理相當。盡管兩者都運用了相似的專業(yè)知識，但它們產(chǎn)生了完全不同的效果。由于不同的知識使用者擁有不同的狀態(tài)，因此他們所表現(xiàn)的權力影響也有所不同。此外，局部知識領域的專家展現(xiàn)了其卓越的能力，這讓技術反治理變成了一個治理與反治理雙方都必須考慮、競爭和利用的焦點。在技術治理的競爭中，傳統(tǒng)的知識分子正逐步被擁有專業(yè)知識的人士所替代，導致自由與解放的主題變得更加廣泛和緊迫。總之，技術反治理并非排斥技術治理，而是不同的權力擁有者運用權力策略為己爭取好處的行為。

算法治理作為一種變化快速的新技術治理手段并不像人們所認為的那樣簡單、高效與粗糙，反治理行動正逐漸浮出水面，有助于實現(xiàn)智能革命語境下真實世界治理和反治理之間的均衡。

（二）完善算法治理相關法律法規(guī)

為規(guī)范新興技術，我國已陸續(xù)發(fā)布了《網(wǎng)絡安全標準實踐指南——人工智能倫理安全風險防范指引》《關于加強科技倫理治理的意見》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等文件，初步建立了技術治理框架，在一定程度上緩解了算法技術規(guī)范的諸多困境。[5]盡管取得了一些進步，但其在法律層面的影響力仍然不夠顯著，缺乏明確的戰(zhàn)略目標和大規(guī)模的優(yōu)化潛力，這使得算法倫理問題日趨突出。過分依賴于算法可能會引發(fā)用戶隱私被侵犯或技術性歧視的風險，因此有必要緊急強化和不斷完善相關的法律條款。為了克服目前法律上的不足以及改變監(jiān)管的錯位現(xiàn)象，有必要制定特定法規(guī)或進行相關的司法解釋，把有關法律法規(guī)融入規(guī)制的結構里，進一步明確技術相關的法律規(guī)范，并對算法的研發(fā)和使用實施標準化，還要確保技術平臺對可能涉及的倫理風險承擔明確的責任。

（三）制定算法治理管理制度

為更深入地進行算法風險的備案審查，負責主體對核心算法進行了細致的審查，確保這些算法與現(xiàn)行法律、相關法規(guī)和普羅大眾的利益是相符的，尤其在公共治理和健康醫(yī)療等核心領域，算法的合理與合規(guī)都需要深入地審核。備案材料包括技術的目標設定、職責范圍、應用場景、實施手段、技術途徑，以及行業(yè)專家所提交的技術可行性評估報告等多個領域。此外，應當對備案程序進行深入審查，以判斷其是否為技術模型，是否誘使用戶過度依賴、違反規(guī)定收集用戶的資料或激發(fā)他們的過度購買欲望，這些都是違法和違背社會道德的行為。為保障算法的合法、公平、透明，必須對該算法技術做周期性地評估，確保它完全遵循技術備案模型的標準。可以設計一個按技術使用、數(shù)據(jù)出處、信息感知程度、影響的廣度、安全度、透明度和處理的廣度等多種要素的算法分級治理結構，這套體系能夠針對性地管理各種類別或風險等級的算法。

在算法的構建、實施和監(jiān)督的每個階段，我們都應確保對社會大眾、私人利益和整個領域的持續(xù)成長保持高度警覺，應當確保每一項措施均按照既定技術準則進行，這一切的核心目的是保障用戶數(shù)據(jù)的私密性、減輕潛在的倫理危機以及增強技術的持久性和可信度。應該選擇一種透明的展示方法，讓人們能夠更好地理解技術的邏輯，從而能夠?qū)@些新興技術進行持續(xù)性的追蹤和監(jiān)督。在一個開放的算法技術框架內(nèi)，我們亟須明確如何界定技術產(chǎn)權保護與社會公共利益維護，并且在技術創(chuàng)新與社會倫理觀念之間找到合適的平衡點。

（四）樹立大眾對算法治理的正確價值觀

我們必須深化對算法技術的認知和理解，將它視為一種實用工具，而非僅僅是超出人類日常生存需求的一種手段。在人工智能的時代背景下，算法技術為人類帶來創(chuàng)新的生活模式，它也逐漸成為決定社會構成和個體行為的主導要素之一。這種生活方式建立在人與人之間的互動和共同生命的基石上，旨在激發(fā)人類的生產(chǎn)潛力，同時推動人類更自由和全面地發(fā)展。雖然算法技術給人們的日常生活提供了很多方便，但隨之而來的也有許多不良后果。雖然算法技術在人類決策過程中有所助益，但要實現(xiàn)創(chuàng)新工具的功能最大化，我們有必要深入了解其內(nèi)涵，平衡技術急速進展和人們認知能力的局限性，這也構成了防止技術誤區(qū)的關鍵手段。因此，我們應該在各個層面上努力，以使算法技術展現(xiàn)其更廣泛的效用。我們可以自主進行技術與風險評估，將自然科學與社會科學的研究結合在一起，從而幫助人們深入探討技術的長處和短處，避免出現(xiàn)過于樂觀或過于悲觀的看法。算法技術自身固有的復雜性意味著如果我們忽視其核心價值，那么該技術可能給人帶來各種不利影響。只有當算法技術形成正確的價值觀，才能在社會治理實踐中發(fā)揮其效用，保證每一位參與治理過程的個體都能利用算法取得滿意的治理結果。

另外，把技術同倫理、哲學和社會學知識結合起來，也有利于促進人們?nèi)娴卣J識與評價技術，這樣有助于保證技術發(fā)展符合人的價值及利益，進而避免其淪為人類異化的工具。

四、總結

算法治理確實面臨許多風險和挑戰(zhàn)，但我們應該保持樂觀的態(tài)度來面對算法治理，雖然算法治理并不是一個完全自主的體系，但在某種情況下是有一定自主性的，因為算法可以獨立學習、決策和完成某些工作。技術展現(xiàn)了雙重屬性：首先，它的快速發(fā)展讓經(jīng)濟繁榮，同時也使生活變得更方便；其次，如果從另一個視角出發(fā)，由于科技的進步，我們也面臨著在未知的情況下成為其奴隸的可能性。受這種心理和生理的雙重壓制，技術現(xiàn)在已經(jīng)對我們居住的環(huán)境以及主體意識帶來了隱含的風險。算法不只是促進社會進步的關鍵工具，同時也有可能帶來一系列相關的異常現(xiàn)象。因此，在充分利用算法進行社會治理的同時，還必須深化思考，審視其潛在的不良影響，并實施有效策略來應對算法治理產(chǎn)生的問題，以確保算法治理在現(xiàn)代化治理的方式下增加人類福祉。

參考文獻：

[1][美]赫伯特·馬爾庫塞.單向度的人：發(fā)達工業(yè)社會意識形態(tài)研究[M].劉繼，譯.上海：上海譯文出版社，2016.

[2][法]米歇爾·福柯.規(guī)訓與懲罰[M].劉北成，楊遠嬰，譯.北京：生活·讀書·新知三聯(lián)書店，2019.

[3][美]馬克·波斯特.信息方式：后結構主義與社會語境[M].范靜嘩，譯.北京：商務印書館，2014.

[4]劉永謀.技術治理、反治理與再治理：以智能治理為例[J].云南社會科學，2019（2）：29-34，2.

[5]王婧怡.數(shù)字時代算法技術異化的倫理困境與治理路徑[J].自然辯證法研究，2023，39（10）：128-131.

作者單位：渤海大學馬克思主義學院