算法推薦時代的技術規訓與價值重塑

□袁 媛 李 娜 王燦發

互聯網時代，信息資源呈爆炸式增長，算法推薦技術的出現為用戶獲取信息提供了極大便利，有效緩解了用戶對“信息過載”的焦慮。新興媒介公司通過技術賦能，建構了以用戶為中心的開放式信息生產發布模式，并將能否滿足用戶的個性化信息訴求作為爭奪注意力市場的關鍵。因此，用戶在一定程度上居于主體地位，個性化需求得以被重視和滿足。隨著傳媒產業市場化程度的不斷加深，算法技術逐漸深入用戶生活，并通過長期對用戶數據的收集、分析與利用不斷增強自身的技術權力。于是，算法技術與用戶的地位關系發生了深刻變化，算法技術的地位不斷上升，用戶地位不斷下降，用戶“自主的”主體性逐漸成為一種幻覺，算法技術權力的規訓嚴重危害了用戶的主體性。同時，“大數據殺熟”“信息繭房”“算法黑箱”等大數據技術漏洞不但破壞了公共信息傳播系統，也侵害了用戶自主選擇、自主分享的權利，并對用戶的隱私權等造成威脅。

一、算法技術規訓下用戶主體性的弱化

（一）用戶自身要素的異化

馬克思提出，異化是指人的物質與精神生產及其產品變成異己或與人對立的力量反過來統治人的社會現象。[1]權力不斷增大的算法推薦技術將用戶異化成為可以交易的商品，極大地削弱了用戶的主體性。用戶自身要素異化的過程體現為，算法平臺將媒介、用戶、廣告商緊密聯系在一起，用戶在休閑時間自愿觀看算法推薦內容的同時，也完成了消費欲望的刺激甚至是消費行為的實現?；诖耍惴夹g對于用戶的控制演化為三個要素的異化。

第一，用戶自由時間的異化。傳統媒體時代，媒體通過提供免費的信息來獲得用戶的注意，再將用戶的注意力販賣給廣告商進行變現，以此來維持其自身運營。此時，媒體出售的是受眾較容易感知的觀看廣告的時間。算法推薦時代，個性化推薦技術貼心地根據用戶畫像為用戶定制專屬內容，在幫助用戶節省尋找信息的時間的同時，也加深了用戶對于推薦內容的依賴，模糊了用戶的時間界限，令用戶深陷“信息喂養”形式下的商業陷阱，不可控地消耗了大量的個人可以自由支配的時間。隨著對用戶碎片化時間控制的加劇，憑借算法對用戶的精準分析，媒介資本對用戶展開全天候的廣告推薦，加劇用戶日常生活的殖民化，導致原來的“特定時間剝削”轉變為“全場景剝削”。

第二，用戶情感勞動的異化。作為一種技術權力，算法權力不具有實質性的存在，其對用戶進行規訓甚至懲罰的過程是隱匿化的，很難被辨別、指認或是界定。在?？抡撌龅摹皺嗔Φ娜ブ行幕钡倪^程中，算法技術利用“算法黑箱”等隱藏起了權力運作的過程，甚至將其幻化成用戶自由意志的狂歡。因此，算法技術對用戶的控制手段主要是通過用戶 “心甘情愿”的參與來實現的。在算法推薦技術的誘惑下，用戶主動地觀看、閱讀算法篩選過的信息，信息偏向帶來的舒適感和價值認同帶來的滿足感等使用戶不斷放松警惕，逐漸沉浸在這種“偏食投喂”帶來的正向刺激和快感之中。在快感—勞動—快感的循環中，用戶不停地在情感的驅動下“愉快地勞動”，使自己所有的活動行為和情感投入都異化為算法技術了解、控制、規訓自身的有力工具。這種由用戶自身驅動、不知不覺進行的“自我剝削”式勞動，使用戶一步步淪為算法技術的免費勞動力，最終難逃數字勞動的枷鎖。

第三，用戶生產數據的異化。算法推薦時代，用戶生產的數據分為主動生產數據、被動生產數據和介于主動與被動之間的數據三種。其中用戶主動生產的數據包括用戶主動發布、分享、評論的信息等。用戶被動生產的數據主要是指用戶在媒介平臺 “不同意即放棄使用”的注冊條款制約下不得不提供給平臺的數據獲取權和使用權。而日益普及的各類智能可穿戴設備也成為介于用戶主動與被動之間的數據的主要來源。這三種類型的數據雖然來源不同，卻同樣具有經濟價值，對其進行記錄、存儲、計算和分析，能夠為算法平臺贏得巨大的商業利益，這使得依靠數據“喂養”的算法平臺對用戶數據趨之若鶩。再加上部分用戶對個人信息重視程度不足，缺少相應的法律常識等，致使個人數據被濫用的現象不斷增多。算法技術站在用戶的對立面，成為利用數據優勢剝削用戶的異化力量，整個過程雖然隱匿但卻劇烈。

（二）用戶自主權利的損失

第一，算法壟斷侵害用戶的選擇權。嚴格意義上說，用戶接受算法平臺的信息推送就是其選擇權，即信息自由獲取權被侵害的開始。算法推薦技術在為用戶提供定制化信息推送服務的同時，不斷強化用戶的“信息偏向”，滿足用戶心理上既成的“閱讀期待”，很容易讓用戶產生信息獲取的渠道依賴，受困于算法推薦精心織就的“信息繭房”之中。再加上算法推薦規則的不透明性和權重計算的復雜性等包含算法平臺利益價值判斷的算法設計因素，用戶的個人信息視域范圍不斷縮小，并逐漸喪失閱讀選擇的主體意識。與此同時，居于信息壟斷地位的算法平臺一方面借機售賣熱點和植入廣告，實現流量變現。另一方面借助個性化推薦技術，推送媒介內容形塑用戶，依據用戶標簽向其推送精心美化的“合適”內容以誘發用戶的消費欲望，促成用戶的消費行為，并最終“教育”用戶形成及時享樂的生活方式，規訓用戶踐行物質至上的人生價值。和居于主導地位的算法技術相比，處于弱勢的用戶在長期的 “信息偏向喂食”中產生“媒介多巴胺”成癮，出于對戒斷反應的恐懼，只能被迫接受平臺夾帶的私貨，并在這種精心設置的“服務”中，一步步淪陷為算法技術規訓與控制的對象。

第二，算法機制限制用戶的分享權。網絡用戶的分享權即網絡用戶進行信息發布與傳播的權利。算法機制對用戶分享權的限制進一步削弱了用戶在信息傳播活動中的主體地位。當前以算法為核心的媒體平臺對內容的傳播有著近乎絕對的控制，內容傳播的速度和范圍往往并不取決于傳播者發布內容的質量或接收者對信息的關注與需求程度，而是取決于以下三種平臺算法機制：一是頭部推送機制。即算法不以內容質量的優劣作為推送標準，而是以信息發布者粉絲數量的多少作為推送標準，因此擁有大量粉絲的頭部用戶能夠擁有更多優先推送的機會，新用戶和粉絲數量較少的用戶，其內容被推薦的機會很低，很難得到其他用戶的關注。二是推廣收費機制。算法平臺通過推廣收費機制對付費主體的內容優先傳播，使其能夠被更多的用戶關注借助算法技術打造的“深后臺”，實現對非付費用戶的權利收繳和為付費用戶賦權的過程，進一步加劇了用戶的權利結構不等。三是內容審查機制。用戶生產和傳播的內容越是符合平臺對流行度的要求，越是能夠迎合平臺流量變現的目的，越有可能獲得優先傳播。平臺在用戶內容審查中的強大權力慢慢滲透進用戶分享信息的常規行為之中，形成超越主體反思的慣習，用戶開始主動迎合平臺取向，成為自我規訓和控制的根源。

第三，算法推薦傷害用戶隱私權。在以算法為核心的平臺中，用戶的一切信息和行為都是算法抓取和分析的對象。無論何時何地，只要用戶進入數字空間，其所有瀏覽、搜索以及消費等記錄都會被算法實時抓取，用于演算、標記和勾勒用戶畫像。再加上智能媒體技術的不斷進步，將圖像等非結構化數據轉化為結構化數據已經并非難事，呈幾何級數增長的攝像頭數量將用戶的更多隱私暴露出來。強大的算法技術權力導致用戶隱私的控制主體發生了改變，擁有隱私的隱私主體不再是唯一的隱私控制主體，掌握算法技術的平臺替代隱私主體成為控制用戶隱私的關鍵主體。由于隱私主體和隱私控制主體分離，當雙方發生利益沖突時，就不可避免地出現隱私侵害的情形。首先，平臺制定的“用戶須知”“用戶條例”要求用戶必須讓渡自身的數據存儲權和使用權等來換取使用平臺并獲得良好體驗的機會。智能算法通過對用戶讓渡數據的篩選過濾與排列組合來為用戶畫像。對用戶的精準畫像可能會帶來對用戶的新型隱私，即整合型隱私的侵犯。所謂的整合型隱私是指利用數據挖掘技術將用戶在網絡中留存的數字化痕跡進行有規律的整合而形成的隱私。整合型隱私在整合前往往是普通的個人信息，在數據挖掘過程中，通過對數據的排列組合，整合型隱私才得以產生。由于數據整合的主體、時間、方式、目的和用途等往往無法提前確定，導致整合型隱私具有極大的偶然性和隱蔽性，用戶很難察覺。其次，用戶數據的巨大商業價值不斷刺激算法平臺加大對用戶數據的控制力度。算法平臺記錄、存儲和分析用戶數據，不僅為了向用戶精準地推送信息，還為了建立用戶數據庫，精準預測用戶的消費需求，并在此基礎上加大相關內容尤其是商品廣告的推薦，以賺取商業利益。用戶數據的讓渡是媒介資本不斷積累的前提，在逐利本質的驅動下，算法平臺對用戶隱私數據的獲取永無止境，并且未來將更加隱蔽和智能。

二、算法推薦時代的價值重塑

人類的主體性是人類實現自由而全面的發展的前提和基礎。算法技術高效的信息分發機制優化了信息的配置效率，但弱化了人的主體性并產生了一系列的權利侵害。因此，政府、平臺和用戶等多方主體應當在對算法技術進行反思的基礎上，共同構建有效的約束機制，對算法推薦技術進行優化和規范，糾正算法推薦技術重工具理性輕價值理性的偏向，使技術的高效性、便捷性與人的主體性、價值性相協調，重塑正確的價值導向。[2]

第一，政府層面加速立法，加強監督。政府的及時立法和有效監督是保證信息傳播健康有序發展的剛性約束力量，目前已經出臺的與算法技術應用密切相關的法案主要包括《個人信息保護法》和《互聯網信息服務算法推薦管理規定》等。前者從立法層面明確了一般個人信息、敏感個人信息的收集、存儲、使用、加工、傳輸、公開、刪除如何在法律允許的范圍內進行，后者為規范算法推薦服務提出了科學化、系統化、精細化的合規要求，明確并確立了算法治理的對象和基本原則。然而，隨著對算法推薦技術各類主體在信息保護中權利和義務界定的逐漸清晰，對于算法推薦技術的公開、算法平臺治理和算法數據安全等問題的解決變得更加迫切。算法“黑箱”對工具理性的包庇引發了算法偏見、新聞公共性受損以及人的主體意識削弱等一系列問題。只有增強算法的透明度和可解釋性，有效治理以算法技術為核心的互聯網平臺，切實保護用戶的算法數據安全，才能夠堅守住人類的主體地位，防范權益被侵害的情形產生。

第二，平臺層面優化技術，以人為本。首先，在算法推薦技術設計之初，對設計主體需加強倫理道德教育，使其認識到目的至上的工具理性的缺陷，回歸到以人為本的正確價值導向，以科技倫理引導算法設計，使代碼在生成之初就蘊含更多價值理性。具體而言，可利用“價值敏感設計”方法，將價值觀、道德規范等嵌入到技術設計系統中[3]。例如，通過權重強化技術，為主流價值觀等應知信息打開綠色通道，并在算法生成之后，對規則設計、數據處理、結果呈現等環節進行價值檢視，糾正價值偏差，讓人工智能更多地體現人的主導性和價值觀。其次，在算法推薦技術的應用過程中，平臺需認識到技術發展的目的是為人類服務，利益的實現不能違背人的意愿和價值觀，即算法的運用應遵循自主性、公正性原則，促進算法推薦服務向有益于人類社會的方向發展。同時，平臺還可以運用區塊鏈等技術加強算法的可解釋性和透明度，推動算法推薦流程的規范透明。建立完善人工干預和用戶自主選擇機制，充分尊重人機互動中人的自主性等。

第三，用戶層面提升算法素養。提升用戶的算法素養主要應從兩方面入手：一是要培養用戶的算法思維。算法思維是用戶理解算法運行機制的基礎，也是用戶規避算法風險的認識來源。二是要提高用戶防范和對抗算法風險的能力，深刻認識算法推薦平臺中數據泄露的途徑與方式，在與算法共存的數字世界中，學會駕馭和使用算法，重塑人的精神價值。[4]

三、結語

算法推薦時代，智能化、個性化的信息供給機制在滿足用戶多元需求的同時，也帶來了用戶自身要素的異化和自主權利的損失，算法技術為用戶創造了新世界，但也抹去了諸多其他的可能性。因此，對于算法的發展不能聽之任之，必須重新厘清用戶與算法間的關系，使用與治理雙管齊下，如此才能在未來的實踐中重塑算法邏輯，幫助用戶重新獲得主體性。