數字平臺算法推薦的單向度現象探究及治理

賀亞東

(河南大學 馬克思主義學院，河南 開封 475000)

阿多諾在《文化工業：作為大眾欺騙的啟蒙》一文中提到：“文化給一切事物都貼上了同樣的標簽。電影、廣播和雜志制造了一個系統。不僅各個部分之間能夠取得一致，各個部分在整體上也能夠取得一致。”[1]文化成為一種工業體系，通過技術手段實現了標準化和大眾生產。此時的文化工業表現為一種新聞媒介，以一種公開的灌輸形式出現。馬爾庫塞指出：“單向度思想是由政策的制訂者及其新聞信息的提供者系統地推進的。”[2]13大眾傳播技術在當下更加發達，隨著互聯網信息技術的出現和數字平臺的崛起，文化工業也出現了個性化的趨勢和轉向，通過算法推薦來實現對用戶的個性化服務，精準推送和信息定制似乎改變了傳統文化工業單向的信息輸出。

“個性化信息服務的出現，是信息過載時代的一個必然結果，也是尊重與滿足個體的信息權利的一種新手段。”[3]但是，數字時代的個性化或許只是看似美好。如果人們只關注自己熟悉或感興趣的內容，那么個體的視野將會被局限，失去對事件和信息的完整判斷，成為信息時代的井底之蛙。這一過程不能僅僅歸咎于個人，也要看到文化工業在其中扮演的角色。文化工業作為一種工業體系，本質上是建立在大眾傳播技術之上的，在數字平臺中這一技術的核心表現為算法。以大數據為基礎的算法推薦能夠對用戶進行精準畫像，從而實現信息的定向推送。但這種所謂的個性化服務并沒有為人們帶來雙向度的生活方式，反而進一步加強了單向度傾向。在數字平臺虛假的個性化掩蓋下，社會的單向度表現得更為隱蔽，主要體現為信息、價值和思想的單向度。

一、信息的單向度

算法推薦對用戶的精準刻畫是依賴大數據得以實現的。互聯網的發展使人們獲得了前所未有的自由和便利：各種信息實現了跨越時空的流動和交換，數字支付使人們從現金支付的局限中解放，實時定位地圖使人們從紙質地圖的局限中解放，線上購物、打車、訂餐軟件的興起更是為人們帶來了諸多便利。移動智能終端在滲透進人類生活方方面面的同時，也將人們籠罩在數字資本的鐵幕之下，人們聯網的一舉一動都留下了抹不掉的“數字腳印”。數字平臺利用用戶數據進行建模，誰擁有越多的用戶個人信息，誰就能搭建起越精準的模型；而誰擁有了越精準的模型，誰就能吸引到越多廣告商，獲得更大的利潤。為了使利潤能夠持續增長，數字平臺利用用戶模型進行精準的廣告投放和信息推送，這一過程看似尊重用戶的“個性”，實際上卻與傳統文化工業的單向度屬性如出一轍。

幾乎所有的社交平臺都是憑借這樣的模型來實現向用戶推薦“熟悉的人”或“感興趣的內容”，將目標用戶與其他用戶聯系起來，從而降低用戶脫離平臺的概率。短視頻平臺的運作邏輯更是如此：平臺根據用戶觀看視頻的偏好動態調整接下來推送的內容，讓用戶盡可能長時間地停留在平臺內部，進而達到流量變現和廣告推廣的目的。所有能做到“投用戶所好”的各類軟件，采用的都是同樣的算法推薦邏輯，利用源源不斷的針對性的內容將用戶牢牢綁在系統之中，而“受眾面對智能算法推送來的產品信息時，往往不再將之視作令人厭煩的廣告，反而會覺得其恰到好處地‘讀懂了’自己的需求”[4]。這樣的運轉邏輯似乎是技術進步的生動體現，人們看似獲得了更豐富的見識，但很大程度上是算法刻意調度讓人們見識到的信息，是被規定的單向度的信息。在算法精準排布的信息流中，受眾的視野不是變得更開闊而是更閉塞，人們甚至可能因此喪失獲取和接受不同信息的能力。美國學者桑斯坦提出了“信息繭房”一詞，形象地描繪了算法推薦大行其道的當下人們遭遇的信息困境。在他看來，信息繭房即“我們只聽我們選擇的東西和愉悅我們的東西”[5]的狀態。“今天的某些大數據分析，在某種意義就是在分析甚至‘制造’人們的‘視角’，然后將符合視角的‘事實’推送給他們，雖然推送的‘事實’似乎是客觀的，但是，當它們被放置在人們的‘視角’下時，就成為了影響主觀判斷和態度的重要手段。”[3]人們對于熟悉和感興趣的信息的偏好將使人不自覺地投入正向的、肯定性的信息中，不愿接觸或被算法排除而無法接觸到否定性的另一種聲音。在這種封閉單向的環境中，人的視野被算法規定而越來越受限，長此以往，包裹用戶的信息繭房將會越來越密不透風。

二、價值的單向度

值得警惕的是，算法推薦并不會止步于此，信息獲取的單向度必然帶來價值選擇的單向度。數字平臺價值的單向度一方面主要體現在平臺受眾自單向度的信息中逐漸形成的單向度的價值觀念，另一方面，由于算法邏輯的背后是人的思維邏輯和價值取向，因此算法邏輯也潛在地包含著價值選擇，內在于算法中的價值取向潛移默化地影響受眾，從而形成一種外在于人但能夠深刻影響人的單向度性。

人的本質是一切社會關系的總和，任何人都無法脫離所處的環境而獨立存在。網絡中同樣如此，互聯網作為虛擬的公共空間是現實社會的衍生物。如果社會中的大多數被單向度的信息繭房圍困，那么公共空間將變得支離破碎，“公共信息的傳播、社會意見的整合、社會共識的形成，也會變得日益困難”[6]。繭房效應不可避免地會帶來“回聲室效應”，即信息或想法在一個封閉的范圍里得到加強。2020年5月，加拿大政府將Incel(involuntary celibate的縮略語，意為“非自愿獨身者”)定義為恐怖組織。Incel社區最初是一個為在社交方面有困惑的年輕人提供建議和支持的網上論壇。但部分極端群體將在親密關系中的挫敗歸咎于女性，在一些另類右翼的匿名論壇上發泄不滿，最終升級到在現實中實施無差別襲擊，Incel社群逐漸發展成為暴力和厭女癥的溫床[7]。恐怖主義研究中心將恐怖主義描述為：“恐怖分子甚至不認為他們可能是錯的，也不認為其他人的觀點有可取之處……他們只把邪惡動機歸于他們群體外的其他人。在心理上被激發的恐怖分子的……共有特征是宣稱需要歸屬于一個群體，這些恐怖分子通過群體接納來界定自己的社會地位。”[8]116《沙龍》雜志專欄作家安德魯·萊昂納德在《困于回聲室》一文提道：“我認為真正令人擔憂的不是互聯網將隨時在谷歌里找到我需要的現成的事實這個過程變得無比簡單，而是它將隨時找到一種我需要的思維模式這個過程變得如此簡單。”[9]由于個人總是傾向于接受協調性的信息而避免那些會帶來不協調認知的信息，因此人們會不自覺地將自己封閉在全是與自己觀點一致的信息繭房中，只聽得到同一種聲音的回聲。在一個單向度的網絡環境中一呼百應，人們會認為自己的觀點代表主流，從而扭曲對一般共識的認識。這是單向度的信息帶來的巨大危害，即價值觀的單向度。桑斯坦提出群體極化法則，他認為群體時常陷入極端狀態。“恐怖組織陷入誤解、懷疑、仇恨或暴力，常常就是由于群體極化”[8]115，在信息繭房和互聯網意見領袖的推動下，“回聲室效應”不斷加劇，信息繭房就發展為“價值繭房”。這種價值觀上的偏見如果不加引導，將會在算法推薦的推波助瀾下愈演愈烈，進而撕裂社會的核心價值共識，動搖主流意識形態的領導地位。

另一方面，算法內在地包含著開發者的價值觀念，因此算法邏輯也潛在地具有價值取向，能夠潛移默化地影響受眾。齊格蒙特·鮑曼和大衛·萊昂在《流體監視》一書中提出：“代表個人的信息是由‘個人數據’組成的，也正是因為數據來源于個人的身體，因此它可能會影響人的人生機會和選擇。零碎的數據往往比喜歡講自己故事的人更可信。軟件設計師說他們只是在‘處理數據’，所以他們的角色是‘道德中立的’，他們的評估和歧視也只是‘理性的’。”[10]算法的價值歧視和霸權在反烏托邦題材電視劇《黑鏡》第3季第1集中有生動的體現：女主角生活的未來世界里的人際交往方式就是為他人評分，分數越高的人，社會地位就越高。某天不斷遭遇意外的女主角疲于迎合他人，這導致她的評分急轉直下，最終被關進了監獄。劇中描繪的世界里，每個人的分數決定了他們能夠得到什么樣的服務、達到哪一個社會層級以及過上怎樣的生活，幾乎所有人都被這樣一個評分系統綁架，不得不按照給定的社會規則單向度地生活。這種規則不僅僅是藝術創作，由于算法具有優越的模擬和預測能力，許多行業將算法作為一種有效手段來指導決策。例如銀行會根據用戶的信用評級和消費能力評估是否提供貸款及貸款額度，將被算法判定為有高風險傾向的用戶拒之門外。此外，我國的信息技術和互聯網產業已快速發展至世界領先水平，但鮮有數字平臺考慮到數字弱勢群體如老年人和殘疾人融入智能社會的困境并為他們進行全面的無障礙輔助支持。算法對社會群體機械地分門別類，雖然一定程度上會給平臺和機構降低風險，提高管理效率，但也會潛在地使不同群體的社會地位固化，讓人們只能在符合其身份地位和社會角色的范圍內活動，處于優勢地位的人能夠憑借已有的優勢獲得更多的利益，弱勢群體則會因為其弱勢地位而繼續受到隱性的懲罰。因此有理由擔心，如果基于大數據的算法技術被不當利用，將會對社會的一些群體帶來真實的歧視和傷害。

三、思想的單向度

在馬爾庫塞看來，單向度思想的形成是導致單向度的人出現的根本原因。人類對于實現效率最大化始終有著狂熱追求，技術進步帶來了巨大的便利，個性化服務為每個人創造了一個獨屬于自己的美麗新世界，這使得讓渡部分隱私和個人信息來換取便利高效的生活方式變得可以接受。用戶的個人信息被匯總、分析、交換，在虛擬的網絡世界中每個人都有一個數字化的自己存在，在這個數字畫像周圍是算法精準排布的信息，單向度的信息塑造單向度的價值，被單向度的價值取向指引，人的思想也將陷入單向的維度。也就是說，數字時代標榜的個性也是被規定了的個性，“決定人類自由程度的決定性因素，不是可供個人選擇的范圍，而是個人能夠選擇的是什么和實際選擇的是什么。……自由選擇主人并沒有使主人和奴隸歸于消失”[2]8。個人獨立判斷和選擇的能力被不斷消解，機器和算法以一種不易察覺的方式掌控了人的現實生活：迎合當代人碎片化時間的社交媒體反過來強化了人碎片化的思維習慣，不是支持就是反對的極化選項潤物無聲地塑造了一種二元對立的思考方式。在算法邏輯中，人可以被一串二進制數字代表，價值甚至是人本身都變成了可以被量化和評分的符號。在算法邏輯工具理性的引導下，人的思想變得被動、破碎和極端，喪失了主動、完整的反思和批判能力。

同時，技術的進步一定程度上掩蓋了真正的矛盾和對立。工人和他的老板用同樣的手機、開一樣的汽車、游覽同樣的旅游勝地，更多的人得到了發展紅利，生活水平的提高成為社會保持現狀的有力辯護，于是“出現了一種單向度的思想和行為模式”[2]11，它使得對現狀的反抗和拒絕表現為對舒適生活和增長的勞動生產率的抵制和拒絕，這種束縛不表現為強制的和不合理的，反而表現為對社會現狀的拒絕和變革的訴求才是不合理。“在富裕和自由掩蓋下的統治就擴展到私人生活和公共生活的一切領域，從而使一切真正的對立一體化，使一切不同的抉擇同化。”[2]16

正如許多學者對單向度的批判所指出的，人在面對機器和算法推薦的統治時不是完全被動無助的。但應注意到，數字平臺掌握著海量的數字資本，用戶拒絕提供和交換個人信息就意味著與主流社會脫節，這是作為社會成員的每個個體難以承受的代價。人們不是沒有意識到算法推薦的操縱，但面對算法霸權時，人們能采取的抵抗措施非常有限，因此僅僅呼喚個人的覺醒和對現狀的拒絕是遠遠不夠的，更需要國家強力措施推動算法主動向善。機器和算法的邏輯歸根結底是人的邏輯，如何在開發程序伊始就克服單向度的邏輯，鼓勵開發雙向度的運行模式，讓機器、技術和算法真正為人的全面發展服務，才是更值得我們思考的問題。

四、應對算法推薦邏輯單向度傾向的策略

算法作為一種工具，誕生之初是為了服務于人的，但同時其底層架構是開發者的邏輯，因此，看似客觀的工具實則包含著人的主觀態度。算法推薦的工具理性因而可能以客觀的形式造成主觀的偏見，導致出現算法歧視。正是由于算法的工具理性本質會帶來意識形態后果，對整個社會有著重大影響，因此為算法技術加裝價值瞄準鏡就顯得尤為重要，遏制算法推薦單向度的趨勢也成為一個社會性的議題，需要來自各方的共同努力。

數字平臺作為算法推薦技術的掌控者和最大獲利方，對于引導算法向善應當承擔更重大的社會責任。算法推薦服務的提供者應當以法律法規為最低限度，以社會公德和倫理為準繩，堅守主流價值導向，利用算法推薦技術積極傳播社會正能量，構建一個清朗的網絡空間。具體而言，第一，在算法的建構階段，開發者應始終堅持以人為本的原則，尊重社會公德和倫理，遵守商業道德和職業道德，積極承擔社會責任。算法平臺在數據收集過程中應加強自律，不收集超過算法需要的用戶個人數據。平臺有責任也有義務向用戶公開信息收集和使用的范圍，將主動權交回給用戶，保障用戶對個人隱私數據的使用情況享有充分的知情權，且平臺不得以用戶拒絕授權不必要的權限而限制用戶的正常使用，應充分尊重并保障用戶的基本權益。第二，在算法的整合階段，平臺應加強信息內容管理，盡到審核和監督的義務，及時標記并報告違法信息，避免算法推薦邏輯由于自身固有的工具理性而出現對用戶的歧視性規定，避免出現刻意制造爭議和對立、誘導用戶沉迷、利用信息差侵犯用戶利益的邏輯。第三，在算法的分發階段，平臺應充分尊重用戶的能動性，不應針對用戶的個人習慣進行計算和推送。此外，算法平臺應當強化自身的監督責任，健全不良信息的特征庫，對平臺上出現的問題及時糾偏，建立完善的用戶協議和社區公約并及時處理用戶的投訴和舉報，引導算法推薦符合主流價值的導向。

用戶個人作為享受算法服務的主體，克服算法推薦帶來的不良影響的最直接的方式，就是提高自身的文化道德素養和批判思維能力。數字技術和算法推薦的迅速發展徹底改變了人們獲取信息的方式，各類信息被推薦到人們眼前而不是人們主動去獲取，信息來源變得多元化，主流價值導向的影響力被削弱。技術的進步降低了人對工具理性的警惕和反思，算法何以成為擺布人們思想的工具，歸根結底，人固有的惰性思維難辭其咎。我們只有充分認識到被數字技術宰制的狀況，才會促使自身的主體意識覺醒并主動改變現狀，進而擺脫單向度的思維模式。當前的互聯網生態中，無效信息遠遠多于有效信息，形成劣幣驅逐良幣的趨勢。面對過載的信息，用戶要克服思維上的懶惰，改變獲取信息的慣用方式，從權威性的消息來源處主動搜索想要了解的內容并提高明辨信息來源、核實信息內容的能力。此外，我們還可以關閉算法推薦的權限，主動走出舒適圈去傾聽不同的聲音，將主要精力投入到現實生活中，通過現實的人際交流來獲取新的信息和經驗，減輕繭房效應對我們思維方式的消極影響。只有認識到算法推薦的弊端并主動采取措施，我們才能破除算法推薦帶來的自我封閉性，塑造正確的價值觀并培養批判的思維能力。

我國對算法技術的治理已經邁出了重要的第一步。2021年8月，國家互聯網信息辦公室就《互聯網信息服務算法推薦管理規定》公開向社會征求意見，一系列相關法規的頒布和實施將成為國家著力防范化解算法技術風險的重要舉措。從《互聯網信息服務管理辦法》到更細化的《互聯網信息服務算法推薦管理規定(征求意見稿)》，我國立足實際，準確把握當前互聯網算法推薦亂象，不斷完善相關法規，做到源頭治理，在最大程度上降低算法無序發展帶來的不良影響。新冠疫情爆發后，依靠互聯網和大數據支持的健康碼和行程碼程序極大地提高了國家疫情防控的效率，為我國迅速控制疫情蔓延趨勢、保障人民生命健康權作出了重要貢獻。因此，算法不僅是一種工具，更是一種隱含在工具外表下的意識形態，算法技術的治理也關系著我國國家治理能力和治理體系的現代化建設。黨的十九屆四中全會以社會治理共同體為核心，對如何堅持和完善中國特色社會主義制度、推進國家治理體系和治理能力現代化的若干重大問題作了專題研究，強調“必須加強和創新社會治理，完善黨委領導、政府負責、民主協商、社會協同、公眾參與、法治保障、科技支撐的社會治理體系”[11]。其中的“科學支撐”即技術治理，具體而言，就是要將大數據和人工智能等數字技術與社會治理深度融合，推進社會治理智能化、高效化，引導算法向善將成為提升社會效能并最終建成社會主義現代化強國的重要環節。