算法社會公共領域的風險生發與規避

2023-10-14 16:04:14蘇衡

新聞愛好者 2023年9期

【摘要】隨著媒介社會化程度的加深，人類社會進入“算法社會”新階段，并在算法操控、算法偏見以及算法黑箱等因素影響下引發新的社會風險，這在公共領域主要表現為主體異化、價值理性迷失以及公共性消解等問題引發的結構性失衡。針對上述問題，本文從政策規制、人機協同以及算法設計理念角度入手，探索了算法社會規避公共領域風險的治理路徑，以期為現實問題的解決提供借鑒。

【關鍵詞】算法社會；公共領域；風險規避；算法治理

一、引言

隨著社會媒介化程度不斷加深，人類生產生活與社會交往在智能技術的高度賦權下呈現出新特點，特別是算法作為一種新型決策機制正在重構信息生產傳播的底層運行邏輯，成為我們感知、理解多元意義世界的重要橋梁。有學者指出，算法環境儼然成為與自然環境、社會環境具有同等意義的人類生產生活新空間，并可能推動人類社會進入算法社會的新階段。[1]算法社會是數字技術嵌入人類社會并與之相互影響的新體系，昭示算法邏輯支配下的社會交往、社會秩序乃至公共文化生活的權力關系轉移。由于算法囿于設計主體的主觀能動性，注定了權力關系轉移的過程難以規避社會資本、商業利益以及價值觀的影響，使其呈現出“決策過程客觀、決策意圖主觀”的雙面特質，從而將算法社會中的人、事、物置于“被操控”的風險之中，這在公共領域信息傳播營造出的擬態環境中格外凸顯，并引發學術界的關注與思考。

二、風險生發：算法引發的公共領域結構性失衡

隨著社會文明的演進，早期的以文化批判為特征、由受過教育的市民組成的文學公共領域已然向大眾傳媒和大眾文化主導的現代公共領域轉型。在智能技術的賦權下，呈現出低門檻、去中心化和強交互性的場域特征。然而，當人們沉浸于算法投喂的快感及其營造出的看似“平權”的信息環境中，從算法帶來的“二手非經驗”中形成對社會現象的理解時，便逐漸喪失了基于理性、客觀、思辨的深度思考能力。而與智能推薦技術伴生而來的“過濾泡”和“信息繭房”也將群體認知固化，科學理性和社會理性囿于技術的操縱和情感化、集群化的傳播策略被不斷消解，從根本上動搖了公共領域賴以存在的基石，使其公共性面臨事實與規范的背離，[2]從而引發公共領域的結構性失衡的風險。

（一）“主體異化”的生產傳播弱化公共領域的公眾參與

“異化”即主體活動及其產物脫離和否定主體自身，并作為一種異己的力量與主體處于對抗性關系之中，以扭曲或否定的方式來呈現人的本質。[3]算法已滲透到信息內容生產、審核和傳播的各個環節之中，逐步以算法邏輯取代了“人”的邏輯，這雖然提升了信息生產傳播的整體效率，但也直接導致了信息傳播各環節的主體異化，間接導致公眾主體性的弱化，特別是在公眾感知、理性批判及自主選擇權方面，技術對人主體性的取代加劇了公共領域理性基礎的瓦解。

從內容生產者的角度看，智能機器人成為內容信息生產主體，如OpenAI研發的ChatGPT聊天機器人，可以通過模型訓練實現對人類語言的理解與對話，并完成視頻腳本、文案、繪畫等高階信息文本。機器寫作內容的價值理性與算法設計和語料庫高度關聯，如果算法失當抑或語料庫遭到污染，智能機器人生產的內容將無法實現人文性和思想性的提升，還可能造成主體誤讀，間接將更多真實的公眾觀點排除在網絡公共領域之外，造成理性交流的主體性弱化。

從內容審核者的角度看，算法逐漸成為內容分發的決策者和操控者。資本企圖通過對算法的技術控制，創建有利于自身利益的信息供需流動新秩序——由原有的“選擇機制”變為“選擇分配機制”，對有流量的信息分配何種程度的媒介資源成為重點。[4]在此前提下，迎合受眾的個性化、同質化、娛樂化信息更易于獲得分配權重，大大擠占了涉及公共利益與公共價值的信息傳播空間。算法把關看似擴充了公眾參與公共領域的信息資源，增加了信息推薦的精準度，實則在商業邏輯的支配下將不具備公共價值的私人話題、煽動性信息推送至公共領域，剝奪了公眾的信息選擇與獲取權，蠶食著公眾珍貴的注意力資源和理性認知。

（二）“流量至上”的運營邏輯加劇公共領域的價值理性迷失

資本逐利性決定了“流量至上”的運營邏輯已成為多數互聯網信息企業的潛在規則，并建構起包含點擊率、播放量、轉發量等流量指標的綜合評價體系，其實質是以“算法■數據”的純粹技術邏輯對內容進行評判，它忽略了價值性、道德性和公共性維度的判斷。在全民娛樂化、碎片化的傳播環境中，嚴肅性和價值性內容的讓渡構成了公眾價值理性迷失的第一層意涵。

公眾理性迷失的第二層意涵在于價值認知的對沖錯位。相較于市場化媒體基于流量的“商業-技術”邏輯，主流媒體也力圖通過算法實現“調整-控制”邏輯，[5]強化公共信息的傳播對公域價值理性及時規正。但隨著媒體生態的變化，特別是移動客戶端傳播的趨同化，公眾難以清晰辨別“主流媒體”和“商業媒體”，信源差異化傳遞造成公眾認知與價值觀的對沖錯位，直接體現為公共輿論場的紛爭與博弈，算法設計標準的偏差間接誘發公眾的理性迷失與群體極化。

（三）“信息繭房”的固化與沉浸消解公共領域的公共性

“信息繭房”對個人化議題的關注進一步造成公眾之間、公眾與公共事務之間的隔絕與背離，影響了社會傳播場域公共性的形成與發揮。一方面，算法“黑箱”遮蔽了內在推薦機制的運行機理，將大量有價值的公共信息抽離于“信息繭房”之外；另一方面，信息繭房內的信息趨同和公眾認知固化，使得個體難以客觀理性地審視自身和評判他人，且在情緒的煽動影響下形成不理性的觀點對立與表達沖突，觀點弱勢的群體在網絡環境中逐漸失聲，差異共在性在網絡公共領域亦被消解。

此外，為了累積注意力資源，商業主體甚至會利用算法營造出高度沉浸的“繭房”環境，并不斷加固繭壁厚度，以獲取經濟效益。公眾沉浸于個人私域，抽離了公共交往的可能性和必需性，逐漸喪失對公域的關注與參與，公共性進一步被消解稀釋。

三、風險規避：面向算法的公共領域治理路徑

在前算法時代，媒體治理主要是對“人”的行為進行規范。而在后算法時代，“人”在傳播環節中的位置后移，“算法”成為內容信息和公眾間的新中介，登上前臺成為傳播的賦能者和塑造者。[6]在此前提下，我們有必要思考如何有效規范算法及重塑標準，以達到平衡工具理性和價值理性、回歸人的主體性以及網絡公共領域公共性的目的。

（一）遵循算法政策規制，實現工具理性和價值理性的平衡

政策規制是面向算法治理路徑的制度保障。《互聯網平臺落實主體責任指南（征求意見稿）》、《互聯網信息服務算法推薦管理規定》等文件的出臺，都明確了國內對人工智能的算法治理主要是基于主體的治理范式，[7]政府主管部門、商業平臺媒體及新聞機構等算法關涉主體需要共同參與，協同完善算法監管評估機制和落實問責制，以推進算法的工具理性和媒體的價值理性有機融合。

首先，需要進一步完善由新聞主管部門或第三方機構主導的算法監管審查機制，加強對算法風險評估、數據真實性等的審查。以確保企業使用全面、可靠的數據進行算法訓練，在保護企業商業機密的同時履行算法告知義務，規避算法“黑箱”，發現潛在的算法歧視現象并及時糾偏，從而達成算法工具理性與信息傳播價值理性的平衡。

其次，應進一步完善落實算法問責制。對于算法決策的問責呈現為一種特定的、多主體參與和互動的社會關系，其焦點在于公共理性的達成，以確保決策者能夠根據所有理性人都可接受的認知和規范標準來解釋其系統的輸出，從而限制其算法決策的權力。同時還應探索構建一套凸顯“算法正義”的法律問責框架，實現算法決策“事前規制”與“事后問責”的治理閉環。

（二）完善算法人機協同生產，呼喚公眾的主體性回歸

首先，要加強對算法生成內容層面的人工干預，對算法決策結果進行適當的修正、調整和優化，確保內容信息合乎社會倫理和價值規范。包括加大算法對優質賬號以及官方權威賬號的推送權重，常態化展示具有較高公共價值的信息；對嚴肅內容加權，對娛樂內容適度降權；對有思想深度的長視頻、長文章加權，對短而空、同質化的視頻適度降權等。通過這些干預策略可以激發公眾創作優質內容的積極性，發揮新媒介內容對價值理性和公共性的社會建構功能。

其次，構建公共價值取向的行動者網絡，發揮算法社會內容創作主體的能動性，實現多元主體的協同配合。一方面，算法平臺的內容管理者應牽頭建設內部協同的“職責共識網絡”，將技術和運營管理者納入其中，共同實現內容標準的算法化以及激勵措施的合理化；另一方面，也需算法平臺外部的內容創作者協同建立“規律共識網絡”，使有公共價值的內容生產策略成為大多數內容創作者的共識。[8]

公眾主體性回歸的核心在于人機關系的慎思與重塑。算法應聚焦于服務人，而不是駕馭人。只有正確處理信息內容的注意力數據與價值共識的關系，才能改善算法技術邏輯對公眾主體性的操控與侵蝕，將算法蘊含的社會效益放大且合理變現，并最終外化為公共領域的治理效能，形成協同發起、協同感知和協同創造的驅動力，為構建網絡傳播有序化的媒介共同體提供可能。[9]

（三）優化算法設計理念，重塑公共領域的公共性

關于公共信息的邊緣化、公共話語的割裂化以及公共交往的抽離化使得算法社會的公共性被消解稀釋的問題，可從參與式算法設計理念及介入式算法干預進行有效平衡。

參與式算法設計理念旨在改變當前算法設計中技術邏輯與商業邏輯主導的態勢，將其轉向社會主導或公共價值主導。[10]在處理算法公共性異化風險方面，應當將治理重點從算法設計開發的前端開始防范，以應對算法作為主體產生的“非預期后果”。這需要算法利益主體共同協商，以算法“社會契約”的方式奠定算法運行的價值基礎。由此，所有關涉主體的算法認知、算法想象、算法體驗及算法情境需求得到綜合考量，并為投入運行后的算法監管提供重要依據，助力公共領域公共性的實質性提升。如麻省理工學院媒體實驗室、世界經濟論壇等多個機構倡導者共同發起設立了“開放算法”（Open Algorithms）工程項目，意在增強算法設計中的公民主體參與，以更好地提升算法的公共價值。[11]

介入式算法干預主要指在了解算法運行邏輯的基礎上，通過人的行為對算法偏見進行干預式糾正與平衡。一方面，可以引入發布者“資格準入”機制，僅允許經過平臺認證的、具有新聞/資訊發布資質的主體發布權威公共信息，并進行置頂提示和全用戶推送。另一方面，應加強公民智媒素養的涵化培訓，以最廣大公眾均能理解的方式推廣算法投喂的作用機理，提供“訓練算法”的方式方法，幫助公眾“破繭”，獲得進入公域空間的通道，參與公共事務的討論。

四、結語

烏爾里希·貝克在其論著中說道：“在現代化進程中出現的自主化，也并不必然會別無選擇地走向失范的單行道。”[12]這對算法社會公共領域的風險防范依然適用。我們必須承認，算法重構了我們的公共生活與交往，提供便利性、高效性的同時也伴生出新的問題。本文通過對算法社會公共領域的風險、成因進行分析闡述，試圖探索一條圍繞算法展開的治理路徑，以平衡工具理性與價值理性，呼吁人的主體性回歸及社會公共性的重塑，以期為當下的現實問題提供可借鑒的解決思路。

[本文為上海市哲學社科基金項目“城市數字化轉型背景下的新媒體數字化治理研究”（2021BXW008）階段性成果]

參考文獻：

[1]邱澤奇．技術化社會治理的異步困境［J］．社會發展研究，2018（ 5）：2－26．

[2]許鑫.媒介公共性與公共領域研究：議題、進路與出路——基于文獻回顧和研究現狀的反思[J].深圳大學學報（人文社會科學版），2014，31（3）：141-148.

[3]孔明安，劉嬋嬋.從“異化勞動”到“拜物教”批判的內在邏輯：兼及馬克思異化理論的重新審視[J].廈門大學學報（哲學社會科學版），2023，73（3）：21-28.

[4]劉志杰.算法把關失靈與編輯價值重塑[J].中國編輯，2020，125（5）：18-22.

[5]葉妮.虛實共生：數據驅動時代的算法主體性、中介關系與治理邏輯[J].編輯之友，2023，321（5）：59-65.

[6]喻國明，耿曉夢.算法即媒介：算法范式對媒介邏輯的重構[J].編輯之友，2020（7）：45-51.

[7]張欣.生成式人工智能的算法治理挑戰與治理型監管[J].現代法學，2023，45（3）：108-123.

[8]胡泳，年欣.自由與馴化：流量、算法與資本控制下的短視頻創作[J].社會科學戰線，2022，324（6）：144-165+282.

[9]葉妮.虛實共生：數據驅動時代的算法主體性、中介關系與治理邏輯[J].編輯之友，2023，321（5）：59-65.

[10]張海柱.算法治理中的算法公共性及其實現[J].自然辯證法通訊，2023，45（6）：18-27.