算法平臺推薦碎片化信息的隱患與治理

□李紅博

算法平臺推薦信息的特征

內容偏向簡單化。算法平臺推薦的信息往往簡單易懂，在一定程度上降低了大部分群體的認知障礙，能讓他們更輕松地掌握各種信息。算法平臺推薦的信息傳播也更為高效，人們無論何時何地都可以接收到，加上人們之間的相互傳播，進而提高了人們接收信息的數量和頻率，在一定程度上降低了認知的時間成本。在感官上，短時間內瀏覽大量的碎片化信息，很容易讓人產生錯誤的心理。在獲取碎片化信息時，人們只是淺層次地關注信息的事實和結果，往往忽視了信息對于自身的價值。沒有經過大腦精細加工的信息，在人們眼前轉瞬即逝，而人們也不會真正了解到推送信息的知識體系與框架。算法平臺可以讓人們快速瀏覽碎片化信息，人腦來不及對這些信息進行深入解析，長期以往，自然會影響人們獨立思考與邏輯建構的能力。在人工智能時代，各類算法平臺推薦的碎片化信息內容短且更新快，人們在好奇心的驅使下過于追求閱讀速度，反而沒有獲得完整有效的信息，還嚴重影響到自己的注意力。

觀念凸顯娛樂性。每個人的時間都是有限的，工作、學習、生活等占據了人們的時間，毫無娛樂放松的余地，但是激烈的社會競爭給人們帶來了沉重的壓力，人們需要尋找輕松的娛樂信息適當解壓。因此，人們需要更多的娛樂信息來緩解身心。基于此，算法平臺在商業利益和社會需求的推動下，為了占據更多的市場份額，往往推薦娛樂性質傾向的信息。這類信息最是能夠抓住人們的眼球，具有很強的吸引性和刺激性，能使人們在短時間內獲得滿足感和陶醉感。但是，算法平臺推薦娛樂性質的信息時只注重用戶的點擊率和關注度，致使推薦的信息形式單一，缺乏主流價值導向。當算法平臺推薦的信息內容過度娛樂化的時候，用戶僅僅是獲得了短暫的快感，卻忽視了自己真正的需求和目的，只是換了一種方式過度消耗自己的精力。算法平臺為了抓住更多的用戶也會更傾向于推薦娛樂性質的信息，如此不僅會使用戶沉迷眼前的娛樂而失去理智，更會加劇網絡環境的混亂，不利于社會主義精神文明建設。在算法平臺取悅用戶的過程中信息泛娛樂化嚴重，用戶的價值觀念取向缺乏正面導向，加強內容治理勢在必行。

領域傾向個人化。在人工智能時代，各式各樣的信息充斥在生活中，面對紛繁復雜的信息，人們往往更喜歡去接受自己感興趣的內容，這為算法平臺推薦個性化信息提供了市場?；诓煌呐d趣和需求，在大數據智能算法的助推下，各個階層、各個群體的信息需求被精準識別，信息分散到相應的受眾群體之中，形成了基于社會熱點關注、大眾娛樂消費需求、親情友情傾訴和基層社區單位組織劃分的群組和圈子。[1]因此，各類算法平臺以大數據精準推薦算法為賣點，為每個用戶定制個性化信息推送，導致用戶在算法平臺的支配下難以享有自己的信息選擇權，逐漸被包裹在個人偏好的“信息繭房”中。在算法平臺推薦信息的過程中，用戶獲取的信息是根據個人喜好量身定制的，最終以用戶個人的興趣報告的形式出現，用戶每一次感興趣的關注點都被記錄下來，表面上是用戶的閱讀體驗過程，實際上算法推薦已經為用戶形成獨特的信息推薦體系，在這樣的規則下用戶很容易陷入個人興趣點的“信息繭房”，這一結果顯然并不是用戶瀏覽信息的初衷。

算法平臺推薦信息的隱患

算法平臺挖掘個人隱私。算法平臺主打的就是推薦個性化的信息，為了實現這一目標，算法平臺會充分挖掘用戶的基本信息，那么侵犯用戶的個人隱私就不可避免，這對用戶的信息安全造成了極大的風險挑戰。算法推薦信息的過程實際上是一個收集和分析用戶個人基本信息和監視用戶瀏覽數據的過程，算法會記錄和儲存用戶在平臺瀏覽信息的痕跡，平臺運行程序會在此基礎上分析用戶的興趣點，投其所好，從而為用戶定制平臺可控的媒介擬態環境。為了提升用戶對于平臺的依賴度，算法也需要獲取用戶多方面的私人信息，并通過算法推薦定位用戶的個人興趣范圍，使用戶更多地關注算法平臺推薦的信息，實現信息從海量空間到個性化數據、從個性化數據到培養興趣點的信息推薦模式。總之，算法平臺推薦個性化信息，以個人隱私為基礎，基于平臺算法為用戶量身定制海量信息，滿足用戶的私人興趣需求，提高用戶對平臺的關注度。另外，算法平臺為進一步盈利必須牢牢把握住用戶，就會出現過度挖掘和使用用戶個人信息和數據的情況，無疑損害了用戶個人信息的保密權益，甚至對用戶個人隱私造成極大的威脅和挑戰。

算法推薦存在歧視現象。算法推薦信息的運行邏輯主要依靠算法的數據處理功能，算法本身就是人為的產物，不可避免地會帶有人的思想觀念。此外，算法機制本身也有漏洞，算法平臺在為用戶推薦信息的過程中同樣會存在歧視現象。經過算法的研判，不同用戶會接收到不同層面的信息，算法在很大程度上控制了用戶信息接收的范圍，被算法標簽化的用戶在一定意義上便是算法歧視的受害者。算法歧視問題不僅使算法無法充分發揮其正面效用，也成為大數據科學及人工智能技術推廣中不可忽視的障礙。[2]算法歧視很大程度上源于人類社會的算法歧視，是對既有文化歧視后的歸納或同構，形成數字社會中的文化排斥或社會排斥。傳統的社會歧視，如種族歧視、性別歧視，隨著算法方法的廣泛應用，已經轉變為算法歧視。算法歧視總體上反映了社會關系和人們固有觀念方面的深度不平等，人類社會觀念影響下的算法技術難以避免歧視的發生，特別是原本不太明顯的間接歧視現象，在算法推薦的推動作用下發展到了新的程度，以更隱蔽或合法的形式出現。算法推薦為用戶定制個性化信息，在一定程度上會產生馬太效應，用戶困在“信息繭房”中也產生了選擇信息的不平等，這種不平等便是算法歧視。這種算法歧視意味著信息匹配和選擇的不平等和不公平，算法對用戶的標簽固化，顯然是沒有把用戶看成一個全面發展的人，這無疑是技術倫理學方面的一項重大課題。算法平臺推薦信息的首要條件是對用戶數據的標簽和劃分，這是后續進行量化分析和操作的重要前提，將用戶標簽、分類，這其實就給算法技術附加了人類社會的偏見思想，容易導致算法的誤判，用戶最終成為算法技術的受害者。

單一的信息環境造成認知封閉。算法會特別關注用戶對信息內容的點擊次數和留觀時間，目的是為了更精準地了解用戶的關注點。在人工智能時代，移動性、碎片化、淺層化是用戶閱讀信息的主要特征，為滿足用戶輕松獲取信息的需求，算法平臺主要通過聳人聽聞的標題、離奇夸張的故事、低俗淺薄的內容來吸引用戶，用戶點擊次數越多，算法推薦權重就越大，最終形成娛樂化、低俗化信息湮沒具有理性、深度、優質信息的惡性循環局面。算法平臺以滿足用戶需求為主要目標，追求點擊量最大化，單純依靠算法的個性化推薦，只會導致信息傳播在個體上的閉環，剩余的優質內容也會失去流量和價值。在這種流量為王機制的作用下，算法平臺輕松消解了傳統媒體的新聞專業主義精神。

信息獲取的同質性是指用戶獲取的信息內容具有狹隘性和片面性，娛樂與低俗往往如影隨形，內容必然也逐漸同質化。處于信息繭房中的用戶，被算法平臺綁定在一個自認為有趣的小信息場和思維偏頗的程序設計上，用戶長期接收單一取向的信息，與現實環境之間缺乏有效互動，獲取外界新鮮信息的能力將會減弱。在算法技術的作用下，用戶可以拒絕自己不感興趣的信息，長期封閉在同質化的信息環境中，將失去甄別信息的能力和深度思考的能力，進而就會對現實環境出現認知偏差，最終陷入認知封閉的狀態。

算法平臺推薦信息的規范與治理策略

落實平臺責任。加強算法平臺的治理，首先要進行責任的明確劃分，算法平臺作為信息的推送主體具有不可推脫的責任。在算法平臺的規范和治理中，除了監管算法平臺推送信息的程序外，還應該包含算法平臺問責機制，既要問責算法程序的失當，又要問責算法平臺的失范。平臺對于算法的應用和信息的推送負有直接責任，平臺應該審視算法的開發者和使用者，對于算法應用過程中的歧視現象應當承擔相應的責任，以做到責任明確。針對算法平臺的主體責任，應完善相應的規則與制度建設，遵守互聯網的法律法規，治理過程中堅持問題導向，維護好平臺作為第一責任主體的形象。算法平臺作為責任主體，應該堅持主流價值導向，促進用戶全面發展。算法平臺落實主體責任，應增強服務意識，努力為用戶服務，推送優秀文化，凈化平臺環境。算法平臺應對信息發布者進行資格審查，對信息來源和價值導向進行科學評估，對資質良好的發布者和內容進行優先推送，謹防非法詐騙與惡意營銷，以此促進算法平臺信息質量的提升。算法平臺應遵守法律，積極配合相關執法部門對于違法內容和違法發布者依法治理，追求相關責任人的法律責任。算法平臺應對于違法情況早發現早報告，及時上報相關執法部門。

保障用戶權益。算法平臺在推薦信息過程中必須保障用戶的合法權益，尊重用戶在行為中的自主選擇權和決策權，不得干涉和誘導用戶自主選擇信息。除此之外，還應該設計出輔助用戶自主選擇信息的運行程序，促進用戶自我發展。算法平臺應該增加用戶自主選擇的選項，盡可能提供給用戶更多的方案去選擇，而不是把用戶限制在個人封閉的空間。用戶在選擇后感到不如意，算法平臺應支持用戶重新選擇，并尊重用戶的意愿及時接收反饋，使用戶獲得健康的信息環境。算法平臺除了保障用戶自主選擇信息的合法權益，還要提高用戶分辨信息的能力，提高用戶的算法涵養，讓用戶學會審視信息內容。算法在設計時應遵循公平性原則，避免歧視現象發生，保障用戶平等接收信息。同時，用戶應增強自我防范意識，提高自我算法素養，維護自己在算法平臺的合法權益，增強自我保護意識和維權意識，在自身合法權益受到算法監控侵害時主動維權。[3]高質量的信息能夠幫助用戶更好地進行決策，低質量的信息則加劇了用戶信息篩選和理解的難度。[4]因此，算法平臺有責任提供高質量信息。算法平臺在推送信息時還應加強風險評估，加強風險的評定與監管，堅持公開透明原則，以此避免算法推薦機制帶來負面影響，切實保障用戶的合法權益。

加強內容監管。算法平臺推薦信息時嚴格審核內容，保證內容合乎道德和法律，要弘揚真善美，傳播正能量，引導良好的社會輿論。對于違反法治監管規定的內容，算法平臺應禁止用戶訪問并及時移除，并限制和屏蔽該發布者的賬號，配合相關部門展開法治行動，肅清信息環境。算法平臺推薦信息時不能僅考慮用戶個人的興趣，而是要基于用戶的興趣偏好科學合理地推薦正能量和主旋律的信息內容，要讓用戶實現正向、積極、健康、全面的發展。在信息的真假辨別方面，平臺應該配備專業水準的人工去審核，加大審核力度，進行人工干預控制輿情話題的正確走向，對于已經發布的具有虛假和錯誤誘導傾向的信息，要及時向用戶解釋，時刻提醒用戶謹防上當受騙。算法平臺應加強系統建設，對信息科學劃分，自主過濾低俗違規的內容，對于算法難以辨別的內容，可提交人工審核以提高平臺處理的準確性；對于算法平臺上投放的廣告，應合理評估其真偽和價值導向，發現問題及時解決；研究用戶對內容進行反饋的便利渠道，對用戶的反饋認真對待，落實平臺服務用戶的責任；充分尊重算法主體、公眾等力量的地位和作用，調動多元主體參與治理的積極性。[5]總之，對于算法平臺推薦信息的把控與治理，需要多方參與，共同發力傳播主流價值觀。