大數據時代算法偏見與數字魔咒*
——兼談“信息繭房”的破局

□文│范紅霞 孫金波

當前，大數據技術在新聞傳播領域的應用催生了算法新聞。算法技術不僅越來越多地貫穿于新聞和信息生產與分發過程中，并在用戶認知和價值理性層面也日益凸顯其建構作用。但是算法技術也造成了一個悖論：一方面，它有助于推進數據開放運動，形成“魚缸效應”，降低了人們獲取信息的成本，加快建設透明型政府、透明型社會的進程；但另一方面，因為算法收集、篩選和過濾機制的運用，也有可能形成 “信息繭房”效應，最終與我們所希冀的開放、包容、分享、融合的信息化初衷背道而馳，進而成為阻礙民主、鉗制理性、喪失互信的淵藪。本文試圖就這一悖論現象進行深度剖析，并尋求“破繭”之道。

一、“信息繭房”的倫理風險和社會反思

“信息繭房”概念的提出，其理論依據就是公眾個體的信息選擇以及據此進行的信息推薦和“信息定制”，在主客觀兩個方面造成了用戶自身的信息封閉。再把目光放到更加宏觀的層面，“信息繭房”效應，可能會走向崇尚開放、互動、多元的互聯網精神的反面——即信息封閉、信息偏見和算法專制。

首先，對個人與社會兩方面的影響。對個人而言，“信息繭房”雖然迎合了用戶的需求，但是，它將用戶的注意力與時間局限于虛擬空間，使其沉溺于個人趣味和信息選擇，以至于出現更多“孤獨的自我”。這可能會加深用戶固有的偏見，導致個人的自我認知偏差和非理性的膨脹，以至于容易形成偏激與極端的觀點、言論或行為。對社會而言，“信息繭房”在滿足個人信息需求的同時，也限制了公眾的交往理性，甚至容易制造群體極化現象。公民虛高的自我認同度降低了其對于不同觀點的包容度，也在一定程度上堵塞了社會信息流通，不利于社會和諧和穩定。”[1］此外，它也不利于推進集體協商和社會協作體系的形成，由此加深了社會的分裂而非實現社會整合。

其次，搜索引擎催生新的社會規范。我們依靠它提供事實——卻從不懷疑為什么是這些事實而不是那些事實。2016年魏則西事件，后來雖然歸結為百度搜索的競價排名規則的惡果，但是這也從另外一方面說明算法對我們的判斷所施加的影響。“過濾氣泡”的搜索算法，一方面取悅于我們的個人主義觀念，另一方面也加強我們對某些問題的“既有看法”；排斥那些與我們“格格不入”的觀點和問題，最終加深了社會中隱蔽的歧視行為。而且，算法專制也使我們無法擺脫算法設定中的各種偏見和意識形態的影響。“正如議程設置帶有濃厚的政治意味和意識形態色彩一樣，新聞挖掘和分析算法在回答特定問題時，也會帶有某種偏見。當我們搜索某個人的信息時，如果算法提供不友善的搜索項后，本來對他不了解的用戶在搜索他的信息時可能會被引到某個特定方向。因此，算法不僅僅是在預測，還有助于控制用戶的行為。”[2］它將特定選項呈現于用戶面前，用戶只能從中做出選擇，從而影響到其決策行為和后果。

最后，算法還能夠被賦予輿論引導的作用。伴隨傳播權的下放和公眾參與程度的提高、網絡社群的聚集、信息體量的巨量增長、社會化媒體的高度市場化等原因，以往深受大眾媒體新聞選擇原則所影響的議程環境，不僅其主導權受到制衡，而且將受到更多復雜因素的干擾。比如，社交媒體的話題和熱搜榜取代了傳統的議程設置。輿論中心由媒體轉移到了社交平臺上，話題的引爆和引流，其“開關”操縱在算法的程序設定里，而非用戶想當然地自主“投票”。如新浪微博基于單向投票的排序算法，優點在于充分釋放用戶的傳播權，信息的價值高度依賴于用戶的態度和行為來塑造，提高了用戶的主動性和自組織性；但單項投票機制的弊端也同樣明顯，即反對者的態度和意見在單向投票的排序機制中難以體現和表達。導致微博上明星八卦、娛樂類信息、各類段子長期占據熱門排行榜，甚至“標題黨”橫行以博取用戶眼球。

二、數字圓形監獄與算法魔咒

另一個值得關注的問題，即算法專制可能形成的“數字圓形監獄”。圓形監獄由英國哲學家杰里米·本瑟姆（Bentham，也譯作邊沁）于1785年提出，他認為這種建筑構想可以為實現權力提供一種簡單而有效的手段。[3］而在福柯看來，到19世紀中期，圓形監獄機制擴散到整個社會，社會中遍布“圓形監獄”，整個社會成了某種程度的監獄社會。福柯曾把新聞界的作用描述為“觀看的政治”。[4］在監獄社會中，所有人都落入了規訓的技術網絡不可自拔，所有人都不可避免地成為現代監獄社會的一部分。

媒介技術淪為社會監控的工具。比如有線電視或閉路電視，以及衛星定位手段等，都可以讓我們體驗到那種控制與監督的關系。隨著互聯網和大數據技術的廣泛運用，圓形監獄模型或隱喻體現在更多方面，如無處不在的監控探頭、麥克風、GPS、LBS、傳感器設備、手機鏡頭、針孔攝像機等，將我們的一舉一動盡收眼底，甚至包括我們在浴室和臥室里的私密情形；只要我們使用網絡和智能手機，后臺設定的數據收集技術，可以不經過我們允許，在我們毫不知情或者有意降低風險性而讓我們樂意配合的情況下，收集我們的地理地位、IP地址、瀏覽習慣和歷史記錄，等等，甚至能準確定位，預測我們的購物清單和生活事件，對我們的戀愛和婚姻、包括孩子的長相、血型等進行速配和分析，其結果也往往準確得可怕。我們身陷于數字化網絡，受到嚴密監控而不自知，也可以說無能為力；我們的個人信息和隱私在監控者眼中一覽無余，毫無秘密可言……種種情形，我們可以稱之為“數字圓形監獄”。我們被算法支配和統治，作為用戶的知識興趣、網頁瀏覽習慣和歷史記錄、購物數據、社交網絡、情緒喜好等數據，都在后臺被記錄、收集和分析，并用于政治和商業化目的。每個用戶都會不知不覺間落入“規訓”的技術網絡，可能面臨隱私泄露和信息攻擊的風險，個人自由、信息權利和社會秩序將受到嚴重沖擊。

“信息繭房”“圓形監獄”等名詞，代表著一種空間政治的隱喻。事實上，空間也是一種權力形式，而上述這些“想象的空間”更是實施權力的一種途徑和模式。借用福柯的說法，它們表達了“權力與知識之間的關系。而知識權力在具體運作中，可以借助空間技術加以支配和實現。“信息繭房”和“圓形監獄”表達了一種隱喻：即信息傳播技術加強了對個人的控制，個人主義的崛起導致社會的碎片化；與此同時，資本和權力借助技術手段強化了少數人對多數人的監視，個體已經喪失了個人隱私和個人自由（比如說信息選擇的自由）。而且權力的實現只需要花費最小代價，只需要“一種監視的目光，每一個人都在這種目光的壓力之下，都會逐漸自覺地變成自己的監視者，這樣就可以實現自我監禁”。[5］技術強權帶來的封閉與專制，對于我們所倡導建立公民自治的開放型社會來說會造成極大破壞。

三、繭房突圍——精準匹配、深度學習與自我的重塑

“信息繭房”的困境是由算法技術造成的，而其“突圍”也要從技術結構本身來進行突破。比如“在線新聞”強調信息的精準匹配，“深度學習”的概念不僅適用于人工智能，也同樣適用于個人，在“連接一切”的互聯網精神指引下突破窠臼、實現創新。

1.下一代新聞：匹配比供給重要

在信息爆炸的時代，碎片化的時間和被割裂的注意力，以及對于速度和效率的極致追求，如何在最短時間內獲得自身需要的信息，不僅僅是個人能力的體現，更是未來媒體的使命。仇勇提出了“在線時代的新聞”這一概念，并據此給出“在線新聞”的定義：“在線時代，新聞是你看到的、與你相關的被傳播事實的呈現。”[6］在這個定義里，突出和強調的是“你”——也就是受眾所關注到的、所認知的事實。而且，這一事實也顛覆了所謂新聞“客觀性”的原則，因為受眾關注到的，僅僅是“事實的呈現”而已，它可以是文字、圖像、聲音，甚至是虛擬場景或者一串密碼等。如此一來，新聞可能不一定要由記者編輯來報道，個人也能成為新聞/信息的發布者。這就使得個人間的信息交換與共享變得十分方便和快捷，并且成本低廉，而信息價值則隨著“個性化新聞”潮流興起而實現增值。另外，隨著信息公開程度與執法透明度不斷增加，過去由政府部門和大眾媒介所壟斷的信息資源/權力逐漸貶值。當新聞由壟斷走向開放，對于個人的意義而言，信息的匹配性在重要性程度上遠遠超過了信息的供給。

最重要的是，新聞“與你相關”。隨著個性化新聞潮流的出現，互聯網重新讓新聞變得與每個人相關。我們更傾向于選擇與自己相關的那些信息。因此，在崇尚個性化和精確匹配的算法時代，我們對于新聞的需求和判斷標準，正在走向“匹配比供給更重要”。與其說我們擔心“信息繭房”對個人造成的封閉，毋寧說，今天的受眾，更需要與自己興趣和需求相匹配的新聞信息，而主動過濾掉與己無關、占據精力和時間的無效信息，從而大大提高獲取信息的效率。

2.深度學習和“連接一切”

在筆者看來，關于“信息繭房”的預言，僅僅說明了“信息定制”的一種可能性后果，而它可能忽略了人作為“社會行動者”的主動性。這種主動性至少體現在三個方面：①個人主義的抬頭，以及社會流動性增加帶來的多樣化興趣。今天，我們更多地強調“跨界”這個詞語。所謂跨界，就是不斷打破自己的“舒適區”，去探索未知領域，尋找新的興趣、知識、工作機會、人脈資源和事業空間。而要做到這一點，必須要打破信息封閉，以開放心態擁抱外部世界，以海納百川的精神，以及深度學習、終身學習的理念，不斷強化和豐富個人的知識儲備和信息倉庫。②“連接一切”的互聯網精神旨在打破封閉，擴大個體參與，也有助于實現“自我的重塑”。吉登斯認為，現代社會對個體自我認同造成的兩難困境之一就是“統一與破碎”，但是他也樂觀地指出，“在后傳統秩序中，無限多的可能性不僅體現了行為選擇的多樣性，而且也體現了世界對于個體的‘開放性’”。[7］這種開放性正好處于封閉的對立面。互聯網的本質是“連接一切”，在技術上實現萬物連接，同時實現信息在最大范圍上的流通與交互。這種網絡關系與現實生活中人們的社會關系以及社會行動也會彼此投射，個體會積極投身于社會變化，通過努力學習和行為調適以適應環境，實現“自我的重塑”。③互動場景多元化和社會分工3.0模式出現，造就個體多元的身份認同和身兼數職、實時協作的“斜杠青年”潮流。伯杰強調過現代社會的一個突出特征是“互動場景的多元化”。“在許多現代情境中，個體會卷入各種不同的困境和環境中，而每一種具體的環境都會要求有不同的‘得體行為’與之相適應。”[8］數字化時代賦予人們不同的數字身份，而場景的多元化則有可能促進“自我的整合”，即為了消除差異和適應環境變化的需要，人們更有可能發揮個人的積極性和主動性，從不同場景中獲取信息、知識和力量，利用這種多元化創造獨特的自我身份認同——即“斜杠青年”的興起。

所謂“斜杠青年”，是指在以互聯網為代表的信息技術推動下，過去的專業化分工現在可以通過眾建、眾包、眾創等方式完成，其中，個人的職業身份由過去的固定和單一的契約化身份，逐漸疊加了更多身份，一個人可以身兼數職，擁有多種身份和職業，如程序員/鋼琴師/健身教練/創業講師，等等，我們形象化地稱之為“斜杠青年”。[9］互聯網讓人和組織的關系變得更加自由而靈活，個人獲得了極大的自由和時間自主權，個體也能夠成為新的、獨立的經濟單元。這就是社會分工3.0范式。它的本質是去雇傭化，旨在建立更加平等和自由的關系模式。如此一來，出于社會分工和職業需要，人們會更加主動地尋求新信息、新知識，學習新技能，重塑新觀念，如此一來，就更不可能將自我封閉在狹隘的“繭房”中。

3.技術結構不等于社會系統

麥克盧漢認為，“媒介即信息”。在他看來，能夠改變世界和觀念方式，是媒介的形式而不是傳播的內容。從本質上來說，這也是“技術決定論”的表現之一。此外，技術決定論的線性思維，不僅僅體現在技術樂觀主義者身上，也同樣體現在技術悲觀論者的論調中。無論是過分溢美技術帶來的變革和進步，還是憂心于技術給社會秩序和傳統文化、觀念造成的顛覆與破壞，它們都只看到了技術的單面作用。事實上，社會變化（進步或倒退）都是各種復雜因素和過程疊加的后果，包括社會的整體環境、政治與經濟生活。一個單獨的技術不能創造或破壞社會，而是取決于技術的使用者如何利用技術，以適應社會與時代的需要。“媒介提供了一個信息傳播的技術條件，但不能決定什么信息是應該被傳播的。媒介本身并不能禁錮人的思想或者使社會文化自動走向民主，而是整個社會、政治和經濟生態中的一部分。技術工具和社會應用的關系是一個適應關系，體現了社會和政治的選擇。”[10］互聯網、社交網絡和算法技術的推廣普及，讓信息生產、篩選、共享和推薦變得方便快捷，它們為人們提供了一個數字化、即時性、多元交互和精準匹配的信息交流平臺，所有人都潛在地與所有人產生聯系，跨越時空和身份的無限連接，使個人的身體、心智、想象力和行動力在連續延伸中產生了一種新的社會中介。互聯網正是提供了這種“連接一切”的工具，成為打通各個領域的信息平臺，蜂擁而至的信息資源和個性化、共享式的用戶經濟，其目的和效果是解放人、增加個人的選擇，而不是減少或限制用戶選擇。每一位個體從技術革新和社會系統中吸收養分，反過來又給系統輸送養分，從而在個人-社會之間形成一個以社會關系網絡為特征的循環系統。如此一來，在這個系統內外，信息和資源都處于流動、交換和循環的狀態之中，所謂的“信息繭房”也就不攻自破了。

未來在大數據樣本不斷累積的情況下，人工智能在新聞生產以及分發推送中會扮演更加重要的角色，給用戶的畫像也會更加精準。與此同時，為克服機器學習過程中的過分機械、單一和信息推送的高度同質化，在媒體內部的數字新聞中心和各個內容平臺都在努力探索和改進人工智能深度學習的開發框架，同時輔之以人工干預，由人工進行內容審查、內容過濾和信息核查，力求在“傳統新聞價值觀”與“算法推送”之間加以矯正和平衡，以降低算法專制的風險。而在新的經濟關系中，“社會分工3.0模式能夠激活每一位個體，使其自身成為一個具有價值轉換能力的專業生產單位，更多地參與到越來越細化的社會分工中去。”[11］它讓人與人之間的聯系變得更加緊密，互動更為頻繁，那種畫地為牢、自我隔離的局面是不太可能出現的。因此，無論是從技術理念上還是它造成的實際結果來看，算法偏見、信息繭房和數字化監獄有可能造成的“創新性破壞”，都可以在人工干預和自主調整的情況下得到改觀和規避，我們也不必為此過于憂心，以至于矯枉過正。