智能傳播的“新社會能見度”控制:要素、機制及其風險

■ 郭小平 潘陳青

當下社會不僅被媒介包裹,更被算法包圍:內容、服務、平臺與用戶的連結愈發被算法高度中介化。依托強大算法能力的移動傳播媒體,成為“現象級”的流量平臺。一方面,那些基礎設施型的智能平臺媒體,逐漸發展成為“社會能見度”控制的新主體；另一方面,“社會能見度”控制的“算法轉向”,又促使人們重新審視能見度控制機制。

一、智能傳播與“新社會能見度”

“社會能見度”(social visibility),又稱“可見性”,指能否被他人看見、能否獲得他人的注意力以及獲得的注意力是否達到一定規模①。丹尼爾·戴揚(Daniel Dayan)指出,“社會能見度”常涉及三個方面的內容:一是“能否被看見”,即是否擁有被看見的權利且被呈現出來；二是“能否被注意到”,即被呈現出來后能否進入公眾視野、被關注到；三是被關注的程度還需“達到一定規模”②。當某一對象滿足上述三個方面的要求時,即可被視為擁有“社會能見度”。

(一)媒介域中的“社會能見度”

虛擬傳播技術出現之前,“社會能見度”的闡釋語境主要為具體的實體空間:哈貝馬斯強調“公共領域”中基于公開場合的“理性言說”，阿倫特關注“言說”為多數人所“共同看見”，桑內特論及以“展演”的手段獲得“社會能見度”。

隨著大眾媒介的誕生與發展,實體空間的“社會能見度”逐漸從彼時彼地的時空屬性中解放出來,被傳媒所中介并嵌入社會權力結構之中。在新聞生產社會學的研究看來,弱勢群體較難或無法自主決定以何種方式獲取能見度,因而常常借助“越軌”行為進入媒介場域。在丹尼爾·戴揚看來,社交媒體屬性使用戶能以自己的方式獲得“社會能見度”并定義他人的“社會能見度”。

基于大數據的智能算法重構了媒介的形態、業態與生態。數據與算法成為連接人與社會的中介。在約翰·杜翰姆·彼得斯(John Durham Peters)看來,中介化的平臺已將媒介從“訊息”層面延展到“棲居”(habitats)層面。媒介不只是傳遞信息,更為用戶創造“生存條件”,即媒介成為一種基礎設施、棲居之地、憑借之物和生命形態,是“自我表達和自我存有”的融合③。因此,彼得斯從媒介物質性視角強調“連接先于存在”“網絡之外只有虛無”。隨著人工智能技術的深度介入,智媒空間開啟了社會能見度控制的算法轉向。

(二)智能技術驅動下的“新社會能見度”:能見度控制的“算法轉向”

繼吉布森(Gibson,1984)以“被媒介包裹”隱喻“技術控制終將成為人類賴以生存的環境本身”之后,德勒茲(Deleuze,1990)大膽直陳“控制社會”的未來。不同于福柯所描繪的傳統“規訓社會”,德勒茲認為“控制社會”中至關重要的已不再是“個人簽名”和表明個體在社會整體中位置的“登記號”,而是數字或一個識別口令(吉爾·德勒茲,2000)。數字取代行政命令構成控制的語言,控制的實施也由威權者轉為第三類機器——信息機器和電腦。德勒茲所言的“控制社會”,在人工智能時代已成現實。

大數據、算法與云存儲技術的傳播應用,重新界定了與數據關聯的信息挖掘、信息選擇和排序標準。布赫爾(Bucher,2012)指出,算法的出現使“新社會能見度”的控制過程變成了一個計算機程序運行的過程④。算法決定內容被分發給哪些用戶,而基于算法的排名、排序、位置和分類也影響用戶的在線展示程度與形式。智能技術推動“社會能見度”控制的“算法轉向”。

二、智能傳播的“新社會能見度”控制要素

數據再現甚至再造、調控用戶,算法賦予用戶以身份并與現實的“社會位置”相勾連。“算法邏輯產生出的不只是世界,還有我們。”(John Cheney-Lippold,2019)雖然“可見”或“不可見”、“彰顯”或“隱匿”是一個融合了技術、歷史、社會與政治的復雜議題,但揭示智媒空間的“新社會能見度”控制,仍然無法回避技術控制的主體、中介及邏輯問題。

(一)控制主體:平臺媒體

平臺通過智能計算連接內容、服務與用戶,逐漸成為網絡社會的“基礎設施”(infrastructure),并在深度嵌入公眾的日常生活與社會交往過程中“基礎設施化”(infrastructuralization)。平臺的基礎設施化不僅僅是指平臺成為數據、關系和服務的集成平臺,還意指平臺成為公眾數字化生存的智能終端。平臺媒體化和基礎設施化的發展,為其成為“新社會能見度”的控制主體賦能。

平臺媒體主要包括如下四種類型:以Google為代表的搜索引擎類平臺媒體；以Facebook為代表的社交媒體類平臺媒體；以今日頭條為代表的資訊聚合類平臺媒體；以抖音為代表的短視頻/直播類平臺媒體。平臺媒體迅速崛起并在“能見度”控制上釋放出巨大潛能:首先,規模化、高粘性、高活躍度的用戶,以及多元服務奠定平臺媒體“能見度”控制基礎；其次,數據占有與算法訓練強化了平臺媒體“能見度”控制技術；最后,內容優化與服務提升了平臺媒體“能見度”控制能力。

(二)控制中介:智能算法

MIT經典教材《算法導論》將算法描述為“定義良好的計算過程,取某個值或值的集合作為輸入,以產生某個值或值的集合作為輸出”(托馬斯·科爾曼等,2013)。智能傳播領域的“算法”是負責信息分發的一套推薦系統。以資訊聚合類平臺今日頭條的算法y=F(xi,xu,xc)為例,算法在對內容特征(xi)、用戶特征(xu)和環境特征(xc)三個變量進行計算后,可以輸出一組針對用戶的最優信息流。當信息流中某一內容的用戶觸及率較高時,其被算法二次推薦或獲得“能見度”的可能性越大。同樣,搜索引擎類平臺Google的網頁排名算法(pageRank algorithm),主要依據網頁被鏈接的次數和網頁的內容質量來評判某一網頁的優先級。某一網頁被其他網頁鏈接的次數越多且內容的權威性越高,其排序就越能靠前,越能被用戶所看見。

事實上,算法介入“能見度”控制的過程要遠比想象的復雜。平臺的算法函數包含不同的算法模型及其運算方式。同時,算法工程師對信息要素權重的設置、平臺管理者對算法價值觀的整體定調以及算法運行過程中習得的社會偏見等,都將間接影響獲得“能見度”的內容類型。算法作為控制“新社會能見度”的核心技術,既是執行信息分發的“算法集”,也是暗藏著人類目的意圖和具有文化偏向性的各項決策技術。

(三)控制邏輯:流量思維

平臺媒體對“能見度”的控制,不僅體現在算法函數的制定和應用上,還體現在控制邏輯的選擇上。對于絕大多數平臺媒體而言,其控制邏輯主要體現為“流量邏輯”,即越有流量的內容就越能獲得算法的流量加持,進入流量較高的“流量池”中,從而獲得更高的“能見度”。流量主要是指一定時間內某一內容、產品、服務的人氣訪問量、互動量與使用量等,其統計指標包括頁面獨立訪問者數量、瀏覽數、用戶平均停留時間以及點贊、評論、收藏和轉發數、完播率等。

平臺媒體的“流量邏輯”被置換為一種典型的“算法思維”:首先,算法預先為某一內容、產品或服務提供一定的初始推薦流量；其次,一旦在數據反饋中判斷內容具有二次推薦的潛力,算法就會疊加派發流量；最后,當數據反饋不佳時,算法則會減慢或停止流量派發。抖音的初始推薦量一般為200—500人；二次派發的流量約為1000—5000人次；后續層層疊加,流量可上升至幾萬甚至到幾千萬人次。算法對內容選擇、排序的標準,使“能見度”問題變成機器執行代碼的“軟件”問題。平臺基于“流量思維”的能見度控制,主要遵循算法的權力邏輯與平臺的市場邏輯。

三、智能傳播的“新社會能見度”控制機制

算法中介功能的發揮,平臺媒體主體角色的扮演,流量邏輯的運作,以及算法、平臺媒體和用戶間交互所形成的復雜關系,構成“新社會能見度”的控制機制。

(一)基于“算法價值”的“新社會能見度”生產

如果說傳統媒體的“能見度”生產偏向“新聞價值”要素(“新鮮性”“重要性”“顯著性”和“接近性”等),那么,智能媒體的“能見度”生產則偏重“算法價值”要素。德維托將社交媒體Facebook的“算法價值”總結為朋友關系、用戶公開表達的興趣、用戶先前的參與、用戶含蓄表達的偏好、發布時間、平臺優先級、頁面關系、用戶的負面表達和內容本身的質量等九個要素。⑤王茜(2017)將今日頭條的“算法價值”歸納為用戶偏好、場景、內容和平臺優先級等四個要素。其他的研究也發現,Twitter“熱門話題”的價值要素主要包括時新性、新奇性、更易于跨用戶群傳播等(Gillespie,2016),而“微博熱搜”的價值要素集中體現為時新性、流行性、參與性和導向正確性等。⑥雖然“新聞價值”與“算法價值”的要素迥異,但二者都是基于“相關性”的價值選擇。相較于“新聞價值”,“算法價值”更強調數據關系和用戶偏好。

首先,數據關系的豐富性帶來了“算法價值”要素的多元性和靈活性,從而擴展“能見度”的對象范圍。曾經“不可見”的弱勢群體也被流量池推薦和算法推薦賦予了高能見度,甚至能坐擁一線明星的流量。

其次,用戶導向的“算法價值”關注用戶的“欲知”“想要”而非用戶的“應知”“需要”。與市場主義和感官主義密切相關的情感類、娛樂類內容更受大眾喜愛。流量導向的用戶偏好消解了平臺話語的公共性,倒逼專業媒體采取迎合算法的策略(蕭維杰、王維菁,2018)。

最后,“算法價值”的動態性帶動熱門內容的快速更迭。用戶提供數據與建構關系實時地影響算法。基于用戶人口統計與使用行為的、相對穩定的數據指標,讓算法價值變得“流動”“可變”,也令熱點議題呈現“短時集聚”“快速消散”“周期性變化”的特征⑦。

(二)基于“推薦機制”的“新社會能見度”分配

由算法驅動的信息推薦,打破了蓋伊·塔奇曼(Gaye Tuchman)所言的新聞生產的“常規”,讓算法推薦系統取代新聞編輯室,成為“新社會能見度”分配的決策中樞。這種能見度分配機制或推薦機制,主要包括挖掘、召回和排序等三個核心環節。

“挖掘”負責對平臺所擁有的全部物料(all items,包括文章、圖片、視頻和音頻等)進行過濾,并對進入候選池的內容進行特征化。對于直接命中過濾規則(如內容違背倫理道德和法律,或賬號存在抄襲、數據造假、負面評論和用戶投訴等情況)的物料,系統通常會自動過濾,將其排除在“新社會能見度”分配對象之外。此外,一些存疑的物料則可能被系統移送至人工審核的后臺。

“召回”負責從不同的候選池中“撈出”若干物料以待分發。召回的場景通常包括基于語義、相似檢索、標簽、行為和模型的推薦等。

“排序”負責對召回的物料進行排序優化,通過更精細的模型對每一篇候選內容進行分值計算,從而輸出最終排序結果。內容能否被優先呈現的影響因素有相關性、互動率、圖文類型、發布時間、熱門程度、描述性標簽、關鍵詞以及內容賬戶的粉絲數、上傳頻率等。多數算法更偏好圖像、視聽等非文字類內容。互動率(關注量、點贊量、評論量、轉發量)、完播率與吸粉率,以及賬號的優先級構成短視頻質量的算法評判標準。某一內容要想獲得“能見度”,不僅需歷經多個環節的篩選(見圖1),還要積聚一定規模的流量,最終才能獲得高能見度。

圖1 平臺媒體內容推薦的漏斗模型

同“算法價值”一樣,“推薦機制”同樣具有多元性和變動性。除常規因素外,Facebook給予“即時文章”(IA,instant articles)以更高的流量加權,YouTube獎勵女性化內容,Instagram強調關注者的數量和社交關系,B站為視頻彈幕賦予更高的推薦權重。

(三)平臺可供性下的“新社會能見度”競逐

數字技術對傳媒業的影響主要體現在可供性的變化、傳媒業與其他產業的相互融合⑧。可供性(affordance)概念起源于生態心理學領域,反映的是個體與環境的互動關系如何承載“行為的機會”(Gibson,1977)。傳播學中的可供性,多被用以探討媒體界面及其技術對具有特定感知和技能的行動者而言所具備的行動可能性。可供性有三個判斷標準:一是確認可供性既不是對象本身,也不是對象的特征；二是可供性不是結果,可供性會導致不同的結果,但它本身不是結果；三是可供性具有可變性(Sandra K.Evans,2017)。論及智能手機內置攝像頭的可供性,關注的不是“攝像頭”這一具體對象,而是其“可記錄性”；論及平臺媒體的可供性,提升普通公眾的社會能見度只是其結果,而“可見性”才是平臺媒體在智能環境下的可供性；可供性相對于行動者的行動能力而存在,不同行動者與技術互動的方式、過程和結果均有差異。

平臺媒體成為“能見度”競逐的新場域。能見度的競逐離不開平臺媒體主體性的發揮,更與平臺媒體的智能技術可供性密切相關。這一“可供性”主要體現為能見度的可供性、流量資源化可供性以及參與的可供性。

首先是能見度的可供性。多數平臺的算法原理,遵循的是流量供應的普惠性,這就使用戶在認知上能形成“參與就有機會”的意識。比如,為了照顧零粉絲用戶,快手引入國際上用于評估貧富差距的基尼系數,將70%以上的流量分配給長尾端用戶,從而在理論上保障任何一個賬號都有機會擁有百萬級以上的流量⑨。同時,算法的既往追蹤功能,也為用戶帶來更多的可見性機會。如果某一內容的數據反饋佳,算法就會推薦該賬號的其他內容,從而激活早前已經沉沒的內容。平臺的關聯算法強化其能見度的可供性。

其次是流量資源化可供性。移動互聯時代的流量,本身就是一種社會資本,一種“新社會能見度”表征。流量是一種文化、社會或政治資源,但當前更多地是作為一種經濟資源被利用。流量的“商品化”,就是將線上與線下情感、物品、創意及活動等轉化為可交易的廣告或商品⑩。李子柒從YouTube廣告聯盟獲得的年收入高達4000萬元,“只穿高跟鞋的汪奶奶”單場直播銷售額達近500萬元,抖音賬號“聞叔的傘”的單條視頻也實現了6萬元貨幣轉化。2017年9月,抖音平臺正式開放商業合作。其“星圖平臺”就是一個集智能交易與管理為一體的推廣接單平臺,為客戶與創作、交流、記錄“美好生活”的流量明星達成視頻廣告交易服務并從中收取費用。平臺界面設計中的打賞、購買網址鏈接、直播間綁定和后臺廣告付費系統的架構等內容貨幣化方案,充分激活了“新社會能見度”的經濟資源屬性。

最后是參與的可供性。平臺媒體作為新媒體所兼具的生產可供性(可編輯、可審閱、可復制、可伸縮、可關聯)、社交可供性(可致意、可傳情、可協調、可連接)和移動可供性(可攜帶、可獲取、可定位、可兼容),為用戶參與“能見度”競逐提供了強有力的支持。抖音平臺推出手機視頻剪輯制作和發布工具“剪映”,提供變速、濾鏡、美顏效果,以及一鍵生成式模板、豐富的曲庫資源等。視聽生產與發布技術門檻的降低,為低能見度群體的“可見性”競逐賦能。同時,借助多樣化社交功能設置,平臺媒體進一步強化用戶與粉絲的互動,由此形成的親密關系也鼓勵用戶持續地參與內容生產。

(四)可見性勞動成果不確定性的算法規訓

由主客觀因素所共同促成的“算法黑箱”,使用戶的“可見性勞動”(visibility labour,即以爭取可見性為目標的數字勞動)能否獲得“新社會能見度”充滿“不確定性”。這種“不確定性”帶來了算法對用戶的隱性規訓。福柯曾以“全景敞視監獄”揭示“隱蔽性規訓”的存在:瞭望塔內部的專門設計,使被囚者因始終無法看清監視者是否正在塔中而“自己成了自己的監視者”(米歇爾·福柯,1999)。平臺媒體的隱性規訓具有更為明顯的網絡化與智能化特征:一方面,平臺以“優化服務”的名義實時監控用戶的言行；另一方面,平臺媒體將包括算法在內的與自身有關的重要信息均掩藏于幕布之后,使用戶對平臺知之甚少。

與“算法黑箱”對應的是,平臺賬號需要根據平臺組織、算法規則、“商品化”中介策略等,動態性調整內容制作或展演等“數字勞動”,“反向馴化”平臺算法以爭取更高的“可見性”。因此,受制于算法的用戶,通過多樣化的自我規訓來消弭這種“不確定性”。

一是迎合算法規則以爭取“新社會能見度”。平臺官方發起的挑戰賽,由于流量加權明顯,總能吸引大批用戶參與。平臺算法對資深賬號的流量加權、對非活躍賬號的流量降權,引導處于不同網絡節點中的用戶在自己擅長的垂直領域大量投入、長期深耕。同時,用戶在“可見性勞動”過程中測試、摸索和總結算法知識,并據此制定諸如搜索引擎優化(SEO,search engine optimization)、社交媒體優化(SMO,social media optimization)和短視頻關鍵字、標簽、標題及描述優化策略等,以確保優質內容能被算法推薦。

二是依據數據反饋調整內容生產。相較于傳統的發行量、收視/聽率,流量為“新社會能見度”的測量提供了更為豐富的數據指標和更具實時性的數據反饋。熱搜、熱門話題列表、首頁顯示、“大家正在搜”等熱門內容的形式可見,為用戶提供了可供參考的對象。于是,用戶可據此實時調整內容生產與發布策略。

三是通過自我內容審查以防止平臺上的“不可見”。平臺化既是基于數據化、商品化與選擇性的內容生態建構,也由國家、平臺公司、用戶等多方力量互塑。用戶的自我審查,是對智能算法、平臺規則以及國家互聯網治理的適應。“可見”或“不可見”成為YouTube、Twitter、Facebook、抖音、今日頭條等平臺媒體用戶不得不直面的議題。對于暴力、恐怖、色情以及其他危害“公序良俗”內容的規避,既是算法治理下的自我規訓,也是平臺用戶的社會責任感體現。在某種意義上,“不可見”的威脅成為支持平臺媒體提供“道德倫理約束”的軟性力量。

四、“新社會能見度”控制的潛在風險

“新社會能見度”控制的有序運轉在于控制機制的正確、有效實施。源自系統內、外部的風險因子侵入,將引發一系列風險。

(一)算法操縱能見度的意識形態陷阱

如果說廣播、電視媒介形成了“政治的個人化”和“政治傳播的聊天化”這兩大可見性政治文化,那么智能傳播則帶來了“政治宣傳的自動化、規模化和隱蔽化”。算法兼具技術性和社會性,當其設計與使用被嵌入政治企圖時,將成為殺傷力極強的“政治武器”。價值觀與意識形態的嵌入帶來算法偏見與倫理問題,這也必然導致智能空間可見或不可見的問題。目前廣泛滲透于國外政治活動中的“計算宣傳”(computational propaganda)就是基于算法所展開的政治能見度操縱。幕后利益集團利用社交機器人(social bots,自動程序型智能體)偽造政治對話、傳輸“政治模因”和制造虛假政治意見氣候等,從而使用戶被真假難辨的信息所蠱惑,陷入意識形態陷阱中。

“意識形態”通常指一種流行的觀念,間接服務于某些權勢集團,為其利益做合法性論證(安東尼·吉登斯,2019)。英國公投中極力主張“脫歐”的政治僵尸網絡,特朗普團隊總統競選中AI技術的協同運作,以及德國聯邦總統選舉期間服務于右翼勢力的機器人水軍等,均是利益集團利用算法操縱能見度、干擾網絡視聽的重要手段。后續相繼引發的意識形態危機事件業已證實,算法的能見度操縱具有強大的輿論引導力。2019年12月,Facebook封殺了近千個粉絲數超過5500萬的虛假賬號。這些虛假賬號利用深度偽造技術偽造人類賬號,自動、系統地發布大量有關“支持特朗普”“反對中國”的信息。最新AI研究顯示,當前智能算法已能圍繞相關主題自動創建視頻,并在短時間內多頻道發布視頻。不斷升級的算法應用,為能見度操縱提供更強大的技術支撐。

(二)流量邏輯誘發能見度競逐異化

“新社會能見度”控制的“流量邏輯”,在本質上遵循的是尤瓦爾·赫拉利(Yuval Noah Harari,2017)所描述的“數據主義”。“數據主義”強調整個宇宙都能簡化為數據流,認為相比電子算法,人類自身構成的“生化算法”將逐漸失去價值。就算法時代的“新社會能見度”控制而言,什么類型的內容應該被優先推薦,更多的是基于數據反饋,而非人類從業者的經驗。

一旦數據驅動、遵循流量邏輯的“獨異性”成為目標,基于“公共言說”的“可見性”競逐反而存在被異化的危險。獨異性的狂歡是現代社會結構轉型的標志(安德雷亞斯·萊克維茨,2019)。智能算法既要在技術理性中進行大數據采集與分析,還要計算不同用戶的人口統計特征、行為與偏好等,在“用戶畫像”中創造個性化。“獨異性”邏輯與“普適性”邏輯迥異。進入獨異性社會,個體、經濟、文化、政治與宗教,都在追尋獨特性、差異化與個性化,以形成辨識度并獲得社會認同。區別于主流文化的亞文化,區別于常識共識的極端意識形態等,在平臺上被用戶“刷屏”。因此,萊克維茨(Reckwitz,2019)指出,物與客體、主體和集體等要想在競爭激烈的注意力市場上獲得“社會能見度”,通常需具備“獨異性”,即展現出獨一無二的文化特質并在情感上吸引人。

YouTube的網絡紅人利斯曾坦言:“算法就像毒品,讓人上癮,網紅們在視頻里情緒越激動、越憤怒、越標題黨,就越受用戶歡迎,越能獲得平臺推薦。”生吃泥鰍、大胃王“吃播”、未成年媽媽以及不做危險提醒的極限挑戰等視頻內容,游走在道德倫理和法律規范的邊緣,反而在流量邏輯下獲得高“社會能見度”,并進一步刺激用戶生產更多的同類內容。在能見度競逐的跑道上,流量邏輯成為奴役生產型用戶的一種非強迫性力量,左右著他們的在線實踐。

能見度競逐的異化將帶來內容產品生產與消費的異化。為了最大限度地延長用戶的在線時間,賬號常常忽視發布的內容是否符合用戶的長期利益、是否能提供造就“公共性”所必需的反思意識等。非營利組織Center for Humane Technology更是直接指責道,爭取用戶注意力的競賽,不僅侵蝕大眾的精神健康、損害用戶自主性、割裂社區,同時還剝奪睡眠。

(三)算法審核缺陷觸發能見度分配失控

目前,智能算法并不具備完美的計算能力。2019年3月,由于算法審核缺陷,新西蘭的恐怖襲擊事件在平臺媒體引發嚴重的次生危害:首先,當犯罪分子通過安裝在頭盔上的GoPro相機將整個槍擊過程直播于Facebook上時,算法沒能實時發現和攔截,致使暴力行徑持續播映17分鐘之久。其次,對于經UP主們改編、剪輯二次上傳后的視頻,算法仍存在嚴重的漏判問題。最后,以單位時間內的瞬時點擊率為核心權重的算法,更是將暴力畫面大規模地推送給用戶,使其獲得不應有的曝光。事件發生后,Facebook人工審核團隊雖在24小時內刪除了至少150萬條相關視頻,但面對不斷走向程序化、自動化和規模化的“新社會能見度”分配,仍顯得捉襟見肘。正如海德格爾所預言:“全部的技術是一個大框架,讓人淪陷其中,而技術提供的力量總有一天會超過人類所能理解和控制的范圍。”

同時,數字精英利用算法審核缺陷實施的違法行為,也可能導致算法的能見度分配失控并引發社會倫理問題。美國記者勞拉·簡(Laura June)撰文控訴3歲女兒在YouTube上收看《小豬佩奇》的遭遇:播放中途,畫面突然變暗；拿著巨型針筒的牙醫現身,恍如虐待狂般拔掉Peppa的牙齒,令觀看的女兒不斷慘叫、哭喊。當算法無法捕捉、識別夾雜在視頻中的隱蔽性異常片段時,大量貼著“教育”“搞笑”“童謠”標簽卻被暗中植入恐怖、暴力和惡俗片段的視頻,就可能被大批量地推送給未成年人。雖然平臺可以逐漸強化和提升內容審核能力,但這仍是一種“事后諸葛亮”式的解決方案。技術漂遷,即技術變革中來自多個方向的創新潮流向高度不確定的目的地移動的過程,可能帶來的“非故意后果”始終是“新社會能見度”控制的風險所在。

(四)平臺壟斷導致用戶權利侵害

平臺媒體“暴政”的危險雖然較為遙遠,但平臺壟斷導致的公民權利侵害已成為一種普遍性現象。福柯指出,“全景敞視”監獄的空間設計,雖是一種可見性不對稱的設計,但任何人都可以來到中心瞭望塔,行使監督職能和了解監視的運作方式,因此,其所造成的權力強化不會有蛻化為暴政的危險(米歇爾·福柯,1999)。在“新社會能見度”控制中,造成用戶權利侵害的壟斷性因素,主要包括算法的黑箱化、用戶數據的私有化和商業化、算法歧視以及平臺作為信息中介服務提供商的“豁免權”等。

其一,“算法黑箱”侵害用戶知情權。用戶知情權主要包括知情同意權、知悉政府機關和其他法定機構無條件開放的數據、知悉有條件開放的政府數據。就平臺用戶而言,其知情權主要包括:一是知情同意權,如用戶知悉個體數據如何被收集、分析、存儲和流向何處等；二是享有知悉所接受服務真實情況的權利,如用戶知悉算法推薦列表中某一內容的排名靠前是否源自不正當競爭、某一熱搜的出現或消失是否源自算法的正常運算等；三是擁有相關機構按法定需公開的決策過程的知曉權等。顯然,就目前而言,用戶的上述知情權并未得到充分保障。

其二,“數據—監控”對用戶隱私的侵害。“新社會能見度”控制建立在平臺對用戶數據的占有、監控和處理上,而這將埋下侵害用戶隱私的隱患:一是算法越來越強大的信息挖掘、分析和處理能力,使反映用戶認知取向和價值觀的整合型隱私越來越能為平臺所收集和使用；二是作為用戶隱私數據的管理者,平臺的系統漏洞一旦被黑客所攻破,用戶隱私將面臨大范圍曝光的風險。《2020年全球風險報告》已預警,以竊取數據為目標的網絡攻擊將成為未來十年全球第七大風險。

其三,算法歧視下的新能見度不平等。平臺媒體宣稱客觀、中立的算法將會為用戶提供更具公平性的“新社會能見度”競逐機會,但Google圖像識別錯將黑人標記為大猩猩,Facebook將高薪工作更多推薦給男性用戶等諸多現實案例表明,由算法驅動的“新社會能見度”控制機制在本質上仍是一個使強勢方更易受益的“中央過濾器”。算法設計和運行過程中人類偏見的滲透、算法決策所依托數據集的數據代表性不足或過度以及數據中隱藏的歧視性因素等,都將導致能見度不平等在智能媒體空間的延續。部分邊緣群體因為種族、膚色、地區、口音、性別、年齡和職業等原因,仍面臨被算法遮蔽或不平等對待的命運。

五、結語

“社會能見度”控制的“算法轉向”,不僅體現在“算法嵌入”這一技術變革上,同時也反映在控制邏輯、控制機制的數字化、機器化和智能化取向上。在“新社會能見度”資源分配中,智能算法化身為一種技術權力。算法權力不斷地呈螺旋式上升與平臺壟斷不斷地升級,可能引發一系列社會倫理風險。作為算法研發和應用的主導者,平臺媒體如何馴化技術、規避風險和承擔責任有待進一步探討。

旱情信息服務實現旱情監測成果發布、成果查詢、用戶管理的功能。將旱情監測成果發布到指定目錄下；成果查詢支持按監測日期查詢歷史監測成果；用戶管理支持對系統用戶的管理，包括添加、刪除和修改功能。

(本文系中央高校基本科研業務經費資助文科重大及交叉項目“智能傳播的新‘社會能見度’控制及其風險治理研究”〔項目編號:2020WKZDJC003〕的研究成果。)

注釋:

① 孫瑋、李夢穎:《“可見性”:社會化媒體與公共領域——以占海特“異地高考”事件為例》,《西北師大學報》(社會科學版),2014年第2期,第38頁。

② Daniel Dayan.ConqueringVisibility,ConferringVisibility:VisibilitySeekersandMediaPerformance.International Journal of Communication,vol.7,no.1,2013.p.139.

③ [美]約翰·杜海姆·彼得斯:《奇云:媒介即存有》,鄧建國譯,復旦大學出版社2020年版,第17頁。

④ BuCher,T.WanttoBeontheTop?AlgorithmicPowerandtheThreatofInvisibilityonFacebook.New media & society,vol.14,no.7,2012.p.1165.

⑤ DeVito,Michael A.FromEditorstoAlgorithms:AValues-basedApproachtoUnderstandingStorySelectionintheFacebookNewsFeed.Digital Journalism,vol.5,no.6,2017.pp.753-773.

⑦ Wallace,J.ModellingContemporaryGatekeeping.Digital Journalism,vol.6,no.3,2018.pp.274-293.

⑧ 彭蘭:《數字時代新聞生態的“破壁”與重構》,《現代出版》,2021年第3期,第18頁。

⑨ 快手研究院:《被看見的力量》,中信出版社2020年版,第8-13頁。

⑩ Joseé van Dijck,Thomas Poell & Martijn de Waal.ThePlatformSociety:PublicValuesinaConnectiveWorld.New York:Oxford University Press.2018.p.37.