隱形的把關人：人工智能語境下新聞出版的算法偏見困境

摘要：人工智能的興起抬升了算法在社會信息分配中的地位，而以物理世界為學習原料的算法將現實社會中的偏見延伸至網絡虛擬領域，通過隱形的力量塑造著賽博空間的潛在秩序。新聞出版行業是大眾信息獲取的“把關人”，如何與算法這一隱形力量有效合作，保證新聞客觀與新聞真實成為亟待解決的問題。文章將新聞出版業中算法偏見的表現形式分為意識形態偏見、主流文化偏見、個體特征偏見三類，并從宣傳引導、系統建構、人才培養三個方面，為紓解算法歧視提供思路借鑒。

關鍵詞：人工智能；新聞出版；算法偏見

隨著人工智能計算機系統被廣泛運用在社會的各個領域，計算機強大的數據搜查與整合能力受到越來越多新聞出版者的青睞，并開始協助工作人員挖掘話題、梳理大綱、審校文本。有些生成式人工智能甚至搖身一變成為新聞出版的主體，自主撰寫新聞文章。2020年9月8日，英國《衛報》刊登了GPT-3（可生成類人文本的人工智能程序）生成的一篇文章。文章首段開門見山地表示：“我不是一個人類，我是機器人，一個會思考的機器人。”盡管這篇文章由人類進行過編輯和校正，但依然在新聞界引起了軒然大波。算法逐步打破原先網絡的虛擬限制，走進真實的社會。與此同時，算法偏見的出現打破了人們原先對計算機系統“完全客觀、完全公正”的片面認知，人工智能似乎已不再是對人類的模仿。這引起了公眾對人工智能這一新興事物及其背后算法的擔憂。

一、新聞出版業中的算法偏見

（一）意識形態偏見：賽博空間中強權政治的開疆拓土

從現階段來看，歐美等西方國家借助其自身在信息技術方向的先決優勢，持續推進人工智能的開發，將本民族政治文化納入機器學習的大背景，機器模擬不再是作為世界公民的個體，而是開發者所在階層、所持政治態度的縮影。文化霸權主義從物理空間進一步蔓延至虛擬世界，看似客觀的算法存在著被規訓的政治視角，代表規訓者發言，強權政治在信息技術上繼續“開疆拓土”，占據話語主導，弱勢國家、民族被持續打壓，建構出強者越強、弱者越弱的新一輪沉默螺旋。在我國，新聞業是黨和人民的耳目喉舌，作為該事業重要組成部分的新聞出版也不能例外。因此，當人工智能進入新聞出版行業時，其輔助的選題策劃、信息采集、內容建構、營銷推廣實際上包含著規訓者借助技術滲透的意識形態，如果未能及時辨別，國家安全將受到嚴重威脅。

（二）主流思想偏見：多元社會下新聞嚴肅的消解

當前，社會日益呈現出多元化傾向，網絡空間被各種內容填滿，這些龐雜的信息良莠不齊，受眾往往因為淺層需求而大量攝入不用思考的娛樂化內容。利己主義、娛樂至上等非主流思想驅逐主流思想，兼具深度、高度和銳度的新聞嚴肅被消解。

一方面，算法偏見加劇受眾疏遠主流思想。個性化推薦系統所運用的協同過濾算法是當前網絡環境中最常見的算法系統之一，作為人工智能計算程序，它主要是以不同用戶和商品間的相關性檢測為根據，并借此計算消費者偏好，制訂個性化廣告、內容推送。基于這種邏輯，算法天然地會將受眾好惡作為衡量信息價值高低的決定性標準。受眾的選擇不斷肯定著個性化算法的基本邏輯，算法也不斷向受眾投放相似的觀點和內容，塑造出信息繭房，公眾誤認為自己喜愛的觀點是正確的，完全沒有意識到正在同主流思想漸行漸遠。

另一方面，算法偏見被非專業主體用來制造邊緣文化。互聯網的誕生整合了以往傳統媒體文字、圖像、音頻、視頻等各類表達方式，新聞傳播的主體由最開始的記者、新聞工作者轉向大眾。部分非專業力量片面追求流量利益，迎合受眾需求，將內容中心遷移到純粹娛樂上來，吸引快節奏和高壓生活下的受眾點擊瀏覽，受眾的推崇鼓舞算法判定這類內容具備價值，將之推薦給更多人。非專業力量的影響通過算法偏見得以擴大，不斷擠壓專業新聞出版主體的生存空間，增加新聞出版行業的發展壓力，許多專業化媒體、傳統媒體迫于維持經營的需求，向算法妥協。

（三）個體特征偏見：刻板印象內個體特征的標簽化

人工智能囿于本身是對“人”的模仿，在應用中顯露出類人的刻板印象，通過將各種群體打上標簽的形式加以生硬區隔，這種分眾路徑帶來了性別、年齡等偏見。

一是性別偏見。由喬伊·布蘭維尼發起的“性別陰影”研究發現，微軟、國際商業機器公司、曠視科技三家公司生產的人臉識別產品均存在著對女性面部識別的誤差，而這一現象在男性面部識別中頗為少見。另有一則案例是亞馬遜的人工智能招聘軟件，該軟件在運行過程中被發現存在嚴重的性別歧視，更多的工作機會、求職信息向男性傾斜，而那些在平臺上輸入性別為女的求職者相比之下難以找到合適的工作。相似的事件同樣發生在中國，作為現象級社交軟件的“抖音”吸引了諸多新聞行業的入駐，這些官方客戶端在抖音上出版新聞滿足受眾信息需求。然而，網友們發現a6b8b93d12877f4c5db7d89c22777fd1，不同性別的人所看見的評論區內容大相徑庭。算法抓取信息是現代新聞出版行業了解事實變動的重要渠道，“見人說人話”的人工智能實際上阻礙著媒體全面、客觀地探索民意，錯誤的數據收集可能帶來反饋的失實，新聞工作者越來越難以把握受眾的實際需求。

二是年齡偏見。2022年，世界衛生組織發出警告稱，人工智能系統恐會加深對老齡人口的歧視，影響其健康狀況。老年人作為數字弱勢群體，明顯表現出對高智能化信息技術的不適應，很大一部分老齡人獲取信息的渠道同年輕人錯位，依然保持著傳統的紙媒、廣播或電視新聞了解方式。與之相反的是，傳統媒體在求取生存的轉型中將主要陣地轉移到網絡平臺，許多紙媒停產。新聞出版不斷年輕化的同時，高齡人口的信息需求被逐漸忽略，他們的信息來源也隨之減少。

二、人工智能語境下新聞出版算法偏見的治理路徑

（一）加強社會主義意識引導，創新主流思想宣傳形式

應對算法偏見，首要的是應對意識形態和主流思想偏見。新聞出版行業要堅持用社會主義核心價值觀引領新聞出版發展，堅守思想陣地，加強理論武裝，真正使人工智能算法為黨的新聞業所用，為國家的新聞業所用，為人民的新聞業所用。一方面，新聞出版業要增強風險意識，守住意識形態底線。新聞出版行業工作者在使用各種人工智能信息技術輔助出版時，要警惕算法中西方意識形態的滲透，建立健全產業內部自查體系，嚴肅對待人工智能，尤其是生成式人工智能這一新興技術。人工審核不應在新聞出版的全過程中缺位，面對尚處于發展階段的算法，身為意識主體的人的存在是避免技術越軌最好的保障。新聞出版行業工作者警惕技術風險的同時，要善于反向利用算法篩選、過濾與國家意識形態相悖的惡意論調。另一方面，新聞出版業要堅持黨性原則，打造思想高地。黨性原則問題是社會主義新聞工作中的重大理論和重要實踐問題，是新聞出版行業在每個時代必須回答的問題。當今世界是思想多元化的世界，堅守黨性原則就是要有正確的政治導向，新聞出版行業工作者要發揮主觀能動性，在把握底線思維的基礎上積極宣傳黨的政策與主張，弘揚主流思想，引導輿論回歸正軌；充實大眾媒介素養，激發全社會向善、向好的精神氣力；不斷創新創造宣傳形式，將人工智能算法有機地運用在擴大受眾媒介可及性上，充分延展新聞觸角。

（二）支持國內人工智能產業發展，構筑符合本土環境的算法體系

算法受到開發者固有思想、社會制度和數據采集實踐的影響，想要真正紓解算法偏見問題，就需要避免被技術“卡脖子”。各級政府支持國產人工智能發展，首先要著眼政策，落實科技興國戰略，切實營造出智能智造的科技氛圍；其次，要完善版權保障體系，尊重研究成果，既要保護符合本土語境的算法創新，又要保護公眾隱私，在公眾被告知且同意的情況下獲取數據集，將技術發展建立在符合倫理道德的基礎上；最后，要大力推進人工智能產業高層次人才培養，適當擴充財政教育支出，引導高校合理分配研究資源，進行知識交流合作，為新時期信息技術發展貢獻合力。人工智能產業的發展要杜絕以短期效益為目的，這不僅要求科研人員坐得住“冷板凳”，更要求全社會對技術研究有耐心，為人才培養、技術發展塑造和諧的大環境。科技工作者要持續對現有算法進行優化，在改進計算邏輯的基礎上盡可能避免業務理解偏見、數據集偏見、技術偏見和實踐偏見。科技工作者要端正態度，以辯證的思維看待算法技術，對于其中合理的部分加以學習轉化，對于其中敵對、沖突的內容進行改造。中國本土語境算法的構筑絕非爭奪賽博空間政治權利，而是要抵制單一話語權帶來的霸權主義，是世界多元化的重要和平力量。

（三）打破專業壁壘，打造復合型新聞出版工作者

規避算法偏見需要新聞出版工作者對算法運行的基本邏輯有初步的了解，只有明確技術運作的原理，才能從實際問題出發，探討誘發問題的現實因素，從而選擇更客觀、合理的實踐路徑。打造復合型新聞出版從業者是全面建設高素質出版人才隊伍的必經之路，也是緊跟時代潮流、反映時代脈搏的要求。對于已經在出版行業工作的技術人員，出版社應積極組織繼續教育，國家級出版社要依托現有黨政資源和影響力，向下帶動省市地區級出版社，為缺乏資金和教育資源的弱勢組織提供助力，舉辦多次、多種培訓，在意識形態、主流思想上組建統一戰線、統一口徑，貫通垂直體系；省市地區級出版社要拓寬視野，新聞出版企業之間要多溝通交流，把彼此看作為了共同的社會主義現代化目標奮斗的好伙伴，而非搶占市場份額的競爭者，同時保持謙虛心態，合理樹立榜樣意識和比拼意識，在你追我趕中延伸橫向連結。對于尚未進入出版行業的、仍在校園中的學生，學校要開設與人工智能語境下新聞出版相關的課程，培養理論基礎扎實，且具有復合型思維的人才。此外，新聞出版企業要同高校緊密聯系，為學生提供實習實踐的崗位。

三、結語

人工智能塑造的網絡虛擬空間并非完美無缺的“樂土”，映射著人類真實偏見的算法實際上為大眾建構了一個與自己有相近觀點、充滿娛樂性色彩的擬態環境。對待技術，我們理應正視它內部的意識形態邏輯，引導其向更符合社會主義現代化要求的路徑靠近，弘揚好以社會主義核心價值觀為代表的主流思想，打破從刻板印象中脫胎的痼疾成見，將算法從流量的桎梏中解放，切實為人民更美好的物質文化需求服務。

參考文獻：

[1]王悠然.全球認知生態系統興起[N].中國社會科學報，2021-07-09.

[2]劉海龍，連曉東.新常人統治的來臨：ChatGPT與傳播研究[J].新聞記者，2023（6）.

[3]葉青，劉宗圣.人工智能場景下算法性別偏見的成因及治理對策[J].貴州師范大學學報（社會科學版），2023（5）.

[4]卜素.人工智能中的“算法歧視”問題及其審查標準[J].山西大學學報（哲學社會科學版），2019（4）.

[5]賈詩威，閆慧.算法偏見概念、哲理基礎與后果的系統回顧[J].中國圖書館學報，2022（6）.

[6]謝梅，王世龍.ChatGPT出圈后人工智能生成內容的風險類型及其治理[J].新聞界，2023（8）.

（作者單位：南昌大學公共政策與管理學院）