治理算法黑箱：建構算法科技與新聞倫理的道德智能體

劉耀華

（魯東大學,山東煙臺 264000）

算法科技與大數據的結合使傳統新聞業的生產與傳播發生了質的變化，帶來了全新的媒介形態和用戶收發生態，創造性的改變了處于行動者網絡中的各個參與者間的互動關系，引發學界對新聞倫理進化的社會性思考。微觀上，算法科技對從事傳播行業的記者、編輯的職業理念、道德觀念、采編方式等與新聞倫理相關的態度總和產生影響。對于普通用戶來講，首先，人們的信息越來越容易被獲取、分析和應用。如果這些信息被錯誤使用，就有可能導致個人隱私泄露、身份被盜用等問題。其次，大數據中包含了很多個人的信息和數據，而某些算法可能會基于這些數據做出不公平或者歧視性的決策。再者，大數據在分析和處理數據時，往往會受到樣本偏差和數據質量等問題的影響，從而可能會導致某些分析結果出現偏見和誤導。最后，隨著人們越來越依賴互聯網和智能設備，大數據所帶來的高效和方便也會讓人們過度沉迷其中，導致精神健康問題。宏觀上，根據中國互聯信息中心發布的數據來觀察，2023年上半年網民規模總量已經達到了10.65億。再加上“雙千兆”等基礎網絡建設的不斷夯實與擴大，普通人隨時隨地接觸使用互聯網機會和可能性越來越多，官方和私人媒體出于對宣傳、利益、流量等的需求，數據在分秒之間便可大量產生與消費，由于存在著信息繭房、網絡放大效應和群體極化等原因，各種社會矛盾會不斷滋生，導致群體性事件多發頻發。大數據技術的發展會對一些傳統產業和就業崗位帶來沖擊，這可能會導致經濟結構的變革和失業問題。進而影響政府公信力、民眾信服度。作為調節媒體與公眾間關系的智能體，要產生積極的社會影響。因此，本文試圖從拉圖爾行動者網絡入手，改善算法黑箱，探索處于網絡中的人為因素及非人因素能夠發揮地對算法科技的影響力，試圖使算法科技與新聞倫理能夠有機融合為一個道德智能體。

一、算法科技對新聞倫理的影響

康斯坦丁·多爾將算法新聞定義為，“從私人的或公共的數據庫中選擇電子數據，對預選或未選數據進行相關性分配，通過自然語言生成語義結構并在特定范圍的線上或線下平臺中發布的最終文本”[1]。總體而言，由于算法科技具有繁雜的程序邏輯，將其應用于新聞領域便會生成難懂的傳播流程，即算法黑箱。算法黑箱的形成多是源于算法技術本身的復雜性以及媒體機構、技術公司的排他性商業政策，本質在于不透明、不公開、技術門檻高和難理解。拉圖爾則指出：所有科學知識形成的過程就是在黑箱中完成的[2]。作為傳播信息和認知的新聞行業，在借助于互聯網技術生成并分發的過程中也存在人為因素和非人為因素共同作用，因此有必要對算法黑箱形成過程中的所有參與因素進行考究。

拉圖爾針對轉義過程中造成的差異現象提出了“轉義”概念，拉圖爾認為在行動者網絡理論中，轉義者與行動者的概念一樣，轉義者會改變（transformation）、轉譯（translation）、扭曲（distort）和修改（modify）他們本應表達的意義或元素。[3]在此轉義者的鏈條之中，有可能僅僅是一種小到難以惹人注意的程序或者信息等原因也能夠為改變此鏈條上的一個拐點方向而助力，造成信息的傳播格局發生根本性的變化。如果將轉義者比作設定程序前輸入的既定算法，其中可以認識和了解到此算法中所包含的條件和信息等各種數據，唯一無法確認和預測的便是轉義者的參與會輸出、引發何種差異。算法科技中包含的轉義者并非只有算法創立、設計和運用主體等人為因素，也包括算法技術接收終端和技術層級等非人為因素。

（一）算法技術下的新聞行業：新聞專業主義被消解

在算法設計之初，算法設計者們會提取用戶的各類網絡數據建立用戶數據檔案庫，并根據個人主觀偏見與公司商業利益等不斷地進行算法數據匹配實驗，以期設計出一套能夠完美符合個體用戶畫像的算法機制后與人工智能完美結合。在此設計過程中，算法設計者可能會將“流量至上”原則植入算法程序，也難免會將自我價值觀念和偏見植入，這種以數據主導、流量為王的移動閱讀環境，加劇了低俗、虛假新聞的產生；算法新聞的個性化推薦，又進一步強化了信息傳播的閉環，消解了傳統媒體堅守的情懷、專業主義和對主流價值觀建構[4]。

（二）算法技術下的新聞生產：新聞質量及價值被削減

隨著互聯網進入人工智能時代，人類期望生產出一種能夠對人的意識、思維、習慣進行模擬和了解個人行為方式的智能機器。這就必須要有數據、算法的介入使之變成可能，進而催生了機器學習寫作、算法推薦、數據抓取、語言識別翻譯等越來越多應用于新聞領域生產的技術。

在新聞生產環節，部分媒體和商業過分追求新聞的時效性而采用了暫時尚未成熟的機器寫作技術，將其應用于金融、民生等宏觀和小眾體育欄目、逸聞等長尾領域。由于部分涉及領域的數據總量大、變化快，即便先進的寫作機器人在實現數據準確抓取、處理速度等方面仍有不足，過分地使用造成了泛濫的以依賴數據為主導寫作的扁平化新聞，擠壓了新聞真實性的生存空間；同時，在內容豐富性、分析深度、文字理解上的能力都不及人類，輸出的文章味同嚼蠟，缺乏情感的鋪設。機器寫作雖然能夠滿足受眾對于熱點新聞監測的及時性和時效性的需求；同時能夠使記者從快新聞中脫身，但總體而言，新聞內容的質量被削弱，使服務于社會的新聞價值呈現遞減狀態。

（三）算法技術下的身份識別：算法歧視與隱私泄露

隨著算法技術的不斷發展，機器深度學習成為可能，越來越多的社交類APP引入了計算機視覺分析中的圖像識別算法技術，與人類識別圖像內容的原理大抵相同，通過對圖像中的像素分布、顏色、紋理等特征的統計和特征提取，將圖像內容所屬的類別進行正確的劃分和準確識別圖像內容真假。旨在避免過多的機器人注冊和提供更高的安全性、精度以及自動化，但目前的算法識別技術在保存識別圖像時，會因為數據庫建設不完備從而丟失一些關鍵信息，引發嚴重的道德和倫理歧視問題，如據美國有線電視新聞網在2021年10月7日報道，因打車軟件優步（Uber）的人臉識別系統無法正確地辨別有色人種，被指控涉嫌“種族歧視”，三名當事人已向英國勞動法庭提起訴訟，具體原因是官方指出此數據庫是針對白種人建立且缺少必要監管，造成了杰米·薩斯坎德所說的“中立謬誤”問題[5]。

算法在進行面部身份識別時，科技公司會有意地利用這一技術與機器學習結合使用幫助識別用戶面部表情并理解與該表情相關的情緒，建立相關數據分析庫并應用于廣告推銷行業，以期獲得良好的產品反饋和廣告推送。如挪威的Peppes Pizza餐廳正在使用帶有隱藏攝像頭的面別識別技術來投放性別廣告。這引起了業界與學界關于自由隱私問題的討論，主要的擔憂在于像Facebook、Google、Apple等科技巨頭在使用相關技術收集用戶的活動簽到、喜好、面部特征后被黑客組織盜取，從而造成大規模的隱私泄露。在此之前，Findface通過頭像就可以在所有的2億個VKontakte（俄羅斯最大社交網絡）個人資料中識別用戶，該軟件的最初目的是幫助用戶尋找新朋友，后來被許多非法團體利用識別和騷擾相關用戶。

（四）算法技術下的新聞推送：信息窄化

互聯網上成千上萬的新聞造成了信息爆炸，為了提升抓取用戶的瀏覽、搜索和停留時間及可用的數據，以數據化的方式畫出用戶的喜好、行為和習慣畫像，從而巧妙地利用搜索引擎與算法推薦技術相結合，精準的縮小信息的推薦和分發的范圍和提升效率。算法推薦技術可以看作是賦予算法進行信息篩選的權力，是一種“系統發起的個性化”。也就是說，算法的“過濾氣泡”在很大程度上代替受眾主動定制媒體內容的權利，信息窄化在很大程度上以“系統主導”模式壓制“用戶主導”模式，總體呈現出工具理性大于價值理性的媒介偏好，造成了新聞內容呈現的高度窄化，曼紐爾·卡斯特所言：“我們感受和思考的方式決定了我們行動的方式”，用戶生存在對內容同質化定制的“制繭”中，成為無理性、非自主性的寫照，由此引發倫理挑戰。

算法的設計程序涉及商業機密絕不可能為大多數學者唾手研究，因此很難參透其算法黑箱的設計漏洞與底層邏輯及黑客的攻擊不可預測性加劇了算法失控的風險，以上原因成為阻止公眾進行倫理規制與識別的障礙。從拉圖爾的轉義理論來看，算法設計主體到運用主體及參與其中的各類轉譯者無法有效溝通、轉義自身的價值與理念，最終造成信息窄化與道德偏差

二、建構新聞道德智能體的可行性路徑

算法技術對新聞倫理造成的影響表現在技術與道德規范兩者間斷裂的問題。算法技術強調的是傳播效率和個人定制化的傳播理念，追求信息自動生產與匹配度的最大化。相比之下，傳統新聞業對于新聞倫理的推崇表現在注重事實、從向善的角度衡量新聞內容。兩者之間存在理性上的割裂，形成了對新聞倫理現代化的爭論。因此，有必要探尋構建算法技術與新聞倫理的道德智能體的可行性路徑，改善算法黑箱，實現兩者間的有機結合。

（一）微觀層面增加轉義者間的交流

從算法創設主體到算法運用主體等各級參與到算法技術中的主體數量較多。不可避免的是在其運作的過程中，算法運用主體成了“新聞分發平臺的代筆工具”，而算法的創設主體卻倒置地成了能夠憑借強大資本力量和高等技術設定新聞規則的制定者。因此認識到不同主體在微觀層面的“轉義”作用是探索交流的基礎。

拉圖爾曾強調要通過實踐來對科學的過程而非結果進行理解和考察，逐漸在網格式的建構過程中生存發展成為科學，這是一種“正在形成的科學”，在這種網絡中則會囊括所有的社會資源和人類計謀。在行動的過程中的行為實施者不僅包含了人，同時也包括如工具、設備、機器等非人因素。

在新聞生產與分發過程中的交流者分別為新聞工作者與算法設計師，兩者應就如何利用傳統的新聞倫理語境約束當下的算法新聞技術、在“人——機”協同過程中體現新聞工作者的求實、質疑精神、監督機器寫作技術在新聞創作中的應用。

在算法技術公司的內部，其算法工程師多是以完成目標和績效為主，很少有努力思考在工作過程中所產生的系統性后果。多數情況下，數字技術是按掌權者和特權者的立場設計的。因此，研發人員應作為算法工程師需要深入學習和了解傳統的新聞倫理知識，尤其是在現代化的道德語境之下，搭建一套能促進算法技術與新聞倫理有機結合的智識框架，以幫助清晰且批判性地思考數字創新的倫理后果，提升新聞的應用價值。

（二）中觀層面規訓算法新聞道德智能體

算法技術應用于新聞業的過程中出現了算法權力與用戶權利之間的不平衡，折射出算法設計過分關注技術理性、預測準確度和執行效率，因此亟待從中觀層面發力全面規訓算法新聞道德智能體向善發展。

第一，需要對目前已存在的監控機制的完善，比如事先將融合了倫理和個人隱私保護的算法新聞道德智能體通過測驗“數據變換、隱藏、隨即擾動、平移、翻轉”[6]等環節，保證用戶數據在算法技術的抓取與篩選等環節不會被濫用、誤用、泄露。第二，構建人機把關下的算法規制。傳統新聞時代對于新聞倫理的規制通常表現為人工檢查，在進入人工智能時代則需嘗試構建“人——機協同”的算法新聞倫理機制，從監控、預警和獎懲三個向度對算法運行過程中的各參與者接收處理數據的過程與結果進行倫理干預，確保此過程中被轉譯的各種需求與建議得到溝通和受理。第三，相關責任部門需要增強對算法科技公司的問責力度。鑒于目前的審核監管多是采用“人工+智能”模式，這種審核模式的短板在于僅僅貼切政治相關的問責機制，對于新聞評論中的諧音辱罵、挑釁等問題不能有效解決。在這種情況下，應進一步細化監管條例，加深監管的深度與寬度，全面提高對算法新聞道德智能體的綜合管理效率。

黑箱的外殼（已經確定的歷史事實在這種清理和追蹤活動中逐漸變得透明。這種活動主要設計的是指政治、文化、社會層面的治理。技性科學觀是行動者網絡的核心概念。

（三）宏觀層面促進算法技術與新聞倫理的有機融合

為識別和防范算法在全球新聞業中帶來的安全風險，我國政府于2022年3月1日起正式實行《互聯網信息服務算法推薦管理規定》，強調了算法技術在發展過程中所必須堅守的原則問題，旨在拒絕算法“綁架”、扼制“大數據殺熟”，從而維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。在此基礎上還應從宏觀上規劃人工智能技術與新聞產業綜合整理，調動人工智能產業從為服務人民的角度出發，持續推動為群眾解難題的目標，提升自身利用價值。此外，對于諸如“不得生成合成虛假新聞信息或者傳播非國家規定范圍內的單位發布的新聞信息”“不得利用算法實施影響網絡輿論、規避監督管理以及壟斷和不正當競爭行為”等條例、要求與規范進行進一步的細化，由事后查處向事前事中監督轉變，因此確立起算法技術在新聞生產、分發過程中的邊界是目前算法新聞倫理的宏觀問題。

結語

以上基于算法技術下的新聞行業、新聞生產、身份識別、新聞推送四個層面帶來的算法倫理問題，透過拉圖爾行動者網絡理論和微、中、宏三個層面構建新聞道德智能體來解決算法倫理中存在的潛在和突出問題。

總之，在技術發展與倫理規范相沖突時，要自覺將工具理性與價值理性有機結合，從而賦予人工智能對于解析和判斷道德和倫理困境的能力，在短期內對成果進行研判后取舍，有效治理算法黑箱中存在的弊端。防范與化解其中的倫理和道德等問題，營造人機協同高效治理的傳播生態。