推薦算法的社會責任評價指標建構*

薛 可 李亦飛

根據國家互聯網信息辦公室2021年的通報,抖音、百度等105款APP存在未經過用戶同意,超范圍違規使用、收集用戶個人信息的不當行為。社會問題的頻發逐漸引起了大眾強烈的擔憂和恐懼,因此在智能媒體時代,內容和數據“把關者”角色的缺席需要我們重新思考與評估。基于此,本文提出以價值引領為算法優化導向,以社會責任為算法評價標準,以期通過構建一個完善的推薦算法社會責任評價指標體系,使算法不再成為智能媒體實現經濟利益的純粹工具,從而使其在社會主流價值的軌道上得到健康發展,同時亦敦促智能媒體企業在獲取經濟利益的同時,更注重自身對公眾及社會的貢獻,充分發揮優化網絡生態環境的重要主體作用,踐行習總書記提出的“用主流價值觀駕馭算法”的期望和要求。

一、 推薦算法治理的學界研究

在20世紀90年代,Resniek等人首次以獨立概念提出“個性化推薦技術”。從計算機科學視角出發,算法被定義為一種“有限、確定、有效并適合用計算機程序來實現的解決問題”的方法,而從信息技術角度,算法則是可將輸入數據轉化為可預期結果的編碼程式。①隨著算法技術不斷更新迭代并逐漸進入大眾的日常生活中,綜述國內外有關算法推薦技術的研究可以發現,其研究主題從最初的技術開發與概念界定舊,延伸至算法推薦技術在商業領域的應用②,并逐步進入傳播學研究領域的中心。

(一)算法推薦研究之社會問題:算法黑箱與主流價值

隨著算法推薦技術普及性的不斷深入,各行業的持續應用和跨學科學者的豐富研究逐漸喚起了社會大眾對于算法推薦技術背后風險與隱患的憂慮。學界的目光愈來愈聚焦于科學技術與倫理、意識形態、個人隱私等矛盾,研究主題也向價值理性與技術理性的關系延伸。從微觀行業層面,尤其在新聞傳播應用領域,趙雙閣與岳夢怡曾指出信息真實性認知偏差、價值觀異化、公共性缺位、算法歧視與偏見四大媒介倫理失范的表現。③從宏觀社會層面,張志安和湯敏提出了算法推薦對主流意識形態形成的三大挑戰,包括意識形態把關權的轉移、社群區隔和主流媒體邊緣化。④同時,他們指出了在算法推薦技術與主流價值觀引導二者間,其潛在矛盾難以調和的根本問題。在算法推薦類資訊趨于主流的時代,商業平臺開始成為重要的社會信息傳播主體,然而當噱頭和爭議替代主流新聞,算法技術社會責任的喪失將致使主流價值引導產生消極偏轉。

“德不孤,必有鄰”,古往今來,人們對于主流價值的引導始終受到各界的高度重視。從社會學的歷史視角,劉懷光認為主流價值的認同是社會轉型成功的標志⑤,而社會的高度發展應與主流價值的提升形成良性的互動關系。從教育學視角,主流價值即是核心價值,可被定義為“社會各階層和族群都共同認可的價值原則的集合”⑥,價值教育的最終目的在于塑造兼具人文素養和公民價值共識的人。從新聞學與傳播學視角,媒體技術的日新月異正不斷地催生新型主流價值引導路徑。融合產品的迭代升級不僅體現在便民服務上,更凸顯于主流價值引導力和影響力的提升。⑦如今單向度的傳統媒體正逐漸轉型為多元化的互動型智能媒體,在大數據時代下以何種途徑構建和強化價值引導成為學者們關注的議題。鄧杭強調應以主流價值指導算法推薦的規則邏輯和技術架構⑧；房雯璐則提出應立足于實現社會責任和商業利益的有機統一,提高算法推薦與主流價值引導關系的站位。⑨針對既存的算法倫理問題及社會價值風險,學界前沿的算法推薦研究也深入至技術紅利背后所產生的多重矛盾關系,不少學者從多個維度提出了可行的解決方案。從算法程序環節考慮,王斌等總結了西方國家為解決和規避讀者認知窄化而開始給予用戶基于“偶然性”而非“相似性”的反向個性化推薦產品的做法,不過其人性化及合理化尚仍待商榷。從算法相關法律來看,大多數學者認為復雜多樣的信息傳播路徑亟需革故鼎新的傳播法規及時約束；對于違規信息源,則應以更新審核標準和技術保障措施來予以適當的懲戒。從網絡空間治理角度,蔣成貴認為若要使平臺型商業重視算法在自動化決策中的公平性和透明度,則應設立由專家團和普通群眾組成的第三方調查組進行監督。

(二)算法推薦研究之延伸拓展:技術治理與社會責任

歸納前人在算法領域所提出的治理構想可知,作為一種事前防范的自動化措施,建設算法指標體系不僅成本較低且運行效率高,同時推進了算法推薦下大規模的信息產品與服務的社會責任意識和履責主體的新變革。傳統的社會責任起源于Sheldon在1924年提出的企業社會責任(Corporate Social Responsibility,CSR),該概念是指企業在謀求經濟利益、承擔法律責任的基礎上,還應當承擔一定的社會責任,對維護和改善社會福利、社區利益作出貢獻。對于社會責任在未來的應用,Carroll曾表示社會責任是一個“兼容并包的概念”,在其后的研究中,國內外學者在不同時期針對多類行業領域完成了對CSR各維度的檢驗、調整與補充,如以受益對象為標準劃分的利益相關者責任與社會責任,經濟責任、法律責任與道德責任構成的交叉模型等。

可見,社會責任的理論適用范圍隨著時代的發展而不斷演進并進入媒介行業,企業社會責任主要是指對其利益相關者負責,而媒體社會責任則需要對全社會公眾負責。王楨楠強調,媒體需要通過自覺維護職業道德、追求專業主義的自律體系履行應該承擔的社會責任,接受管理部門的問責與監督,以達到維護社會公共利益的目標。從目前的媒體行業社會責任相關研究來看,學界主要提到了對媒體的三大職責要求,包括媒體傳播信息內容的準確性要求、媒體及時回應公眾需求的要求和媒體對于意識形態引導的要求。首先,技術革新引發了信息量的指數式增長趨勢,然而其創作內容的質量卻逐漸良莠不齊,這就要求媒體對其所傳播的新聞信息實行嚴格控制,提高對真實性和客觀性的把關責任,盡可能地杜絕假新聞。其次,媒體也需要敏銳地捕捉到公眾的信息需求,并在第一時間推送相關信息以幫助用戶解決問題。最后,媒體應在意識形態引導上樹立更高的責任感,發揮大眾媒體在信譽、品牌、公信力等方面的監督優勢。

立足當前人工智能在媒介領域的深入發展,世界上諸多國家都出臺了相應的發展戰略,其中也或多或少涉及到關于人工智能風險的防范政策,包含了算法推薦技術治理的相關內容。然而,這些內容大多停留在倡議或理念層面,未能有效落實到具體的指標中,也缺少與社會責任等道德規范的聯系,因此在實際市場運作中并不能發揮較大的現實效用。就我國具體治理標準和法律法規建設而言,盡管智能算法推薦技術的發展突飛猛進,但目前我國對智能算法推薦相關法律法規的建設仍顯得相對滯后。可以說,針對人工智能和算法推薦的精細化治理方案的缺失已經成為制約中國乃至世界算法治理的主要短板。由于算法評估的跨學科性質和量化復雜性,學界目前也尚未建成一套建立在扎實的研究方法和嚴密的數據基礎之上的完整指標體系。基于此,本文旨在探索并完成推薦算法社會責任新體系的搭建,以期回答下列研究問題。

RQ1 哪些維度影響構建媒體推薦算法社會責任評價指標體系？

RQ2 哪些指標將影響算法推薦實現主流價值觀引導的評價結果？

RQ3 如何配比影響推薦算法社會責任評價的多個指標因子權重？

RQ4 如何通過指標體系構建主流價值引導的算法推薦機制？

二、 媒體推薦算法社會責任評價指標體系構建

(一)評價指標的收集

為了更好地探究上述研究問題,本文采用德爾菲法進行指標的收集和篩選。德爾菲法作為一種能夠有效避免“集體服從”的群體決策方法,是建構指標體系時常用的研究方法,它也具有更高的準確性,能夠系統、匿名地調動相關專家運用自身專業知識來處理復雜問題。其整體過程分三輪次開展,一般包括了“一對一的溝通與調研”“信息收集統計與評估”“重復性調整”三個步驟,本文采用了逐一專家訪談法和問卷調查法結合的方式完成三輪次德爾菲專家咨詢。此外,層次分析法(Analytic Hierarchy Process,AHP)作為層次權重決策的一種評估方法,被采納并運用于本文對指標體系的構建和各指標的權重確認中。AHP能夠促進定性和定量數據的整合,并實現對數據進行宏觀和微觀的雙重分析,可以將復雜問題進行分解,根據諸要素間的支配關系進行層次結構的排布,并通過要素間的相互比較確定要素的重要性程度,最終實現綜合德爾菲專家咨詢法的專家意見形成對指標權重的總體排序。

本文的整體研究分為初始影響因子收集、因子調整、創建AHP判斷矩陣、進行一致性檢查,最后對各因子權重進行計算并排序。在2021年3月至2021年7月間,本文與算法推薦技術治理議題相關的傳播學、管理學、法學、計算機科學共四大領域的50位專家學者進行了專家深度訪談及指標有效性和重要性的量化評估,完成了指標的收集、篩選與調整工作。

通過第一輪德爾菲專家咨詢,本文對所有專家組成員逐一進行了深度訪談,圍繞本文所提出的四個研究問題,了解并記錄了主流價值引導下對媒體推薦算法社會責任評價產生影響的所有指標。綜合各專家意見,本文發現所有的指標可以從算法技術、媒體行業、法律合規三個維度展開并依此構建了初始指標表(如表1所示)作為后續專家咨詢的基準。

在第二輪的德爾菲專家咨詢中,專家被要求對初始指標進行評價、修改、調整、主客觀歸類及分層判斷。本文匯總所有專家的反饋意見并結合個性化算法推薦的技術特性、媒體行業的市場特征及相關政府算法及網絡治理的法律法規條款,將智能媒體技術治理、行業治理、合規治理作為一級指標,并進一步細分了8個二級指標和40個三級指標,整理得到三層級指標表(如表2所示)。

表1 初始指標表

表2 三層級指標表

(續表)

(二)評價指標的篩選與權重確認

本文通過第三輪德爾菲法對指標進行量化篩選與修訂。專家組成員被要求對初始指標進行適當性和重要性的評分。問卷的評分范圍從“非常重要”“重要”“一般”和“不太重要”到“不重要”,分別賦值9分、7分、5分、3分和1分,并將算術平均值定義為專家意見集中度；將變異系數定義為專家意見協調度。其中,變異系數是對數值分散程度的相對統計量,可以判斷指標是否具有其代表性或穩定性。本文規定如果專家意見集中度(算術平均值)大于或等于6,且專家意見協調度(變異系數)小于或等于等于0.35,則該指標的設置將被認為是合理和科學的。但若前者小于6而后者大于0.35,則需要對該指標進行調整和修正。經數據計算,所有指標的適當性和重要性算數平均數均高于6且變異系數均低于3.5,即所有三層級指標的設置與分類均是合理且有效的(具體數據詳見附錄1)。

Xij表示第i個專家對第j個指標的評分,n表示專家數

Mj表示n個專家對第j個指標的得分的算術平均值

SVj表示n個專家對第j個指標的得分的標準偏差

Vj表示n個專家對第j個指標的得分的變異系數

(三)評價指標體系的構建

媒體算法推薦技術評價指標體系是一個多層次、多維度的綜合性指標體系,其中各項指標的重要性程度各不相同,且其準確性直接影響了評價的正確性和客觀性。因此,在完成了對指標的收集與調整后,本文采用了層次分析法創建判斷矩陣，進行一致性檢驗,最后對所有指標進行重要性權重的量化計算,以數學模型呈現三層級評價指標體系。

基于上述所有專家對指標的重要性評分,本文創建了判斷矩陣,運用其最大特征根的特征向量W來計算測量每個指標的排序向量,具體計算步驟如下。

1.計算每行所有元素的判斷矩陣的幾何平均數

2.對向量中的每個元素做正則化

W′W=(w1,w2,w1,w1,…,w1)T=

3.計算判斷矩陣的最大特征值λmax

(AW)i是向量AW中的第i個元素

4.使用一致性檢查指標檢查矩陣一致性

以及隨機一致性比例指數

其中,CI為一致性測試指標,RI為平均一致性指標,CR為一致性比率指標。當CR<0.10時,則判斷矩陣可以被認為通過一致性測試,否則需要進行相應修訂。本文的所有判斷矩陣及一致性比率均位于0.10以下,即所有判斷矩陣都通過了一致性檢查。

本文對所有48個指標進行了排序,完成評價指標體系的構建并以如下數學模型呈現。

Bk為第k個指標的最終得分p為三級指標中從屬于Bk的指標 ；Ci作為三級指標第i個索引的最終分數；mi為Ci的權重。同理,AI作為一級指標中第l個影響影子的最終得分；q作為二級指標中從屬于AI的指標；nk作為Bk的權重。

計算得到Bk和Al后,本文完成構建媒體推薦算法社會責任評價指標體系,并以W的值作為算法社會責任的最終分值。

三、構建基于主流價值觀的推薦算法治理機制

本文通過與專家組的深度訪談及對國內外算法治理領域的文獻分析,從技術治理、行業治理、合規治理的三個維度,挖掘了影響推薦算法社會責任的關鍵指標,構建了以價值引領為優化導向、以社會責任為評價標準的三層級指標體系,以期用標準化評價結果強化技術治理中的道德倫理規范準則,彌補算法治理體系在法制和德治間的割裂,并以本文構建的指標體系為主體間協同治理的工具,形成政府、媒體、公眾“三位一體”的算法治理機制。

首先,指標體系將成為政府治理的“工具包”。治理理論提出,善治(Good Governance)即“使公共利益最大化的社會管理過程和管理活動”,其本質特征便是政府運用正確有效的理念與相關組織及公眾對公共事務進行合作管理,是政府與市場和社會的一種新穎關系。本文提出的三層級40個三級指標通過以社會責任為評價標準在法律的紅線上劃定了倫理道德準則,從技術、行業、合規的三個維度為政府管理媒體算法推薦提供了切實有效的標準化管理工具,是政府算法治理理念貫徹落實的有效路徑。例如,指標體系中的“C12核查算法推薦內容真實性”“C13禁止推薦不當引導性內容”等系列指標均積極回應了《關于進一步壓實網站平臺信息內容主體責任的意見》《互聯網信息服務算法推薦管理規定(征求意見稿)》等政府管理文件明確的工作規范,同時對健全政府管理制度,完善政府運行的相關規則提供了可評價的指標體系?？禃怨獾热嗽鞔_提出“精細化治理”應強調依據類型不同、屬性不同的事項進行針對性的差異化治理,本指標體系通過權重的設置,可為政府根據主流媒體和商業平臺的不同屬性及特征開展分類治理:一方面,提醒主流媒體在踐行社會責任時不應僅是“埋頭”創作、“仰頭”傳播,而應讓主流價值引導的內容信息搭上推薦算法技術的時代快車,實現更大流量的推送；另一方面,促使商業媒體平臺建立統一的媒體從業規范,轉變時下“流量至上”的風潮,將主流價值導向和公眾利益納入新技術的研發、革新與考核中,更好地維護公眾利益,發揮指標體系作為政府治理工具的效用性,實現更大范圍的善治。

其次,指標體系將成為媒體評估的“風向標”?，F代社會責任理論強調,行為主體在追求經濟效益的同時需要擔負一定的社會責任,作為社會信息傳播與引導的智能媒體,更應擔負起正能量信息傳播的社會責任,落實新社會責任履行范式,這也是媒體作為社會單位存在所必須承擔的道德責任和社會義務。本文提出的三層級指標體系在媒體企業的深度應用,可以幫助媒體更好地貫徹落實政府算法治理的決策部署,進行推薦算法的優化與完善。如指標體系中“C12核查算法推薦內容真實性”“C20引領正確價值觀導向”等相關指標均從社會責任的視角出發對推薦算法開展評估,進一步要求媒體企業加強對算法設計及推送內容的管理與激勵。指標體系作為指導媒體企業正確價值觀評價的風向標,將幫助媒體企業更好地履行社會責任,進而促進良好企業形象的樹立,獲得更高的公眾關注度和知名度,改善和優化企業聲譽,實現經濟利益的良性循環?；谡闹笜梭w系評價,媒體企業能夠形成一套由內容推薦審核機制、價值導向效果評估機制、算法糾偏考核機制等共同組合的算法推薦評價機制,在提升企業自身經濟效益、獲取流量的同時,進一步堅持正確輿論導向,樹立意識形態引導的社會責任感,讓主流價值觀引領算法推薦使“流量向善”。

最后,指標體系將成為公眾監督媒體的“指南針”。盡管個性化算法推薦已成為人們日常生活的必備品,但算法推薦的技術壁壘使得公眾往往對其運行機制無從了解,最終導致社會大眾較為被動的局面。因此,社會須進一步加快普及人工智能的認知教育,使公眾避免對算法技術盲目樂觀的同時形成客觀預期的呼聲在學界愈發強烈。一方面,媒介素養作為公眾承擔相應社會責任的基礎,指標體系中設有多項指標。例如B2算法設計責任中的“C16披露報告規范化”,B6數據安全責任中的“C28提前告知用戶可能存在的風險”等,均與公眾媒介素養的認知教育關聯緊密,可以幫助公眾更科學地認識推薦算法所帶來的生活便利及潛在風險。作為網絡生態的主力軍也是算法治理的重要推動力量的青年群體,他們也能夠通過對指標體系的認知,更好地形成算法價值共識,從而能自主地對違反倫理道德、法律法規的算法推薦內容進行堅決抵制。另一方面,作為復雜數字社會構成主體也是最重要基本單位的公眾,既是算法推薦的消費者更應成為其監督者。雖然當下算法治理以國家為主導,而行業自律、消費者監督等社會自治模式仍處于薄弱狀態,但基于網絡信息的海量化、碎片化的特征,社會監督作為“柔性監督”將有效地通過意見反饋、不良舉報、輿論曝光等形式,最大限度地發揮公眾監督的作用,與司法監督等“剛性監督”相結合形成合力。指標體系中就關注到公眾的權利,如“C30用戶享有知情權”“C32維護用戶個人隱私權”等指標便呼應了公眾切實關注的隱私問題、內容問題、模式問題,增強了公眾對算法社會責任的認知,提升了公眾的媒介素養,進一步培養起“網絡朝陽群眾”的公眾角色,為公民參與到與自身利益相關的社會決策中、更好地履行輿論監督職能提供了指導。

注釋:

① Gillespie T.MediaTechnologies:EssaysonCommunication,MaterialityandSociety.Cambridge,MA:MIT Press.2014.p.56.

② 朱揚勇、孫婧:《推薦系統研究進展》,《計算機科學與探索》,2015年第9期,第513-525頁。

③ 趙雙閣、岳夢怡:《新聞的“量化轉型”:算法推薦對媒介倫理的挑戰與應對》,《當代傳播》,2018年第4期,第52-56頁。

④ 張志安、湯敏:《論算法推薦對主流意識形態傳播的影響》,《社會科學戰線》,2018年第10期,第174-182、2頁。

⑤ 劉懷光、劉雅琪:《主流價值認同的現代價值困境》,《吉首大學學報》(社會科學版),2012年第33期,第61-64頁。

⑥ 石中英:《價值教育的時代使命》,《中國民族教育》,2009年第1期,第8-20頁。

⑦ 弓力成:《主流媒體輿論監督與價值引導提升策略》,《中國出版》,2017年第20期,第29-32頁。

⑧ 鄧杭:《算法推薦的風險防范和導向管理——發揮算法推薦對網絡輿論的正向價值》,《新聞戰線》,2018年第11期,第62-64頁。

⑨ 房雯璐:《算法推薦模式下媒介倫理失范研究》,《山東工業技術》,2019年第7期,第138頁。