新媒體環境下算法推送的倫理規制探討

◎吳昭暉

(山西師范大學，山西 太原 041081)

一、新媒體與算法推送

(一)當前我國新媒體發展現狀

互聯網發展至今，“新媒體”有了更多的外延，尤其集中在視聽方面。“《2020中國網絡視聽發展研究報告》中顯示，網絡視聽用戶規模突破9億，網民使用率91.8%，新增用戶主要來自低線城市，其中五線城市用戶增長33.6%，三至五線城市用戶增量占總增量的72.2%。在新增用戶里，看短視頻的人占比15.2%，短視頻成為了僅次于即時通信的第二大網絡應用，短視頻用戶規模達8.18億，近九成網民使用短視頻應用。”[1]數據表明基于移動互聯網的傳播形式進一步下沉，逐步普及到了五線及以下城市，這是人類傳播歷史上絕無僅有的。

(二)新媒體信息傳播的算法推送

新媒體對于信息傳播的重要性不言而喻，而以短視頻為代表的網絡視聽更是越來越成為新媒體領域中不可或缺的一環。幾乎所有重要的領域中都會有技術的“加持”，現下，新媒體的信息傳播正是和“算法推送”緊密結合。“算法推送”通常是指通過安裝在計算機后臺的程序，將定制化的內容準確推送到受眾一端，這樣平臺就可以實現受眾愛看、提高黏性的目的。從2015年開始，算法對新媒體信息內容的生產和制作作用則愈發明顯。目前，算法推送主圍繞四點：

1.基于用戶基本信息的協同過濾

用戶的基本信息意為在用戶注冊賬戶時所創建的如性別、年齡、喜好等的信息。算法會從已注冊用戶的數據庫中搜索與新用戶相似程度高的用戶，并向新用戶推薦已注冊用戶所看過的內容。

2.基于用戶圈子的分發

以抖音為例，它會依據用戶的關注列表，也可以理解為朋友圈來進行推送。換句話說，關注你的人對你越感興趣，平臺向你的關注者推送你發布的內容時也就越積極。用戶的點贊、評論、轉發，投幣(打賞)等行為都會納入算法的考量范圍，從而使內容在社交圈子中裂變。

3.基于用戶畫像內容的推薦

該算法測量圖像等內容的相似性，并由機器根據內容、觀看數據等維度進行計算。即計算機會從數據樣本之間抽象出關系進而機器學習，通過相似性將標好節點的標簽傳遞給其他未標好節點的標簽，并評估順序。基于用戶注冊時的數據、瀏覽記錄和觀看數據對用戶構建畫像，這個畫像是一個數據模型，反映了用戶的興趣，并通過用戶日后持續的反饋，完善和更新模型，以達到發現適合該模型的內容分發給用戶的效果。

4.基于內容流量池的疊加推薦

平臺會根據內容流量的受歡迎程度向用戶推薦用戶興趣不大但非常受他人歡迎熱點內容。“疊加推薦是以內容的綜合權重作為評估標準。綜合權重的關鍵指標有完播率、點贊量、評論量、轉發量”[2]，當指標達到了一定量級，平臺以算法和人工相結合的機制進行推薦。

二、算法推送帶來的改變、困境和挑戰

(一)改變——算法改變了傳播格局和受眾地位

算法鏈接了人與信息，若沒有算法的介入，海量信息將無法完成更為有效的傳播。1974年卡茲等人在《個人對大眾傳播的使用》中，將媒介接觸行為概括為一個“社會因素+心理因素→媒介期待→需求滿足”的過程，提出“使用與滿足”過程的基本模式”[3]。雖然這個模式重視了受眾的主觀能動性，但在傳統的傳媒行業中，“中心化”大眾傳媒的議程設置是不可避免的，所以以現代人的視角來看，在當時用戶的需求是難以得到滿足的，換言之，算法的引入大眾傳播使得要求更高的“使用與滿足”成為可能。原本在“大眾傳媒”和“大眾”之間橋接信息的節點是記者、編輯和媒體，這些環節對觀眾需求的判斷是“大顆粒化”的，是一種“公倍數需求”的傳播模式；而當今的傳播系統是信息去中心化的、用戶個性化的，算法通過先進的技術將個性化需求和龐大的信息量聯系起來，這正是算法得以快速發展的充分條件。“盡管智能算法分發中應用了各種模型或公式，但其基礎原理是樸素的：更好地了解待分發的內容，更好地了解待接收的用戶”[4]。在這個信息量指數增長的背景下，信息接受和信息生產都面臨著一個大難題——用戶難以在大量信息中找到目標內容，信息生產者很難使他們的內容脫穎而出，從而引起用戶的關注。所以算法推送系統正是解決這一難題的不二之選。其任務便是連接用戶和信息，信息接受者，或者說信息消費者和信息生產者之間不再是零和博弈甚至是負和博弈，而是可能存在更優化的解法——接受者可以根據喜好發現目標信息，生產者可以更快捷的找到對應的受眾群體，理論上這是一個雙贏的局面。然而，實際上運用過程中亦有困境和挑戰。

(二)困境——“信息繭房”

算法是基于用戶畫像的個性化推薦，在推薦系統中，用戶在社會群體中的屬性，消費行為和興趣習慣等特征抽象出的一個個標簽構成了用戶畫像的輪廓。根據上文對算法的技術機制介紹，用戶所喜歡的內容是來自于推送系統對用戶平時瀏覽的數據進行收集和分析，據其特點、屬性、習慣、偏好等形成了用戶畫像。一言以蔽之，用戶的種種顯性表達讓算法更加了解用戶，從而用戶所接收到的正是用戶喜歡的。這看似美好，但實則存在隱患。設想生活當中存在一個總是逢迎討好的人，我們是否會安于這個人給我們帶來的滿足感而不再拓寬社交邊際？答案自然是否定的。算法雖能分析出用戶的喜好，給予用戶滿足感，但只是將用戶鮮少涉獵的領域排除在邊際之外，甚至用戶點擊量、觀看時常等正反饋越多就越持續推送，長此以往便仿佛是困入了一個信息筑成的繭房之中，這一現象被稱為“信息繭房”。

(三)挑戰——同“流量至上”伴隨的低俗低質內容

之所以算法看似是客觀、理性的，是因為人們直觀地認為算法在傳播中缺少人的參與。然而程序、算法的中立性只是體現在運行和計算過程中的執行，實際上，算法推送在實踐中依然存在著算法偏見——代碼本質上也是由技術開發人員進行的算法設計和編輯，即算法設計若加入了主觀觀念就易產生“流量至上”缺陷。這種價值取向插入算法推薦就會影響算法客觀性。“在2016年Facebook的‘偏見門’事件中，揭露出了Facebook的趨勢話題功能過濾掉了保守派信息，而自由派的信息仍然保留”[5]。這種優先分配其他內容的分發方式會導致用戶接收信息的不平衡。同時，算法設計不僅會受到設計者本身的價值判斷，也會受設計者所面對的開發任務影響。這是由于算法設計者往往不是一個人完全出于非功利角度而開發程序，所以其價值準則和行為決策會難以避免的受到源自于勞資關系中資方的壓力，并直接作用于算法設計中。在競爭激烈、各新媒體平臺都在盡力攫取更大利益的市場環境中，算法設計人員很難不受流量導向的影響：他們更加重視低俗的內容，在用戶點擊之后，反復推薦從而獲得更多流量。不良內容和騙局詐術屢見不鮮的同時能屢試不爽，就在于這些內容利用人性弱點獲得高點擊量，而算法更是助長了不良內容的傳播速率和范圍。可見，以流量和點擊量作為算法編寫的指導方針，難以保持客觀、中立，算法技術的中立性目前還是一個“理想”。

三、算法推送的倫理規制

(一)算法推送帶來的倫理問題

倫理一詞本意為人與人相處的道德準則，而近年來該詞開始與機器和技術等相結合，這說明人的創造物，尤其是高科技附加值的產物(人工智能、克隆、基因編輯等)愈發產生和人類道德、社會秩序間的聯結，算法推送也不例外。“信息繭房”會對人的多元化造成影響、“流量至上”的設計會帶來低俗低質的問題，如果將算法喻為人，那么算法已經對我們流露了不盡然道德的一面，所以有必要面對問題進行規范，使此算法不斷優化、更契合社會基本價值。

(二)算法的“倫理規制”

猶太裔美國科幻小說作家艾薩克·阿西莫夫的《我，機器人》一書中塑造了一個機器人違反了人類社會倫理，成為了人類仇敵的世界。阿西莫夫給后世的啟示是：如今機器人被打造的越來越像人，加之人工智能、機器學習的發展，如有一天機器人擁有了遠勝于人的智力(即強人工智能)，也因遵守人類社會的倫理規制而不走向人類的對立面。“由此阿西莫夫提出了《機器人學的三大法則》，一是機器人不得傷害人類，或袖手旁觀坐視人類受到傷害。二是除非違背第一法則，機器人必須服從人類的命令。三是在不違背第一法則及第二法則的情況下，機器人必須保護自己”。三大法則之間互相約束，對后世有關機器人的科幻創作有一定的指導意義。

依據三大法則的啟示，本文認為算法作為服務于人的技術和工具，也應提出一系列規制以符合人類社會基本價值。

第一，將多元化還于人。考察用戶的精神消費行為及其動機時會發現，人在選擇的過程中是復雜的——有時指向性明確，有時彰顯出無序性；情緒上，有時穩定，有時波動幅度大。而人性的復雜、情緒的多變恰恰是人所獨有的，故而這一點被視作最為根本的公理。如果算法沒能考慮到個體的多元化、群體的多樣化，算法便是偏頗且單一的。

第二，在優先遵循第一點的前提下，要將人的注意力還于社會價值。幾乎所有流量大、具有媒體特點的大公司，都在接受采訪時表示，他們不是媒體，而是互聯網公司。自媒體環境中，大量的資金并未分配給真正的高質量內容制造商，而是分配給“營銷號”，讓“營銷號”以引人注目的標題和侵犯版權的內容來吸引流量。劣質和重復性內容仍然以點擊量仍然是其唯一衡量標準，流量經濟的擁躉們更關注的是用戶關注數量、瀏覽量、完播率等，并不認為自己對社會價值觀負有重要的責任。人的注意力就是媒體的生命，人們的眼球就是媒體賴以生存、爭相爭奪的資源，而獵奇和低俗正是人們注意力和興趣點的“最大公倍數”，如果新媒體平臺長此以往的以這樣的標準去推送內容，社會恐怕會被“愚民”所充斥。所以即便是互聯網平臺，只要流量大、受眾廣、分發信息，就要承擔社會責任，履行媒體職責。

第三，在能夠遵循第一點、第二點的前提下，最好將公共價值還于專業主義。公共價值是媒體不容忽視的責任所在。“2018年，Facebook曾宣布將招聘2萬人從事內容安全審核工作。美國紐約城市大學教授指出，全美國的記者不到3萬人，這個社會寧可選擇雇用2萬人來處理別人生產的‘仇恨、偏見、謊言和愚蠢’，而不是將這些資源投放到更直接帶來正面影響的。”[6]這個案例可以歸納為：資源與人力的分配側重到公共價值很低的事務之上，大量有能力從事新聞媒體、數據篩選的人員冗余在社會意義和公共價值較低的領域，審核著多數是低質量的內容，這樣的業態是發育不良的。倘若大量的資金、資源和人才流入制作水平、內容生產能力較低的自媒體，甚至是“營銷號”，這將對整個新媒體行業產生巨大的傷害。因此，算法需要在優化的過程中為優質的UGC或PGC賦權、賦能、賦值。

(三)算法的優化

面對當前互聯網的飛速發展，結合國家發展戰略的要求，針對目前廣泛存在的大數據個性化推送問題，我們亟需建立起一套科學完善、有法可依的體制機制，從各個層面規范科技倫理，力圖既能“求真”，更能“求善”。

在2021年7月的中央全面深化改革委員會第九次會議中，《國家科技倫理委員會組建方案》排在首位通過審議，快速組建委員會，目的就是要從國家層面加強統一指導、統籌協調，應對新形勢下的新問題，“構建覆蓋全面、導向明確、規范有序、協調一致的科技倫理治理體系”[7]。

1.建立信用評級管理體系

除了國家層面的推動，行業管制和企業優化也必不可少。針對行業亂象和暴露出的問題出臺相關監管辦法，以抖音、快手為頭部的自媒體平臺對用戶注冊、賬號認證和信用管理進行綜合分類評級，根據個人信用和內容質量進行擇優推薦，對于沒有通過認證和信用評級較低的用戶進行觀察監控。也可以建立分級分類的規范機制，如按照網民年齡，依照《網絡安全法》等法律和規范性文件對媒體內容進行篩選劃分。

2.建立內容標簽分類管理體系

應對技術倫理困局最重要的一環是技術本身的革新。“建立科學合理的算法推薦模型。按照價值觀正確的總體要求，優化算法推薦權重配比，關注內容來源規范、文章評價評分、自媒體信用評級、用戶反饋意見等質量類要素，輔以用戶瀏覽歷史、所在位置及文章閱讀量、轉發量、評論量等興趣類要素”[8]。在被約談和整改后，微博熱搜和今日頭條都建立了內容標簽的分類管理機制，置頂消息均為每日時政要聞；商業推送設有固定標簽，不同門類的信息各有占比，尤其對于同質化內容做出限制。

3.健全人工核查機制

針對具有敏感性、關鍵性內容的消息應健全和完善人工審核機制，運用科學合理的算法并人工介入核查，規范內容質量標簽的量化標準，文章閱讀量、轉發量、評論數、點贊數等熱度到達閾值時立即使用人工復核，并配合輿情監測系統，掌握公共事件輿論發酵程度，對事件真相及時公布，對輿論進行引導。

4.健全平臺技術監測預警機制

要求平臺升級內容監測技術系統，切實保障低齡網民的健康上網環境。健全內容監測預警機制，不僅要“監測”還要“預警”，這意味著既要“測的出”也能“掐源頭”——要強化對負面、有害信息的識別能力，還要加強對內容舉報、核查和限制流量一系列環節的相互協調配合的能力。

5.健全個人信息保護制度

作為用戶本身，我們也應該增強法律意識，注冊時關注平臺對個人信息的保護規范，遇到信息泄露時及時進行反饋，促使平臺在收集使用用戶信息時，遵循合法正當、最少必要的原則，公開收集使用規則，明示收集使用信息的目的、方式和范圍，并且獲得用戶同意。嚴禁平臺在使用算法推薦時濫用用戶個人信息、侵犯用戶隱私。