社交媒體平臺算法推薦的規(guī)制方向探究

韓宇航

（上海交通大學(xué)媒體與傳播學(xué)院，上海 201100）

一、算法推薦的概念和運行機制

算法推薦指采用計算機算法分析用戶的基本信息、網(wǎng)絡(luò)瀏覽情況和網(wǎng)絡(luò)社交行為等數(shù)據(jù)，從而推測用戶可能感興趣的內(nèi)容并向其精準(zhǔn)推送信息的新型信息分發(fā)方式。

基于不同的運行機制，常見的算法推薦系統(tǒng)有三種：基于知識的算法推薦系統(tǒng)、基于內(nèi)容的算法推薦系統(tǒng)和協(xié)同過濾的算法推薦系統(tǒng)。第一，基于知識的算法推薦系統(tǒng)以用戶和商品屬性為基礎(chǔ)，對用戶和商品了解越多，預(yù)期效果就越好。第二，基于內(nèi)容的算法推薦系統(tǒng)主要依賴于用戶的顯性或隱性反饋，會向用戶推薦與其喜好相似的商品。其中，顯性反饋指用戶明確點擊喜歡、不喜歡按鈕或進行打分的行為，這種反饋一般較難獲得；隱性反饋指用戶在看到信息后瀏覽或購買了相關(guān)產(chǎn)品的行為。第三，協(xié)同過濾的算法推薦系統(tǒng)更依賴于整個用戶群的交互，主要有基于商品和基于用戶兩種協(xié)同過濾形式。

目前，各大互聯(lián)網(wǎng)公司的算法推薦系統(tǒng)多為組合形式，比如，今日頭條算法推薦系統(tǒng)的運作邏輯就是一個用戶對內(nèi)容滿意度的函數(shù)，通過輸入三個維度的變量 （第一個維度是內(nèi)容變量，比如文字、視頻等；第二個維度的變量以職業(yè)、年齡等用戶特征為代表，第三個維度的變量是所處的環(huán)境特征，即場景），模型會生成一個預(yù)估，用來判斷所推薦的內(nèi)容在這一場景下對特定用戶是否適用。

二、算法推薦易引發(fā)的法律問題

（一）隱私侵犯和濫用問題：數(shù)據(jù)收集引發(fā)隱私侵犯和濫用

算法推薦為了實現(xiàn)個性化的信息推送，就必須廣泛收集用戶的信息瀏覽記錄，深入分析用戶的“數(shù)字足跡”，從而形成精準(zhǔn)、全面的用戶畫像，因此，人們在享受算法推薦帶來的便利的同時，也面臨著信息泄露的風(fēng)險。

社交媒體時代，各類傳感器和可穿戴設(shè)備成為了不易被察覺的數(shù)據(jù)收集裝置，人們?nèi)粘Ｉ畹男袨閿?shù)據(jù)乃至生理信息都成為了數(shù)據(jù)收集的對象，加之互聯(lián)網(wǎng)對“流量”的追捧以及用戶對便利的追求，導(dǎo)致用戶的隱私安全面臨著前所未有的風(fēng)險。從2018年暴發(fā)的涉及5000多萬用戶數(shù)據(jù)泄露的“劍橋分析事件”中可以看到：無論用戶是否主動登錄其社交媒體賬號，平臺都可以憑借技術(shù)能力、關(guān)聯(lián)經(jīng)營網(wǎng)絡(luò)獲取到用戶在第三方平臺的使用痕跡，由此而產(chǎn)生的便是信息的商業(yè)化出售和濫用問題。

（二）算法偏見問題：“黑箱”背后的算法操縱和公平正義缺位

算法偏見指“算法程序在信息生產(chǎn)和分發(fā)過程中失去了客觀中立的立場，造成片面或與客觀實際不符的信息、觀念被生產(chǎn)并傳播，從而影響了公眾對信息的客觀、全面認知”。2021年，在Netflix上線的紀(jì)錄片 《編碼偏見》中，科學(xué)家在測試了諸多面部識別商用軟件后發(fā)現(xiàn)，膚色偏白的男性群體被正確識別的概率高達99%，女性則偏低；然而，隨著膚色的不斷加深，識別正確率也呈指數(shù)式下降。

縱觀整個信息生產(chǎn)和分發(fā)過程，算法偏見問題一直存在。首先，是輸入數(shù)據(jù)的偏見。機器學(xué)習(xí)是以社會中已經(jīng)存在的數(shù)據(jù)為基礎(chǔ)的，只要偏見仍然存在于社會中，機器便會通過這些帶有偏見的數(shù)據(jù)進行更進一步的分析。這就意味著，當(dāng)帶有偏見的數(shù)據(jù)進入算法程序，還會再次面對帶有偏見的算法指令。其次，是算法設(shè)計者自身刻意或無意的偏見。算法設(shè)計者的偏見直接影響著算法程序的公平與公正，使得本該中立的算法技術(shù)也往往帶有偏見，帶有偏見的數(shù)據(jù)進入帶有偏見的程序后所呈現(xiàn)的便是不夠客觀的內(nèi)容，而這些內(nèi)容也影響著用戶的數(shù)字媒介使用足跡，從而通過機器學(xué)習(xí)帶來更深度的影響。所以說，當(dāng)自帶偏見的算法系統(tǒng)投入使用，其背后的偏見也在影響和“操縱”著社會的發(fā)展和進步。

一方面，算法偏見的存在使得不同種族、不同性別的人群被區(qū)別對待，在一定程度上損害了社會公平；另一方面，算法偏見的存在也損害著用戶的個人利益，典型代表就是算法殺熟現(xiàn)象，即不同人在同一個網(wǎng)絡(luò)平臺進行消費，同一商品或服務(wù)的價格卻不一樣。算法偏見的存在直接影響著人們接收到信息后的決策，并且，隨著技術(shù)的發(fā)展對社會產(chǎn)生的負面影響會不斷加深。

（三）信息質(zhì)量問題：算法推薦使得網(wǎng)絡(luò)信息環(huán)境被破壞

首先，低俗信息并不是智能媒體時代的新產(chǎn)物，但卻在人工智能技術(shù)的助推下在傳媒界愈演愈烈。由于算法推薦以獲取流量為目的，其運行也是以用戶數(shù)據(jù)為基礎(chǔ)、以用戶興趣為指向的，天生具有“逐熱”屬性，因此，用戶的局限性都被復(fù)刻在了算法程序之中，并且，在信息繭房中部分用戶的低俗愛好正在被一步步強化，隨著算法推薦的深度使用，低俗信息泛濫的問題也逐步嚴(yán)重。

其次，算法推薦對虛假信息的傳播也具有推波助瀾的作用。皮尤研究中心調(diào)查研究顯示，一半以上的專家對“可以利用技術(shù)遏止假新聞傳播”持悲觀態(tài)度，事實也似乎正在印證這一點。一方面，算法推薦難以有效識別和抑制假新聞的傳播；另一方面，算法推薦的特點又為假新聞的廣泛傳播提供了更大的助力和傳播空間。在社交媒體中，借助夸張標(biāo)題來吸引用戶眼球的虛假信息往往會收獲更多的流量，而用戶點擊率的高低又是算法推薦機制衡量信息受歡迎程度的重要指標(biāo)，因此，就造成了虛假信息屢禁不止的狀況。

2016年，“后真相”被牛津詞典評為年度詞匯，指情緒和個人的既有傾向在影響個人觀點上，扮演著比事實和真相更重要的角色，相對于人們的既有立場和情感傾向，真相是什么顯得越來越無關(guān)緊要。隨著“后真相”時代的到來，人們更傾向于尋找和自身情感需求或既有價值觀相符的信息，而并非真相，因此，只要虛假信息披上情感的外衣或利用夸張的標(biāo)題刺激人們的情緒，人們便會點擊瀏覽，從而產(chǎn)生了一條又一條高流量信息。

三、算法推薦的規(guī)制經(jīng)驗

（一）透明化算法，加強算法規(guī)制

首先，通過透明化算法，加強算法規(guī)制。近年來，部分互聯(lián)網(wǎng)企業(yè)開始致力于向公眾提供更開放、透明化的算法，比如，2019年6月，YouTube宣布將公開其平臺的內(nèi)部算法運行機制，主要表現(xiàn)為：在其推薦內(nèi)容段下方，向用戶解釋為何該段視頻會被推薦進入用戶首頁。與此同時，YouTube也賦予了用戶更多的主動性，增加了過濾和排序功能，用戶可以在首頁頂部搜索想要了解的特定主題。

其次，通過改進算法，糾正算法可能存在的偏見。比如，2018年5月，F(xiàn)acebook推出了 Fairness flow工具，用以檢驗算法偏差，主要功能為：當(dāng)算法程序因為人的性別、種族等特性作出有失公平的判斷時，F(xiàn)airness flow就會發(fā)出警告提醒；同年9月，谷歌也推出了具有相似功能的工具——what-if，幫助開發(fā)者衡量算法的公平程度。

（二）平臺賦權(quán)用戶，凈化信息環(huán)境

為了共同維護良好的平臺環(huán)境，構(gòu)建多元化的新聞平臺用戶隱私保護機制，較多媒體平臺采取了“自身發(fā)力+用戶共建”的方式。比如，YouTube不僅加強了平臺信息的管控和監(jiān)管力度，對視頻內(nèi)容實行評級機制，并為用戶賦權(quán)，引入人工機制，用戶通過舉報反饋可以標(biāo)記不良信息；還繼續(xù)沿用了“三振出局”的懲罰系統(tǒng)，即一個賬號被舉報三次以上將無法再使用，加大了違規(guī)賬號的懲處力度，與用戶協(xié)力加強平臺內(nèi)容治理。Facebook敞開技術(shù)大門，其新聞室發(fā)文提醒用戶設(shè)置賬戶的隱私、可見度權(quán)限，并介紹了關(guān)涉隱私的新功能：在全球范圍內(nèi)正式上線Off-Facebook activity以及第三方授權(quán)登錄提示。

（三）政府端發(fā)力，維護用戶權(quán)益

2018年，歐盟出臺了 《通用數(shù)據(jù)保護條例》（GDPR），旨在保護歐盟境內(nèi)居民的個人數(shù)據(jù)和隱私，對網(wǎng)站的數(shù)據(jù)收集和使用作出了比較完整的規(guī)定，即收集數(shù)據(jù)前要獲得用戶的許可，并向其解釋收集數(shù)據(jù)的原因，保證在必要時可以刪除相關(guān)數(shù)據(jù)信息。2020年7月，美國 《加州消費者隱私法案》（CCPA）正式生效，明確表示濫用cookie的企業(yè)可能因侵犯隱私而面臨高額處罰。

2021年8月20日，十三屆全國人大常委會第三十次會議表決通過了 《中華人民共和國個人信息保護法》，這是中國首部專門保護個人信息的法律，旨在保護個人信息權(quán)益，規(guī)范個人信息處理活動，促進個人信息合理利用。法案制定參考了歐盟的 《通用數(shù)據(jù)保護條例》，對個人信息的保護作了更為明確和嚴(yán)格的規(guī)定。

四、算法推薦的規(guī)制方向

（一）加強監(jiān)管，完善算法設(shè)計

首先，由于算法推薦是以數(shù)據(jù)為基礎(chǔ)的，因此，規(guī)制算法推薦可以先從數(shù)據(jù)著手，凈化并管理算法推薦需要的數(shù)據(jù)。其次，加強監(jiān)管，避免算法設(shè)計者將個人偏見代入算法程序，并將算法監(jiān)管和算法自覺貫徹于算法設(shè)計、運行的全過程。最后，重視事后的補救，對因算法偏見而引起的社會不公現(xiàn)象，要通過法律程序補償權(quán)益受損者，并對技術(shù)方酌情處罰。一方面，要加強算法設(shè)計方的媒介倫理意識；另一方面，要強化政府、電信主管部門、公安部門和其他監(jiān)管者的責(zé)任意識，對技術(shù)方進行合理有效的監(jiān)管，在社會公平和科技發(fā)展之間找到合適的平衡。

（二）通過立法，加強隱私保護

無論是用戶采取保密措施予以保護的直接隱私，還是技術(shù)方在用戶公開信息和行為中挖掘的間接隱私，其保護都應(yīng)根據(jù)信息特性，通過用戶和數(shù)據(jù)使用者兩方協(xié)力完成。

首先，針對間接隱私，應(yīng)堅持事前告知、“告知許可”原則。一方面，應(yīng)在收集數(shù)據(jù)前告知用戶哪些信息可能會被收集，并規(guī)范數(shù)據(jù)使用者的行為；另一方面，應(yīng)在加強數(shù)據(jù)收集使用監(jiān)管的同時堅持“先告知，再許可”的原則，即先告知用戶算法可能會收集哪些信息以及存在的風(fēng)險，在征得用戶許可后進行信息數(shù)據(jù)收集。其次，針對直接隱私，應(yīng)著重對數(shù)據(jù)使用者進行責(zé)任規(guī)范。由于網(wǎng)絡(luò)時代的數(shù)據(jù)量較為龐大，完全執(zhí)行“告知許可”原則會降低信息傳播的效率，因此，可以通過立法的形式規(guī)范數(shù)據(jù)濫用和非法使用數(shù)據(jù)的行為，一旦數(shù)據(jù)使用者侵害了用戶的隱私權(quán)利，必須依法進行處罰。

（三）透明化算法，防止算法操縱

人們把算法稱為“黑箱”，一方面，是因為其程序的復(fù)雜性和智能性；另一方面，則是因為其運行程序和決策機制的不透明性。算法的“黑箱”特性使得用戶對算法的運行和決策機制抱有較大的好奇與質(zhì)疑，無形中加劇了用戶對人工智能的不安情緒。

加快算法的透明化，不僅可以緩解用戶的不安情緒，也可以防止數(shù)據(jù)和權(quán)力的絕對集中，因此，應(yīng)通過法律要求數(shù)據(jù)擁有者定期公開其算法運行機制，解釋算法的設(shè)計原理，并將算法程序透明化，以消除用戶的誤解和懷疑，避免算法和科技公司對數(shù)據(jù)的深度操縱。

（四）用戶、平臺協(xié)力，凈化網(wǎng)絡(luò)空間

首先，平臺方應(yīng)制定相關(guān)條例遏制不良內(nèi)容的傳播，從算法推薦機制入手，對各種假新聞和擦邊信息的推薦作出調(diào)整，減少可能誤導(dǎo)用戶的內(nèi)容推薦。其次，平臺方可以賦予用戶更多實際性的權(quán)力，推出用戶舉報后對平臺的懲罰機制，使平臺與用戶合力凈化內(nèi)容環(huán)境。比如，一條消息如果被多名用戶舉報或被同名用戶多次舉報，就應(yīng)該對其內(nèi)容進行再次審核，必要時應(yīng)避免該內(nèi)容發(fā)布，同時完善申訴機制，賦予用戶合理范圍內(nèi)的監(jiān)督權(quán)，從而實現(xiàn)內(nèi)容管理體制的透明化、高效化。

五、結(jié) 語

算法推薦機制不僅改變了用戶獲取信息的方式，其“投其所好”的特點也不可避免地造成了“信息繭房”效應(yīng)的擴大，背后的算法偏見更是用“看不見的手”影響著社會發(fā)展。因此，算法推薦應(yīng)兼具工具理性和價值理性，在法律法規(guī)和公眾的監(jiān)督下，加強內(nèi)容質(zhì)量把控，將社會人文價值導(dǎo)向滲入其中。