善治平臺算法

11月24日，一場針對網絡平臺算法典型問題的治理行動拉開了序幕，矛頭直指同質化推送營造“信息繭房”、大數據“殺熟”、侵害新就業形態勞動者利益等現實問題。此次整治可以說是自2021年9月《關于加強互聯網信息服務算法綜合治理的指導意見》發布之后，有關部門對平臺算法的第一次全方位綜合治理行動。

01

這次“清朗行動”不一樣

這并非“清朗行動”第一次指向平臺算法。

2021年，“清朗行動”提出了“算法濫用治理”，指導互聯網平臺優化信息過濾、排名、推薦機制，要求開展算法安全技術檢查和技術評估。2022年的“清朗行動”，聚焦于督促重點互聯網企業平臺整改算法不合理應用帶來的“信息繭房”“算法歧視”等問題。2023年12月，“清朗行動”將重點放在了“整治短視頻信息內容導向不良問題”，要求集中整治短視頻中的擺拍、技術生成等虛假信息以及煽動粉絲情緒、誤導消費者等問題。

《關于開展“清朗·網絡平臺算法典型問題治理”專項行動的通知》，由中央網絡安全和信息化委員會辦公室秘書局、工業和信息化部辦公廳、公安部辦公斤、國家市場監督管理總局辦公廳聯合發布。《通知》明確，此次專項行動重點整治同質化椎送營造“信息繭房”、違規操縱干預榜單炒作熱點、盲目追求利益侵害新就業形態勞動者權益、利用算法實施大數據“殺熟”、算法向上、向善服務缺失侵害用戶合法權益等重點問題。

清華大學人工智能國際治理研究院戰略與宏觀研究項目主任劉典認為，相較于過去的措施，這次的清朗行動治理目標更加明確、更多部門參與、治理手段更多樣，這些變化表明，政府正在嘗試構建一套更加系統、全面的算法治理體系，而非依賴于單一的短期行動。

2021年9月，國家互聯網信息辦公室等0部門印發《關于加強互聯網信息服務算法綜合治理的指導意見》（下稱《指導意見》），提出“利用三年左右時間，逐步建立治理機制健全、監營體系完善、算法生態規范的算法安全綜合治理格局”。2022年3月，《互聯網信息服務算法推薦管理規定》（下文簡稱《規定》）正式實施。《規定》明確，應用算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息，并明確了算法推薦服務向上向善的原則。

北京大學數字治理研究中心主任邱澤奇，自2000年起關注算法治理，他認為，公眾如今對各類算法應用都有了自己的體驗，已經深刻意識到“信息繭房”、算法偏見、算法歧視等問題，對算法的認知水平有了整體性提高。

02

神秘的算法

算法只是一系列解決問題的計算方式，背后反映的是平臺目標。算法工程師按照平臺的指令，敲下一行行代碼，組成了看不見、摸不著，卻又影響每個人的算法。

算法工程師隸屬的算法部門，往往是互聯網公司的核心技術部門。在多位算法工程師看來，真正的黑箱不在算法原理之中，而在數據與平臺機制設置之中。用戶量越大、數據越多、平臺機制向利益傾斜，便帶來了“算法亂象”。“信息繭房”“誘導沉迷”“操縱榜單”都與推薦算法關聯，最終能被看到的內容或商品，都是由算法精心計算過的，最根本的是要讀懂用戶的心。“讀心”需要對用戶海量的個人數據、行為數據等進行篩選，這些散落在網絡世界不同角落的痕跡，被收集到各個數據庫中，成為算法的最底層訓練支撐。比如將用戶的網購記錄、瀏覽記錄、在線下門店里的消費記錄等個人數據，或者點贊、劃走等行為數據“投喂”給算法，就能得到“量身定制”的推薦內容。

03

失控時刻

算法由工程師創造，但算法也會失控。

幾年前，視頻數據分析平臺百準創始人潘越飛已經隱隱感覺到“自己控制不住算法了”。他說，算法推薦的內容質量并不令他滿意。潘越飛曾為一條“蟒蛇吞噬了房子”的假新聞頭疼了十幾天。那是一張合成照片，打開正文就知道是假新聞，這條在他看來“無聊”的內容卻在平臺熱搜榜第—名。他換了各種維度調試算法，但這張圖片永遠是第一名。最終沒有辦法，他只能手動刪掉了圖片。他解釋，用戶沒見過蟒蛇吞噬房子的事件，所以打開率很高。圖片內容很短，所以完讀率很高。用戶看完后覺得被騙了，于是在評論區開罵，帶來高互動率。用戶覺得這條新聞十分荒謬轉發給身邊朋友“吐槽”，于是這條新聞分享率也很高。

打開率、完讀率、互動率、分享率都是算法評價內容是否值得推薦的權重，重重加持下，這條假新聞被推薦的次數越來越多。“算法有數學邏輯，但它沒有心，沒有人類的共識，沒有情緒和價值觀。”潘越飛說，算法只是按照設定完成它的工作，它的量化指標只有數據。

潘越飛曾耗費極大精力和算法對抗，試圖讓算法減少推薦類似內容，但結論是，做不到。他試過精選內容，或增加權威媒體內容的權重，以保證平臺內容質量的提升。但結果是，整個平臺的用戶時長大幅度下降了。但這違背了公司運營商業平臺的初衷，于是只能減少與算法的對抗。

算法工程師的背面則是依賴平臺賺錢、生存的人。

多位算法工程師表示，在公司內部，算法并不是沒有價值觀，也有一些原則，比如，不能推薦違法亂紀的內容，用戶問一些敏感的問題，必然不會得到答案，這由合規、安全和算法團隊配合進行處理。

04

善惡一念

西南大學國家治理學院講師畢文芬曾在重慶、貴州、云南地區凋研從事電商直播的農村婦女。在2020年左右，一些文化水平較低的農村婦女，在直播電商平臺帶貨還能賺到錢，當時經過一些基礎的培訓，就能在直播間吸引到用戶。有人靠著直播帶貨在縣城買了170平方米的房子，有人把蘭花、銀飾等當地特色產品銷往全國，也有人會從中獲得—些打賞，改善生活，很多人從田間走到了直播間。但是這兩年來，平臺越來越向粉絲量大、懂得投流、會運營的人傾斜。直播間里要有“氣氛擔當”宣傳造勢、要有話術刺激觀看者下單、要表演才藝、要建立矩陣賬號吸引流量等。這些沒有團隊支持的農村婦女沒有錢投流，也不借運營，只會講解產品，有時被平臺罰款、封號都不知道，也沒有渠道申訴，要回賬號。畢文芬觀察到，限流和罰款給這些農村婦女主播帶來了經濟和心理的沖擊，很多人會覺得是自己播的時間不夠長、不夠努力，而不會認識到平臺規則變了，要么延長直播時間，要么回歸務農工作中。畢文芬認為，平臺前期也曾為當地女性提供了新的發展機遇，但當平臺的導向改變，驅使算法盲目追球利益，實際也侵害了這些弱勢群體的勞動者權益。

05

如何建立長效機制

根據上述《通知》，此次專項綜合治理分為三個階段，即企業自查自糾、屬地核驗企業自查情況以及治理成效評估總結。有關部門將在2025年1月檢驗企業自查情況，2025年2月14日前完威專項行動實施成效總結，全面評估《指導意見》印發以來的算法治理舉措及取得的積極威效，深入分析難點問題，制定今后一段時期的務實舉措。

此次清朗行動涉及算法問題較多是內容平臺，究其原因在于這與平臺的成熟度有關，百度、阿里巴巴、騰訊、滴滴、美團都曾經歷過輿論的風暴口，內容平臺還沒有經歷過輿論的風暴，這次是這類平臺歷史上的第一次。

比如關于虛假信息的問題，以鐘睒睒事件為例，內容平臺是可以有作為空間的，比如對事實類內容，如果未經核實，可以讓算法在內容里打上平臺提示，如：此內容未經核實，請注意辨別。對于未經核實的事實類內容，平臺有提示的責任和義務。

工信部信息通信經濟專家委員會委員劉興亮熟悉多個互聯網大公司。他認為，對監營部門的要求，大公司并不會反對，他們也意識到這是個問題，應該得到治理。如果讓算法長久跑偏，最后受害的是整個行業。

劉興亮認為，算法問題依舊在互聯網平臺泛濫，其根本原因在于，算法具有很強的隱蔽性，很難界定某些后果是由算法直接導致的。對這次監營部門的治理，他抱著樂觀期待的態度，但同時認為，一次治理并不能真正解決問題，他相信還會有下一次、下下次專項治理的“清朗行動”。

事實上，本次“清朗行動”，也特別提到對算法治理“建立長效機制”，要求常態化開展算法服務安全風險監測防范工作，及時發現網站平臺違規問題線索，并綜合運用督促整改、現場檢查、處置處罰等措施，提升算法常態化治理水平。

監管要求與平臺需求天生會有矛盾。有專家將其形容為“瓷器屋里捉老鼠”，無論監管部門或是平臺自身，都會有投鼠忌器的顧慮。消除算法偏見與平臺商業利益之間也存在天然的矛盾。

劉典認為，算法治理是個循序漸進的過程，需要—步步完善。對算法進行監管確實會給平臺帶來一些成本提升的挑戰，比如技術升級和合規成本。但從長遠來看，這有利于營造健康的網絡環境，促進平臺的可持續發展。具體來說，應要求平臺加強內容審核，確保算法推薦的健康性和多樣性；公開算法的基本原理和主要運行機制，提高透明度；建立用戶反饋機制，及時調整優化算法；避免過度采集個人數據，保護用戶隱私。

治理是有代價的，代價也會由關聯平臺來承擔。平臺治理已經到了治理質量再上臺階的階段。如果平臺能主動看到問題并解決問題，平臺的發展也會再上臺階。（微信公眾號“經濟觀察報”，文章有刪減）