算法傳播：從“算法可治”到“算法善治”

【內容提要】算法治理是數字經濟時代的重要一環。隨著算法技術不斷發展，算法帶來的問題日益暴露在人們眼前。為了應對算法問題，國內與國外都提出了算法治理手段，面對不同類型的算法理論，算法治理需要有不同的切入點，以實現“算法可治”；“算法善治”的未來基礎，需要政府、技術和企業三方的合力，共同實現科技向善。“人類時空共同體”這一概念同時覆蓋了時間和空間兩個維度，是算法治理的積極嘗試，也為未來的元宇宙與算法治理提供思路參考。

【關鍵詞】算法治理 人工智能 數據安全 人類時空共同體

引言

隨著計算機技術、人工智能技術的飛速發展，人類已經逐步邁入信息戰、輿論戰和認知戰的時代，算法已經遍布我們的生活。為了應對數字時代傳媒變革、網絡文化發展，以解決、提高我國國際傳播能力和社會治理能力的需求，“算法可治”與“算法善治”顯得尤為重要。

一、算法與算法發展現狀

（一）什么是算法

算法本質上是由計算機編程語言編寫而成的一段程序，但是在如今的社會，算法的定義已經相對泛化。在當今快速發展的大數據時代背景之下，計算機技術的飛速發展促使機器學習、深度學習、人工智能、元宇宙等概念相繼出現，算法已經成為許多數字產品、具有影響力的社交媒體、電商應用程序等產品的標配。然而，算法在伴隨這些互聯網產品的發展過程中也漸漸出現了問題。

（二）國內算法發展現狀

信息繭房問題最初在2008年由桑斯坦在《信息烏托邦》中提出。信息繭房的基本概念為：人類在信息流中會被自己感興趣的信息所引導，這種現象導致了人類更愿意且只能夠獲取自己感興趣的信息，從而將自己封閉在這類有限的回音壁般的信息流之中，就如同蟬蛹吐絲將自己包裹在繭房里。① 如今以個性化推薦為代表的算法是信息繭房問題的主要來源。在中國，以字節跳動為首的互聯網科技公司，于2016年前后開始對個性化推薦應用程序（APP）進行大面積推廣。這些應用程序通過采集海量的用戶行為信息，對數據進行深度挖掘，對用戶進行畫像、打標簽，來分析用戶的行為，以便把用戶最感興趣的信息推送到他們手里，讓每個人都沉醉在自己的“舒適圈”。

除了信息繭房問題之外，我國還面臨著大數據“殺熟”問題。大數據“殺熟”是指在面對同樣的服務或商品時，老用戶看到的價格要比新用戶貴出許多的現象。企業為了追逐自身利益，利用數據算法的不透明性，通過挖掘不同時空區域、不同畫像以及不同興趣與偏好的用戶信息，對新老用戶進行區別定價，并結合復雜的促銷規則和算法，混淆價格和優惠，具有極大的隱蔽性，給用戶取證維權帶來極大的困難。

現在人們的生活離不開算法，衣食住行各方面都需要算法。軟件定義一切，數據驅動未來，算法統治世界。當算法變得越來越重要，同時又帶來了一系列算法問題，我們迫切需要加強算法治理。

（三）國外算法發展現狀

國內的算法潮流是字節跳動等互聯網平臺企業帶來的，而國外的算法鼻祖來自亞馬遜網絡電子商務公司。亞馬遜公司通過收集海量的用戶購物信息，來分析每個用戶的購物興趣，構建用戶畫像，形成千人千面。在用戶瀏覽商品時，向他們推薦他們可能會更感興趣的商品，用戶在購買商品后產生的購物信息，會再次補充到用戶的個人畫像當中，以此達成循環。推薦系統得以獲取到更多的用戶信息，達到完全的個性化推薦。

以信息繭房為主的算法問題不僅僅出現在國內，千人千面和用戶畫像技術在國外做得更好更強，甚至更極致。在擁有了海量用戶個人信息之后，除了信息繭房問題，還會出現以用戶個人信息泄漏為主的個人隱私保護問題。對于美西方國家來講，個人隱私保護是重中之重，這些國家和地區特別關注所謂的個人隱私，因此歐盟于2018年5月最先出臺了《通用數據保護條例》（GDPR）。《通用數據保護條例》（以下簡稱《條例》）指出：歐盟公民，無論是在歐盟的境內還是境外，只要有公司、企業或個人想要獲取公民個人信息，必須要先進行承諾聲明對該公民信息進行獲取，該公民可以允許，也可以不允許。即使該公民允許他的信息被獲取采集，也可以隨時取消允許。②《條例》的懲罰力度很大，2019年7月，英國航空公司因違反《條例》被罰款1.8339億英鎊，約合15.8億元人民幣。③面對《條例》的巨額罰單，歐美大量的企業在服務于歐盟的客戶時，都會對算法進行一些限制，以防止算法對用戶信息的濫用和用戶信息泄露。

隨著歐盟《條例》的公布，美國也于2018年6月出臺了《加州消費者隱私法案》（CCPA），這是美國首部關于數據隱私方面的保護法案。《加州消費者隱私法案》（以下簡稱《法案》）的出現，使得美國在數據隱私方面不再是空白。該《法案》讓加州消費者的隱私數據得到了安全的保護，其被認為是美國最嚴格的消費者數據隱私保護法。

隨著這些條例和法案的頒布，美西方漸漸形成了數據的保護機制和相應的數據管控條例。因為算法的強大，在當前輿論戰、信息戰和元宇宙的大環境下，其在歐美被當作一種武器，用來獲取利益，攻擊對手。2020年，美國指責抖音國際版（TikTok）泄露用戶數據，危害美國國家安全，時任美國總統特朗普意欲強行收購抖音國際版，將字節跳動的服務部署到美國本土，我國便相應采取了一種措施：數據存儲服務器可以部署到美國，但算法堅決不能夠出口。④這意味著我國認為算法是一個企業的核心競爭力，是一種由數據驅動的能力，維持著當今企業基本的運作模式。在中國與美西方在互聯網、賽博空間和元宇宙上的競爭中，算法、數據和算力成了重要的生產資料，在這種環境之下，算法治理、算法保護就顯得格外重要。

二、算法治理現狀

（一）國外算法治理現狀

國外在算法治理和隱私數據保護方面起步較早，相關的法律法規以及行業的標準較為完善，給全球的算法治理和隱私數據保護制度的建設提供了引領與示范。美國已呼吁互聯網公司調整算法，以根除虛假信息，此外美國還成立了大數據、倫理與社會理事會（BDES）用來支撐大數據引發的社會、倫理、法律和政策問題；歐盟已起草規則，威脅稱“如果大型科技公司不采取更多措施處理非法內容，將處以十分嚴重的罰款”。歐盟也成立了歐洲數據保護專員公署（EDPS）用來監督確保歐洲機構和團體在處理個人數據和制定新政策時尊重隱私權和數據保護權。

亞利桑那州立大學（ASU）的法律學者團隊在2021年進行了一項關于2016年至2019年間制定的634個算法法律項目的調查研究。研究表明：這些有關于算法治理的項目36%由政府發起，余下的項目由非營利或私營機構發起。亞利桑那州立大學的報告發現，這些算法治理項目在透明度、可解釋性、道德、權力、安全和偏見等方面達成了廣泛的共識。英國的艾倫·圖靈研究所（Alan Turing Institute）將這些算法治理項目共有的原則歸納為四點：公平、問責、可持續性和透明度。國外算法治理不僅強調了以上四點原則，同時也強調了算法的先進性，這些值得國內部門和企業在算法治理中學習和借鑒。⑤

（二）國內算法治理現狀

隨著我國算法應用飛速發展，信息繭房、大數據“殺熟”等算法問題逐漸出現，我國也開始對算法治理日益重視。2021年8月，國家互聯網信息辦公室發布了《互聯網信息服務算法推薦管理規定（征求意見稿）》，其中建議互聯網公司不應該建立引誘用戶花費大量資金的算法模型，并應該允許用戶可以輕易選擇關閉算法推薦服務。2021年9月，相關機構明確，將在大約三年之內制定算法治理規則，同時，也正在努力加強對互聯網科技公司的個性化推薦、用戶畫像等算法的控制，中國網絡空間管理局還表示，將成立專業評估團隊，深入分析算法的機制讓算法變得更加公平、更加透明，這并不是否定算法，而是要繼續大力推動算法創新研究并努力提升中國算法的核心競爭力。⑥

中國信息通信研究院積極參與算法治理監管政策的制定、技術認證和測試，并將專注與創建測試數據算法的工具。雖然這項工作仍處于起步階段，但其將為我國人工智能算法治理制度奠定基礎，確保我國算法體系的健壯性、可靠性和可控性。我國科學技術部也公布了算法治理手段，將制定道德標準，依靠互聯網公司和算法研究人員以自監督的方式將算法治理原則應用到算法開發的工作中。為了消除算法歧視、算法偏見，國家互聯網信息辦公室等多個部門于2022年3月聯合發布了《互聯網信息服務算法推薦管理規定》。⑦在此基礎上，我國應當進一步明確相應的算法保護和數據出境的政策、法律和法規，這為我國“一帶一路”“人類命運共同體”等全球性倡議和理念提供了安全保障，也為我國企業服務于社會、服務于全球的商業模式保駕護航。

三、算法可治需要對癥下藥

人類正在大踏步地進入數字經濟時代，數字經濟實際上包括了數字產業化、產業數字化（即實體經濟數字化發展）和社會治理三個部分。特別需要強調的是，數字經濟時代的社會治理特別依賴“計算”來有效提升治理能效。麥克盧漢提出了“媒介是人體的延伸”的理論，由此可以類推得出“計算重塑媒介的延伸”，計算驅動著傳媒產業與社會變革，計算的核心要素是數據、算法和算力，數據是生產要素，算法是知識產權，算力是“新基建”。

鑒于算法在傳媒領域和網絡數字空間的重要性，必須要找到算法可治的路徑。面對不同的算法，算法治理需要采用不同的切入點。具體來說，算法有三種系統理論，分別為：白箱理論、黑箱理論和灰箱理論。⑧白箱理論是指算法研究人員不僅知道算法的輸入、輸出關系，并且知道算法的結構與算法的構建過程，它相當于是一個白色透明外殼的箱子，能夠隨時被人類觀察到箱子其中的內部結構，所以，如果我們能夠理解算法的原理，那就可以利用白箱理論從源頭介入，對算法進行評估。

黑箱理論是指算法研究人員僅僅能夠得知算法的輸入、輸出內容，但并不清楚算法的結構、算法內部的運行邏輯，就如同一個外殼為黑色的箱子，研究人員只能夠根據輸入輸出的特點來推斷算法的系統規律。黑箱算法是有數據驅動的，所以我們要從結果入手來評估其對社會的影響。

灰箱理論是指算法內部規律只有部分能夠被人理解，在建立和改善模型方面還有許多工作要做，就如同一個外殼為灰色的箱子。面對灰箱算法，在操作層面需要從審核介入，這就需要我們懂得算法。

四、算法善治需要政府、技術、企業的合力支持

算法需要可治，更要善治，算法善治重點在“善”，科技向善，重塑算法價值觀。算法善治需要政府指導、完善相關法律法規進行督促，同時也需要全民參與網絡文明的發展進程，以底線思維防范化解風險。算法在大數據、云計算和人工智能的推動下，已經成為數字基礎設施的操作系統，成為信息社會的軟件架構，并與人的數字化生存和社會的數據化運行同步演化。習近平總書記指出：“要增強緊迫感和使命感，推動關鍵核心技術自主創新不斷實現突破，探索將人工智能運用在新聞采集、生產、分發、接收、反饋中，用主流價值導向駕馭‘算法，全面提高輿論引導能力。”⑨算法治理的內核應該是價值觀，中層是技術架構，外層是應用場景。

算法善治還需要建立“政府—技術—企業”一體化治理體系。對于政府，需要針對不同類型算法，守正創新，倡導源頭和結果的科學監管，備案追責，助推網絡文化安全的算法效果標準和政策指南；對于技術，需要構建時間空間模型，實現自辨真假和無假自證，打擊虛假信息，增強事實核查的技術能力，實現賬號分類分級管理，強化運行主體責任；對于企業，需要承擔問責算法的原則，明確且聲明算法的社會影響，需要報告、解釋、證明算法決策以及減輕任何可能的負面社會影響或潛在危害。

在算法治理中，治理的范圍不僅要針對國內，還應該涉及國際傳播，不僅要保護國內算法的知識產權，也需要助力保障我們國家的安全。在當前信息戰、輿論戰和認知戰的大環境下，我們更應格外關心算法的相應治理和對知識產權的保護。對于中外聯合企業、產品應用程序涉及境外用戶的企業，不僅要遵守國內的法律，還需要遵守當地相關的法律法規，有關部門也需要對上述企業進行相應的幫助、核實核查和進行必要的審查，以避免國內企業對當地法律的忽視，防止算法問題對國內企業的傷害，同時還應該保護我國企業算法技術和產品的先進性，幫助有關企業發揮算法的先進性作用。

從“算法可治”到“算法善治”，既強調了算法的科學性，也體現了算法的藝術性，這樣才能達到科學和藝術的和諧統一。

五、人類時空共同體是算法治理的成功嘗試

在算法治理的過程中，時間和空間是兩個重要的要素。以微博為例，2022年4月之前，用戶在微博平臺發布博文、評論時只能夠顯示時間信息，而沒有位置信息。隨著俄烏沖突爆發，2022年4月后，微博、抖音、小紅書等社交媒體網絡陸續加入“IP歸屬地”功能，這體現了網絡空間在網信部門指導下的進化能力。這些IP屬地信息的發布不由發帖人自主控制，是算法系統基于一定尺度的位置信息隨博文的發出自動顯示，國內的用戶將顯示到省份，國外的用戶顯示到國家。這是一種有效的算法治理方式。

如果時間和空間成為條件要素共同附著在一個通用標簽上，那么人類就可以打造一個無假自證或自辨真假的境界。從這個維度來看，今天我國所使用的健康碼就是一個時空標簽，只要用戶登錄就可以被時間和空間的標記，這是數字世界的自辨真假、無假自證。

同樣，基于這樣的技術理念，無論在中國的領空、世界的領空、還是未來空間，抑或是元宇宙，都可以本著“人類時空共同體”的價值觀念實現算法治理。為此，我們需要進一步思考、完善、實現，建立相關算法操作系統，貢獻中國智慧和中國方案。舉例來說，我國的北斗導航具有時間和空間定位，基于北斗導航數據的任何信息都可以獲得無假自證或自辨真假的可能性。

結語

算法可治很重要，算法善治更重要。我國要在技術上掌握主動權，最典型的案例就是健康碼，同時擁有時間信息和空間信息，為我國的科學精準防控作出了貢獻；還有一個例子是社交媒體平臺陸續開放IP歸屬地自動顯示功能，過去難以被識別的來自境外和境內的虛假信息現在可以不攻自破。當超越了國內的網絡運營商，對于國際性網絡來講，我們提出了中國主張——“人類時空共同體”，地球上的任何一個人類都已通過衛星來全球授時、全球授位，全球都可以接收衛星信息，知道你是誰，知道你在哪。

算法可以助力國家定策設計，促進國家傳播能力提升，推進網絡文明的建設歷程。在服務國家需求、解決實際問題、服務關鍵應用場景的環境下，對大數據人工智能、算法能力進行建設與優化，這也是在數字經濟時代“算法善治”所作的探索。

沈浩系中國傳媒大學媒體融合與傳播國家重點實驗室媒體大數據中心首席科學家

「注釋」

①[美]桑斯坦：《信息烏托邦》（畢競悅譯），北京：法律出版社，2008年，第7頁。

②桑德拉·沃切特、布倫特·米特爾斯塔德、克里斯·拉塞爾、陳宇超：《無需打開“黑箱”的反事實解釋：自動化決策和<通用數據保護條例>》，《國外社會科學前沿》2022年第7期，第85-99頁。

③《英航因泄露用戶信息被罰近兩億英鎊》，新華網，http：//www.xinhuanet.com/ world/2019-07/08/c_1124726167.html，2019年7月8日。

④董浩宇：《國際傳播中數字媒體的發展性初探——以抖音TikTok全球發展與美國禁令為例》，《國際公關》2021年第9期，第134-136頁。

⑤Leslie， D.，”Understanding artificial intelligence ethics and safety： A guide for the responsible design and implementation of AI systems in the public sector”，The Alan Turing Institute，2019，pp.2

⑥溫婧：《禁止“大數據殺熟”、誘導沉迷，網信辦等四部門發布算法規范》，北京青年報客戶端，https：//m.gmw.cn/baijia/2022-01/04/1302748490.html，2022年1月4日。

⑦國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局：《互聯網信息服務算法推薦管理規定》，中國網信網，http：//www.cac.gov.cn/2022-01/04/c_1642894606364259.html，2022年1月4日。

⑧張瀅：《“黑箱—灰箱—白箱”策略在商務談判中的應用》，《經濟論壇》2006年第23期，第85-87頁。

⑨《習近平：加快推動媒體融合發展 構建全媒體傳播格局》，中國政府網，http：// www.gov.cn/xinwen/2019-03/15/content_5374027.htm，2019年3月15日。

責編：霍瑤