社交媒體平臺的信息失序風險與治理路徑

○陳曉佳 陳力鈞

一、研究背景及意義

2017 年沃德爾和德拉赫尚歐洲委員會報告中提出信息失序的概念，指出信息失序主要涵蓋錯誤信息（misinformation）、虛假信息（disinformation）與惡意信息（malinformation）三種類型[1]。信息失序現象是不良信息在網絡空間傳播蔓延，內容生態系統被污染的傳播亂象的概括。信息失序風險直接關乎人們獲取信息的正確性和可靠性，關乎大眾受輿論操縱和觀念誤導的可能性，關乎網絡空間的意識形態安全。社交媒體憑借算法推薦技術成為了當前網絡空間如日中天的流量聚集地，然而更加先進的信息分發技術并未使信息失序問題得到妥善解決，而且在算法推薦高效傳播機制下波及范圍更加廣泛、負面效應更為嚴重，社交媒體平臺的推薦系統甚至充當了負面信息引發輿情漩渦的導火索與推手。根據何塞·范·迪克（José van Dijck）等學者對當下平臺社會的觀察，由互聯網巨頭所創建的基礎設施平臺與行業平臺的合力已經實現了對公共生活的全方位滲透[2]。社交媒體平臺的信息秩序研究，已經成為了網絡內容生態、意識形態秩序治理的重要議題。

從社會生活層面看，社交媒體平臺上的信息秩序研究具有重要的現實意義。隨著社交媒體平臺的發展，信息的真假性、合法性成為了影響人們思維認知、行為交往、生產生活的重要因素，如何建立更加準確的信息認證制度、公正的信息標準等也亟待進一步探討和建構。此外，隨著社交媒體平臺的應用越來越廣泛，人們也開始將社交媒體上的信息作為自己的人生規劃和生活決策的參考，因此，在社交媒體上建立更加健康和積極向上的信息生態的重要性日益凸顯。社交媒體平臺的信息秩序研究旨在維護社交媒體平臺上信息的真實性、可信性和公正性，提高社交媒體平臺的社會價值和用戶體驗，治理因社交媒體平臺的普及而不斷出現的信息難題，具有鮮明的現實導向和豐富的理論價值。

二、社交媒體信息失序的風險表征

（一）惡意內容擴散風險

網絡流量是互聯網時代大眾認可度與話語影響力的影響因素，是信息傳播有效性的評判準則，是信息發布者獲取經濟效益的關鍵樞紐，是互聯網項目的永恒主題與主要目標[3]。社交媒體平臺在“流量為王”的規則驅使下，催生了各類博眼球、博流量的操作行為，其中危害性最大的就是惡意內容傳播。惡意內容包括虛假、騷擾、欺詐、暴力、仇恨言論、色情、賭博等信息，這些內容的傳播對個人和社會產生負面影響。首先，惡意內容的傳播容易引發關注和轉發，甚至成為熱門話題，進而獲得更大的傳播范圍和影響力。這會加劇其對社會的影響，導致社會的公共秩序和社會和諧受到威脅。其次，惡意內容的傳播給個人和社會帶來心理傷害。對于網絡暴力或欺詐等行為的受害者，可能會引起深度的心理創傷，這對一個人的健康和幸福都有負面影響。第三，惡意內容也會傷害企業的聲譽。企業如果不能很好地管理在線社區，無法遏制惡意內容的傳播，并且不能有效回應和解決與其產品或服務相關的負面消息，可能會導致客戶和消費者的不信任和離開，損害企業形象。造成這些惡意內容傳播風險的原因有多方面。一方面，社交媒體平臺的技術特點使得信息可以隨意傳播，而平臺缺乏有效的審核機制，容易造成不良信息的擴散；另一方面，社交媒體平臺的商業模式以用戶流量為導向，利用算法推薦，基于用戶信息、瀏覽情況等一些網絡行為習慣等數據判斷用戶感興趣的內容并進行推送[4]，加之平臺可能會對流量進行優化，使得具有極端性、爭議性的內容更容易被推薦，隨著算法推薦的深度使用，低俗信息泛濫的問題也逐步嚴重[5]。這進一步加劇了惡意內容的傳播風險。

（二）用戶隱私泄露風險

社交媒體平臺作為一個高度互動的社交平臺，涉及大量的個人信息，因此用戶隱私泄露風險成為了其中一個重要問題。在使用社交媒體平臺時，我們常常會輸入個人信息、發布個人照片或視頻等敏感內容，這些信息容易被盜取引發隱私泄露風險。社交媒體平臺用戶隱私泄露的風險主要包括以下幾個方面：一是個人信息被非法獲取。社交媒體平臺是一個集中了大量用戶個人信息的場所，這些信息包括姓名、性別、年齡、出生日期、家庭住址、聯系方式、職業信息等，其中一些信息可能還涉及賬號密碼等敏感內容。如果不法分子通過黑客技術、網絡釣魚等手段獲取了這些信息，就可能導致用戶的個人信息泄露，帶來經濟損失和個人安全隱患。二是發布的內容被濫用。在社交媒體平臺發布的各種內容可能被不法分子濫用，這些內容可能被用來進行網絡欺詐、造謠傳謠、發起惡意攻擊等，給個人和社會帶來不良影響。三是精準投放廣告的隱私風險。社交媒體平臺通過用戶行為數據，可以對用戶進行精準的廣告投放，但這種廣告推送方式會涉及用戶的個人信息，例如用戶的興趣愛好、購買記錄等，如果這些信息被泄露或遭到濫用，就有可能導致用戶的隱私泄露。四是賬號被盜用。由于社交媒體平臺的賬號往往需要綁定手機或電子郵箱，如果這些綁定的信息被不法分子獲取，就可能導致賬號被盜用，不法分子可以通過賬號和密碼進行各種操作，甚至涉及金錢和安全問題。

（三）平臺數據濫用風險

社交媒體平臺的出現，為人們的溝通和交流帶來了便利。它們讓人們可以輕松地與朋友、家人和同事保持聯系，同時也成為了人們獲取信息和娛樂的主要來源。然而，這些平臺所搜集到的大量用戶數據，也讓它們成為了數據泄露和濫用的風險所在。首先，社交媒體平臺數據泄露的風險通常來自于平臺自身的安全漏洞或黑客攻擊。例如，2018 年Facebook 的Cambridge Analytica丑聞就是因為平臺泄露了約5000 多萬用戶數據，這些數據后來被用于影響美國總統選舉結果。[6]其次，社交媒體平臺數據濫用的風險也來自于平臺本身濫用用戶數據的情況。一些社交媒體平臺可能出售用戶數據以獲取更多的營收，或者將用戶數據用于廣告定位等商業目的。最后，社交媒體平臺的數據濫用風險還來自于第三方應用程序的濫用。這些應用程序通常需要用戶提供賬號授權來使用平臺上的數據，但是這些應用程序可能會濫用用戶數據。例如，一些應用程序可能會通過收集用戶的聯系人信息，然后以用戶的名義向他們發送垃圾郵件或釣魚郵件。總體來說，社交媒體平臺的數據濫用風險仍然存在，但是用戶可以通過關注隱私政策、謹慎選擇分享內容、更換較安全的密碼和開啟驗證等措施來減少這些風險。

三、社交媒體平臺信息失序風險治理路徑

（一）建立健全信息發布規范

發布準則是社交媒體平臺維護信息秩序和用戶體驗的重要手段。它規定了用戶在平臺上發布內容的標準和限制，旨在防止惡意行為和不良內容的傳播，規范用戶的發布行為，保護平臺的聲譽和用戶的合法權益。建立健全發布準則是社交媒體平臺的重要職責之一。首先，需要制定明確的發布準則，規定不良內容的標準和可接受內容的范圍。例如，禁止色情、暴力等內容，并制定相應的處罰措施。同時，需要強調信息真實性，發現虛假信息應及時下架，以避免帶來不必要的社會影響。發布準則也應隨著平臺的發展而不斷更新，以適應不同用戶群體的需求。其次，社交媒體平臺需要積極與用戶互動，收集用戶反饋和意見，了解他們對平臺和發布準則的評價和改進建議。這將有助于加強平臺對惡意行為和不良內容的監控，并更好地與相關規章制度結合起來。最后，發布準則應該是透明的，以便用戶正確了解和遵守規定，并及時接收到新的發布準則。

（二）完善內容審核機制

社交媒體平臺因為其信息傳播的廣泛性和實時性，難免出現一些不健康的信息。針對這一問題，要堅持正確價值導向，完善內容審核機制，推進算法透明，倒逼平臺自律。[7]社交媒體平臺的內容審核機制在信息秩序治理中扮演著重要角色，加強內容審核的嚴格性和高標準對于保障信息的真實性和可信性至關重要。

嚴格的抽查流程。平臺應建立專門的審核小組，針對發布的內容進行抽查審核，及時處理用戶舉報情況。同時在審核機制的實施上，應加強審核人員的培訓和素質提升，加大資源投入和技術升級，提高審核效率和準確性。內容審核標準應盡可能與社會現實相符合，特別是對于敏感內容，在審核時尤其要關注它對公眾的影響和破壞程度。此外，應建立全面的投訴處理機制，鼓勵用戶參與，有效反饋虛假信息和不良內容。這將有助于確保社交媒體平臺的內容質量，并為其信息秩序治理提供有效支持。各社交媒體平臺之間還應打通壁壘，建立跨平臺協作機制。[8]

（三）推進信息監管問責

社交媒體平臺上信息的混亂、不良、虛假等問題的增加，會對社會公眾、經濟發展等方面帶來負面影響。因此，需要完善社交媒體平臺的監管和問責機制，以確保社交媒體平臺上發布信息的合法性和正確性。針對社交媒體平臺的法律法規和政策制定應當更加完善和有前瞻性，明確社交媒體平臺的責任和義務。對于明顯偏離信息傳播準則和道德規范的平臺和用戶進行有效的制裁和處罰。同時，完善政府監管和監察機制，確保公眾利益得到充分保障。大眾作為社交媒體平臺的使用者，也要積極參與和監督。應建立用戶舉報制度，積極響應用戶的舉報，加強信息監管。平臺應增加用戶舉報不實信息的獎勵機制，提高用戶的舉報積極性。此外，社交媒體中發布位置及行動軌跡情況導致隱私泄露，也可以通過位置抑制和位置替換技術來保護移動型社交媒體用戶隱私。[9]綜上所述，在建立健全監管和問責機制以及用戶參與和監督的基礎上，可以最大程度地減少社交媒體平臺上虛假、誤導、有害信息的傳播。同時，政府部門和相關機構應積極推動社交媒體平臺運營規范化，重視社交媒體監管的法律合規性，形成多方合作的管理格局，保障社交媒體的健康發展。

四、結論和展望

社交媒體平臺在信息傳播和社交互動方面發揮著重要作用，成為現代媒體生態中不可或缺的一部分，但其快速發展也帶來了信息失序風險，如惡意內容傳播、用戶隱私泄露和數據濫用等問題。這些問題對社交媒體平臺的生態和用戶利益的影響不可忽視。治理社交媒體平臺需要社會各方共同參與，從技術、政策和道德規范等多角度入手，實現對平臺的有效監管和保護用戶權益。政府加強監管和法律法規建設，企業加強自律和技術手段應對風險，社會積極參與監督和管理，共同打造健康、安全、有序的社交媒體生態。

社交媒體平臺發展快速，一些問題和風險也在不斷涌現和演化。因此，本文所提出的問題和解決方案可能會隨著社交媒體平臺的發展而產生變化。此外，由于本研究所關注的是整個社交媒體平臺的信息秩序，因此研究過程中存在數據來源和覆蓋范圍的限制，對一些細節問題可能存在局限性。未來的研究可以從以下幾個方面展開：首先，需要深入挖掘社交媒體平臺中各種問題背后的社會、文化和技術因素，以期提出更加深入和有效的治理方案。其次，需要探討社交媒體平臺治理的多維度性和多層次性，探索各種治理策略的協同效應和優化路徑。此外，需要加強社交媒體平臺與用戶、政府和其他利益相關者的溝通和合作，以建立更加開放、透明和可持續的社交媒體平臺生態。最后，需要探索新技術和新方法在社交媒體平臺治理中的應用，以提高治理效率和效果。只有通過不斷地深入研究和有效治理，才能建立更加健康、可持續和良好的社交媒體平臺生態。

注釋：

[1]WardleC,&Derakhshan H.Information disorder:Towardan interdisciplinary frame work for research and policymaking[R].Council of Europe Report，2017.

[2]VanDijckJ，PoellT，De Waal M.The plat form society：Public values in a connective world[M].Oxford University Press，2018.

[3]陳力鈞,李天麗.互聯網時代網絡意識形態話語權建構研究——基于內容、渠道與流量三重向度的思考[J].江西理工大學學報，2022（02）：3-4.

[4]韓宇航.社交媒體平臺算法推薦的規制方向探究[J].今傳媒，2022，30（10）：28-31.

[5]吳衛華.算法推薦在公共傳播中的理性問題[J].當代傳播，2017（03）：79-81.

[6]黃靜茹.社交媒體平臺中的隱私關注、披露和保護[D].南京師范大學，2020.

[7]陳力鈞，陳志勇.意識形態的算法風險及治理路徑研究[J].中共天津市委黨校學報，2022（03）：67-75.

[8]孟倫.互聯網時代社交媒體平臺的文化癥候與治理對策[J].出版廣角，2021（22）.

[9]劉向宇，劉竹豐，夏秀峰等.一種保持軌跡數據高可用性的隱式位置訪問隱私保護技術[J].沈陽航空航天大學學報，2019（02）：66-75.