安全與發展：網絡內容審核標準體系的價值取向

朱垚穎　謝新洲　張靜怡

【摘要】作為當前網絡治理和社會治理的重點，網絡內容治理工作的重要性與日俱增。網絡內容審核是網絡內容治理的關鍵一環，內容審核標準體系的完善對于網絡內容治理意義深遠。基于安全和發展兩個價值取向，當前網絡內容審核機制存在責任規約不明確、管控尺度難把握、公開機制不健全、前置預防有漏洞、技術標準不全面等問題，這反映出安全與發展雙重價值的失衡，凸顯了平臺利益與社會效益的價值沖突。現提出需建立體系化、標準化的內容審核機制，以全流程、可操作性、多維度作為治理要求，實現網絡內容在價值取向上的安全與發展并重。

【關鍵詞】網絡內容；審核標準；安全；發展；治理體系

伴隨各類互聯網內容平臺的興起、社交媒體的廣泛普及、用戶內容生產參與度的提升，以及網絡內容與現實世界連接和滲透程度的進一步加深，網絡內容對社會政治、經濟、文化等領域的影響力日益凸顯，網絡內容治理問題也成為網絡治理和社會治理的重點。近年來，我國高度重視網絡內容治理工作，并將信息安全提升至國家安全的戰略高度，相繼出臺了《網絡安全法》《信息安全保護法》《網絡信息內容生態治理規定》等法律及規定。2021年9月1日，《數據安全法》開始施行，國家正式建立數據安全審查制度。2022年2月15日起施行的《網絡安全審查辦法》，進一步明確了國家網絡安全審查工作機制。上述辦法的施行，意味著我國數據安全及網絡安全審查工作進入機制化、體系化的新階段。網絡內容作為網絡數據治理和網絡安全治理的關鍵，其審核機制的建立和價值取向也是當前政府、學界、業界高度關注的話題。

安全與發展是網絡內容建設的兩個價值取向，隨著內容審核技術的發展與工作思路的成熟，網絡內容審核應逐漸由“安全第一”向“發展優先”轉化[1]，實現安全與發展的相輔相成。網絡內容審核機制是網絡內容治理與建設的重要組成部分，關系到內容審查工作的發展方向。以此為出發點，本文將探討安全與發展在內容審核工作中的現狀與問題，分析其矛盾根源，進而對內容標準的制定方式及其意義進行討論，提出具有系統性、全面性和可操作性的網絡內容審核標準體系的建設思路，有助于適應當前階段的網絡內容規律和特征，解決好網絡內容審核工作中的問題與矛盾。

一、網絡內容審核的現狀探討

網絡內容審核是指由政府主導建立的，由政府、平臺及用戶等多主體協作執行的對網絡內容進行的檢審、核查與治理活動，目標是保障網絡內容的安全與清朗，推動網絡內容生態長久發展。由此可見，網絡內容審核涉及安全和發展兩個價值取向，前者以后置處理為主，在監測到負面信息之后對內容及其發布主體實行管控措施，后者以前置工作為主，包括用戶素質培育、輿情風險監測技術、優質內容創作引導等內容。對當前網絡內容審核發展現狀的分析，既需關注審核背后的“底線”思維考量，也需關注審核方式和審核對象的差異。

（一）“底線”思維下的內容審核模式

目前，我國網絡審核以安全保障工作為主要取向，平臺的審核工作也以守住內容“底線”為主要目標。從政策層面來看，20世紀以來，我國已經建立了較為全面的網絡安全政策及法規體系：從1994年《計算機信息系統安全保護條例》出臺，到2021年《關鍵信息基礎設施安全保護條例》推行，我國基礎網絡安全體系逐漸建立。近年來《網絡安全法》《數據安全法》《個人信息保護法》相繼頒布，信息和數據安全得到了更為細致的法律保障。在網絡信息安全保護日益強化的大環境下，網絡內容安全體系也逐漸完善。2019年，《網絡信息內容生態治理規定》（以下簡稱《規定》）推出，提出了違法及不良信息的判定標準以及優質信息的內容特征。2022年1月，《網絡安全審查辦法》出臺，進一步針對產品、服務和數據三個治理對象強化了平臺的管理責任。可見，當前階段審核標準體系主要圍繞信息安全及國家安全建立和展開，針對互聯網內容方面的潛在風險和現存問題建立了較為全面的政策體系。同時，《規定》也涉及了一部分內容發展層面的措施，要求平臺對《規定》所提出的優質內容進行優先傳播和呈現。

從平臺層面來看，當前內容審核工作主要采取機器審核與人工審核相結合的方式。主體在平臺中創作和發布的內容首先通過機器進行負面關鍵詞初步匹配，未命中關鍵詞的內容視為審核通過內容，直接發送至平臺。機器檢測到可能存在風險的內容進入人工復審環節，涉及違法違規的“底線”內容將被進行封禁和刪除處理。一些具有模糊性的內容則進入二輪人工審核環節，并根據內容可辨別難度的增加依次上遞，最終確定對其的處理方式。在審核內容層次方面，一些平臺也按照內容影響力進行優先級劃分，重點關注“大V”等賬號發布的內容，普通用戶發布的內容在達到一定熱度之后才會進入平臺審核庫中。對于謠言等信息內容，平臺也設置了相應的后置處理辦法，包括設置謠言信息標簽、建立辟謠平臺、開啟官方媒體辟謠權限等。總體來看，平臺內容審核工作主要依據《規定》所提出的負面信息清單來進行，集中審核力量處理“底線”問題，并進行必要的內容審核處理結果公示，同時配合相關優質內容的推薦工作。

（二）內容審核方式的多元發展

當前，網絡內容審核呈現多元模式，審核方式以體制機制審核、人工審核、機器審核為基礎，形成多種方式相互配合、互為補充的多層級審核流程。在此過程中，官方媒體、市場化媒體、賬號類媒體由于在內容生產機制、內容傳播目的、專業性程度等各方面存在差異，往往在內容審核中采取不同的審核模式及策略。與此同時，不同審核模式對于人才、勞動、技術等要素的傾向性和需求也存在差異，形成了多元的工作方法和審核思路。

體制機制審核是目前主流媒體的主導內容審核方式，媒體編輯部在審核工作中扮演著“把關人”的角色，專業人才的評估和判斷在內容“底線”的把控和內容質量的優化中發揮著關鍵作用。網絡內容時代的體制機制審核沿襲了傳統媒體內容生產的嚴謹性與專業性，其不僅是主流媒體傳播力與公信力的重要保證，同時也為推進行業內容審核的專業化和規范化提供了有效示范和指導。目前，由主流媒體主導建立的內容風控業務機構成為內容審核工作中的業務主力之一[2]，為行業內容審核工作提供了有力支持。

人工審核主要指由具備內容審核相關知識和技能的人員根據內容審核規則對體量龐大的網絡信息展開的人工篩查。這一審核方式以“勞動密集型”為主要生產形式，并將官方制定的法律法規與平臺規則作為主要的行動原則。現階段，市場化媒體通常借助于“機器+人工”的內容審核方式，人工審核主要作為機器審核的補充手段和上層環節，用于把關音視頻作品以及較為模糊或復雜的內容問題，補足機器審核在內容形式上的局限性，精細化處理機器預篩過程中可能存在的內容風險。

機器審核運用算法進行內容比對和篩選，是內容審核標準化、規模化發展方向的集中體現。機器審核以技術為導向，運用數據庫、人工智能等現代技術進行實時高效的內容治理，極大提高了內容審核工作效率，推動審核工作的常態化開展。但是，現階段的機器審核仍然存在著技術滯后的問題，同時面臨著網絡內容復雜化帶來的挑戰，因此尚難達到完全智能化的水平，需要人工復核作為其支持與補充。機器審核的把關作用在賬號類媒體中得到突出體現，賬號類媒體主要指各類網絡平臺中的自媒體以及個人創作者，其內容創作時常存在著自我審核環節缺失的問題，進而將審核壓力轉嫁到內容發布平臺方。在此過程中，違規內容通過機器審核得到快速處理，阻斷了不良內容的大規模傳播。與此同時，大量賬號內容為機器學習提供了良好數據，進而促進機器學習的開展和內容審核算法的成熟。

（三）各類型網絡內容審核的不同側重

當前網絡內容海量豐富、類型多元，包括文字、圖片、視頻、游戲、虛擬沉浸內容等多種形態，呈現出多媒體、數字化、智能化等趨勢。隨著互聯網文化產品的日益豐富，短視頻、直播、游戲等諸多文化產品進一步豐富了網絡內容這一概念內涵，也帶來了更復雜的審核需求。

在網絡內容不斷發展的背景下，針對不同類型內容的審核方式和重點也存在相應差異。文字類型的網絡內容審核往往以關鍵詞及語義審核作為重點，審核方式相對明確，常見前置審批和事后刪帖等審核方式。而游戲等更復雜的網絡內容前置審核，既需要對游戲中出現的一些文字、圖片、NPC形象等進行審核，也需要對游戲故事情節、劇情推進、環境場景等體現出的文化價值觀進行審核，避免出現低俗文化、傳統文化誤讀等情況，確保內容優質、健康、干凈。直播內容審核涉及即時直播，因此較難進行前置審核，審核難度也大大增加，常見的審核方式是以智能審核方式對直播中的“間隔圖片”進行審核，以及對一些直播賬號進行人工審核。

目前，在不同類型網絡內容的審核中，文字、圖片審核相對較為成熟，短視頻審核、游戲審核的技術審核也在不斷發展，直播審核可能面臨著較大的技術挑戰和內容把關上的困難。目前不同類型內容的審核方式和技術也在彼此借鑒，例如將敏感詞過濾、圖片審核作為視頻內容審核的手段，或是將傳統內容審核中的播前審核引入到直播內容審核中來。總的來說，不同類型的網絡內容有著相應的審核機制和審核方式，相應的審核準則也在推出，例如中國網絡視聽節目服務協會在2017年和2019年分別發布《網絡視聽節目內容審核通則》《網絡短視頻內容審核標準細則》，2021年也對后者進行了全面修訂，進一步結合新的內容變化修訂了審核標準。

二、當前網絡內容審核工作存在的問題

由于審核技術、機制和責任歸屬的不健全，以及審核方式和審核對象的差異化，現階段網絡內容標準存在著安全與發展取向不平衡的問題。一方面，平臺內容審核工作固守安全底線，忽視了長遠發展目標的規劃；另一方面，平臺面對技術紅利的吸引單方面追求內容發展，致使相關的安全保障措施配備相對滯后。兩方面的價值失衡引發了各類審核工作問題，同時也反映了相關制度建設的短板。

（一）責任規約不明確

習近平總書記在2016年的全國網絡安全和信息化工作座談會上提出，網站在網上信息管理中應負“主體責任”。[3]互聯網平臺掌握著干預平臺信息流動的技術能力和內容管理的實際權力，是網絡內容審核的責任主體。突出平臺責任，強化平臺治理是黨的十八大以來，我國在網絡治理方面取得的重要經驗。[4]平臺主體責任的落實是安全與發展的實現基礎，然而實際工作中卻存在著各類責任不明確的問題。

首先，平臺的責任履行不夠全面。一些平臺初步明確了“底線”工作的重要性，并成立專班小組負責相關工作，但對優質內容引導工作還不夠重視，因而導致了內容審核與內容發展之間的價值斷層，尤其是一些處于早期發展階段的內容平臺仍然以擴大平臺影響力作為第一訴求，將優質內容的生產放在后置需求地位。其次，平臺考慮審核成本和效率，將部分審核工作移交外部團隊，導致審核責任間接落實、人員素質參差不齊等問題，可能造成審核質量下降。再次，部分平臺自制力較弱，內容安全意識不足，時常為了追求流量而犧牲質量，致使一些處于灰色地帶的內容頻頻出現。例如2021年底，全國網絡執法就整治了網上歷史虛無主義、治理算法亂用、整治未成年人網絡環境、整治彈窗新聞信息突出問題、規范網站賬號運營、整治網上文娛及熱點排行亂象等問題，其中如金山毒霸應用程序彈窗推送詆毀革命烈士邱少云等內容的出現[5]，危害了網絡內容空間的健康發展。

上述問題也反映出了平臺審核工作中安全與發展的價值錯位。如何通過政策引導將平臺審核責任中的安全與發展有效銜接，提高平臺自我管理的自主性和積極性，是當前階段需要思考的問題。

（二）管控尺度難以把握

《規定》中將網絡內容的審核與處理標準概括為“十一不準”“九防范抵制”和“七鼓勵”，是當前最為權威和全面的內容治理標準參考。[6]這一標準為內容治理劃定了較清晰的框架，對優質內容的標準予以一定的指引，體現了安全和發展兩個價值維度。基于這一框架，平臺能夠對色情、暴力等“底線”內容進行果斷識別和封禁，但對于相對模糊的內容仍然存在管理力度難以掌握的問題。

網絡內容本身具有復雜性，是一種處于添加、改寫、再傳播狀態中的永久“半成品”[7]，這也導致平臺難以形成普適化的處理策略。平臺依靠自身治理經驗進行的管理具有局限性，其管理范圍與用戶接受能力之間可能存在偏差，引發次生輿情，造成公共利益損失。當前內容審核在系統管理理論以及行動邏輯方面還有待深入研究[8]，存在可操作性較弱的問題，缺乏具有動態適應性的處理預案，因此難以為平臺審核工作提供更為細致的指導。審核工作的完善需要進一步考慮其維度多樣性，在為安全問題提供參考的同時，也為復雜內容的處理以及優質內容的發展提供更多切實的解決路徑。

（三）公開機制不健全

內容審核流程的完整性和合理性是內容審核工作的重要發展維度，平臺公開機制是提高審核工作透明度和保障工作質量的重要環節。目前，一些平臺在審核工作中存在機械化、形式化的問題，可能造成用戶的不滿情緒以及社會監督的缺失。

一方面，平臺的信息公開工作不夠深入。許多平臺頒布了社區公約，對平臺使用進行了細致規約，同時也開通了官方管理平臺，例如抖音社區自律公約、“微博管理員”賬號、微信“辟謠助手”小程序等。這些做法取得了一定成效，但對用戶主動性要求較高，治理范圍較為有限，仍然需要進一步的宣傳推廣。另一方面，用戶在審核工作中處于較被動的地位，用戶主體性體現不足。一些平臺利用技術優勢在用戶不知情的情況下對其創作內容進行一定范圍的設限，從而預防不確定性內容的負面影響，減輕審核工作壓力。類似做法雖然能夠規避風險，但是不利于用戶的引導和培育，也放任了平臺所構建的權力不對等的私人秩序的形成。[9]透明化工作中的問題進一步表明了安全與發展的價值失衡，內容審核工作需要著眼全局，形成可持續的工作模式和方法，不僅考慮當前工作的完成和問題的解決，更要考慮內容治理的長遠規劃和發展目標。

（四）前置預防機制不完善

長期以來，后置處理是平臺內容審核工作的主要模式。一些信息形式具有較大的管理難度，例如謠言等不良信息具有來源廣泛、不確定性強、變化發展快、人際擴散迅速等特征，使平臺在介入之初就面臨著較大規模的傳播和影響范圍，處于相對被動的地位，即使最行之有效的謠言治理辦法仍然是偏滯后性的。即時通信類信息也存在著類似問題，此類信息具有碎片性和隱匿性，除了針對特定關鍵詞的前置攔截以外，其他信息只能進行事后干預，而此前已發出的內容則難以進入治理范圍。此外，平臺依據內容熱度的審核優先級劃分也導致某些偶然性大面積傳播的不良內容難以得到及時發現和處理。

面對體量龐大的網絡信息，單方面的后置性安全保障工作難以完全解決內容問題，需要從發展的思路出發，開展前置性的教育和預防工作。一些平臺開通了“贊賞”“投幣”等激勵功能，鼓勵用戶發布優質原創內容。此類做法有利于推進內容審核工作由事后管理向事前引導轉變，但總體來看平臺在公約引導和優質內容激勵層面相對薄弱，同時需要避免商業炒作、非理性打賞、盜版侵權等問題。與此同時，自媒體平臺推出了各類內容創作者扶持政策，但執行過程中存在著創作者與平臺話語權不對等的現象，扶持政策“高門檻、低力度”，創作者所得回報難以達到預期[10]，因而進一步加劇了內容資源的頭部集中以及內容同質化趨勢。一些平臺推出了個性化的用戶素養培育功能，例如嗶哩嗶哩要求用戶在獲得會員身份之前通過社區使用規范考核，一些豆瓣小組要求用戶在加入前作出遵守小組規則的相應承諾等。這些做法能夠在一定程度上提高用戶的規則意識，但是目前尚未全面推廣使用，一些公約內容也由用戶自主制定，缺乏專業性和約束力，治理方面存在一定的漏洞。

（五）技術標準不全面

技術是內容建設的重要驅動力，代表著發展的價值取向。平臺技術的創新需要通過內容呈現，因此“發展”是平臺內容的基本要務。盡管如此，內容安全仍然是內容繁榮發展的前提條件，現階段存在著內容審核技術滯后于內容發展技術的現象[11]，導致平臺在技術方面出現了過度追求發展取向的問題。具體來看，智能算法推薦等平臺內容生產技術滿足了用戶的個性化需求，但同時也導致了內容同質化、碎片化等問題。然而與之相應的內容質量保障技術尚未得到充分開發和應用，無法與過分商業化導向的推薦機制形成制衡，進一步放任了內容質量的滑坡。

另外，當前審核技術尚且無法全面滿足審核工作的現實要求，針對圖片、視頻、音頻等內容審核的相關技術處于弱智能狀態。例如，平臺的視頻內容審核仍然存在著成本較高的問題，當前技術水平下需要對視頻畫面進行抽幀處理，對音頻信息進行文字轉化，大大增加了審核工作量。

目前我國仍然缺乏有效的內容審核技術研發制度與研發激勵機制，導致以平臺和企業為主體的研發主體的創新性不足，技術開發的積極性較弱，從而導致了內容審核技術的發展滯后問題。現有技術標準不夠系統，更加側重技術的可能性與實用性，對于技術與內容更新速度的適應性以及技術與網絡內容形式間的匹配性考慮不足。

三、問題剖析：顯隱要素與價值沖突

目前內容審核工作中的各類問題在一定程度上反映了安全與發展雙重價值的失衡，也是平臺利益與社會效益產生價值沖突的體現。平臺對審核工作的不同環節有著差異化的價值權衡，根據具體工作性質及其與平臺經營之間的關系選擇工作策略，進而形成了現有的內容審核工作局面。沿著這一思路，對審核工作問題原因進行剖析，能夠進一步明確當前審核工作的癥結所在，從而為標準體系的制定提供更為準確的思路。

（一）安全與發展的價值取向探討

習近平總書記強調：“安全和發展是一體之兩翼，驅動之雙輪。”[12]統籌安全和發展兩件大事，實現更高水平的安全和更高質量的發展是社會主義事業的必然發展方向。網絡內容審核工作中同樣需要平衡好安全與發展之間的關系，既塑造有利于網絡內容的安全環境，又用扎實發展成果夯實我國網絡內容空間建設，實現動態平衡。

內容管理制度的深入推進需要秉承“安全與發展辯證統一”的價值觀。在這一過程中，既需要信息安全管理范式的創新和轉型，由傳統的經驗研判轉向數據研判，由被動應對轉向主動預防，培養公眾的數據素養和防范意識，[13]也需要加強對各個主體約束性的轉變，由強制性約束轉為正確引導，由依靠組織化控制轉為依靠個體自治，由封閉式治理轉為互動治理。[14]

目前，我國內容治理正處于由安全向發展轉化的過程之中，在此階段更需要明確內容審核工作的發展方向，對內容審核工作提出更高的發展要求，同時提供更為有力的制度支持。無論是“安全第一”還是“重視發展”，都是基于國家網絡內容治理能力和網絡內容階段性特征進行的策略選擇。由安全向發展的轉化也是二者相互作用，達成平衡的動態過程。需要注意的是，制度重心由安全向發展的演變并不是對安全的摒棄，而是在安全制度體系基本健全、網絡信息安全得到全面保障基礎上的深化改革，以制度創新為引領，為網絡內容審核工作注入發展動力。

（二）隱性要素與平臺的效率考量

隱性要素是指平臺在內容審核工作中的流程、制度、組織方式、素養培育等后臺管理環節，這些工作關乎平臺的審核工作質量以及內容建設的可持續發展，但在短期內對平臺的內容質量影響較為間接，因此常常被平臺視為安全保障范疇。實際工作中，平臺傾向于保證隱性要素的完成性，而對于此類工作的完整性與質量情況未予以充分的重視。這一現象是平臺出于效率考量的結果，同時也是安全與發展價值特征在審核工作中的具體體現。

在內容審核工作中，安全與發展在投入與回報的時效性上存在差異。平臺內容“底線”的嚴守是平臺運營正常開展的基本條件，在這一問題上，平臺對于安全方面的投入見效較快，能夠避免重大內容問題的發生，確保平臺在當前政策框架下平穩運行。因此，平臺在機器審核數據庫建設、重要內容專班小組審核、海外輿情風險監測等安全范疇投入了較大精力。相比之下，審核公開機制的完善、用戶素養培育機制等工作投入見效比較遲緩，且投入與收益之間的關聯性具有較大未知性與復雜性。基于以上考慮，平臺采取了著力保障“底線”工作的內容管理策略，而對于流程、制度、組織方式、素養培育等隱性管理工作，平臺更加期望效率的提高，即在短時間內解決問題，達到投入最小化。

平臺在隱性要素方面向安全價值取向傾斜，導致了內容審核流程、機制以及前置工作的不健全。針對這一問題，審核標準體系建設應該考慮向發展取向的引導轉型。審核標準體系需要給予平臺經營充分的理解與支持，同時幫助平臺明確發展范疇工作的長遠意義和潛在價值，通過出臺相關激勵政策、工作細則、工作規范等，督促平臺加緊全流程審核工作質量的提升。

（三）顯性要素與平臺的利益追逐

顯性要素是指平臺所能呈現的內容及功能形式，以及能夠直接促進平臺內容繁榮的相關技術手段。這些要素直接作用于平臺內容形式、視覺呈現效果、功能多樣性等，與用戶黏度、流量吸引力等商業指標息息相關。“內容先行”是當前網絡平臺發展的基礎邏輯，用戶是平臺利益的根基[15]，因此，這一邏輯不僅要求平臺信息的豐富性，同時追求更具個性和針對性的定制服務，以滿足平臺用戶的多樣化需求。對顯性要素的傾向性體現了平臺對發展的價值取向的傾斜，是平臺利益追逐在實際工作中的表現。

安全與發展對平臺經營的作用不同，對安全問題的投入雖然能夠快速解決矛盾和規避風險，但其作用僅限于維持平臺運行。相比之下，對發展問題的投入能夠創造更大的商業價值。具體而言，平臺內容技術的迅速演進就是發展價值取向的充分體現。對于平臺內容這一顯性要素來說，發展問題的投入效果是立竿見影的，直接影響著用戶體驗與平臺熱度。因此，平臺更樂于在內容生產和發展方面投入更多資源，特別是智能算法等技術要素，直接作用于用戶吸引力和用戶黏度的提升，進而獲得更大的商業效益。這也解釋了內容審核技術發展始終相對遲緩的原因，平臺在技術開發過程中的商業邏輯造就了當前技術發展不均衡的局面，使得內容審核技術僅僅能夠滿足基本審核工作的需要，而在復雜內容識別、圖片視頻審核工作中仍處于弱智能階段。

顯隱要素價值取向的差異表明，平臺在內容建設工作中的策略選擇并非單純對安全或發展中某一方的青睞，而是基于自身經營需求與實際工作性質進行的價值選擇。因此，內容審核標準體系的建設也并非對某一價值取向的單方面強調，而是需要考慮更為細致化的審核工作語境，進而對具體領域存在的問題提供具體化的規約和指導。

四、網絡內容審核標準體系的發展建議

網絡內容審核工作需要平衡好當前工作中安全與發展的關系，明確責任主體、執行方式、制度公開、素養培育、技術標準等各個環節，更為關鍵的是，需要建立一套能夠運轉于政府、網絡信息內容服務平臺、網絡內容消費用戶三個主體之間的標準體系。網絡內容審核的標準體系應涵蓋網絡內容的評價尺度、審核工作的執行方式及流程、審核技術標準、內容風險預防機制的建立標準等，從而為內容審核工作提供系統化的指引，推進內容治理體系的不斷完善。審核標準體系的完善不僅是當下互聯網內容建設的現實需求，更是網絡強國建設社會治理現代化的必然要求。建立系統化、立體化、具體化的內容審核標準體系，能夠提高內容治理效能，平衡當前存在的價值矛盾，推動建立多主體協同治理格局，促進公平健康的網絡空間與生態的形成，為社會治理的現代化提供支持與保障。

（一）建立系統的全流程標準

內容審核標準體系需要健全內容審核工作的各項機制和流程，推進審核工作的完整性、合理性，推進前置預防工作的完善。

第一，需要對平臺責任進行更為具體細致的規約。一方面，內容審核標準需要從更為細化的角度對平臺需要承擔的工作內容進行指導，推進平臺內容審核的有效執行，減少因平臺主體缺位造成的內容審核漏洞。另一方面，內容審核標準應為平臺提供重要的工作執行參照，減少平臺審核工作的不確定性，降低審核工作難度，從而推進平臺審核工作的全面落實。

第二，需要推進審核工作公開制度和意見反饋機制的完善，提高內容審核工作的透明度，密切用戶與平臺之間的溝通。制度公開機制能夠更好地發揮社會監督作用，形成規約和督促平臺內容審核工作標準化、有序化的外部力量。意見反饋機制一方面能夠提高用戶對平臺內容審核工作的參與度，收集多方有益建議，另一方面也能夠深化用戶與平臺的溝通與交流，減少審核工作不透明造成的矛盾與摩擦。同時，平臺不僅需要提升用戶參與的積極性與廣泛性，也要注重參與主體的關聯性[16]，加強與事件相關主體的對話與溝通，提高內容管理工作的針對性。

第三，需要建立用戶素養培育機制和優質內容激勵機制，促進治理和引導工作的前置性，減少負面輿論事件的產生和擴散。用戶素質的提高有利于用戶內容創作行為的規范化，提升平臺內容質量，同時也有助于提高用戶辨別和篩選信息的能力，削弱網絡謠言等不良內容的影響力和傳播力。優質內容激勵機制能夠通過平臺引流、內容評選等多種手段提高用戶內容創作的積極性，引導優質內容的生產和傳播。此外，優質內容激勵機制的實行還需要更為有力的互聯網版權保護政策，保障原創內容的版權歸屬，切實維護創作者權益。

（二）推出具體的可操作標準

內容審核標準體系不僅需要進行價值方向的有力引導，也需要為實際工作提供具體的實踐指導。制定完善和細化的內容審核標準，能夠提高內容審核工作效率，提升內容審核工作質量。面對體量龐大、內容多元的網絡信息，內容細致且具備較強指導價值的審核標準能夠為審核工作的執行者提供多語境適用的行動參考，減少不確定性造成的審核工作障礙。另外，審核標準制定工作相關的案例研究和分析也有助于制定包括網絡輿情事件在內的各類行動預案，推進內容治理主體對網絡內容規律的把握和認識，提高相關工作的執行效率。

從制度設計方面看，內容審核需要建立具體化的價值評價體系。具體化的操作標準能夠幫助平臺進行準確的尺度把握，不僅為平臺明確指出內容審核的“底線”“紅線”，并且能為模糊性、爭議性內容的處理提供細致的判別標準，為健康、優質內容提供價值引導的方向和方法。與此同時，平臺能夠基于系統化的審核標準和治理理論制訂各類行動預案，為審核工作提供實踐指導和參考，縮短突發事件的處理周期，提高平臺的風險感知能力和應對能力。細致且可操作的內容審核標準能夠減少內容審核對人工成本的需求，推動審核工作從主要依靠經驗判斷向主要依靠規則尺度轉變，推進審核工作的標準化和規范化。

從實施效果方面看，內容審核標準的細化能夠推進平臺治理手段和治理尺度的標準化，進而減少相應的次生輿論問題，減輕平臺內容審核工作的負擔。審核標準制定需要考慮網絡內容治理的總體目標，也需要兼顧當前階段網絡內容特征以及用戶需求，建立適應目前網絡內容發展規律的內容審核體系。這一做法有助于平臺內容審核工作的合理決策和準確執行，避免管理范圍與用戶認知之間的差異造成的誤解和質疑，從而減少內容管理引發的用戶情緒化問題，消除平臺審核工作的相關顧慮，提升平臺對內容審核工作的積極性和執行力。

（三）構建立體的多維度標準

內容審核標準體系需要從技術和內容兩個方面構建更為立體化的評判標準。當前我國內容治理政策以基礎法律為核心政策，呈現“虹吸效應”[17]，與各類規定細則相輔相成，共同作用于內容治理工作。從技術角度看，不僅要鞏固基礎內容審核技術的發展，更要推進審核手段的全面智能化，不僅要完善針對負面內容管理的技術標準，更要建立優質內容推薦和生產的相關技術規范。從內容角度來看，審核標準需要建立多層次的價值評價體系，既要進行全方位的頂層設計，又要建立適應具體情境的可操作標準；既要對負面內容和模糊性內容進行詳細規約，又要對優質內容評判標準進行更為深入的指引。

組織機構的數字治理能力是其進行策略設計、提供技術保障以及完善隊伍建設的基礎[18]，全面多元的內容審核技術標準能夠為平臺審核技術提供明確方向，促進平臺審核技術的全面均衡發展，提升平臺的綜合數字治理能力。具體來看，目前的機器審核工作仍然存在誤判和漏判現象，可能造成商業損失、影響新聞價值、降低用戶信任度[19]，多元技術標準體系能夠對機器審核技術提出更為精準的識別要求，強化復雜內容辨別技術的研發和優化，推動優質內容推薦機制的智能化和精準化，建立與網絡內容結構與形式相匹配的機器審核技術體系，促進文字、圖片、視頻識別技術的全面發展。技術激勵機制能夠在一定程度上平衡內容技術與審核技術之間的發展差距，鼓勵平臺深入拓展內容審核技術發展的深度與廣度，突破當前機器審核的技術瓶頸，實現審核工作的智能化發展。

多維度內容標準的建立對于平臺的良性運轉與內容建設具有重要的調節和推動作用。平臺是智能化時代互聯網內容生態建設的關鍵，不斷造就著內容生產、分發、消費的一體化局面，良好生態的形成需要多方利益的平衡與能量的相互供給。[20]內容標準體系需要兼顧用戶內容創作的引導與發展、平臺管理方式的多樣化與標準化、平臺審核制度與流程的合理性等多個方面，鼓舞和激勵網絡內容創作，增強網絡內容的多樣性與創新性，指引網絡內容的發展方向，推動網絡內容建設融入社會文化發展，營造生態良好的網絡空間。

[本文為國家社會科學基金重大項目“中國特色網絡內容治理體系及監管模式研究”（18ZDA317）的階段性成果之一]

參考文獻：

[1]何明升.網絡內容治理：基于負面清單的信息質量監管[J].新視野，2018（4）：108-114.

[2]張杰，毛藝融.平臺型媒體內容審核：動因、現狀與突破[J].出版科學，2021，29（6）：76-83.

[3]習近平.在網絡安全和信息化工作座談會上的講話[EB/OL].http：//www.gov.cn/xinwen/2016-04/25/content_5067705.htm，2016-04-25/2022-07-17.

[4]田麗.互聯網內容治理新趨勢[J].新聞愛好者，2018（7）：9-11.

[5]2021年全國網絡執法取得顯著成效[EB/OL].http：//www.cac.gov.cn/2022-01/27/c_1644887128880847.htm，2022-01-27/2022-07-17.

[6]王建新.綜合治理：網絡內容治理體系的現代化[J].電子政務，2021（9）：13-22.

[7]任慧，曹珊，李巍霞.媒介內容產業生產趨勢、困境與治理機制研究：基于新媒體傳播生態的思考[J].現代傳播（中國傳媒大學學報），2014（12）：57-60.

[8]周毅.總體國家安全觀視域的網絡信息內容治理：進展、內涵與研究邏輯[J].情報理論與實踐，2020（8）：44-50.

[9]謝新洲，宋琢.用戶視角下的平臺責任與政府控制：一個有調節的中介模型[J].新聞與寫作，2021（12）：13-23.

[10]申玲玲，向爽.價值共創視角下自媒體平臺內容創作者扶持政策研究[J].出版科學，2021（5）：80-91.

[11]謝新洲，朱垚穎.網絡內容治理發展態勢與應對策略研究[J].新聞與寫作，2020（4）：76-82.

[12]統籌好發展和安全兩件大事[EB/OL].http：//www.qstheory.cn/qshyjx/2021-04/15/c_1127333059.htm，2022-03/2022-04-15.

[13]王世偉.論大數據時代信息安全的新特點與新要求[J].圖書情報工作，2016（6）：5-14.

[14]張東.中國互聯網信息治理模式研究[D].北京：中國人民大學，2010.

[15]謝新洲，宋琢.用戶視角下的平臺責任與政府控制：一個有調節的中介模型[J].新聞與寫作，2021（12）：13-23.

[16]謝新洲，杜燕.政治與經濟：網絡內容治理的價值矛盾[J].新聞與寫作，2020（9）：69-77.

[17]鄧衛華，左靜.“十八大”以來互聯網內容治理政策變遷：基于政策文獻計量的研究[J].信息資源管理學報，2021（3）：88-98.

[18]張杰，毛藝融.平臺型媒體內容審核：動因、現狀與突破[J].出版科學，2021，29（6）：76-83.

[19]祝智庭，陳丹.數字治理：智慧學習新素養[J].電化教育研究，2014（9）：9-17.

[20]彭蘭.智能時代的新內容革命[J].國際新聞界，2018（6）：88-109.

[朱垚穎為清華大學人文學院寫作與溝通教學中心講師；謝新洲（通訊作者）為北京大學新媒體研究院院長、教授、博士生導師；張靜怡為北京大學新媒體研究院博士生]

編校：張紅玲