互聯網時代內容風控業務研究

夏云

[摘 要]隨著互聯網時代的到來，視頻、音頻、語音等互聯網產品內容不斷涌現。在人口紅利消失的大背景下，內容成為互聯網行業新的競爭點，內容風控也面臨國家更多政策要求。在龐大的內容資源下，快速高效地識別并過濾涉政、違禁、暴恐、色情、侵權、欺詐等違規信息，成為所有互聯網內容平臺關注焦點之一。文章探討了互聯網時代內容風控的背景、主流模式、市場現狀，并在對未來的內容風控發展方向建議基礎上，對相關企業互聯網時代內容風控業務提出了相應建議，以供參考。

[關鍵詞]內容風控;互聯網;內容審核

中圖分類號： F325.2? ? ? ? ? ?文獻標識碼：A? ? ? ? ? ?文章編號：1674-1722（2021）21-0001-03

在人口紅利消失的大背景下，內容成為互聯網行業新的競爭點。與之同時，監管趨嚴，對內容的嚴謹審核關乎到平臺聲譽和存亡。龐大的內容資源下，快速高效地識別并過濾色情、暴恐、涉政等違規信息，成為所有互聯網內容平臺關注焦點之一。

一、互聯網時代內容風控業務的研究背景

（一）互聯網產品的內容審核面臨更大難度

隨著5G時代和自媒體時代的到來，圖片、語音、音頻、視頻等互聯網產品內容不斷涌現，其中以UGC，即用戶生產內容最具代表性，內容多元，形式豐富，且呈現出爆發式增長的趨勢。一大批新興的社交平臺脫穎而出，用戶數量及活躍度也隨之激增。這些數量龐大的網絡用戶，道德水平和專業水平參差不齊。在這樣的情況下，如果對內容審核不嚴格而使不良信息隨意傳播，將會產生錯誤輿論導向，影響未成年人的健康成長和社會安定，給國家安全、公眾利益造成極大困擾。UGC的內容量呈指數級增長且形式多樣，傳播速度快，影響范圍廣。在全民參與的同時，也會引發版權侵權問題，版權所有權人的合法權益受到極大損害，網絡平臺應當承擔更多責任[1]。

對監管部門來說，執法部門在技術監管方面審查難、取證難，復雜的網絡環境、密集的違規內容、稀缺的專業技術人員，使網絡監管面臨很大困難。伴隨著億級數量的用戶活躍度，平臺面臨的是成倍增長的內容審核壓力，部分平臺審核標準和尺度把握不夠準確，“自審自校”的機制也無法做到嚴謹、客觀、公正。如何確保內容合法合規，成為行業有序發展和監管部門工作的重點。這一切，都對內容風控提出了新的挑戰[2]。

（二）內容風控面臨國家更多政策要求

習近平總書記在2018年全國網絡安全和信息化工作會議上強調，要加強網上正面宣傳，旗幟鮮明地堅持正確政治方向、輿論導向、價值取向。要壓實互聯網企業的主體責任，決不能讓互聯網成為傳播有害信息、造謠生事的平臺。

2019年12月20日，國家互聯網信息辦公室發布了《網絡信息內容生態治理規定》。根據規定，網絡信息內容服務使用者和生產者、平臺不得開展網絡暴力、人肉搜索、深度偽造、流量造假、操縱賬號等違法活動。

2020年6月30日，習近平總書記主持召開中央全面深化改革委員會第十四次會議，通過了《關于加快推進媒體深度融合發展的指導意見》（以下簡稱《意見》）。《意見》指出，堅持正能量是總要求、管得住是硬道理、用得好是真本事，堅持正確方向，堅持一體發展，堅持移動優先，堅持科學布局，堅持改革創新，推動傳統媒體和新興媒體在體制機制、政策措施、流程管理、人才技術等方面加快融合步伐，盡快建成一批具有強大影響力和競爭力的新型主流媒體，逐步構建網上網下一體、內宣外宣聯動的主流輿論格局，建立以內容建設為根本、先進技術為支撐、創新管理為保障的全媒體傳播體系。《意見》指出，要推進內容生產供給側結構性改革，更加注重網絡內容建設，始終保持內容定力，專注內容質量，擴大優質內容產能，創新內容表現形式，提升內容傳播效果[3]。

2021年7月19日，人民網股份有限公司發布了《人民網“十四五”發展規劃》，提出了堅持內容主業、拓展新型業務內容、成為內容科技領軍企業、穩居國有文化傳媒上市公司第一方陣等目標。其中尤為引人注目的是，人民網明確提出，進一步拓展內容運營、內容風控、內容聚發等新型內容業務，在內容產業新的社會化分工的關鍵“生態位”發揮引領、連接、標準制定等關鍵作用。2021年2月，文化和旅游部等七部委聯合發布《關于加強網絡直播規范管理工作的指導意見》，提出要壓實平臺主體責任，建立健全內容審核、技術安全等內部管理制度;加強未成年人保護，屏蔽不利于未成年人健康成長的網絡直播內容;嚴厲查處侵權盜版等違法犯罪行為。其中關于文化和旅游部門的工作內容中提到，要加強網絡表演行業管理和執法工作，指導相關行業組織加強網絡表演行業自律[4]。

二、內容風控市場現狀

（一）內容風控的核心是內容審核

1.內容審核是基于圖像、文本、音視頻的檢測技術

從技術應用的角度看，內容審核（Content Moderation）是基于圖像、文本、音視頻的檢測技術，可自動檢測涉政、涉暴、涉黃、敏感人物、圖文違規等內容。許多內容風控產品主打的就是對用戶上傳的圖片、文字、音視頻進行內容審核，以滿足上傳要求，幫助客戶降低業務違規風險。隨著互聯網的飛速發展和信息量猛增，大量色情、暴力、政治敏感等不良信息夾雜其中，若不做好內容審核，不良內容會讓用戶產生反感，從而降低產品使用頻率，最終遠離產品。

2.內容審核不到位會引起監管風險和商業損失

內容審核不到位會引起監管風險和商業損失。監管風險主要是涉政、違禁、暴恐、色情、侵權五大類內容，將直接導致平臺面臨約談、整頓、罰款乃至關停。其他威脅相對低的類目包括違規廣告、低俗內容、不文明以及垃圾信息，也會對平臺造成負面影響。商業損失是指大量廣告導流、欺詐廣告會導致用戶體驗變差，長此以往，用戶流失、平臺受損。導流廣告和欺詐廣告往往由黑產所為。隨著互聯網行業發展，網絡欺詐無處不在，黑色產業鏈已發展為成熟體系。在黑產面前，損失不言而喻。

（二）國內提供第三方內容風控類型

目前國內提供第三方內容風控企業共計20余家，可大致分為三種類型：技術導向的云服務企業、有內容基因的國有傳媒企業、新興的創業公司。

1.技術導向的云服務企業

此類企業包括阿里云、騰訊云、百度云、網易云等。這些企業云化產品線龐大，提供服務齊全。例如，阿里云提供包括云計算基礎、安全、大數據、人工智能、物聯網等多種產品和服務。內容安全審核只是安全產品線中“業務安全”下的一個分支業務，安全產品線還包括基礎安全、數據安全、身份管理等20余種服務。百度AI開放平臺提供包括語音、圖像技術、人臉識別、視頻技術、AR/VR等多種產品。

根據這幾大企業公布的數據，他們的審核準確率通常都在90%以上。在定價上，這些公司基本都是按照調用量和調用內容進行分階梯計價，部分推出優惠政策。如百度云提供給用戶每日2000張的免費審核額度，阿里云推出包年基礎包和按量加油包，騰訊云則直接按照包年/包月兩種套餐進行計費。

2.有內容基因的國有傳媒企業

此類企業以人民網為代表，平臺有內容審核需求，積累經驗后再向第三方提供服務，輸出經驗。在內容風控業務方面，公司2012年就成立專門團隊，積累有效行業標準，同時搭建自主知識產權技術平臺。接下來，公司希望一方面針對大型央企、國企、互聯網公司建立長期合作模式，另一方面針對中小企業搭建云審核平臺，通過智能化和標準化服務，幫助中小企業確保內容安全并降低內容審核成本。

除此之外，作為一家權威國有媒體，人民網希望在內容風控領域把內容風控定義為一個全新職業，形成職業分級與分類。同時形成“風控大腦”，提供具有開放技術能力的后臺，通過數據積累使得公司不僅能提供內容風控服務，還能對外輸出一套業務標準。

可以看到，相較于互聯網企業從技術角度切入內容風控領域，人民網作為有內容基因的大型國有媒體，更希望從源頭定義行業，把自身對政策理解能力、對內容把控能力作為一項標準對外輸出。

3.新興的創業公司

這些創業公司大多是在云服務或安全領域進行創業，內容風控與審核是云服務的一個細分產品。

例如，融云公司主要做互聯網通信云、七牛云主要做視頻云服務、圖普科技主要是圖像識別云服務;數美科技和同盾科技則主要在互聯網安全領域，提供反欺詐和信貸風控。值得一提的是，老牌公司科大訊飛在訊飛開放平臺中也提供暴恐、敏感信息等內容審核服務。

云凈網絡主要在反垃圾和安全審核兩個領域提供服務，包含文本、圖片、視頻和音頻的檢測。根據“云凈網安全”公眾號信息，云凈網完成了在六大城市人工審核團隊建設，目前人工審核團隊儲備已經超過1000人規模。較為龐大的人工審核團隊搭建使得云凈網和其他內容風控公司形成差異化競爭。

（三）內容風控模式

內容風控包括自建內容風控團隊和第三方審核兩類模式。其中，自建模式一般團隊龐大，成本高昂，但大型互聯網公司，尤其是擁有UGC產品的公司通常都有龐大的自建內容審核團隊，如今日頭條、快手、微博等，他們的內容審核相關人員一般都有上千人。對大型互聯網企業來說，自建內容審核團隊雖然成本較高但便于管理且能保證內容審核的高效。今日頭條媒體合作總監表示，今日頭條2.3萬名員工中，有1萬名內容審核員工，具體到每一幀畫面、各種評論內容等，都進行7×24小時監控;而對中小型創業企業來說，技術資金有限，無法快速搭建屬于自己的內容審核團隊，因此應運而生第三方內容審核機構。第三方內容風控是指由第三方專業機構利用技術和人工審核團隊，對新聞資訊、直播、短視頻等進行色情、暴恐、涉政等違規內容識別，過濾并刪除含有違規信息的圖文及音視頻，以保證平臺內容合法合規和綠色健康，內容平臺方根據審核內容及數量支付給第三方機構一定報酬的業務模式。

三、互聯網時代內容風控的發展方向

從風控需求來看，互聯網時代內容風控應做到橫縱兩方面的要求。橫向來講，內容形式上應做到全域覆蓋。內容主要有五類：文本、圖片、音頻、視頻、網頁。只有在內容形式上覆蓋足夠寬廣，才不會造成誤殺漏殺。縱向來講，垂直場景上應做到深度應用。風控是細化到場景的，在對場景的理解和場景化建模方面的能力要求很高。以圖片涉政場景為例，有正常照片、雕塑、漫畫，每一個場景都需要單獨的模型。還有AI識別不良行為，比如抽煙、喝酒等，這類人工智能技術非常考驗對場景的理解與技術應用。

從市場發展角度來看，目前無論是自建審核團隊還是第三方內容審核，基本都是按照“技術+人工”兩個步驟進行。未來內容風控行業或將形成技術型公司和內容型公司兩大陣營：技術型公司以擁有AI技術的大互聯網公司為主，他們在自然語言處理、圖像識別、人工智能等技術上具有明顯優勢，數據量龐大可實現不斷的機器學習。對這些公司來說，內容審核只是其業務的一個部分，其他還包括對網絡垃圾信息過濾、互聯網安全等全方位的企業級服務。內容型公司以人民網為代表，目前他們在技術方面相對巨頭互聯網公司不占優勢，但是在內容敏感性、把關能力、判斷能力和對審核內容不斷更新迭代方面更具有優勢。

四、互聯網時代內容風控企業發展建議

盡管目前互聯網給相關企業帶來了較好的發展效益，但為提升企業環境發展適應性，提升企業發展合規性，企業應做好內容風控措施：第一，全面體檢，針對布局。企業要針對自身互聯網發展事件，邀請或通過自身內容安全專家，全方位剖析自身內容安全構架，并測試、評估該構架是否具擁有一定安全性，并依舊缺漏項，以國家標準為中心，以企業實際資源為基礎，逐一糾正、完善或重構。同時，為保障企業內容合規性、依法性，企業還應搭建相關跟蹤體系，跟蹤國家相關部門機構，及時解讀政府相關文件，并依據文件內容修正自身內容風控體系，以保障自身內容安全。第二，內外兼顧，循環檢測。相關企業應立足熱點事件、敏感內容、實時內容等，以內容監管規范為中心，把控審查內容支出。同時，搭建閉環內外巡查內容風控隊伍，一方面通過現代智能設備，精準定位企業內外內容控制風險，并輔助其提出針對性應對措施。另一方面以內容風險控制隊伍為中心，輻射安全管理制度，提升企業其他相關部門合作效果，以保障企業互聯網內容合規發展。

五、結語

綜上，在現行互聯網環境下，企業網絡內容合規性擁有非常重要的作用，企業應對其予以一定重視。其中內容風控作為一種重要的管理措施，相關企業要以自身資源為中心，以政府政策為導向，編制內容風控管理體系，以保障自身內容合規性。據此，文章全面分析了目前互聯網時代內容風控業務相關內容，具有一定的參考價值。

參考文獻：

[1]智能內容風控SaaS平臺「博特智能」完成近千萬元天使輪融資，投資方為武漢東湖眾合天使基金[EB/OL].[2020-03-09].

[2]辛瑞佳.以科技為驅動，打造智能化的內容風控平臺[J].傳媒，2019（19）：22+24.

[3]簡承淵，馮思潮，何嬌.全媒體時代內容風控的困境與新路徑[J].青年記者，2019（28）：36-37.

[4]朱浩齊.構建全鏈路內容風控體系，解決內容安全難題[J].中國信息安全，2020（02）：73-74.