以科技為驅(qū)動，打造智能化的內(nèi)容風(fēng)控平臺

文/辛瑞佳

作者系人民網(wǎng)信息技術(shù)有限公司總經(jīng)理

當(dāng)然，依靠大量人審模式會大大降低內(nèi)容風(fēng)險，但同時會大幅提升企業(yè)對人工審核的投入成本。而A I 技術(shù)、區(qū)塊鏈技術(shù)的發(fā)展和運用，會極大提升內(nèi)容風(fēng)險管控的能力和水平。在科技的浪潮下，技術(shù)和創(chuàng)新是提高審核效率最快的手段，人民網(wǎng)未來也將在科技上發(fā)力，研發(fā)基于人工智能的“風(fēng)控大腦”，并向全行業(yè)開放使用。

近年來，隨著新媒體的發(fā)展，傳統(tǒng)的傳播方式已被顛覆，信息傳播門檻大幅降低。這在體現(xiàn)社會進步、彰顯個性的同時，也為互聯(lián)網(wǎng)內(nèi)容安全埋下了隱患，如謠言、侵權(quán)、低俗暴力等不良信息泛濫，涉事平臺被約談、整改、產(chǎn)品下架的消息不絕于耳。在此背景下，人民網(wǎng)率先推出“內(nèi)容風(fēng)控業(yè)務(wù)”，目的是為維護互聯(lián)網(wǎng)內(nèi)容安全、凈化網(wǎng)絡(luò)空間趟出一條新路。該業(yè)務(wù)越來越受到社會重視，目前，人民網(wǎng)已承接了多家國內(nèi)外著名軟硬件廠商的內(nèi)容審核業(yè)務(wù)。

何為內(nèi)容風(fēng)控？

今年7月25日，人民網(wǎng)發(fā)布《深度融合發(fā)展三年規(guī)劃（綱要）》，致力打造“內(nèi)容科技”領(lǐng)軍企業(yè)，以人民日報全媒體矩陣為基礎(chǔ)，全面匯聚主流媒體、商業(yè)平臺和社會創(chuàng)作力量，建設(shè)平臺型傳播高地。《深度融合發(fā)展三年規(guī)劃(綱要)》指出，未來人民網(wǎng)業(yè)務(wù)將瞄準(zhǔn)智能化方向，主要圍繞著“一二三四”展開：“一”是一條主軸，即堅持內(nèi)容一個主業(yè)；“二”是以技術(shù)和資本雙輪驅(qū)動，孵化產(chǎn)業(yè)、積累數(shù)據(jù)，形成兩翼；“三”是打造人民視頻、黨建云、領(lǐng)導(dǎo)留言板三大移動端產(chǎn)品；“四”是建設(shè)內(nèi)容原創(chuàng)、內(nèi)容運營、內(nèi)容風(fēng)控和內(nèi)容聚發(fā)四個層次的內(nèi)容業(yè)務(wù)體系。

可以看到，內(nèi)容風(fēng)控業(yè)務(wù)是人民網(wǎng)內(nèi)容業(yè)務(wù)的重要組成部分。而作為新興業(yè)務(wù)形態(tài)，這一業(yè)務(wù)受到市場的巨大關(guān)注。那么，內(nèi)容風(fēng)控到底是一件什么樣的事情？內(nèi)容風(fēng)控是介于內(nèi)容生產(chǎn)和傳播之間的“閘口”角色，起到承上啟下的作用，既要保證內(nèi)容能夠傳播，又要保證在傳播的過程中不會出現(xiàn)問題。最終的目標(biāo)是在安全的情況下，最大程度地去傳遞優(yōu)質(zhì)內(nèi)容。

內(nèi)容風(fēng)控業(yè)務(wù)的意義

內(nèi)容風(fēng)控業(yè)務(wù)是一項具有很高的社會價值和政治意義的工作。互聯(lián)網(wǎng)是東西方輿論交匯的重要載體，要牢牢掌握話語權(quán)，防止不良思想滲透。從這個角度來看，風(fēng)控工作契合了互聯(lián)網(wǎng)發(fā)展和安全的命脈。作為網(wǎng)上的《人民日報》，人民網(wǎng)有義務(wù)、有能力發(fā)揮自身優(yōu)勢，發(fā)揮黨報黨網(wǎng)在內(nèi)容生產(chǎn)、質(zhì)量管控等方面的政策水平、豐富經(jīng)驗，幫助各種類型的內(nèi)容平臺做好內(nèi)容風(fēng)控工作，去粕取精，去偽存真，讓廣大的網(wǎng)友獲得清朗的網(wǎng)絡(luò)空間，尤其讓未成年人擁有一個綠色、安全的網(wǎng)絡(luò)環(huán)境，幫助他們樹立正確的人生觀、價值觀、世界觀。

做好內(nèi)容風(fēng)控工作是人民網(wǎng)作為上市公司履行社會責(zé)任的體現(xiàn)。人民網(wǎng)輿論與公共政策研究中心主任祝華新此前曾表示，當(dāng)前，主管部門針對互聯(lián)網(wǎng)內(nèi)容的各種規(guī)章制度陸續(xù)出臺，為內(nèi)容市場的發(fā)展標(biāo)明了邊界、奠定了基礎(chǔ)。在此背景下，互聯(lián)網(wǎng)企業(yè)需要把握政策的邊界，絕不能觸碰法律和行政監(jiān)管的底線；新媒體人要了解當(dāng)下民意的敏感點，避免因為民族、宗教、地域、愛國情感以及環(huán)保、女權(quán)等諸多敏感因素招惹公眾抵觸和輿論反彈。目前許多互聯(lián)網(wǎng)內(nèi)容平臺在政策理 解、把控能力、團隊管理能力等方面存在不足，人民網(wǎng)可以作為“橋梁”，“幫新媒體讀政策，幫新媒體人讀懂世道人心”。人民網(wǎng)將在有效輸出主流媒體管理能力的同時，努力做到這項新型業(yè)務(wù)健康發(fā)展。

努力打造智能化風(fēng)控平臺

5G時代已經(jīng)到來，人工智能審核技術(shù)可以高效率進行審核工作，為什么人民網(wǎng)還要做人工審核？確實，目前人工智能技術(shù)近年來發(fā)展迅速，圖像識別、語音識別等審核功能已被許多互聯(lián)網(wǎng)企業(yè)運用。但從整體來看，人工智能現(xiàn)階段仍處于“弱人工智能”狀態(tài)，早期的學(xué)習(xí)還無法滿足爆炸式增長的互聯(lián)網(wǎng)內(nèi)容審核需求。尤其是涉及時政、財經(jīng)、文史等深度內(nèi)容，更需要專業(yè)人士的深度介入，才能確保不出問題。同時，每一種技術(shù)架構(gòu)、每一行代碼、每一個界面，都代表著選擇，都意味著判斷，都承載著價值。短視頻平臺上，“精選”的內(nèi)容能獲得更多關(guān)注，然而，什么樣的視頻可以被“精選”，同樣隱含著企業(yè)、產(chǎn)品開發(fā)者的價值選擇和利益訴求。可以說，技術(shù)也是人的價值表達(dá)。因此，人工干預(yù)是目前無法替代的一種審核模式。

當(dāng)然，依靠大量人審模式會大大降低內(nèi)容風(fēng)險，但同時會大幅提升企業(yè)對人工審核的投入成本。而AI技術(shù)、區(qū)塊鏈技術(shù)的發(fā)展和運用，會極大提升內(nèi)容風(fēng)險管控的能力和水平。在科技的浪潮下，技術(shù)和創(chuàng)新是提高審核效率最快的手段，人民網(wǎng)未來也將在科技上發(fā)力，研發(fā)基于人工智能的“風(fēng)控大腦”，并向全行業(yè)開放使用。人民網(wǎng)《深度融合發(fā)展三年規(guī)劃（綱要）》提出，參股人民中科(山東)智能技術(shù)有限公司，將中國科學(xué)院自動化研究所的人工智能技術(shù)與人民網(wǎng)的內(nèi)容風(fēng)控能力緊密結(jié)合，打造智能設(shè)備、系統(tǒng)平臺、核心技術(shù)三位一體的產(chǎn)品體系，重點為互聯(lián)網(wǎng)空間上的內(nèi)容安全管理及信息安全管理提供技術(shù)服務(wù)，成為未來三年人民網(wǎng)人工智能技術(shù)引擎。

要特別提出的是，智能化內(nèi)容風(fēng)控平臺的原則是各平臺對于自己內(nèi)容的調(diào)性標(biāo)準(zhǔn)和最終責(zé)任是不變的，同時，將有利于行業(yè)主管部門信息傳達(dá)和貫徹落實，有利于整個行業(yè)的內(nèi)容風(fēng)險控制水平提高和規(guī)范安全發(fā)展，有利于各平臺降低內(nèi)容審核的成本，豐富內(nèi)容供給。

互聯(lián)網(wǎng)內(nèi)容風(fēng)控不是一家企業(yè)的獨奏，而是多領(lǐng)域企業(yè)的合唱。作為以內(nèi)容生產(chǎn)為主營業(yè)務(wù)的媒體，人民網(wǎng)愿意與各企業(yè)開展合作，圍繞平臺建設(shè)、標(biāo)準(zhǔn)制定、技術(shù)研發(fā)等多方面共同探索，為凈化網(wǎng)絡(luò)環(huán)境貢獻力量。