內容審核：一個正在快速膨脹的新職業

人工智能、大數據會幫助互聯網公司過濾掉一些違規內容，但大部分內容審核工作依然需要依靠人海戰術。

人民網稱，內容風控行業是一個新興的領域，他們希望在未來把內容風控定義為一個新的職業。

南方周末記者 王偉凱

海量審核業務

中國互聯網行業的內容審核員被廣泛關注，源于2018年4月快手的一次突然招聘。

當時，央視點名快手，稱在快手上有大量“未成年媽媽”的短視頻，為了吸引眼球，這些視頻曬出了媽媽們的年齡、孕期、懷孕狀態以及一些露骨的照片視頻。

一直貼著低俗、露骨標簽的快手，在那時遭遇了前所未有的輿論危機，他們的APP甚至被應用商店下架。

隨即，快手宣布，為了加強審核能力與內容上傳量的匹配，快手將2000人的審核團隊擴充為5000人。

字節跳動也遭遇了同樣的危機。2018年4月，他們旗下的“內涵段子”因為內容低俗、導向不正等問題而被永久關閉。字節跳動創始人張一鳴公開道歉，并且承諾將新招聘4000名內容審核員，以加強對內容的審核。

一位今日頭條內部人士向南方周末記者表示，無論是今日頭條、快手還是其他內容、視頻、直播平臺，內容審核的工作已經變得至關重要，都投入了巨大的人力、物力。

一位快手內部人士告訴南方周末記者，快手目前有八千員工。這意味著內容審核員的比例就超過一半。

南方周末記者聯系快手公關希望做采訪，但是被婉拒，字節跳動也拒絕了南方周末記者的采訪。

2019年1月9日，中國網絡視聽節目服務協會發布《網絡短視頻平臺管理規范》和《網絡短視頻內容審核標準細則》，短視頻上的彈幕、評論也要進行審核。

內容審核的需求激增，源于中國互聯網內容平臺發生的巨大變化。從早期的門戶網站，到后來的貼吧、微博、UGC平臺，再到今天的短視頻、直播，帶來了海量的內容供應。

僅字節跳動一家，就有今日頭條、懂車帝、抖音、火山小視頻、西瓜視頻、好好學習、多閃、皮皮蝦、番茄小說、半次元等多個需要大量內容審核員的平臺。

同時，招聘網站信息顯示，一些招聘、社交、房屋中介等公司，也需要大量的內容審核員。

暨南大學新聞與傳播學院教授彭偉步向南方周末記者分析，海量信息的出現、監管力度的持續加深，再加上沒有一個完善的審核制度和相關法律，內容平臺有時無法把握底線，這些都在無形中增加了平臺方的成本。

已經有一些第三方公司開始提供輔助內容審核的產品和服務，如像優圖、網易易盾、圖普科技、阿里綠網等多個產品，都可以輔助平臺進行機器審核。優酷、荔枝FM、映客直播、美拍等多個平臺都使用這些第三方服務。

也有一些公司在探索將內容審核服務進行產業化。2019年4月4日，人民網（603000.SH）發布公告稱，擬與人民日報社簽署《地方頻道內容審讀協議》，約定審讀費按照每家地方頻道人民幣50萬/年計算，2018年度總金額為人民幣1600萬元。

在2019年1月31日發布的2018年業績公告中，人民網也表示，業績增長的一個主要原因是第三方內容審核業務呈現增長趨勢，收入同比增長了166%。

根據人民網的公告，他們將內容審核業務稱為內容風控業務，該業務是人民網四大業務之一，并且是重點發力的項目。人民網稱，內容風控行業是一個新興的領域，他們希望在未來把內容風控定義為一個新的職業。

一點資訊濟南運營中心高級經理白娜也向南方周末記者介紹，他們的團隊目前也在承接其他公司的內容審核、生態流量方面的工作。

人海戰術

也許人工智能、大數據會幫助互聯網公司過濾掉一些違規內容，但大部分內容審核工作依然需要依靠人海戰術。

“現在還沒有辦法完全取代人工。”白娜向南方周末記者直言，“舉個例子，機器上設置一些關鍵詞、特殊數字，但是如果在不同的新聞中出現了這些詞怎么辦？總不能全部過濾掉吧。”

與此同時，各大平臺公司的審核標準也各有不同，沒有統一的標準。標準的高低，在一定程度上也塑造了平臺公司的形象。

在一些傳統媒體的網站、APP上，很少能夠看到低俗、露骨的內容、評論，而在抖音、快手、今日頭條等流量為王的平臺上，則會出現此類信息。

白娜向南方周末記者介紹，一點資訊在內容審核上把控比較嚴格，通過“人機結合”的模式，既實現海量信息的高效分發，又克服機器分發的盲目性。2018年，他們內部曾經出了一本內容審核的白皮書，并且到國家網信辦備案，希望能為內容審核行業的標準出一份力。

多位字節跳動的審核員則向南方周末記者介紹，在他們內部，不同的小組也會有不同的審核標準，不過由于簽署了保密協議，他們不能提供標準的更多細節。

“每隔幾天就會進行一次培訓，強調內容審核的紅線。”一位字節跳動的內容審核員告訴南方周末記者。

據字節跳動的陳鵬介紹，他們公司對內容審核員有一套考核制度，比如，如果審核員將本應該卡掉的信息通過了，或者將本應該通過的信息卡住了，這種錯誤率將會成為對審核員考核的一個重要標準。

在審核程序上，各公司也有不同之處，一點資訊上的內容一般要經過三道審核：第一道是機器，根據關鍵詞過濾掉一部分；第二道則是人工審核，兩個審核員對一條內容進行審核，兩個人都通過了，則這條內容得以上線，有一個審核員覺得有問題，則進入到三審；三審有一個內容審核員，最終決定這條內容是否上線。

抖音、今日頭條則分為眾多小組，比如國內、國外、政治、娛樂、視頻、文字等多個小組，也會根據業務線進行分配，比如問答組、微頭條組等，每個小組負責不同的內容審核。

“一天要看一千篇文章，工作時間長了就會覺得，這并不是一件多難的事情，現在給我一篇兩千字的文章，幾十秒鐘我就能看完，還能找出來問題。”劉蓉向南方周末記者介紹，長時間、高強度的內容審核工作已經把她鍛煉成“火眼金睛”。

和很多生產線上的工人一樣，內容審核員也是一個流動性非常強的工種。在一些招聘網站上，內容審核員的崗位幾乎每天都在更新，在一些貼吧、QQ群里，也都有相關招聘信息。

一位在2018年5月應聘字節跳動內容審核員的人士向南方周末記者介紹，那個時候他們招聘規模大，招得也急，由于很多人都不愿意長期干下去，應聘者如果在面試時說上一句“愿意長期干下去”，面試通過率就會大大提高。

白娜向南方周末記者介紹，為了留住這些審核員，一點資訊采用的是公司直聘的模式，讓審核員有更強的歸屬感。同時，一點資訊也會給內容審核員提供一個比較完整的內部晉升機制和轉崗機制。

2018年9月，劉蓉就在一點資訊內部轉崗，成為了一名本地新聞的運營人員，負責給新聞報道起標題、寫摘要、推送等。

字節跳動在不同城市采用的招聘模式不同。比如在天津，以直聘為主，公司也提供內部轉崗。一位在2016年加入今日頭條天津分公司的人就向南方周末記者介紹，他們做了一年多的內容審核員之后，就調成了運營崗。

不過，在濟南，字節跳動則主要以第三方公司代理招聘為主。承擔他們招聘工作的公司是武漢人瑞人力資源服務有限公司，內容審核員與這家公司簽署勞務合同。目前，字節跳動也已經開始自己招聘，他們在濟南專門成立了濟南超準信息技術有限公司，不少新的內容審核員就直接由這家公司招聘進來。