直播間里的“拆彈部隊”

孫靜

“找茬”

唐卓用手指夾著一根“芙蓉王”，朝朋友的手機屏幕上吐了一個挑釁的煙圈。煙未散盡，朋友的映客直播賬號就被封了。

那是唐卓第一次接觸映客。當時朋友來家里玩，說要開直播，有粉絲刷禮物，坐著就能掙錢。最后，他還特別強調了一句：直播不能抽煙。

“它怎么知道我抽不抽煙？”唐卓不信邪。

一周后，唐卓刷微博時看到映客在招聘審核員，受好奇心驅使，她投出了簡歷。

成為映客審核員以前，這名90后長沙女孩的職業理想是當一名刑警。

她大學就讀于湖南司法警官職業學院，刑偵專業方向，夢想是破案、抓罪犯。畢業時對口崗位只有獄警。還在實習期，她就當了逃兵，“監獄太壓抑了”。

一個暖融融的下午，唐卓坐在公司樓下的咖啡館里，說自己從業以來，直播審核員是她最喜歡的工作。在此之前，她干過耐克專賣店導購、臺球俱樂部陪練、微信企業公眾號資料審核員，還做過兼職滴滴司機。

直播審核員這個工作，某種意義上講，頗為接近“警察”的角色。她要“抓”的，是平臺上的違規主播。

唐卓形容，這工作很像一款經典游戲《大家來找茬》。在8小時之內，她至少盯了1000個直播片段，并從中找出違規行為，如低俗、吸煙或駕車直播。

機器會對直播每兩秒做一次截圖，傳到圖像識別內容庫初篩，技術判定速度達毫秒級，識別率在90%～95%，出現無法識別或難以判斷的圖像，則交由唐卓和她的同事做人工審核。

2016年被稱為“直播元年”，據不完全統計，全國大小直播平臺至少300家，與此同時，低俗、色情、暴力、炒作的行為也不斷刷新底線。國家網信辦等部門一年連發多道“緊箍咒”，規范直播行業發展。

在日益嚴格的監管要求下，內容審核員這個群體成為了視頻直播平臺不可或缺的“拆彈部隊”，重要程度關乎平臺生死。這并非危言聳聽，今年2月，北京首次因涉黃關停了一家直播平臺。

花椒直播審核員小冉的工作也是“找茬”。她大學讀傳媒專業，覺得直播平臺是新媒體，與所學專業沾邊，便入了這一行。

入職前，唐卓、小冉對崗位的理解，均停留在網絡新聞中的“鑒黃師”層面上。在他們的想象中，視頻審核區應該是一面屏幕密布的監控墻，像交管部門那種。而實際上，審核員每人一臺電腦、一個賬號、一副耳機，看上去與普通辦公并沒有兩樣。只有一條規矩比較特殊——工作時不允許拍照。

在花椒直播辦公室，“嚴禁拍照”的超大黑體字貼在花椒直播的監控墻旁邊。監控墻早已停用，屏幕上落了一層灰。

相關負責人介紹，早期開播路數不多，通過監控墻的屏幕人工檢測即可，現在每天開播路數達百萬級，更多的是依賴技術審核。

由于技術研發成本高昂，各平臺都強調保密。映客副總裁鐘正陽告訴《財經天下》周刊記者，映客的機器審核系統，僅開發團隊就有30多人，技術成本達上千萬元。

在任何直播平臺，審核均屬于最敏感的業務部門。審核員入職要簽署保密協議，不得對外透露審核規則或工作具體內容。只有兩三個好友知道唐卓的崗位，其他人問她在哪兒上班，她會以“看視頻的”一語帶過。

早期，公安部門篩選民警去做鑒黃審核，人選以已婚、大齡、女性為佳。而在直播平臺，審核員以90后居多。

比如在映客湖南總部的審核員中，員工的平均年齡為25歲～26歲，大專及以上學歷。鐘正陽說，招聘面試時，公司更看重應聘者是否沉穩、細心、有責任感。

這是一群隱于屏幕背后、同欲望作戰的年輕人。屏幕前，主播畫風稍有不對，他們會立即出手，輕則一鍵提醒“您的衣著過于暴露，具有挑逗性，請立即改正”，重則掐斷直播路徑，甚至永久封號。

這項工作的人員流動性相當高，很多人會因為夜班、枯燥、視覺沖擊、外界壓力抑或缺乏上升空間等原因，干上數月便匆匆辭職。

唐卓工作快一年，感覺眼睛已經有些吃不消，臉上長痘，記憶力變差，剛剛26歲就頻繁丟三落四。

在一些招聘網站上搜“視頻審核員”，會出來一長串信息，這從一個側面說明，該崗位在市場上處于缺人狀態。

“炸彈”

2016年6月，鐘正陽一個人背著雙肩包來到長沙。映客CEO奉佑生給這名“光桿司令”的任務是：從零開始，組建一支“拆彈”部隊。

7個月后，映客湖南總部審核員已經有430多人，占滿一層樓。加上永州的100多人以及兼職審核員，這支“拆彈”部隊人數多時達到千人。

映客第一位“拆彈”專家應該是奉佑生本人。2015年5月上線時，團隊只有20人，他兼做內容審核。這與其早年的公務員經歷有關，奉佑生極為重視內容安全，“在中國做一件事，要深深理解你的生命線和頭上的達摩克利之劍是什么”。

業內普遍認為，2015年9月，熱門直播平臺“17”突遭蘋果下架，這為映客、花椒等新移動直播平臺的崛起豁開了一條通道?！?7”剛下架的幾天，花椒的用戶量增長為平時3倍。

而“17”被下架的禍首便是不雅內容。有報道稱，下架前，“17”用戶量達到700萬人，但只有9～14人輪班審核內容。

消失了一段時間之后，等到“17”再度上架，直播江湖格局已變。此番洗牌，也為志在成為頭部陣營的直播平臺叩響第一聲警鐘。

自2016年起，約談、整改和查處已經成為視頻行業的高頻詞。包括映客、YY、花椒、虎牙、斗魚等移動直播平臺，以及快手、秒拍、小咖秀等短視頻平臺，均有被監管部門要求整改的記錄。

有些平臺不止一次“上黑榜”，如熊貓直播。公開報道可見，該平臺一年內至少被查處3次，最近一次，是因為彈幕信息低俗色情。

直播正成為被高度監管的新行業。奉佑生觀察，一般的政府監管，都滯后于行業發展，甚至很多行業發展了5～10年后，政府監管條款才跟上來。但在直播行業，國家網信辦、文化部、廣電總局等五大部門過去一年內史無前例地發布了多種監管政策。

據《財經天下》周刊記者不完全統計，2016年至少有4部與直播直接相關的法律法規出臺。最為嚴格的是《互聯網直播服務管理規定》，要求服務商建立直播內容審核平臺，并具備即時阻斷直播的技術。

必須及時阻斷的，往往是“炸彈”。

何為“炸彈”？目前似乎還沒有標準答案，因為這份名錄仍在持續演化。

以映客平臺《主播管理規范》為例，違規項已經細致到服裝款式：如“穿著情趣制服、情趣內衣、暴露裝、透視裝、肉色緊身衣、內衣外穿、半截抹胸、漁網襪、吊帶襪、三角短褲或呈現三角狀短褲、低腰超短褲、有性暗示文字或圖片的服裝等”，而“短裙或短褲下擺高于臀下線”也是不被允許的。

表演內容上，“自虐或攻擊他人的如酗酒、虐待自己、他人或互毆、吃或者展示各種令人不適的物品、活物、死物”以及吸煙、賭博、傳銷、展示毒品等，均屬禁止行為。

具體判定還會依據場景佐證。比如賭博，只要直播中存在玩撲克、麻將，且桌面上出現金錢的，視作賭博；而采用撲克、麻將開展魔術表演的，審核時會執行通過。

花椒直播相關負責人說，他們的內部運營手冊每季度都會更新一版。審核部門每周例會，也會列出要注意的新情況。

盡管如此，在直播世界，主播試探平臺底線的小動作幾乎每天都會上演和迭代。欲望是不死不休的驅動力。

作為部分直播平臺的圖像審核技術供應商，圖普科技市場總監李麟感觸很深。他發現，由客戶新提供的數據和定制需求，可以看出主播違規方式的翻新。如新近開發的“畫中畫”識別技術，專門針對主播并不直接涉黃，而是用另外一部手機拍電腦屏幕的行為。

直播如何審核？映客副總裁鐘正陽稱，從用戶創建直播開始，審核就已啟動。只有用戶名、簽名、上傳圖像等靜態資料通過審查后，用戶才能進入直播平臺中。

在技術層面，涉及圖像識別、聲音識別、敏感詞過濾。其中，圖像識別有內容樣本庫，由國家監管部門提供，視頻平臺要照標準去做。

“每一個對外能看到的內容，我們都有做內容審核?！辩娬栒f，直播行業受到政府部門高度監管，為確保安全，包括社會重大事件及平臺重大活動，映客都有專項應急處理方案，而且部門主管要及時向上匯報。

首先發現各種“擦邊球”的還是審核員。

小冉拆掉的第一個“炸彈”與“撩”有關。一個網紅臉女主播，開始只是聊天，后來畫風驟變，“揉揉這（胸），捏捏那兒（腿）”。小冉回憶時仍覺可笑，她甩起胳膊，動作夸張地模仿起來。

在她按下一鍵提醒后，屏幕上曖昧的“小動作”隨即消失，又切入聊天模式。從發現違規到處理，審核員最快能控制在3～5秒內。

最初接觸涉黃信息時，思想開放如小冉，也會有視覺不適。入職培訓時，培訓師在臺上翻PPT，一張大尺度色情圖片跳出來，在場十幾個人，女同事齊刷刷低頭，男同事也一臉尷尬。

培訓師見慣了這種“場面”：這就是你們以后的工作。你們這種狀態怎么行？第一時間要去封號，而不是低頭。

好比打怪升級，小冉和唐卓這種熟手，甚至會憑職業敏感，做出預判。預感到有人要打“擦邊球”了，她們會提前留意。

“有的主播，越說情緒越激動，這一分鐘沒說臟話，但下一分鐘極可能脫口而出，這時我就會多花一段時間，暗處觀察他?！碧谱空f，她會等著主播違規，等著觀眾點左上角舉報，然后收網。如果針對某位主播的投訴率、舉報率上升，系統會自動降低其上熱門的幾率。

有平臺內部設定，每名視頻審核員在一個直播間只能盯15～20秒，然后就要跳轉到另一房間，這時，會有另一名同事進來接班。如此安排，是為了防止審核員沉溺于某一主播。

小冉業余時間也關注了多名主播，既有她個人喜歡的、擅長唱歌跳舞的高顏值男女，也有要重點盯防的審核對象?？辞罢弑硌輹r，她是粉絲，偶爾會送豆；在后者表演時，她又不自覺地成了“找茬”那個，“用戶需要不斷提醒、不斷發現、不斷改正”。工作和生活的界限，在直播軟件上變得很模糊。在休息日，她和同事們也會習慣性地刷幾下直播頁面。

前兩天，她正在值夜班，一名輪休的同事給她發來截圖提醒：“某某苗頭好像不太對，跳舞怎么跳到椅子上了？”

界限

審核也會時常陷入界限模糊地帶。

唐卓最頭疼的是鑒別駕車直播。如果主播攝像頭對著自己，鏡頭里沒有方向盤，很難分清是否違規。

“你覺得他是在開車嗎？”拿不準時，她會問組長，或者把窗外風景當參照物。審核員封號要有證據——違規截圖。

《財經天下》周刊記者也曾與快手CEO宿華交流過審核尺度問題。宿華是工程師出身，屬技術型創業者，彼時他正對“如何界定炒作”的社會命題感到困擾。

快手上曾冒出過生吃活物、死豬等令人不適的視頻，此后，作品不能產生不良影響或讓人不適這一規定，成為平臺紅線之一。

“炒作本身的界定是灰色的。你說，貝爺（美國探險家貝爾·格里爾斯）愛吃各種蟲子，他吃的時候周圍有一圈攝像機，請問他是在炒作嗎？不是，因為他看起來不是炒作?？墒撬举|上，是不是一種炒作？其實真的很難判斷?！?/p>

去年處理快手“偽公益”事件時，宿華就發現，里面涉及到法律、社會、文化等多方面。為此他甚至去找法學教授，探討這個問題的邊界。

比如“偽公益”事件后，平臺上還有幾十個團體做公益，真假難辨，快手凍結了全部賬號。第二天，其中一家公益機構負責人就從四川趕來北京，說300多名殘疾人全靠機構運轉為生。他們出示了民政部門登記證書，證明自身是有資質的?？焓衷谙蚬膊块T征詢意見后，才將其賬號解凍。

國外視頻網站同受困擾。英國《每日郵報》報道，今年2月23日，美國紐約一家動物園在視頻網站YouTube上直播長頸鹿分娩的過程，當時關注粉絲達2000多萬。但直播很快被YouTube關停，原因是有動物保護極端分子舉報內容涉嫌“裸露和色情”。不過，劇情當天便有了翻轉，迫于輿論壓力，YouTube又恢復該直播。

另一互聯網巨頭、社交網站Facebook也曾因刪除母親哺乳照片，引起爭議。

一個平臺的審核界限，往往要在人性、立場、文化、法律甚至平臺價值觀等各方拉扯中，才能逐漸清晰起來，而隨著人工智能技術的滲透，又涉及到了機器學習。

以圖普為例，機器會把圖片分類成正常、性感、色情三類，并給出概率分數，以及是否需要復審的意見。如果一張圖片被判為色情，概率是0.99，則不需要復審；如果被判為色情，概率0.3，處于系統不確定的區間，建議人工復審。

不過，《財經天下》周刊記者將米開朗琪羅的大衛雕塑圖片上傳至圖普，機器立即作出判斷：色情。貌似機器比人更嚴苛。

李麟解釋稱，系統的深度學習，要經過大量數據訓練。比如三里屯優衣庫試衣間視頻剛出現時，圖普技術團隊就很緊張。他們第一時間找到各種變種版本，拿去測試機器，看能否攔截。因為尺寸、水印、濾鏡、截取片段甚至視頻二期加工，都會影響機器識別。

在李麟看來，雖然人工智能替代了此前95%的人工審核工作，但它并不能完全替代人。如果出現模糊界定，客戶還是要選擇人工判定。在映客，有異議的視頻會進入到復審階段，裁定通常在5分鐘內處理完。

暗戰

漏查違規直播的最嚴重后果是什么？在最近一次座談會上，奉佑生在被問到這個問題時，一臉嚴肅，“肯定會要關閉”。

內容安全事關生死，否則映客不會一年燒掉8000萬元。這是奉佑生為內容審核成本算過的一筆賬，目前，映客審核員共計1000人。按當地平均工資3500元～4000元估算，一年純人力成本至少5000萬元，加上系統開發與維護等費用，需要8000萬元。

花椒相關負責人雖未透露審核成本，但給出一組數據：審核員共600人，其中專職人員有150人，均在北京。按其網上招聘信息推斷，審核員平均工資不低于5000元。照此計算，審核人力成本一年至少要900萬元。

至于審核技術開發，花椒背靠360人工智能研究院的技術支撐，如“變臉特效”功能，現今已經發展為利用人臉識別技術，協助色情內容監控。

按《互聯網直播服務管理規定》要求，直播平臺都要配備與服務規模相適應的專業人員，健全信息審核、信息安全管理、值班巡查、應急處置、技術保障等制度。

這等于在行業競爭層面，設置了一場暗戰。大平臺在人氣、流量之外，還得拼技術、財力。

《財經天下》周刊記者了解到，包括映客、快手等移動視頻平臺，均在二三線城市設立審核基地。一是出于整體容災機制的考量，如果一地電力或網絡出現問題，審核數據會立刻分配到其他基地審核系統中；二是為了節省人力成本。

“審核成本是省不了的?！眻D普科技CEO李明強說。此前有直播平臺縱容違規，或睜一只眼閉一只眼，而今，再持放任態度，則有高風險。

2014年，受快播案啟發，李明強認定內容審核是剛需，帶著團隊做圖像智能審核。他們的第一個客戶是迅雷，雙方開了一次會，便敲定合作。

2015年下半年至2016年上半年，圖普業務量猛增，帶寬、存儲、服務器均急需擴容，甚至機房電量也不夠用，而這段時間正是直播和短視頻爆發的臨界點。圖普自稱占據了視頻審核市場至少60%的份額，映客、花椒、美拍、秒拍、B站、今日頭條等頭部公司，均是其客戶。

裹挾在直播浪潮中，李明強總結，近一年來，客戶的需求復雜了很多，最早只是鑒黃，現在低俗、不雅、抽煙、賭博、躺床上、翻拍等均不被允許?！霸瓉硪粭l線、一個點，現在要立體方案?！?而且，頭部公司要求更嚴。

圖普此前的對外宣傳噱頭便是鑒黃。李明強直言，拿鑒黃推銷產品，只是市場策略。其實公司專注的是用人工智能技術做圖像識別。比如用人臉識別方法，過濾相關時政人物圖片，降低政治風險。“系統能做到，只要長得像，就去除掉。”

早先參加人工智能論壇，李明強就發現，在演講環節介紹公司團隊、技術積累時，臺下同行興致索然，而談到產品之一是鑒黃時，不少人會被吸引。結果，一場演講下來，全場聽眾往往只記住了“鑒黃師”。一開始，李明強有點兒郁悶，后來領悟到互聯網流行娛樂與自嘲精神，便順勢自封“首席鑒黃師”，并在發朋友圈時，將公司地點替換為“宇宙鑒黃中心”。

在接觸過的眾多客戶中，李明強感覺，映客直播對內容審核尤為重視。映客CTO侯廣凌曾談及，人工審核系統死機或故障時，他們會把直播全部掐斷，不敢將沒有審核過的視頻赤裸裸地放出去，哪怕一分鐘也不行。

內容安全如此之重，以至于有競爭對手故意“搞事情”。

花椒在去年11月曾遭遇一次人為制造的“審核危機”。相關負責人透露，當時有網友清早發微博，舉報花椒女主播深夜涉黃，并貼出三張直播截圖證據。

截圖中，一名女主播直播時裸露胸部，另一主播在鏡頭前僅穿白襯衣和內褲。該網友還@了360董事長周鴻祎以及公安部門。

早上8點，該負責人在上班路上就接到同事的緊急通知，說網信辦打來電話，有人匿名舉報花椒涉嫌傳播淫穢內容。即至少有3段涉黃視頻和截圖，在網信辦工作人員上班前，已經被送抵該部門舉報郵箱。

該事件疑點很多。技術人員事后查證，三個涉黃賬號都是當天注冊，并于凌晨1點到3點間陸續開播，且直播只持續了一兩分鐘。在將要下播時，三名主播突然脫掉衣服。

其實，審核員當時已監測到違規行為，并作出封停賬號處理，但舉報人明顯有備而來，對直播進行了錄屏和截圖。

“操作手法特別嫻熟，一看就是了解監管流程，才會在下播時突然脫衣服?！边@名負責人說。

這場“審核危機”最終得以化解，原因是花椒技術人員很快便通過殘留在互聯網上的線索，查到幕后“黑手”是某家競爭公司，且掌握了確鑿證據。有條線索顯示，打賞用戶和主播為同一IP。

花椒未透露競品公司名稱，只說平臺規模比花椒要小。相關證據已經提交給有關部門。

“其實直播行業的競爭格局基本已定，戰爭不會在直播行業發生，而是在直播的延展區?！痹诖饲暗淖剷希钣由隽艘粋€“得罪人”的論斷：2017年直播還會產生更大的馬太效應。

但不論戰場在哪兒，“拆彈部隊”仍是內容安全的守衛者。