我是抖音“守夜人”

文/常寧寧

在城中的老百姓幸福生活時，總要有人站在城墻上，眺望黑暗，及時扼殺逼近的危險。

風控，不就是一群封號的人嗎？

很長一段時間，互聯網企業的“安全人”都被外界冠以這樣的誤解。

他們最大的成績，就是平臺上沒有犯罪、沒有黑產、無大事發生。他們的努力，也和黑產一樣不被陽光所照射。

但沒有人知道的是，國內的互聯網黑產已是千億規模的市場。虛假點擊、“羊毛黨”、“假靳東”、“寵粉詐騙”、“同城招嫖”，各種欺詐黑產層出不窮。用戶的信息無時無刻不被黑產竊取，一旦被盯上，等待他們的是精心布下的陷阱。

然而，同黑產對抗沒有捷徑可走，完全是一場人力和財力的比拼。幸運的是，在這場戰爭中，有一支不計較財力、發誓要暗中保護大家的隊伍。就像是《冰與火》之歌里面的守夜人，永遠眺望著森林幽暗的深處。這支守夜人隊伍，則24小時盯著互聯網黑產的深淵。

“看不見”的圍城

兩個男孩擁抱親吻，這正常嗎？

“這個賬號不太對勁”，2020年3月，一凡收到了審核員發來的一條特殊視頻。

視頻內容的主人公是兩個小學生模樣的男孩在互相輕吻、擁抱。“這看起來一點都不像這個年紀的孩子會做的事情”，一凡的直覺告訴自己。她翻看了發布視頻的賬號，發現該賬號的歷史視頻里還有大量類似的內容：男主角永遠是這兩個男孩，除了輕吻、擁抱，還會彼此撫摸。更奇怪的是，有些視頻里還出現了一個成年男性，看起來似乎正在指揮這兩個男孩的動作。

這顯然是一條違禁信息，涉嫌兒童性侵。按一凡以往的經驗，這種內容的直接處理方式就是下架視頻、封賬號，確保平臺上的內容正向、健康即可。

“但這樣就足夠了嗎？”一凡猶豫了起來。如果只是封鎖賬號，那兩個男孩真的遇到了危險，誰來幫助他們？那個成年男性明顯存在問題，封鎖賬號并不會阻止他繼續傷害孩子。

這是一次和潛在犯罪分子搶時間的賽跑。當時是夜里11點，一凡決定直接請示上級，如果對方沒看到信息，她就打電話過去說明情況。幸運的是，領導馬上回復：“拉群，同步線下打擊組同學報警。”

“報警”對應著最高風險等級——意味著高危內容背后可能有犯罪行為，通常需要極強的證據，經過法務和各方面研究判斷后，才能下達“報警”的指令。但面對一些比較極端的案例，抖音安全中心會直接評估是否需要立即報警。“線上封幾個號沒用，得讓這種渣滓現實中接受懲罰才行”，一凡的領導岳文峰當機立斷地回復。

幾乎是同一時間，審核組的同事，經過篩查賬號的歷史視頻，根據視頻中的一些建筑、廣告牌等場景信息，了解到了視頻拍攝者的所在地——嫌疑人住在四川的某個縣城里。

知道視頻拍攝者所在地區的信息后，一凡線下打擊組的同事就立刻動身從北京出發了——這也是少有的沒有拿到研判結果就出發的情況。

拿不到研判結果，意味著證據不充分、或存在法律漏洞不予立案，很可能全員白跑一趟。此外，受新冠肺炎疫情影響，國內北京到事發地沒有直飛航班，轉機也讓線下打擊組的人增加了滯留和隔離風險。但他們沒有遲疑，每個人心里都清楚，每耽擱一分鐘，視頻里的兩個小男孩就會遭受多一些傷害。在線下打擊組提供的線索和幫助下，該案件于2020年3月27日偵破，當地警方發布通告稱嫌疑人被抓獲，兩個小男孩被安全解救。此時，距離一凡發現那條視頻僅過去一周。

后續調查結果顯示，這兩個男孩都是四川當地的留守兒童，父母長期在外打工。疫情期間，學校封禁，由于家中沒有W iFi無法上網課，兩個男孩前往犯罪嫌疑人家中使用網絡，被哄騙拍攝視頻并威脅不能告訴家長，嫌疑人還將視頻在多個社交軟件、其他短視頻平臺及網盤渠道發布兜售。在警察實施抓捕的時候，嫌疑人還計劃對兩個未成年男童進行猥褻。

據《2019年性侵兒童案例統計及兒童防性侵教育調查報告》顯示，2019年共發生301起兒童性侵案件，熟人作案超七成，其中師生關系占比最高。

性侵兒童案往往發生在非常隱蔽的情況下，除了當事人的陳述證言，很難有其他證據佐證。另外，還有受害人保存證據不及時導致證據遺失、當前低齡兒童證據采信難等問題。

抖音安全中心的及時介入，配合協助警方獲取了重要線索和證據，鎖定了犯罪嫌疑人，才保證了兩個孩子沒有遭受更大的傷害。得知兩個孩子被成功解救以后，一凡焦灼的心才終于放下了。

“不想出成績、害怕被cue到”

在此之前，一凡一直定義自己所在的團隊，是一支最怕被領導cue到、也“不想做出成績”的團隊。

她所在的抖音安全中心，是抖音創辦之初就設立的部門。盡管目前團隊擁有數千名成員，但每個成員都過得很“憋屈”。

“平臺沒事發生，才說明你的工作到位了”，一凡說，但平臺沒事發生，外界也感知不到團隊做了哪些工作。

這個年輕的團隊被稱為“抖音的安全護衛隊”，目前團隊平均年齡僅25歲。僅到2020年12月初，該團隊就處理了超過730萬個違規賬號、1380多萬違規視頻。

在這里，忙碌是常態。他們每天要為平臺上6億用戶保駕護航，要關注平臺上每天所產生的數百億次行為，這其中，要關注和處理無數風險性內容、違禁內容，以及黑產行為。整個團隊的下班打車記錄里，時常出現夜里11點至凌晨2點的情況。

一凡是在2020年年初剛加入團隊，上司岳文峰在她入職的頭一天就給了個“下馬威”。

“抖音有4億用戶（一凡加入時），全國500萬黑產從業者對這4億用戶虎視眈眈，我們的責任就是和500萬黑產人做對抗，保護用戶的生命財產安全”。從沒有過“安全”經驗的一凡心里有些發虛。但想到這即將面臨的挑戰，她充滿了興奮，“這是誰都想嘗試的抖音啊！”

但一凡沒想到，等待她的第一個任務，是當一名“嫖客”。

當時抖音正從4億用戶邁向6億用戶飛速增長。流量暴增的同時，背后帶來的黑產行為也成比例增長。

盡管抖音一直針對違規賬號進行打擊，不斷升級風控策略模型，但“道高一尺，魔高一丈”，狡猾的黑產人也通過各種方式逃避機器和算法的追捕——為此抖音不得不采用“無間道”的方式，通過異常賬號上留下的聯系方式，假扮“嫖客”，打入黑產內部。

初接這個任務時，一凡有些為難，她壓根看不懂黑話——最開始她盯著后臺發現的“茶葉”、“邀請喝茶”的賬號們百思不得其解。

“茶葉招誰惹誰了？”在看到“上新”和一些美女視頻時，一凡才發現事有蹊蹺。

通過一段時間的臥底，一凡才知道“茶葉”相關的一整套引流術語是風月行業的黑話：“上新”則是指有新人加入了，“歡迎喝茶”則是表明營業了。

光知道黑話還不夠，一凡必須找到證據證明賬號涉黃才能封號。同時，她必須研究和定義新犯罪行為的特征，輔助機器學會自動識別。

然而，大部分犯罪行為會跨平臺進行：通過抖音上引流、去別的平臺交流、再到第三方平臺實現付款交易，每個平臺的數據無法打通，很難跨平臺取證。

一開始，一凡“放不開”。

“我還是個未婚女性，哪兒知道怎么做‘嫖客’？”一凡說，常常是她一開口，對方就知道不是正經“嫖客”，聊著聊著就不見了。

很長一段時間里，挫敗感包裹著一凡。那段時間，她常常全天苦于如何“更像”一個嫖客，每天都在質疑自己是誰、從哪兒來、為什么要干這個。

和一凡有著類似困惑的，還有反欺詐項目的負責人王宸。他是個95后，也是因為“讀書時就玩抖音、喜歡抖音濾鏡”而加入抖音。

但加入抖音后，他才發現這份工作并不如想象的有趣。“我無時無刻不在懷疑人生。”王宸說。

王宸每天的工作都要審核大量賬號、總結欺詐賬號相關的特點供給機器學習。“每天要看成百上千個賬號，發現各種細小的特征來判斷黑產。”王宸說。這種忙碌是永無止境的，在做重點專項打擊項目的時候，加班到凌晨都是常事。

尤其是2020年新冠肺炎疫情暴發，抖音的用戶也迎來飛躍式增長。“從2020年4月以后，團隊里的人幾乎就沒有個人生活”，王宸說，“同城招嫖”、“假靳東”、“雙十一”電商詐騙等各個事件層出不窮。最忙的時候，一凡和王宸要加班到凌晨3點，甚至直接在公司過夜。

但下班時，內心的焦慮感依然沒有減輕，唯恐自己的休息、“沒有做到極致”，而讓平臺上的黑產多肆虐一天。

但也是在這樣無數次的自我懷疑、痛苦掙扎后，一凡和王宸感覺自己突破了，得到了一種全新的體驗。通過和同事、警方的學習和總結，一凡摸索出來了和涉黃人員交流的話術。她開始直接詢問對方“多少錢、在哪里、安不安全”。

問完這三句話之后，對方會發來“菜單”（價格表），取證環節才算完成，緊接著再截圖舉報到對應平臺，一個任務圓滿結束。

“后來組里都開玩笑說我是‘女流氓’了”，一凡說。

通過一凡她們堅持跨平臺取證、舉報，加上團隊的努力，已經有其他互聯網平臺和抖音建立了合作。抖音提供取證完畢后的被舉報賬號，對方再通過這個賬號查詢IP，可以將相關的IP賬號全部封掉。

“封”還是“不封”

王宸則收到了一封感謝信，對方說因為抖音安全中心反欺詐小組的工作讓自己免于被騙。

王宸這才體會到這份工作的意義：審核是第一道關卡，看起來普通，但在審核基礎上，如何去用自己的力量幫助行業高效運轉，這才是更重要的事情。

在2019年雙十一抖音成交額達到187億時，王宸更覺得自己在做一件有意義的事情。

通過他所在團隊的努力，2020年雙十一他們總共阻止了幾十萬風險賬號、幾千萬次的惡意攻擊，在這背后，是無數羊毛黨和數以億計的止損額。

“我們為用戶創造更好的網絡環境，幫助他們獲得成功，這種成就感，不是隨便能得到的。”

確保安全，絕不是一刀切封號了事。

被誤解、自我懷疑……一凡和王宸的痛苦，岳文峰也一直看在眼里。

作為他們的直屬上司，岳文峰也有相似的疑惑。

他入職抖音時，抖音在7個月內用戶新增兩億、安全中心的成員也成倍增長。但外界對團隊一直存在誤解，大部分認為安全團隊最大的作用就是“封號”。

如果團隊做得好，其達到的效果是外界根本不知道有該團隊的存在，但這樣又如何讓團隊實現自我價值感？這在他看來是極其荒謬的，“安全部門的工作不是簡單封號就可以解決的。背后的問題往往比大家想得更復雜。”但這種誤會卻曾一度引發內部產生巨大矛盾。

2020年5月，岳文峰被緊急拉進一個群里。一個自稱家長的用戶稱兒子在看抖音時出現了早熟行為，要求封掉相應賬號。對方表示，該賬號有大量涉黃裸露內容。

但團隊研判后發現該賬號是沖浪領域的垂直號，“裸露畫面”是穿泳衣的沖浪愛好者，并沒有達到封賬號標準。但家長不依不饒，聲稱如果不封賬號，就要找媒體曝光。

抖音安全中心內部一下分成兩派：一方主張封號，免得家長去曝光；一方主張不封號，因為原賬號沒有任何問題，誰也說服不了誰。

在旁人看來，這無非就是一個簡單的封號手續，但是在岳文峰看來是關乎底線的問題——不能因為一次不符合標準的舉報而誤殺。

岳文峰堅持“不封”。但這個舉動一度讓主張封號的團隊成員不理解，甚至在雙月會后收集問題時，有人提問質疑他：到底能不能帶好團隊。

沒過幾天，此前被舉報的沖浪愛好者賬號突然發布了一條高危敏感的內容，符合封號條件。

雖然如此，岳文峰卻覺得有哪里不對，一個沖浪領域的垂直號，突然發布一條明顯違規的內容，有違常理。岳文峰還是選擇“不封”，僅下架相關內容。

同時，他讓安全技術團隊的同事查詢賬號是否存在異常，結果發現，這個賬號在發布違規視頻時候的登錄IP地址與以往不同，卻和“舉報家長”IP地址高度類似。

“會不會是舉報人黑了賬號”，岳文峰暗自猜想。但怕冤枉好人，團隊迅速以“遭受攻擊”為名迅速報警。

警方出動調查后回復，一切正如岳文峰所預判的那樣：舉報人因舉報不成而盜取賬號、發布高危內容誘導抖音封號。

但岳文峰沒有想到的是，舉報家長根本就沒有兒子，該賬號在抖音的視頻搶了舉報人在三亞的沖浪生意，舉報人希望通過封對方的號來挽回生意損失。這也進一步證明了岳文峰的設想，風控絕不僅是封號而已。一旦簡單粗暴地對待復雜問題，對抖音百害而無一利。

比如僅在與“騙”相關的案件上，就分為欺騙、詐騙、哄騙等等類型。其中，“欺騙”就分為騙錢的“寵粉案”和騙互動數據（類似“假靳東案”）兩種。前者涉嫌違法犯罪，后者違規，處理方式完全不同，并不是僅靠封號能解決。“封號是最簡單的，最偷懶的做法”，岳文峰說。

另一方面，早期干預也可以降低風險。比如，為了防止青少年沉迷抖音、受到超過其年齡的內容影響，抖音推出了青少年模式，對視頻內容、使用時長進行了針對性設計。“黑產是不可能被消滅的，我們能做的就是不斷提高犯罪的成本，當犯罪成本高了，自然數量就下降了。”

從早期干預，到合理預判，到線下打擊，通過岳文峰等人不計成本地建造這座“看不見”的圍墻，抖音才得以保留健康、安全的內容生態。

做最忠于用戶的“守夜人”

在參與解救四川兩個被猥褻男孩之前，一凡一度認為自己的工作“沒有實感”。

作為全線上化的風險防范團隊，對于風險、犯罪內容的審核和處理也大多是線上化進行，即便是成員自身都很難評估自己對企業、社會所作出的價值。

“但真的看到兩個留守兒童因為我們的參與而獲救，那一刻我覺得自己值了，這份工作非常實在”。

一凡說，“這個效果比我們在線上封幾個賬號有效1萬倍”，必須采取手段從精神、肉體上對其進行雙重打擊。在此之后，她再也沒有懷疑過自己加入抖音的目的和未來，“我每天敲的那些代碼是能夠實際上幫助到有需要的人的”。

曾做過10年“安全人”的岳文峰表示，抖音是他見過的、為數不多的在安全領域“不設上限”的公司，“在創辦抖音之初就建立安全團隊，為安全擴建進千人員工……”

“長夜將至，我從今開始守望，至死方休。我將不娶妻、不封地、不生子。我將不戴寶冠，不爭榮寵。我將盡忠職守，生死於斯。我是黑暗中的利劍，長城上的守衛。我是抵御寒冷的烈焰，破曉時分的光線，喚醒眠者的號角，守護王國的堅盾。我將生命與榮耀獻給守夜人，今夜如此，夜夜皆然。”

這段來自《冰與火之歌》的守夜人誓言，也完美詮釋了這些守護著網絡暗處的“抖音守夜人”。

在城中的老百姓幸福生活時，總要有人站在城墻上，眺望黑暗，及時扼殺逼近的危險。讓人慶幸的是，留下來的“守夜人”里，幾乎沒有選擇離開的。