抖音日均攔處“兩違”等超10億條

雷玄

12月1日，抖音平臺治理開放日圍繞安全運營、審核、技術攻防、聯合打擊等話題展開。首次對外亮相的抖音安全中心團隊稱，該中心日均攔截處理的違法違規內容、行為超10億條，近4個月已協助各地公安機關打擊涉嫌詐騙、色情的黑灰產團隊25個。

據介紹，抖音安全中心設置了安全運營、安全風控以及治理打擊等多個團隊，堅持“提前發現、事先攔截、事中提醒、事后追擊”的治理原則，專門負責抖音平臺違法違規內容與行為的治理工作。

數據顯示，抖音安全中心日均攔截處理的違法違規內容、行為超10億條，其中包括違規注冊、刷量、刷粉、點贊以及發布違規評論、視頻等多類內容行為。近4個月已協助各地公安機關打擊涉嫌詐騙、色情的黑灰產團隊25個，刑事拘留87人。今年以來，抖音安全中心封禁色情導流和色情招嫖帳號超過100萬，僅9月期間就封禁305248個帳號。“仿冒名人”專項打擊中，已封禁黑產作弊賬號18萬多個，重置仿冒資料用戶6萬余個，處理問題視頻超過400多萬條。“群控軟件”專項打擊中，抖音已在杭州、深圳及廣州等地針對四家涉及抖音的“群控軟件”運營公司提起訴訟，相關“群控軟件”已被勒令停止運營。

抖音安全中心負責人帥帥介紹，在平臺違規內容、行為的提前發現與攔截方面，抖音采取平臺內外配合的機制。除了通過內部組建團隊，建立完善審核、巡檢機制和流程，通過多種技術手段多渠道進行巡檢審核外，中心還邀請了外部專業人士、平臺用戶參與到平臺審核流程中。目前，抖音提供了多種用戶舉報渠道，包括站內舉報、郵箱舉報、違法和不良信息舉報電話、“啄木鳥舉報平臺”小程序等。據他透露，截至2020年11月，“啄木鳥舉報平臺”小程序已經累計處理用戶反饋的違法違規帳號159.5萬個。

黑灰產行為，通常是在上游進行賬號注冊、買賣，然后在短視頻、社交媒體等平臺上實施引流，落地到社交軟件平臺上實施詐騙、傳播色情內容，部分會再到電商平臺進行變現。黑灰產行業的技術與手段一直在升級，在與他們對抗的過程中，抖音也在不斷升級技術與策略。

目前，抖音安全中心團隊已經將數據安全、人工智能等技術應用到了黑灰產打擊中，構建立體防御體系。抖音安全風控專家張曦盛介紹，該中心自主研發的“鯊魚反欺詐系統”，能在賬號注冊、登陸、發布評論內容等階段判斷賬號是否是黑灰產詐騙賬號，并執行對應的處理措施，組建了紅藍軍攻防團隊，開展黑灰產的行業研究，希望先于犯罪分子發現黑灰產行業最新趨勢。

抖音安全中心總監周冉介紹，今年3月，抖音安全中心發現有用戶多次試圖上傳兒童色情視頻，研判分析后認為，相關視頻中的兒童有被侵害的嫌疑。抖音安全中心掌握了視頻發生地，聯合公安部門啟動了聯合打擊機制。3月29日，四川省遂寧市蓬溪縣公安局將嫌疑人抓捕歸案。據嫌疑人交代，其多次以“提供WIFI”等方式，誘惑同村男童到其住所進行猥褻，并拍攝淫穢視頻通過網絡進行傳播出售。

參與了多起黑灰產案件的打擊，周冉分析，這一案件是典型的互聯網違法違規行為，具備長鏈條、跨平臺犯案的特征。她希望，社會各界要聯動起來，共同打擊違法違規行為，建設美好、正向、健康且有價值的行業生態。