2017年國內內容安全十大事件盤點

李陽天

2017年是內容大爆發年，以直播、短視頻為代表的娛樂視聽產品大量涌現，泛文娛產品交互形式更加豐富、UGC信息海量增長，但隨之而來的是有害信息隱患對用戶體驗和企業利益帶來的巨大挑戰。

另一方面，2017年多項互聯網內容治理政策相繼出臺，《網絡安全法》正式實施，互聯網內容安全在政策和法律監管上表現進一步收緊，對內容平臺不良治理能力的要求更加嚴格。值此，“網易云安全（易盾）”盤點回顧了2017年內容安全領域發生的重大事件。

一、2017年2月：上海市網信辦會同市文廣局、市網安總隊、市文化執法總隊聯合約談熊貓直播和全民直播，就兩家直播中存在的低俗色情問題，依法責令其進行全面整改。

二、2017年4月：北京網信辦等監管部門聯合約談今日頭條、火山直播、花椒直播，查處上述網站涉嫌違規提供涉黃內容。個別發布者涉及違規違禁直播內容，責令限期整改。

三、2017年4月：國家網信辦接到網民舉報，“紅杏直播”、“蜜桃秀”等18款直播類應用存在違法違規行為。經核查取證后，國家網信辦會同有關部門依法依規在應用商店下架并關停服務。

四、2017年6月：《中華人民共和國網絡安全法》《互聯網新聞信息服務管理規定》《網絡產品和服務安全審查辦法（試行）》等一批互聯網領域的法律法規正式施行。作為我國第一部全面規范網絡空間安全管理方向問題的基礎性法律，明確規定不得傳播有害國家社會穩定、青少年身心健康的信息。

五、2017年8月：新浪微博用戶發布稱在線教育APP“小猿搜題”社區內容涉黃，隨后“小猿搜題”發布聲明是另一個APP“作業幫”構陷蓄意抹黑，雙方由此“互懟”并對簿公堂。

六、2017年8月：國家互聯網信息辦公室公布《互聯網跟帖評論服務管理規定》，規定明確指出，不得向未認證真實身份信息的用戶提供跟帖評論服務，并加強“彈幕”管理，《規定》還要求平臺實行先審后發制度。

七、2017年8月：全國“掃黃打非”互聯網低俗色情信息專項整治行動，查處狼友色情直播平臺制作、傳播淫穢表演視頻文件信息超過20萬個，實時現場直播淫穢色情表演，吸引大量用戶付費觀看和打賞，涉黃女主播千余名。

九、2017年12月：今日頭條、鳳凰新聞手機客戶端因涉及傳播色情低俗信息，被北京網信辦約談責令整改，部分欄目暫時停更。隨后，通報集中清理其涉嫌違規的含低質內容的自媒體賬號，共封禁、禁言賬號上千個。今日頭條啟動大規模招聘，招聘內容審核編輯2 000人。

十、2017年12月：網民舉報QQ日跡圈子里存在大量少兒不宜的黃色視頻，核實發現在某些圈子里的確存在大量情色視頻，被責令關停。

2017年，作為領先的內容安全平臺，網易易盾每天攔截有害信息上億條，其中比例最大的是廣告，其次是謾罵、色情、違禁、謠言暴恐。這兩年隨著媒介形式的升級，直播短視頻成為很多媒體平臺的標配，成為新的流量蜜罐，有害信息中音頻、圖片、視頻的比例也在迅速增加。

2018年，內容風險將成為視聽平臺最主要的安全風險之一，需要公司高層從戰略角度進行關注和把控。如何快速構建符合業務需求的內容安全體系？“網易云安全（易盾）”內容安全專家提出5條建議：

1.重視歷史數據清理：結合業務特性，應定期對歷史數據進行排查。通過離線分析，及時發現并清理新型變種垃圾，不斷完善全鏈路的布控方案；

2.做好事前防御：聯動用戶賬戶注冊保護和登錄保護的反作弊手段，從源頭發現并攔截有害信息發布者；

3.加強實人認證：針對用戶分級管理，加強實人認證，提高有害信息發布者的門檻，內容發布全流程可管理、可追溯；

4.應用智能手段：及時更新或引進第三方的文本、圖片、音視頻等內容智能檢測技術，欲善內容安全其事，先利智能技術之器；

5.建立規范體系：產品內容安全涉及技術、政策、運營、審核等多團隊，產品長期發展需及時建立相應的內容安全管理機制、應急處理機制。