2017年國內(nèi)內(nèi)容安全十大事件盤點(diǎn)

李陽天

2017年是內(nèi)容大爆發(fā)年，以直播、短視頻為代表的娛樂視聽產(chǎn)品大量涌現(xiàn)，泛文娛產(chǎn)品交互形式更加豐富、UGC信息海量增長，但隨之而來的是有害信息隱患對用戶體驗(yàn)和企業(yè)利益帶來的巨大挑戰(zhàn)。

另一方面，2017年多項(xiàng)互聯(lián)網(wǎng)內(nèi)容治理政策相繼出臺，《網(wǎng)絡(luò)安全法》正式實(shí)施，互聯(lián)網(wǎng)內(nèi)容安全在政策和法律監(jiān)管上表現(xiàn)進(jìn)一步收緊，對內(nèi)容平臺不良治理能力的要求更加嚴(yán)格。值此，“網(wǎng)易云安全（易盾）”盤點(diǎn)回顧了2017年內(nèi)容安全領(lǐng)域發(fā)生的重大事件。

一、2017年2月：上海市網(wǎng)信辦會同市文廣局、市網(wǎng)安總隊(duì)、市文化執(zhí)法總隊(duì)聯(lián)合約談熊貓直播和全民直播，就兩家直播中存在的低俗色情問題，依法責(zé)令其進(jìn)行全面整改。

二、2017年4月：北京網(wǎng)信辦等監(jiān)管部門聯(lián)合約談今日頭條、火山直播、花椒直播，查處上述網(wǎng)站涉嫌違規(guī)提供涉黃內(nèi)容。個(gè)別發(fā)布者涉及違規(guī)違禁直播內(nèi)容，責(zé)令限期整改。

三、2017年4月：國家網(wǎng)信辦接到網(wǎng)民舉報(bào)，“紅杏直播”、“蜜桃秀”等18款直播類應(yīng)用存在違法違規(guī)行為。經(jīng)核查取證后，國家網(wǎng)信辦會同有關(guān)部門依法依規(guī)在應(yīng)用商店下架并關(guān)停服務(wù)。

四、2017年6月：《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)產(chǎn)品和服務(wù)安全審查辦法（試行）》等一批互聯(lián)網(wǎng)領(lǐng)域的法律法規(guī)正式施行。作為我國第一部全面規(guī)范網(wǎng)絡(luò)空間安全管理方向問題的基礎(chǔ)性法律，明確規(guī)定不得傳播有害國家社會穩(wěn)定、青少年身心健康的信息。

五、2017年8月：新浪微博用戶發(fā)布稱在線教育APP“小猿搜題”社區(qū)內(nèi)容涉黃，隨后“小猿搜題”發(fā)布聲明是另一個(gè)APP“作業(yè)幫”構(gòu)陷蓄意抹黑，雙方由此“互懟”并對簿公堂。

六、2017年8月：國家互聯(lián)網(wǎng)信息辦公室公布《互聯(lián)網(wǎng)跟帖評論服務(wù)管理規(guī)定》，規(guī)定明確指出，不得向未認(rèn)證真實(shí)身份信息的用戶提供跟帖評論服務(wù)，并加強(qiáng)“彈幕”管理，《規(guī)定》還要求平臺實(shí)行先審后發(fā)制度。

七、2017年8月：全國“掃黃打非”互聯(lián)網(wǎng)低俗色情信息專項(xiàng)整治行動，查處狼友色情直播平臺制作、傳播淫穢表演視頻文件信息超過20萬個(gè)，實(shí)時(shí)現(xiàn)場直播淫穢色情表演，吸引大量用戶付費(fèi)觀看和打賞，涉黃女主播千余名。

九、2017年12月：今日頭條、鳳凰新聞手機(jī)客戶端因涉及傳播色情低俗信息，被北京網(wǎng)信辦約談責(zé)令整改，部分欄目暫時(shí)停更。隨后，通報(bào)集中清理其涉嫌違規(guī)的含低質(zhì)內(nèi)容的自媒體賬號，共封禁、禁言賬號上千個(gè)。今日頭條啟動大規(guī)模招聘，招聘內(nèi)容審核編輯2 000人。

十、2017年12月：網(wǎng)民舉報(bào)QQ日跡圈子里存在大量少兒不宜的黃色視頻，核實(shí)發(fā)現(xiàn)在某些圈子里的確存在大量情色視頻，被責(zé)令關(guān)停。

2017年，作為領(lǐng)先的內(nèi)容安全平臺，網(wǎng)易易盾每天攔截有害信息上億條，其中比例最大的是廣告，其次是謾罵、色情、違禁、謠言暴恐。這兩年隨著媒介形式的升級，直播短視頻成為很多媒體平臺的標(biāo)配，成為新的流量蜜罐，有害信息中音頻、圖片、視頻的比例也在迅速增加。

2018年，內(nèi)容風(fēng)險(xiǎn)將成為視聽平臺最主要的安全風(fēng)險(xiǎn)之一，需要公司高層從戰(zhàn)略角度進(jìn)行關(guān)注和把控。如何快速構(gòu)建符合業(yè)務(wù)需求的內(nèi)容安全體系？“網(wǎng)易云安全（易盾）”內(nèi)容安全專家提出5條建議：

1.重視歷史數(shù)據(jù)清理：結(jié)合業(yè)務(wù)特性，應(yīng)定期對歷史數(shù)據(jù)進(jìn)行排查。通過離線分析，及時(shí)發(fā)現(xiàn)并清理新型變種垃圾，不斷完善全鏈路的布控方案；

2.做好事前防御：聯(lián)動用戶賬戶注冊保護(hù)和登錄保護(hù)的反作弊手段，從源頭發(fā)現(xiàn)并攔截有害信息發(fā)布者；

3.加強(qiáng)實(shí)人認(rèn)證：針對用戶分級管理，加強(qiáng)實(shí)人認(rèn)證，提高有害信息發(fā)布者的門檻，內(nèi)容發(fā)布全流程可管理、可追溯；

4.應(yīng)用智能手段：及時(shí)更新或引進(jìn)第三方的文本、圖片、音視頻等內(nèi)容智能檢測技術(shù)，欲善內(nèi)容安全其事，先利智能技術(shù)之器；

5.建立規(guī)范體系：產(chǎn)品內(nèi)容安全涉及技術(shù)、政策、運(yùn)營、審核等多團(tuán)隊(duì)，產(chǎn)品長期發(fā)展需及時(shí)建立相應(yīng)的內(nèi)容安全管理機(jī)制、應(yīng)急處理機(jī)制。