短視頻內(nèi)容審核的現(xiàn)實(shí)困境與路徑探析
——以“抖音”為例

◎王琳琳

“池水清不清，不僅取決于注入了多少清水，還取決于截?cái)嗔硕嗌贊崴魅?，開辟了多少污水治理方式?！眱?nèi)容管控作為傳媒行業(yè)重要的“生命線”，隨著平臺(tái)用戶基數(shù)不斷擴(kuò)大，視頻內(nèi)容的迸裂式暴增，審核不嚴(yán)帶來(lái)的問(wèn)題也愈加凸顯。筆者將通過(guò)對(duì)現(xiàn)有研究做出分析，以期能對(duì)短視頻內(nèi)容審核現(xiàn)狀有所進(jìn)益。

一、短視頻內(nèi)容審核研究綜述

短視頻的普及，將人帶入媒介化的日常生活，以視頻粘連的現(xiàn)實(shí)生活與濾鏡化生活，讓人們?cè)诟蟮氖澜缰邪l(fā)現(xiàn)自我、滿足自我。 它在給人們帶來(lái)心理上的認(rèn)同感和滿足感的同時(shí)，也讓人對(duì)其降低防備心理，導(dǎo)致短視頻在內(nèi)容生產(chǎn)方面存在的問(wèn)題也愈加凸顯。例如內(nèi)容參差不齊，彈幕言論低俗、誤導(dǎo)社會(huì)輿論等等。此外，算法機(jī)制在短視頻領(lǐng)域的廣泛應(yīng)用也帶來(lái)了算法“焦慮”，基于此，平臺(tái)應(yīng)從自身出發(fā)，改進(jìn)算法推薦機(jī)制、增加內(nèi)容審核的人工投入，建立多機(jī)構(gòu)合作機(jī)制對(duì)平臺(tái)亂象進(jìn)行綜合治理。然而隨著內(nèi)容管控的深入，有學(xué)者認(rèn)為目前短視頻行業(yè)存在“把關(guān)人”作用減弱等問(wèn)題，針對(duì)此種現(xiàn)象，提出應(yīng)構(gòu)建“AI+人工”的審核模式，提高審核效能。

針對(duì)視頻行業(yè)出現(xiàn)的種種問(wèn)題，政府也出臺(tái)了相關(guān)法規(guī)政策來(lái)應(yīng)對(duì)這些不合理現(xiàn)象。《中國(guó)網(wǎng)信網(wǎng).國(guó)家網(wǎng)信辦提出網(wǎng)站履行主體責(zé)任八項(xiàng)要求》對(duì)互聯(lián)網(wǎng)平臺(tái)運(yùn)營(yíng)主體在信息內(nèi)容管理中的主體責(zé)任做出了具體解釋?！毒W(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》和《網(wǎng)絡(luò)短視頻平臺(tái)管理規(guī)范》則明確規(guī)定不得出現(xiàn)的21類、100項(xiàng)具體內(nèi)容。這些法律法規(guī)的出臺(tái)對(duì)短視頻行業(yè)的內(nèi)容審核規(guī)范進(jìn)一步細(xì)化。5G時(shí)代的到來(lái)也為內(nèi)容審核模式的創(chuàng)新提供了新的規(guī)制路徑。有學(xué)者提出將內(nèi)容審核進(jìn)行外包，在富媒體背景下將人工智能技術(shù)引進(jìn)媒體行業(yè)，推動(dòng)傳媒事業(yè)的轉(zhuǎn)型升級(jí)，實(shí)現(xiàn)高質(zhì)量發(fā)展。

通過(guò)對(duì)現(xiàn)有研究進(jìn)行分析，從“把關(guān)”角度研究短視頻內(nèi)容審核方面的文章相對(duì)較少，現(xiàn)有文章多從短視頻內(nèi)容生產(chǎn)、平臺(tái)以及行業(yè)生態(tài)和審核政策等方面進(jìn)行個(gè)案研究。這種現(xiàn)象值得深思。因此本文主要從“把關(guān)”角度對(duì)短視頻行業(yè)的內(nèi)容審核及其行業(yè)發(fā)展進(jìn)行研究，尋求突破路徑。

二、短視頻內(nèi)容審核的現(xiàn)實(shí)困境

作為新興社交形式的移動(dòng)短視頻在近些年的發(fā)展中呈現(xiàn)了流量與自律的矛盾,監(jiān)管與治理的推進(jìn)也進(jìn)入了一個(gè)新的層面。抖音作為算法中心論的擁躉者，通過(guò)算法推薦機(jī)制實(shí)現(xiàn)的移動(dòng)短視頻推送能讓網(wǎng)民們快速瀏覽到自己感興趣的視頻，然而內(nèi)容層面的把關(guān)短板，易導(dǎo)致低俗內(nèi)容的出現(xiàn)，算法過(guò)度推薦導(dǎo)致信息繭房現(xiàn)象也成為當(dāng)下引起社會(huì)爭(zhēng)議的關(guān)鍵問(wèn)題。針對(duì)此種現(xiàn)象，我國(guó)主要從宏觀層面對(duì)短視頻行業(yè)設(shè)置政府監(jiān)管機(jī)構(gòu)，并頒布相應(yīng)的法律制度；從微觀層面上對(duì)平臺(tái)的違規(guī)視頻給予相應(yīng)處罰，但這些規(guī)制措施仍存在一些函待解決的問(wèn)題。

（一）宏觀層面

1.監(jiān)管滯后，錯(cuò)失先機(jī)。我國(guó)對(duì)于移動(dòng)短視頻行業(yè)監(jiān)管多從機(jī)構(gòu)把關(guān)、內(nèi)容審核兩個(gè)層面進(jìn)行綜合調(diào)度。通過(guò)政策制定以及平臺(tái)管理兩個(gè)方面進(jìn)行綜合治理，卻缺乏詳細(xì)準(zhǔn)則的范圍標(biāo)準(zhǔn)，以及整個(gè)行業(yè)平臺(tái)的整體規(guī)劃。隨著短視頻逐漸成為用戶在線娛樂(lè)不可或缺的方式，流量與自律的矛盾也日益凸顯。基于平臺(tái)盈利性原則和行業(yè)準(zhǔn)入門檻低、用戶群體廣泛等特點(diǎn)，部分低俗、侵權(quán)短視頻內(nèi)容成為平臺(tái)的吸金石。抖音上的“網(wǎng)紅”大多容貌姣好、面容精致，依靠“美顏”吸引大學(xué)生，依靠低俗視頻走紅，使青少年在刷抖音的同時(shí)受到負(fù)面價(jià)值觀的裹挾。同時(shí)，用戶每天沉溺于抖音提供的膚淺娛樂(lè)、情色影音中，無(wú)異于吸食一種“精神鴉片”，嚴(yán)重危害青少年健康發(fā)展。因此，政府部門除了依據(jù)相關(guān)政策規(guī)定對(duì)平臺(tái)進(jìn)行準(zhǔn)入限制以外，也要加強(qiáng)事前準(zhǔn)備，實(shí)行“先行介入審核”機(jī)制，將違規(guī)視頻扼殺在搖籃中。

2.監(jiān)管主體多元共治，職責(zé)分工不明。短視頻行業(yè)的強(qiáng)勢(shì)發(fā)展改變傳媒市場(chǎng)格局，多領(lǐng)域的不斷滲透推動(dòng)網(wǎng)絡(luò)視聽行業(yè)格局的變化。抖音上也出現(xiàn)了許多政務(wù)短視頻、資訊視頻、直播帶貨等，然而對(duì)這些領(lǐng)域的監(jiān)管控制，卻并無(wú)專門行政機(jī)關(guān)部門對(duì)其負(fù)責(zé)，存在監(jiān)管與自由的灰色地帶。同時(shí)，對(duì)于同一問(wèn)題的多方共治也易造成行政成本的浪費(fèi)。此外，各團(tuán)體機(jī)構(gòu)、行業(yè)組織和用戶本應(yīng)發(fā)揮自身職能，發(fā)揮監(jiān)管主體作用，因?yàn)樗麄儾粌H是短視頻用戶的使用者，也是社會(huì)利益的受益者。對(duì)監(jiān)管與自由的夾層地帶，經(jīng)常處于“各人自掃門前雪，莫管他人瓦上霜”的態(tài)度，對(duì)自身職責(zé)不夠明晰。

（二）微觀層面

1.平臺(tái)自身定位模糊。作為社會(huì)公器，媒體平臺(tái)需承擔(dān)相應(yīng)的責(zé)任。字節(jié)跳動(dòng)雖屬于私營(yíng)媒體機(jī)構(gòu)，但內(nèi)部關(guān)系縱橫復(fù)雜，雖然沒(méi)有直接生產(chǎn)信息，但它通過(guò)整合用戶PGC內(nèi)容生產(chǎn)視頻，并為公眾提供視頻共享平臺(tái)，達(dá)到傳播目的，所以也隸屬于社會(huì)公器，需承擔(dān)相應(yīng)的社會(huì)責(zé)任。字節(jié)跳動(dòng)卻將自身定位為“信息科技公司”，將重心放在科技企業(yè)的角度，并未將自身定位成專業(yè)的媒體機(jī)構(gòu)，受到資本與流量的誘惑，對(duì)移動(dòng)短視頻內(nèi)容背后的價(jià)值觀缺乏主流性引導(dǎo)，影響行業(yè)生態(tài)的健康發(fā)展。

2.用戶媒介素養(yǎng)不足。當(dāng)前對(duì)抖音等短視頻亂象的治理思路更多停留在事后的懲戒和“關(guān)卡”的疏堵層面，很少將治理的角度移到內(nèi)容生產(chǎn)者身上。 在短視頻用戶和信息已經(jīng)達(dá)到海量，平臺(tái)審核能力有限，而現(xiàn)有的法律治理手段又難以保持同步的情況下，適時(shí)提升廣大用戶的媒介素養(yǎng)，對(duì)于抖音上的亂象，敢于發(fā)聲、表明態(tài)度、激濁揚(yáng)清，才能從源頭上解決短視頻領(lǐng)域出現(xiàn)的新問(wèn)題。

三、短視頻內(nèi)容審核突破路徑

（一）人工審核把關(guān)分層：多層級(jí)審核制度

近年來(lái)，人工智能技術(shù)逐步成熟，實(shí)現(xiàn)了廣泛應(yīng)用和落地。機(jī)器審核加人工審核模式在短視頻領(lǐng)域也得到了普遍應(yīng)用。例如今日頭條將人工審核進(jìn)行分層，設(shè)置初審、復(fù)審，增設(shè)質(zhì)檢，實(shí)行“N-N”審核模式，以提高人工審核效率與準(zhǔn)確度。抖音完全可以借用此模式，對(duì)人工審核進(jìn)行層級(jí)制，建立多層級(jí)審核制度，并在此基礎(chǔ)上加入人工智能模式，即AI+人工層級(jí)審核制度。這種內(nèi)容審核模式相對(duì)以往審核制度具有突出的優(yōu)勢(shì)。首先，它通過(guò)對(duì)數(shù)據(jù)的收集和整理能夠大幅提升審核效率；其次，依賴行業(yè)已有的規(guī)制模型，加之龐大的數(shù)據(jù)庫(kù)，能夠建立一套精確度極高的計(jì)算模型，降低疑似和誤判率，提高把關(guān)效能。

（二）外部把關(guān)合同發(fā)力：第三方平臺(tái)+用戶+專家

第三方事實(shí)核查制度在美國(guó)早有先例，美國(guó)政府為了監(jiān)管廣播、電視媒體，為此專門成立了聯(lián)邦通訊委員會(huì)（FCC）。作為“事實(shí)”核查者的第三方事實(shí)核查機(jī)構(gòu)，能為人們理性地判斷“表達(dá)自由”是否超越界限提供可信的參考依據(jù)。在具體操作層面上，可將第三方核查制分為兩種，第一種是將短視頻審核業(yè)務(wù)全權(quán)外包給獨(dú)立審查機(jī)構(gòu)。第三方能夠站在更加客觀的角度，對(duì)短視頻內(nèi)容進(jìn)行層層過(guò)濾，其審核質(zhì)量也相對(duì)較高。并且出于利益的角度，各個(gè)外包公司處于相互爭(zhēng)奪狀態(tài)，因此對(duì)于內(nèi)容審核的完成質(zhì)量會(huì)較為重視。另外一種則采用政府與企業(yè)合辦的第三方審核機(jī)制。如先行介入審核制，政府通過(guò)與第三方審核平臺(tái)進(jìn)行合作，能對(duì)國(guó)內(nèi)的短視頻平臺(tái)的操作運(yùn)行先行督導(dǎo)，提高審核效能，也對(duì)行業(yè)的整體管控了然于心。

用戶作為短視頻平臺(tái)的重要參與者，接觸頻率高、覆蓋范圍廣是其優(yōu)勢(shì)，平臺(tái)也可通過(guò)激勵(lì)機(jī)制吸引廣大用戶參與內(nèi)容審核的隊(duì)伍當(dāng)中，提高審核效率和審核成本，增強(qiáng)審核力量。除此之外，抖音可以專設(shè)質(zhì)量專家團(tuán)，開設(shè)專家綠色通道，面向社會(huì)邀請(qǐng)專業(yè)人士監(jiān)督平臺(tái)與服務(wù)，以學(xué)歷為重要基礎(chǔ)挑選對(duì)象。專家審核團(tuán)作為現(xiàn)有的監(jiān)管力量其作用不容忽視，專家分屬各個(gè)行業(yè)的“意見領(lǐng)袖”，對(duì)于行業(yè)發(fā)展?fàn)顩r往往有獨(dú)到見解，且在各自圈層影響力較強(qiáng)。各主體間協(xié)同把關(guān)，增強(qiáng)把關(guān)效能。

結(jié)語(yǔ)

總體而言，新媒體時(shí)代的短視頻內(nèi)容審核應(yīng)提倡“多方聯(lián)動(dòng)”“多元共治”的思維和模式；建立政府、行業(yè)、個(gè)人共同參與、協(xié)同努力的把關(guān)模式，合力提高短視頻的內(nèi)容生態(tài)建設(shè)。與此同時(shí)也要避免未來(lái)人們被算法等人工智能技術(shù)控制，在不知不覺中陷入算法的結(jié)構(gòu)性缺陷，或是沉迷于算法打造的擬態(tài)環(huán)境中無(wú)法自拔。

注釋：

[1]匡文波、鄧穎：《短視頻監(jiān)管與多重把關(guān)主體的范式轉(zhuǎn)型：把關(guān)理論的研究》，《中國(guó)編輯》2021年第4期

[2]彭蘭：《視頻化生存：移動(dòng)時(shí)代日常生活的媒介化》，《中國(guó)編輯》2020年第4期

[3]張雨晴：《彈幕互動(dòng)存在的問(wèn)題及其提升策略探析》，《傳媒論壇》2019年第3期

[4]王玉風(fēng)：《社交媒體短視頻亂象及治理》，《新聞?wù)搲?017年第4期

[5][7]張選中、遲宇辰：《5G時(shí)代影視內(nèi)容生產(chǎn)的漸進(jìn)策略》，《出版廣角》2020年第18期

[6]中國(guó)網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)：《〈網(wǎng)絡(luò)短視頻平臺(tái)管理規(guī)范〉〈網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則〉規(guī)定短視頻不得違反國(guó)家宗教政策法規(guī)》，《法音》2019年第2期

[8]陳奎蓮：《AI在數(shù)字出版內(nèi)容審核中的應(yīng)用研究》，《出版廣角》2020年第10期

[9]邱立楠：《短視頻平臺(tái)算法推薦的“異化”與“馴化”》，《中國(guó)編輯》2021年第4期

[10]李歡：《重思網(wǎng)絡(luò)社交平臺(tái)的內(nèi)容監(jiān)管責(zé)任》，《新聞界》2021年第3期

[11]長(zhǎng)平：《百度到底是不是社會(huì)公器》，《青年記者》2008年第34期

[12]田維鋼、張如東：《互聯(lián)網(wǎng)視聽節(jié)目?jī)?nèi)容監(jiān)管分析——以媒介規(guī)范理論為視角》，《青年記者》2017年第22期

[13]陸高峰：《加強(qiáng)媒介素養(yǎng)教育是治理新媒體之本》，《青年記者》2018年第36期

[14]李丹林、曹然：《以事實(shí)為尺度：網(wǎng)絡(luò)言論自由的界限與第三方事實(shí)核查》，《南京師大學(xué)報(bào)(社會(huì)科學(xué)版)》2018年第4期