算法技術(shù)意識(shí)形態(tài)屬性的生成邏輯及風(fēng)險(xiǎn)應(yīng)對(duì)

王天民，鄭麗麗

（北京師范大學(xué) 馬克思主義學(xué)院，北京 100875）

算法技術(shù)基于消費(fèi)行為、社交關(guān)系、個(gè)人信息等數(shù)據(jù)，對(duì)網(wǎng)民進(jìn)行數(shù)字“畫(huà)像”，實(shí)現(xiàn)信息的高效分發(fā)與內(nèi)容的精準(zhǔn)推送。受算法技術(shù)的影響，網(wǎng)絡(luò)意識(shí)形態(tài)的數(shù)智化水平顯著提升，信息傳播方式更加適配網(wǎng)民的個(gè)性化需求，但媒介生態(tài)格局的深刻變化也給網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)諸多問(wèn)題。諸如，算法技術(shù)與意識(shí)形態(tài)間存在何種內(nèi)在聯(lián)系？算法技術(shù)的意識(shí)形態(tài)屬性會(huì)產(chǎn)生何種現(xiàn)實(shí)影響？如何有效應(yīng)對(duì)算法技術(shù)意識(shí)形態(tài)屬性可能帶來(lái)的風(fēng)險(xiǎn)問(wèn)題？這些都成為新時(shí)代網(wǎng)絡(luò)意識(shí)形態(tài)安全領(lǐng)域亟待解決的重要問(wèn)題。正如習(xí)近平總書(shū)記指出的：“網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)問(wèn)題值得高度重視。”[1]要深入探析算法技術(shù)的意識(shí)形態(tài)屬性，認(rèn)真審視算法技術(shù)意識(shí)形態(tài)屬性的現(xiàn)實(shí)風(fēng)險(xiǎn)，并采取行之有效的應(yīng)對(duì)措施，這對(duì)維護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全來(lái)說(shuō)十分必要、意義重大。

一、算法技術(shù)意識(shí)形態(tài)屬性的生成邏輯

從意識(shí)形態(tài)的視角考察算法技術(shù)，首先要正確理解科學(xué)技術(shù)與意識(shí)形態(tài)的關(guān)系。學(xué)界關(guān)于科學(xué)技術(shù)與意識(shí)形態(tài)間的關(guān)系有著不同的觀點(diǎn)。一方面，以阿爾都塞為代表的學(xué)者認(rèn)為科學(xué)技術(shù)不是意識(shí)形態(tài)，二者性質(zhì)不同、不容混淆。在《保衛(wèi)馬克思》中，阿爾都塞將“科學(xué)技術(shù)”與“意識(shí)形態(tài)”看作相互對(duì)立的概念，二者間的“認(rèn)識(shí)論斷裂”意味著從意識(shí)形態(tài)到科學(xué)必須經(jīng)歷認(rèn)識(shí)論上的質(zhì)的飛躍。另一方面，以馬爾庫(kù)塞、哈貝馬斯、芬伯格為代表的法蘭克福學(xué)派學(xué)者則認(rèn)為科學(xué)技術(shù)是一種意識(shí)形態(tài)。馬爾庫(kù)塞在《單向度的人》一書(shū)中指出技術(shù)理性本身就是一種意識(shí)形態(tài)，他認(rèn)為科學(xué)技術(shù)在發(fā)達(dá)工業(yè)國(guó)家不僅是極具潛力的主要生產(chǎn)力，還是行政機(jī)關(guān)暴力合法化的意識(shí)形態(tài)新形式。在此基礎(chǔ)上，哈貝馬斯進(jìn)一步指出科學(xué)技術(shù)就是意識(shí)形態(tài)，原因在于科學(xué)技術(shù)正發(fā)揮著超越技術(shù)本身的意識(shí)形態(tài)功能，蘊(yùn)含在科學(xué)技術(shù)中的合理性成了新的意識(shí)形態(tài)的靈魂。伴隨網(wǎng)絡(luò)信息技術(shù)的發(fā)展，芬伯格將互聯(lián)網(wǎng)技術(shù)同意識(shí)形態(tài)相結(jié)合，指出“技術(shù)能夠構(gòu)成一個(gè)自主的文化系統(tǒng)”[2]。綜合來(lái)看，這兩類(lèi)觀點(diǎn)都存在一定的片面性，無(wú)法完全反映科學(xué)技術(shù)與意識(shí)形態(tài)間的內(nèi)在關(guān)聯(lián)。考察算法技術(shù)的意識(shí)形態(tài)屬性，需要回歸馬克思主義的世界觀和方法論。在馬克思、恩格斯看來(lái)，科學(xué)技術(shù)與意識(shí)形態(tài)之間既有本質(zhì)上的性質(zhì)區(qū)分，同時(shí)又存在不可分割的必然聯(lián)系。一方面，科學(xué)技術(shù)是先進(jìn)生產(chǎn)資料的表現(xiàn)形式，是推動(dòng)生產(chǎn)力發(fā)展的重要組成部分，而意識(shí)形態(tài)作為社會(huì)歷史發(fā)展的上層建筑，從屬于生產(chǎn)關(guān)系的范疇，二者在性質(zhì)上存在根本性的差異，不能混為一談。另一方面，科學(xué)技術(shù)與勞動(dòng)者、勞動(dòng)工具和勞動(dòng)對(duì)象間的緊密聯(lián)系，在無(wú)形中會(huì)影響生產(chǎn)關(guān)系和社會(huì)關(guān)系的發(fā)展，實(shí)際地發(fā)揮著意識(shí)形態(tài)的功能和作用。在此觀點(diǎn)的支持下，算法技術(shù)的意識(shí)形態(tài)屬性主要體現(xiàn)為以下幾個(gè)方面。

首先，算法技術(shù)的開(kāi)發(fā)、設(shè)計(jì)與運(yùn)行過(guò)程中隱藏著專(zhuān)業(yè)人員的主觀思想和傾向。算法技術(shù)通過(guò)代碼編寫(xiě)、數(shù)字建模和邏輯運(yùn)算，在計(jì)算機(jī)程序中進(jìn)行信息的海量化搜集、標(biāo)簽化處理、個(gè)性化推送。算法技術(shù)是人類(lèi)理性設(shè)計(jì)的產(chǎn)物，其開(kāi)發(fā)設(shè)計(jì)與操作運(yùn)行都必須經(jīng)由專(zhuān)業(yè)人員操作。專(zhuān)業(yè)人員在設(shè)計(jì)和操控算法技術(shù)時(shí)，總是會(huì)自覺(jué)或不自覺(jué)地將個(gè)人的主觀意愿映射到技術(shù)原理和操作流程中。因而，算法技術(shù)的實(shí)際運(yùn)行總是會(huì)受到專(zhuān)業(yè)人員知識(shí)水平、市場(chǎng)觀念、專(zhuān)業(yè)技能等因素的影響。其一，專(zhuān)業(yè)人員依據(jù)對(duì)象、場(chǎng)景與效果等因素，開(kāi)發(fā)和設(shè)計(jì)出基于內(nèi)容的推薦、協(xié)同過(guò)濾推薦、關(guān)聯(lián)規(guī)則推薦和組合推薦等算法技術(shù)類(lèi)型。然而事實(shí)上，由于單一算法技術(shù)類(lèi)型難以滿足網(wǎng)民的多重需求，專(zhuān)業(yè)人員還需要不斷對(duì)算法技術(shù)的類(lèi)型組合進(jìn)行統(tǒng)籌安排、升級(jí)變革。具體而言，專(zhuān)業(yè)人員依據(jù)網(wǎng)民的信息需求，提出設(shè)計(jì)方案，規(guī)劃技術(shù)路徑，并依據(jù)歷史記錄和使用慣例選擇、配置、組合最優(yōu)方案，從而實(shí)現(xiàn)信息的個(gè)性化推送與場(chǎng)景的多維化適配。其二，專(zhuān)業(yè)人員會(huì)將自身的情感偏好和價(jià)值傾向注入到信息篩選過(guò)程中，也就是說(shuō)“算法設(shè)計(jì)者的價(jià)值觀，無(wú)論有意與否都被凍結(jié)在代碼中”[3]。專(zhuān)業(yè)人員的興趣偏好、道德修養(yǎng)、階級(jí)立場(chǎng)以及所處社會(huì)環(huán)境的風(fēng)俗習(xí)慣、文化傳統(tǒng)、倫理觀念，都會(huì)造成專(zhuān)業(yè)人員有選擇性地推薦或屏蔽某些信息，影響算法技術(shù)的信息篩選、分發(fā)、推送。簡(jiǎn)言之，算法技術(shù)不可避免地會(huì)受到專(zhuān)業(yè)人員主觀意愿的影響和支配，帶有不可磨滅的意識(shí)形態(tài)印痕。

其次，算法技術(shù)的運(yùn)行結(jié)果會(huì)影響網(wǎng)民的思想觀念和價(jià)值判斷。算法技術(shù)的推廣普及正在改變信息的分發(fā)和傳播方式，深刻影響著網(wǎng)民的價(jià)值觀念和行為實(shí)踐。其一，相較于強(qiáng)制性的傳統(tǒng)硬“灌輸”，算法技術(shù)以網(wǎng)民可接受的柔和方式開(kāi)展宣傳教育。它通過(guò)消解傳統(tǒng)主流媒體自上而下的信息傳播路徑，改變傳統(tǒng)主流媒體集中控制的大眾傳播范式，實(shí)現(xiàn)由“人找信息”到“信息找人”的重要轉(zhuǎn)變。“在算法為王的時(shí)代，一切被納入算法中，算法是否具有價(jià)值偏向、算法能否得出客觀公正的結(jié)論、大數(shù)據(jù)是否一定是完備的數(shù)據(jù)等，這些都會(huì)左右算法的結(jié)果，進(jìn)而影響人的觀念和行為。”[4]其二，算法技術(shù)通過(guò)有選擇性地進(jìn)行數(shù)據(jù)分析處理，影響網(wǎng)民對(duì)信息的準(zhǔn)確理解和判斷。算法技術(shù)的運(yùn)行速度快、耗費(fèi)成本低、經(jīng)濟(jì)效益高，能夠幫助網(wǎng)民更好地完成數(shù)據(jù)分析處理工作，提升工作效率。但是，算法技術(shù)在數(shù)據(jù)采集、傳遞、解讀、分析的過(guò)程中，常常存在數(shù)據(jù)歧視、數(shù)據(jù)造假、數(shù)據(jù)濫用等現(xiàn)象，難以保證數(shù)據(jù)結(jié)果的客觀公正。造成這些現(xiàn)象的原因在于：數(shù)據(jù)處理過(guò)程及其結(jié)果總是受到資本或權(quán)力的隱形操控，服務(wù)于特定的群體或目標(biāo)，具有明顯的意識(shí)形態(tài)偏向。各類(lèi)群體或機(jī)構(gòu)有目的性地選取和分析“有利”數(shù)據(jù)，或是對(duì)數(shù)據(jù)間的相關(guān)關(guān)系進(jìn)行牽強(qiáng)附會(huì)的過(guò)度解讀，最終得出符合預(yù)期目標(biāo)和利益訴求的數(shù)據(jù)結(jié)果。這些經(jīng)過(guò)人為加工的數(shù)據(jù)結(jié)果極易誤導(dǎo)網(wǎng)民對(duì)信息的判斷與選擇，買(mǎi)熱搜、雇水軍、刷評(píng)論等數(shù)據(jù)造假行為嚴(yán)重?cái)_亂意識(shí)形態(tài)秩序。

再次，算法技術(shù)的運(yùn)行過(guò)程受資本邏輯操縱，服務(wù)于特定的商業(yè)目的。資本在本質(zhì)上是追求剩余價(jià)值的價(jià)值。算法技術(shù)的市場(chǎng)潛力大，盈利空間大，商業(yè)資本的逐利天性能夠?yàn)樗惴夹g(shù)提供物質(zhì)支持，加速算法技術(shù)的商業(yè)化發(fā)展。算法技術(shù)的開(kāi)發(fā)設(shè)計(jì)周期長(zhǎng)、成本高、難度大，前期需要巨額的人力、物力、財(cái)力支持。各類(lèi)算法平臺(tái)的強(qiáng)勢(shì)資本投入加快算法技術(shù)的技術(shù)研發(fā)和應(yīng)用進(jìn)程，推動(dòng)算法技術(shù)在社會(huì)生活中的推廣普及。然而事實(shí)上，資本逐利的市場(chǎng)化驅(qū)動(dòng)也造成了網(wǎng)民的信息混亂、認(rèn)知偏向、行為偏差，引發(fā)和加劇了網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)。在馬克思看來(lái)，“一旦有適當(dāng)?shù)睦麧?rùn)，資本就膽大起來(lái)……為了100%的利潤(rùn)，它就敢踐踏一切人間法律；有300%的利潤(rùn)，它就敢犯任何罪行，甚至冒絞首的危險(xiǎn)”[5]871。無(wú)限度的資本逐利在實(shí)踐中催生出“利益至上”的信息分發(fā)原則與“流量”崇拜的市場(chǎng)運(yùn)作模式。算法平臺(tái)為增強(qiáng)用戶黏性、實(shí)現(xiàn)流量變現(xiàn)，不斷迎合用戶趣味、滿足獵奇心理、制造緋聞噱頭，以獲取更高的點(diǎn)擊量、訪問(wèn)量和關(guān)注度。在資本風(fēng)向標(biāo)的牽引下，算法平臺(tái)可以將這些流量轉(zhuǎn)換為熱度和資本，實(shí)現(xiàn)商業(yè)獲利、資本增值。在資本市場(chǎng)邏輯和商業(yè)逐利天性的支配下，算法平臺(tái)逐漸表現(xiàn)出重流量而輕質(zhì)量的傾向，出現(xiàn)“魏則西事件”、營(yíng)銷(xiāo)號(hào)惡意炒作、脫口秀肆意“玩梗”等現(xiàn)象。這些逐利現(xiàn)象導(dǎo)致低質(zhì)量信息泛濫，嚴(yán)重?cái)_亂網(wǎng)絡(luò)意識(shí)形態(tài)空間秩序。

最后，算法技術(shù)極易“異化”為資本主義意識(shí)形態(tài)的輸出工具，為不良思想傳播提供技術(shù)“自由場(chǎng)域”。算法技術(shù)顛覆傳統(tǒng)信息傳播模式，形成信息推送與用戶需求精準(zhǔn)匹配的新模式。在算法技術(shù)場(chǎng)域中，社會(huì)主義和資本主義兩種意識(shí)形態(tài)的斗爭(zhēng)和較量越發(fā)復(fù)雜，給我國(guó)網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)諸多挑戰(zhàn)。一是信息霸權(quán)的挑戰(zhàn)。在全球網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域“西強(qiáng)我弱”“西攻我守”的格局下，西方發(fā)達(dá)資本主義國(guó)家憑借先在的軟件技術(shù)和硬件設(shè)備優(yōu)勢(shì)，持續(xù)對(duì)我國(guó)進(jìn)行意識(shí)形態(tài)滲透、攻擊、破壞。在全球網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域中，80%以上的網(wǎng)絡(luò)信息和95%以上的服務(wù)信息都由美國(guó)提供，超過(guò)2/3 的國(guó)際互聯(lián)網(wǎng)信息流量來(lái)自美國(guó)，而我國(guó)在整個(gè)互聯(lián)網(wǎng)的信息輸入、輸出流量中僅占0.1%和0.05%[6]。西方國(guó)家通過(guò)編制帶有算法偏見(jiàn)的程序應(yīng)用，將算法技術(shù)作為西方價(jià)值觀出口到全世界的終端工具，試圖在全球范圍內(nèi)操控輿論走向、壟斷規(guī)則制定權(quán)、控制國(guó)際話語(yǔ)權(quán)。二是價(jià)值多元化的挑戰(zhàn)。西方國(guó)家借助算法技術(shù)實(shí)施“顏色革命”和“和平演變”，將資本主義意識(shí)形態(tài)和錯(cuò)誤思潮觀點(diǎn)輸送到我國(guó)網(wǎng)絡(luò)空間中。他們通過(guò)貶低社會(huì)主義意識(shí)形態(tài)、宣揚(yáng)資本主義意識(shí)形態(tài)，將“西式民主”描繪為“救世良方”，把西方價(jià)值標(biāo)準(zhǔn)說(shuō)成是“普世價(jià)值”，強(qiáng)行向他國(guó)灌輸推銷(xiāo)資產(chǎn)階級(jí)思想、文化與制度。他們還通過(guò)算法技術(shù)大肆推送“意識(shí)形態(tài)終結(jié)論”“意識(shí)形態(tài)中立論”等錯(cuò)誤價(jià)值觀，對(duì)我國(guó)網(wǎng)絡(luò)主流意識(shí)形態(tài)造成極大沖擊。此外，他們還以我國(guó)網(wǎng)絡(luò)空間中存在的社會(huì)問(wèn)題為突破口，極力攻擊、歪曲和抹黑中國(guó)特色社會(huì)主義道路、制度和理論，威脅我國(guó)網(wǎng)絡(luò)意識(shí)形態(tài)安全。

二、算法技術(shù)意識(shí)形態(tài)屬性的現(xiàn)實(shí)風(fēng)險(xiǎn)

算法技術(shù)在網(wǎng)絡(luò)空間中的廣泛應(yīng)用，使其逐漸超越工具屬性，以技術(shù)的邏輯和規(guī)則實(shí)際地發(fā)揮著意識(shí)形態(tài)功能。算法技術(shù)意識(shí)形態(tài)屬性的間接性特征，讓網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)變得更加隱蔽、復(fù)雜和泛化，引發(fā)“信息繭房”、把關(guān)轉(zhuǎn)移、娛樂(lè)泛化、圈層壁壘等一系列現(xiàn)實(shí)問(wèn)題。

（一）“信息繭房”弱化網(wǎng)絡(luò)意識(shí)形態(tài)的價(jià)值引領(lǐng)

“信息繭房”是指網(wǎng)民在通信領(lǐng)域中“只聽(tīng)自己選擇的東西和使自己愉悅的東西”[7]，久而久之將自身像蠶繭一般束縛于封閉的信息空間中。算法技術(shù)依據(jù)網(wǎng)民的興趣偏好進(jìn)行信息推送，長(zhǎng)期的同質(zhì)化信息推送將人桎梏于“信息繭房”中，削弱網(wǎng)絡(luò)意識(shí)形態(tài)的現(xiàn)實(shí)傳播力和價(jià)值引導(dǎo)力。

“信息繭房”引發(fā)信息窄化，弱化網(wǎng)絡(luò)主流意識(shí)形態(tài)的價(jià)值傳播。算法技術(shù)通過(guò)收集和分析用戶的搜索記錄、瀏覽足跡、日志動(dòng)態(tài)，依據(jù)其興趣偏好和價(jià)值傾向進(jìn)行投其所好的定向信息投放。這種私人訂制的信息分發(fā)方式在滿足網(wǎng)民個(gè)性化信息需求的同時(shí)，也會(huì)限制網(wǎng)民的信息獲取廣度和思想認(rèn)識(shí)深度，導(dǎo)致網(wǎng)民的信息獲取渠道固定化、信息接收窄化。“繭房”中的網(wǎng)民習(xí)慣于根據(jù)偏好選擇特定的信息渠道，有意或無(wú)意地屏蔽、排除其他渠道的信息，造成傳統(tǒng)主流媒體自上而下、集中控制的信息傳播方式難以發(fā)揮效用，網(wǎng)絡(luò)主流意識(shí)形態(tài)傳統(tǒng)優(yōu)勢(shì)地位旁落。此外，長(zhǎng)期的同質(zhì)化信息推送還會(huì)引發(fā)和強(qiáng)化網(wǎng)民的“信息繭房”效應(yīng)，非但無(wú)法滿足網(wǎng)民全方位的信息需求，反而還會(huì)加劇網(wǎng)民的信息“偏食”和認(rèn)知偏差。

“信息繭房”加劇認(rèn)知固化，弱化網(wǎng)絡(luò)意識(shí)形態(tài)的價(jià)值引導(dǎo)。算法技術(shù)大都根據(jù)網(wǎng)民既往的瀏覽偏好來(lái)進(jìn)行個(gè)性分析，在此基礎(chǔ)上持續(xù)推薦同類(lèi)信息。在實(shí)踐中，算法技術(shù)能夠通過(guò)追蹤網(wǎng)民的點(diǎn)贊、評(píng)論與轉(zhuǎn)發(fā)數(shù)據(jù)，預(yù)測(cè)網(wǎng)民的興趣偏好、思想觀念和價(jià)值立場(chǎng)。有調(diào)查表明，當(dāng)所追蹤的“點(diǎn)贊”數(shù)超過(guò)300 個(gè)時(shí)，數(shù)據(jù)分析就能夠深入到用戶的潛意識(shí)層面，產(chǎn)生“比你自己更了解你自己”的效果[8]。“善解人意”的算法技術(shù)會(huì)依據(jù)網(wǎng)民的主觀意愿推送信息，拒斥與偏好不符的異質(zhì)化信息，遮蔽共識(shí)性的正統(tǒng)教育內(nèi)容。而意識(shí)形態(tài)“共同‘視角’的缺乏，意味著人們對(duì)一些事實(shí)的判斷會(huì)出現(xiàn)差異，共識(shí)難以形成”[9]。“信息繭房”中的網(wǎng)民長(zhǎng)期依賴算法技術(shù)，缺乏主流意識(shí)形態(tài)共識(shí)，存在思維模式和認(rèn)知結(jié)構(gòu)的固化傾向。通過(guò)分析技術(shù)依賴與人腦功能退化之間的聯(lián)系，施皮茨爾認(rèn)為“推送即瀏覽”的信息獲取方式并不能使人腦得到充分發(fā)展，反而會(huì)使人的思考能力和認(rèn)知水平下降，導(dǎo)致“數(shù)字癡呆化”。而“信息繭房”內(nèi)持續(xù)的同質(zhì)化信息“投喂”會(huì)加劇網(wǎng)民的“數(shù)字癡呆化”，使其難以全面認(rèn)識(shí)、深度思考信息內(nèi)容，導(dǎo)致主流意識(shí)形態(tài)價(jià)值引導(dǎo)作用難以發(fā)揮效用。

（二）把關(guān)轉(zhuǎn)移消解網(wǎng)絡(luò)意識(shí)形態(tài)的人文關(guān)懷

隨著傳播環(huán)境的變遷，信息“把關(guān)人”的作用逐漸被算法技術(shù)和網(wǎng)民所取代，由其對(duì)網(wǎng)絡(luò)信息進(jìn)行選擇、分析、處理與審核。“把關(guān)人”權(quán)力向算法技術(shù)的轉(zhuǎn)移有助于推動(dòng)信息審核提質(zhì)增效，但也會(huì)消解網(wǎng)絡(luò)意識(shí)形態(tài)的人文關(guān)懷與情感互動(dòng)。

機(jī)械化的算法把關(guān)程序阻礙主流價(jià)值觀念的現(xiàn)實(shí)彰顯。傳統(tǒng)媒體的把關(guān)權(quán)由記者、編輯等媒體人掌握，他們秉持主流價(jià)值導(dǎo)向進(jìn)行專(zhuān)業(yè)判斷和內(nèi)容審核。然而，媒體人把關(guān)對(duì)人員素質(zhì)要求較高、審核效率偏低，無(wú)法完全滿足網(wǎng)絡(luò)時(shí)代龐大的信息審核需求，因而將把關(guān)權(quán)逐步讓渡給高效智能的算法技術(shù)。算法技術(shù)借助預(yù)設(shè)的計(jì)算機(jī)程序代碼，能夠快速地對(duì)海量信息進(jìn)行篩選、過(guò)濾、審核，提升信息審核分發(fā)效率，但機(jī)械的算法審核過(guò)程難以完全體現(xiàn)意識(shí)形態(tài)的情感互動(dòng)和價(jià)值關(guān)切。算法把關(guān)依據(jù)數(shù)據(jù)、規(guī)則、程序進(jìn)行工具的標(biāo)準(zhǔn)答案比對(duì)和標(biāo)注，表現(xiàn)為重“速度”、輕“溫度”。算法技術(shù)運(yùn)用數(shù)據(jù)模型和邏輯演算進(jìn)行信息初篩，接著對(duì)標(biāo)題、關(guān)鍵詞、標(biāo)簽、分類(lèi)詞等信息進(jìn)行特別關(guān)注和對(duì)比識(shí)別，最終經(jīng)由計(jì)算機(jī)程序輸出審核結(jié)果。環(huán)環(huán)緊扣的運(yùn)行程序，難以嵌入并彰顯意識(shí)形態(tài)的價(jià)值關(guān)切。此外，看似客觀中立的算法把關(guān)背后潛藏著用戶需求至上的基本原則。算法把關(guān)建立在算法信息推送的基礎(chǔ)上，個(gè)性化信息推送是算法把關(guān)的內(nèi)容來(lái)源。也就是說(shuō)，符合網(wǎng)民偏好的信息將被優(yōu)先推送和審核，而不受青睞的主流意識(shí)形態(tài)內(nèi)容則會(huì)較少被推送和審核，甚至可能會(huì)因?yàn)楸粯?biāo)記為“不感興趣”而被擠出算法審核范圍，主流意識(shí)形態(tài)內(nèi)容很難得到應(yīng)有的關(guān)注。

工具化的算法審核流程淡化意識(shí)形態(tài)的人文情懷。算法把關(guān)借助事先設(shè)定的計(jì)算機(jī)程序代碼，將審核內(nèi)容與既有的詞匯庫(kù)和語(yǔ)料庫(kù)進(jìn)行對(duì)比識(shí)別，從而推斷審核內(nèi)容的信息真?zhèn)巍r(jià)值傾向、情感反應(yīng)是否合理。固定化的算法技術(shù)審核流程能夠?qū)π畔⑦M(jìn)行有限的初步篩選，但卻無(wú)法實(shí)現(xiàn)對(duì)內(nèi)容的精準(zhǔn)把關(guān)。一方面，流水線化的算法審核流程難以體現(xiàn)網(wǎng)民的個(gè)體能動(dòng)性。以“微博熱搜”的算法把關(guān)機(jī)制為例，平臺(tái)通過(guò)將“熱搜”量化為時(shí)新性、流行性、參與性、導(dǎo)向性等具體指標(biāo)，沿著設(shè)定的算法審核流程對(duì)相關(guān)信息進(jìn)行把關(guān)，建構(gòu)“大家正在搜”的擬態(tài)環(huán)境[10]。然而，事實(shí)上的“大家”并非真實(shí)存在的個(gè)體，網(wǎng)民在審核流程中發(fā)揮的作用微乎其微，真正起作用的是“熱搜”算法預(yù)設(shè)流程中對(duì)“大家”的預(yù)期。另一方面，網(wǎng)絡(luò)意識(shí)形態(tài)是具有強(qiáng)烈人文價(jià)值關(guān)懷的觀念體系，內(nèi)蘊(yùn)豐富的情感特質(zhì)、態(tài)度傾向、人性差異，而這些彰顯意識(shí)形態(tài)人文關(guān)懷的內(nèi)容卻在審核過(guò)程中被簡(jiǎn)化為無(wú)差別的數(shù)字代碼，難以準(zhǔn)確傳遞和表達(dá)內(nèi)容中的情感意向。工具化的算法審核流程造成意識(shí)形態(tài)內(nèi)蘊(yùn)的人文情懷被逐層稀釋、淡化甚至消除，加劇工具理性僭越價(jià)值理性的意識(shí)形態(tài)風(fēng)險(xiǎn)。

（三）娛樂(lè)泛化沖擊網(wǎng)絡(luò)意識(shí)形態(tài)的內(nèi)容傳播

在以資本逐利為導(dǎo)向的商業(yè)邏輯驅(qū)使下，分發(fā)效率超越內(nèi)容質(zhì)量成為算法技術(shù)的信息推送依據(jù)，造成娛樂(lè)化信息擠壓主流意識(shí)形態(tài)內(nèi)容空間，網(wǎng)絡(luò)空間“劣幣驅(qū)逐良幣”，主流意識(shí)形態(tài)內(nèi)容受到極大沖擊。

從內(nèi)容“需求側(cè)”出發(fā)，網(wǎng)民是算法技術(shù)的使用者和消費(fèi)者，算法技術(shù)堅(jiān)持以用戶為導(dǎo)向提供信息服務(wù)。網(wǎng)民在較為私密的移動(dòng)終端使用中表現(xiàn)為“獵奇心重，對(duì)低俗內(nèi)容較為敏感”[11]，娛樂(lè)化的低質(zhì)量信息往往比主流意識(shí)形態(tài)內(nèi)容更受關(guān)注，獲得更高的點(diǎn)擊度、關(guān)注度、討論度。對(duì)于以商業(yè)逐利為目標(biāo)的算法平臺(tái)而言，點(diǎn)擊度、關(guān)注度、討論度意味著流量、熱度和利潤(rùn)，“流量至上”“數(shù)據(jù)至上”取代內(nèi)容質(zhì)量成為衡量推送信息價(jià)值的評(píng)判標(biāo)準(zhǔn)。算法平臺(tái)通過(guò)挖掘和放大網(wǎng)民的信息需求，持續(xù)推送符合偏好的娛樂(lè)化信息，加劇泛娛樂(lè)化思潮的傳播。在算法技術(shù)過(guò)程中，“有意義”的內(nèi)容不如“有意思”的內(nèi)容吸引人，宏大嚴(yán)肅的意識(shí)形態(tài)宣講不如嬉笑怒罵更受人追捧，嚴(yán)肅的批評(píng)教訓(xùn)不如嘲諷幽默更能吸粉出圈。如果網(wǎng)民長(zhǎng)期沉浸于暫時(shí)性的精神愉悅和感官刺激中，很可能將個(gè)人的娛樂(lè)偏好當(dāng)作普適標(biāo)準(zhǔn)，抵觸和排斥主流意識(shí)形態(tài)內(nèi)容以及其他有益信息。

從內(nèi)容“供給側(cè)”出發(fā)，算法平臺(tái)通過(guò)推送娛樂(lè)化信息來(lái)取悅和愉悅網(wǎng)民，實(shí)現(xiàn)流量變現(xiàn)和資本增值。但過(guò)度迎合網(wǎng)民需求的信息推送行為，會(huì)干擾網(wǎng)民的價(jià)值判斷和選擇，造成網(wǎng)絡(luò)空間的價(jià)值偏移和行為越軌。算法技術(shù)的意識(shí)形態(tài)屬性使其具有不同于其他商業(yè)領(lǐng)域的公共職責(zé)。算法平臺(tái)不僅是遵從商業(yè)邏輯的技術(shù)平臺(tái)、商業(yè)平臺(tái)，還是意識(shí)形態(tài)信息傳播的公共平臺(tái)。這要求算法平臺(tái)在追求商業(yè)盈利的同時(shí)必須承擔(dān)起社會(huì)責(zé)任。但事實(shí)上，一些平臺(tái)專(zhuān)門(mén)提供“買(mǎi)熱搜”“置頂”“推薦”“刪帖”等不正當(dāng)信息服務(wù)，甚至雇用網(wǎng)絡(luò)推手和網(wǎng)絡(luò)打手推廣營(yíng)銷(xiāo)軟文、策劃熱點(diǎn)事件、組織網(wǎng)絡(luò)攻擊。這些不良平臺(tái)生產(chǎn)、制造和傳播大量虛假信息、有害信息，弱化信息分發(fā)與傳播的公共職責(zé)，讓算法技術(shù)成為資本興風(fēng)作浪的工具，嚴(yán)重危害網(wǎng)絡(luò)意識(shí)形態(tài)安全。

（四）圈層壁壘降低網(wǎng)絡(luò)意識(shí)形態(tài)的觀念認(rèn)同

算法技術(shù)依據(jù)用戶標(biāo)簽和社交關(guān)系進(jìn)行信息匹配，將具有相似偏好的用戶聚集在一起，形成內(nèi)部?jī)r(jià)值觀念同質(zhì)化的網(wǎng)絡(luò)圈層。同時(shí)，不同圈層間的價(jià)值觀念差異形成信息壁壘，導(dǎo)致主流意識(shí)形態(tài)難以“入圈”傳播，降低圈層成員對(duì)主流意識(shí)形態(tài)的觀念認(rèn)同。

同質(zhì)化的圈內(nèi)價(jià)值觀念增大圈層信息壁壘，阻礙主流價(jià)值觀念的“入圈”傳播。算法技術(shù)依據(jù)個(gè)人信息和社交關(guān)系進(jìn)行關(guān)聯(lián)規(guī)則推薦，在拓寬好友范圍、壯大圈層規(guī)模的同時(shí)，也會(huì)放大不同群體間的價(jià)值觀念差異，加大圈層信息壁壘。算法平臺(tái)將社交關(guān)系納入用戶信息源，通過(guò)獲取和分析通信錄、好友列表、關(guān)注列表、社交賬號(hào)等信息，挖掘相似興趣標(biāo)簽間的社交關(guān)聯(lián)，進(jìn)而以“附近的人”“好友推薦”“可能認(rèn)識(shí)”等方式推送信息。網(wǎng)民可以根據(jù)興趣偏好和價(jià)值取向篩選信息，判斷社交關(guān)系的親疏遠(yuǎn)近以及自身與圈層間的適配性，主動(dòng)建構(gòu)并融入相應(yīng)的圈層中。這意味著圈內(nèi)成員接收到的大多是符合偏好的信息推送，圈外的有用信息難以“入圈”傳播，圈層內(nèi)外形成一道隱形的信息“隔離墻”。一方面，圈內(nèi)高度同質(zhì)化的興趣偏好和價(jià)值觀念，會(huì)在群體氛圍中形成強(qiáng)化個(gè)體觀點(diǎn)的“回音室”效應(yīng)，圈層成員的思想觀點(diǎn)和感性情緒會(huì)被無(wú)限放大。一些成員的錯(cuò)誤觀點(diǎn)和自發(fā)行為可能會(huì)在群體氛圍的發(fā)酵下演變?yōu)閿?shù)據(jù)造假、“氪金打榜”等非理性行為。另一方面，長(zhǎng)期的算法信息推送還會(huì)加深圈層間的信息偏差，增大圈層間的信息隔閡。受圈層間價(jià)值觀念差異的影響，圈層成員往往只認(rèn)同自身所處的圈層，并不自覺(jué)地產(chǎn)生盲目排他的態(tài)度。圈層內(nèi)外成員互不理解、互不認(rèn)同，極易出現(xiàn)頻繁投訴、惡性舉報(bào)等圈層對(duì)立甚至對(duì)抗行為，嚴(yán)重阻礙主流價(jià)值觀念傳播。

“去中心化”的圈層傳播結(jié)構(gòu)增大溝通壁壘，降低圈層成員對(duì)主流意識(shí)形態(tài)的接受度和認(rèn)可度。圈層傳播的“去中心化”主要表現(xiàn)為網(wǎng)絡(luò)主體結(jié)構(gòu)由單中心演變?yōu)槎嘀行模畔⑸a(chǎn)的全民性和意見(jiàn)領(lǐng)袖的多樣性分散網(wǎng)民對(duì)主流意識(shí)形態(tài)的注意力和關(guān)注度。圈層意見(jiàn)領(lǐng)袖是圈層中的核心人物，影響力大、活躍性強(qiáng)、認(rèn)同度高，能夠影響和改變成員的思想行為。算法技術(shù)通過(guò)向圈層成員推送相似興趣社群的意見(jiàn)領(lǐng)袖，增強(qiáng)成員的圈層黏性，具體包括：利用多特征挖掘算法（Multi-Feature PageRank，MFP）進(jìn)行意見(jiàn)領(lǐng)袖識(shí)別；利用基于網(wǎng)頁(yè)排名算法（PageRank）進(jìn)行意見(jiàn)領(lǐng)袖挖掘。然而在現(xiàn)實(shí)中，算法技術(shù)往往同時(shí)借助多種媒體進(jìn)行傳播，使得同一圈層在不同社交平臺(tái)上的意見(jiàn)領(lǐng)袖有所不同。而不同意見(jiàn)領(lǐng)袖間的思想分歧又會(huì)造成成員的認(rèn)知偏差，加大圈層成員與意見(jiàn)領(lǐng)袖以及意見(jiàn)領(lǐng)袖之間的溝通壁壘。此外，當(dāng)圈層成員對(duì)意見(jiàn)領(lǐng)袖們的思想觀念存在異議時(shí)，往往會(huì)迫于群體壓力和被孤立的恐懼而選擇沉默，這使得圈層內(nèi)仿佛只存在意見(jiàn)領(lǐng)袖的觀點(diǎn)和看法，圈層成員的意見(jiàn)顯得微不足道，極易產(chǎn)生群體分化乃至極化現(xiàn)象。一旦群體分化，圈層成員所“看到的是他們所期望看到的，道德評(píng)判通過(guò)充滿感情的刻板成見(jiàn)、標(biāo)志符號(hào)、幻象而在這其中起到引導(dǎo)作用”[12]。他們通過(guò)搜索支持自身觀點(diǎn)的信息進(jìn)行身份確證，即便有些觀念存在事實(shí)性錯(cuò)誤，他們也會(huì)對(duì)此堅(jiān)信不疑。這種如同被“洗腦”般的盲信盲從，催生出粉絲為偶像“倒奶”打投等荒誕行徑，增大主流意識(shí)形態(tài)的傳播難度。

三、算法技術(shù)意識(shí)形態(tài)屬性的風(fēng)險(xiǎn)應(yīng)對(duì)

面對(duì)算法技術(shù)帶給網(wǎng)絡(luò)意識(shí)形態(tài)的諸多挑戰(zhàn)，保障網(wǎng)絡(luò)意識(shí)形態(tài)安全必須理性看待技術(shù)應(yīng)用的現(xiàn)實(shí)影響，充分發(fā)揮其優(yōu)勢(shì)，主動(dòng)規(guī)避其弊端，從強(qiáng)化價(jià)值引領(lǐng)、提升媒介素養(yǎng)、加快媒介融合、完善防控體系四方面進(jìn)行綜合應(yīng)對(duì)，維護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全。

（一）守正創(chuàng)新：堅(jiān)持以主流價(jià)值導(dǎo)向“駕馭”算法發(fā)展方向

算法技術(shù)在推動(dòng)信息傳播高效便捷的同時(shí)，也使得網(wǎng)絡(luò)輿論生成機(jī)制更加多元分散、網(wǎng)絡(luò)信息空間更加紛亂繁雜，網(wǎng)絡(luò)意識(shí)形態(tài)價(jià)值引領(lǐng)的任務(wù)比以往任何時(shí)候都更加復(fù)雜困難。習(xí)近平總書(shū)記強(qiáng)調(diào)要“用主流價(jià)值導(dǎo)向駕馭‘算法’”[13]，用網(wǎng)絡(luò)主流意識(shí)形態(tài)統(tǒng)領(lǐng)算法技術(shù)發(fā)展。為此，首先要堅(jiān)定政治方向，強(qiáng)化黨對(duì)意識(shí)形態(tài)的全面領(lǐng)導(dǎo)。在網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)治理中，政治方向是第一位的問(wèn)題。習(xí)近平總書(shū)記多次指出，蘇聯(lián)解體、蘇共垮臺(tái)的根源在于意識(shí)形態(tài)上的搖擺、分裂和爭(zhēng)鋒。為此，我們黨必須吸取經(jīng)驗(yàn)教訓(xùn)，堅(jiān)持正確政治方向不動(dòng)搖，牢牢把握黨對(duì)意識(shí)形態(tài)的主導(dǎo)權(quán)、領(lǐng)導(dǎo)權(quán)和話語(yǔ)權(quán)。盡管當(dāng)前社會(huì)主義與資本主義兩種意識(shí)形態(tài)的力量對(duì)比發(fā)生了有利于社會(huì)主義的歷史性轉(zhuǎn)變，但是全球意識(shí)形態(tài)斗爭(zhēng)未曾片刻松懈，西方敵對(duì)勢(shì)力與各類(lèi)錯(cuò)誤思潮觀點(diǎn)借由算法技術(shù)加緊對(duì)我國(guó)進(jìn)行意識(shí)形態(tài)滲透和攻擊。堅(jiān)持以蘇為鑒，就必須在舉旗定向上保持清醒、立場(chǎng)鮮明，鞏固馬克思主義在意識(shí)形態(tài)領(lǐng)域的指導(dǎo)地位。同時(shí)，還要強(qiáng)化陣地意識(shí)，加強(qiáng)主流意識(shí)形態(tài)的陣地建設(shè)和管理。算法技術(shù)的迅速發(fā)展加劇思想陣地爭(zhēng)奪戰(zhàn)，“紅、黑、灰”三色地帶的斗爭(zhēng)和較量尤為尖銳。紅色地帶是網(wǎng)絡(luò)意識(shí)形態(tài)建設(shè)的主陣地，掌握著主流意識(shí)形態(tài)的話語(yǔ)主導(dǎo)權(quán)和議題設(shè)置權(quán)，需要不斷予以鞏固和拓展；黑色地帶由網(wǎng)絡(luò)負(fù)面言論、錯(cuò)誤思潮觀點(diǎn)以及西方敵對(duì)勢(shì)力輿論等構(gòu)成，需要主動(dòng)運(yùn)用馬克思主義立場(chǎng)觀點(diǎn)方法予以批駁和反擊；處于前兩者之間的灰色地帶，則需要通過(guò)主流意識(shí)形態(tài)的價(jià)值引導(dǎo)與思想轉(zhuǎn)化，加快推動(dòng)其轉(zhuǎn)化為紅色地帶。

堅(jiān)持以主流價(jià)值導(dǎo)向“駕馭”算法發(fā)展方向，還要積極推動(dòng)主流意識(shí)形態(tài)融入算法技術(shù)的內(nèi)在機(jī)理與運(yùn)行框架，充分發(fā)揮主流意識(shí)形態(tài)在技術(shù)應(yīng)用中的主導(dǎo)權(quán)。一是要強(qiáng)化主流意識(shí)形態(tài)在算法技術(shù)運(yùn)行中的主導(dǎo)作用。主流意識(shí)形態(tài)對(duì)技術(shù)逐利邏輯和流量導(dǎo)向的價(jià)值規(guī)制，能夠在很大程度上解決算法技術(shù)自身的工具偏向和結(jié)構(gòu)缺陷。算法平臺(tái)要以主流價(jià)值觀念為引領(lǐng)，推動(dòng)主流價(jià)值觀念融入并貫穿算法技術(shù)的信息采集、生產(chǎn)、分發(fā)、接收、反饋全過(guò)程，在追求經(jīng)濟(jì)效益的同時(shí)保障技術(shù)使用的正當(dāng)性。具體而言，“辦網(wǎng)站的不能一味追求點(diǎn)擊率，開(kāi)網(wǎng)店的要防范假冒偽劣，做社交平臺(tái)的不能成為謠言擴(kuò)散器，做搜索的不能僅以給錢(qián)的多少作為排位的標(biāo)準(zhǔn)”[14]。二是要增強(qiáng)主流媒體的話語(yǔ)權(quán)。主流媒體是網(wǎng)絡(luò)意識(shí)形態(tài)傳播的主力軍，必須主動(dòng)順應(yīng)媒體融合發(fā)展的新趨勢(shì)，帶頭推動(dòng)優(yōu)質(zhì)內(nèi)容生產(chǎn)能力和算法技術(shù)傳播優(yōu)勢(shì)相結(jié)合，搶占思想引領(lǐng)、輿論引導(dǎo)、服務(wù)人民的傳播制高點(diǎn)。《人民日?qǐng)?bào)》主動(dòng)推出新媒體聚合平臺(tái)“人民號(hào)”，運(yùn)用算法技術(shù)提供信息的生產(chǎn)、分發(fā)、傳播服務(wù)，將主流價(jià)值觀念轉(zhuǎn)化為精準(zhǔn)化的信息推送和沉浸式的內(nèi)容導(dǎo)覽，不斷拓展主流意識(shí)形態(tài)的影響力版圖。

（二）觀念變革：強(qiáng)化網(wǎng)絡(luò)意識(shí)形態(tài)智能技術(shù)安全教育

加強(qiáng)網(wǎng)絡(luò)意識(shí)形態(tài)智能技術(shù)安全教育，關(guān)鍵是要增強(qiáng)網(wǎng)民居安思危的憂患意識(shí)。為應(yīng)對(duì)算法技術(shù)意識(shí)形態(tài)屬性風(fēng)險(xiǎn)，網(wǎng)絡(luò)意識(shí)形態(tài)安全教育首先要增強(qiáng)全局性的風(fēng)險(xiǎn)防控意識(shí)，堅(jiān)持防范“灰犀牛”和警惕“黑天鵝”相統(tǒng)一。在百年未有之大變局下，網(wǎng)絡(luò)意識(shí)形態(tài)時(shí)刻面臨著被內(nèi)生或外來(lái)風(fēng)險(xiǎn)因素威脅和破壞的可能性。“灰犀牛”風(fēng)險(xiǎn)的發(fā)生概率大、沖擊力強(qiáng)，能夠被識(shí)別但卻常被忽略，需要在實(shí)踐中增強(qiáng)發(fā)現(xiàn)和識(shí)別“灰犀牛”事件的能力，并積極采取有效措施，及早防范風(fēng)險(xiǎn)；“黑天鵝”風(fēng)險(xiǎn)的發(fā)生概率低、風(fēng)險(xiǎn)系數(shù)高，基本無(wú)法提前預(yù)測(cè)，需要時(shí)刻警惕“黑天鵝”事件的發(fā)生，增強(qiáng)算法系統(tǒng)和平臺(tái)的風(fēng)險(xiǎn)防御力，提高遭遇重大意識(shí)形態(tài)風(fēng)險(xiǎn)事件的反脆弱性。其次要強(qiáng)化風(fēng)險(xiǎn)底線思維，防范意識(shí)形態(tài)風(fēng)險(xiǎn)鏈的傳導(dǎo)放大。在信息裂變式傳播與風(fēng)險(xiǎn)動(dòng)態(tài)發(fā)展機(jī)理的綜合作用下，各類(lèi)網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)相互交織、疊加，一旦防范不及、應(yīng)對(duì)不力，極易使風(fēng)險(xiǎn)在空間、量級(jí)、性質(zhì)上演變升級(jí)。強(qiáng)化意識(shí)形態(tài)風(fēng)險(xiǎn)底線思維要做到認(rèn)得清、想得到、管得住，不僅要時(shí)刻保持如履薄冰的謹(jǐn)慎和一葉知秋的敏銳，最全面地考慮到可能發(fā)生的各類(lèi)情況，還要以科學(xué)的具體工作方法進(jìn)行應(yīng)對(duì)，做最充分的工作準(zhǔn)備、思想準(zhǔn)備、心理準(zhǔn)備，在激烈的網(wǎng)絡(luò)意識(shí)形態(tài)斗爭(zhēng)中防患于未然。

強(qiáng)化網(wǎng)絡(luò)意識(shí)形態(tài)智能技術(shù)安全教育，還要鍛煉提升網(wǎng)民的意識(shí)形態(tài)風(fēng)險(xiǎn)防控能力。增強(qiáng)網(wǎng)民的意識(shí)形態(tài)風(fēng)險(xiǎn)防控能力，一是要提高算法技術(shù)駕馭能力。通過(guò)開(kāi)設(shè)算法素養(yǎng)課程、開(kāi)展宣講活動(dòng)、發(fā)放知識(shí)手冊(cè)，幫助網(wǎng)民樹(shù)立對(duì)待算法技術(shù)的理性認(rèn)知，提升運(yùn)用算法技術(shù)傳播主流意識(shí)形態(tài)的現(xiàn)實(shí)能力。二是要提高意識(shí)形態(tài)風(fēng)險(xiǎn)化解能力，這關(guān)系到算法技術(shù)的最終效果。網(wǎng)民要在實(shí)踐中鍛煉提升透過(guò)復(fù)雜現(xiàn)象把握本質(zhì)、抓住要害、找準(zhǔn)原因的能力，在直接的風(fēng)險(xiǎn)防控實(shí)踐中逐步提升風(fēng)險(xiǎn)化解能力，及時(shí)糾正價(jià)值偏移、行為越軌等不良現(xiàn)象。在海量網(wǎng)絡(luò)信息中把握主流意識(shí)形態(tài)的發(fā)展規(guī)律，在批駁錯(cuò)誤思潮觀點(diǎn)中堅(jiān)定主流價(jià)值導(dǎo)向，善于應(yīng)對(duì)和化解算法技術(shù)意識(shí)形態(tài)屬性可能帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)。三是要充分發(fā)揮網(wǎng)絡(luò)意見(jiàn)領(lǐng)袖的榜樣示范作用。加快培養(yǎng)認(rèn)同和支持主流意識(shí)形態(tài)的網(wǎng)絡(luò)意見(jiàn)領(lǐng)袖，發(fā)揮其在網(wǎng)絡(luò)意識(shí)形態(tài)傳播中的關(guān)鍵性作用，最大限度地凝聚價(jià)值共識(shí)，實(shí)現(xiàn)主流意識(shí)形態(tài)的有效傳播和廣泛認(rèn)同。

（三）優(yōu)化革新：加快網(wǎng)絡(luò)意識(shí)形態(tài)智能技術(shù)升級(jí)變革

算法技術(shù)的升級(jí)變革是防范化解網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)的重要條件。加快網(wǎng)絡(luò)意識(shí)形態(tài)智能技術(shù)優(yōu)化革新，首先要推動(dòng)主流意識(shí)形態(tài)融入數(shù)據(jù)標(biāo)簽化處理過(guò)程，推動(dòng)更多優(yōu)質(zhì)內(nèi)容注入算法“信息池”。算法技術(shù)的數(shù)據(jù)標(biāo)簽劃分以主流意識(shí)形態(tài)為標(biāo)準(zhǔn)，對(duì)符合主流意識(shí)形態(tài)的信息作出顯著標(biāo)識(shí)，允許其繼續(xù)傳輸；對(duì)具有顛覆意識(shí)形態(tài)性質(zhì)的違法信息和不良信息，以技術(shù)的方式進(jìn)行屏蔽和禁錮，防止信息擴(kuò)散。其次要以主流意識(shí)形態(tài)規(guī)范數(shù)據(jù)分析和處理過(guò)程。算法信息推送不僅要熟悉用戶的思想行為動(dòng)態(tài)，明確用戶的信息選擇偏好，還要善于分析用戶的信息盲點(diǎn)，充分挖掘數(shù)據(jù)背后的意識(shí)形態(tài)價(jià)值。此外，要增大主流意識(shí)形態(tài)內(nèi)容的算法推送占比，強(qiáng)化算法技術(shù)的意識(shí)形態(tài)屬性。合理設(shè)定同質(zhì)化信息推送的頻率和限度，有效破解“信息繭房”效應(yīng)，同時(shí)還要積極開(kāi)發(fā)信息“反向推送”技術(shù)，不時(shí)向用戶推送其無(wú)直接興趣但符合主流意識(shí)形態(tài)的優(yōu)質(zhì)信息，特別要在首頁(yè)首屏、熱搜、榜單、精選、彈窗等重要環(huán)節(jié)推送主流意識(shí)形態(tài)內(nèi)容，構(gòu)建開(kāi)放包容的意識(shí)形態(tài)內(nèi)容推薦圖譜。

加快推進(jìn)算法技術(shù)優(yōu)化革新，還必須保障技術(shù)運(yùn)行過(guò)程及其結(jié)果的透明公開(kāi)和安全可靠。一方面，要在深度學(xué)習(xí)算法中適當(dāng)引入可理解的人工規(guī)則，實(shí)現(xiàn)機(jī)器審核和人工干預(yù)的雙重把關(guān)。既要鞏固和擴(kuò)大機(jī)器審核的效率優(yōu)勢(shì)，從技術(shù)源頭上擴(kuò)大算法模型的篩選范圍，擴(kuò)容算法模型的選擇維度；又要合理運(yùn)用人工干預(yù)機(jī)制，配備與信息需求相匹配的審核編輯隊(duì)伍，加強(qiáng)人工審核培訓(xùn)，提高審核人員的道德素養(yǎng)與專(zhuān)業(yè)水準(zhǔn)。在算法運(yùn)行中引入人工干預(yù)，不僅能夠?qū)?jīng)計(jì)算機(jī)過(guò)濾后難以識(shí)別和定性的信息進(jìn)行深入分析和準(zhǔn)確判斷，最大限度地降低違法信息和不良信息被算法推送的概率，還能夠引導(dǎo)機(jī)器語(yǔ)言輸出主流意識(shí)形態(tài)內(nèi)容，借助人工客服、評(píng)價(jià)反饋、星級(jí)評(píng)分等途徑暢通民情民意的表達(dá)渠道。另一方面，加強(qiáng)算法技術(shù)及其運(yùn)作的安全評(píng)估監(jiān)測(cè)，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型數(shù)據(jù)與應(yīng)用結(jié)果。強(qiáng)化技術(shù)安全評(píng)估監(jiān)測(cè)，必須規(guī)范用戶模型與標(biāo)簽管理，完善計(jì)入用戶模型的興趣點(diǎn)規(guī)則，禁止設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等違背主流意識(shí)形態(tài)的算法模型，禁止將具有意識(shí)形態(tài)顛覆性質(zhì)的關(guān)鍵詞作為用戶標(biāo)簽并以此推送信息。同時(shí)，還要加強(qiáng)算法技術(shù)服務(wù)版面頁(yè)面生態(tài)管理，綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，優(yōu)化檢索、排序、選擇、推送、展示過(guò)程的規(guī)則透明度與可解釋性。

（四）保障升級(jí)：完善網(wǎng)絡(luò)意識(shí)形態(tài)智能風(fēng)險(xiǎn)防控體系

完善意識(shí)形態(tài)風(fēng)險(xiǎn)防控體系，是防范和化解意識(shí)形態(tài)風(fēng)險(xiǎn)的必然要求。傳統(tǒng)意識(shí)形態(tài)管理體系無(wú)法完全適應(yīng)和解決算法技術(shù)場(chǎng)域中的新特征、新問(wèn)題，存在多頭管理、職能交叉、權(quán)責(zé)不一、效率不高的弊端。因此，必須完善網(wǎng)絡(luò)意識(shí)形態(tài)審查制度，加大依法治網(wǎng)力度，實(shí)現(xiàn)算法技術(shù)意識(shí)形態(tài)風(fēng)險(xiǎn)的可管可控。

完善算法技術(shù)場(chǎng)域的意識(shí)形態(tài)風(fēng)險(xiǎn)防控體系，需要從風(fēng)險(xiǎn)的有效預(yù)警、科學(xué)評(píng)估、分類(lèi)管理著手。一是建立健全意識(shí)形態(tài)風(fēng)險(xiǎn)預(yù)警機(jī)制。通過(guò)大數(shù)據(jù)信息收集系統(tǒng)、網(wǎng)絡(luò)智能分析中心、輿情智慧監(jiān)管進(jìn)行常態(tài)化的意識(shí)形態(tài)風(fēng)險(xiǎn)監(jiān)測(cè)，對(duì)可能引發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的社會(huì)事件和現(xiàn)實(shí)問(wèn)題進(jìn)行演化預(yù)判與有效預(yù)警，從而把握時(shí)機(jī)、轉(zhuǎn)危為機(jī)。二是建立健全意識(shí)形態(tài)風(fēng)險(xiǎn)評(píng)估機(jī)制。網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)評(píng)估堅(jiān)持以黨的領(lǐng)導(dǎo)為核心，政府部門(mén)、行業(yè)組織、技術(shù)單位協(xié)同參與，共同構(gòu)建起政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會(huì)監(jiān)督的風(fēng)險(xiǎn)治理格局。對(duì)待已經(jīng)初露苗頭的敏感性事件或社會(huì)思潮，要及時(shí)啟動(dòng)意識(shí)形態(tài)風(fēng)險(xiǎn)評(píng)估，科學(xué)研判意識(shí)形態(tài)風(fēng)險(xiǎn)類(lèi)別和等級(jí)，制定并采取風(fēng)險(xiǎn)化解方案，把握風(fēng)險(xiǎn)治理的管控權(quán)。三是建立健全算法分級(jí)分類(lèi)安全管理制度。用戶分級(jí)管理制度能夠依據(jù)用戶的瀏覽足跡、歷史記錄、跟帖評(píng)論行為展開(kāi)信用評(píng)估，根據(jù)信用等級(jí)確定服務(wù)范圍及內(nèi)容，將嚴(yán)重失信的用戶列入黑名單，停止提供服務(wù)并禁止其重新注冊(cè)賬號(hào)。算法技術(shù)服務(wù)的分層管理制度根據(jù)信息輿論屬性、社會(huì)動(dòng)員能力、程序操作標(biāo)準(zhǔn)、對(duì)用戶行為的干預(yù)程度實(shí)施分類(lèi)管理，提升意識(shí)形態(tài)風(fēng)險(xiǎn)管控的精準(zhǔn)性。

以完善的互聯(lián)網(wǎng)法律法規(guī)防控意識(shí)形態(tài)風(fēng)險(xiǎn)。《互聯(lián)網(wǎng)信息服務(wù)算法技術(shù)管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》《互聯(lián)網(wǎng)跟帖評(píng)論服務(wù)管理規(guī)定》等專(zhuān)門(mén)文件的相繼出臺(tái)，為防范化解算法技術(shù)場(chǎng)域的意識(shí)形態(tài)風(fēng)險(xiǎn)提供了明確的行動(dòng)規(guī)范與制度保障。堅(jiān)持依法治網(wǎng)，首先要在法律層面上明晰技術(shù)與數(shù)據(jù)的使用要求，嚴(yán)禁任何個(gè)人和組織將敏感隱私數(shù)據(jù)、虛假反動(dòng)數(shù)據(jù)納入數(shù)據(jù)應(yīng)用范疇，禁止任何違背個(gè)人意志的數(shù)據(jù)捕捉和數(shù)據(jù)濫用活動(dòng)，杜絕不實(shí)言論、非法資訊等負(fù)面信息在網(wǎng)絡(luò)上的擴(kuò)散蔓延。其次，要明確政府、企業(yè)、行業(yè)組織和個(gè)體在算法技術(shù)應(yīng)用中的權(quán)利、義務(wù)和責(zé)任，明確算法平臺(tái)及相關(guān)責(zé)任主體違背法律規(guī)制的可能后果與懲治辦法。相關(guān)部門(mén)要切實(shí)履行職責(zé)，通過(guò)約談、整改、查封、禁言等形式規(guī)范網(wǎng)絡(luò)信息傳播活動(dòng)，積極開(kāi)展“清朗”“護(hù)苗”等網(wǎng)絡(luò)專(zhuān)項(xiàng)整治活動(dòng)，探索從源頭治理意識(shí)形態(tài)風(fēng)險(xiǎn)的有效策略。通過(guò)完善互聯(lián)網(wǎng)法律法規(guī)，推動(dòng)網(wǎng)絡(luò)意識(shí)形態(tài)活動(dòng)進(jìn)入有法可依、有法必依、執(zhí)法必嚴(yán)、違法必究的運(yùn)行軌道，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間。