網(wǎng)絡推薦算法中的意識形態(tài)安全風險研究

摘要：隨著社會信息化的加速推進以及網(wǎng)絡技術的深刻變革，網(wǎng)絡安全與國家安全和現(xiàn)代化建設產(chǎn)生深刻聯(lián)系。當前，互聯(lián)網(wǎng)的意識形態(tài)安全面臨著全新的挑戰(zhàn)和風險，并且互聯(lián)網(wǎng)在意識形態(tài)安全層面走在了工作的前沿。隨著我國網(wǎng)絡進入全面信息化、智能化時代，網(wǎng)絡推薦算法不斷更新和應用，在為人類提供便利的同時也帶來了網(wǎng)絡意識形態(tài)安全風險，可能產(chǎn)生價值分化、技術黑箱、主流意識形態(tài)話語權被削弱以及信息繭房等問題。文章研究網(wǎng)絡推薦算法中的意識形態(tài)安全風險，以推進網(wǎng)絡安全與國家安全得到保障。

關鍵詞：意識形態(tài);推薦算法;互聯(lián)網(wǎng)

中圖分類號：G641 文獻標識碼：A 文章編號：1004-9436（2021）22-00-03

意識形態(tài)關乎旗幟，關乎道路，關乎國家政治安全。“在新的歷史條件下，互聯(lián)網(wǎng)已成為輿論斗爭的主戰(zhàn)場。”[1]習近平總書記多次提到，過不了互聯(lián)網(wǎng)這一關，就過不了長期執(zhí)政這一關。據(jù)統(tǒng)計，截至2021年初，中國互聯(lián)網(wǎng)用戶的數(shù)量接近10億，每個星期人均使用互聯(lián)網(wǎng)的時間長達26.2個小時，而移動終端的使用者比例為99.7%，社交平臺對全球信息傳播具有極為重要的作用[2]。由此可以看出，互聯(lián)網(wǎng)，特別是移動互聯(lián)網(wǎng)的快速發(fā)展和傳播，在人們的生活中起著關鍵的作用，其快速傳播歸功于算法推薦的普及和使用。但隨著網(wǎng)絡推薦算法在移動網(wǎng)絡平臺的大規(guī)模應用，網(wǎng)絡意識形態(tài)領域也面臨著新的風險。

1 基于網(wǎng)絡推薦算法的信息推送導致價值分化

在信息化快速推進的網(wǎng)絡時代，相當一部分人獲取信息的渠道主要是社交媒體，而其中由新聞算法主導的新聞媒體發(fā)布的信息受眾更為廣泛。但是各個行業(yè)的壟斷者、資本家，能夠依靠先進的算法技術促使人們獲取的信息更多源于其瀏覽習慣和興趣，而很難獲取到更加全面、多樣的信息。長此以往，受眾的思維會受到限制，獲取的信息類別也會相對固定，從而導致他們的思維方式單一固定[3]。這部分被束縛在固定信息之中的人，不但思想意識會受到影響，其在群體決策中的思想還會出現(xiàn)極端化的傾向。智能化新聞算法為受眾提供的信息展現(xiàn)出的是商業(yè)模式下的需求。在以商業(yè)利益為主導的形勢下，公眾更傾向于瀏覽娛樂信息，其意識經(jīng)常被一些有意引導的文案左右，而嚴肅的信息話題往往不受重視。在這種算法定制化模式下，人們的思想會被推薦的信息影響，不利于公共話題的傳播和參與，長期下來還會危害到社會秩序。

馬克思·韋伯（Max Weber）采用理性二分法將理性分解為價值（合）理性和工具（合）理性兩種類別，并使其具有能夠解釋社會現(xiàn)象的能力。價值理性強調行為不計后果地遵從某些價值信念，如“義務、尊嚴訓示、孝順，或者某一件‘事’的重要性的信念”;工具理性更關注如何通過更加合理有效的方式取得更大的效用。算法推送的技術核心是快速獲取用戶的喜好并且為其推薦感興趣的信息，這種方式能夠有效推送能夠滿足用戶喜好的信息。但是因為用戶感興趣的信息各有差異，其信息鑒別能力也有很大差別，尤其是在當前的社會環(huán)境下，拜金主義、功利主義等盛行，單單根據(jù)用戶的喜好推送信息，往往會導致含有負面傾向的信息被大量推送給特定用戶。這有可能給用戶留下“很多人都有這種價值取向”的印象。

在信息飛速傳播的網(wǎng)絡時代，個性化的定制信息以及固定類別信息的推送會讓有相同喜好、價值觀的用戶聚合到一起，并且他們的思想和思維方式會越來越統(tǒng)一，最后形成多個不同類別的網(wǎng)絡部族。在這些部族中，一些極端的信息會得到前所未有的推崇，這些人也更加認可自己的思想和觀念，甚至將一些具有明顯負面傾向的信息當作真理。在這種形勢下，能夠體現(xiàn)正確價值觀的信息反而很難進入這類群體之中，這不利于良性社會秩序的維護和建立。而這些擁有算法技術優(yōu)勢的公司大都會開放用戶注冊權限，從而讓用戶都可以發(fā)布信息。在算法公司和信息發(fā)布者的聯(lián)合作用下，一些特定的價值觀會在一定的范圍內(nèi)得到廣泛傳播。

2 網(wǎng)絡推薦算法下的技術黑箱存在意識形態(tài)安全隱患

算法推薦技術的進步和應用推動了價值共識的形成。在信息化飛速發(fā)展的形勢下，網(wǎng)絡推薦算法在人們的生活中被廣泛運用，且這一技術在各大平臺中被普遍使用，具有個性化信息定制、智能信息推薦、信息傳播等功能。網(wǎng)絡推薦算法的傾向會在一定程度上影響人們的價值觀，這是因為算法本身就不是絕對中立的，對算法技術進行操作的程序員會進行相關的控制，并且每條信息都含有發(fā)布者的個人主觀色彩。程序員在設定網(wǎng)絡推薦算法的時候，就在其中融入了主流價值觀的內(nèi)容，因此算法在推薦信息的時候，會持續(xù)推送含有主流價值的信息，而用戶就會接收和瀏覽主流價值的信息。根據(jù)算法原理，后臺會對用戶接收信息的情況進行整理和反饋，從而重復推薦具有正向價值觀的信息，這能使用戶傾向獲取的信息始終含有主流價值，避免這一類信息因為推薦機制被屏蔽。另外，隨著算法技術的不斷進步，再加上平臺對信息推薦比例的平衡，用戶能夠根據(jù)自己的喜好獲取推薦的信息。含有主流價值的信息數(shù)量有所欠缺時，系統(tǒng)就會自動進行補充推薦，這能夠有效加強主流價值信息的傳播，從而推動正確的社會價值觀的形成。

圓形監(jiān)獄是邊沁（Jeremy Bentham）為監(jiān)管和改造犯人而設計的一種新型監(jiān)獄，由外圍環(huán)形建筑和中心瞭望塔兩部分組成。這種特殊的建筑結構能讓處于中心瞭望塔的獄警將所有犯人所有的行動都收入眼中，所以，在這種建筑中的犯人毫無隱私可言。從這個角度來看，算法推薦技術也與這種圓形建筑有相似的地方，算法可以看作是中心瞭望塔，用戶是環(huán)形建筑中的囚犯。之所以這么說，是因為如果用戶想要獲取某個方面的信息，首先就要暴露自身的信息，如年齡、位置、通訊錄、朋友關系、閱讀興趣等。系統(tǒng)只有獲取這些個人信息之后，才能夠對用戶的喜好進行精準定位，從而根據(jù)其喜好向其推薦需要的信息。

3 網(wǎng)絡推薦算法削弱主流意識形態(tài)的話語權

在國內(nèi)外文化思潮的沖擊下，社會總體價值觀多元化現(xiàn)象加劇，主流價值觀在互聯(lián)網(wǎng)中的話語權和影響力日益弱化，特別是隨著移動互聯(lián)的飛速發(fā)展，自媒體、短視頻等平臺不斷推陳出新。現(xiàn)階段，對于國內(nèi)互聯(lián)網(wǎng)輿論場而言，針對熱點事件的評議、討論等多維交流方式日漸替代了以往單一的新聞播報的傳播模式。比如當前微信平臺的公眾號數(shù)量接近30萬個，而其中與“中國特色社會主義”相關的公眾號數(shù)量不足10個，數(shù)量極少、話語權極弱，成為主流宣傳不得不盡快破解的難題。

因為互聯(lián)網(wǎng)具有開放、共享、隱蔽、即時、動態(tài)等屬性，其可以融合種類繁多的意識形態(tài)觀點，讓它們在同一個輿論陣地中相互碰撞，導致多樣化的意識形態(tài)碰撞和摩擦變成不可忽視的現(xiàn)實。同時，各類網(wǎng)絡思潮均深刻意識到了互聯(lián)網(wǎng)中的話語權本身便是一類極為重要的政治資源，因此其把互聯(lián)網(wǎng)當作宣傳自身理念的“跑馬場”，并在陣地中展開了極為激烈的、爭奪政治人心的“角逐賽”。在此過程中，互聯(lián)網(wǎng)中意識形態(tài)論爭的激烈程度、復雜程度日漸提升。因為涉及的參與方、熱點內(nèi)容、表達方式均表現(xiàn)出多樣化屬性，學術辯論同意識形態(tài)論爭相互滲透，而某些意圖挑起紛爭、別有用心的群體以學術討論為掩蓋手段，公然挑釁社會主義意識形態(tài)。

參與討論的群體中不僅有普通的網(wǎng)友、公民，還有很多境外敵對分子及其選擇的代理人，這部分群體依托我國開放的互聯(lián)網(wǎng)輿論場開展各類政治活動。熱點的內(nèi)容范圍極廣，其中有帶有政治色彩的方面，如圍繞我國近代史和革命先烈的評價、圍繞改革開放以來取得成就的評價、國家大政方針、圍繞社會道德層面進行的討論等，這均為現(xiàn)階段互聯(lián)網(wǎng)意識形態(tài)領域討論得極為激烈的內(nèi)容。而在討論的形式層面，不僅有從理性層面開展的心平氣和的探討，也有為了發(fā)泄情緒進行的謾罵和攻訐，其不僅涉及互聯(lián)網(wǎng)平臺虛擬世界的論爭，還發(fā)展成線下的“人肉搜索”等網(wǎng)絡內(nèi)外相互滲透的意識形態(tài)論爭。

在互聯(lián)網(wǎng)平臺中，特別是微博、微信等具備很多匿名使用者的平臺中，擁有一定話語權的“意見領袖”可以依托互聯(lián)網(wǎng)使用者的從眾想法，構筑起能夠促使自身觀念更好地擴散的“沉默的螺旋”。在這種背景下，互聯(lián)網(wǎng)中的論爭時常會構筑起輿論風暴，可以在短時間內(nèi)聚集起規(guī)模巨大的響應者和跟風網(wǎng)友在其中推波助瀾，讓網(wǎng)絡輿論按照其預設和引導的方向推進。

4 網(wǎng)絡推薦算法導致信息繭房

現(xiàn)階段，中國互聯(lián)網(wǎng)使用者的數(shù)量突破了8.5億，然而部分使用者的網(wǎng)絡素養(yǎng)仍然不高。部分網(wǎng)絡媒體使用者仍熱衷于追逐八卦、謠言，熱衷于挖掘和泄露他人信息等。現(xiàn)階段，部分地區(qū)，如鄉(xiāng)鎮(zhèn)、縣級網(wǎng)絡媒體的宣傳模式、載體以及話題引導水平仍然有較大的提升空間，輿情掌控和處置水平不高。為了能夠在較短的時間內(nèi)得到較多的關注和較高的點擊率，部分APP借助智能算法向外界傳遞大批低級但能夠吸引眼球的內(nèi)容，使用戶受困于大量低劣內(nèi)容形成的信息繭房中。

“信息繭房”最早由美國學者桑斯坦提出，他還對此進行了說明，指出其是“我們只聽我們選擇的東西和愉悅我們的東西的通信領域”。按照上述解釋，處于繭房內(nèi)的群體無法進行周密和理性的思考，這是由于該群體已經(jīng)有了先入為主的觀點。互聯(lián)網(wǎng)中根據(jù)智能算法為使用者推送的具有針對性的內(nèi)容，指的便是桑斯坦提出的“我的日報”。該智能算法融合了使用者的歷史瀏覽數(shù)據(jù)、點擊記錄等，對相關數(shù)據(jù)進行匯總、剖析、挖掘、計算，歸納出該使用者的個性化偏好，并為其推送其可能感興趣的內(nèi)容，而長時間被這樣的內(nèi)容浸潤，會使用戶的思想固化、視野狹窄。因此，個性化推薦算法模式如同蠶蛹吐絲，利用不同的過濾機制篩選出固定類型的信息，如同絲線一樣把用戶包裹其中，最終導致用戶被關閉在思想扭曲以及異化的模式之中。當前，大量的新聞類APP內(nèi)容低劣，其中包含著各類標題黨信息，很多內(nèi)容主觀色彩鮮明，甚至還會用低俗的模式編寫。

上述情況在心理學中能被納入“尖叫效應”的范疇。此處所說的“尖叫效應”可以解釋為馬路上的人群里有一個個體，在安靜的環(huán)境里突然尖叫，那么這個個體便可以聚焦周圍群體的目光。而此概念可以較好地描述紛繁復雜的新媒體傳播渠道。現(xiàn)階段，在移動互聯(lián)蓬勃發(fā)展的環(huán)境中，大量自媒體或作者依托剪裁、拼接、夸大、胡編亂造的手段制造大量博人眼球的內(nèi)容，上述信息可以在短時間內(nèi)獲得較多的關注和較高的點擊率。但是用戶之所以可以觀看到這些內(nèi)容，智能推薦算法發(fā)揮了根本性作用。算法把此類滿足“尖叫效應”的內(nèi)容推送給相應的群體，使得用戶時刻被低俗的內(nèi)容包圍。在傳統(tǒng)媒體的話語權逐漸被削弱的背景下，用戶特別是中老年群體、青少年群體很難明晰信息的真假。在這樣的背景下，用戶能夠依托自身所接觸的互聯(lián)網(wǎng)中的圈子分享內(nèi)心的想法、表達情緒，也會極為草率地在內(nèi)心形成傾向性觀點[4]。上述問題均為推薦算法影響下的新聞傳播帶來的不良后果。

互聯(lián)網(wǎng)平臺中輿論的非理性宣泄會造成極大的混亂，同時會產(chǎn)生溢出效應并引發(fā)連鎖反應，其后果為互聯(lián)網(wǎng)用戶在篩選內(nèi)容時出于個人喜好，更傾向于選擇同內(nèi)心想法一致的內(nèi)容，而內(nèi)嵌智能推薦算法的網(wǎng)站能夠按照用戶偏好推送個性化內(nèi)容，由此構成了“回音壁”效果。另外，在瀏覽的過程中，用戶會隨著時間推移持續(xù)固化內(nèi)心的觀點[5]。本質上，“回音壁”不但將讀者困于某個范圍內(nèi)，而且壟斷了“事實”和“價值共識”，讓讀者不斷強化對與自身價值觀趨同的內(nèi)容的認同感。

5 結語

網(wǎng)絡推薦算法被社交媒體廣泛應用，在給人們社會生活帶來便利的同時也帶來了意識形態(tài)安全風險。正確、全面、客觀地認識網(wǎng)絡推薦算法會引發(fā)的意識形態(tài)安全風險，有利于我們?nèi)蘸笥行б?guī)避風險，促使網(wǎng)絡推薦算法更加安全、更加科學地被應用。

參考文獻：

[1] 習近平新聞思想講義[M].北京：人民出版社，2018：44.

[2] 第47次《中國互聯(lián)網(wǎng)絡發(fā)展狀況統(tǒng)計報告》[EB/OL].中國互聯(lián)網(wǎng)絡信息中心，http：//cnnic.cn/gywm/xwzx/rdxw/20172017_7084/202102/t20210203_71364.htm，2021-02-03.

[3] 喻國明，曲慧.“信息繭房”的誤讀與算法推送的必要：兼論內(nèi)容分發(fā)中社會倫理困境的解決之道[J].新疆師范大學學報（哲學社會科學版），2020（1）：127-133.

[4] 陳昌鳳，霍婕.權力遷移與人本精神：算法式新聞分發(fā)的技術倫理[J].新聞與寫作，2018（1）：63-66.

[5] 尼爾·波茲曼.娛樂至死[M].章艷，譯.北京：中信出版社，2015：4.

作者簡介：王玉婷（1981—），女，湖北武漢人，博士，副教授，研究方向：高校意識形態(tài)安全。

3644501908278