算法推薦技術(shù)的邏輯“陷阱”及規(guī)避

高一丹，李演軍

（蘭州理工大學(xué)圖書(shū)館，甘肅 蘭州 730050）

“媒介即信息”（麥克盧漢語(yǔ)）。在萬(wàn)物互聯(lián)、萬(wàn)物皆媒的智媒時(shí)代，人與算法皆為媒介。無(wú)論你是否愿意，人與萬(wàn)物彼此相連而產(chǎn)生大量的信息，從而形成一個(gè)巨大的數(shù)據(jù)系統(tǒng)。在智媒時(shí)代的今天，我們常常會(huì)遇到這樣一些現(xiàn)象：當(dāng)你在互聯(lián)網(wǎng)上搜索或者購(gòu)買某款產(chǎn)品后，你的首頁(yè)就會(huì)被同類產(chǎn)品所占領(lǐng)。同樣，電腦、手機(jī)好像很“懂你”，同款的設(shè)備，年輕人與中老年的首頁(yè)、搜索引擎頁(yè)面完全不同。正如流行語(yǔ)所言，“你相信什么，媒體就會(huì)讓你看見(jiàn)什么”“你有什么樣的觀點(diǎn)，你就會(huì)經(jīng)常看到與你相同看法的文章”。在人工智能、大數(shù)據(jù)、云計(jì)算以及5G 應(yīng)用技術(shù)主宰的智媒時(shí)代，“千人千面”的個(gè)性化、精準(zhǔn)化服務(wù)已成常態(tài)，高科技在給用戶帶來(lái)信息便捷服務(wù)的同時(shí)，伴隨而來(lái)的是過(guò)度的“索權(quán)”和“信息黑箱”。他們違規(guī)收集個(gè)人信息，侵害個(gè)人隱私，泄露個(gè)人數(shù)據(jù)，對(duì)用戶造成極大的傷害。人們普遍感受到自己已經(jīng)變成“透明人”，無(wú)時(shí)無(wú)刻不處于恐慌、焦慮和無(wú)奈之中。這種現(xiàn)象如果得不到及時(shí)有效地規(guī)制，將會(huì)引發(fā)一系列社會(huì)問(wèn)題。

1 算法推薦技術(shù)的邏輯

人工智能和大數(shù)據(jù)的核心技術(shù)在于算法，算法的本質(zhì)是一種權(quán)力的讓渡。作為數(shù)據(jù)與人工智能的節(jié)點(diǎn)，算法在新聞內(nèi)容生產(chǎn)和分發(fā)環(huán)節(jié)中起著關(guān)鍵的邏輯控制作用，在信息的準(zhǔn)入、準(zhǔn)出方面發(fā)揮著重要的過(guò)濾作用，在檢索、分類方面發(fā)揮著記錄和判定作用[1]。而算法推薦技術(shù)是以計(jì)算機(jī)為平臺(tái)，利用用戶在互聯(lián)網(wǎng)上的行為軌跡，包括時(shí)間、地點(diǎn)、場(chǎng)景等；通過(guò)對(duì)用戶的年齡、性別、職業(yè)、愛(ài)好、興趣等數(shù)據(jù)收集進(jìn)行偏好分析，推算用戶可能的物質(zhì)、精神需求。然后基于內(nèi)容推薦、協(xié)同過(guò)濾推薦、關(guān)聯(lián)規(guī)則推薦等技術(shù)，對(duì)收集的信息進(jìn)行整理，對(duì)環(huán)境、內(nèi)容、個(gè)人特質(zhì)進(jìn)行分析判斷，計(jì)算出相關(guān)性、熱度指標(biāo)、協(xié)同性等方面的特征，形成“用戶畫像”。再根據(jù)“畫像”匹配、分發(fā)信息，為用戶精準(zhǔn)推送量身定做的資訊信息產(chǎn)品。算法就是以此為基礎(chǔ)進(jìn)行分析、篩選、分揀、匹配內(nèi)容，調(diào)試人們的價(jià)值關(guān)系，推送資訊信息產(chǎn)品。

當(dāng)然，在算法沒(méi)有足夠的數(shù)據(jù)進(jìn)行計(jì)算時(shí)，平臺(tái)會(huì)推送一些極具誘惑力的內(nèi)容，如文不對(duì)題的“標(biāo)題黨”，低俗誘惑的“強(qiáng)烈推薦”，博人眼球的“熱點(diǎn)關(guān)注”等，引誘用戶點(diǎn)擊、關(guān)注，甚至互動(dòng)、評(píng)論。通過(guò)這些操作和內(nèi)容，進(jìn)一步試探用戶愛(ài)好興趣，吸引用戶點(diǎn)擊關(guān)注，以此收集用戶更多、更詳細(xì)的信息，完善算法元素。為獲取更多的數(shù)據(jù)，算法會(huì)不斷刺激用戶使用產(chǎn)品和信息內(nèi)容，吸引用戶“沉浸”其中，迷戀于網(wǎng)絡(luò)而不能自拔。隨著點(diǎn)擊、互動(dòng)的深入，在完全不自知的情況下讓渡更多的“權(quán)力”，在奉獻(xiàn)“流量”的同時(shí)，奉獻(xiàn)更多的隱秘信息，讓“機(jī)器”完全掌握“人類”，在不斷地匹配、調(diào)試中提高算法的精準(zhǔn)度。

2 算法推薦的技術(shù)倫理與“陷阱”

2.1 算法推薦技術(shù)的倫理失范

“技術(shù)是把雙刃劍”。算法推薦作為一種“技術(shù)”的存在，并沒(méi)有“好”“壞”的屬性，但傳播者如果將這種技術(shù)與追求最大利潤(rùn)結(jié)合起來(lái)，與用戶的需求偏好和價(jià)值取向結(jié)合起來(lái)，編織信息繭房，攫取流量，自然就會(huì)涉及到一些技術(shù)倫理的問(wèn)題。

（1）信息的客觀性和公正性受到挑戰(zhàn)。有學(xué)者認(rèn)為，堅(jiān)持新聞信息內(nèi)容傳播時(shí)的真實(shí)性，是對(duì)傳媒機(jī)構(gòu)及其從業(yè)人員最基本、最底線的要求和應(yīng)遵循的新聞傳播準(zhǔn)則，也是媒體最重要的倫理功能之一[2]。信息有“公共產(chǎn)品”的社會(huì)屬性，傳統(tǒng)媒體的信息傳播強(qiáng)調(diào)的是信息的真實(shí)、客觀、公正，“正面引導(dǎo)”。傳媒機(jī)構(gòu)要牢牢把握傳播的內(nèi)容和方向，而依靠算法推薦技術(shù)的運(yùn)作，按照用戶的需求和偏好推薦信息，缺乏人工審核“把關(guān)”，信息的重要性、時(shí)效性、導(dǎo)向性無(wú)法落實(shí)，信息的客觀性、公正性無(wú)法保障。為增加“流量”，提高流量變現(xiàn)能力，傳播平臺(tái)勢(shì)必會(huì)討好用戶，以“非主流”信息內(nèi)容增加點(diǎn)擊率、評(píng)論量、用戶活躍度等指標(biāo)，來(lái)增加用戶黏性，從而消解傳媒機(jī)構(gòu)的權(quán)威性和公信力。

（2）對(duì)用戶的真正需求存在“偏見(jiàn)”。“機(jī)器”可以識(shí)別人在互聯(lián)網(wǎng)上的“數(shù)據(jù)腳印”，但無(wú)法識(shí)別人的情感變化。人在不同時(shí)期、不同環(huán)境有不同的需求。所以，算法不可避免的存在“偏見(jiàn)”和技術(shù)漏洞。很容易出現(xiàn)把用戶偶然隨意性的行為認(rèn)為是必然性的行為，這樣就有可能造成對(duì)用戶真正的信息需求進(jìn)行錯(cuò)誤的分類和推薦，在一定程度上反而限制了用戶的選擇權(quán)，形成對(duì)受眾歧視、偏見(jiàn)性的推薦[3]。

（3）用戶信息和個(gè)人隱私面臨風(fēng)險(xiǎn)。尊重和保護(hù)個(gè)人隱私是社會(huì)生活中應(yīng)遵循的基本倫理，但受利益的驅(qū)動(dòng)，一些傳媒機(jī)構(gòu)和資訊平臺(tái)基于完善算法數(shù)據(jù)和“精準(zhǔn)畫像”的需要，大量違規(guī)收集、跟蹤用戶個(gè)人信息和互聯(lián)網(wǎng)記錄，分析用戶興趣和偏好，造成信息侵害和個(gè)人隱私曝光，人們?cè)趶?qiáng)大的數(shù)據(jù)旋渦中處于“裸奔”狀態(tài)。一些應(yīng)用APP 利用自己市場(chǎng)壟斷地位，在安裝更新軟件時(shí)，迫使用戶接受其所謂“協(xié)議”，否則就不能繼續(xù)正常使用。甚至出現(xiàn)如央視“3·15”晚會(huì)上曝光的一些平臺(tái)竊取數(shù)據(jù)和出售個(gè)人信息的違法案例。

2.2 算法推薦技術(shù)的“陷阱”

（1）互聯(lián)網(wǎng)編制的數(shù)據(jù)“陷阱”。算法推薦通過(guò)數(shù)據(jù)分析，為用戶匹配內(nèi)容，目的是提高網(wǎng)絡(luò)應(yīng)用的效率。但是不得不說(shuō)，算法不僅存在加劇用戶使用網(wǎng)絡(luò)時(shí)長(zhǎng)的風(fēng)險(xiǎn)，甚至使用戶逐步陷入互聯(lián)網(wǎng)和數(shù)據(jù)編制的“陷阱”，難以全身而退。互聯(lián)網(wǎng)的基本思維是“聯(lián)結(jié)一切”，算法在此基礎(chǔ)上通過(guò)龐大數(shù)據(jù)系統(tǒng)，追求更精準(zhǔn)的價(jià)值關(guān)系聯(lián)結(jié)[4]。可見(jiàn)，我們需要具有從互聯(lián)網(wǎng)為我們編織的“陷阱”中脫身、逃離的能力，要認(rèn)清算法的接受邏輯，對(duì)算法推薦技術(shù)有清醒而冷靜的思考，對(duì)這種技術(shù)有所認(rèn)識(shí)和防范，有意識(shí)的保持一定的距離。決不能沉溺于“上網(wǎng)模型”，過(guò)度“娛樂(lè)至死”，被碎片化的無(wú)效信息所包圍，掉進(jìn)“時(shí)間的黑洞”。

（2）追求流量強(qiáng)化“數(shù)據(jù)黑箱”。算法在技術(shù)數(shù)據(jù)的編制上是“資本追求利益”的導(dǎo)向。在當(dāng)前媒體激烈地競(jìng)爭(zhēng)下，為了謀求自身更好地生存和發(fā)展，獲取更大的利潤(rùn)空間，提高流量變現(xiàn)能力成為必然的選擇。一些媒體平臺(tái)為追求經(jīng)濟(jì)效益降低了社會(huì)效益，放棄傳媒承擔(dān)的社會(huì)責(zé)任。為增加點(diǎn)擊量和關(guān)注度，增加用戶黏性，會(huì)強(qiáng)化“算法黑箱”，“水軍”注水，使用戶在不知不覺(jué)中掉入技術(shù)和資本的“陷阱”。個(gè)人數(shù)據(jù)信息過(guò)度商品化，形成了用戶行為數(shù)據(jù)足跡的永久存儲(chǔ)，甚至造成對(duì)用戶的“全景監(jiān)獄式的無(wú)縫監(jiān)視”，價(jià)格歧視上的“大數(shù)據(jù)殺熟”等現(xiàn)象[5]。

（3）“信息繭房”導(dǎo)致認(rèn)知窄化。傳統(tǒng)媒體的消息分發(fā)、推薦、傳播，注重的是公共、多元、開(kāi)放、單向的傳播模式，而智媒時(shí)代的傳播，接受信息是雙向、多維、互動(dòng)的模式。過(guò)度依賴算法會(huì)導(dǎo)致用戶主動(dòng)、自主選擇信息產(chǎn)品權(quán)力的喪失，如果對(duì)資訊平臺(tái)推薦的信息內(nèi)容照單全收，就會(huì)不斷強(qiáng)化“信息繭房”，形成“回音壁效應(yīng)”，造成認(rèn)知窄化，甚至自我封閉，排斥其它信息，固化已有的思維,被困于“過(guò)濾器泡泡”的“陷阱”之中。有學(xué)者指出，隨著算法介入數(shù)字新聞業(yè)，憑借著極強(qiáng)的素材抓取與數(shù)據(jù)搜集能力，個(gè)性化推送成為算法新聞的“標(biāo)配”，展現(xiàn)在眼前滿足我們要求的信息，使用戶不自覺(jué)陷入“被計(jì)算好的領(lǐng)域”，生活在過(guò)濾后的泡沫之中。

3 規(guī)避算法“陷阱”的路徑和策略

有學(xué)者認(rèn)為，過(guò)度依賴人工智能會(huì)“把人推到一邊”，以人為中心的社會(huì)體系會(huì)逐步讓渡到以數(shù)據(jù)為中心。算法推薦技術(shù)無(wú)疑將重構(gòu)傳播業(yè)態(tài)，重塑人們對(duì)世界的認(rèn)知。我們探討算法推薦技術(shù)帶來(lái)的倫理失范問(wèn)題，研究如何規(guī)避算法“黑箱”在信息推薦過(guò)程中對(duì)用戶設(shè)置的種種“陷阱”，并不是要否定和排斥算法這一技術(shù)。而是要規(guī)制這一現(xiàn)象，規(guī)避這一問(wèn)題，在傳媒機(jī)構(gòu)的“商業(yè)利益”與公民、用戶“合法權(quán)益”兩者之間找到一個(gè)平衡點(diǎn)。近年來(lái)，國(guó)家有關(guān)行業(yè)主管部門已經(jīng)開(kāi)始著手治理算法推薦技術(shù)帶來(lái)的負(fù)面問(wèn)題，對(duì)用戶規(guī)模龐大、問(wèn)題突出、反映強(qiáng)烈的多款應(yīng)用APP 采取了公開(kāi)曝光、約談、下架等處理。我們認(rèn)為要從以下幾個(gè)方面綜合施策：

3.1 從法律法規(guī)層面建立他律與自律相結(jié)合的責(zé)任機(jī)制

從制度層面完善相關(guān)網(wǎng)絡(luò)傳播法律法規(guī)，規(guī)范算法權(quán)力的濫用，建立健全網(wǎng)絡(luò)隱私權(quán)、公民個(gè)人信息保護(hù)、傳播內(nèi)容及傳播生態(tài)保護(hù)等規(guī)章制度，規(guī)范行業(yè)行為準(zhǔn)則。以問(wèn)題為導(dǎo)向，對(duì)已經(jīng)發(fā)現(xiàn)和暴露出的問(wèn)題要及時(shí)解決，強(qiáng)化行業(yè)不正之風(fēng)要加強(qiáng)監(jiān)管力度。對(duì)網(wǎng)絡(luò)收集個(gè)人信息，公眾要有知情權(quán)、同意權(quán)，對(duì)一些壟斷性平臺(tái)的“霸王條款”，要有應(yīng)對(duì)和治理措施。

3.2 從資訊傳播平臺(tái)監(jiān)管層面實(shí)施技術(shù)把關(guān)與人工把關(guān)“雙把關(guān)”審核機(jī)制

把交給“機(jī)器”的權(quán)力重新收回來(lái)，從技術(shù)層面設(shè)置主流價(jià)值觀和傳播道德倫理審查的因素，確保用戶獲取主流價(jià)值產(chǎn)品，維護(hù)信息傳播的客觀性、真實(shí)性、公正性原則，對(duì)虛假信息、“三俗”內(nèi)容進(jìn)行過(guò)濾識(shí)別，增加“人工審核”在內(nèi)容把關(guān)中的權(quán)重和力度，履行好傳媒的社會(huì)責(zé)任。

3.3 從完善算法推薦技術(shù)層面建立多元推薦系統(tǒng)

在算法推薦基礎(chǔ)上加入傳播價(jià)值、社會(huì)效果、用戶滿意度等指標(biāo)，讓技術(shù)服務(wù)人，而不是給人“挖坑”“算計(jì)人”，確保為用戶提供更多更好，更有價(jià)值的內(nèi)容產(chǎn)品。用戶要有意識(shí)地使用多個(gè)“信息源”，從不同渠道獲取多元信息，從信息獲取習(xí)慣上打破信息壁壘，走出、突破長(zhǎng)期消費(fèi)習(xí)慣形成的“舒適圈”。

3.4 從用戶自身層面要培育公眾的“算法素質(zhì)”

對(duì)于算法推送的信息，用戶要提高鑒別力和防范能力，避免陷入算法設(shè)置的“陷阱”。在社會(huì)范圍內(nèi)加強(qiáng)算法相關(guān)知識(shí)的宣傳普及非常必要，人們應(yīng)主動(dòng)、有意識(shí)地學(xué)習(xí)了解必要的算法知識(shí)，清楚算法的基本“套路”，提高對(duì)技術(shù)的駕馭能力，而不能被技術(shù)所奴役。審慎對(duì)待和評(píng)價(jià)算法推送的資訊、信息，反思它所帶來(lái)的負(fù)面問(wèn)題，培養(yǎng)自身獨(dú)立的思考能力與批判思維，不過(guò)度依賴算法，自覺(jué)抵制算法帶來(lái)的不良影響[6]。

總之，治理算法推薦技術(shù)的倫理失范，規(guī)避算法“陷阱”的問(wèn)題是一個(gè)復(fù)雜的系統(tǒng)工程。國(guó)家政策要規(guī)制，資訊平臺(tái)要配合，用戶個(gè)人也要自省自律。要從源頭上為互聯(lián)網(wǎng)應(yīng)用程序明確底線，劃出底線，讓技術(shù)不要“跑偏”，在人與技術(shù)共同發(fā)展中，人機(jī)協(xié)同共進(jìn)，推動(dòng)傳播生態(tài)的凈化和傳播業(yè)態(tài)的健康發(fā)展。