思想政治教育應(yīng)用人工智能的算法風(fēng)險(xiǎn)及其規(guī)避

隨著人工智能內(nèi)在功能的延伸和應(yīng)用范圍的擴(kuò)大，其深遠(yuǎn)影響已對思想政治教育帶來前所未有的機(jī)遇和挑戰(zhàn)。智能算法作為人工智能的核心技術(shù)，以其強(qiáng)大的文本生成、數(shù)據(jù)處理和資源推送能力，極大地豐富教學(xué)手段與效果，為學(xué)生提供個(gè)性化的學(xué)習(xí)體驗(yàn)。然而，思想政治教育應(yīng)用人工智能會伴隨著認(rèn)知孤島現(xiàn)象的出現(xiàn)以及數(shù)據(jù)泄露風(fēng)險(xiǎn)的增加。鑒于此，探索應(yīng)對這些問題的教育供給機(jī)制和技術(shù)治理模式，對于推進(jìn)人工智能在思想政治教育的科學(xué)應(yīng)用具有重要意義。

一、思想政治教育應(yīng)用人工智能的算法風(fēng)險(xiǎn)

（一）算法趨同形成認(rèn)知孤島

雖然人工智能可以促進(jìn)資源傳播和消息流通，但是容易在思想政治教育過程中引發(fā)思維認(rèn)知上的問題。一方面，算法趨同強(qiáng)化信息繭房。人工智能通過預(yù)訓(xùn)練海量數(shù)據(jù)來創(chuàng)新思想政治教育方法，然而，其缺乏自我意識和主體意向，僅依據(jù)預(yù)設(shè)的算法和程序進(jìn)行數(shù)據(jù)處理、知識生產(chǎn)和智能交互。在此過程中，算法傾向于根據(jù)用戶偏好推送信息，導(dǎo)致師生陷入信息繭房，難以接觸到多元化的觀點(diǎn)和信息。另一方面，算法鎖定效應(yīng)導(dǎo)致認(rèn)知惰性。雖然智能算法能夠優(yōu)化教育流程，提高教育內(nèi)容的針對性和吸引力，但過度依賴算法會導(dǎo)致師生喪失自主思考和學(xué)習(xí)的能力。這種“方法反噬目的”的現(xiàn)象，即教育手段的進(jìn)步反而阻礙教育目標(biāo)的達(dá)成，削弱師生在思辨學(xué)習(xí)和思維訓(xùn)練上的自主性和創(chuàng)造性。長此以往，將導(dǎo)致師生在知識學(xué)習(xí)和信息處理上產(chǎn)生惰性，影響其批判性思維和創(chuàng)造力的發(fā)展。

（二）算法主導(dǎo)引發(fā)數(shù)據(jù)泄露

隨著人工智能的廣泛應(yīng)用，不可避免地殘留大量的文本數(shù)據(jù)和個(gè)人隱私。由于智能算法的“技術(shù)黑箱”存在，會引發(fā)數(shù)據(jù)泄露風(fēng)險(xiǎn)。其一，算法主導(dǎo)存在數(shù)據(jù)隱患風(fēng)險(xiǎn)。由于人工智能缺乏足夠的事實(shí)判別和價(jià)值判斷能力，數(shù)據(jù)源中的虛假或篡改信息可能未經(jīng)篩選即進(jìn)入數(shù)據(jù)處理流程，導(dǎo)致數(shù)據(jù)失真。這不僅影響教育質(zhì)量和效果，還會誤導(dǎo)學(xué)生，造成認(rèn)知上的錯(cuò)誤認(rèn)知。若算法設(shè)計(jì)或安全措施存在漏洞，則會給商業(yè)資本或外部勢力可乘之機(jī)。他們會利用系統(tǒng)漏洞竊取私密數(shù)據(jù)或植入錯(cuò)誤言論，實(shí)施技術(shù)控制和價(jià)值輸出。其二，多源異構(gòu)數(shù)據(jù)的關(guān)聯(lián)處理引發(fā)隱私放大效應(yīng)。智能算法能夠自動收集、關(guān)聯(lián)和分析師生的文字、語言和圖像信息，形成高度關(guān)聯(lián)的數(shù)據(jù)網(wǎng)絡(luò)。在此過程中，師生的個(gè)人隱私會無意間被揭露。由于算法學(xué)習(xí)和智能決策的非透明性，這些數(shù)據(jù)存在被濫用于商業(yè)目標(biāo)的風(fēng)險(xiǎn)。值得注意的是，隨著人工智能技術(shù)的不斷進(jìn)步，學(xué)生隱私的關(guān)聯(lián)和推導(dǎo)可能會逐漸超出可控范圍，進(jìn)一步加劇非預(yù)期的隱私泄露風(fēng)險(xiǎn)。

二、思想政治教育應(yīng)用人工智能的算法風(fēng)險(xiǎn)規(guī)避

（一）完善“反偏向”教育供給機(jī)制

為應(yīng)對算法趨同所衍生的信息繭房效應(yīng)，教師應(yīng)積極應(yīng)用數(shù)據(jù)分析和智能算法工具，洞察學(xué)生的需求偏好?；诖耍瑢?shí)行反向教育內(nèi)容供給策略，精心引入與學(xué)生既有認(rèn)知和價(jià)值觀念有所差異的教育資源，從而激發(fā)學(xué)生的好奇心與求知欲。一方面，將人工智能與算法素養(yǎng)納入課程體系之中，通過開設(shè)“算法倫理與信息素養(yǎng)”課程，培養(yǎng)學(xué)生對算法推送內(nèi)容的理性認(rèn)識，讓他們意識到信息來源的局限性，并提升內(nèi)容獲取和甄別能力。同時(shí)，組織多樣化的學(xué)術(shù)講座、實(shí)踐活動及跨學(xué)科交流，鼓勵(lì)學(xué)生跳出固有思維框架，深入思考、廣泛探討，逐步形成自己獨(dú)立的見解和判斷。另一方面，更新教育資源供給庫，積極引入前沿的學(xué)術(shù)成果、多元文化視角及跨學(xué)科知識。通過智能推薦系統(tǒng)與專家人工篩選的雙重機(jī)制，實(shí)現(xiàn)個(gè)性化學(xué)習(xí)路徑與多樣化知識庫的深度融合，為學(xué)生打造一個(gè)既精準(zhǔn)又廣闊的學(xué)習(xí)空間。在這個(gè)空間里，學(xué)生能夠自由穿梭于各類信息之間，接觸并理解不同主題、不同視角的知識內(nèi)容，從而有效拓寬視野，強(qiáng)化其獨(dú)立思考與綜合判斷的能力，從根本上防范并克服信息繭房帶來的負(fù)面影響。

（二）健全以算法規(guī)制算法的技術(shù)治理模式

面對算法主導(dǎo)的運(yùn)作機(jī)制，不僅要充分發(fā)揮人工審核的作用，將智能算法及其運(yùn)算邏輯置于可控范圍，防止其在思想政治教育領(lǐng)域進(jìn)行資本邏輯范圍內(nèi)的技術(shù)控制、話語操縱和價(jià)值輸出的行為，還要對所在應(yīng)用領(lǐng)域進(jìn)行系統(tǒng)性和全面性的審查和把關(guān)，對于明顯帶有錯(cuò)誤和不正傾向的數(shù)據(jù)、圖像和視頻，及時(shí)進(jìn)行警告、制止和否決。更重要的是，須將主流意識形態(tài)、道德價(jià)值的人文精神、倫理要求和原則底線轉(zhuǎn)化為計(jì)算機(jī)代碼，形成“規(guī)范算法”。其中包括開發(fā)技術(shù)系統(tǒng)的源代碼、編碼法律規(guī)制的計(jì)算機(jī)程序以及建立數(shù)學(xué)表達(dá)模型，以此實(shí)現(xiàn)規(guī)范的技術(shù)化約束，確保主流價(jià)值引領(lǐng)算法的設(shè)計(jì)和使用。通過采集算法行為數(shù)據(jù)，設(shè)置效果評估指標(biāo)，運(yùn)用統(tǒng)計(jì)、分析、預(yù)測、防控和異常檢測系統(tǒng)，對算法的狀態(tài)數(shù)據(jù)和決策結(jié)果進(jìn)行全過程監(jiān)測和計(jì)算檢驗(yàn)，識別算法失控或被濫用的風(fēng)險(xiǎn)。一旦識別到算法失誤、運(yùn)算出錯(cuò)、數(shù)據(jù)泄露等問題，應(yīng)立即進(jìn)行預(yù)警提示、干預(yù)處理、修復(fù)防護(hù)，以確保個(gè)人信息和隱私數(shù)據(jù)的完整性與安全性，實(shí)現(xiàn)監(jiān)管與治理的智能化、規(guī)范化。

（作者單位：廣西師范大學(xué)馬克思主義學(xué)院）