生成式人工智能賦能思想政治教育的倫理風險與防范

摘" " " 要 生成式人工智能具有跨模態學習模型的文圖對比預訓、可擴散化模型和強化學習機制等技術優勢，能鏈接海量網絡內容和生成模仿人類語言模式的交流對話內容，助推思想政治教育數智化發展，但它在賦能思想政治教育創新發展的同時面臨倫理關系失調、倫理價值失衡、倫理規范失控、倫理行為失當等風險。究其成因，主要是生成式人工智能的類人屬性和人機互動性不斷增強、生成式人工智能工具理性與思想政治教育價值理性之間的沖突、算法模型的不易解釋性和智能技術的不確定性、相關主體的倫理風險研判和應對能力相對不足。通過構建倫理關系、強化價值引領、完善制度法規、提升倫理素養探索有效的防范舉措，可以促進生成式人工智能為思想政治教育的高質量發展賦能增效。

關 鍵 詞 生成式人工智能；思政教育；倫理風險

引用格式 張娟，鄧卓明.生成式人工智能賦能思想政治教育的倫理風險與防范[J].教學與管理，2025（18）：80-89.

近年來，隨著開啟內容生產新紀元的ChatGPT、DeepSeek和文生視頻類人工智能Sora的相繼爆火，生成式人工智能在思想政治教育中的應用成為重要議題。2023年7月由國家網信辦聯合七部門頒布的《生成式人工智能服務管理暫行辦法》（以下簡稱《暫行辦法》）強調，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德。這為防范生成式人工智能賦能思想政治教育（以下簡稱思政教育）的倫理風險提供了基本遵循。生成式人工智能是具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術，它為思政教育提供新技術手段和新育人場域，但也容易引發倫理風險。為推動生成式人工智能賦能思政教育高質量發展和落實立德樹人根本任務，本研究從應用倫理視角出發，厘清生成式人工智能賦能思政教育的倫理風險表現與成因，并提出防范舉措。

一、生成式人工智能賦能思想政治教育的倫理風險

倫理風險強調的是倫理、道德層面的風險問題和價值選擇的優先性問題[1]。生成式人工智能在賦能思政教育數智化發展的過程中，也給人與生成式人工智能工具、人與人、人與社會、人與自身等的倫理關系帶來不確定的倫理負效應。科學技術有時候“表現為異己的、敵對的和統治的權力”[2]，生成式人工智能在賦能思政教育的內容、形式、方法、載體等的同時，也不可避免地帶來了倫理關系失調、倫理價值失衡、倫理規范失控、倫理行為失當等風險。

1.倫理關系失調：思政教育者與教育對象主體地位削弱和關系疏離

技術是改變人與人之間相互關系的根本力量[3]。生成式人工智能在賦能思政教育時，并不僅僅是工具技術層面的應用，更深刻改變了傳統思政教育以課堂為中心、以教育者為知識權威者、師生面對面情感互動的教學模式，可能導致人機界限模糊，消解師生主體地位和區隔師生關系，進而弱化師生關系，引發倫理關系失調風險。

（1）思政教育者和教育對象的主體地位削弱

主體性是教育者和教育對象在思政教育活動中所體現出的自覺能動性。思政教育者與教育對象都是具有主體性的人，都是教育教學的主體[4]。生成式人工智能在思政教育中的應用，將原本由教師主導教學和學生自主學習的思政教育活動交給智能機器，師生的主體性逐漸消解，影響師生關系。一方面，思政教育者的教育主導性面臨削弱風險。思政教育者在教育中處于教學主導地位，具有引領示范作用，確保思政教育發展方向。生成式人工智能通過人機交互和反饋強化學習機制生成符合教育目標和教育對象個性化需求的思政教育內容，并在反復學習和不斷反饋中完善思政教育內容及其傳播方式，促進教育對象通過自我教育提升思想政治素質，彰顯其主體性，它代替了思政教育者在知識灌輸、教育教學等方面的部分職責。當教師過度依賴生成式人工智能提供的思政教育資源而不主動更新知識內容和創新教育方式時，教師就可能讓渡教育自主權，讓學生借助人工智能自主學習思政理論知識，教師的知識權威性和教學能動性就會逐漸減弱。另一方面，教育對象的學習能動性面臨削弱風險。能動性是教育對象在思政教育過程中具有的自覺性、積極性、創造性等。其一，學習的自覺性減弱。生成式人工智能可以幫助學生完成各項思政學習任務，但當學生長期依賴生成式人工智能的信息投喂和知識灌輸，他們獨立思考、主動學習和反思的能力就會退化，學習自覺性就會下降。其二，學習的積極性減弱。教育對象學習的積極性主要通過積極參與思政教育內化與外化的過程來體現。思政教育的內化和外化是一個長期的實踐過程，而生成式人工智能的應用讓思政教育的內化與外化變成即時性的實踐活動，教育對象可能不會主動配合思政教育者，也不會主動將思政內容內化于心、外化于行，因而削弱思政教育內化與外化的過程性和成效性，致使學習積極性下降。其三，學習的創造性減弱。生成式人工智能以淺表化表達的方式傳播思政內容，不能將思政內容蘊含的政理、學理及事理講深、講透、講活，使學生滿足于淺層化知識的獲得感，難以對思政教育內容產生理性認知和價值認同，易形成淺層化認知，這不利于學生創新性思維的養成。同時生成式人工智能給教育對象提供現成、具象的思政內容，擠壓了學生的思維能動空間，使學生產生路徑依賴，滋生思維惰性，傾向于運用圖像化思維認識事物[5]，在思政教育中缺乏深度思考，逐漸形成智能依賴下的淺層思考。而且，生成式人工智能生成的思政教育內容是各種離散性信息的海量集合，缺乏邏輯嚴謹性和思想深刻性。當學生對這些離散性思政內容不能完全理解，也無法將所學知識應用于實踐時，就會導致思維刻板僵化、創新思維受限，其理性批判力、知識建構力和應用創新力等高階思維也會逐漸弱化。

（2）思政教育者和教育對象之間關系疏離

生成式人工智能在思政教育中的應用，將原本“師—生”關系變為“師—生成式人工智能—生”關系，致使師生面對面情感交互的機會減少和師生之間信任感缺乏，師生關系逐漸疏離。一方面，師生之間情感缺失導致關系疏離。馬克思指出：“激情、熱情是人強烈追求自己的對象的本質力量。”[6]情感是“現實的人”生存與發展的重要精神力量，也是思政教育的重要維度。思政教育作為一項特定的政治性精神實踐活動，情感因素是和諧師生關系形成的重要紐帶。其一，人機交互阻礙師生情感交流。生成式人工智能的人機交互基于情感計算對學生的情感進行識別、反饋和模擬，但是它缺乏真實的人的情感，無法與學生有效溝通，會淡化師生之間的關系紐帶，難以將冰冷的人機交互關系轉化為真誠的師生交往關系。加之學生習慣借助生成式人工智能的人機對話尋求答案，而不愿與思政教育者面對面交流，師生情感聯系減少。其二，生成式人工智能遮蔽師生情感。生成式人工智能破壞了師生在思政教育中的情感體驗，師生覺察不到對方的情感、情緒、感受等，思政教育失去啟智潤心的情感向度和人文關懷的情感力量，使師生交流缺乏情感體驗而導致關系弱化。另一方面，師生之間的信任危機導致師生關系疏離。生成式人工智能在思政教育領域的應用是基于預訓練數據庫的，該數據庫的信息部分來源于學生的思想行為、考核成績、心理狀態等。當學生在全程、全方位的數據采集過程中處于一種場景式的監控情境時，他們的心理負擔會不斷加重，緊張情緒會持續延伸，容易形成迎合思政教育者期望的“偽裝型”人格，師生之間交流的真誠性與真實性降低，直接影響師生之間的信任感培育，致使師生關系逐漸疏遠。

2.倫理價值失衡：思政教育公平性欠缺和社會價值共識凝聚受阻

自由、和諧、穩定、公平等價值觀念是社會倫理價值的基本取向。生成式人工智能在賦能思政教育的過程中可能會引發教育不公、價值共識凝聚受阻的倫理風險，影響社會和諧穩定。

（1）思政教育公平性欠缺

生成式人工智能應用中的智能鴻溝和誠信問題可能會引發思政教育公平性欠缺風險。其一，智能鴻溝影響思政教育的公平性。由于思政教育者和教育對象對生成式人工智能這種合成類人工智能技術的認識、掌握、運用存在差異，在思政教育中容易產生智能鴻溝。這就造成思政教育的公平性缺失，使那些生成式人工智能設備不足、技術認知偏差、技能應用水平較差的教育者或教育對象產生自卑感，成為喪失思政教育話語權的邊緣化群體，不利于思政教育高質量發展。其二，誠信問題影響思政教育的公平性。生成式人工智能具有自然語言處理、自我涌現、反饋強化學習、內容生成等能力，能夠生成和傳播優質思政教育內容。因此，學生可利用它完成思政學習相關的作業、試題測驗等，教師可借助ChatGPT、Sora進行思政教育相關學術論文寫作、課件制作等科研與教學工作，加之目前的檢測技術尚不能準確識別出師生撰寫的學術論文、課程作業是自己創作還是人工智能工具生成，難以分辨其真實性，師生容易出現學術不端、考試作弊等誠信問題，進一步加劇思政教育者之間、學生之間的不公平性。

（2）社會價值共識凝聚受阻

思政教育作為一種傳播國家主流意識形態和培養人的思想政治素質的教育實踐活動，具有維護社會政治穩定和凝聚社會價值共識等功能。在資本邏輯的驅動下，生成式人工智能的工具理性不斷擠壓思政教育的價值理性，消解思政教育凝聚價值共識的功能。“生成式人工智能作為人類社會實踐的產物，早已超出自身工具屬性范疇，與社會系統中的政治、文化、價值等要素交織疊加在一起。”[7] 這就說明生成式人工智能的意識形態屬性和工具屬性會影響思政教育效果，不斷削弱社會主流價值體系，阻礙價值共識凝聚。其一，數據庫和算法模型的意識形態屬性阻礙社會主流價值認同。“當代科技并不是價值中立的，因為它已經變成實施全面控制的意識形態，變成統治體系的一部分。”[8]目前，生成式人工智能的研發基本是由西方資本主義國家主導，其數據庫主要來源于西方歐美國家的語料，算法模型體現著鮮明的資本主義意識形態屬性，生成式人工智能模型必然在底層邏輯上就存在著對中國和社會主義的偏見[9]，其生成內容會突顯資本主義意識形態和西方自由主義價值觀。西方國家憑借自身在生成式人工智能領域的絕對技術優勢，惡意對我國進行意識形態滲透，而學生受限于各種因素無法有效鑒別具有資本主義意識形態屬性和價值偏見的生成內容，生成式人工智能就會在一定程度上削弱思政教育對社會主義意識形態的凝聚力、整合力，阻礙學生對社會主流價值的認同。其二，智能傳播的隱匿性加劇錯誤價值觀的傳播。生成式人工智能人機交互產生的信息會被算法吸收、擴充到語料庫并將其傳播到下一輪的互動中，這為隱匿傳播錯誤價值觀提供了便利。西方國家會利用生成式人工智能的智能傳播和人機交互功能隱匿傳播西方社會思潮和錯誤價值觀，侵蝕學生的政治認同。這就容易在人機對話中加重政治極化和價值偏見，使學生的主流價值觀虛無化。其三，預設結論固化學生的價值偏見。思政教育者和教育對象在使用生成式人工智能時通常會得到一個預設結論，生成人工智能的論證能力和算法推薦迎合學生的預設結論，會加深學生對預設結論的誤解，固化價值偏見。具備反饋強化學習機制的生成式人工智能會根據錯誤信息對思政教育對象的預設結論進行論證和解釋，學生的錯誤價值認知在這個過程會不斷被確證與固化，進而增強錯誤信息的“噪聲效應”[10]，妨礙學生對主流價值的認同。同時生成式人工智能通過算法推薦機制，迎合學生的興趣偏好和價值取向等，生成接近學生心理預期的答案，這與預設結論形成閉環，進一步加劇“信息繭房”效應，固化學生的價值偏見。其四，娛樂化傳播導致價值疏離。在生成式人工智能的仿真環境中，部分學生在獵奇偏好支配下對主流價值內容進行戲謔解碼，以娛樂化的“非主流”形式將錯誤價值內容向整個社會“泛化”傳播，主流價值的影響勢能受到削弱，使學生對主流價值的認同出現偏離或陷入價值迷失的泥潭，加大思政教育價值共識凝聚的難度。

3.倫理規范失控：隱私數據泄露的倫理隱憂和權責不清的倫理困境

倫理規范包含一系列的行為規范和價值觀念，能夠引導人們做出正確的抉擇。由于相關的制度法規不健全或貫徹力度不夠，生成式人工智能在賦能思政教育時可能引發倫理規范失控風險。

（1）隱私數據泄露的倫理隱憂

生成式人工智能在思政教育中應用產生的隱私數據泄露倫理風險主要表現在以下三個方面。其一，預訓練數據庫的數據收集易引發師生隱私數據泄露風險。生成式人工智能的大模型訓練往往采用大規模抓取網絡公開數據的方式，這些數據可能涉及思政教育者和教育對象的隱私信息。隨著數據信息收集工具和生成式人工智能系統的快速發展與不斷應用，師生的人臉影像、興趣偏好、行程軌跡，甚至心理狀況、健康指標等數據容易被過度收集和深度挖掘。加之目前數據挖掘原則還未明確，思政教育的隱私邊界愈發模糊，師生隱私數據容易泄露。其二，人機互動產生的隱私數據泄露風險。生成式人工智能的算法通過獲知身份、獲知偏好、產生影響這三個步驟影響著人類[11]。生成式人工智能在預訓階段通過數據挖掘和智能識別技術自動吸收人機互動過程中所產生的師生身份和偏好等隱私信息，并將這些信息納入數據庫和超大語言模型之中。生成式人工智能以學習訓練的方式使師生隱私數據泄露，再將師生信息成功供能多次循環，使其侵犯個人數據隱私這個行為經過多次轉碼而被遮蔽，加劇了思政教育中侵犯隱私的危害程度。其三，數據保護不當產生的隱私數據泄露風險。目前生成式人工智能對個人隱私數據還未設置有效的加密保護程序和系統的數據監管機制，一旦保護不當，容易導致師生隱私信息泄露。此外，由于“數據共享”和“隱私保護”之間的邊界還未明確，部分第三方機構通過未經師生授權的采集、超出授權范圍的使用、不正當修改等行為[12]來獲取經濟利益，造成師生隱私數據泄露甚至危及師生人身安全的問題，影響思政教育效果。

（2）權責不清的倫理困境

生成式人工智能的工作原理是不透明的，用戶很難理解智能系統的決策邏輯和生成內容，不清楚生成內容的知識產權歸屬與責任主體劃分。一方面，生成內容所有權不明晰的倫理困境。生成式人工智能將人機互動的師生數據信息成功供能并多次循環，在特定情境下，生成內容的所有權歸屬容易陷入不明晰的境地。思政教育者和教育對象如果使用生成式人工智能在未經授權的圖文、視頻基礎上生成的思政教育相關內容，這個過程可能存在剽竊行為，容易出現知識產權糾紛問題。另一方面，責任歸屬的倫理困境。生成式人工智能本身不具備政治敏銳力和政治判斷力，很難達到思政教育者系統掌握學生思想政治狀況的智慧水平，當它在思政教育中出現智能決策失誤或生成內容錯誤時，難以追究相關主體責任。生成式人工智能設備由研發者負責，它的應用又主要由思政教育者和教育對象實施，加之缺乏技術問責反饋機制，人們難以厘清技術研發者、生成式人工智能、師生誰是教學事故或智能決策失誤的責任主體，由此引發的責任歸屬風險會阻礙生成式人工智能在思政教育中的賦能增效。

4.倫理行為失當：“信息繭房”圍困和自我認知混亂

生成式人工智能在思政教育中應用的目標是促進人的自由全面發展。由于師生過度依賴生成式人工智能和沉溺于擬態環境，思政教育易陷入技術工具主義的宰制之中，引發倫理行為異化風險。

（1）“信息繭房”圍困

生成式人工智能在為師生提供精準思政教育服務時，也有可能使他們深陷“信息繭房”，成為“單向度”的人。個性化的算法推薦使人們只關注自己感興趣內容，其知識域被限定在狹窄的范圍，獲取的知識是同一性的，難以接收到多樣化的內容，容易盲從于某些錯誤觀點，妨礙其全面發展，引發“信息繭房”圍困風險。其一，生成式人工智能的個性化定制進一步加劇“信息繭房”。生成式人工智能會根據教育對象的學習偏好生成個性化的思政教育內容，通過修正、反饋強化學習功能生成與學生預設一致的內容，讓學生處于更加窄化、迎合、封閉的信息環境。其二，“信息繭房”誘發群體思想行為極化現象。生成式人工智能加劇回音壁效應，使教育對象愈來愈處于同質化信息空間，對固有價值觀念產生偏執認同，只采納與自己預設一致或與自己相似的觀點，并產生強烈的價值排他性，排斥異質化信息。長此以往，教育對象的知識域會更加窄化、認知更偏狹、思維更固化，理性認知與思維方式更加偏激，逐漸喪失全面、辯證看待事物的能力，甚至導致他們的思想行為走向偏執極化。

（2）自我認知混亂

自我認知主要是通過與他人的社會互動形成的，擬態環境的介入容易削弱教育對象的社會性，干擾他們的自我認知，引發認知混亂風險。擬態環境作為楔入在人和環境之間的一種界面式存在[13]，它是相關傳播媒介以現實環境為藍本，運用數據符號對現實環境進行重構而形成的一種符號化的信息環境。生成式人工智能基于該原理所構筑的思政教育擬態環境容易擾亂教育對象的自我認知，影響思政教育效果。其一，教育對象的自我認知出現偏差。學生在擬態環境中沉浸式學習思政內容和角色扮演歷史人物時，隨著擬態場景越來越逼真，他們會產生擬態場景比現實生活更加逼真的錯覺，容易沉迷于擬態環境及其輸出結果而迷失自我，社會現實互動減少，對自我認知產生偏差。其二，教育對象的自我認知出現紊亂。在擬態環境下，教育對象會刻意塑造自己的虛擬符號身份，隱藏真實自我，形成虛擬自我和現實自我兩種不同的形象，干擾生成式人工智能的精準畫像，使教育者依據教育對象所塑造的虛擬身份對其進行思政教育，這樣卻反向夯實了虛擬身份。進而使教育對象更加沉溺于擬態環境中的虛擬自我，并在虛實融通的環境中頻繁“切換”和“偽裝”不同身份角色，形塑多樣化的自我，引發自我認知紊亂的風險。此外，擬態環境高度自主性、智能體驗性的特征不斷吞噬著人們的注意力和現實自我，當虛擬自我成為現實自我的一種異己力量，會對人的認知、情感、信仰產生負面影響，也會引發自我認知混亂風險。

二、生成式人工智能賦能思想政治教育的倫理風險成因

倫理風險是客觀存在和主觀認知的結合。生成式人工智能賦能思政教育所引發的一系列倫理風險是智能技術本身的屬性、價值、缺陷等客觀因素和相關主體的智能倫理素養薄弱等主觀因素共同作用的結果。厘清生成式人工智能賦能思政教育中存在的倫理風險成因，是有效應對倫理風險的重要依據。

1.應用技術屬性維度：類人屬性和人機互動性不斷增強

類人屬性和人機互動性是生成式人工智能技術的主要屬性，也是生成式人工智能在思政教育中應用的倫理風險形成的重要因素。一是類人屬性不斷增強。具備“類人思維”和學習能力的生成式人工智能是人類本質力量的延伸，它對于人的替代性越深入，其“類人”屬性愈發明顯。隨著類人屬性不斷增強，ChatGPT-4、Sora、DeepSeek等生成式人工智能工具能模擬思政教育者的言行，并根據學生的反饋不斷調整與優化輸出結果，生成更加體現人類意志、符合人類認知的教育內容，呈現出取代思政教育者角色的趨勢，給師生關系帶來倫理風險。二是人機互動性不斷增強。生成式人工智能基于文本預訓練模型、自然語言生成模型、反饋強化學習機制等，在機器對話能力方面有較強的人機互動性，能夠根據用戶需求及時回應。思政教育是情理交融的教育活動，而生成式人工智能通過人機交互識別人的情感，但它難以準確理解人的情感需求，會使思政教育缺乏情感溫度，引發師生情感遮蔽和思政教育人文性消弭的風險。同時，隨著生成式人工智能的人機交互性不斷增強，人機互動產生的使用痕跡信息會被它吸收并經過成功供能多次循環，其算法從“仆人”變為“主人”，人機地位容易出現顛倒，增加教育對象受到意識形態滲透和隱私泄露的風險。

2.應用技術價值維度：智能技術工具理性與思政教育價值理性的沖突

技術理性是工具理性和價值理性的有機統一。其中工具理性強調結果和效益的最大化，追求規范性和效用性；價值理性強調行為背后蘊含的價值和人文關懷，追求技術應用與人類社會的根本利益相契合。思政教育作為培養人的思想政治素質的教育活動，具有促進人的全面發展的價值屬性，以人為本是其根本價值取向。生成式人工智能在本質上是智能技術發展與資本邏輯結合的產物，更加注重通過生成的內容來實現經濟效益最大化，而這恰好與思政教育的價值取向相悖，兩者存在一定沖突。一是價值理性對工具理性的僭越。在智能技術的不斷發展和資本邏輯的驅動下，生成式人工智能的工具理性力量會不斷膨脹，它的工具效用性會統領“現實的人”的全面發展需要，掩蓋思政教育的人文關懷、育人價值和道德規范。人們在思政教育過程中會因為過度追求教育的效用性和注重工具理性，而忽視對人的思想道德的完善。人們看似獲得全面、客觀的思政教育知識，但沉浸在人工智能的“效用世界”之中，會導致人工智能工具理性對思政教育價值理性的僭越。二是價值理性對工具理性的規約不夠。思政教育本身蘊含著現代社會發展所需的倫理規范和倫理要求，并受到社會價值取向、政治導向等影響，處于不斷發展變化之中，這與生成式人工智能程序的效用性、規范性存在一定張力。如果思政教育的倫理規范不能規約智能技術的工具理性，兩者容易發生沖突。

3.應用技術缺陷維度：算法模型的不易解釋性和智能技術的不確定性

目前，生成式人工智能的技術研發與應用等還處于起步階段，容易因自身技術缺陷引發相關倫理風險。一是算法模型的不易解釋性。生成式人工智能的算法模型具有復雜性和不透明性，其暗藏的價值取向、意識形態屬性的不可知性以及現有技術監管難以識別和糾偏，讓算法模型的工作原理和信息處理方式成為除研發者以外他人無法理解的“黑箱”。這就使師生僅知曉人工智能的生成結果，但是對其運行機制、生成過程很難進一步了解，也讓思政教育者難以理解智能決策和權責歸屬，加大思政教育難度。二是生成式人工智能技術的不確定性。生成式人工智能賦能思政教育關涉多門學科和復雜技術，它背后所依存的智能道德算法需要與其他相關系統緊密配合來完成深度學習和內容生成，其中，數據庫和算法模型具有較大的不確定性。一方面，當訓練數據出現偏見、失效、缺損以及算法代碼出錯時，生成式人工智能會出現錯誤的道德決策與輸出結果，進而在精準思政、信息推送等過程中出現系統故障或教育偏見。另一方面，生成式人工智能通過深度學習和人機交互功能，從現有的數據中學習并不斷生成新的數據，讓算法模型得以持續優化，算法模型的這種自我更新能力使人們對生成的內容難以預測，易引發倫理風險。

4.相關主體素養維度：倫理風險研判和應對能力相對不足

相關主體的風險研判和應對能力不足是倫理風險形成的主觀因素，思政教育中的教育者、教育對象以及生成式人工智能的研發者等相關主體的人工智能倫理素養較為薄弱。一方面，倫理風險研判能力不足。生成式人工智能作為當前最復雜的深度合成技術之一，其背后的跨模態深度學習模型、算法模型、可擴散化模型等技術過于復雜，目前人們的科技水平還不能有效攻克智能技術自身的缺陷。思政教育中的師生對生成式人工智能技術的認知水平有限和生成式人工智能的研發者對思政教育相關知識了解甚少，兩者都缺乏對技術倫理的整體把握，使他們無法直接形成對倫理風險的感知判斷，其風險研判能力相對不足。另一方面，倫理風險應對能力不足。對倫理風險的認知、研判不足會影響人們的風險應對能力。當前，生成式人工智能應用于思政教育還處于探索階段，相關的制度機制和法律法規還不夠完善，相關主體應對倫理風險的能力相對薄弱。同時，相較于迅速發展的生成式人工智能，技術主體和思政教育主體由于缺乏相關的科技倫理教育，各主體之間存在責任壁壘，他們并未明確意識到自身在思政教育中的倫理責任。

三、生成式人工智能賦能思想政治教育的倫理風險防范

探究生成式人工智能賦能思政教育的倫理風險防范舉措是推動思政教育數智化、高質量發展的重要條件之一。通過構建倫理關系、強化價值引領、完善制度法規、提升倫理素養等，可以紓解倫理風險，有效發揮生成式人工智能對思政教育高質量發展的賦能效應。

1.構建倫理關系：建立和諧的師生關系和協同的人機關系

確保生成式人工智能對思政教育的賦能增效，就要防止思政教育者和教育對象被人工智能駕馭，促進人機共生。應對倫理關系失調風險，需要構建和諧的師生關系和協同的人機關系。

（1）建立和諧的師生關系

應對生成式人工智能賦能思政教育的師生關系弱化風險，需要建立和諧的師生關系。一是增強師生在思政教育中的主體性。增強師生主體性是構建和諧師生關系的前提。一方面，要增強思政教育者的主體性。于思政教育者而言，要增強其教育主導性。其一要主動利用生成式人工智能技術優勢提高思政教育效果。思政教育者要占據教育主導地位，主動挖掘生成式人工智能賦能思政教育的技術優勢，對思政教育資源進行整合，同時主動更新知識內容和知識傳授方式，不斷提升思政教育的吸引力，為學生提供良好的學習體驗。其二思政教育者要為消解生成式人工智能在思政教育中應用的技術缺陷積極貢獻自身主體智慧。思政教育者要主動掌握生成式人工智能在思政教育中的使用方法和注意事項，自覺遵守技術倫理規范；為克服技術缺陷，還應主動參與智能技術的研發與應用，與技術研發者合作，加強數據訓練并調整算法推薦機制，確保生成內容具備正確的政治導向。其三思政教育者要更好地發揮教育主導作用。思政教育者要構筑真誠的師生關系，做學生的思想引領者、成長陪伴者以及價值引導者，提高其思想道德素質。同時借助生成式人工智能引導學生進行線上線下思想交流、情感溝通、道德實踐，讓其成為助推中國式現代化發展的新時代好青年。另一方面，要增強思政教育對象的主體性。于教育對象而言，要提高其學習自主性。一要培育學生的主體人格。為了避免學生因過度使用生成式人工智能養成依附性人格，要培養學生的批判性思維、創新思維、反思精神和歷史主動精神等，鼓勵學生對生成的碎片化、淺層化知識進行深度思考、自主建構、參與討論等，提高學習的自主性和創造性。同時要引導學生積極配合思政教育者將思政教育內容和智能倫理規范內化于心、外化于行，增強思政教育的過程性與成效性。二要培養學生的數字素養。通過提升學生數字素養，幫助他們具備數字意識、計算思維和社會責任感，自覺遵循人工智能倫理規則，用合乎倫理道德的方式使用人工智能，提高數字化生存能力。同時思政教育者要引導學生提升人工智能應用技能，激發學生主動利用智能技術優勢拓展與歷史對話、與理論對話、與自我對話的體驗時間，延展思想觀念、道德品格、政治素養等形成與發展的體驗空間[14]，增強學習自覺性。

二是增強師生情感互動。面對師生情感關系弱化的倫理風險，一方面，要加強師生情感溝通。思政教育者要積極主動走進和關注學生的內心世界，利用更多的時間、精力與學生進行情感交流、價值碰撞和思想解惑等，給予學生充分的情感關懷，增進師生情感共鳴。另一方面，要關注師生情感訴求。從學生視角來看，要加強擬態環境下師生間的情感聯系，幫助學生通過將德性內化信念、道義驅動行為來構建責任倫理價值觀念。從教師視角來看，要積極關注生成式人工智能給思政教育者帶來的職業危機感和職業倦怠感等，關注他們的情感起伏變化，及時提高其倫理風險的感知能力和責任倫理意識，促進師生關系和諧發展。

（2）建立協同的人機關系

生成式人工智能在思政教育中應用是以思政教育主體為核心的“人”和生成式人工智能為代表的“機”之間的耦合關系，這種關系的理想狀態是“人機協同”。為此，要建立協同的人機關系，形成育人合力，提升育人實效。一要厘清思政教育主體與生成式人工智能之間的關系。生成式人工智能在思政教育中的應用，需要建立“思政教育者—生成式人工智能—教育對象”的人機協同關系。具體而言，

我們要明確思政教育者是思政教育的主體，起著主導作用，要發揮好人機協同關系中教育者的主導作用；生成式人工智能是思政教育的手段，起著輔助作用，要處理好智能技術與人的關系，尤其注重提高生成式人工智能對師生情感把握的精準性，增強其對復雜情感交互的理解和處理能力，提升人機交互體驗[15]；教育對象是思政學習的主體，起著參與教育活動的作用，要在思政教育者的指導下，運用好生成式人工智能在學習中的技術優勢。通過建立這種“主體間性”關系，明確思政教育者、教育對象、生成式人工智能在思政教育中的交互關系、角色定位與倫理職責，并要求思政教育主體遵循人工智能倫理規范，樹立人機協同發展理念，促進人機關系和諧發展，提升思政教育效果，為有效應對倫理風險提供方案。二要發揮思政教育者與生成式人工智能各自的優勢。建立人機協同關系，要將思政教育者的智慧與智能技術的優勢相結合。其一，發揮生成式人工智能的技術優勢。生成式人工智能要在“人技合一”智慧型思政教育者的引導下發揮其生成、傳播、認同思政教育內容的技術優勢，不斷優化思政教育內容體系。并發揮它通過人機互動分析學情，實施精準思政的優勢，提升思政教育實效性。其二，發揮思政教育者“把關人”的作用。思政教育者要對預訓練數據庫和算法模型中的思政內容進行審核把關，彌補智能技術的不足，提升對算法黑箱中價值偏見、西方意識形態的鑒別能力。同時將理想信念教育、心理健康教育、道德法治教育等相關知識融入智能程序中，確保生成式人工智能的社會主義意識形態屬性，增強思政教育的價值共識凝聚力。

2.強化價值引領：樹立以人為本的價值導向和發揮核心價值觀的引領作用

隨著生成式人工智能技術自主性力量的不斷膨脹，其可能會不斷否定人的本質力量，最后成為人的異己力量，造成人工智能工具理性對思政教育價值理性的僭越，引發倫理價值失衡風險。為化解生成式人工智能賦能思政教育的價值失衡風險，須強化價值引領。

（1）樹立“以人為本”的價值導向

應對倫理價值失衡的風險，實現工具理性與價值理性的統一，要樹立以人為本的倫理價值導向，落實好立德樹人根本任務。其一，秉持以學生為中心的教育理念。習近平總書記指出：“思想政治工作從根本上說是做人的工作，必須圍繞學生、關照學生、服務學生。”[16]應對生成式人工智能在思政教育中應用的倫理風險，歸根結底是要做好育人工作，要以學生為中心，肯定學生的主體性價值，滿足學生成長成才需求，增強思政教育的人文關懷，助力學生全面發展。首先，要圍繞學生。思政教育者要樹立“一切為了學生”的教育理念，明確學生發展目標，系統了解生成式人工智能對學生思想觀念、道德品質、行為規范的正負影響，不斷探尋學生的網絡行為規律和網絡思維習慣，借助智能技術提升思政教育水平。其次，要關照學生。思政教育者要關心學生成長成才的實際需求，發揮智能技術在滿足學生需求方面的技術優勢，及時因勢利導，引導學生樹立科技倫理觀。最后，要服務學生。思政教育者要有針對性地幫助學生解決在使用生成式人工智能時遇到的倫理困惑，并通過以情動人、以理服人、以文化人等做好指導性智能服務工作，彰顯思政教育的育人價值。其二，堅持“育人為本、技術為用”的價值導向。我們要用思政教育的“育人之道”駕馭生成式人工智能的“技術之器”，明確思政教育的主導地位和生成式人工智能是服務于思政教育鑄魂育人的輔助工具，打破“技術至上”的教育誤區，實現從技術本位向人之本位的轉變。要聚焦落實立德樹人根本任務，辯證看待生成式人工智能在思政教育中應用的賦能效果，明確智能技術在思政教育中應用的倫理邊界，確保生成式人工智能始終服務于人的全面發展。

（2）發揮社會主義核心價值觀的引領作用

“社會主義核心價值觀是凝聚人心、匯聚民力的強大力量。”[17]應對倫理風險需要發揮社會主義核心價值觀的引領作用。其一，用社會主義核心價值觀引領生成式人工智能的工具理性。政府相關部門基于思政教育的內容要求，要嚴格規范資本和權力在智能技術中的滲透，將社會主義核心價值觀內置于生成式人工智能算法模型之中，夯實主流價值根基。同時不斷優化算法模型的“內嵌式規則”倫理取向，用以人為本、全面發展等價值理性引領效率優先、技術至上等工具理性，以價值的內在鑄魂規制技術邏輯。其二，用社會主義核心價值觀引領生成式人工智能的技術創新。智能技術研發者要強化生成式人工智能的核心價值導向，用符合我國國情的漢語語料庫和話語體系創新智能技術，并借鑒其他數智技術的優勢，研發出蘊含思政教育自主知識體系的生成式人工智能系統。同時加強人工智能程序中的價值敏感性設計，通過調整算法推薦機制將核心價值觀嵌入算法“推薦池”和擴大核心價值觀的話語供給，增強主流價值認同。其三，用社會主義核心價值觀引領生成式人工智能在思政教育中應用的全過程。注重將社會主義核心價值觀融入生成式人工智能應用的監管、審查、評價等全程，及時過濾掉不符合核心價值觀的生成內容，有效維護我國主流意識形態安全，確保在價值同構中實現人工智能對思政教育的賦能增效。其四，用社會主義核心價值觀引領生成式人工智能的發展方向。將社會主義核心價值觀和主流思想理論資源納入預訓練數據庫，并對其進行規訓，以社會主義核心價值觀引領其向上向善的發展方向，防止算法偏見或歧視。

3.完善制度法規：健全相關的制度機制和法律法規

習近平總書記指出：“要前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰，完善相關法律法規、倫理審查規則及監管框架。”[18]倫理相關的制度機制和法律法規是生成式人工智能賦能思政教育的重要保障，也是化解倫理風險的必要措施。《暫行辦法》雖然對生成式人工智能的生成內容、行為規范、主體責任等進行了規定，但是關于它在思政教育領域應用的具體規定還未涉及，亟須進一步完善相關的制度機制和法律法規。

（1）健全相關的制度機制

通過健全生成式人工智能在思政教育中應用的制度機制，形成具有約束力的倫理道德規范，能有效規避倫理風險。其一，建立倫理風險預警機制。相關部門要利用生成式人工智能識別與分析思政教育的倫理風險點，設置生成式人工智能在思政教育中應用的倫理風險預警閾值[19]。同時開發倫理風險預警系統對各類風險進行監測，并根據人機互動的各個環節，制定不同類型的倫理風險應急處置預案，一旦發現潛在倫理風險，及時向學校、思政教育主體、技術主體等發送預警信息，以便及時應對。其二，建立倫理風險監管機制。相關部門要對生成式人工智能的算法、數據與應用過程進行監測與審查，強調生成式人工智能賦能思政教育倫理風險的可追溯性和可審查性，構建包含審查制度、應用流程與審查規范標準等方面的倫理風險監管體系。其三，建立數據采集倫理準則。從倫理層面規范數據采集，制定合理采集用戶信息數據的倫理規制，并規范數據授權范圍，確保思政教育大模型預訓練語料庫中數據采集的安全性和有效性，在數據源頭上規避隱私泄露等倫理風險。相關部門要制定思政教育大模型的數據采集倫理標準和倫理規則，構建大模型訓練數據池，并強化大數據模型訓練，進一步搜集用戶的反饋數據，用足夠多的數據不斷訓練與優化用于思政教育的生成式人工智能，使其生成的內容符合思政教育的意識形態屬性和倫理要求。其四，健全算法倫理制度。我國人工智能算法審查委員會應基于現有的倫理基本道德規范，用主流意識形態的倫理框架引導算法，構建算法倫理規則，并將倫理考量納入算法設計與反饋、數據供養和教育懲戒等環節。如在算法設計環節，通過建立生成式算法備案與披露制度和建立思政教育領域敏感應用制度，加強對算法模型的規制，并對用于開發算法模型的偏見性數據進行倫理限制，確保算法的安全性與可信度。此外，還須健全常態化的學術誠信終身追責制度；健全智能技術應用的公平機制；健全倫理風險評價反饋機制、協同治理機制、審查追責機制等。

（2）健全相關的法律法規

將強有力的法律法規貫穿于生成式人工智能賦能思政教育的全過程，以法治力量明確倫理邊界，保證生成式人工智能的應用在法律軌道上運行。其一，健全數據合規法治體系。通過立法明確生成式人工智能技術主體和思政教育主體在數據的收集、使用、共享、輸出等方面的權責邊界，對他們的倫理行為進行詳細規約，并對違反隱私保護法律的行為進行追責，進而為數據的合法合規使用和師生隱私數據保護提供法律依據。其二，健全算法推薦的法律法規。通過立法明確研發者的倫理行為和算法設計的倫理邊界，要求技術研發者將社會公德、倫理道德、主流意識形態等嵌入智能算法程序，公開算法邏輯，確保生成內容過程透明化，以法規力量保障學生在算法推薦場域中的知情權，并習得相關思政理論知識。同時將研發者對生成式人工智能的算法推薦設置納入法律部門監管的重點，引導他們在法律監管下推進算法更智能化和更透明化，避免算法設計過程中的歧視與偏見，防止因監管缺失而出現倫理風險[20]。其三，健全相關主體責任的法律法規。通過立法明確技術主體和思政主體的倫理地位和倫理職責，完善責任體系，厘清他們的法律責任，防止技術異化、價值扭曲。其四，健全生成內容及其傳播的法律法規。建構生成內容有悖倫理知識的法規，篩查出不符合社會主義核心價值觀、不尊重倫理道德的生成內容，及時對隱匿傳播的虛假或誤導信息進行預警與澄清。此外，還要出臺相關法律明確生成式人工智能在鏈接不同數據庫及其使用的版權歸屬問題，使生成的思政教育內容產權清晰。

同時，加強對制度機制和法律法規的貫徹落實。政府、學校、法律等相關部門要強化技術主體、思政教育主體等對生成式人工智能應用于思政教育倫理相關的制度法規落實到位，增強他們的責任倫理意識、法治意識和法治思維。并加大對不符合倫理規范、不遵守制度法規等行為的懲罰力度，不斷探索生成式人工智能賦能思政教育的制度化、法治化舉措。

4.提升倫理素養：提高技術主體和應用主體的人工智能倫理素養

馬克思指出：“思想要得到實現，就要有使用實踐力量的人。”[21]應對生成式人工智能賦能思政教育的倫理風險，關鍵在于提升技術主體和應用主體的人工智能倫理素養，使他們成為推動思政教育數字化發展的積極實踐力量。

（1）提升技術主體的人工智能倫理素養

提升技術主體的人工智能倫理素養是應對倫理風險的內在要求，技術主體具備較高的人工智能倫理素養，能對技術研發環節可能出現的倫理風險及時感知并應對，從技術源頭上消除倫理風險隱患。其一，加強對技術主體的責任倫理教育。政府、企業部門應明確生成式人工智能技術主體在思政教育中的道德責任，用思政教育學知識、倫理學知識、人工智能倫理素養知識等對他們進行責任倫理教育，幫助其深刻理解生成式人工智能技術研發中的倫理要求，不斷提升其社會責任感，進而讓他們自覺強化跨模態深度學習模型、算法模型等技術研發的道德自律性。其二，引導技術主體強化對倫理風險的認知。社會要加大對生成式人工智能應用于思政教育倫理風險的宣傳力度，培養他們對倫理風險認知的敏感度，提高其風險研判能力。同時鼓勵他們與思政教育者合作，共同研發出與思政教育目標相匹配的算法模型和深度學習模型。其三，鼓勵技術主體科學設計倫理嵌入機制。倫理嵌入機制為應對倫理風險提供了道德判斷和技術保障。一方面，激勵技術主體要預先嵌入相關的倫理規則和具體的道德算法，制定生成式人工智能在思政教育中應用的倫理準則，將智能技術的倫理規范要求與思政教育的價值追求相融合，從源頭上控制含有價值偏見的內容生成及擴散。另一方面，激勵他們優化可擴散化模型和跨模態深度學習模型的功能，使生成式人工智能適應不斷變化的思政教育情境，自覺地輸出與倫理相關的檢驗模型，生成道德認知[22]，引導智能技術朝著向善的方向發展，提高思政教育實效性。

（2）提升應用主體的人工智能倫理素養

思政教育者、教育對象是生成式人工智能在思政教育中的應用主體，提升他們的人工智能倫理素養是防范和應對倫理風險的必然要求。

一方面，提升思政教育者的人工智能倫理素養。思政教育者作為教育活動的發動者、組織者和實施者，要求他們應具備較高的人工智能倫理素養。其一，對思政教育者開展人工智能倫理培訓。學校要定期對思政教育者開展人工智能倫理相關的崗位職業培訓，引導其了解生成式人工智能的工作原理和倫理學相關理論，幫助其系統掌握智能應用技能和科技倫理知識，提高其倫理風險研判能力和風險防范意識，激發其參與倫理風險評估、反饋、監督、審查等工作的積極性。同時學校要注重提升教育者在思政教育崗位中的數字素養水平和人機協作能力，助推思政教育隊伍的數字化轉型，進而提高其風險應對能力。其二，引導思政教育者自覺遵守人工智能倫理規范。教育部門要引導思政教育者遵循“以人為本”的倫理立場，正確處理好人機關系、師生關系，幫助他們確立并鞏固處于駕馭、控制生成式人工智能的主導地位，自覺遵守人工智能倫理規范和相關制度法規，進而做出符合倫理道德準則、發揮智能技術優勢、實現立德樹人目標的思政教育決策。其三，提升思政教育者的責任倫理意識。教育部門要加強對思政教育者的安全責任意識教育，明確他們在應對倫理風險中的價值引領職責，強化其責任擔當和主體責任，筑牢倫理風險防火墻。

另一方面，提升教育對象的人工智能倫理素養。教育對象在整個思政教育中起著參與教育活動的作用，應提升其人工智能倫理素養。其一，對教育對象開展生成式人工智能倫理教育。學校通過開設人工智能倫理素養相關的課程、講座等，借助思政課堂和網絡培訓等方式給學生普及生成式人工智能的工作原理、算法邏輯、人工智能倫理知識、數字技能與人文社科等交叉學科知識，讓他們了解生成式人工智能賦能思政教育的倫理指南和局限性，形成對各種倫理風險的識別與抵御能力。同時幫助學生明確生成式人工智能應用于思政教育的倫理實質，強化“倫理先行”意識，加強行為自律，提高智能技術應用的自覺自律意識。其二，培養教育對象的高階思維能力。思政教育者要引導教育對象在人機交互對話中對偏見性、誤導性、錯誤性生成內容進行理性辨別和深度思考，逐步提升他們的綜合分析力、理性批判力和政治判斷力，使其能辨析各類信息、研判倫理風險。進而教導學生在應對智能倫理風險時，能立足馬克思主義立場，敢于同各種錯誤社會思潮和錯誤觀點作斗爭，幫助他們成為讓黨放心、愛國奉獻、擔當民族復興大任的時代新人。其三，引導教育對象參與現實互動。為有效應對倫理行為失范風險，思政教育者要立足社會現實，引導教育對象親身參與到真實的人與人、人與社會的現實互動中，讓他們在社會交往實踐中增強現實互動，并在虛實情境體驗中不斷強化自身素養，提升自我認知能力。此外，學校要加強對教育對象的心理關懷，培養其理性平和、積極向上的社會心態，防范和化解學生在思政教育中因使用生成式人工智能引發的思想行為偏執極化風險，提升學生應對倫理風險的能力。

參考文獻

[1] 張彥.價值排序與倫理風險[M].北京：人民出版社，2011：60.

[2] 馬克思恩格斯文集（第8卷）[M].北京：人民出版社，2009：358.

[3] 喬瑞金.馬克思技術哲學綱要[M].北京：人民出版社，2002：107.

[4] 張耀燦.現代思想政治教育學[M].北京：人民出版社，2006： 268.

[5] 馮雨奐.AIGC時代教育的視頻化轉向及其風險應對——由文生視頻模型Sora引發的思考 [J].思想理論教育，2024（05）：27-33.

[6][21] 馬克思恩格斯文集（第1卷）[M].北京：人民出版社，2009：211，320.

[7] 代金平，覃楊楊. ChatGPT等生成式人工智能的意識形態風險及其應對[J].重慶大學學報（社會科學版），2023，29 （05）：101-110.

[8] 馬爾庫塞.單向度的人：發達工業社會意識形態研究[Ｍ].劉繼，譯.上海：上海譯文出版社，2008：116.

[9] 吳宏政，王子豪.“文生視頻”模型介入思想政治教育的技術路線、風險評估與有效應對[J].思想政治教育研究，2024，40 （03）： 157-162.

[10] 王少.機遇與挑戰：AIGC賦能新時代思想政治教育[J].教學與研究，2023 （05）：106-116.

[11] 未來論壇.人工智能倫理與治理：未來視角[M].北京：人民郵電出版社，2023：132.

[12] 王佑鎂，王欣穎，柳晨晨.教育領域生成式人工智能應用的倫理風險管理框架研究[J].電化教育研究， 2024，45 （10）：28-34+42.

[13] 李普曼.公眾輿論[M].閆克文，江紅，譯.上海：上海人民出版社，2006：11-12.

[14] 馮琳，倪國良.思想政治教育與技術治理耦合發展的現實困境及其超越[J].江淮論壇， 2023（03）：145-152.

[15] 賀苗，褚星波.生成式人工智能的倫理風險與規范選擇[J].自然辯證法研究， 2024，40 （11）：94-101.

[16] 習近平談治國理政（第2卷）[M].北京：外文出版社，2017：377.

[17] 習近平著作選讀（第1卷）[M].北京：人民出版社，2023：36.

[18] 習近平.在中國科學院第二十次院士大會、中國工程院第十五次院士大會、中國科協第十次全國代表大會上的講話[M].北京：人民出版社，2021：15.

[19] 馮子軒.生成式人工智能應用的倫理立場與治理之道：以ChatGPT為例[J].華東政法大學學報，2024，27 （01）：61-71.

[20] 董圓圓.人工智能賦能思想政治教育的倫理風險及其應對[J].北京航空航天大學學報（社會科學版）， 2024， 37 （01）：160-165.

[22] 劉駿.“數字思政”的倫理審視：價值、矛盾和治理[J].思想理論教育，2023（09）： 84-88.

[作者：張娟（1991-），女，四川廣安人，西南大學馬克思主義學院，博士生；鄧卓明（1956-），男，重慶人，重慶師范大學馬克思主義學院，教授，博士生導師。]

【責任編輯 鄭雪凌】

*該文為國家社科基金項目“高校思政課學習成效的大數據增值評價研究”（23VSZ141）、重慶市社會科學規劃培育項目“新時代高校思想政治工作合力研究（2020PY02）、重慶市教育委員會人文社科項目“新時代增強大學生馬克思主義信仰路徑研究”（24SKJD166）的階段性研究成果