思想政治教育運用生成式人工智能的倫理風險及其邊界構建

摘 " 要： 生成式人工智能作為未來社會進步的關鍵驅動力，正在深度賦能教育領域，也為思想政治教育現代化轉型提供了新的機遇。生成式人工智能運用于思想政治教育的過程中，潛藏著主體認知偏差、信息偏見泛在、師生互動退場、數字鴻溝候場和技術霸權返場等倫理隱憂。為有效應對倫理挑戰，亟須構建目標、內容、原則、動力“四位一體”的倫理邊界，從而保障思想政治教育現代化轉型，實現馬克思主義道德教育質量的提升與教育價值的復歸。

關鍵詞： 思想政治教育；生成式人工智能；倫理風險；倫理邊界

目前，生成式人工智能與中國社會各領域互動耦合已成大勢所趨，特別是在教育領域的運用亦呈現出快速發展態勢。然而，教育與技術的“磨合”歷程存在人機交互不當引發的倫理風險，且隨著技術的迭代，新的倫理危機繼續萌發，而舊有倫理頑疾或激化或掩蓋。在運用生成式人工智能的過程中，由于思想政治教育的特殊性，智能技術會強勢參與學生的行為習慣的養成和精神世界的構建，若不審慎對待，將可能挑戰師生交往以及人存在的基本條件——人的主體性和自由意志，引發一系列倫理風險，使得技術賦能偏離預期。基于此，應為思想政治教育運用生成式人工智能構建一個具有邊界限度的、使人機自由且共生的倫理界限，以充分彰顯思政育人的智能智慧，以期實現思想政治教育從知識本位向育人本位、從理論傳授到智慧啟迪的跨越。

一、思想政治教育轉型與生成式人工智能入場

作為黨和國家落實“立德樹人”根本任務的關鍵課程，新時代思想政治教育以“為人的全面發展服務”1為目標，并致力于從馬克思主義道德教育的角度提供世界觀與方法論的指引。道德教育是普遍性與特殊性的辯證統一，道德教育目標的實現，依賴于師生之間道德知識的準確傳達，經由學生個人親身實踐，轉而成為具有現實意義的道德智慧這一完整路徑。因此，道德教育只有觀照學生的真實情況和境遇，才可能是合理、有效的。

新時代，我國社會主要矛盾已經轉化為人民日益增長的美好生活需要和不平衡不充分的發展之間的矛盾。面對新的歷史方位與任務，黨和人民對思想政治教育提出了更高要求。習近平總書記指出，思政課“要堅持在改進中加強，提升思想政治教育親和力和針對性，滿足學生成長發展需求和期待”1。但思政課“課堂教學效果還需提升、教學研究力度需要加大、教學思路需要拓展；又如，教材內容還不夠鮮活，針對性、可讀性、實效性有待增強”2。因此，落實道德教育后半段過程，即“個性化”道德教育及其落地顯得迫切而必要，否則思想政治教育將始終處于“未完成態”，教育效果大打折扣，難以承擔助力學生實現自身全面發展的目標。

信息技術的發展使得學生擁有了新的時空理解和現實需要，“自主”“即時”“交互”“多樣化”“豐富”成為他們的生活方式與存在狀態。當下，對接新時代青年學生的時空需要，思想政治教育被要求具有從古至今全脈絡、中西兼具全視野的知識體系，內容呈現要足夠迅捷也要隨時能夠暫停回味，學習體驗要兼具可視、可體驗、可互動、可理解等屬性。顯然目前的授課模式、方法和班級體量并不能滿足這種教育需求。生成式人工智能具有強大的知識儲備、文本生成、信息檢索、文獻審查、邏輯推理以及仿生對話等功能，使得實現“個人定制”的德育教育模式成為可能。然而，如果不假思索地在思政課中使用生成式人工智能，任其過快發展與不當使用，勢必會沖擊既有的德育體系和倫理秩序，削弱師生的道德判斷力，沖擊既有價值觀念。馬克思主義認為，全部社會生活均可以在人的實踐以及對實踐的理解中得到合理的解釋，因此，疏解思想政治教育運用技術所產生的倫理風險，需要回歸到技術運用的不同階段，以獲得全面、系統的認識。

二、智能思政空間失衡與倫理風險樣態

與“網絡思政”“數字思政”“智能思政”等早期形態相比，生成式人工智能運用于思想政治教育有其獨特的空間意蘊與在場方式，它所誘發的倫理風險也依賴特定的內外部空間蔓延開來，形成諸如主體性危機、真實性倫理、意識形態安全、情感倫理以及資源倫理等現實風險。

1.多重自我“在場”，誘發主體認知偏差

在人機交互的智能思政場景中，技術往往對主體身份造成生物性、現實性與時間性的全面侵擾，致使主體產生自我認知偏差。

首先，從時間狀態上來看，智能環境中“過去我”與“現在我”“將來我”失序，影響主體對成長的認知，否定主體的可塑性。生成式人工智能將長期留存學生全部思想、行為信息，這些數據將影響后續對話的內容生成和溝通方式。因為在此過程中，學生會經歷思想意識的洗禮、精神陣痛與重塑，倘若生成式人工智能不能敏銳感知并妥善處理這種轉變，學生就難以排遣“過去我”與“現在我”在能力和價值觀方面的沖突和混亂，無法形成正確的自我認同，久存的數據限制了學生的長遠發展，將會挫傷學生發展為“將來我”的積極性。

其次，從空間狀態上看，虛擬自我與現實自我對沖，影響主體的現實參與，陷入“脫實向虛”的空洞。生成式人工智能的大模型技術具有主題廣泛、互動模式多樣、言語親和等特點，易于在教學中取得用戶信賴。基于技術信任，一些較為極端或存在道德偏差的觀點可能會在智能對話中被學生無意識地接受。當學生在虛擬環境中形成的身份和價值觀與現實世界中的身份和價值觀發生沖突時，往往會導致個體在現實世界中的行動和決策出現偏差，造成主體習得性無助，長此以往，他們將拒絕承擔現實責任，降低現實生活參與度。

2.信息偏見“泛在”，致使育人內容失真

生成式人工智能聚合公、私域資源的數據訓練，可以有效幫助思想政治教育穿透教育資源的領域局限和知識壁壘，但泛在的偏見卻使得教育內容質量難以保證，存在資源濫用的隱患。

一方面，技術端易產生信息偏見。在數據處理方面，設計者總會不經意將自己的認知方法、政治思考和意識形態立場嵌入算法，或過度依賴存在偏見的歷史數據進行訓練；數據選取者由于不具備思想政治教育專業知識，可能對數據進行選擇性采集或選擇不具有思政典型性的案例；數據標注者受制于自身思想道德水平，容易將立場識別有誤、情感分析不當的數據進行標注，這些隱患將不利于學生正確價值觀的形成。在模型方面，訓練過程中常出現過度擬合訓練數據或未能充分捕捉數據的情況，學生往往得到一系列牽強附會或看似合理但無事實根據的錯誤答案，進一步加大學生獲得事實真相的難度。

另一方面，運用端同樣存在信息偏見。運用場景影響算法偏見，某些主觀參與度較高，偶然性、非線性關系廣泛存在的場景可能會放大原有的數據偏見。生成式人工智能看似契合思政課教育教學以情動人、以理服人的要求，但事實上只是算法和模型的預設“友善”地生成了具有情感色彩的內容，影響學生對教育內容的態度和判斷。同時，用戶也需要對偏見的產生承擔一定的責任，由于師生欠缺技術素養，對技術的運作機理不甚了解，對于生成內容的出錯情況有較低的容忍度。學生在傳統課堂教學中長期處于被動地位，受到不對等教育關系的慣性影響，往往缺乏主動辨析和質疑教學內容的機會。在生成式人工智能的運用場景中，學生囿于缺乏縝密的批判性思維與勇氣，更容易被信息偏見所裹挾，無益于自身正確三觀和健康人格的形成。

3.師生互動“退場”，淡化現實情感鏈接

思想政治教育智能化環境有助于為師生營造一種相互理解、相互成就的學習氛圍，但對生成式人工智能的簡單化、雙標化運用正在惡化師生關系，淡化現實情感鏈接。

首先，生成式人工智能對部分教師的功能性替代致使其倫理身份模糊。生成式人工智能具有的深度學習神經網絡儲存著人類教師遠不能企及的知識儲備、算法推理和記憶能力。在與學生交流時，人工智能對話模式更具平等性，容易取信于學生。而部分教師堅持單一的教學方法，執著于內容的單向輸出，忽視教育對象的存在，回避身教和學生的反饋，“教”而不“育”，則極易陷入被技術架空的被動境地，教師的職業崇高性與權威性或將遭受侵蝕。

其次，技術運用缺乏“雙向透明度”，致使師生之間信任缺失。當生成式人工智能被用于學習數據的接收、解析與評估時，呈現給教師的不僅是量化反饋，更觸及學生的語言、情感偏好等隱私信息。倘若教師在未經學生明確授權的情況下擅自瀏覽或使用、泄漏數據，則構成對學生隱私權的侵犯，而學生并不具有與教師同等的數據確權，將會在“知識信任危機”基礎上疊加“個人信任危機”，甚至削弱學生對思政課的整體信任度。

最后，算法視閾中的“數字符號”難以滿足學生的情感需求。習近平總書記強調，思政課要“注重文化浸潤、感染、熏陶……實現入芝蘭之室久而自芳的效果”。1生成式人工智能難以充分展現馬克思主義基本原理及黨的政策方針中蘊含的深刻哲理與人文關懷，無法在互動中捕捉到人類美好情感的流露和認知能力的躍升，可能導致思政課詩意表達和靈感啟迪的缺失。

4.數字鴻溝“候場”，阻滯教育公平實現

思想政治教育是一門面向全國青少年的特殊“公共課”，教育公平既是思政課教育目標實現的保障，也是其價值依歸。由于技術進步、經濟投入和政策等多方支持，我國在教育信息化基礎設施建設方面取得了顯著成就，國家智慧教育門戶多次迭代升級，已形成較為完善的平臺架構。但數字賦能還在艱難探索中，并依然面臨著“數字鴻溝”沖擊教育公平的困境。

一方面，技術設備普及程度不同，一些地區的學生無法接觸到先進的智能教育工具。在我國東部發達地區已經建立了包括高速互聯網、智能教室等完善的技術基礎設施，為思想政治教育的信息化升級提供了有力支持。而在中西部一些經濟欠發達地區，尤其是偏遠農村，存在網絡覆蓋不足、設備老化等問題，基本不具備生成式人工智能思政課教學的條件。另一方面，受經濟、政治等社會歷史因素影響，群體間素養存在差異，校際數字化水平參差不齊，即便配備同等教育資源，依然存在無法實現教育結果公平的情況。既有的教育差距受到生成式人工智能的“催化”而進一步拉大。數字鴻溝使不同地區思想政治教育無法具有同等的變革條件和發展程度，受貧富分化、地區差距、城鄉差異等因素的影響，同一時期內不同區域學生的思想意識、精神品格、道德涵養和政治素養的提升難以同步，欠發達地區學生的教育利益將受到不同程度的損害。

5.技術霸權“返場”，加劇價值危機滋長

生成式人工智能牽涉多方的利益博弈，無論是技術內的摩擦還是技術外的沖突，均指向了共同體價值安全。從技術的角度看，價值隱蔽性和消解性正在合二為一。現有生成式人工智能缺乏中國本土語庫和社會價值體系植入，話語與邏輯基本是以分析哲學、工具理性等為渲染底色。“ChatGPT模型主要由西方科技公司和國家使用英語數據訓練，這導致其他國家和地區語言和文化被邊緣化，而這正是技術霸權的一種體現。”1 從技術媒介視角來看，技術黑箱正在消解思政理論課所具有的凝聚社會價值共識、引領中國社會價值方向的功能。當前，生成式人工智能內隱的意識形態正在從內容、話語、表達方式、受眾學段等方面解構思想政治教育既有成果，思想政治教育意識形態整合、治理功能難以正常發揮，加劇了數據跨境流通中的價值安全隱患。從主體的角度來看，西方政治介入，對中國采取科技霸凌，圍堵中國生成式人工智能的研究和開發。我國在人工智能技術競爭中面臨的算力算法受限、預訓練數據語料難以共享、高質量語料缺失等障礙，將不斷放大技術黑箱造成的價值隱蔽性和消解性，為西方對我國實施潛移默化的價值規訓提供空間。

三、智能思政價值復歸與倫理邊界構建

倫理是判斷和評價一切行為之正確或錯誤的最終理由，具有一定的限度和邊界。人的需要是技術秩序的前提，構建切實有效的邊界用以保證主體情感、價值關系以及文化傳統在特定歷史場域中有序傳承和奠基刻不容緩。思想政治教育運用生成式人工智能在目標層面、內容層面、原則層面以及動力層面進行系統的倫理邊界劃定，既為思想政治教育主體提供充分的時空尺度，亦堅持了智能技術以協助、促進學生自由而全面發展的價值旨歸，有利于充分彰顯思想政治教育價值。

1.目標層面：體現道德教育的智能性與智能教育的道德性的內在統一

恰當的目標邊界是調和道德準則的有限性與運用場景無窮性之間矛盾的關鍵。作為道德教育的價值導向和理論基礎，思想政治教育在構建運用生成式人工智能的倫理邊界時，需綜合考慮技術發展、“立德樹人”和社會需求多重目標，而激勵各方不遺余力地去推動這項工作的信念來自思想政治教育確實因技術賦能而更為有效和科學，同時如此的智能教育實踐也增進了教育主體的福祉。20世紀40年代，艾薩克·阿西莫夫曾提出“機器人三定律”2，作為技術服從道德律令的重要構想。思想政治教育所具有的社會價值整合功能以及“提高人們的思想道德素質，促進人的全面自由發展，激勵人們為建設中國特色社會主義，最終實現共產主義而奮斗”3 的實踐目標，無疑為“機器人三定律”乃至以理論為驅動進路的人工智能道德算法提供了中國語境下的價值標準。

“人的根本就是人本身”4，對人的現實觀照是道德教育的智能性與智能教育的道德性相統一的充要條件。一方面，運用生成式人工智能技術來提升學生的道德素養和倫理規范需要創設足夠多的現實情境與語境，使之能夠在充分的情境中經驗屬于自己的“人的本質”。所以，無論是教師還是學生都必須返回到真實的社會關系和情感體驗中才能逐步發現、承認、完善自我，實現精神成長。生成式人工智能為學生主體性發展提供了條件，智能對話給予了學生充分的表達機會，熟悉平等而有效的表達意味著學生將能理解“個人不可能在離群索居的孤獨狀態下自滿自足和展現個性”5，并逐漸愿意通過積極開展現實社會關系，直面真實的經濟利益關系和社會組合方式，從而廣泛獲得提升自身認知、能力的條件和機會。

另一方面，具有技術賦能的思想政治教育實踐展開也必須符合道德，以便最終達致意識形態澄明與德育詩性智慧的辯證統一。促進人的全面發展是思想政治教育的最終目的，生成式人工智能的運用使得智能技術得以進入思想政治教育主體對象性活動的領域，并同主體發生功能性關系，智能技術與思想政治教育良性互動的關鍵在于都朝著滿足學生全面發展需要的方向前進。面向學生的真實需要是思想政治教育的良心，也是生成式人工智能必備的“良芯”。不僅如此，面向人的需要還會使生成式人工智能通用大模型將更易于貫通中國社會發展各板塊，使其在促進人的全面發展、賦能經濟社會建設以及維護意識形態安全方面創造更多價值，逐步提升智能技術的可行性、生命力與影響力。

2.內容層面：堅持道德軟法與管理硬法的雙重規約

智能技術賦能思想政治教育過程中應當堅持教育主體之道德性和技術運用效果之倫理性的統一，將思想育人與管理育人相結合，形成道德軟法與管理硬法的合力。

一方面，應發揮道德軟法的軟性激勵作用。道德軟法著眼于通過引導說服方式激發人的積極性和內在動力，不僅要培養主體的明確的權責意識、個人隱私保護意識，還要繼續加強核心價值意識的培育，在自愿自覺的基礎上實現主體在智能思政過程中言行的自主管理。道德軟法邊界構建具有系統性、漸進性等特征，主要涵蓋樹人、化人和育人三個方面的內容。在樹人層面，依托黨和國家功勛榮譽表彰制度，挖掘傳播技術工匠、行業模范踐行社會主義核心價值觀的先進事跡，用高尚人格引導社會的技術道德。在化人層面，注重用社會主義先進文化、革命文化、中華優秀傳統文化培根鑄魂，在中華優秀傳統文化的創造性轉化和創新性發展中推動人工智能發展，進一步提升全社會的文化認同感和文化時代感。在育人層面，依托智慧城市、村鎮、社區、單位、校園等系統建構智能網格，將本土化的科技道德準則自然柔和地轉化為人們的情感認同和行為習慣。

另一方面，應關注管理硬法的剛性規約機制。管理硬法是硬規范，致力于人們行為規范的養成，具有一定的強制性和被動性。道德軟法是自律性的理性自覺，而管理硬法是他律性的理性自由。思想政治教育運用生成式人工智能時需要調動制度、獎懲、行政與法律管理等多種方法1，在可行性的基礎上，明確教學中應當做、必須做、禁止做的事，興利除弊。此外，為規避“技術拜物教”的四處蔓延，防止“技術的解放力量——使事物工具化——轉而成為解放的桎梏，即使人也工具化”2的情況重演，需要“在創新政策中考慮倫理，遵守道德標準，將其作為資金支持等政策的先決條件”3，以引導智能思政的技術研發、課程設計與教學使用，推動智能思政生態建設合理、合法、合規且高效。

3.原則層面：維持積極倫理與消極倫理的平衡互補

思想政治教育運用生成式人工智能的倫理邊界應更為強調基于思想政治教育育人立場而產生的技術關愛與技術信任，而不應僅是對技術倫理風險進行約束的反制，或出于技術恐懼而產生的針對實踐主體及技術環節的“罪與罰”。

其一，應當對生成式人工智能抱持積極肯定的態度。當社會以防御與監控的口吻向學生宣傳生成式人工智能和智能思政的相關政策和倫理要求時，無論是教育主管部門還是教師若采取一種警惕和自衛的姿態去審視和運用這項技術，無疑會嚴重挫傷學生以此提升道德認知、情感、意志的積極性，教師對智能技術拒斥性的語言表達和態度也會被學生理解為教師缺乏包容和仁慈，不利于良好師生關系的形成和鞏固。其二，作為負責任的教育者告知學生潛在的倫理風險是必要的，但也應在調查研究的前提下提供客觀、科學的講解，而教師的質詢態度會壓縮后續知識傳授與情感表達的空間，給學生留下教師欠缺理性的印象。如，針對生成式人工智能泛在的算法偏見問題，教師可積極帶領學生分析機器生成信息中的謬誤，共同認識智能技術的運作機理和局限性，接受智能算法的不完美并利用它。在此過程中，學生從被動的知識接受者、情緒反應者轉變為兼具深度思考力和理性批判力的主動發問者，有利于實現思政課教學從“為知識而教”向“為思考而教”的質性跨越。

4.動力層面：促進技術突破與素養提升的良性互動

“現代技術構成了人的發展的表達和界限”1，技術進步和主體素養提升是破解生成式人工智能自身發展問題與衍生倫理問題的基礎。

一方面，應著力突破技術局限，筑牢智能思政的物質基礎，規避技術端發展不足導致的教育倫理問題。一是著力搭建技術平臺。依靠創新技術研發中心與核心智庫，搭建生成式人工智能思政運用孵化平臺，不斷培養創新人才。在此基礎上，理解生成式人工智能內生的安全機理，深入研究大模型的對齊和可解釋方法。二是集中攻克技術偏見難題。大模型轉接產生的錯誤信息、大模型濫用導致數據造假和隱私侵犯以及大模型未對齊導致的不良信息擴散均是導致思政課內容失真、教師失信的重要因素，必須通過規避強化學習的泛化性、數據要素化以及規范數據資產入庫等方式，盡可能消除泛在的算法、數據偏見。

另一方面，在智能思政教學初期，提升教育主體素養成為規避倫理風險的必要補充。思政課教師應正確認識自身在教育實踐中的地位和使命，努力提升專業素養，提高運用生成式人工智能的水平，利用技術實現對教育資源和學情的系統掌握，不斷提升思想政治教育的實效性。教育主管部門和學校應定期組織生成式人工智能相關培訓，幫助師生了解有效運用工具獲取教育資源的方法，提升信息素養和批判思維能力，發現和識別不當使用生成式人工智能的負面社會后果。教育主體在充分認識并運用生成式人工智能功能、全面提升自身的信息素養的基礎上，制訂更高標準的工作要求，將有益于思想政治教育教學和科研實現質的飛躍。

Ethical Risks in the Application of Generative Artificial Intelligence in Ideological and Political Education and the Boundary Construction

ZHANG Shuhan，SUN Yingguang

（School of Marxism，Nanjing Normal University，Nanjing Jiangsu，210023）

Abstract： Generative artificial intelligence（AI），as a key driving force for future social progress，is deeply empowering the field of education and providing new opportunities for the modernisation and transformation of ideological and political education. However，the application of generative AI in this field entails hidden ethical concerns such as subjective cognitive bias，pervasive information bias，weakened teacher-student interaction，digital divide waiting to emerge and the resurgence of technological hegemony. In order to effectively cope with these ethical challenges，it is imperative to build a‘four-in-one’ethical boundary comprising goals，content，principles and motivation，so as to ensure the modernisation and transformation of ideological and political education，enhance the quality of Marxist moral education and restore educational values.

Key words： ideological and political education，generative AI，ethical risks，ethical boundaries