ChatGPT介入高校網絡思想政治教育的風險審視及應對策略

【摘 要】 作為生成式人工智能的突破性產品，ChatGPT的問世給網絡空間帶來了生態性變革和結構性影響，其技術賦能高校網絡思想政治教育的同時將帶來教育要素及要素間關系的深刻重構，引發網絡思想政治話語傳播的鏈條重組。在深度介入高校網絡思想政治教育的過程中，ChatGPT的技術短板會增加教育實效性被削弱的風險，其對教育主體的取代會帶來主體權威性缺失、情感主體缺失和主體主導性缺失等主體性遮蔽風險，內嵌于技術中的話語偏見和技術偏見會為錯誤價值觀滲透開辟通路，而在數字賦能的表象下潛藏著技術對教育倫理的僭越風險。面對這些風險挑戰，在制度界面要持續完善適用于ChatGPT技術健康發展的法律法規，推動構建全面監管體系，探索建立風險防范制度；在技術界面要著力補齊ChatGPT的“技術短板”、化解“技術偏見”、防范“技術宰制”；在教育界面要穩固人類教育者的主體性地位，提高教育對象的自主學習能力，以人機協同的關系鏈接促進教育本質的回歸。

【關鍵詞】 ChatGPT；高校網絡思想政治教育；教育風險

【中圖分類號】 G645 【文章編號】 1003-8418（2024）06-0088-09

【文獻標識碼】 A? 【DOI】 10.13236/j.cnki.jshe.2024.06.012

【作者簡介】 馬也（ 1992—） ，男，江蘇南通人，東華大學黨委學生（研究生）工作部講師，上海大學馬克思主義學院博士生。

一、ChatGPT介入高校網絡思想政治教育的方式

ChatGPT 是“Chat Generative Pre-Trained Transformer”的縮寫，翻譯為“生成型預訓練變換模型”，是基于人工智能技術實現的一種大型語言模型的機器學習系統［1］。ChatGPT的自我注意機制幫助其在大型語言模型（LLM，Large Language Model）［2］海量數據中找到元素間的特征關聯，并通過跨模態深度學習模型在反饋強化機制作用下輸出令用戶滿意的答案。區別于原始聊天機器人從不變的數據庫中找尋對應答案的運行模式，ChatGPT是基于概念、判斷、推理的邏輯思維形式創造性地生成答案，從此意義上看，其已逐步進化為擁有思維能力的“類人主體”。對自然語言強大的“理解力”和“生產力”使得ChatGPT得以深度介入高校網絡思想政治教育過程，它的技術介入方式主要分為直接介入和間接介入。“直接介入”指ChatGPT和受教育者直接建構起一對一的主客體對話場域，ChatGPT作為教育主體介入教育過程，大學生在封閉式的人機對話模式中輸入關于政治觀點、思想認知、價值判斷等方面的問題，并通過“詢問人工智能—獲取答案—質疑答案—展開辯論—達成共識”等一系列對話過程，獲得滿意的答案，同時在此過程中接受正確價值觀的教育引導。“間接介入”指ChatGPT運用其話語生產功能生成特定內容的文本、圖片和視頻等網絡信息，教育主體再通過有選擇性地加工和傳播這些網絡內容以達到教育的目的，這是一種開放式的網絡思想政治教育實踐，此時ChatGPT作為教育中介鏈接教育者和教育對象。無論是直接介入還是間接介入都將給高校網絡思想政治教育帶來深刻的范式變革。

（一）直接介入將推動網絡對話到人機對話的范式轉向

談話是思想政治教育的重要教育載體之一，有學者指出：“思想政治教育話語是思想政治教育理念與內容的載體，是教育理論轉化為實踐引導的重要介質。”［3］

傳統的對話型思想政治教育主要由教育者通過面對面談心談話的形式實現，網絡技術普及后教育者可以依托互聯網開展“鍵對鍵”式的教育活動，而ChatGPT通過直接介入的方式將帶來人機對話型教育的新模式。這種全新的教育模式具有精準性、平等性、泛在性等特征。強化反饋機制保證了機器人可以精準根據特定教育對象的認知情況進行極富針對性的思想辯駁和教育引導；教育過程中沒有教育主客體的明顯區別，大學生從心理上不會將對方看作“居高臨下”的教育者，對話模式更具平等性；同時，這種模式可以完全突破時空界限，呈現泛在性特征。

ChatGPT的直接介入將推動網絡對話到人機對話的范式轉向，深刻重構教育要素及要素間的作用關系。首先，它將顛覆性重塑教育主客體間的關系。從技術原理看，ChatGPT通過加入“人類偏好”參數不斷優化原始語言模型，同時通過實際使用者對具體答案的反饋意見進行調整和修正，以輸出令每個用戶滿意的內容。基于此項技術特性，教育客體將主導對話進而轉變為對話過程中的強勢方，達成的觀點共識會具有教育客體的思想烙印［4］。其次，在整個教育過程中，教育載體由立體化向扁平化、單一化轉變。區別于傳統的對話型思想政治教育，ChatGPT缺乏人類主體在談話過程中諸如表情語氣、肢體語言等更多維、更立體、更豐富的表達方式，只能輸出自然語言，最多是圖片視頻等內容，在輸出端將趨于扁平化和單一化。同時，它理解教育客體也主要通過話語，本質上人工智能是在語言元素的特征關聯中識別問題與答案的對應關系［5］，缺乏對大學生的性格特征、一般思想狀況、生活背景等更加立體多元的了解，在輸入端也將趨于扁平化和單一化。因此，作為教育載體的整個談話過程將向扁平化和單一化轉變。

（二）間接介入將推動草根生產到機器生產的范式轉向

在網絡技術普及前，傳統的思想政治教育呈現自上而下的內容生產和傳播樣態，政治話語的生產和權威性掌握在特定部門和少數人群中。網絡技術普及后，網絡話語實踐遵循“設置議題—生產話語—傳播信息”的內在機理［6］，開放的網絡平臺、平權化的話語權力結構、自下而上的“草根式”內容生產傳播模式使得網絡空間的價值取向更加多元。青年大學生是“數媒土著”和“移動原生代”，更加熱衷于網絡社交、娛樂、消費、學習等活動，處于深度媒介化、數字化的生存狀態，更易受到網絡空間多元價值觀的影響。特別隨著大數據等人工智能技術的飛速發展，議題設置和信息傳播更精準、更富前瞻性，網絡空間對于大學生的思想和行為操控正不斷加劇。在各類人工智能中，ChatGPT主要介入“話語生產”環節，其生產的網絡內容更為豐富、更加高效、更具時代感和吸引力。得益于空前龐大的數據語料庫，它可以生成包含更大信息量的網絡內容，擁有更為豐富的呈現形式；可以在極短時間內生成內容，提高內容生產效率；可以更為智能地適應網絡空間變化快的特性，更敏銳掌握網絡流行動態，輸出內容將更受青年大學生歡迎。

ChatGPT的間接介入將推動草根生產到機器生產的范式轉向，帶來網絡思想政治教育話語傳播的鏈條重組。在傳統“設置議題—生產話語—傳播信息”的網絡話語實踐中，負責選題的“守門人”需要確保議題設置和創作內容符合思想政治教育的引導方向，扮演著價值把關的重要角色；負責話語生產的“創作人”需要運用恰當的網絡敘事手段將正確的價值觀轉化為傳播性強的網絡內容；負責內容傳播的“發布人”需要借助綜合的媒介傳播方式實現傳播廣度的最大化，只有三個環節貫通，三類角色協同，才能實現網絡傳播效能的最大化。而話語生產環節的權力讓渡給ChatGPT可能會使得傳播鏈條形成兩種新的結構：一是選題和發布環節仍然掌握在人類手中，即網絡內容生產傳播機制轉變為“人-機-人”的鏈條結構，此時人類“守門人”因困于ChatGPT“算法黑箱”特性，將無法認清其話語生產機理，對于生成內容無法進行有效的事實核查和價值判斷，導致價值把關和內容生產環節間發生脫鉤，進而導致整個話語傳播鏈條的斷裂，增加主流聲音失語和價值引導失效的風險。二是選題和發布的權力也同時讓渡給人工智能，即生產傳播機制轉變為“機-機-機”的鏈條結構，全人工智能模式可以使得鏈條各環節緊密相連且運轉流暢，大數據算法賦能下的議題選擇與精準推送可以有效銜接ChatGPT內容生產，從而實現生產傳播效能的最大化，但選題與發布環節的權力讓渡會使得網絡思想政治教育在價值選擇和價值輸出的首尾兩端陷入內嵌于人工智能技術的不公與偏見所帶來的不確定性，進而增加主流意識形態的話語影響力遭受鈍化甚至沖擊的風險。

二、ChatGPT介入高校網絡思想政治教育

的潛藏風險

科技是第一生產力，新技術在推動生產力發展的同時，也給各領域帶來變革性影響。ChatGPT在有效賦能高校網絡思想政治教育的同時會帶來一系列風險問題，一旦處理不當將會導致網絡思想政治教育的組織結構解離、育人實效性削弱等現實問題。

（一）智能全能or智能短板：ChatGPT引發的教育實效性削弱風險

盡管ChatGPT在網絡話語生產中表現出即時性、精準性、泛在性等諸多優勢，可以有效彌補當前高校網絡思想政治教育的弱項和缺陷，但智能并不代表全能，任何技術都有短板，過度的技術依賴會影響思想政治教育的效能提升。

首先，ChatGPT的技術漏洞會導致教育對象產生錯誤認知。王少指出目前ChatGPT的技術瑕疵主要有兩類，一是分辨信源真偽能力不足，二是理解語言內涵能力不足［7］。前者因無法準確辨識用戶輸入內容的真偽而導致輸出內容非但無法起到正本清源的正向引導作用，還會疊加放大用戶的錯誤認知。后者因無法理解自然語言中的深刻含義，出現誤讀誤解和文不對題，甚至產生貽笑大方的滑稽場景。如果在施教過程中因ChatGPT的技術漏洞產生了更為隱蔽的錯誤內容，就可能混淆視聽，誤導教育對象的正確認知。

其次，ChatGPT的路徑與數據依賴使得教育過程靜態化、程式化。任鳳琴、董子涵指出ChatGPT算法路徑的固定化不利于教育對象的個性化發展，對數據的依賴性有違思想政治教育的動態性原則［8］。生成式人工智能通過大數據算法看似創設了更為“因材施教”的育人模式，但其本質上仍然遵循工具理性的效率最大化原則，通過程式化的技術路徑來實現教育對象個性化思想和情感特征的呈現，通過對舊的數據分析來推測教育對象實時的思想和情感狀態，這種技術運行邏輯必然導致教育過程在空間域和時間域中陷入遲滯和僵化，過度依賴其開展網絡思想政治教育將無法有效踐行“因時而進、因事而化、因勢而新”的育人規律，也就無法實現教育實效性。

再次，ChatGPT的技術原理使得教育對象符號化、抽象化。教育過程中，雖然ChatGPT通過海量數據分析生成的用戶個性畫像具有一定科學性和代表性，但本質上其對于教育對象的理解和認識僅僅基于對象留存在其中的數據痕跡，這種畫像只是教育對象在網絡中的數據投影，無法體現現實人的多維復雜性，是將具體的現實的青年大學生數據化為抽象的片面的個體。符號化抽象化可能引起教育對象的認知失衡，青年大學生正處于自我認知走向成熟的關鍵階段，媒介化的生存狀態會使得大學生的認知形成更加依賴網絡世界中的自我確證，因為還不具備穩定成熟的自我人格，一些人會在算法識別中有意識地展現與現實自我相左的人物畫像，甚至在虛擬人格塑造中產生“普羅透斯效應”，導致數據臉譜反噬現實人格的可怕后果。同時，對此項技術的過度依賴還會帶來“唯數據論”“數據崇拜論”“數據異化”等更為深遠的危害［9］。

（二）主體主導or主體缺位：ChatGPT帶來的主體性遮蔽風險

傳統教育活動都有鮮明的主客體之分，受過訓練的教育主體通過科學的施教過程將有益的知識、能力和價值觀傳授給教育客體，客體再內化為自身的知識儲備、能力素質與思想認知，同時反饋給主體實時的教育效果，形成教育的閉環，在此過程中，教育主體的主導性決定了教育功能的實現。隨著ChatGPT的深度介入，教育主客體的界限將逐漸模糊，看似充當教育主體的人工智能實則會讓網絡思想政治教育過程面臨主體虛化甚至缺位的風險，這種主體性遮蔽又具體表現為權威性的缺失、情感主體的缺失和主體主導性的缺失。

首先是主體權威性缺失。表象上看，生成式人工智能將建立更平等的對話環境，其用戶導向型的設計理念可以有效調整“主高客低”的不平等對話模式，更加凸顯教育客體的主體性地位，有力彌合話語鴻溝，更加有效精準地開展教育活動。但人機對話在表象平等下實質將帶來人格不平等的對話環境。當代大學生主體意識更為強烈，接受的外部信息更加豐富，具有更為獨立和個性化的價值判斷和價值取舍，思想政治教育主體能否被學生完全信任信服對教育實效性會產生很大影響。當大學生預先知曉教育者是機器人，在教育過程伊始，就會把整個對話看作“以我為主”的教育活動，教育主體權威性將不復存在，即使他們十分信任人工智能的知識儲備與智能化水平，但缺失身份地位、人格魅力、情感交流等諸多人類要素的機器人主體也很難建構起真正的話語權威［10］，而教育主體話語權威的喪失將嚴重削弱思想政治教育的實效性。

其次是情感主體缺失。思想政治教育不僅是一項政治性實踐，也是一種情感養成［11］，情感互通在思想政治教育中扮演著至關重要的角色。一種思想需要通過教育對象一系列復雜的心理、情感的矛盾運動才能升華和固化為主觀意志，在此過程中，教育主客體的情感互動就顯得尤為重要。特別是當代大學生更加適應和依賴網絡社交，而關系鏈接與情感互通是網絡交往的重要特征，尋求情感陪伴已經成為大學生使用網絡的重要原因。反觀ChatGPT，盡管它通過對自然語言的理解和生成式輸出，在情感表達上較之以往的聊天機器人產品有了質的飛躍，但從根本上來說，人機對話所實現的仍然是缺乏情感溝通的教育過程，大學生需要的是來自另一個人的認同、同情、包容、安撫、激勵等情感支持，這源于物種內最原始的情感交流需要，無論人工智能如何模擬這種情感共鳴都無法跨越和彌合人與“類人”間的物種區隔，而喪失情感價值的機器主體最終也很難得到學生的信任。

再次是主體主導性缺失。一方面，主體權威性及情感功能的缺失本身將進一步弱化教育主體對教育過程的主導作用；另一方面，ChatGPT基于人類強化反饋的深度學習機制將導致教育過程淪為客體導向型。當人機對話陷入“提問—回答—反詰—修正—再提問”［12］等多回合循環反復的辯論過程，觸發的強化反饋機制將使得人工智能的論證與解釋趨于迎合用戶的預設結論，生成答案更為接近用戶的心理預期，這種“討好型”技術原則會使得教育客體的主觀意志反噬機器主體。青年大學生正處于正確思想觀念形成的關鍵時期，他們的錯誤認知會在客體主導的混亂場景中不斷被確證與固化，進而增強錯誤信息的“噪聲效應”。有學者指出這種“錯進錯出”的內容生成邏輯不僅危害教育對象個體正確價值觀的塑造，還會在魚龍混雜的網絡空間加劇不良價值觀的病毒式傳播和“瓦釜效應”［13］，使得大學生陷入認知混亂和價值迷失的泥沼。

（三）價值中立or價值滲透：ChatGPT內含的價值觀滲透風險

海德格爾指出：“現代技術業已不是中立中性的，它架構式地滲透、彌散、影響，甚至操控人的現代生活。”［14］ 作為新興的人工智能技術和網絡數字媒介，ChatGPT在參與網絡內容生產和傳播實踐的同時也在無形中滲透和建構著人們的生活方式和思維方式，作為西方“舶來品”，它在沒有完全本土化時必然會被打上西方意識形態的深刻烙印，而這種滲透和建構過程也必然帶有西方的價值立場與價值導向。有學者指出，ChatGPT將產生在意識形態、民族文化等方面具有偏見與不公的傳播內容，其創設的“超真實”擬象將加劇擬態社會與現實的偏離［15］，這種超真實將使客觀世界中的現實事物被擬像吞噬，進入毫無對照、自我指涉的符號世界［16］。還未形成成熟價值觀的青年大學生更容易迷失于這樣一個ChatGPT創設的“比真實還真實”的非真實擬態空間，也更易接受其價值導向。所以，不能僅僅把ChatGPT看作價值中立的技術主體，應將其理解為內含價值取向的價值輸出主體，要高度警惕其中的價值觀滲透風險。

首先是話語偏見。生成式人工智能大語言模型中的海量人類知識數據構成了其深度學習的語料庫，而ChatGPT由美國實驗室OpenAI開發，語料庫內的知識主要源自西方社會，顯然帶有很強的西方文化屬性，遵循西方語言邏輯和價值取向，因此它生成內容也必然是非中立的。此外，何靜認為“以ChatGPT為代表的生成式預訓練機器人在國內外現階段的研發水平上存在客觀差距，在未來的迭代中面臨預訓練數據語料難以共享，高質量語料缺失的障礙，使得中國在該技術引發的新一輪變革中的傳播優勢被削弱”［17］。她指出數據語料將成為本土生成式人工智能發展中的制約因素，漢語語料庫的缺乏將使得國內的生成式人工智能難以建構起本土化的話語系統，這會使得人工智能的生成答案無法基于漢語語義和語境而產生話語偏差，盡管有些偏差因過于低級而不至于擾亂視聽，但如果在圖片配色、語言表達方式等十分隱蔽的細節處出現意識形態偏差，就會對教育的效果產生隱蔽而嚴重的負面影響。福柯認為作為權力規定下的知識話語最終“穿透和控制”了我們的日常生活，規定了我們的欲望、道德和行為［18］。不同文明的話語蘊含著不同文明的特質和社會所倡導的主流價值觀，內置于話語中的邏輯結構和價值導向將對整個社會的意識形態產生深遠影響。而高校始終是意識形態交鋒的前沿陣地，雖然當代大學生的思想政治狀況總體良好，更富愛國情懷，更加有底氣平視西方社會，明面上的西方價值觀兜售已經逐漸失去市場，但更為隱蔽的意識形態滲透卻潛滋暗長，這要求高校網絡思想政治教育引入生成式人工智能時必須對其話語中的偏見加以細致甄別和修正，避免對青年大學生的思想認知產生負面影響。

其次是技術偏見。馬爾庫塞在其代表作《單向度的人》中指出科學技術的意識形態屬性［19］，即技術偏見，在看似中立的技術功能實現過程中暗含非中立的價值引導和輸出，具有更強的隱蔽性和迷惑性。崔海英等指出：“受市場利潤‘驅使與開發者道德認知制約，算法規則設計難免潛含一定的價值觀偏見，致使算力系統運行時附著一定的隱性偏差，即算法偏見。”［20］ 而“算法偏見”只是“技術偏見”中的一種，ChatGPT開發者在設置打分模型、調整設計參數等過程中，都可能人為加入其價值導向。在資本邏輯中，ChatGPT產品是為了謀求更大利益而開發生產的，其中的每一項技術研發都會遵循利益最大化原則，其根植于設計理念中的工具理性與思想政治教育的價值理性間存在天然的矛盾性，這種資本導向將滲透進每一個技術環節。本質上，此種資本邏輯符合馬克思機器觀所闡釋的機器的雙重屬性，即機器在具有自然屬性的同時也具有社會屬性，在資本主義框架內，這種社會屬性就表現為資本性，他指出：“機器成了資本的形式，成了資本駕馭勞動的權力……機器就它本身的使命來說，也成了與勞動相敵對的資本形式。”［21］盡管馬克思所處時代是前人工智能時代，但他對于機器資本性的批判仍有其在場性，在資本的控制下，人工智能只是采用了更為隱蔽的形式來達成資本對人的宰制。與此相應的，ChatGPT的思維和邏輯也必然會遵循西方主流意識形態，它在觀點輸出、價值判斷等關鍵環節中必然采用西式思維，諸如“憲政民主”“公民社會”等西方宣揚的普世價值將根植于人工智能的底層算法邏輯中。而無論是青年大學生還是高校教育工作者，一般都很難理解和認識到技術本身的“算法黑箱”特性，這種內嵌于技術中的偏見甚至比話語偏見更難被發覺和防范。

（四）數字賦能or數字僭越：ChatGPT對教育倫理僭越的風險

“一切技術都是身體和神經系統增加力量和速度的延伸”［22］，長久以來，技術作為人在現實生活中“解蔽”的工具或手段，與人之間始終保持著穩固的主客體關系。但隨著人工智能技術的問世與快速發展，人工智能與人類間的區隔逐漸模糊，智能技術在各領域中展現的卓越“才能”以及愈發凸顯的“類人智慧”，使得技術本身開始挑戰人類的主體性地位。尤其當表現出比較明顯的綜合性“類人智能”ChatGPT的問世［23］，讓人類不得不再次深刻思考自身作為萬物之靈的主宰地位是否仍然牢不可破。原本只是作為勞動工具存在的人工智能正在展現出作為勞動主體的特質，在未來，人類主體與“類人主體”將在各行業中展開激烈競爭。“數字賦能”一旦突破科技倫理的邊界就將走向“數字僭越”的危險境地，最終導致人類喪失主體地位，甚至淪為機器的附庸。這種僭越在網絡思想政治教育中表現為人工智能對教育者及教育對象的取代。

首先，ChatGPT在話語生產中的技術優勢將嚴重擠壓人類教育者的話語空間。盡管ChatGPT在理解語言內涵和輸出語言質量等方面仍有功能短板，但依舊表現出出人意料的語言理解和表達能力，據稱其在聊天、回答問題等方面的表現可以超過90%的人［24］。ChatGPT憑借其遠超人類個體的知識儲備、超“智慧”屬性及“迎合型”問答模式，將更加受到大學生青睞，并可能反向削弱教育對象對教育者的信任，教育者主體地位將遭到蠶食，并最終喪失教育主導權和話語權。人類教育者在這場競爭中處于劣勢的原因還在于ChatGPT創造的空前巨大的“數字鴻溝”和堅固的“數字壁壘”，普通的思想政治教育者不精通人工智能的技術知識，無法洞悉其黑箱效應，無論是監督一對一的人機對話，還是把關其生成網絡內容的合理性都顯得無所適從，他們只有通過與人工智能領域的學者協同合作，才能勉強具備對ChatGPT技術觀照的整體性視角。而更糟糕的情況是，據稱ChatGPT的技術原理可能已經超越人類認知范疇，包括對其如何產生“類人智慧”的技術路徑人類可能并不全然掌握。隨著人工智能技術的不斷發展，人類智慧與“類人智慧”間的“數字鴻溝”可能越拉越大，直至無法彌合，此時技術的猛獸將掙脫人類的韁繩，全人類都會淪為“數字窮人”和“數字奴隸”。

其次，ChatGPT在話語生產中的技術優勢將嚴重擠壓教育對象的話語空間。網絡空間日漸成為青年大學生調和現實中追求自由與約束規制間矛盾的出口［25］，他們熱衷于在網絡中表達意見、彰顯個性，并視其為追求自由與自我確證的象征。自由且富有創意的網絡內容生產與傳播是網絡時代青年大學生自我價值觀建構的重要路徑，是激發網絡思想政治教育對象主體性和能動性的關鍵環節，引導鼓勵大學生積極創作符合主流意識形態要求的優秀網絡作品本身就是網絡思想政治教育不可或缺的重要內容。當前，ChatGPT在語言、圖像、視頻等各類網絡內容生產中均展現出技術優勢，青年大學生會發現自己花數日創作的網絡文化作品質量遠不及人工智能在幾秒內創作的作品，在與人工智能的競爭中會陷入自我認知失衡和自我價值否定的惡性循環，并逐漸放棄創作網絡作品。喪失網絡內容創作者主體性地位的大學生更易被智能技術所創造的擬像世界所吞噬，更易被錯誤價值觀所左右，更易陷入“無所依附”的迷茫和“脫實向虛”的空洞中。

在各種行業和領域中，教育承擔著培養后備人才、傳承人類文明的重要責任，而思想政治教育又是其中的核心環節，扮演著鑄魂育人的關鍵角色，關乎思想沿革和信念堅守，關乎黨的事業后繼有人這一根本大計。思想政治教育的獨特地位和特殊意義決定了教育者的教育權和教育對象的受教育權必須牢牢掌握在人類手中，人類在教育過程中的主體性地位不可受到侵蝕和僭越。盡管ChatGPT目前還沒有表現出明顯的僭越性，但仍然需要防微杜漸、未雨綢繆，將其牢牢限制在合理的技術倫理框架內。

三、ChatGPT介入高校網絡思想政治教育風險

的應對之策

（一）制度界面：健全完善應對技術風險的制度框架

不斷健全完善應對ChatGPT技術風險的制度框架和法律法規是保證其健康發展的必要措施，尤其針對ChatGPT介入高校網絡思想政治教育所帶來的風險隱患，要進一步細化細分領域中的政策規定，真正用制度的“牢籠”約束技術的“猛獸”。首先，要持續完善適用于ChatGPT技術健康發展的法律法規。目前，我國已成立新一代人工智能治理專業委員會和國家科技倫理委員會，其發布的《新一代人工智能治理原則——發展負責任的人工智能》和《新一代人工智能倫理規范》分別提出了八條治理原則和六項基本倫理規范［26］，2023年7月10日，國家網信辦等４部門聯合制定《生成式人工智能服務管理暫行辦法》，進一步明確了相關政策規定。要在這些已有政策文件的基礎和框架上，密切關注ChatGPT技術的發展進程及其衍生的風險問題，在風險評估、過程監管、追責問責等重要環節，在數據隱私、網絡安全、網絡文化生產和傳播、個人行為等重點領域，及時調整和完善相關法律法規，既要給予技術創新的空間，又要謹防制度建立落后于技術發展，全面提升依法治理的能力水平。其次，要推動構建對ChatGPT技術的全面監管體系。ChatGPT目前仍然是西方“舶來品”，其語料庫的模型建構與數據來源，算法邏輯和技術實現路徑都隱藏在“技術黑箱”內，缺乏必要的監管。要逐步構建對ChatGPT技術全過程全方位的系統監管體系，在輸入端要重點監管語料庫的詞匯選擇和打分模型，在運行端要重點監管算法設計和程序開發所遵循的邏輯框架，在輸出端要重點監管輸出結果是否符合我國主流意識形態的基本要求，進而形成環環相扣，可追蹤、可溯源的監督管理責任鏈條。再次，要探索建立ChatGPT介入高校網絡思想政治教育的風險防范制度。國家教育主管部門要基于現實情況和一般性法律法規要求，專門制訂適用于ChatGPT介入高校網絡思想政治教育的風險防范準則，各高校要廣泛調研本地本校實際情況，在強化對相關法律法規貫徹執行的前提下，制訂更有針對性的校內政策文件和實施辦法，確保對技術的合理使用，確保對學生價值觀的正確引導，確保學生個人隱私數據的絕對安全。

（二）技術界面：深入推進技術的修正和規制

科技在推動人類生產力發展的同時，其本身所具有的“技術瑕疵”“技術偏見”“技術宰制”等問題會對人類社會治理、人的全面發展產生負面影響。為積極有效應對ChatGPT技術給高校網絡思想政治教育帶來的風險挑戰，要堅持“以道馭術”，用技術倫理框架和思想政治教育的要求準則來修正技術問題，有力規制技術發展。首先，要糾正技術漏洞和瑕疵。針對漢語語言內涵理解不足導致的生成內容錯誤，要加強人工智能對漢語數據庫的深度學習，甚至需要針對思想政治教育開發專門的語言生成式人工智能，訓練機器人適應思想政治教育的話語體系，從而更精準、更科學地開展教育工作。針對信源真偽辨別能力不足等問題，要增加相關組件，設置辨別參數，提高ChatGPT分辨錯誤信息的技術能力。其次，要積極應對技術偏見。及時淘汰和更新簡單接入國外ChatGPT平臺的技術手段，加快推動技術的本土化進程。在語料庫開發中應以中國文化為基準，它決定了人工智能的文化背景與思維方式。在打分模型的設計中應始終以我國主流意識形態為根本遵循，對正確價值導向的答案賦予更高分值，表明人類偏好程度更高，進而引導ChatGPT生成此類答案。在算法設計中應內嵌思想政治教育的目標要求，規制ChatGPT始終以立德樹人為根本目標參與網絡思想政治教育過程，摒棄以用戶導向型、西方價值觀導向型來設計功能的技術邏輯。最后，要有效應對技術宰制。在推動技術迭代升級的過程中，要不斷審視技術與人的關系，始終秉持技術向善的價值理念，牢牢堅守技術是為人自由全面發展而創造的這一根本宗旨，有序推進技術創新，劃清技術發展的倫理邊界，確保人相對于機器的主體性地位。

（三）教育界面：以人機協同的關系鏈接促進教育本質的回歸

面對ChatGPT介入高校網絡思想政治教育所帶來的深刻變化和風險挑戰，關鍵要做好思想政治教育的守正創新，以守正為本，以創新為形。要堅持高校網絡思想政治教育的戰略地位、目標任務和根本規律不動搖，堅持新技術要始終為培養德智體美勞全面發展的社會主義建設者和接班人服務，始終堅持將人工智能當作輔助工具，突出強化教育者和教育對象的主體性地位，堅持以人機協同育人的新模式推動和促進教育本質的回歸。首先，要穩固人類教育者的主體性地位。機遇與挑戰往往相伴而生，ChatGPT的介入一方面可能侵蝕教師的主體性地位，一方面也可能促進人機協同模式的構建。高雪梅指出ChatGPT的介入過程可以幫助推動“教師－學生”關系向“教師－對話機器人－學生”的新關系重構［27］，新的“主體間性”教育模式得以建立，而構建這種新的關系鏈接關鍵在于要牢固樹立教師的主體性、權威性地位。因此，高校要全面落實《教師數字素養》教育行業標準，以數字技能素養作為思想政治教育教師必備的核心素養之一，打造更加適應新技術發展要求的技能訓練體系。教師要重點強化對網絡思想政治教育規律及新興媒介、技術手段的學習研究，對ChatGPT技術和算法設計的全面深刻認識，能夠全程把控其生成思想政治教育內容的背后邏輯，洞悉其“黑箱效應”，始終把牢教育的主導權；要充分運用ChatGPT在知識供給中的優勢，同時，著力增強自身與學生間的情感共振，有力彌補人工智能在情感支持上的短板，實現人機協同的優勢互補，努力構建教師主導的人機協同教育模式。其次，要提高教育對象的自主學習能力。ChatGPT介入高校網絡思想政治教育可能增加大學生技術路徑依賴，自我確證偏離，自主創作熱情遭受打擊等風險，這要求學生在人機互動的教育場景中要切實提升學習自主性，增強駕馭ChatGPT技術的能力水平。有關教育部門、高校和思想政治教育工作者要深入研究ChatGPT的介入路徑與潛藏風險，統籌謀劃促進網絡思想政治教育提質增效的頂層設計，尤其要轉變教育理念，借助新技術推動“填鴨式”教育向“啟發式”教育的轉向，著力培養學生的批判思維和創新思維，注重增強學生駕馭智能化勞動工具和不斷整合創造生成新知識的能力。要幫助學生學習了解ChatGPT的技術原理，讓學生在學習實踐中逐步擺脫技術路線的控制，找到自身的主體性價值和駕馭人工智能的方式方法。要圍繞人工智能話題開展專題思想政治教育、國家安全教育，教育引導學生深刻認識其帶來的負面影響和潛在的意識形態安全風險。

總之，教育本身承載的最大意義是促進人的自由全面發展，ChatGPT作為新一代人工智能技術，其對高校網絡思想政治教育的異質化嵌入是否會帶來工具理性對價值理性的沖擊，進而導致教育旨歸的偏差和背離，值得審視。對技術的文化潛能持悲觀態度的學者普遍認為技術涉入文化的過程就是以極端工具理性剝削、異化人性的過程［28］。在馬克思機器觀視閾下，技術或機器本質是人類器官的延伸，是人本質力量的對象化，具有鮮明的屬人性質，技術的迭代升級本應使得人們的生命形態向著更健康的方向演進，即根植于現實生活之中，凸顯人的主體性價值，實現人的自由全面發展，技術應促進人性的回歸而不是異化。但隨著技術的不斷發展，其將更難被理解與約束，其在演進中形成的自主思維能力，被資本邏輯操控和錯誤價值觀驅使的隱蔽動機都將促使其成為一種喧賓奪主的反噬力量，而人的主體性地位會被遮蔽，主體性權力將會旁落，人將淪為機器的附庸。這要求技術一定要在倫理框架內行使其賦能現代生活的權力，其“技術黑箱”要能夠被拆解與穿透，尤其在高校網絡思想政治教育這一鑄魂育人的關鍵環節中，任何新技術的介入都需要以審慎的態度對待，要使其成為塑造青年大學生價值觀，幫助其全面發展的有益工具，而不是削弱教育效能甚至威脅教育神圣地位的“洪水猛獸”。

【參考文獻】

［1］張夏恒.ChatGPT的邏輯解構、影響研判及政策建議［J］.新疆師范大學學報（哲學社會科學版），2023（05）：113-123.

［2］朱光輝，王喜文.ChatGPT的運行模式、關鍵技術及未來圖景［J］.新疆師范大學學報（哲學社會科學版），2023（04）：113-122.

［3］李厚銳.智媒時代思想政治教育話語建設路徑創新研究［J］.中國高等教育，2022（20）：33-35.

［4］［5］［7］王少.ChatGPT介入思想政治教育的技術線路、安全風險及防范［J］.深圳大學學報（人文社會科學版），2023（02）：153-160.

［6］崔聰.人工智能賦能網絡思想政治教育話語實踐論析［J］.思想理論教育，2023（03）：91-96.

［8］任鳳琴，董子涵.風險與超越：生成式人工智能賦能思政教育的倫理分析［J］.重慶郵電大學學報（社會科學版），2023（06）：80-90.

［9］陳啟迪.人工智能嵌入高校思想政治教育的技術風險及應對策略［J］.學校黨建與思想教育，2022（09）：78-81．

［10］馬云志，付靜偉.思想政治教育話語權威的現實困境及其超越［J］.思想教育研究，2022（07）：34-40.

［11］米華全.智能思政倫理風險的生成邏輯、表現形式及防控機制［J］.中國電化教育，2023（02）：111-117.

［12］彭小蘭，高凌云.思想政治教育中對話教育研究［J］.教育評論，2020（02）：86-92.

［13］王少.機遇與挑戰：AIGC賦能新時代思想政治教育［J］.教學與研究，2023（05）：106-116.

［14］（德）馬丁·海德格爾.存在與時間［M］.陳嘉映，王慶節，譯.北京：生活·讀書·新知三聯書店，2014：295.

［15］［17］何靜.基于ChatGPT的智能傳播發展挑戰與應對策略［J］.閱江學刊，2023（03）：67-73+173-174.

［16］崔健，李真真.鮑德里亞“超真實”理論的審思與批判［J］.北京行政學院學報，2022（06）：108-117.

［18］李鈞鵬，茹文俊.治理手段——福柯權力觀的另一維［J］.華東理工大學學報（社會科學版），2022（04）：1-14+49.

［19］（美）赫伯特·馬爾庫塞.單向度的人：發達工業社會意識形態研究［M］.劉繼，譯.上海：上海譯文出版社，2008：115-135.

［20］崔海英，張敏.元宇宙游戲對青少年道德養成影響的理性審思［J］.思想理論教育，2023（01）：80-85.

［21］馬克思恩格斯全集：第32卷［M］.北京：人民出版社，1998：387.

［22］（加）馬歇爾·麥克盧漢.理解媒介：論人的延伸［M］.何道寬，譯.南京：譯林出版社，2019：4.

［23］［24］孫偉平.人機之間的工作競爭：挑戰與出路——從風靡全球的ChatGPT談起［J］.思想理論教育，2023（03）：41-47.

［25］谷苗苗.新媒介與當代青年亞文化的生產實踐［D］.哈爾濱：哈爾濱師范大學，2021：75.

［26］楊仁財.人工智能賦能高校思想政治教育的挑戰與應對［J］.國家教育行政學院學報，2020（05）：54-59．

［27］高雪梅.ChatGPT賦能大學生思想政治教育模式創新的挑戰及其超越［J］.貴州社會科學，2023（11）：105-112.

［28］常江，狄豐琳.從智能分發到“審美繭房”：數字時代的文化公共性反思［J］.中國出版，2023（14）：3-10.

基金項目：2023年中國高等教育學會高校數字思政精品項目（第二批）一般立項項目“‘云上經緯網絡思政工作實踐”（GJXHSZSZPT029）；2020年上海學校共青團工作研究課題重大立項項目“青年馬克思主義者培養機制研究”（2020ZHDA10-2）。

Risks and Coping Strategies of ChatGPT's Intervention in OnlineIdeological and Political Education in University

Ma Ye

Abstract： As a ground-breaking product of generative artificial intelligence， ChatGPT has brought ecological changes and structural impacts to cyberspace. While it empowers online ideological and political education in university， it will also induce a profound reconstruction of educational elements and the relationship between elements， and trigger the reorganization in the chain of transmission of ideological and political discourses on the internet. During the process of its deep involvement in online ideological and political education in universities， the technical shortcomings of ChatGPT may increase the risk of weakening the effectiveness of education. Its replacement of the subject of education may bring the risk of masked subjectivity， such as the lack of subject authority， emotional subject and subject dominance. The discourse bias and technical bias embedded in technology may open up a way for the penetration of wrong values. The digital empowerment may conceal the risk of technology's overstepping in educational ethics. Facing these risks and challenges， at the institutional level， laws and regulations applicable to the healthy development of ChatGPT technology should be continuously improved， a comprehensive regulatory system should be promoted， and a risk prevention system should be explored; at the technical level， it's necessary to make up for the "technical shortcomings"， to resolve "technical bias"， and to prevent "technological domination" of ChatGPT; at the educational level， the subjective status of human educators should be secured， the autonomous learning ability of the educational objects should be improved， and human-machine collaboration relationship should be used to promote the return of the essence of education.

Key words： ChatGPT; university online ideological and political education; educational risks

（責任編輯 楊國興）