生成式人工智能嵌入拔尖創新人才培養的潛在風險與突破

摘要：生成式人工智能在嵌入拔尖創新人才培養同時，亦會產生相應風險。為此，該研究使用LDA主題模型、TF-IDF算法與深度訪談相結合的混合研究設計，發現現階段生成式人工智能嵌入拔尖創新人才培養中會在培養主體、課程、評價以及管理層面產生相應風險。細究這些風險，其與生成式人工智能的模型、教育生態以及監管體系密切相關。為有效規避生成式人工智能嵌入拔尖創新人才培養的風險，應從“根源治理”“內部變革”“外部監管”方面入手，開發適配拔尖創新人才培養的智能模型，優化智能技術嵌入人才培養的教育生態與建立生成式人工智能應用的監管體系。

關鍵詞：生成式人工智能；拔尖創新人才；人才培養；技術嵌入；混合研究設計

中圖分類號：G434 文獻標識碼：A

* 本文系中央高校基本科研業務費資助項目“拔尖創新人才自主培養的教育機制與路徑研究”（項目編號：CCNU24ZZ016）研究成果。

① 田友誼為本文通訊作者。

一、引言

相較于傳統人工智能系統，生成式人工智能得益于“轉換器”的機器學習算法靈活處理大量數據，且不依賴于明確和預定義的分類[1]。伴隨生成式人工智能的興起，其在教育領域產生一系列變革，引發了教育界的廣泛探討并行成三大共識，一是認為生成式人工智能對教育產生影響是必然趨勢，教育將進入新時代，譬如，生成式人工智能的應用將教育帶入“人機協同”時代，教師借助機器成為更加重視育人的“超級教師”[2]。二是對生成式人工智能嵌入教育領域限度的探討，有學者指出，教學模式、學習方式等隨著生成式人工智能的嵌入應當有所轉變[3]，而教育本質、教育追求不應發生改變[4]。三是指出生成式人工智能教育應用存在問題，例如，ChatGPT的技術原理決定其應用教育領域存在風險——通過概率計算生成最佳文本答案，并未真正理解文本內容[5]；生成式人工智能催生教育領域的學術不誠信、抄襲泛濫、思維退化等問題[6]。

拔尖創新人才培養已然成為新時代教育領域的重要命題。在“技”層面，生成式人工智能能為拔尖創新人才的培養帶來技術紅利，《中共四川省委關于以發展新質生產力為重要著力點扎實推進高質量發展的決定》就明確提及“借助生成式人工智能等先進技術，深化教育科技人才綜合改革，完善拔尖創新人才的培養工作”，但與之相對應的研究則偏少，有限的研究主要集中闡述這項技術應用拔尖創新人才培養的限度問題，未從實踐層面揭示嵌入的潛在風險[7]。在實踐場域中，生成式人工智能嵌入于拔尖創新人才培養需充分考慮其特殊性與情景性，否則較為容易出現風險。具體而言，一方面，生成式人工智能會對拔尖創新人才培養工作產生負面影響，諸如讓培養工作面臨創造性缺失風險、智能鴻溝風險以及異化風險[8]；另一方面，生成式人工智能會對培養對象帶來一系列負面影響，諸如引發培養對象出現批判思維匱乏[9]、創新能力孱弱、情感能力缺失等問題[10]。由此，本研究著眼生成式人工智能嵌入拔尖創新人才培養的實踐，運用文本挖掘法（包含LDA主題模型與TF-IDF相似度計算）和深度訪談相混合的方法厘清其中可能存在的潛在風險，以及為風險的解決提供可能路徑。

二、研究設計

混合方法研究是指在同一研究當中融合定性與定量兩者方法的研究類型，能夠實現探索與驗證并舉的效果，獲得比單一方法更穩定的推論[11]。潛在狄利克雷分布（Latent Dirichlet Allocation，簡稱LDA）主題模型，其作為“語言的統計模型”與非監督機器學習的挖掘方法，能有效且大規模識別人類無法識別的重要主題[12]，避免篩選共詞時存在主觀選擇等問題[13]。詞頻—逆文本頻率（Term Frequency-Inverse Document Frequency，簡稱TFIDF）算法，其作為一種加權技術，能有效減少選擇主觀性與高頻詞孤立等問題，結合相似度計算等方法構建不同時序減的主題關聯。深度訪談是一種常用的定性研究方法，它采用非結構化、直接的一對一交流形式。這種方式能夠充分調動受訪者的積極性，促使他們深入分享見解和經驗，從而更細致地探索研究主題。

（一）基于LDA主題模型與TF-IDF算法的研究設計

憑借其強大的數據處理能力，生成式人工智能被廣泛應用于一線的教育培養工作之中①，但囿于現階段學術界對其討論則相對不足。“知乎”“小紅書”“微博”平臺卻存有一定數量與“生成式人工智能嵌入拔尖創新人才培養”主題相關的帖子。因此，本研究以“生成式人工智能”“拔尖創新人才”“風險”等為搜索詞進行檢索②，并對檢索出數據進行處理，去除出現的注入話題標簽、廣告信息等不規范的用語和特殊字符[14]，再將其保存為（.xlsx）格式，形成了包含83條帖子與141條評論在內的結構化數據。隨后，本研究采用Jieba分詞工具對原始文本進行分詞處理，并使用哈工大停用詞表、百度停用詞表以及特定領域的特征停用詞列表來優化文本特征詞的提取。

為完成對詞語的分類，在本研究中，我們首先從特征詞文本中選擇一個文檔，其長度N遵循參數為β的泊松分布。接著，我們基于文檔的主題分配，按照狄利克雷分布θ～Dir（α）進行抽樣。隨后，在長度為N的文檔中，每個詞語根據多項式分布Zmn～Multinomial（θm）確定對應的主題。對于每一個主題z，我們再依據狄利克雷分布φzm～Dir（η）（這里的η對應原文中的β，可能指代不同參數值，請根據實際情況調整）來抽取該主題下的詞語分布。最終，根據選定的主題z和相應的詞語分布φzm，通過多項式分布Wmn～Multinomial（φzm）來決定具體的詞語。整個模型的聯合概率分布可以在公式（1）中找到。這里，K代表預設的主題數量。為了評估不同主題數量設置的效果，我們計算了各主題間的余弦相似度，并經過多輪實驗驗證，發現當設定K=4時，主題間的余弦相似度相對較低，這表明此時的主題劃分較為清晰且獨立。因此，我們將“生成式人工智能嵌入拔尖創新人才培養”的內容分為4個主題領域。分析結果顯示，這些主題之間的余弦相似度均小于0.2，確保了所選主題的良好區分性和代表性。

（二）基于深度訪談的研究設計

為驗證文本挖掘法得出的結論，本研究選用便利抽樣和標準抽樣結合的方式，選取來自N市、W市等的12位拔尖創新人才培養對象進行深度訪談。受訪對象來自拔尖創新人才培養的各階段，具有一定的代表性，選取其作為本研究的調查對象對揭示生成式人工智能嵌入拔尖創新人才培養的困境具有重要意義。（受訪者的基本信息如表1所示，采用半結構化的深度訪談形式進行一對一面談或線上（微信）交流）。為了驗證訪談結果的可靠性，本研究采用了理論飽和度分析。當數據分析不再產生新的概念或類別時，即認為達到了理論飽和，這是停止數據收集的一個重要指標[16]。通過使用預留的兩位受訪者的訪談資料進行檢驗，我們發現所有的重要概念和分類已經被先前的數據覆蓋，沒有出現新的關鍵范疇或關系。這表明我們的數據已達到飽和狀態，從而確認了研究結論的穩固性和可靠性，同時也證明了數據收集可以適此結束。這種方法增強了研究結果的可信度和有效性。

三、技術風險：生成式人工智能對拔尖創新人才培養的可能沖擊

本研究運用文本挖掘法，對生成式人工智能嵌入拔尖創新人才培養的文本數據劃定主題，確立并篩選所符合主題的特征詞（如表2所示），再結合深度訪談、帖子與評論的內容對劃定的主題進行命名，本研究將“主題一”命名為“拔尖創新人才培養主體維度的風險”，“主題二”命名為“拔尖創新人才培養課程維度的風險”，“主題三”命名為“拔尖創新人才培養評價維度的風險”與“主題四”命名為“拔尖創新人才培養管理維度的風險”。

（一）技術賽博誘發拔尖創新人才培養中的主體危機

“賽博”一詞最早由吉布森提出，其既與隱匿于代碼中的迷思性世界相關，又與關聯龐大且復雜的邏輯系統的現實世界密切相關[17]。生成式人工智能滲透到日常培養工作之中，學生常處于對生成式人工智能相關產品迭代升級的適應中，淹沒在所制造的海量數字信息之中。囿于其深度嵌入從而陷至“技術賽博”桎梏，拔尖創新人才培養對象會產生主體的認知與價值觀迷失，培養工作準尋的主體觀念亦會產生改變，傳統以人為主體的主體觀將會被以“技”為主體的觀念所取代。

其一，技術迭代衍生拔尖創新人才培養對象認知的負面影響。生成式人工智能技術出現的背后是日新月異的技術迭代，在歷時性演進的技術譜系之中，生成式人工智能是以類人腦形式對海量信息進行深度加工的最新事物[18]。然而，技術愈發“智慧”，尤其隨著技術不斷迭代而產生的生成式人工智能，其在一定程度上改變了“類腦智能”的輔助決策地位，呈現出向決策互動主體過度的傾向，具體表現為在超強算力加持之下，生成式人工智能基于學習環境中的“數據足跡”，捕捉教育主體的偏好，促使學生在人機對話中落入“算法議程”的框限，從而成為被生成式人工智能“投喂”的消費主體[19]。在拔尖創新人才培養的實踐中，結合對其的相關訪談，部分培養對象注重接受生成式人工智能獲取的便利，從而對自身的認知能力產生負面影響。具體而言，其主要表現為兩個方面：一方面對拔尖創新人才培養對象的注意力帶來負面影響，表現為“注意力渙散，難以長時間專注學習內容”（受訪者4），受制于生成式人工智能帶來的接受信息的爆炸性增長，將培養對象陷入龐大的“信息陷阱”之中從而影響其對于學業的專注；另一方面是對拔尖創新人才培養對象帶來思維方面負面影響，即出現“思維定式”“思維惰性”“批判性思維缺失”等問題（受訪者4、受訪者7），基于吉爾福德提出的智力結構理論，思維尤其是發散思維是創造力的基礎，對拔尖創新人才培養對象而言，思維方面問題將直接影響其創造潛能，甚至阻礙其未來取得的創新成就。

其二，技術應用引出拔尖創新人才培養價值觀念的不良傾向。在生成式人工智能在以一種顛覆性的技術改變拔尖創新人才培養方式的同時，其對培養對象價值觀帶來的潛在風險亦不容忽視。生成式人工智能未擺脫對人類思維的物化與模擬，究其本質，其仍是建立在巨大語料庫基礎之上的神經網絡模型，其預訓練過程需依靠互聯網中可獲得文本數據。然而，網絡信息良莠不齊，充斥大量歷史虛無主義、新自由主義等錯誤的言論思想，這些不良信息會影響拔尖創新人才培養對象的價值觀。結合訪談內容，第一，生成式人工智能嵌入拔尖創新人才培養會為培養對象帶來一定的誠信問題，“我的課程作業會使用ChatGPT生成”（受訪者2），而生成式人工智能所依賴的算法實則是對現有信息的重組和模仿，這與要求提交原創性成果的課程要求沖突，損害培養對象的學術誠信。第二，生成式人工智能嵌入拔尖創新人才培養會影響拔尖創新人才培養對象的思想動機，在主題分析之中，提取出了“思想”這一特征詞，亦有受訪者闡述“AIGC生成的相關內容中存在一些錯誤傾向的內容”（受訪者3），這會擾亂正處人生“拔節孕穗期”的，致力于為國家和社會做出重大貢獻，促進社會經濟轉型與福祉增加的拔尖創新人才培養對象在價值層面的判斷與鑒別。第三，生成式人工智能嵌入拔尖創新人才培養易造成培養對象人文精神的缺乏。結合對培養對象的訪談，生成式人工智能強大的信息檢索與預算能力已引發部分培養對象對技術的過分崇拜與對人文精神的忽視，這可能會導致培養的拔尖創新人才成為“技術至上”的片面人才，缺乏對人類社會和文化的深刻理解與關懷。

其三，技術興起顛覆拔尖創新人才培養工作的主體觀念。關于拔尖創新人才的定義學界尚存爭議，但究其本質，是擁有頂尖創造力的突出人才。伴隨著技術尤其是智能技術的興起，技術這一要素逐漸由工具變為“主體”，沖擊甚至顛覆以學生為主體的傳統培養觀念。鑒于拔尖創新人才的培養對象對知識深度與廣度的需求、個性化發展的要求，對拔尖創新人才的培養應以培養對象為中心，圍繞學生的需求、興趣和能力展開培養工作。但在生成式人工智能嵌入拔尖創新人才培養場域之中，已然出現過度依賴智能技術、忽視個體的差異、技術更新替代教育創新趨勢。過度依賴智能技術，即教師在日常的教育教學活動中過度依賴生成式人工智能這一智能技術，在訪談中發現，“老師上課的PPT一看就是人工智能生成的，平時上課非常依賴這些智能技術生成的課件”（受訪者10）；忽視個體之間的差異，技術強調標準化與規模化，生成式人工智能亦不例外，在訪談中發現，部分高校會讓學生進入相關平臺學習，但即使以生成式人工智能技術為基礎而構建的學習平臺，囿于大數據算法運算機理，其生成的內容亦無法滿足學生個體之間的差異化需求。在提取出的特征詞中，出現了“更迭、更新”等詞，結合具體帖子對應的內容與訪談，會發現技術更新替代了教育創新，伴隨生成式人工智能的助推，在培養拔尖創新人才的實踐中，教師、管理者們已經從與學生緊密相關的教學理念、教學方法、教育資源優化配置更新的關注轉變至對生成式人工智能技術升級的關注。

（二）技術嵌入觸發拔尖創新人才培養中的課程危機

作為外源性技術手段，生成式人工智能一方面改變拔尖創新人才培養對象的認知，倒逼拔尖創新人才的培養課程發生改變，另一方面，其亦可作為課程的重要賦能載體，為拔尖創新人才培養課程更新提供條件保障。在拔尖創新人才培養的實踐之中，拔尖創新人才培養的相關課程伴隨生成式人工智能的嵌入產生相應變換并滋生出一定風險。

其一，課程內容過度追新，基礎性不足。“關聯主義”（Connectivism）認為受技術發展的影響，知識的更新速率加速，學習者需識別和評估各種信息源的有效性，及時更新所掌握的知識體系[20]。伴隨生成式人工智能嵌入，拔尖創新人才培養的課程不斷更新，在所提取的特證詞中出現了諸如“更新”“更迭”等詞匯。在對受訪者的訪談中，有受訪者表示，“近些年，相關課程的課程內容、課程形式也發生改變，內容方面，課程的內容不再一層不變，較新且前沿的知識也出現在我們的課程之中，課程的形式也發生改變，各種技術被應用于其中助力我們學習”（受訪者4）。由于智能技術，尤其是生成式人工智能技術的嵌入，知識的體量劇增且更新速度加快，課程內容可適當引入學科前沿知識，但受限于其培養對象的特殊性，拔尖創新人才培養的相關課程不可一味追求“增新”，以至于動搖拔尖創新人才培養對象的“認知根基”，削弱自身的學習興趣。拔尖創新人才培養的課程設置致力讓培養對象了解所學學科的基本原理、方法論、理論框架以及歷史發展。作為新知識的生產者、專業領域的開拓者的拔尖創新人才，學校對其的培養并非教授所謂“前沿知識”，促使其掌握學科的基礎知識，而是讓其以已有知識結構為基石不斷向外延伸，推演出其知識演化的新型樣態從而實現對“前沿知識”的深度理解，實現拔尖創新人才培養對象對知識的深度掌握，提升對知識的遷移能力。

其二，課程結構存在割裂，片面性凸顯。受生成式人工智能嵌入的影響，拔尖創新人才培養的相關課程出現打破學科領域壁壘的趨勢，呈現相互關聯與滲透的特點。“我們的課程不在拘泥于某一學科，越來越多的交叉內容出現在我們的課程之中”（受訪者8），特征詞中亦出現“學科”“割裂”等相關詞匯。誠然，生成式人工智能等技術帶來的教育革新需對傳統的課程觀有一定的沖擊，技術演進帶來的知識更迭與交融也有必要促使現有課程打破專業壁壘，走向相互關聯、滲透與融合。然而，在拔尖創新人才培養的實踐之中，卻存在“過分追求學科間交融，而致使課程結構變得割裂與破碎”的相關問題（受訪者3）。割裂式的課程結構容易造成拔尖創新人才培養對象對事物的認知停留于表象且拘泥于片面，對拔尖創新人才培養對象宏觀層面理解并綜合應用知識并無益處。在對受訪者的相關訪談中，就有受訪者明確表示“嚴密、完整與邏輯的課程內容已不再被強調，這不利于我們系統掌握所學知識”（受訪者5）。拔尖創新人才不同于一般意義上的學習者，應更側重于對其批判思維與融合貫通能力的培養，面向其的課程應注重課程結構的完整，強調讓拔尖創新人才培養對象在對所學學科知識全面把握的基礎之上，主動介入并深度整合，在自主問題解決的過程之中發現學科內容的整合點，學習并掌握跨領域跨學科知識。

其三，課程形態顛覆改變，具身性缺乏。傳統課程以預先由人們有計劃設計、規劃與編制為特點，受生成式人工智能的影響，這項智能技術用生成的方式顛覆了所謂的傳統課程，引導課程形態向著生成式課程的方向發展變化，創造出一種呈現生成性、不確定性與豐富性特點的新型課程形態[21]。在對拔尖創新人才的培養中，已然出現“生成式課程”，且課程呈現出向“生成式”轉化的傾向，正如訪談中有受訪者所提及的“課程形態開始出現變化，有些課上老師讓我們通過與生成式人工智能的對話來掌握知識……現在這種課程模式也在逐步推廣”（受訪者1）。基于生成式人工智能技術的“生成式課程”的確存有促使培養對象“個性化全面發展”的優勢[22]，但其本質仍基于大數據與大算法基礎，根據所提供的提示詞生成學習內容與強調人機互動生成，僅限于對拔尖創新人才培養對象大腦的調動。“具身理論”認定身體在認知過程中的重要作用，結合運用LDA主題模型與TF-IDF算法提取出“具身”這一特征詞，以及訪談者提到的“設置課程中的實踐性不足”（受訪者7），表明針對拔尖創新人才培養對象的“生成式課程”具身性缺乏的問題。具身性強調“身心精”合一，是發揮課程作用，培養“完整的人”的前提條件[23]。“生成式課程”具身性不足意味著相應課程對培養對象情感、態度、價值觀等維度關注不夠，影響其對拔尖創新人才培養的成效。

（三）技術窠臼引發拔尖創新人才培養中的評價危機

生成式人工智能蘊藏著強勁泛化能力、卓越復雜理解能力以及龐大自然語言處理能力，在實現高質量教育評價、創新教育評價等方面具有較大的潛力。但生成式人工智能以算法技術為支撐，受制于算法本身的局限性，容易將對拔尖創新人才培養的評價帶入算法技術衍生出的“窠臼”。

其一，拔尖創新人才培養評價手段單向度風險。生成式人工智能因其高度互動性、簡便的操作流程以及快速的內容生成能力，與效率邏輯理念不謀而合。同時，由于其算法的準確性和邏輯性，生成式人工智能被廣泛采納為教育評估領域的工具。在對拔尖創新人才培養對象的訪談之中，就有學生表示“生成式人工智能技術已然被應用于對我們的相關評價之中”（受訪者2）。現階段的教育評價仍束縛于功利邏輯，伴隨生成式人工智能的嵌入，評價主體會依據生成式人工智能設定的標準對其行為進行優化與調整，形成效率邏輯下的評價手段依賴，從而造成評價手段的單向度，提取出“同質”“相似”等特征詞印證了這一觀點。綜合對拔尖創新人才培養對象的訪談，評價手段的單向度會為拔尖創新人才帶來一定程度的危機。一方面，生成式人工智能嵌入拔尖創新人才培養評價之中，“將復雜的終結性評價與過程性評價還原為刻板單一的指標”（受訪者7），這與追求“卓而不同”拔尖創新人才的培養理念相沖突；另一方面，生成式人工智能完成對拔尖創新人才培養評價的背后是對可量化數據的高效運算，可能產生對不同類型拔尖創新人才采取相同算法與評價方式的局限。

其二，拔尖創新人才培養評價內容模糊化風險。生成式人工智能以工具理性為主導，將這項技術應用拔尖創新人才培養的評價中，可能會導致評價主體對生成式人工智能科學性與專業性的過度推崇，并因此深陷技術依賴的陷阱[24]。若將諸如數據獲取與分析、內容評價以及指標體系構建等決策權全然交由技術主導，則容易將對拔尖創新人才培養的評價引入“技術黑箱”的陷阱中。同時，鑒于生成式人工智能固有的復雜性與抽象性，對其的過度依賴極有可能招致將評價過程簡化為“依據算法對相關評價指標的數據信息進行輸入與輸出”的形式化操作。在缺乏對算法內部邏輯充分了解的前提下，這將不可避免地催生“評價內容黑箱”，進行影響評價的不確定性與模糊性。在提取的特征詞中，“內容”“模糊”佐證生成式人工智能對拔尖創新人才培養評價帶來的所謂“模糊性”，再結合對拔尖創新人才培養對象的訪談內容，這種“模糊性”進而會演化成盲目追求智能化和自動化內容生成的“圖靈陷阱”，對拔尖創新人才培養的評價“因技術模型的未知性與波動性而變得寬泛與松散”（受訪者5），“評價內容雖然正確但并非完成適配于招生評價實踐”（受訪者9）。

其三，拔尖創新人才培養評價數據隱私性風險。因其強大的運算與分析功能，生成式人工智能被視為“技術專家”參與教育評價，正如，有受訪者表示“生成式人工智能主導著對我們的評價，感覺是這項技術在評價我們”（受訪者2）。盡管生成式人工智能技術在推進教育系統的技治主義發展以及加速教育體系科學化進程方面發揮了重要作用，但與此同時，也會派生出個人隱私數據及其相關數據的過度收集和處理的問題。這種情況可能導致參與教育評估的拔尖創新人才培養對象陷入一個類似于“全景式數字監控”的環境中，進而增加教育數據泄露等潛在風險。在實踐層面，學校利用生成式人工智能開展拔尖創新人才培養智能化評價，需要對拔尖創新人才培養對象、培養過程等要素的數據進行收集、分析與處理，以便做出科學且專業的評價決策。這將賦予生成式人工智能對拔尖創新人才培養相關數據的控制權，進而可能引發數據過度挖掘和隱私侵犯等問題。在對受訪者進行訪談，有訪談者談到其“在其他場合見到自己的相關信息”（受訪者9）以及展現出對“數據泄露”（受訪者5）的擔憂。

（四）技術悖論生發拔尖創新人才培養中的管理風險

生成式人工智能可較為便利處理管理過程中的計劃、組織、協調等環節，現已被應用于教育管理環節之中，以提高管理的效率與質量。在拔尖創新人才培養領域，生成式人工智能亦被嵌入其中賦能拔尖創新人才培養的管理工作，卻出現與預設相悖的情況，其在賦能過程中亦存在管理過程去人性化、管理能力退化等問題。

其一，生成式人工智能肇致管理過程“去人性化”傾向。技術與管理的融合已然成為數智時代教育管理的核心特征。作為技術發展的最新表征之一——生成式人工智能備受政府和高校的普遍推崇，用以實現高效、精準與智能化管理。于實踐場域之中，生成式人工智能嵌入拔尖創新人才培養的管理之中卻出現“去人性化”的特征，在提取的特征詞中，就出現了“技治”“技管”這兩大特征詞，對受訪者的訪談，就有受訪者表示“生成式人工智能的嵌入讓我覺得我們不是在被人所領導和管理，感覺是被技術所管理”（受訪者4）。生成式人工智能相較于以往技術，其具備更強的主動性與能動性，對教育也具有更強的方向規約。每位拔尖創新人才培養對象都有其獨特的個性，然而生成式人工智能往往具有固定的數據庫與算法，難以充分兼顧培養對象的個體差異，從而招致“培養管理工作過于標準化與一刀切，無法滿足個性化需求”（受訪者5）。生成式人工智能作為數智技術的第三持存[25]，秉持“工具理性”以實現對拔尖創新人才培養工作的管理，這就使得管理過程的“人文關懷”缺乏。

其二，生成式人工智能造成管理層面的正義問題。正義是現代社會追求的永恒主題，也是教育管理事業的根本遵循，針對拔尖創新人才培養的管理工作唯有在正義理念的規導下才能保證對其的管理效果。現階段，生成式人工智能在逐步改變管理關系、管理方法以及管理過程等方面的同時，也會引發管理層面的正義問題。在對受訪者的訪談之中，有受訪者表示“生成式人工智能嵌入對我們管理過程之中，存在著一些不正義的問題”（受訪者1），而這種“不正義”的方面大致可歸類在分配與算法層面。在分配層面，伴隨著生成式人工智能嵌入拔尖創新人才培養的管理之中，生成式人工智能從“工具地位”轉移至“主導地位”，將對拔尖創新培養的管理走向數據化與利益最大化，從而陷入數據化、效率化的桎梏中，影響分配層面的公正。在算法層面，生成式人工智能所依據的算法功能的發揮受制于算法開發者的專業水平、道德認知與智能評價系統的內部完整性[26]，受制于開發者的道德認知水平以及智能評價系統的內部尚未成熟，出現拔尖創新人才培養的管理走向偏誤，造成管理工作的非正義傾向。

其三，生成式人工智能加重管理層面的成本負擔。生成式人工智能作為一門新興技術，其嵌入管理事業中不可避免地會帶來成本方面的問題。結合提取的“成本”“經濟”等特征詞，以及受訪者表示“感受到生成式人工智能嵌入到拔尖創新人才培養的管理之中提高了相關成本”（受訪者3），證實了生成式人工智能為拔尖創新人才培養的管理帶來的成本問題。細究相關的成本問題，結果特征詞與訪談內容，生成式人工智能嵌入引發的成本問題可分為三個方面：一是硬件與基礎設施成本問題，生成式人工智能嵌入拔尖創新人才培養的管理之中，其需要“高性能的計算資源需求”（受訪者4）與“支付一定數據中心與云服務費用”（受訪者6）。二是研發與訓練成本，生成式人工智能的訓練需要大量的數據輸入和計算資源，而這些數據需要大量的清洗、標注等預處理工作，這些工作本身就需要大量的人力與物力資本投入，同時其依存的模型需要進行多次迭代與優化，以提高模型的準確性和泛化能力。三是維護和升級成本，主要包含模型的維護與優化以及硬件與軟件的升級，為確保生成式人工智能賦能拔尖創新人才培養的管理工作，需要不斷維護、優化與更新，從而更好發揮其效能。

四、風險規避：破解生成式人工智能嵌入風險的實踐進路

貝克·威爾姆斯認為“風險的概念體現了人們創造了一種文明，旨在使自身的決策所產生的不可預測后果變得可預測，從而能夠控制那些看似不可控的因素，通過采取預防性行動和相應制度措施，人們試圖克服和管理這些潛在的負面影響”。盡管可能產生諸多的風險，但生成式人工智能的嵌入將會是一個必然趨勢。面對現階段其為拔尖創新人才培養帶來的風險，基于對其產生風險類型進行分析，本研究從開發適配模型、優化教育生態與完善監督體系這三大層面提出具體策略。

（一）根源治理：開發適配拔尖創新人才培養的智能模型

生成式人工智能嵌入拔尖創新人才培養出現一系列風險與其對于拔尖創新人才培養的適配性有關。開發適配我國拔尖創新人才培養的生成式人工智能模型可以有效規避現階段該項技術嵌入拔尖創新人才培養的風險。一般性的生成式人工智能模型并非專門為拔尖創新人才培養工作，但因其在數據處理、內容創作（如知識問答）、評估管理等方面展現出的卓越能力，從而被廣泛應用于拔尖創新人才培養的場景之中。技術“移植”可能會導致功能與需求的不匹配，衍生出對通用功能的不當使用，生成內容的不準確性等問題，間接演化出前文所列舉出的系列風險。基于實效性視角，只有開發適配拔尖創新人才培養的生成式人工智能模型才能最大程度地保證培養的實際成效。培養拔尖創新人才，開發專用的生成式人工智能大模型不僅能夠有效解決智能技術應用中出現的問題，還能大力促進教育質量的提升和國家人才戰略的實現。首先，在科技創新體系的建立與完善上，政府應深化科技體制與評價體系改革，增加多樣化的科研投入，強化知識產權保護，并建立支持全面創新的基礎制度。其次，實施創新驅動的發展策略至關重要。國家應根據戰略需求，集中資源開展具有原創性和前瞻性的科技研究，特別是在教育數字化轉型的背景下，將開發適用于拔尖創新人才培養的大模型視為關鍵技術之一，致力于攻克這一領域的難題。最后，國家需要提供全方位的支持以推動該類大模型的開發。具體而言，在數據獲取上，應盡可能廣泛地收集教育相關的數據資源，如教材、課程資料、學生作業及教學評估等，并對這些數據進行嚴格的清洗、去噪和標注，確保其高質量和準確性，從而優化模型訓練的效果。通過上述措施，可以為培養拔尖創新人才提供強有力的技術支撐，進而推動教育事業的高質量發展。

（二）內部變革：優化智能技術嵌入人才培養的教育生態

雖然在教育領域中使用生成式人工智能模型存在多種潛在風險，然而，這種“嵌入”無疑是未來教育發展的一個必然方向。面對可能伴隨的風險，教育界應當采取積極的態度去應對，而不是選擇回避。為此，教育系統需要進行必要的改革，以打造與這些大型模型相匹配的新教育模式。在拔尖創新人才培養場域，生成式人工智能的應用既會催生拔尖創新人才培養的壓力，也會為其的革新帶來契機，一方面，生成式人工智能的出現引發未來“工作世界”變革，倒逼拔尖創新人才培養對象具備更高級別的綜合性技能，譬如，創新行動力，跨領域融合能力等；另一方面，在教育數字化轉型進程中，生成式人工智能模型將變得不可或缺，并對教育體系的其他組成部分產生重大影響。從機遇方面來看，這類模型憑借其獨特技術和先進功能，為教育領域的深刻變革提供了強大的技術支持。構建生成式人工智能模型相適配的教育生態可有效化解其衍生出的相關壓力與抓住技術帶來的各種契機。具體而言，其一，學校需要樹立適應新時代的教育理念。隨著生成式人工智能模型在教育中的廣泛應用，“教師-學生-人工智能”三元互動結構逐漸形成，促進了人機協作的教學模式。教育工作者應積極接納新技術，學習如何與之融合，探索技術賦能的教學新方法。其二，學校應開發創新的教學方式。鼓勵建立基于生成式人工智能的智能教學輔助系統，為教師提供從備課到答疑等各個環節的支持，提升教學效率和質量。其三，學校需引導學生采用新的學習方法。將生成式人工智能作為學習助手，支持學生進行靈活自主的學習，并著重培養數字素養和人機協作能力，以實現個性化和高效的學習體驗。其四，學校應當引入創新的評估機制。利用生成式人工智能大模型革新評價手段，不僅對學生的學業進展進行全面縱向跟蹤，也對德智體美勞等多方面素質進行橫向綜合評價，確保全面衡量學生的發展。

（三）外部監管：建立生成式人工智能嵌入的監管體系

生成式人工智能之父阿爾特曼提出“當技術的發展超越人類的準備，容易引發出系列風險”。在ChatGPT發展的如火如荼之際，不少學者呼吁停止ChatGPT訓練，用6個月的時間進行監管約束。由此，生成式人工智能嵌入拔尖創新人才培養的合理實現必須依賴外部監管體系的確立。首先，政府應充分發揮與調動利益相關者參與監督。教育相關的議題不僅僅局限于決策者和研究者，它還直接關聯著所有政策利益相關者的切身利益。生成式人工智能的嵌入需要政府、市場、社會組織以及公民等多方主體的共同努力和支持。受前置的數字技術嵌入人才培養政策的影響，在將生成式人工智能應用于拔尖創新人才培養的過程中，存在明顯的管理主導傾向，這可能導致相關利益方的參與度不足。這種參與度的缺乏是引發潛在風險的一個重要因素。教育管理者、教師、家長、學生等主體都處于生成式人工智能嵌入拔尖創新人才培養的利益框架內，政府應通過頒布政策與法案使得利益相關主體的參與行為有據可依，制定標準使其深度參與生成式人工智能嵌入的全過程，監督該項技術的實際嵌入從而實現對風險的規避。其次，應建立生成式人工智能模型嵌入的監管規范。明確其在拔尖創新人才培養中的管理標準，并定期進行風險評估和檢查。設立獨立的監督機構或專家小組，專門負責監測和評估生成式人工智能模型在該領域的開發與應用情況。再者，構建適當的法律和政策框架至關重要。這些框架將發揮監管作用，防止因商業化而導致的無序開發，確保生成式人工智能大模型的開發和使用符合倫理和社會價值觀。監管內容應涵蓋數據隱私保護、安全性、公平性、透明度及責任界定等方面，以保障技術應用的正當性和可靠性。

參考文獻：

[1] Lawton G.What is generative AI ：everything you need to know [EB/OL]. https：//www.techtarget.com/searchenterpriseai/definition/generativeAI，2023-05-30.

[2] 陳玉琨.ChatGPT/生成式人工智能時代的教育變革[J].華東師范大學學報（教育科學版），2023，（7）：103-116.

[3] Glaser N.Exploring the potential of ChatGPT as an educational technology：An emerging technology report [J].Technology Knowledge and Learning，2023，（4）：1945-1952.

[4] 倪閩景.從學習進化的視角看ChatGPT/生成式人工智能對學習的影響[J].華東師范大學學報（教育科學版），2023，（7）：151-161.

[5] Farrokhnia M，Banihashem S K，et al.A SWOT analysis of ChatGPT：Implications for educational practice and research [J].Innovations in Education and Teaching International，2023，（3）：460-474.

[6] Ga evi D，Siemens G，et al.Empowering learners for the age of artificial intelligence [J].Computers and Education：Artificial Intelligence，2023，（4）：100-130.

[7] 王景，李延平.ChatGPT浪潮下拔尖創新人才的培養：價值意蘊、現實隱憂與生態重塑[J].中國電化教育，2023，（11）：62-71.

[8] 張海波，楊兆山.ChatGPT的教育挑戰與應答[J].四川師范大學學報（社會科學版），2023，（4）：107-114.

[9] Else H.Abstracts written by ChatGPT fool scientists [J].Nature，2023，（1）：423.

[10] 馮建軍.我們如何看待ChatGPT對教育的挑戰[J].中國電化教育，2023，（7）：1-6+13.

[11] Venkatesh V，Brown S A，et al.Bridging the qual-itative-quantitative divide：Guidelines for conducting mixedmethods research in information systems [J].Mis Quarterly，2013，（1）：21-54.

[12] DiMaggio P，Nag M，et al.Exploiting Affinities Between TopicModeling and the Sociological Perspective on Culture：Application toNewspaper Coverage of U.S.Govemment Arts Funding [J].Poet-ics，2013，（6）：570-606.

[13] 楊銳，楊亮等.我國科研誠信政策特征及演化邏輯——基于文本挖掘法[J].科技進步與對策，2020，（20）：89-98.

[14] 王連喜.微博短文本預處理及學習研究綜述[J].圖書情報工作，2021，（1）：144-149.

[15] 馬偉彬.TF-IDF模型和LSI模型文本相似度算法的應用[J].電子技術與軟件工程，2022，（1）：130-133.

[16] 王昶，何琪等.關鍵戰略材料國產替代應用的決定性因素研究[J].科研管理，2023，（12）：93-103.

[17] [加]文森特·莫斯可.黃典林譯.數字化崇拜：迷思、權力與賽博空間[M].北京：北京大學出版社，2010.9.

[18] 郭哲，王孫禺.“強基計劃”背景下拔尖創新人才培養的時代內涵與建構路徑[J].中國高等教育，2020，（20）： 53-55.

[19] 李永梅，譚維智.機器創造時代的人類創造危機與教育應對[J].中國電化教育，2023，（7）：35-42.

[20] 朱彩蘭，陳彤等.關聯思維的內涵與形成路徑研究[J].電化教育研究，2023， （5）：29-35+43.

[21] 黎加厚.生成式人工智能對課程教材教法的影響[J].課程.教材.教法，2024，（2）：14-21.

[22] 孫立會，周亮.生成式人工智能融入國家中小學智慧教育平臺的實踐邏輯[J].中國電化教育，2024，（8）：71-79.

[23] 楊茂慶，楊樂笛.回歸身心一體：鄉村兒童價值觀教育的具身性轉向 [J].教育研究，2022，（8）：67-76.

[24] 田友誼，魯長風.提升教師拔尖創新人才培養勝任力的經驗審思與路徑重構：基于專業資本理論的國際比較[J].教育科學研究，2024，（2）：72-80.

[25] 王志斌，于偉.第三持存視域下學習觀變革——數智時代記憶模式的危機與應對[J].中國電化教育，2024，（8）：33-44+55.

作者簡介：

魯長風：在讀博士，研究方向為創新教育、教育技術。

田友誼：教授，博士生導師，副院長，研究方向為教育基本理論、教育技術。

Potential Risks and Breakthroughs in Embedding Generative Artificial Intelligence into the Cultivation of Top Innovative Talents

—Based on a Mixed Methods

Lu Changfeng， Tian Youyi

College of Education， Central China Normal University， Wuhan 430097， Hubei

Abstract： Generative artificial intelligence can empower the cultivation of top-notch innovative talents， but it will also generate corresponding risks. To this end， this study uses a hybrid research design that combines the LDA topic model， TF-IDF algorithm and in-depth interviews， and finds that the embedding of generative artificial intelligence in the cultivation of top-notch innovative talents at this stage will generate corresponding risks in the cultivation subjects， courses， evaluation and management levels. A detailed study of these risks is closely related to the model of generative artificial intelligence， the educational ecology and the regulatory system. In order to effectively avoid the risks of embedding generative artificial intelligence in the cultivation of top-notch innovative talents， we should start from “root governance”， “internal change” and “external supervision”， develop intelligent models suitable for the cultivation of top-notch innovative talents， optimize the educational ecology of embedding intelligent technology in talent cultivation and establish a regulatory system for the application of generative artificial intelligence.

Keywords： generative AI； top innovators； talent development； technology embedding； hybrid research design

收稿日期：2024年10月12日

責任編輯：宋靈青

① 其中也包含拔尖創新人才培養。

② 為盡可能收集更多信息，將與這三個詞相近或相近的名詞納入搜索詞的范圍，例如與“生成式人工智能”相關表述“GAI”“GAI人工智能”以及相關產品“ChatGPT”“文言一心”等，與“拔尖創新人才”相關聯的“強基計劃”“翱翔計劃”等，“風險”相近概念“困境”“負面影響”等。