K-12教育AIGC模型的意識形態(tài)風(fēng)險及其防范

中圖分類號：G41；D64 文獻(xiàn)標(biāo)識碼：A DOI：10.3963/j.issn.1671-6477.2025.02.002

2024年9月，習(xí)近平總書記在全國教育大會上強(qiáng)調(diào)：“建設(shè)教育強(qiáng)國是一項復(fù)雜的系統(tǒng)工程，需要我們緊緊圍繞立德樹人這個根本任務(wù)，著眼于培養(yǎng)德智體美勞全面發(fā)展的社會主義建設(shè)者和接班人\"[]。當(dāng)前國內(nèi)外環(huán)境復(fù)雜嚴(yán)峻，多樣化的社會思潮和加速化的技術(shù)迭代無一不推動著意識形態(tài)領(lǐng)域的復(fù)雜化趨勢，社會主義建設(shè)者和接班人的培養(yǎng)事業(yè)面臨嚴(yán)峻挑戰(zhàn)。“我們的教育絕不能培養(yǎng)社會主義破壞者和掘墓人，絕不能培養(yǎng)出一些‘長著中國臉，不是中國心，沒有中國情，缺少中國味'的人！那將是教育的失敗\"[2]6。 K-12^Φ 時期處于學(xué)生的三觀奠基期、認(rèn)知發(fā)展的關(guān)鍵窗口期、知識能力的系統(tǒng)建構(gòu)期和教育的終身影響期，人工智能生成內(nèi)容（Artificial Inteligence Generated Content，以下簡稱 AIGC）模型面向K-12學(xué)段的應(yīng)用場景和市場體量巨大，不僅是貫徹教育“為黨育人、為國育才\"的根本目標(biāo)和立德樹人根本任務(wù)的智能增強(qiáng)器，更需嚴(yán)格防范其成為意識形態(tài)問題的新型風(fēng)險源。

一、K-12教育AIGC模型意識形態(tài)風(fēng)險防范的重要意義

近年來，我國人工智能與教育融合發(fā)展態(tài)勢良好，人工智能在教育領(lǐng)域的意識形態(tài)安全受重視程度日益提升，而教育AIGC模型在K-12學(xué)段的廣泛應(yīng)用卻為意識形態(tài)安全帶來了更多挑戰(zhàn)。建成具有強(qiáng)大的科技支撐力的中國特色社會主義現(xiàn)代化教育強(qiáng)國，必須把握好K-12學(xué)段這一意識形態(tài)風(fēng)險防范的關(guān)鍵時期和AI教育市場這一意識形態(tài)安全的重要陣地。

（一）克服AIGC固有風(fēng)險，提升教育強(qiáng)國建設(shè)科技支撐力

“科技支撐力是中國特色社會主義教育強(qiáng)國的重要特質(zhì)\"[3]。一直以來，我國都\"高度重視人工智能對教育的深刻影響，積極推動人工智能和教育深度融合發(fā)展\"[2]95。2025年1月，《教育強(qiáng)國建設(shè)規(guī)劃綱要（2024一2035年）》提出“加強(qiáng)網(wǎng)絡(luò)安全保障，強(qiáng)化數(shù)據(jù)安全、人工智能算法和倫理安全\"[4]。將促進(jìn)人工智能助力教育變革寫人教育強(qiáng)國建設(shè)規(guī)劃綱要中，為人工智能在教育領(lǐng)域的意識形態(tài)安全和穩(wěn)定發(fā)展提供了強(qiáng)有力的制度保障，有利于“加快教育現(xiàn)代化、建設(shè)教育強(qiáng)國”[5]。

然而，AI在K-12等教育領(lǐng)域發(fā)展具備機(jī)會與挑戰(zhàn)雙重性質(zhì)，“既會賦予學(xué)生實踐機(jī)會和發(fā)展?jié)摿Γ中杳鎸撛诘钠缫曅孕Ч退惴ㄆ姷裙逃酗L(fēng)險\"[6]。2022年9月，《人工智能生成內(nèi)容（AIGC）白皮書》將AIGC定義為“既是從內(nèi)容生產(chǎn)者視角進(jìn)行分類的一類內(nèi)容，又是一種內(nèi)容生產(chǎn)方式，還是用于內(nèi)容自動化生成的一類技術(shù)集合\"7]。就教育領(lǐng)域垂直模型而言，首先，內(nèi)容分類形態(tài)強(qiáng)調(diào)教育領(lǐng)域垂直模型生成的結(jié)果或產(chǎn)品，教育領(lǐng)域AIGC本身就是教育內(nèi)容的一種具體表現(xiàn)形態(tài)，例如由AI生成的作文、繪畫作品、教學(xué)視頻等，此類內(nèi)容形態(tài)的教育AIGC 是意識形態(tài)風(fēng)險存在的主要環(huán)節(jié)。其次，生產(chǎn)方式形態(tài)強(qiáng)調(diào)AIGC在教育領(lǐng)域生產(chǎn)的過程，例如教師與AI協(xié)同制作教學(xué)課件、搭建教案框架等。生產(chǎn)方式形態(tài)的AIGC常需人工判斷參與其中，既是防范意識形態(tài)風(fēng)險的一重保障，又有引入隱性偏見的風(fēng)險。最后，技術(shù)集合形態(tài)的AIGC同時服務(wù)于其內(nèi)容生成態(tài)和生產(chǎn)方式態(tài)，搭載內(nèi)容安全控制技術(shù)、價值觀對齊過濾器、敏感詞匯檢測等可自動識別和警惕意識形態(tài)風(fēng)險。以上特性可有效識別AIGC在教育領(lǐng)域的固有風(fēng)險，滿足內(nèi)容準(zhǔn)確性與價值正當(dāng)性的雙重標(biāo)準(zhǔn)，為加快推進(jìn)教育現(xiàn)代化和教育強(qiáng)國建設(shè)提供科技支撐。

（二）把握K-12重要陣地，做好新時代青年人才培養(yǎng)工作

K-12 學(xué)段是意識形態(tài)防范的關(guān)鍵時期，習(xí)近平總書記多次強(qiáng)調(diào)“教育是滲進(jìn)血液、透人靈魂的，一定要從小就抓，從幼兒園就抓\"[2183。“青年又處在價值觀形成和確立的時期，抓好這一時期的價值觀養(yǎng)成十分重要\"[2]56。在國際上，K-12教育體系也被視為社會基礎(chǔ)設(shè)施的重要組成部分，能夠通過培養(yǎng)學(xué)生的知識技能鍛煉其智商、情商和社會能力，“在塑造未來方面發(fā)揮著關(guān)鍵作用”[8]。

一方面，有助于把好AIGC模型“意識形態(tài)關(guān)”，為K-12學(xué)生教育筑起“思想屏障”。K-12教育具備巨大的潛在用戶體量，根據(jù)教育部統(tǒng)計顯示，我國K-12學(xué)段在校生數(shù)量已超2億人。°且K-12教育領(lǐng)域垂直模型涵蓋著適應(yīng)不同學(xué)段、不同需求的交互式學(xué)習(xí)、教務(wù)管理與在線教育等細(xì)分應(yīng)用場景，覆蓋著學(xué)科教學(xué)、對話答疑、興趣培養(yǎng)等多個垂直細(xì)分領(lǐng)域，常見于硬件設(shè)備、管理系統(tǒng)、學(xué)習(xí)軟件等多種教學(xué)形式，證明我國面向K-12教育的AIGC模型市場潛力巨大。“青少年時期是價值觀、人生觀和祖國觀、民族觀形成的關(guān)鍵期\"[2]83。防范化解 K-12教育 AIGC模型的意識形態(tài)風(fēng)險，有助于牢牢掌握黨對意識形態(tài)工作的領(lǐng)導(dǎo)權(quán)，推動黨的宣傳思想文化事業(yè)持續(xù)健康發(fā)展。

另一方面，為了確保AIGC教育領(lǐng)域垂直模型及其產(chǎn)品始終全面貫徹黨的教育方針，必須占領(lǐng)K-12 教育的意識形態(tài)高地。“教育的本質(zhì)是培養(yǎng)人\"[9]。然而隨著AIGC 模型在教育領(lǐng)域的廣泛應(yīng)用，個別產(chǎn)品在內(nèi)容把關(guān)、價值導(dǎo)向等方面問題頻出，背離了AI教育產(chǎn)品的研發(fā)和應(yīng)用初衷。例如，2024年，A品牌兒童手表“語音問答\"功能由于抓取了互聯(lián)網(wǎng)公開錯誤信息，根據(jù)對中國人外貌的刻板印象進(jìn)行了錯誤描述，話語帶有明顯偏頗的價值導(dǎo)向和爭議性內(nèi)容，以及夸大、侮辱性敏感表述；B品牌兒童手表搭載的AI智能助手否認(rèn)“南京大屠殺\"這一歷史事件真實存在。以K-12為目標(biāo)用戶的AIGC產(chǎn)品中的此類歷史虛無主義、西方中心主義等意識形態(tài)問題如未得到充分重視和及時遏制，將使我國教育事業(yè)面臨極大風(fēng)險，教育的失敗是一種根本性失敗。我們決不能犯這種歷史性錯誤！這是推進(jìn)教育現(xiàn)代化、建設(shè)教育強(qiáng)國必須把握的大是大非問題，沒有什么可隱晦、可商榷、可含糊的\"[2]6。

二、K-12教育AIGC模型意識形態(tài)風(fēng)險防范的必要環(huán)節(jié)

K-12學(xué)段的教育需求主要集中于日常備課、教學(xué)、測評和管理等基本環(huán)節(jié)中，因此面向K-12教育領(lǐng)域的AIGC模型相較于通用大模型和其他學(xué)段垂直領(lǐng)域模型有其細(xì)分優(yōu)勢，既無需像高職高教的AIGC教育領(lǐng)域垂直模型那樣需模擬更多現(xiàn)實環(huán)境，也無需像學(xué)術(shù)科研場景那樣需將模型與科研工具包相結(jié)合，相較之下，其場景設(shè)計和數(shù)據(jù)訓(xùn)練更為簡單粗放，相應(yīng)的上下游風(fēng)險環(huán)節(jié)也就越多。

（一）防范上游數(shù)據(jù)植入的意識形態(tài)操控與滲透風(fēng)險

AIGC模型的訓(xùn)練系統(tǒng)主要依靠網(wǎng)絡(luò)連接從云端服務(wù)器、數(shù)據(jù)庫或分布式存儲系統(tǒng)中的遠(yuǎn)程數(shù)據(jù)源中獲取所需數(shù)據(jù)，以確保模型能夠?qū)W習(xí)到豐富多樣的信息，而“意識形態(tài)領(lǐng)域許多新情況新問題也往往因網(wǎng)而生、因網(wǎng)而增，許多錯誤思潮也都以網(wǎng)絡(luò)為溫床生成發(fā)酵\"[2J155。因此，訓(xùn)練數(shù)據(jù)容易受到算法偏見、信息黑箱和海量數(shù)據(jù)稀釋等因素影響，導(dǎo)致AIGC在K-12教育領(lǐng)域的應(yīng)用面臨種種風(fēng)險。

一方面，數(shù)據(jù)\"投毒\"導(dǎo)致意識形態(tài)操控風(fēng)險。由于面向K-12教育領(lǐng)域的AIGC模型通常僅針對具體學(xué)科或教育管理中的特定環(huán)節(jié)或任務(wù)進(jìn)行訓(xùn)練，因此對于意識形態(tài)風(fēng)險的識別能力尚有不足，一旦訓(xùn)練數(shù)據(jù)存在偏差或局限性，將導(dǎo)致模型輸出的全面性或準(zhǔn)確性下降。為此，當(dāng)訓(xùn)練數(shù)據(jù)面臨攻擊者篡改、注入錯誤、誤導(dǎo)數(shù)據(jù)的“投毒”風(fēng)險時，將對模型生成內(nèi)容造成“污染”，繼而“感染\"用戶思想觀念。數(shù)據(jù)\"投毒\"主要體現(xiàn)在K-12教育領(lǐng)域AIGC模型“可被利用于制作傳播虛假新聞、圖像、音頻、視頻等，宣揚恐怖主義、極端主義、有組織犯罪等內(nèi)容，干涉他國內(nèi)政、社會制度及社會秩序，危害他國主權(quán)\"[10]6-7。通過潛移默化向青少年輸出個人主義、自由主義等西方政治價值觀，妄圖在教育互動中搶占話語權(quán)和剝奪學(xué)生的主體權(quán)利，左右學(xué)生的價值觀和思維認(rèn)知。例如，在生成作文的過程中，利用AIGC傳播不符合事實的政治話語，意圖歪曲國家政策，妄圖顛覆傳統(tǒng)主流就業(yè)觀、生育觀和教育觀，煽動學(xué)生情緒。

另一方面，算法歧視加劇意識形態(tài)滲透風(fēng)險。《生成式人工智能服務(wù)管理暫行辦法》要求“在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防正產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視\"[11]。K-12 學(xué)段青少年尚未對我國政治制度的優(yōu)越性形成系統(tǒng)、正確的理解，國家認(rèn)同感和社會責(zé)任感尚不及其他學(xué)段，會成為意識形態(tài)滲透的重點對象。低齡段幼兒以具象思維為主，注意力持續(xù)時間短，依賴視覺、聽覺、觸覺等感官刺激，因此學(xué)前和小學(xué)階段以語音交互結(jié)合動畫演示為主。而高齡段青少年抽象邏輯思維逐漸成熟，自主探究能力增強(qiáng)，因此中學(xué)階段AIGC教育模型強(qiáng)調(diào)虛擬實驗和3D模型構(gòu)建。其中可能會被植入偏見、歧視性信息，如生成圖像中體現(xiàn)不同種族的外貌刻板印象、生成視頻中對性別分工的傳統(tǒng)偏見等。此外，還要防范訓(xùn)練數(shù)據(jù)因過于偏向主流文化而邊緣化少數(shù)群體，導(dǎo)致學(xué)生形成片面認(rèn)知框架，影響文化包容觀念的養(yǎng)成，甚至造成文化視角窄化，強(qiáng)化文化霸權(quán)。同時，需警惕因過度強(qiáng)調(diào)少數(shù)群體文化權(quán)利而擾亂原有文化秩序的信息采集與傳播行為。

當(dāng)前，AIGC模型在K-12教育領(lǐng)域應(yīng)用的意識形態(tài)風(fēng)險常見于以下方面：一是收集數(shù)據(jù)中潛藏\"西方中心論\"思想。面向K-12學(xué)段的教育 AIGC模型側(cè)重于結(jié)合不同學(xué)段教育對象認(rèn)知發(fā)展差異特點強(qiáng)化技術(shù)應(yīng)用的針對性，如為小學(xué)生生成圖解，為高中生提供學(xué)情分析等。在此過程中，數(shù)據(jù)源便成為風(fēng)險環(huán)節(jié)之一，如圖像出現(xiàn)國旗、貨幣、建筑等西方國家的代表性標(biāo)識，或?qū)v史事件、歷史人物進(jìn)行歪曲等，導(dǎo)致AIGC模型落入個別西方國家試圖通過文化軟實力影響其他國家意識形態(tài)安全的陷阱，以雙重標(biāo)準(zhǔn)對待甚至貶低其他國家和民族形象。二是個別語言學(xué)習(xí)類模型在教學(xué)培訓(xùn)的過程中傳播資本主義意識形態(tài)，如錯誤使用含有潛在宣揚西方的政治制度和價值觀念的教材、論文等作為信息源，對學(xué)生進(jìn)行西化教育，實際上是傳播資本主義政治思想和文化觀念。三是個別教育領(lǐng)域AIGC模型為了強(qiáng)化教學(xué)效果，將傳統(tǒng)文化經(jīng)典作品中的人物以AI形象與學(xué)生展開互動，卻使其做出不符合其時代背景和人物特點的惡搞歪曲式行為或言論，亦或是將其置于西化的生活方式、宗教與節(jié)日習(xí)俗等場景中，又或是在原有場景中融入相關(guān)意象，對中華優(yōu)秀傳統(tǒng)文化進(jìn)行錯位輸出，妄圖將錯誤的意識形態(tài)潛移默化滲透到AI教育中。

（二）警惕下游潛在養(yǎng)成的意識形態(tài)淡漠與話語權(quán)弱化風(fēng)險

意識形態(tài)話語信息的接收和轉(zhuǎn)化是“影響人的思想觀念、價值選擇和社會輿論走向的重要因素之二\"[12]。當(dāng)前，AIGC 模型在面向 K-12 學(xué)生教育中的地位逐漸由輔助者轉(zhuǎn)向主導(dǎo)者，但性質(zhì)尚未從商品屬性轉(zhuǎn)向教育者身份，對教育場景具體問題具體分析的靈活性還有待提升，易造成意識形態(tài)淡漠和話語權(quán)弱化風(fēng)險。

一方面，單一應(yīng)用場景致使造成意識形態(tài)認(rèn)同淡漠風(fēng)險。首先，面向K-12學(xué)段的教育模型往往專注于特定知識教學(xué)賽道，如解題、語言學(xué)習(xí)等，其中個別AIGC模型往往僅強(qiáng)調(diào)應(yīng)試邏輯，將學(xué)習(xí)目標(biāo)簡化為考點得分，難以充分鍛煉學(xué)生的應(yīng)變力和判斷力，限制了多元視角的養(yǎng)成。其次，AI在收集學(xué)生知識需求、擅長方法、學(xué)習(xí)習(xí)慣的過程中向用戶推送程式化、定制化信息及服務(wù)，使“信息繭房\"效應(yīng)進(jìn)一步加劇，削弱學(xué)生的探索和求知精神。再次，在評價時，將教育過程和學(xué)習(xí)效果簡化為知識點覆蓋率、答題正確率等數(shù)據(jù)指標(biāo)，對教育效果過度量化而忽視了人文評價的張力，可能導(dǎo)致學(xué)生在潛意識中認(rèn)可資本主義意識形態(tài)中的功利主義和機(jī)會主義價值觀。最后，AIGC模型在教育領(lǐng)域的應(yīng)用可能因過度依賴技術(shù)而忽視教育的人文關(guān)懷，導(dǎo)致教學(xué)內(nèi)容變得機(jī)械刻板，工具理性主導(dǎo)下的情感交流機(jī)械性凸顯。盡管目前AI交互已經(jīng)在很大程度上實現(xiàn)了擬人化，但系統(tǒng)借助固定模板化的語句始終無法取代現(xiàn)實中教師與學(xué)生間的共情感與同理心，還可能造成原有的師生關(guān)系疏離，使學(xué)生的情感認(rèn)知與知識獲取相互割裂，甚至影響健全人格形成，消解社會主義核心價值觀養(yǎng)成和影響主流意識形態(tài)的建設(shè)。然而，當(dāng)前AI教育產(chǎn)品對惡意的悲觀消極情緒引導(dǎo)及其造成的思想波動缺乏有效識別監(jiān)測手段，對學(xué)生尤其是中學(xué)階段面臨升學(xué)壓力與身份認(rèn)同焦慮的用戶群體，難以及時采取有效手段發(fā)現(xiàn)并制止其出現(xiàn)自我傷害或報復(fù)社會的行為。

另一方面，主體認(rèn)知偏差造成意識形態(tài)話語權(quán)弱化風(fēng)險。一是在教育內(nèi)容層面，AIGC模型往往基于算法診斷錯題，過度強(qiáng)調(diào)結(jié)構(gòu)化知識、依賴標(biāo)準(zhǔn)答案，僅承認(rèn)標(biāo)準(zhǔn)的解題步驟，將復(fù)雜問題簡化為“非黑即白\"的答案，導(dǎo)致將非傳統(tǒng)、創(chuàng)造性的解題方法標(biāo)記為“錯誤”，忽視了主體的省思環(huán)節(jié)，抑制了學(xué)生的創(chuàng)造性和發(fā)散性思維。二是在教育方法層面，K-12教育AIGC模型強(qiáng)調(diào)依照規(guī)劃順序進(jìn)行學(xué)習(xí)，對學(xué)習(xí)路徑實施強(qiáng)干預(yù)，忽視了學(xué)生知識掌握的多樣化和個體性差異。學(xué)生在“算法規(guī)訓(xùn)\"和標(biāo)準(zhǔn)化評價中的自我意識和創(chuàng)新思維被削弱，顛倒了學(xué)生在教育中的主體性地位，造成知識標(biāo)準(zhǔn)單一化與認(rèn)知思維多元化的沖突，不利于學(xué)生養(yǎng)成辯證性和批判性思維。長此以往，將使學(xué)生盲目信任人工智能生成內(nèi)容，形成認(rèn)知路徑依賴，在接收和轉(zhuǎn)化意識形態(tài)話語信息時缺乏獨立思考和是非判斷能力，對自身國家觀、民族觀和歷史觀不夠堅定，甚至成為錯誤思想傳播的載體和輿論發(fā)酵的溫床。

目前，較多AIGC教育模型已對上述問題產(chǎn)生了高度警惕并采取了相應(yīng)防范措施，但實際應(yīng)用情況顯示，在面對潛在意識形態(tài)風(fēng)險問題時，部分AI教育產(chǎn)品往往選擇以“知識覆蓋不全”“網(wǎng)絡(luò)狀況不佳”等借口為由避而不談，還有個別模型對政治制度和意識形態(tài)分歧等敏感話題放任自流、隨意討論，非但不能有效遏制有害言論引發(fā)的風(fēng)險，使學(xué)生難以真正意識到問題的根源，還可能造成錯誤引導(dǎo)使問題擴(kuò)大化，偏離了教育立德樹人的根本任務(wù)。

三、K-12教育AIGC模型意識形態(tài)風(fēng)險防范的對策建議

為進(jìn)一步把握AIGC的傳播規(guī)律和教學(xué)規(guī)律，維護(hù)AI教育市場秩序、社會秩序和教學(xué)秩序，防范算法濫用茶毒K-12階段學(xué)生思想，需在AIGC模型的開發(fā)、運營、應(yīng)用、監(jiān)管這四個主要環(huán)節(jié)強(qiáng)化意識形態(tài)風(fēng)險防范，為K-12階段學(xué)生筑牢思想根基。

（一）開發(fā)端：為數(shù)據(jù)搜集與算法訓(xùn)練設(shè)置“紅綠燈”

在K-12教育AIGC模型的開發(fā)環(huán)節(jié)，需做好數(shù)據(jù)搜集和分類標(biāo)注，依據(jù)歷史訓(xùn)練記錄建立意識形態(tài)風(fēng)險圖譜，在應(yīng)用中自動識別和屏蔽敏感詞匯，并做好風(fēng)險語義矯正訓(xùn)練，提升算法的魯棒性，避免受風(fēng)險數(shù)據(jù)、模型、訓(xùn)練方法等因素干擾。

一方面，對收集數(shù)據(jù)進(jìn)行算法識別訓(xùn)練，為實際應(yīng)用階段的內(nèi)容分類做好準(zhǔn)備。一是對不同意識形態(tài)觀點的文本數(shù)據(jù)開展識別訓(xùn)練，比較區(qū)分政治、經(jīng)濟(jì)、文化等方面的事實與觀點，如新聞報道、政治演講、學(xué)術(shù)文章、論壇討論等，使用詞向量模型提取語義特征，捕捉文本中的意識形態(tài)相關(guān)詞匯和語義結(jié)構(gòu)。二是對宣傳海報、藝術(shù)作品等涉及文化和價值觀傳播的圖像進(jìn)行收集并分類。訓(xùn)練模型識別圖像中的標(biāo)識、符號、顏色等意識形態(tài)相關(guān)元素，訓(xùn)練AI對某些帶有政治隱喻的繪畫或者體現(xiàn)宗教極端思想的圖像掌握識別能力，如區(qū)分不同國家、宗教、種族人物形象特點和政治海報標(biāo)語等。三是對于包含意識形態(tài)內(nèi)容的音視頻，包括講座、播客、電影、紀(jì)錄片等，特別是一些具有強(qiáng)烈政治傾向的紀(jì)錄片或者帶有偏見的脫口秀節(jié)目，應(yīng)采用語音識別技術(shù)將其轉(zhuǎn)換為文本，并結(jié)合文本特征提取方法進(jìn)行處理。對于視頻，可以利用視頻幀提取技術(shù)和光學(xué)字符識別技術(shù)提取其中的文字和圖像信息，再進(jìn)行相應(yīng)的特征識別。

另一方面，對數(shù)據(jù)的價值觀、情感傾向、具體來源進(jìn)行標(biāo)注。為了進(jìn)一步防范AIGC模型因意識形態(tài)問題對學(xué)生造成誤導(dǎo)，務(wù)必保障在數(shù)據(jù)訓(xùn)練的各個環(huán)節(jié)都有熟悉學(xué)情的專業(yè)教師和專家隊伍發(fā)揮決策作用，AIGC模型僅發(fā)揮執(zhí)行作用。一則對政治價值觀標(biāo)注，如“個人主義”“集體主義\"等價值觀標(biāo)簽;二則標(biāo)注信息的情感傾向，如\"積極”“消極\"等情感色彩標(biāo)簽；三則標(biāo)注文化符號與象征，如國旗、貨幣、建筑等國家文化標(biāo)志、宗教象征物、歷史人物和事件、傳統(tǒng)節(jié)日與習(xí)俗等代表性較強(qiáng)的文化符號；四則標(biāo)注敏感詞匯，如“國家主權(quán)\"“公平正義\"“性別\"“階級\"\"人權(quán)\"等可能具有煽動色彩的詞匯；五則標(biāo)注數(shù)據(jù)的來源，如\"國內(nèi)主流媒體\"“國外反華勢力網(wǎng)站\"\"宗教組織\"等，以便做好前端防范和源頭追溯。在此基礎(chǔ)上，對涉及思想滲透、情感渲染和煽動性的敏感標(biāo)注內(nèi)容亮“紅燈”，嚴(yán)格禁止其進(jìn)入應(yīng)用環(huán)節(jié);對尚有爭議、難以決斷的標(biāo)注內(nèi)容亮“黃燈”，進(jìn)人二次人工審核階段;對與社會主義核心價值觀相適應(yīng)的積極標(biāo)注內(nèi)容暢通“綠燈”，必要時可以進(jìn)一步推送宣傳。

（二）運營端：打造AI教育產(chǎn)業(yè)鏈條健康“生態(tài)圈”

為確保AIGC模型在K-12教育中的健康穩(wěn)定運行，應(yīng)重視數(shù)據(jù)來源、行為監(jiān)測、服務(wù)器維護(hù)、信息庫更新、應(yīng)急機(jī)制等過程環(huán)節(jié)，保障AIGC模型意識形態(tài)安全的連續(xù)性和可靠性。

一方面，多維度深入完善信息記錄與檢測機(jī)制，強(qiáng)化產(chǎn)業(yè)鏈透明度和問題的可追溯性。一是精準(zhǔn)記載數(shù)據(jù)來源、篩選規(guī)則及預(yù)處理細(xì)節(jié)，做好運行過程監(jiān)控。明確所用教育資源及相關(guān)數(shù)據(jù)的采集平臺、時間跨度及數(shù)據(jù)類別，建立實時監(jiān)測與反饋體系，并在日常運營中對模型性能指標(biāo)、資源占用及響應(yīng)時間進(jìn)行追蹤，一旦出現(xiàn)異常值便及時警報檢查，分析原因并做好處理與反饋，確保數(shù)據(jù)可追溯、問題可驗證。二是依靠可視化圖表等形式呈現(xiàn)模型的深度思考過程，讓教育工作者明晰模型運行原理，增強(qiáng)可解釋性。對于其中的關(guān)鍵決策節(jié)點與判斷標(biāo)準(zhǔn)，由教育者自行把握評分、推薦等規(guī)則，弱化AIGC的決策屬性，強(qiáng)化提供建議參考的輔助屬性。三是做好應(yīng)急預(yù)案工作。協(xié)同產(chǎn)業(yè)鏈上下游聯(lián)合組建專業(yè)應(yīng)急響應(yīng)團(tuán)隊，成員應(yīng)涵蓋技術(shù)、法務(wù)等多領(lǐng)域?qū)＜遥ＷC在危機(jī)發(fā)生時能各司其職，按部就班。針對常見意識形態(tài)問題不定期開展演練，模擬類型復(fù)雜的突發(fā)情況，檢驗和提升團(tuán)隊的協(xié)作能力與應(yīng)對策略的有效性。最后，及時向用戶和社會公開處理進(jìn)展與結(jié)果，增強(qiáng)K-12學(xué)生及家長對AI教育產(chǎn)品的信任感。

另一方面，密切關(guān)注教育領(lǐng)域垂直模型采用的芯片、算力、數(shù)據(jù)資源和生成內(nèi)容應(yīng)用等環(huán)節(jié)的產(chǎn)業(yè)鏈安全。首先，就產(chǎn)業(yè)鏈上游而言，確保來源渠道可信可靠，防止攜帶不良意識形態(tài)代碼，注重數(shù)據(jù)源的真實性與客觀性，降低惡意植入風(fēng)險。其次，就產(chǎn)業(yè)鏈中游而言，與各環(huán)節(jié)供應(yīng)商保持長期穩(wěn)定的合作關(guān)系，并定期相互檢查運營情況，建立完善的安全防護(hù)體系，避免中途的惡意篡改風(fēng)險，確保算力運行供應(yīng)的穩(wěn)定性和合規(guī)性。最后，就產(chǎn)業(yè)鏈下游而言，提升最終用途追溯能力，確保模型使用的合法性。既要針對K-12學(xué)段用戶群體實際應(yīng)用的教育場景設(shè)置服務(wù)供給邊界，對可能被滲透或濫用的功能權(quán)限進(jìn)行嚴(yán)格限制或裁撤，確保在預(yù)設(shè)應(yīng)用范圍限度內(nèi)提供服務(wù)，又要跟蹤軟硬件產(chǎn)品在實際應(yīng)用中的漏洞、缺陷信息并及時采取修補(bǔ)加固措施，保證系統(tǒng)安全性。

（三）應(yīng)用端：錘煉意識形態(tài)風(fēng)險防范“基本功”

K-12教育對象群體作為在數(shù)字化環(huán)境中生長生活的“數(shù)字原住民”，對人機(jī)交互行為具有天然適應(yīng)能力，但相應(yīng)的信息篩選能力與獨立思考能力相對薄弱，易受算法推薦內(nèi)容和同伴影響，為此，在模型應(yīng)用服務(wù)階段，需針對不同產(chǎn)品細(xì)分特點，結(jié)合學(xué)生用戶和家長意向做好問題普及、征集與反饋。

一方面，強(qiáng)化問題監(jiān)測，暢通反饋渠道。針對K-12教育AI教育軟件類產(chǎn)品，就智慧教育管理類產(chǎn)品而言，需全面評估學(xué)生的思想認(rèn)識水平和心理狀態(tài)，結(jié)合其歷史表現(xiàn)和薄弱環(huán)節(jié)研判潛在風(fēng)險點，量身定制最適合的思政嵌入和共情方法。關(guān)注用戶的心理狀態(tài)，增設(shè)情感計算模塊，通過語音語調(diào)識別、文字情感分析等，檢測學(xué)生的學(xué)習(xí)焦慮狀態(tài)或挫敗感，必要時觸發(fā)鼓勵機(jī)制或教師預(yù)警，嚴(yán)格防范不法分子利用學(xué)生壓力渲染悲觀、暴力情緒，教唆自我傷害和犯罪行為。在此過程中，全程貫穿愛國主義和思想政治教育內(nèi)容，引導(dǎo)學(xué)生\"樹立正確的國家觀、歷史觀、民族觀、文化觀、宗教觀\"[21205。并將豐富的知識節(jié)點和緊密的情感交互關(guān)系網(wǎng)絡(luò)相結(jié)合，為機(jī)械化、模板化的互動場景賦予共情能力，避免教育過度工具化而消解思政育人功能。就各類學(xué)習(xí)APP及在線平臺而言，可為用戶設(shè)置多樣化的意識形態(tài)問題反映渠道，如軟件客服、社媒平臺、交流論壇等，考慮到K-12學(xué)段用戶群體的配合度有限，必要時可定期通過軟件推送和有獎問答的形式了解潛在問題和學(xué)生意愿，鼓勵用戶主動回避和舉報敏感信息以反向訓(xùn)練算法，并給予積分、優(yōu)惠券、會員權(quán)益、學(xué)習(xí)資料包等獎勵，培養(yǎng)學(xué)生的主體認(rèn)知。

另一方面，引導(dǎo)產(chǎn)品向善，優(yōu)化資源供給。針對K-12教育AI硬件類產(chǎn)品，如學(xué)習(xí)機(jī)、詞典筆、點讀筆、教育機(jī)器人、VR設(shè)備等。此類智能設(shè)備涵蓋了多種服務(wù)內(nèi)容，比如試卷批閱、題目講解和智能答疑、學(xué)習(xí)資源推薦、口語對話模擬和發(fā)音糾正、學(xué)習(xí)提醒和鼓勵等。由于需要與學(xué)生直接進(jìn)行互動交流，教育硬件類產(chǎn)品搭載的模型更適用于生活化學(xué)習(xí)場景，難以及時收集用戶的直接反饋。為此，須在產(chǎn)品出廠設(shè)置中通過用戶手冊或提供實時在線幫助端口等方式，引導(dǎo)用戶正確使用教育硬件產(chǎn)品的 AI功能，避免錯誤操作而導(dǎo)致的意識形態(tài)問題，同時主動提供文章、視頻等意識形態(tài)教育和思想政治教育資源進(jìn)行知識普及，通過講述黨和國家的發(fā)展歷史、英雄事跡、優(yōu)秀傳統(tǒng)文化等方式或采用虛擬現(xiàn)實技術(shù)，使學(xué)生感受紀(jì)念館、歷史展覽館乃至歷史事件現(xiàn)場，培養(yǎng)其愛國情懷和社會責(zé)任感。

（四）監(jiān)管端：筑牢AI教育治理“防火墻”

監(jiān)管端應(yīng)從多維度人手全面構(gòu)建AI意識形態(tài)風(fēng)險防范體系。通過完善登記與備案體制、落實分級分類管理和協(xié)同治理格局、推進(jìn)“AI黨校\"建設(shè)工作、建立健全意識形態(tài)安全預(yù)警監(jiān)測機(jī)制，確保AI技術(shù)在K-12教育領(lǐng)域應(yīng)用的健康發(fā)展。

第一，完善登記與備案體制，將“意識形態(tài)工作責(zé)任制\"落實到AI產(chǎn)業(yè)。《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》要求“明確算法備案范圍\"和“防范算法濫用風(fēng)險”[13]。首先，網(wǎng)信部門應(yīng)要求企業(yè)提交AI教育產(chǎn)品的詳細(xì)技術(shù)文檔和底層框架，包括模型算法、數(shù)據(jù)來源、數(shù)據(jù)處理方法及其合規(guī)性分析等，確保其符合國家網(wǎng)絡(luò)安全及個人隱私保護(hù)規(guī)定。其次，加大備案制度的執(zhí)行力度，規(guī)定企業(yè)定期向網(wǎng)信辦提交產(chǎn)品內(nèi)容更新與行為記錄評估報告。針對“標(biāo)注規(guī)則不完備、標(biāo)注人員能力不夠、標(biāo)注錯誤等問題\"[10]4，完善不同類型、不同時期、不同行為的標(biāo)注規(guī)范并出臺管理辦法，避免“訓(xùn)練偏差、偏見歧視放大、泛化能力不足或輸出錯誤\"[10]4。此外，建立K-12教育 AIGC 模型企業(yè)黑名單，對于多次出現(xiàn)意識形態(tài)問題的企業(yè)，應(yīng)將處理結(jié)果和整改情況及時向社會公開，對勒令整改但效果不佳的企業(yè)采取限制其行業(yè)活動、市場發(fā)展和資源獲取等系列措施。

第二，落實分級分類管理，構(gòu)建協(xié)同治理格局。一是明確研發(fā)機(jī)構(gòu)、運營服務(wù)、用戶公眾等責(zé)任主體以及網(wǎng)信、教育、科技等相關(guān)政府部門在發(fā)現(xiàn)、防范、應(yīng)對等方面的具體職責(zé)分工，充分發(fā)揮各自的業(yè)務(wù)專長，實現(xiàn)協(xié)同優(yōu)化。如為K-12教育AIGC模型研發(fā)企業(yè)與革命歷史紀(jì)念館、博物館、科學(xué)技術(shù)館等搭建合作平臺，為其提供如紅色文化資源、先進(jìn)人物事跡、社會正能量案例等符合社會主義核心價值觀和主流意識形態(tài)的數(shù)字化資料融入AI教育模型算法中。二是為K-12教育AIGC研發(fā)企業(yè)跨領(lǐng)域交流搭建平臺，鼓勵研發(fā)人員、運營人員、銷售人員、K-12階段學(xué)生家長和學(xué)生本人參與行業(yè)會議、學(xué)術(shù)論壇、技術(shù)研討會等，對齊AIGC的研發(fā)設(shè)想和應(yīng)用需求。三是定期組織不同垂類、不同學(xué)段、不同場景的AIGC研發(fā)企業(yè)對一段時間內(nèi)出現(xiàn)的意識形態(tài)問題及應(yīng)對方法進(jìn)行交流共享，對其防范和化解意識形態(tài)問題的經(jīng)驗方法進(jìn)行總結(jié)，最終落腳于形成書面臺賬并同步后臺算法，以便及時處理相近風(fēng)險，協(xié)同教育界、技術(shù)界和倫理學(xué)界共同構(gòu)建AI教育AIGC模型的“認(rèn)知免疫系統(tǒng)”。

第三，推進(jìn)“AI黨校\"建設(shè)工作，重視理論教育和思想引導(dǎo)。AI作為一種工具，本身沒有價值傾向或立場，技術(shù)的設(shè)計、算法和功能往往反映了開發(fā)者的價值觀、文化背景和利益訴求，其生成內(nèi)容直接取決于開發(fā)者和使用者的方法與意圖。對AI生態(tài)圈和產(chǎn)業(yè)鏈成員開展意識形態(tài)安全與思想政治教育培訓(xùn)，培訓(xùn)對象包括但不限于模型算法研發(fā)者、運營維護(hù)者、重點領(lǐng)域用戶和社會公眾用戶等直接相關(guān)人員以及財務(wù)、法務(wù)、審核等間接相關(guān)人員，培訓(xùn)內(nèi)容包括但不限于國家最新政策解讀、法律法規(guī)普及、倫理準(zhǔn)則規(guī)范、正面信息傳遞、輿論引導(dǎo)能力、文化傳承創(chuàng)新、數(shù)據(jù)安全管理、隱私保護(hù)意識、應(yīng)急響應(yīng)機(jī)制、教育理念等，深化思想認(rèn)識，推進(jìn)行業(yè)自律。

第四，建立健全面向K-12教育的AIGC意識形態(tài)安全預(yù)警監(jiān)測機(jī)制。利用大數(shù)據(jù)分析、物聯(lián)網(wǎng)等先進(jìn)技術(shù)，推進(jìn)數(shù)據(jù)護(hù)欄建設(shè)工作，完善敏感詞匯語料庫，“確保人工智能系統(tǒng)輸出敏感個人信息和重要數(shù)據(jù)符合相關(guān)法律法規(guī)\"[10]9。首先，在教育模型投人市場前的審查階段，將多種潛在風(fēng)險的問題場景融入教育試驗環(huán)節(jié)中進(jìn)行測試，對拜金主義、享樂主義等錯誤價值觀和極端主義、種族歧視等有害思想設(shè)置關(guān)鍵詞匯警報。其次，多方收集用戶意見評價，在網(wǎng)信辦、宣傳部等相關(guān)部門的官方網(wǎng)站顯著位置設(shè)置專門意見反饋人口。同時，在設(shè)專職崗位收集整理社交媒體平臺、在線教育論壇或社區(qū)中關(guān)于AI教育產(chǎn)品及其生成內(nèi)容的討論信息的基礎(chǔ)上，根據(jù)關(guān)鍵詞建立分類標(biāo)簽體系，以便快速篩選涉及意識形態(tài)風(fēng)險的線索。此外，對于社交媒體上的熱門話題或爭議點，前瞻性組織專業(yè)團(tuán)隊對潛在風(fēng)險進(jìn)行分析研判并發(fā)布給 AI企業(yè)，使其對可能出現(xiàn)的“風(fēng)險點\"作出積極應(yīng)對和正確處理，必要時通過官方賬號發(fā)布權(quán)威回應(yīng)，澄清誤解。

注釋：

① 指學(xué)前教育至高等教育階段（Kindergarten through Twelfth grade，簡稱K-12）。K-12 是國際上對基礎(chǔ)教育的統(tǒng)稱，即從幼兒園（Kindergarten，簡稱 K）開始，至第十二年級（Twelfth Grade，簡稱12）的教育階段。在我國，基礎(chǔ)教育同樣覆蓋著幼兒園至第十二個年級，即學(xué)前教育（一般為 3～5 歲）、義務(wù)教育（一般為 6～15 歲）、高中教育（一般為16～19 歲）三個階段。

② 中華人民共和國教育部于2024年10月發(fā)布的《2023年全國教育事業(yè)發(fā)展統(tǒng)計公報》顯示，全國共有學(xué)前教育在園幼兒4092.98萬人、義務(wù)教育階段在校生1.61億人、普通高中在校生2803.63萬人。

［參考文獻(xiàn)]

[1]中華人民共和國中央人民政府.習(xí)近平在全國教育大會上強(qiáng)調(diào)：緊緊圍繞立德樹人根本任務(wù) 朝著建成教育強(qiáng)國戰(zhàn)略目標(biāo)扎實邁進(jìn)[EB/OL].（2024-09-10）[2025-01-26].htps：//www.gov.cn/yaowen/liebiao/202409/content_6973522. htm.

[2]習(xí)近平.論教育[M].北京：中央文獻(xiàn)出版社，2024.

[3]龔旗煌.發(fā)揮高等教育龍頭作用支撐高水平科技自立自強(qiáng).[N].光明日報，2025-02-18（15）.

[4]中華人民共和國中央人民政府.中共中央 國務(wù)院印發(fā)《教育強(qiáng)國建設(shè)規(guī)劃綱要（2024一2035年）》[EB/OL].（2025-01-19）[2025-01-26].https：//www.gov.cn/zhengce/202501/content_6999913.htm？ slb = true.

[5]鐘育文.深人貫徹戰(zhàn)略部署 全面構(gòu)建“八大體系\"教育強(qiáng)國成于實干[N].人民日報，2025-03-24（09）.

[6]Patrick J.Austin，Attorney RossBroudy.RossBroudy Overview of Virginia's AI Executive Order[EB/OL].（2024-03-11）[2025-02-03].https：//www.woodsrogers.com/insights/publications.

[7]中國信息通信研究院，京東探索研究院.人工智能生成內(nèi)容（AIGC）白皮書[R/OL].（2022-09-02）[2025-01-26].ht-tp：//www. caict.ac.cn/kxyj/qwfb/bps/202209/P020220902534520798735. pdf.

[8]Kaan Guney.Considering the Advantages and Disadvantages of Utilizing Social Mediato Enhance Learning and En-gagement in K-12 Education[J].Research in Social Sciences and Technology，2023，8（2） ：83100.

[9]中國教育科學(xué)研究院.中國共產(chǎn)黨教育方針百年歷史研究[M].北京：教育科學(xué)出版社、中國黨史出版社，2021：315.

[10]中華人民共和國國家互聯(lián)網(wǎng)信息辦公室.《人工智能安全治理框架》1.0版發(fā)布[EB/OL].（2024-09-09）[2025-01-26].https：//www.cac.gov.cn/2024-09/09/c_1727567886199789.htm.

[11]中華人民共和國中央人民政府.生成式人工智能服務(wù)管理暫行辦法[EB/OL].（2023-07-10）[2025-01-26].ttps：//www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm.

[12］謝俊，吳陽琴.智能算法推薦對主流意識形態(tài)話語權(quán)構(gòu)建的挑戰(zhàn)及其應(yīng)對[J].西南大學(xué)學(xué)報（社會科學(xué)版），2024，50（06） ：144-154.

[13］中華人民共和國中央人民政府.關(guān)于印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》的通知[EB/OL].（2021-09-17）[2025-01-26]https：//www.gov.cn/zhengce/zhengceku/202109/30/content_5640398.htm.

（責(zé)任編輯文格）

Ideological Risk and Prevention of AIGC Models in K-12 Education

PAN Jian-hong，HE Wen-hua （School of Marxism，University of Science and Technology Beijing ，Beijing 1Ooo83，China）

Abstract：AIGC models designed for K-12 education are artificial intelligence-generated content models tailored to the specific needs and learning scenarios of the basic education stage. Preventing ideological risks associated with AIGC vertical models in K-12 education is a critical aspect in accelerating education modernization and building a leading country in education. While these models leverage datadriven methodologies and algorithmic training to enhance educational pertinence，it is imperative to be alert to potential ideological risks.These risks，such as ideological manipulation，infiltration，identity apathy，and weakening of discourse power，may stem from latent data discrimination，positional biases， pre-existing scenario rigidities，and subject deviations.Vigilance is essential to ensure that the generated content remains aligned with mainstream ideology and socialist core values.To this end，it is necessary to safeguard the ideological integrity of AIGC educational models across four key stages： development，operation，application，and regulation. This effort provides technological support for cultivating socialist builders and successors and building a leading country in education.

Key words：educational powerhouse; ideology； Artificial Intelligence Generated Content （AIGC）； K-12education