教育AIGC核查的理論框架與技術路徑研究

摘要：隨著人工智能生成內容（Artificial Intelligence GeneratedContent，AIGC）在教育領域的應用日益廣泛，其內容的準確性、科學性、適配性、價值偏差和學術不端風險等問題日益凸顯，阻礙了AIGC在教育領域的進一步發展。為此，文章借鑒新聞學中“事實核查”的理念，構建了以“立德樹人”為核心，涵蓋“安全無害”“真實可靠”“科學規范”“表達客觀”“認知適宜”的五維度教育領域AIGC核查框架。該框架構建了由事實層、認知層和價值層組成的三層核查體系，不僅實現了對教育AIGC內容的全方位質量評估，還詳細闡述了各層核查的具體目標、內涵及實施方法，并指出單純事后核查存在局限性。文章不僅為構建可信的教育AIGC體系提供了堅實的理論支撐，更提出了包含可信數據源供給、透明度與可解釋性增強、人工智能與人類教育價值觀對齊的系統性實施路徑。"，"Introduction":""，"Columns":"生成式人工智能"，"Volume":""，"Content":"

【中圖分類號】G40-057【文獻標識碼】A【論文編號】1009—8097（2025）08—005—10【DOI】10.3969/j.isn.1009-8097.2025.08.001

隨著以ChatGPT為代表的生成式人工智能的崛起，AIGC在教育領域的應用中展現了卓越的能力，如虛擬智能導師可以幫助學生制定個性化的學習方案、提供快速且準確的自動化評估與反饋、生成優質的學習資源等[1。這些應用不僅提升了教學效率，也增強了學習資源的多樣性與互動性，進而提高了學習效果。然而，AIGC 在教育領域的廣泛應用也引發了一些值得關注的問題，近期多起涉及教育類智能設備的內容安全事件表明，AIGC 可能存在內容準確性、價值觀、隱私安全等方面的潛在風險[2J3]。這些風險可能對學生的學習和健康成長產生巨大的負面影響，如設備給出的不實或帶有偏見的回答可能誤導學生，扭曲其對歷史事實和文化的認知；包含歧視性言論的內容可能影響學生的價值觀形成，潛移默化地助長偏見；不當信息還可能損害學生的民族自尊心和文化認同感，影響其心理健康發展[4]。長期接觸這樣的信息，學生可能形成錯誤的世界觀和價值觀，影響其未來的學習與成長。這些挑戰無疑給AIGC在教育領域的進一步發展帶來了阻礙。因此，如何在充分發揮人工智能教育優勢的同時，有效規避其潛在內容安全風險，成為一個亟待解決的難題。

一事實核查

事實核查（FactChecking）的概念源于新聞學，是指新聞采訪過程通過信源檢驗和編輯核查兩道流程，確認報道中的事實性信息準確無誤[5]。其中，信源檢驗主要負責驗證信息來源的可靠性和權威性，編輯核查則對內容的準確性、完整性和邏輯性進行審查，這兩道流程相輔相成，共同保障信息質量。隨著社交媒體和AIGC 的興起，虛假信息的傳播速度和范圍前所未有地擴大，這使事實核查的重要性日益凸顯]。事實核查不僅關系到新聞的真實性和準確性，也直接影響到媒體機構的公信力，涉及收集證據、交叉驗證、數據分析和邏輯推理等多個環節[7]。

事實核查的理論和方法為教育AIGC內容核查提供了重要借鑒，新聞學事實核查與教育AIGC核查雖然應用場景不同，但在核心理念、方法論和操作流程上存在諸多相通之處，主要體現在多源交叉驗證原則、信源可靠性評估方法、編輯責任與干預機制、系統化核查流程以及時效性與更新機制等方面。新聞學的多源交叉驗證原則可應用于AIGC內容的準確性驗證；信源可靠性評估方法可用于構建AIGC訓練數據的質量評估；編輯責任與干預機制可轉化為AIGC的人機協作模式；系統化核查流程可指導AIGC全流程質量控制；時效性與更新機制則啟發AIGC內容的定期更新機制，確保與最新研究成果接軌。這種跨學科的理論遷移可以將新聞學中這些嚴謹的信源檢驗、編輯核查理論與方法有機地融合到AIGC系統中，從而構建一個多層次、多維度的內容審核機制，對AIGC生成的各類教育內容實施全方位的核查。

二教育AIGC核查框架

基于上述事實核查的理論基礎，結合教育領域的特殊需求，本研究構建了教育 AIGC三層核查框架。教育的根本在于傳遞真實可靠的知識，這就要求首先建立一個確保內容真實性的機制；其次，僅有正確的知識是不夠的，還需要考慮知識的教育屬性，即考慮如何有效地傳遞合適的知識，這就涉及教育內容篩選與學習者的認知特征；最后，需要追問教育的終極目的是什么，即要培養具有正確價值觀的人。這種從“是什么”到“教什么”再到“為何教”的思考路徑，對應了從本體論、認識論到價值論的進階，由此本研究構建了一個邏輯自洽、層次分明的教育 AIGC 三層核查框架（Thre-Layer VerificationFramework for AIGC，TLVF-AIGC），如圖1所示。這個框架是一個三層金字塔結構，由下至上分別是事實層、認知層和價值層，其中事實層（FactualLayer）作為金字塔的基礎，確保AIGC 生成的教育內容在事實和科學基礎上是客觀準確無誤的；認知層（CognitiveLayer）確保內容不僅安全可靠，還適合學生的認知水平；價值層（ValueLayer）體現了立德樹人的核心目標，強調教育生成內容的價值引領。

圖1教育AIGC三層核查框架

圖2基于TLVF-AIGC的教育內容核查流程

1事實層核查

“真實可靠”是教育AIGC體現其價值的前提。只有建立在事實和數據基礎上的內容，才能確保其客觀性和準確性，為學生學習提供可信的學習資源。同時，教育AIGC肩負著傳授知識、塑造學生認知的重要使命，真實可靠的內容能夠幫助學生樹立正確的價值觀和世界觀，形成科學的思維方式。虛假或誤導性的信息不僅會誤導學生的認知，還會造成不良的影響甚至引發社會問題，只有杜絕虛假和錯誤信息，才能營造良好的教育環境，促使教育AIGC朝著健康的方向發展。

“科學規范”代表著教育AIGC應當符合學科知識體系和課程標準的要求，遵循教育科學的基本原則和方法論，并且內容需合乎邏輯、推理嚴密。只有遵循科學規范的內容，才能幫助學生系統掌握知識、形成正確的認知方式，有助于培養其科學思維和創新能力。同時，教育AIGC還需確保引用來源規范化，所有引用的文獻、網絡等渠道的內容都必須標注完整規范格式的參考文獻，以便于溯源查找，維護學術誠信。

“表達客觀”意味著教育AIGC 陳述應該實事求是，不帶任何個人主觀看法或片面理解，用中立的方式描述客觀存在的事物、現象及其內在規律。這一準則特別適用于人文社會科學領域，需要對各種學術觀點和理論流派保持中立態度，避免受到任何意識形態的影響和滲透，鼓勵學生進行自主分析和獨立思考，形成自己的見解和認知，培養追求實事求是科學精神的態度。

2認知層核查

“安全無害”在教育AIGC內容核查的過程中是至關重要的。這不僅關系到學生的身心健康，也直接影響到其正確價值觀的形成。2023年，《生成式人工智能服務管理暫行辦法》明確指出，任何行業或部門在提供和使用生成式人工智能服務時，應當遵守法律、行政法規，尊重社會公德和倫理道德[8]。具體而言，教育 AIGC 內容必須堅持社會主義核心價值觀，嚴格禁止生成任何可能危害國家安全、損害國家形象、破壞社會穩定、煽動民族仇恨或歧視的內容。同時，教育AIGC核查系統還需建立嚴格的內容過濾機制，杜絕暴力、淫穢色情等不良信息，避免虛假有害信息的傳播。

“認知適宜\"指的是教育AIGC應該根據不同年齡段學生的認知能力和心理特點進行調整。換句話說，對目標人群而言，生成的內容應該做到語言簡單易懂，難度適中且具有一定的挑戰性，既要有系統性和科學性，又要具有吸引力和趣味性，避免過于晦澀或枯燥。例如，對小學生來說，需要用生動形象、通俗易懂的方式引導其逐步理解知識；對高年級學生，則可適當增加深度和難度以滿足其成熟的認知水平。此外，教材內容還應與學生日常生活密切相關，在經驗和興趣上與之契合，并激發其學習熱情與探索欲。

3價值層核查

“立德樹人”是教育的根本任務，是教育AIGC 內容核查的首要原則。立德樹人強調將社會主義核心價值觀有機融入生成的內容，旨在培養學生的道德品質、人文素養和社會責任感。這一原則要求AIGC 系統在生成教育內容時，不僅關注知識的生成，更要注重價值觀引導和人格塑造。例如，通過對輸出內容的精心設計，培養學生的批判性思維、創新精神和實踐能力，從而實現知識教育與品德教育的有機統一。

基于以上的三層框架設計為教育AIGC內容核查提供了一個較為系統、全面且富有邏輯性的框架。它不僅確保了AIGC的準確性和適用性，還強調了價值引領的重要性，實現了知識傳授與價值養成的平衡。通過多層次的審查，該框架有助于提升AIGC生成內容的整體質量，為教育工作者提供了清晰的質量控制指南。

三教育AIGC核查方法

一個優秀的框架需要配合有效的實施方法才能發揮其真正的價值。為了確保 TLVF-AIGC 能夠在實際應用中取得預期效果，需要制定相應的核查方法和具體操作流程，這些方法不僅要有效識別出內容在事實層、認知層和價值層的風險，還要具備可操作、可重復與可遷移的特征。為此，本研究提出基于TLVF-AIGC的教育內容核查流程（如圖2所示），將TLVF-AIGC轉化為實際可行的核查方法，以確保AIGC 生成的教育內容能夠真正實現教育目標。

1真實性核查

真實性核查是確保教育AIGC可信度的關鍵環節。本研究采用整合了信息科學、數據驗證和人工智能等領域知識的多維內容真實性評估框架，系統性地評估和驗證AIGC生成內容的真實性。

（1）來源的權威性核查

評估信息來源的權威性對于生成內容的可信度和價值至關重要，因此必須首先對信息來源進行全面的評估，本研究選擇了基于層級分析法（Analytic Hierarchy Process，AHP）的信息源權威性評估模型[9]。該模型依據信息發布主體的性質、地位和影響力將信息源分為三個層級：一級權威源（如國家權威部門）、二級專業源（如學術機構）和三級普通源，每個層級的權重通過專家打分和AHP算法計算得出，其數學模型可以表示為 ，其中 A 為信息源權威性得分， W_i 為第i級信息源的權重， S_i 為該級信息源的得分。這種量化評估方法能夠客觀地衡量信息源的可靠性。

（2）數據的準確性核查

交叉驗證是驗證數據準確性的重要方法，通過多源數據比對、多渠道數據核對以及同行評議審查，可以驗證數據的準確性和一致性，從而減少AIGC可能帶來的錯誤和偏差。本研究使用基于貝葉斯網絡的多源數據融合模型核查數據的準確性，該模型能夠有效整合來自不同渠道的信息，并計算出綜合可信度[10]。模型的數學表達為 P（T|D_I，D₂，...，D_n）=P（D_I，D₂，...，D_n|T）?P（T）?P（D_I，D₂，...，D_n） ，其中 T 代表信息的真實性， Di 代表不同數據源的信息。這種方法首先通過整合多源信息，克服了單一信源固有的局限性，同時摒棄了傳統的二元（真/假）判斷模式，轉而采用概率計算模型來呈現信息可信度的連續性分布。基于貝葉斯網絡的多源數據融合模型不僅能夠量化評估信息的真實性，還能有效處理不同數據源間的沖突與不一致，最終給出更為客觀的綜合性判斷。Cui等[1]通過實證研究發現，學生對AIGC內容的總體識別成功率僅為 60%～70% 原因正是大部分學生缺乏多源交叉驗證的能力，這一發現凸顯了人類在該項任務上的局限性，也印證了構建自動化、高精度的多源數據交叉驗證模型的必要性與緊迫性。

（3）時間的有效性核查

信息的時效性對其可信度有重大的影響。一般來說，較新的信息來源通常能更準確地反映現實狀況，其可信度更高。本研究構建了一個基于時間衰減函數的信息時效性評估模型 R（t）=R₀?e^-λt ，其中 R（t） 為t時刻的信息可靠度， R_θ 為初始可靠度，λ為衰減系數，這個模型能夠動態評估信息的時效性，并為AIGC系統提供一個自動更新機制。需要注意的是，即使對于長期有效的基礎知識和理論，也應注意及時融入最新的研究進展和發現，以保證知識的完整性和前沿性。

2科學性核查

科學性核查是確保教育AIGC質量的關鍵環節。本研究利用知識圖譜理論和形式邏輯等領域的方法構建多維度的科學性評估框架，系統地評估和驗證AIGC生成內容的科學性。

（1）知識體系性核查

為了確保生成內容在理論與實踐中的適切性，需要仔細對照該學科的權威教材和課程標準，確保生成的內容嚴格符合學科知識體系的基本框架。基于知識圖譜的內容體系性評估模型，利用圖論和網絡分析方法，可以將不同學科知識體系表示為一個復雜的網絡結構[12]。模型的核心是計算生成內容與標準知識圖譜之間的相似度，數學公式表達為 ，其中S為內容的體系性得分， W_i 為第 i 個知識點的權重，S_i 為該知識點在生成內容中的覆蓋度。這種方法不僅能夠評估知識點的正確性，還能量化內容的結構完整性和系統性，為AIGC系統提供了一個客觀的內容評估機制。

（2）學術規范化核查

遵循學術規范是確保生成內容科學性的重要方面，這其中正確引用生成內容的觀點或數據的來源至關重要，所有引用的資料和數據都必須清楚地標注出處，以避免知識產權糾紛和學術不端行為。檢索增強生成（Retrieval AugmentedGeneration，RAG）技術可以在學術規范化核查過程中發揮很大的作用，其獨特的雙塔模型（Dual-Encoder）中，一個用于查詢編碼，另一個用于文檔編碼，并通過注意力機制將檢索到的相關文檔信息與生成任務相融合[13]。

（3）論證邏輯性核查

生成內容論證過程的邏輯嚴密性也是衡量內容科學性的一個重要指標。現有的生成式人工智能的本質原理還是基于大量文本訓練后形成的一個概率模型，因此其邏輯推理能力較弱[14]。生成的內容有沒有邏輯嚴密的論證、能否清晰地展示推理過程、每一步論證是否都有充足的理論依據和數據支持，這些都需要進行核查，以避免人工智能的主觀臆斷和邏輯漏洞，出現“#大模型測不出9.11和9.9哪個大#”這種錯誤[15]。核查的具體方法是，首先利用命題邏輯和一階謂詞邏輯的原理，將AIGC生成的論證過程形式化為邏輯表達式，然后通過自動推理系統驗證其有效性。該方法的核心是一個基于規則的推理引擎，其基本形式為 IfP_I↗P₂↗…↗P_n then Q ，其中 P_i 為前提， 為結論。這種系統化的邏輯核查方法能夠系統地檢測AIGC生成內容中的邏輯漏洞和推理錯誤，顯著提高了內容的科學性和可靠性，并得到了相關實證研究的支持——中國科學院與香港中文大學合作研究團隊對243個AI生成內容樣本進行了實證內容分析，系統分析了AIGC 內容中的邏輯推理錯誤，并將這些錯誤歸納為8個一級錯誤類型，31個二級錯誤類型，對開發人員提高AI生成的工具質量也具有重要的實際意義[16]。

3客觀性核查

“表達客觀”的核查是確保教育AIGC實事求是、摒棄人工智能“主觀情感”摻入的關鍵步驟，需要進行內容與表達的客觀檢查。

（1）內容客觀核查

核查AIGC表述時，應遵循實事求是的原則，不帶任何傾向性或主觀色彩。如果受到預訓練素材的影響，人工智能在輸出內容時，就可能天然自帶某種“主觀情感”，因此可以通過去偏訓練技術，在模型訓練階段就減少偏見和情感傾向，從源頭提升生成內容的客觀性。這種方法主要依賴于兩種核心技術——對抗訓練和去偏算法[17]。在對抗訓練中，需引入一個判別器網絡來檢測模型輸出中的偏見，主模型則被訓練來“欺騙”這個判別器，從而產生更加中立的內容，此過程通過迭代優化來不斷改進模型的公平性；去偏算法則通過調整訓練數據分布和損失函數，減少模型的固有偏見。

（2）表達中立核查

教育內容確保對事物的描述保持中性角度，不摻雜任何偏見或評價標準，才能真正引導學生進行獨立思考和自主判斷。基于詞嵌入技術和情感分析算法，可以從語義、情感和語用三個維度對內容的中立性進行量化評估[18]。評估模型的公式為 N=αS+βE+γP ，其中 N 為總體中立性得分，S、E、 P 分別為語義、情感和語用維度的中立性得分， α，β. 、為各維度的權重系數。這種多維度評估方法能夠全面捕捉內容中的非中立表達，為AIGC系統提供精確的中立性反饋，從而指導系統生成更加客觀的內容。

4安全性核查

AIGC的安全性及可靠性是教育內容核查的核心，因此建立一套統一的審查標準和操作流程至關重要，包含但不限于政治性核查、導向性核查與危害性核查。

（1）政治性核查

政治性核查應保證教育AIGC遵守憲法、法律和行政法規，貫徹習近平新時代中國特色社會主義思想，宣傳黨的理論路線方針政策和中央重大決策部署，弘揚社會主義核心價值觀和中華優秀傳統文化，堅持正確的政治方向、輿論導向和價值取向[19]。為實現上述核查目標，一種可行的方法是構建基于語義網絡分析的政治導向評估模型。該模型利用自然語言處理技術和知識圖譜，構建了一個包含政治理論、方針政策和核心價值觀等的語義網絡，在此網絡之上設計算法，用以計算內容的政治導向得分。模型的核心算法為 ，其中 P（d） 為文檔d的政治導向得分， W_i 為第 i 個政治概念的權重， S_i（d） 為文檔 d 與第 i 個政治概念的語義相似度。

（2）導向性核查

導向性核查應保證教育AIGC全面貫徹黨的教育方針，落實立德樹人根本任務，符合教育發展規律，充分體現教育改革發展方向和先進教育理念，引導樹立正確的世界觀、人生觀和價值觀，傳播正能量，并促進學生的全面發展和身心健康[20]。具體做法是基于模糊綜合評判法（Fuzzy Comprehensive Evaluation）開發一個多準則決策模型，該模型涉及多個教育價值維度，包括道德教育、知識傳授、能力培養等[21]。模型的數學表達為 B=RoW ，其中 B 為綜合評判結果向量， R 為模糊關系矩陣，W為權重向量，·表示模糊合成運算。

（3）危害性核查

針對高風險內容，應執行嚴格的審查程序，確保其不會以任何形式出現，避免對學生造成負面影響。同時，需清晰地界定“安全無害”的具體含義和標準，明確禁止的內容，包括但不限于違法違規、暴力色情、損害國家利益、破壞社會秩序以及迷信等。為此，可以采用多層次、多模態的技術方案來確保內容安全性。國家計算機網絡應急技術小組的一項研究表明，AIGC 帶來的風險包括敏感內容風險、降低犯罪活動成本、跨境數據安全風險，甚至可能降低公眾的思考能力[22]。對此，可通過多方協同開展危害性檢查，決策者需推動對非法和不良信息識別系統的不斷完善與改進，開發者應負責評估模型輸入及跨境數據安全并提供人工干預機制，同時需對用戶信息實施加密與匿名化處理。

5適宜性核查

“認知適宜”是確保AIGC符合不同年齡段學生的認知能力和心理特點的重要過程，該過程應涵蓋難度分級核查和內容呈現核查。

（1）難度分級核查

難度分級審核的核心在于內容的難易程度和語言的通俗易懂性，以確保其符合學生的認知水平，教育內容必須根據學生不同的認知發展階段進行適當調整。考慮到不同學習者的認知能力差異，本研究基于認知負荷理論（Cognitive LoadTheory，CLT）和維果茨基的最近發展區理論（Zone of Proximal Development，ZPD），構建了一個動態難度分級模型。該模型通過實時調整內容的復雜度和抽象程度，確保AIGC生成的內容始終處于學習者的最佳學習區間。模型的核心公式為 C（t）=C₀?（l-e^-kt）+α?ZPD（t） ，其中 C（t） 為 t 時刻的內容復雜度， C₀ 為初始復雜度， k 為學習者的認知適應率， α 為ZPD影響因子，ZPD（t為 t 時刻的最近發展區估計值。通過該模型，AIGC系統能夠根據學生的反饋和進展，動態調整內容的復雜度，從而在客觀性和認知適應性之間取得平衡。

（2）內容呈現核查

研究顯示，情景化的AIGC輔助設計能幫助學生更好地適應這些課程并提高他們的接受度，因此AIGC的呈現應該注重生活化與趣味性，避免太過于深奧或乏味，以保持學生的學習興趣和積極性[23]。此外，核查過程還需要確保教育內容貼近學生的實際生活，與其日常經驗和興趣相契合。這樣的內容不僅可以增強學生的理解和記憶，還能激發其對學習的熱情和探索欲望，從而提高學習效果。基于多模態學習理論（MultimodalLearningTheory）和情境認知理論（Situated Cognition Theory）構建的內容呈現優化算法可以生成貼近學習者實際生活、具有趣味性和互動性的教育內容，其核心算法為計算生成內容對學習者的情景得分，即 S（c，l）=w_I?R（c，l）+w₂?I（c）+w₃?E（c，l） ，其中 s 為情境相關性得分， c 為內容，1為學習者特征， R 為相關性函數， I 為趣味性函數， E 為教育價值函數， w_i 為權重系數。

6價值觀核查

為確保AIGC滿足“立德樹人”的根本目標，需要建立一個價值觀核查體系，包括對價值觀導向的核查，確保內容有機融入社會主義核心價值觀；評估德育元素的融入度，培養學生的道德品質和社會責任感；分析內容對人格塑造的潛在影響；評估批判性思維、創新精神和實踐能力的培養效果；確保知識教育與品德教育的有機統一；保證內容反映時代特征和社會發展趨勢。為此，在核心價值觀對齊度評估層面，可通過構建以社會主義核心價值觀為基準的知識圖譜并開發量化評估模型，計算AIGC內容與該圖譜的語義相似度和覆蓋率，從而客觀衡量其價值導向的契合程度。在德育元素融入度分析方面，利用潛在語義分析技術對內容中蘊含的德育元素進行識別與量化，不僅能夠評估德育元素的融入程度，還能識別德育主題的分布偏好。在培養高階能力方面，可基于布魯姆分類法的認知能力培養效果評估模型，通過分析 AIGC 內容中涉及的認知過程類型，評估其對批判性思維、創新精神和實踐能力的培養潛力等。

四超越核查的內生構建

前述的核查框架和方法主要針對AIGC生成內容的事后審查，然而單純依賴事后核查如同為系統打補丁，本質上是一種被動的風險控制手段，面臨著核查成本高昂、潛在教育影響難以逆轉等挑戰，因此要實現更高水平的教育可信 AI，必須超越被動防御轉向主動構建——即在堅持事后核查作為\"安全網\"的同時，更要從技術源頭和系統設計層面入手，構建一個內生、可靠、透明的教育AIGC質量保證體系。這種“事前構建”與“事后核查”相結合的雙重保障策略，是推動教育AIGC邁向可持續發展的必由之路。

在輸入階段，對于一個可信賴的教育AIGC系統，最重要的是可靠數據源，這為整個系統奠定了堅實的可信基礎。在處理階段，流程分為技術和教育兩個相互補充的維度，反映了創建有效教育AI系統的復雜性，其中技術維度專注于提高系統的透明度和可解釋性，確保AI的決策過程可以被理解和驗證，同時還要確保生成的內容與教育目標相匹配；教育維度則關注內容如何適應不同學習者的需求，提供個性化支持，以及如何培養價值觀和能力。貫穿整個過程的是“人機協同核查”機制，這體現了人類專業知識在指導和驗證AI輸出方面的關鍵作用，確保了系統的可靠性和價值性。這種多層面、多角度的方法最終形成一個可信的教育AIGC系統（如圖3所示），具體內容如下：

圖3可信的教育AIGC構建框架

為生成式人工智能模型提供可信數據來源。要構建一個真正可信賴的教育AIGC系統，確保其核心數據源的權威性和可靠性是關鍵所在[24]。為此，必須采取全面的數據策略和管理機制，保證AIGC模型訓練所使用的數據具備充分的真實性、準確性、多元性和時效性，消除潛在的偏見和不當內容，為學習者提供高質量、健康有益的知識傳遞。

增強生成式人工智能的透明度與可解釋性。目前，許多人工智能系統存在著“黑箱”問題，原因包括算法復雜、保密性高、缺乏透明度和監管政策滯后等。這些系統內部的決策邏輯和運作機制難以為外界解釋和理解[25]。然而在教育領域，AIGC 系統需要具備透明性和可解釋性，以獲取公眾信任并發揮積極的教育作用。

實現AIGC與人類教育價值對齊。通過融合強化學習技術，有望構建一種更為可靠、權威的教育AIGC系統。該系統需采用多重策略和機制，確保生成內容的科學性、適用性、合規性，并與人類價值觀保持高度契合，如在我國，用于教育的AIGC必須與社會主義核心價值觀保持高度契合[26]。

實現AIGC系統的獨特教育特征。教育AIGC系統的教育維度設計對于確保其在實際教學中的有效性和適用性至關重要。這一維度主要關注三個核心方面：內容適配性、個性化支持、價值觀與能力培養。教育 AIGC系統需提供高度適配化、個性化的學習體驗，課堂不是同質性的空間，而是交織著多種思維表象的一致空間，正是為了應對這種異質性，AIGC才應該根據學習者的進度和表現動態調整內容難度、提供針對性的反饋和建議、推薦適合的學習資源和方法等，以培養學習者的批判性思維、問題解決能力、創造力和溝通能力等21世紀核心素養[27]。

建立人機協同的生成式人工智能核查機制。建立人機協同的核查機制是建立更可信的教育AIGC關鍵，貫穿于這個流程的始終。這一機制將先進的人工智能技術與人力資源的專業判斷有機結合，充分發揮技術與人兩方面的優勢，將人工智能技術與人力資源的專業判斷融會貫通，人工智能算法高效過濾不當內容，專家評審則從多維度保證內容質量，確保其符合科學規范且認知適宜，為學習者營造安全可靠、富有價值的學習環境，進而獲取公眾對AIGC在教育領域應用的信任與支持[28]。

五結語

隨著人工智能在教育領域的廣泛應用，我們需要特別關注AIGC的安全性、真實性、科學性、客觀性、適用性和思政性等方面，以確保知識傳播質量，保護學生的健康成長。本研究構建了一套“事后核查”與“事前構建”相結合的雙重保障體系。一方面，提出了以TLVF-AIGC為核心的內容核查框架，為現有教育AIGC內容的質量評估提供了系統化方法參考；另一方面，更從長遠視角出發，提出了涵蓋可信數據源、技術透明度、價值對齊和人機協同的內生性可信AI構建藍圖。然而，本研究還存在一定的局限性，如框架的實際應用效果尚需在不同教育場景中進行更廣泛的驗證；目前具體的核查方法還停留在理論探索層面，需要在后面的研究中實現和驗證。后續研究將進一步完善TLVF-AIGC框架，促進AI技術與教育理念的深度融合，最終實現提升教育質量、培養全面發展人才的目標，同時為構建負責任的AI教育生態系統提供重要的理論和實踐支持。

參考文獻

[1]王佑鎂，王旦，梁煒怡，等\"阿拉丁神燈\"還是“潘多拉魔盒\"：ChatGPT教育應用的潛能與風險[J].現代遠程教育研究，2023，（2）：48-56.

[2]段偉文.人工智能時代的價值審度與倫理調適[J].中國人民大學學報，2017，（6）：98-108.

[3]李志鍇，張驍.人工智能生成內容（AIGC）應用于學位論文寫作的法律問題研究[OL].XDIYIS

[4]極目新聞.兒童手表為何頻現\"毒答案\"？專家：制定兒童智能手表行業安全標準加強內容審核[OL].

[5]虞鑫，陳昌鳳.美國\"事實核查新聞\"的生產邏輯與效果困境[J].新聞大學，2016，（4）：27-33、66、149.

[6]林嘉琳，師文.主流媒體事實核查應對 AIGC 的問題分析與路徑探索[OL].

[7]唐遠清，李秀莉.從Facebook 看美國社交媒體的虛假新聞治理[OL].

[8]國家互聯網信息辦公室.生成式人工智能服務管理暫行辦法[OL].

[9]劉銀萍，李光強，余容，等.基于AHP 的社交網絡信息可信度評價模型構建[J].情報探索，2018，（9）：28-34.

[10]SunT，Yu M. Research onmulti-source data fusion method based on bayesian estimation[J]. International SymposiumonComputational Intelligence and Design， 2016，2：321-324.

[11]Cui Y， Zhang H.Canstudent accuratelyidentifyartificial inteligence generated content？ An explorationof AIGCcredibility fromuser perspective in education[OL].

[12]王思茗，孫熊蘭，滕廣青，等.知識圖譜在領域知識多維分析中的應用途徑研究[J].數字圖書館論壇，2019，（3）：18-27.

[13]Feng Z， Feng X， Zhao D，et al. Retrieval-generation synergy augmented large language models[OL].

[14]趙志耘，徐峰，高芳，等.關于人工智能倫理風險的若干認識[J].中國軟科學，2021，（6）：1-12.

[15]劉曉潔.翻車了！9.11和9.9哪個大？記者實測 12個大模型8個都答錯[OL].

[16]Su Y，ShngD，Zhou Z，etal.AIhalluciatio： Towardsacomprehensivecasificationof distortediforationinartificial inteligence-generated content[J]. Humanities and Social Sciences Communications， 2O24，（1）：1-14.

[17]徐國寧，陳奕芃，陳一鳴，等.基于約束優化生成式對抗網絡的數據去偏方法[J].計算機科學，2022，（S1）：184-190.

[18]趙亞歐，張家重，李貽斌，等.融合基于語言模型的詞嵌入和多尺度卷積神經網絡的情感分析[J].計算機應用，2020，（3）：651-657.

[19][20]中華人民共和國教育部.教育部辦公廳關于印發《國家智慧教育平臺數字教育資源內容審核規范（試行）》的通知[OL].

[21]ZhuL.Researchandapplication of AHP-fuzzycomprehensiveevaluationmodel[J].Evolutionary Inteligence，2022，（4）：2403-2409.

[22]LiuL，ShiL.Applicationcase study，securitychallnges and countermeasures ofAIGCin thecontext ofmetaverse[OL].

[23]Jiang Q，Zhang Y， Wei W，etal.Evaluating technologicalandinstructionalfactors influencing the aceptanceofAIGC-assisted design courses[J]. Computers and Education： Artificial Intelligence， 2024，7：100287.

[24]林曉峰，謝康.人工智能現狀及其教育應用的理性思考[J].現代教育技術，2019，（8）：12-17.

[25]劉艷紅.人工智能的可解釋性與AI的法律責任問題研究[J].法制與社會發展，2022，（1）：78-91.

[26]胡正榮，閆佳琦.生成式人工智能的價值對齊比較研究——基于 2012-2023年十大國際新聞生成評論的實驗[J].新聞大學，2024：1-17、117.

[27]佐藤學，鐘啟泉.學習的快樂：走向對話[M].北京：教育科學出版社，2004：187.

[28]祝智庭，彭紅超，雷云鶴.智能教育：智慧教育的實踐路徑[J].開放教育研究，2018，（4）：13-24、42.

Researchon the Theoreticaland Technical Path of AIGC Checking in Education

SUN Fa-Qin PENG Yu FENGRui

（School ofJournalismand Communication， Yangzhou University， Yangzhou Jiangsu， China ）

Abstract：Withtheincreasingly widespread appicaitonof artificial intelligence generatedContent （AIGC）inthe fieldof education，issesconcernng theaccuracysientificityadaptiabilityvaluedeviationandacademicmisconductriskof its content have become increasingly prominent，which hindered the further development ofAIGCin the fieldof education. Therefore，drawing inspiration fromtheconceptof“fact-chcking”injouralism，thispaperconstructedafive-dimensional AIGCcheckingframework inthe fieldofeducationwith“moraleducationand talent cultivation”atitscore，covering“safety andharmlessness，“authenticityandreliability”，“scientificRigorandstandardization”，“objectivityinexpression”，and \"cognitive appropriateness.Thisframework establisheda three-layercheckingsystemcomposedofafactualayer，acogitive layer，and a value layer，which notonlyrealizedacomprehensivequalityassessmentofAIGC-generated educational content but also elaboratedonthe specificobjectives，connoations，and implementationmethods foreachchecking layer，whilealso highlighting the limitations of relying solelyon post-hocchecking.Thisresearch notonlyprovided a solid theoretical foundation for constructinga trustworthy educational AIGC system，but also proposed asystematic implementationpathway encompassingtheprovisionofcredibledata sources，enhanced transparencyand interpretabilityand alignmentofartificial intelligence with human educational values.

Keywords： AIGC; content-checking; trustworthy AI; fact checking

編輯：小時