智能時代教育主體的失范風險歸因及其多層次治理研究*

逯 行 張春佳 黃仕友

智能時代教育主體的失范風險歸因及其多層次治理研究*

逯 行1張春佳2黃仕友3[通訊作者]

（1．浙江師范大學 教育學院，浙江金華 321004；2．河北省邯鄲市教育局，河北邯鄲 056002；3．西南大學 教育學部，重慶北碚 400715）

智能技術在教育領域的廣泛應用，引發了一系列教育主體失范問題。對此，文章首先通過對訪談數據和客觀數據的概念提取與整合分析，形成了教育主體失范風險的影響因素集合，共包含41項影響因素條目。隨后，文章以生成式人工智能為研究對象，依托多層次治理理論和體制復合體理論，結合影響因素分析，構建了教育領域中生成式人工智能的多層次治理模型。最后，文章從建立倫理規范、完善監管機制、推動立法進程、落實實際行動等角度，提出了實施生成式人工智能常態化治理的實踐路徑。文章的研究能夠為國家有關部門政策的制定提供理論指導、為各類教育主體行為規制提供參照，并支持以生成式人工智能為代表的新型教育智能產品準入與評測標準的制定，推動我國實現智能教育的安全、健康、可持續發展。

教育主體失范；多層次治理；生成式人工智能；智能技術

一 問題的提出

智能技術作為教育改革的重要推動力量，其輻射的作用力已經從班級、學校、區域擴大至整個社會層面[1]。教育系統是社會系統中重要的子系統，教育治理是社會治理的前置階段。隨著智能技術在教育領域應用的逐漸深入，智能技術應用不當、治理機制缺位、技術主體缺乏風險意識等不足引發了一系列的教育問題和社會問題。學術研究和實踐領域已經意識到，教育領域中應用的智能技術影響了主體的行動過程乃至引發了負面結果，其中以智能技術引發的教育主體失范問題影響較大、負面效果波及對象較廣[2]，導致出現了“智能技術引發教育價值危機”“教育失去控制”“價值選擇和方向出現偏差”等質疑[3]。對教育領域中的智能技術開展治理，既是解決教育系統效率和質量問題的關鍵，也是提升社會治理效率和質量的重要維度[4]，而這需要首先厘清教育領域中智能技術應用不當、主體失范等問題的具體類型或表現。對此，不同研究者提出了不同的分類方式，如通過明確智能技術引發各類型教育主體失范的判定標準，進一步梳理出過程性失范、轉型期失范、周期性失范、本質性失范、原生性失范等五種表現類型[5]。在整合已有研究的基礎上，本研究梳理出四種智能技術引發的教育主體失范：①背離倫理（道德）規范的失范，具體表現為教育主體在智能技術應用中迷失理性[6]、產生教育與技術結合的認知偏差[7]，甚至違反教育原則[8]、缺乏對技術應用不良后果的責任承擔[9]、算法控制[10]等；②違反行業與技術標準的失范，主要有技術研發人員不遵守行業標準、刻意模糊數據權屬、容忍設計缺陷等[11]；③脫離制度約束的失范，主要涉及過度創設場景[12]、偏離教育目標[13]、技術—制度邏輯悖論[14]、違反教育規律[15]等；④觸犯法律底線的失范，如無視教育良序、算法綁架、非法買賣或泄露隱私等[16]，更為嚴重的是通過智能技術定向推送錯誤的知識從而誤導學習者的認知發展，乃至走上經濟犯罪的道路等。

針對智能技術引發的教育主體失范，已有研究從多角度進行了歸因闡釋，如人工智能技術教育應用的開發與設計標準缺失[17]、教育治理缺乏規范性等[18]。然而，對智能技術開發、使用過程中各類主體的治理與規制，才是解決智能時代技術問題的根本。基于此，本研究將焦點對準智能技術環境下教育實踐活動的參與主體，重點探索智能技術環境下導致他們產生失范的影響因素，并理解這些影響因素之間的相互作用等。通過對智能技術引發教育主體失范歸因的分析，來尋找“科林格里奇困境”產生的本質原因，并以此為基礎探討如何規制智能技術環境下的教育主體行為，為未來教育政策的制定與落地提供指導，為教育主體實施干預、設計治理體系和完善治理機制提供參考依據，進而實現智能教育的安全、健康、可持續發展。

二 研究設計

1 研究過程與方法

在數據收集與分析階段，本研究采用訪談法（包含基于案例的訪談）收集主觀數據，并輔以客觀數據進行三角互證，從而補充影響因素集合，保證因素提取的科學性和全面性。訪談過程中開展基于案例的追問，基本原則是了解教育主體的價值傾向、避免懸置評估、關注遠景預判。最后基于訪談數據、客觀數據等資料，提取教育領域中技術主體失范的成因。

2 數據收集

（1）訪談對象選取與數據收集

本研究共訪談了42位專家，涵蓋政府管理人員（占比19%）、基礎教育一線教師（占比28.6%）、教育科技企業的實踐人員（占比14.3%）、高校教師等科研人員（占比11.9%）、家長（占比26.2%）五大群體。訪談由3名研究者共同推進，其中1名作為主訪、2名研究人員進行輔助提問和現場記錄，每位訪談對象的訪談時間約為40～60分鐘。訪談采取半結構化訪談與結構化訪談相結合的方式：首先開展半結構化訪談，與訪談對象圍繞智能技術在教育領域應用的現象和典型案例等展開討論，主要關注訪談對象對教育領域智能技術應用風險的思考與認識；然后在第一階段訪談對象回應的基礎上，分析多元教育主體對智能技術引發行為失范的理解差異，并基于多元角色的實踐經歷，有針對性地開展結構化訪談，依據訪談對象的身份與角色（如教師、家長、管理者等）選擇相應的個性化訪談問題。其中，訪談問題的設計圍繞四種智能技術引發的教育主體失范展開，主要探尋多元教育主體對當下智能技術引發的教育問題的認識及其對解決方案的期望，如基礎教育階段教師的訪談問題主要涉及學生在智能技術環境下的行為表現、技術引發的教育風險、相應的課程設計、技術規制或干預方式等。

（2）客觀數據的收集與篩選

客觀數據涉及政策文件、文獻研究、互聯網數據等多種類型的數據來源。訪談數據旨在挖掘存在于教育主體潛意識層面的歸因分析，而客觀數據能夠補充訪談所獲得的數據維度，進一步提高數據的全面性和科學性，并且通過收集和分析研究主題相關的客觀數據，能夠實現三角互證[19]。客觀數據的篩選和納入原則由本研究團隊討論制定，主要包括有明確的主體失范事件描述、有第三方的評價或評論等。經過篩選和納入，本研究最終共獲得563份文本資料，其中529份用于影響因素的提取，剩余34份用于飽和度檢驗。

表1 教育主體失范風險的影響因素集合

影響因素條目基本內涵 價值理性弱化對新技術和高效率的追逐，使人們有意無意地忽視了過程是否合理、目標是否正確 工具理性異化過于強調技術應用的結果、無限制地使用技術手段 技術信任與依賴放大智能技術的效率，各類教育主體愈加依賴技術、不斷追求更高的效率 教育焦慮教育競爭加劇，導致人們寄希望于智能技術，希望利用技術提升自己的競爭力 技術逐新人們開始忽視技術服務于教育的初衷，開始追逐“更新的技術”“更新的產品” 多元主體的關注差異不同教育主體對技術的期望不同、對問題的認識不同、對干預的限度亦不同 教育理念滯后教育主體未能及時地觀察到智能技術對教育實踐的影響，并更新自己的認知 形式主義僅關注智能技術應用形式的新穎，而忽視了智能技術應用的有效性或實質 教育制度有限性教育制度存在一定的缺陷，造成對智能技術的吸納存在局限 資本主導商業資本主導主流觀點、控制智能教育的資源分布等 監管缺失管理部門忽視對智能技術應用的監督和管理（包括產品、技術、服務等多個層面） 授權機制不健全由于教育管理部門的組織架構存在缺陷，忽視了對智能產品與服務的準入授權 教育投入失衡不同地區、不同學校之間的教育資源投入或政策支持存在差異 教育秩序混亂舊的教育秩序在智能技術的沖擊下出現裂縫，新的教育秩序尚未完全建立 教育目標定位模糊倡議或行動中，智能技術對教育的支持方向或預期效果搖擺不定 前期實驗缺乏深入智能教育產品與服務進入教育場景的預實驗不深入，得到的結論具有片面性 認知有限性人類已有的實踐經驗和知識水平有限，對智能技術教育應用的判斷能力不足 技術有限性一方面技術本身存在缺陷，另一方面技術不是萬能的，對教育發展的貢獻有限 資源有限性智能技術資源和教育資源總量有限，受地域發展水平影響，地區間資源占有不均衡 主體間的信息差多元主體的實踐類型、經驗水平、認知水平、信息獲取渠道等存在差異 開發者缺乏教育認知技術設計與開發人員未經過系統的教育學訓練，對教育的認識出現偏差 市場經濟的開放性教育市場不是相互封閉的，企業、教育產品用戶只能受到有限的監督 實際條件限制受經濟水平、意識水平、初始教育水平等的限制，無法實現或偏離既定的教育目標 商業競爭與逐利為了謀求自身利益的最大化，企業在競爭中使用各種手段和方式追逐利益 技術阻斷真實溝通智能技術在拓展人類交往邊界的同時，也阻斷了人與人、人與真實世界之間的溝通 系統設計黑箱智能技術以封裝后的產品形式呈現給用戶，用戶無法了解其背后的算法和原理 數據集片面用于訓練算法的數據集不全面或樣本有偏差，造成算法缺陷 智能輔導效率有限性智能技術輔導在一定程度上提高了學習效率，但也不是萬能的，存在一定的有限性 人機交互的消極情緒人機交互中的負面情緒（如焦慮、沮喪、無聊等），會降低人們的自律水平 自我概念的轉變自我概念從“我是我所需”轉變為“我是你所需”，創設出多種虛假的教育情景 主體缺乏自控力教師、學生、管理者等存在不同程度的意志力薄弱、自我管理能力不足的問題 經濟人的突兀發展“經濟人”超越“道德人”，社會更加迎合個體教育需求而忽視宏觀教育目標 個性化偏好教育主體對某一類信息、某一種教育形式、某種技術形態等尤為感興趣 向技術轉交教育權家長、教師等為了減輕自身的教育負擔，將本應承擔的責任轉交給智能技術工具 事實與信息傳播不符社會化媒體對智能技術的教育功效過分宣傳，刻意忽視其負面影響 參考規范缺失智能技術在教育場景中應用的倫理規范不明確、技術與產品開發標準缺失 缺乏專門立法目前尚未針對教育智能技術治理制定專門的法律法規 法律教育缺失教育實踐主體的法律知識欠缺，對法律的認識程度不足 家庭教育缺失缺少家庭成員的參與，家庭教育無法完整、有效地開展 價值教育缺失智能時代的社會規則和價值觀念尚未深度融入公民的思想中 信息素養教育缺失教師、學生、管理者等多元教育實踐主體缺少系統化地理解和應用新技術的能力

三 形成智能時代教育主體失范風險的影響因素集合

1 概念化抽取主體風險的影響因素

本研究采用概念提取的方式對訪談數據和客觀數據進行分析，通過對數據進行編號、抽象提煉、合并同類項，從中抽取智能技術環境下教育主體失范風險的影響因素。其中，主觀的訪談數據以句子為抽取單位，而客觀數據以條目（如一篇新聞報道、一篇研究文獻）為抽取單位。

①從訪談數據來看，教育主體較為關注自身或他者在應用智能技術過程中被動或主動的行為失范，其中對他者行為失范的認識更具體，且歸因更客觀，傾向于對人性、社會環境等展開分析，而對自身行為失范及其成因缺乏察覺。例如，區域管理者C在討論教育場景中智能技術應用的監管問題時指出：“學生個人數據隱私泄露的問題嚴重。現在行政主管部門、教育主管部門的一些做法簡單粗暴，比如說像學生的教育ID整個都到學校去（存儲）了。學校有各種各樣的管理部門，但是這些管理部門的老師對數據安全有沒有一個很清晰的認識？這是存疑的……”——這可進一步提煉為“監管缺失”。

②從客觀數據來看，第三者的視角能夠更加清晰地對智能技術引發的教育主體失范進行歸因，且維度更加全面、論述更加客觀。例如，教師、學生和家長作為智能教育產品的一線用戶，對形式主義問題造成的管理者行為失范反應強烈。曾有家長向新聞媒體反映：在官僚主義風氣的影響下，當前學校管理者關注且僅關注智能技術服務或產品的外顯效果——是否漂亮、是否先進、是否高大上、是否能夠取悅領導和上級部門等，而忽視了技術支持教育的本質在于從根本上提升教育質量——這可進一步提煉為“形式主義”；對智能教育產品與服務的關注主要集中在其有效性和有限性的沖突，雖然利用智能技術能夠提升教育者的施教效率，但同樣存在力所不及之處，如技術輔助系統過早地反饋學生的學習結果，阻止學生的深度思考或過早結束了其思維進程[20]——這可進一步提煉為“智能輔導的有效性與有限性”。

通過對主觀數據和客觀數據進行概念提取與整合分析，本研究形成了教育主體失范的影響因素集合，共包含價值理性弱化、工具理性異化等41項影響因素條目，涉及個人意識、組織因素、客觀規律、規范滯后、技術缺陷等多個維度，如表1所示。

2 從“人因何存在于技術風險之中”來分析上述影響因素

目前，對智能技術風險歸因的相關研究大多從技術本身的缺陷（如數據集片面、算法黑箱）或教育主體本身的自制能力缺失等方面進行歸因，而較少討論制度設計、社會環境建設等客觀因素的綜合影響，且鮮少對不同影響因素之間的關系進行探討，這直接導致在治理實踐中難以統籌把控并實施系統化干預。可以說，無論是政策制定者還是實踐者都容易迷失在對“影響因素”的主觀討論中，受制于個體有限的經驗，而很難采用系統化思維推進治理實踐。雖然這種將智能技術作為治理客體的視角能在一定程度上緩解當前教育領域面臨的“科林格里奇困境”，但無法從根本上系統地化解智能時代教育發展所面臨的危機。

區別于已有研究對技術本身的過度關注和強烈的干預意愿，本研究提取出的教育主體失范影響因素更多地聚焦于“人因何存在于風險之中”。人的行為通常具有多維度、可變性的特征，因此有必要對所有影響主體失范的因素進行結構化分析，從更加宏觀和全面的維度了解影響因素之間的層次關系、強弱關系，以有針對性地制定策略，以干預失范行為之間的演化（如從“背離倫理規范的行為失范”向“觸犯底線原則的行為失范”演化），從而更加徹底地預防行為失范的發生。通過對上述教育主體失范風險影響因素的分析，可以發現：不同教育主體的失范表現存在差異，且不同類型的失范成因不同，如背離倫理規范的失范主要受價值理性弱化、工具理性異化、教育焦慮等因素的影響，而觸犯法律底線的失范主要受缺乏專門立法、法律教育缺失等因素的影響。

在明晰智能技術引發教育主體失范風險影響因素的基礎上，本研究引入原則導向的智能技術治理理論，在智能技術實現的理想狀態與現實狀態之間創造出一定的制度空間，提供原則框架和工具選擇，有望實現智能技術的教育應用在道德價值、技術要求和法律要求之間的調和[21]。

四 構建教育領域中生成式人工智能的多層次治理模型

在厘清教育主體失范風險影響因素的基礎上，有針對性地設計治理機制和干預措施，能夠最大程度地降低新興技術對教育發展的負面影響。為了更加聚焦地說明如何在明晰影響因素的基礎上構建智能技術治理模型，本研究將近年來討論較為激烈、對其治理過程和治理機制尚未形成一致論斷的生成式人工智能（Artificial Intelligence Generated Content，AIGC）作為研究對象。結合上述對風險成因的分析，本研究構建了教育領域中生成式人工智能的多層次治理模型，并提出了實施生成式人工智能常態化治理的實踐路徑。

1 構建教育領域中生成式人工智能的多層次治理模型

智能技術引發教育主體失范風險的基礎性影響因素主要有教育制度有限性、認知有限性、技術有限性、開發者缺乏教育認知、實際條件限制、參考規范缺失、缺乏專門立法、價值教育缺失等。對造成教育主體失范風險的影響因素進行治理，是解決智能技術應用問題的有效途徑。而“教育領域中智能技術治理”是指為了安全、高效地使用智能技術，避免由于其應用失范導致的教育問題，教育領域中的各利益相關者采用多種方式共同管理智能技術在教育領域中的設計、開發與應用等行為，并為此付出持續努力的過程。在教育領域中開展智能技術治理的目的，是實現智能技術安全、高效的應用，避免或解決由于技術應用失范導致的教育主體行為異化。基于此，本研究嘗試通過干預上述基礎性的影響因素，并以智能技術中的AIGC技術為例，來構建教育領域中生成式人工智能的多層次治理模型。

AIGC應用不當引發的教育問題和社會問題層次多樣、類型多元，且牽涉的主體眾多，在國家層面相關政策的加持下，其負面影響的傳播力較以往更大[22]，因此需要尋找更為有效的治理理論來解決AIGC的治理問題：①AIGC引發的問題層次較為多樣、涉及的主體類型眾多且所涉部門繁雜、公私利益博弈復雜，而多層次治理理論能夠提供實踐指導。多層次治理是政府、市場及社會等不同層次的主體各司其責，是多元主體協同治理的重要實踐形式，通常以協議的方式、扮演適當的角色參與治理過程[23]。②人工智能治理、互聯網治理、大數據治理等新型全球治理議題往往涉及的治理領域較為寬泛、參與治理的主體多元、議題多樣，沒有一種治理理論可以解釋和解決所有問題——同樣的，也沒有一種體制可以獨立地對所有的議題進行治理，因此需要借助體制復合體理論指導實踐。體制復合體理論是應用體制理論在分析復雜的全球治理問題時產生的一種理論視角，倡導將多種體制理論、多種治理理論進行整合應用，從而解決新興信息技術帶來的復雜治理體，適用于分析和解決復雜的社會治理問題，尤其是新技術引發的社會問題[24]。

依托上述理論，結合對多元教育主體失范風險影響因素的分析，本研究構建了教育領域中生成式人工智能的多層次治理模型，如圖1所示。在多種影響因素的綜合作用下，該模型形成了風險觸發、技術觸發、失范觸發三種AIGC應用主體失范行為的觸發形式。同時，該模型針對不同類型的失范問題列出了相應的治理策略，如提升治理能力和風險意識以減少風險觸發等。

圖1 教育領域中生成式人工智能的多層次治理模型

在實踐中，不同的教育主體要根據自身角色選擇恰當的行動策略：政府要牢牢把握生成式人工智能與教育行業結合的發展方向，為行業制定統一的安全標準、法律規范、準入制度和審查機制；企業作為AIGC的創新者、使用者和擁有者，既要承擔新技術研發的責任，也要承擔相應的社會責任，開展公開、透明、嚴格的自我監管，并積極參與同行監督、標準監督、體制監督等；社會組織、機構、團體和個人也要積極地參與相關規則的制定、監督和執行，以共同推動形成一個治理層級豐富、參與主體多元、功能覆蓋完全、責任清晰明確、規則合理有效的協同教育智能技術治理體系。同時，在體制復合體理論的指導下，教育領域中智能技術治理需要根據不同的治理內容、治理目標，恰當地結合倫理原則、技術標準、社會規范、政策條例、法律法規等不同層次的治理機制，最終通過各機制之間的松散耦合形成集合體。此外，還可以通過明確影響因素、梳理觸發類型、提出治理策略、推動主體行動、有效開展治理效果評估等多個治理環節，來有針對性地弱化或消解AIGC引發的背離倫理規范、違反行業與技術標準、脫離制度約束、觸犯法律底線四種類型的教育主體失范問題。

2 實施生成式人工智能常態化治理的實踐路徑

AIGC在教育領域的應用催生了很多的問題，這些問題不僅包括技術自身缺陷導致的問題，而且涉及各類教育主體在面對AIGC這一新生事物時進行探索、試錯時產生的過程性失范。無論是技術觸發的風險問題，抑或主體失范引發的風險問題，都需要從系統層面探索AIGC的技術治理之道，這通常涉及倫理、標準、制度、法律等多個層面的實踐策略。

（1）建立倫理規范：提供AIGC多元應用主體的“自律”參考框架

荷蘭技術哲學家Brey提出的預知性技術倫理，倡導在研發階段便關注技術進入社會將引發的社會問題，以最大程度上避免技術倫理風險[25]，這一問題解決思路在Swierstra提出的預判性技術倫理中同樣得到了印證[26]。基于上述成果，研究者和實踐者可以聯合起來應對智能技術引發的主體倫理失范風險，通過制定一系列清晰的倫理準則（如尊重人權、保護隱私、確保公正和透明、確保安全和可靠等），來指導教育領域中AIGC開發過程中的決策選擇，以從最初階段開始干預，避免“科林格里奇困境”的產生，解決智能技術環境下教育主體面臨的現實問題；同時，通過將倫理問題的規制進行前置，來最大程度地解決因決策主體缺乏倫理意識而造成的倫理困境[27]，避免由于外部社會環境的變化、制度缺失等客觀原因造成的道德缺失[28]。參考這一思路，可以通過將AIGC在教育場景不同階段可能面臨的倫理問題納入研發階段，構建完善的AIGC倫理價值體系，來干預AIGC在不同教育場景中的滲透方式。在具體操作方面，可以利用行動者網絡理論完善責任分配，構建“倫理清單”，建立包含危害與風險、權力與責任、教育規律、教育目標等多元視角的倫理規范，明確不同的教育實踐主體在不同的智能技術應用場景中需要遵循何種原則，從而將倫理責任的劃分進行前置，即在技術設計階段就滲透治理原則、價值選擇等，避免出現后期難以糾正的問題，從而消解AIGC在教育領域應用與發展的“科林格里奇困境”[29]。同時，制定相關的規制標準，如建立早期道德評估標準，意識到技術與社會互動產生的重大影響，并將技術系統的設計置于道德評估之前，構建一套技術支持的可追溯系統，以開展過程性評估和參與性評估[30]。

（2）設計監管機制：完善多元主體的“他律”機制

完善監管機制、制定監測標準和參照標準，是以政府相關部門為主導、多元主體協同參與AIGC治理的共同責任，同時也是實施AIGC治理時教育主體開展“他律”的制度基礎和重要依據。以生成式短視頻的用戶沉迷為例，應該充分運用系統思維，在創新發展與社會公平正義之間尋求動態平衡，如確保底層人民的信息權益，避免受到劣質內容的負面影響，這需要利用國家層面的監管力量，對那些明顯不正當使用AIGC生成短視頻內容的企業行為和嚴重的侵權行為加強監管，同時對平臺壟斷、侵害用戶權益等方面的行為展開治理，要求那些不符合教育規律和相關標準的智能教育產品與服務強制性退出市場。目前，相關政府部門已經意識到了在智能技術治理過程中對主體實施監管的重要性，故開展了一系列落地行動，如在組織機構建設方面，教育部成立了校外教育培訓監管司，主要職責是承擔面向中小學生（含幼兒園兒童）的校外教育培訓管理工作，指導校外教育培訓機構的建設，制定校外教育培訓規范管理政策；針對教育培訓中的AIGC技術應用，國家有關部門會同專家團隊制定校外教育培訓（含線上線下）機構設置、培訓內容、培訓時間、人員資質、收費監管等方面相關的標準和制度并監督執行，從更加全面的角度組織實施校外教育培訓中AIGC的綜合治理，同時指導、規范面向中小學生的社會競賽等。需要指出的是，“自律”與“他律”結合的關鍵，在于堅持技術應造福人類、可持續發展、公眾利益優先、共享科技紅利等倫理原則，并通過制度安排、產品設計和服務規范，將這些倫理原則嵌入AIGC研究與應用的各個環節。

（3）推動立法進程：以智能教育領域的專門立法保障教育主體行為牢守“底線原則”

倫理規范是教育主體開展基于技術的實踐中完成自律的參照系，通常反映在道德層面，是一種向內的自我約束機制；而國家層面制定并頒布的一系列標準、評估方案、監管機制等，是一種由外向內的約束機制——這兩種機制對教育主體的行為規范都處于“建議”層面，約束性較弱，其中倫理規范幾乎沒有強制性，絕大程度上需要依賴主體的自覺。因此，需要輔以專門的立法來強化約束機制，確保教育主體在使用AIGC開展活動的過程中能夠牢守“底線原則”，即不違反網絡安全法律法規、不觸犯知識產權法等。AIGC的技術躍進，架空了個人信息處理的告知同意規制和最小必要原則，引發了虛假信息生成、個人信息泄露的廣泛風險迭代問題。在數據保護方面，《中華人民共和國數據安全法》對數據生產、使用、傳播等過程中涉及的主體進行了規范，提供了一系列需要遵循的原則，如政府層面由國家安全領導機構負責制定決策、建立安全協調機制，生產數據的機構和部門承擔安全監管的職責，個人在開展數據處理的活動中應遵守法律法規、尊重社會公德和倫理、遵守商業道德和職業道德，有關部門、行業組織、科研機構、企業、個人等有義務和責任共同參與數據安全保護工作并提升保護意識和能力等[31]。

（4）落實實際行動：以教育社會實驗為抓手推動多元主體參與的常態化治理

教育社會實驗能夠在更大范圍內利用更科學的方法和策略探索智能技術治理的有效方案。當前，從國家層面到組織機構、學校再到家庭、個人，都開始逐漸意識到互聯網、大數據、人工智能等技術所營造的虛擬空間對未成年人產生了重要影響，且這種影響的力度甚至已經超過了可眼見、可觸摸的真實世界的影響，因此有必要對教育領域的智能技術治理進行立法規制，同時也需要多元主體共同行動起來。基于此，多元主體應在各自的責任范圍內，積極參與AIGC的治理進程，探索參與教育領域AIGC治理的有效策略，具體包括：①企業主體應積極配合網絡環境整治，遵守技術開發標準、技術應用的倫理規范，不觸犯法律底線，承擔社會責任，提供內容健康、形式合理的智能教育資源，積極接受國家相關部門與公眾的監督；②學生家長應關注兒童接觸的技術工具，確保內容適切和網絡環境健康，提升對AIGC的認知和風險意識，不傳播、不侵犯孩子的個人隱私，保護好個人數據，善于利用法律武器維護教育環境的健康穩定，針對孩子在技術應用過程中出現的問題給予即時反饋、合理干預；③區域教育管理者應完善項目審核與技術引進，遵守行業要求與規范，遵守底線原則和法律要求，制定清晰的標準體系，建立師生信息素養培訓體系，開發資源庫、含有技術風險與倫理規范類內容的教育課程，建立AIGC教育實驗基地，開展技術推廣前的深度實驗；④高校科研工作者應從理論層面開展教育智能技術治理的相關研究，為教育領域AIGC倫理規范的制定提供參考，并積極參與國家教育智能技術治理的政策咨詢與政策制定，開發測量工具，為AIGC應用的失范行為監測、干預提供依據；⑤一線教師應積極開展技術倫理類課程教學，負責任地在教學中安全、健康地使用AIGC，同時努力提升自身智能素養，并幫助學生提升智能素養；⑥社會組織機構與場館工作人員應時常關注AIGC的應用，開發、設計相關的課程，積極開展宣傳活動，普及風險意識、倫理規范、法律常識等。發揮不同教育主體的實踐優勢，能夠最大程度地提升教育領域智能技術的治理效率。

五 結語

在教育數字化轉型過程中，智能技術發揮了舉足輕重的作用。與此同時，由于受技術有限性、教育主體的意識或理念存在偏差等因素的影響，智能技術引發了一系列教育主體失范行為。對教育主體失范風險進行治理，尤其是對多元技術主體進行規制，是推進智能教育健康發展、確保智能技術有效且深入地應用于教育場景的前提。本研究通過對現實問題的分析，梳理了當下智能技術在教育領域中應用引發的問題，如主體失范、異化等現象；在了解多元主體主觀認識、進行客觀資料分析等的基礎上，本研究提出了造成當前智能技術引發教育主體失范的影響因素。對這些問題的回應，是本研究進行AIGC多層次治理的基礎。本研究期望通過探索符合當下中國教育實踐和本土實情的AIGC常態化治理的實踐路徑，可以為國家在教育智能產品的市場準入與監管等方面的政策制定、倫理準則明確、立法進程推動等提供理論參考。在未來的研究中，可以關注發生在較大范圍、涉及較廣區域、包含較多影響群體的智能教育改革，從教育社會實驗的視角研究其發生機制、運行機制、干預機制，從而推動我國智能教育的安全、健康、可持續發展。

[1]逯行,黃榮懷.智能時代的教育改革:教育社會實驗的演化及其價值回應[J].清華大學教育研究,2022,(1):42-54.

[2]何勤,朱曉妹.人工智能焦慮的成因、機理與對策[J].現代傳播(中國傳媒大學學報),2021,(2):24-29.

[3]唐漢衛.人工智能時代教育將如何存在[J].教育研究,2018,(11):18-24.

[4]周利敏,鐘海欣.社會5.0、超智能社會及未來圖景[J].社會科學研究,2019,(6):1-9.

[5]逯行.智能技術引發的教育主體行為失范如何判定:方法、類型與表現[J].現代遠程教育研究,2022,(2):37-46.

[6]歐亞琴.風險與匡正:智能推薦主導下的青年價值觀建設[J].湖北師范大學學報(哲學社會科學版),2022,(3):141-146.

[7]王旦,張熙,侯浩翔.智能時代的教育倫理風險及應然向度[J].教育研究與實驗,2021,(4):34-39、96.

[8]韋妙,何舟洋.本體、認識與價值:智能教育的技術倫理風險隱憂與治理進路[J].現代遠距離教育,2022,(1):75-82.

[9]沈正賦.論算法的功能糾偏、技術偏向及其對輿論引導的影響[J].內蒙古社會科學,2022,(3):171-178.

[10]姜晨,顏云霞.“何以向善”:大數據時代的算法治理與反思——訪上海交通大學媒體與傳播學院教授陳堂發[J].傳媒觀察,2022,(6):36-41.

[11]周江林.數據治理:大數據時代“雙一流”建設的路徑優化取向[J].教育發展研究,2022,(5):15-21.

[12]王辭曉,徐珺巖,郭利明,等.多場景人機協同在線教學評價框架研究——基于層次分析法和熵權法的分析[J].現代教育技術,2023,(1):74-82.

[13]董文娟,黃堯.人工智能賦能職業教育:實質、路徑與目標[J].現代教育技術,2019,(10):28-33.

[14]劉濟良,馬苗苗.智能時代下教育的困境與堅守——基于生命哲學的視角[J].教育發展研究,2021,(20):1-8.

[15]侯紅霞,梁歡歡.系統思維視閾下人工智能發展的倫理困境分析[J].系統科學學報,2021,(4):51-55、67.

[16]趙磊磊,張黎,王靖.智能時代教育數據倫理風險:典型表征與治理路徑[J].中國遠程教育,2022,(3):17-25、77.

[17]鐘正,王俊,吳砥,等.教育元宇宙的應用潛力與典型場景探析[J].開放教育研究,2022,(1):17-23.

[18]鄭旭東,狄璇,岳婷燕.區塊鏈賦能區域教育治理:邏輯、框架與路徑[J].現代遠程教育研究,2022,(1):31-39.

[19](美)赫伯特·J.魯賓,艾琳·S.魯賓著.盧暉臨,連佳佳,李丁譯.質性訪談方法:聆聽與提問的藝術[M].重慶:重慶大學出版社,2016:20-25.

[20]申靈靈,何麗萍.人工智能時代技術與教育共生的困局與出路[J].高教探索,2021,(9):13-18.

[21]徐玖玖.人工智能的道德性何以實現?——基于原則導向治理的法治進路[J].現代法學,2021,(3):24-40.

[22]管其平.智能社會學:智能時代社會學研究的新方向[J].華南理工大學學報(社會科學版),2022,(3):1-9.

[23]張文靜,沈克印.鄉村振興戰略下農村公共體育服務的協同治理研究——基于多元主體協同治理模型[J].沈陽體育學院學報,2020,(3):35-42.

[24]魯傳穎,(美)約翰·馬勒里.體制復合體理論視角下的人工智能全球治理進程[J].國際觀察,2018,(4):67-83.

[25]顧世春.荷蘭預判性技術倫理思潮研究[J].大連理工大學學報(社會科學版),2018,(4):114-119.

[26]顧世春.斯威斯卓預判性技術倫理研究[J].自然辯證法研究,2018,(12):29-33.

[27]侯紅霞,梁歡歡.系統思維視閾下人工智能發展的倫理困境分析[J].系統科學學報,2021,(4):51-55、67.

[28]王丹丹,黃志南.人工智能時代高校道德教育實踐模型研究[J].現代教育技術,2022,(7):101-108.

[29]文成偉,汪姿君.預知性技術倫理消解AI科林格里奇困境的路徑分析[J].自然辯證法通訊,2021,(4):9-15.

[30]Buckley J A, Thompson P B, Whyte K P. Collingridge’s dilemma and the early ethical assessment of emerging technology: The case of nanotechnology enabled biosensors[J]. Technology in Society, 2017,48:54-63.

[31]中國人大網.中華人民共和國數據安全法[OL].

Research on the Attribution of Anomic Risk of Educational Subjects in the Intelligent Age and Its Multi-level Governance

LU Hang1ZHANG Chun-jia2HUANG Shi-you3[Corresponding Author]

The wide application of intelligent technology in the field of education has caused a series of anomic problems of educational subjects. Therefore, a set of influencing factors of the anomic risk of educational subjects was firstly formed in this paper through the concept extraction and integration analysis of interview data and objective data, which included 41 items of influencing factors. Then, taking artificial intelligence generated content (AIGC) as the research object, this paper relied on multi-level governance theory and institutional complex theory and constructed the multi-level governance model of AIGC in the field of education through combining the influencing factors analysis. Finally, from the perspectives of establishing ethical norms, perfecting regulatory mechanisms, promoting legislative process and implementing practical actions, the practical paths of implementing normalized governance of AIGC were proposed in this paper. The research of this paper could provide theoretical guidance for the policy formulation of relevant national departments, offer reference for the behavior regulation of various educational subjects, support the formulation of the admittance and evaluation standards of new educational intelligent products represented by AIGC, which promoted the safe, healthy and sustainable development of intelligent education in China.

anomie of educational subject; multi-level governance; AIGC; intelligent technology

G40-057

A

1009—8097（2023）09—0037—10

10.3969/j.issn.1009-8097.2023.09.004

本文為2023年度浙江省哲學社會科學規劃年度課題“教育領域中智能產品與服務的失范問題分析及其治理機制研究”（項目編號：23NDJC012Z）、2023年浙江師范大學教育共富專項基金“基于浙江省公共服務大數據的教育均衡監測預警及其數據治理模式研究”（項目編號：23JYGF16）、2017年度重慶市高中教育教學改革研究重點課題“中學智慧校園‘三于’實施模式研究——以西附為例”（項目編號：2017CQJWGZ2046）的階段性研究成果。

逯行，講師，博士，研究方向為教育智能技術治理、教育數字化轉型等，郵箱為1020352929@qq.com。

2023年4月10日

編輯：小米