人工智能教育應用倫理規范指標構建研究

[摘 要] 倫理風險防范是開展人工智能教育應用的重要保障，需要以完善的倫理規范指標體系作為強有力的抓手。文章立足人工智能教育應用需由“淺”入“深”、學校教育人工智能倫理規劃需從“無”到“有”和教師人工智能素養需由“弱”變“強”的迫切需求，遵循“國際參照+本土轉化+數據驗證”的方法路線，搭建了包含8個一級指標、21個二級指標和63個具體指標的人工智能教育應用倫理規范指標。基于規范指標，文章提出了其應用建議，包括遵循以人為本的價值導向、遵守安全可控和隱私保護的準入條件、貫徹可持續發展的應用準則、秉承公平全納和相稱無害的教育宗旨、落實透明可釋和問責監督的保障機制。

[關鍵詞] 人工智能教育應用； 倫理風險； 倫理規范； 指標； 學校

[中圖分類號] G434 [文獻標志碼] A

[作者簡介] 楊俊鋒（1981—），男，河南平頂山人。教授，博士，主要從事智慧教育與人工智能教育應用研究。E-mail：yjf@hznu.edu.cn。

一、引 言

2024年2月20日，教育部發布《關于開展中小學人工智能教育基地推薦工作的通知》[1]，確定了184個中小學人工智能教育基地。人工智能在中小學教育中的應用發展迅速。然而，正如加勒特等人所言，“如果人工智能教育處于發展的嬰兒階段，那么人工智能倫理教育幾乎是一個胚胎”[2]。人工智能在促進個性化學習、精準教學、智慧管理的同時，也給教育帶來了隱私泄露、算法歧視、教育不公平加劇等風險。為應對風險的發生，教育界積極借鑒人工智能倫理風險解決辦法，即“倫理探討—原則研究—干預研究—法律規范”四段論[3]。當前，研究多處于第二階段，即原則研究階段，且呈現出了同質化趨勢。倫理原則的遵循固然重要、必不可少，但是倫理實踐同樣重要[4]。如何將原則落地實施、轉化為實踐操作路徑，尚無有效方法[5]。本研究基于國內外相關研究成果，立足我國人工智能教育應用現狀，從為什么規范、如何規范及規范結果如何運用三方面整體思考和構建人工智能教育應用倫理規范指標。

二、人工智能教育應用倫理規范指標構建的邏輯基礎

人工智能教育應用倫理規范指標的構建，需要呼應人工智能教育應用中的現實問題，防范潛在風險。在此基礎上，深刻把握時代脈搏，利用人工智能促進教育高質量發展和實現優質均衡的數字教育，確保人工智能教育應用向善和向優發展。

（一）規范指標構建的迫切需求

人工智能教育應用持續深化，但相伴而生的風險還需進一步規范。人工智能教育應用由“淺水區”轉至“深水區”，從“由點帶面”到“縱深交錯”。人工智能技術在教育中發揮正面效應的同時，也帶來了負面效應。縱觀之，倫理規范研究大多處于“呼吁”階段，提出的實踐方案浮于表面[6]，尚未制定規范框架、指導方針、政策法規[7]，且無評判標準。亟須開發人工智能教育應用倫理規范指標，檢視人工智能教育應用是否合乎倫理。

學校人工智能教育應用逐漸廣泛，但倫理規范仍需進一步加強。2022年，我國發布《中國關于加強人工智能倫理治理的立場文件》，提出“堅持倫理先行” [8]。就此，人工智能倫理規范研究如火如荼。當前，倫理規范研究中理論研究較多，實踐落地較少。開發測評人工智能教育應用是否合乎規范的指標是一個突破口，學校始終秉承“倫理先行”觀念，應用倫理規范指標開展自查，規范技術應用。

教師信息技術應用能力提升明顯，但智能素養尚需進一步發展。智能時代對教師的智能素養提出了更高水平、更深層次的要求，智能教育倫理是關鍵[9]，只有教師具備人工智能倫理素養，方可在規范自身技術使用的同時，促進學生正確理解人工智能及其倫理問題[10]。然而，教師倫理素養受關注程度相對不足。倫理規范指標的構建，能為教師的技術使用提供規范參考，促進教師智能素養的長效發展。

（二）規范指標構建的時代價值

規范指標構建是保障人工智能助力教育高質量發展的“壓艙石”。新興技術加速推進教育高質量發展，也潛藏著阻礙其進程的倫理風險。倫理風險規避是推動教育高質量發展的內在要求。教育高質量發展不僅是為了質量和速度，更重要的是體現教育的向善性與和諧性[11]。倫理規范指標的構建能夠及時規約倫理風險的發生，促進技術的合理、良善使用，有效削弱技術對教育高質量發展的阻礙作用。

規范指標構建是推進教育數字化轉型朝向縱深發展的“指南針”。數字技術驅動數字化轉型的同時，也潛藏著公平、責任、透明等倫理問題。忽視倫理風險的轉型可能導致數字教育系統受到破壞而失衡，阻礙教育的可持續性發展[12]。倫理規范是推進教育數字化轉型“良”“善”發展的方向指引。倫理規范指標的構建有助于及時發現倫理風險，采取適切措施響應教育生態系統對“善”的呼吁[13]，引導教育數字化轉型朝向“良善”方向。

規范指標構建是加速學校實現優質均衡的數字教育的“防火墻”。新時代教育需以公益普惠和優質均衡為基本方向[14]。然而，以數據隱私泄露、算法偏見與歧視為代表的倫理風險頻發，威脅學生權益，加劇教育不公，妨礙教育的優質均衡發展。倫理作為數字文化的一部分，指引著高文明的數字教育，是實現優質均衡數字教育的防線。倫理規范指標的構建，有利于學校及時檢視并規避人工智能教育應用潛在風險，助力優質均衡數字教育的實現。

面對人工智能應用衍生出的倫理風險，需要提前布局，謹慎應對，制定一套規范指標[15]。在中小學人工智能教育應用普及開來之際，倫理規范也應當應時、應勢而生，本研究旨在為中小學構建人工智能教育應用倫理規范指標，促進人工智能技術的高質量應用。

三、人工智能教育應用倫理規范指標構建的方法路線

原則主義的“原則—實踐”思維邏輯為本研究的開展提供了理論借鑒。“倫理學原則是在一定條件下針對一些實踐中遇到的問題提出和形成的”[16]，原則是行為的基本標準[17]。有必要明確基本的倫理原則，以判斷人工智能教育應用實踐的道德合理性問題[18]。因此，本研究以倫理原則為中介，遵從“國際參照—本土轉化—數據驗證”的方法路徑，構建學校人工智能教育應用倫理規范指標。

（一）國際參照：共識性人工智能倫理原則的確立

斯坦福大學以人為本人工智能研究院于2023年發布AI Index Report 2023，發現濫用人工智能的事件數量正在迅速上升[19]。全球國際組織、機構和研究界均關注人工智能倫理風險，并提出了治理舉措。梳理國際人工智能倫理治理文件發現，針對教育領域的文件較少[20]，且相關文件多強調遵守倫理準則，卻沒有可以將其轉化為可實踐的有效方法[21]。人工智能倫理原則是教育人工智能倫理原則的基礎，具有參考價值，但是教育人工智能倫理是教育倫理和人工智能倫理多層交疊的產物，還需考慮教育的育人特性，制定一套適用于教育的倫理原則[22]。

運用系統性綜述的方式分析全球人工智能倫理治理文件，歸納確立人工智能教育應用倫理原則。以“Artificial Intelligence Principles or Guidelines”（人工智能原則或準則）、“AI Principles or Guidelines”（AI原則或指南）、 “Ethical Artificial Intelligence”（合乎倫理的人工智能）、 “Ethical AI”（合乎倫理的AI）、“Responsible Artificial Intelligence”（負責任的人工智能）、“Responsible AI”（負責任的AI）、“Ethical Artificial Intelligence in Education”（教育人工智能倫理）、“Ethical AI in Education”（教育中合乎倫理的人工智能）、 “Artificial Intelligence in Education Ethical Principles or Guidelines”（人工智能教育應用倫理原則或指南） 以及“AIED Ethical Principles or Guidelines”（AIED倫理原則或指南）為關鍵詞，檢索2000年至2023年3月期間各國、國際組織和部門等發布的人工智能倫理治理政策文件及報告，閱讀題目，選擇可獲得的文件，初步檢索識別265份樣本。經過三輪篩選，納入17份與教育人工智能密切相關的文件，分析確立了九大人工智能教育應用倫理原則，包括：隱私保護（Protection of Privacy）、安全可控（Robustness， Security， and Safety）、透明可釋（Transparency and Explainability）、算法公正（Non-discrimination）、公平全納（Fairness and Inclusive）、相稱無害（Proportionality and Doing No Harm）、問責監督（Accountability）、可持續發展（Sustainability）和以人為本（Human-Centric and Well-being）。

（二）本土轉化：技術性規范相關法律法規的參考

構建人工智能教育應用倫理規范指標，以原則為基礎，錨定教育人工智能實踐，借鑒人工智能倫理規范。參考國際人工智能倫理治理文件，以九大倫理原則為規范指標的一級，探尋其可操作性定義。基于現實問題，采用文獻梳理與內容分析相融合的方法，系統性翻譯國際前沿資料，作出本土適應性轉化，緊密結合我國現行政策，科學構建二級、三級指標。

二級指標確立是為九大一級指標轉化為可操作實踐的初步探索。首先，梳理已有研究中人工智能教育應用倫理原則的內涵與二級指標，作為分析資料，統計頻次，初步歸類。例如：“透明可釋”概念受《教育工作者在教學中使用人工智能和數據的倫理準則》[23]的啟發，提煉出可追溯性、可解釋性和可溝通性3個二級指標，基于歐盟《可信賴的人工智能倫理準則》、聯合國教科文組織《人工智能倫理問題建議書》、國際標準化協會《信息技術—人工智能—倫理和社會關注》等文件的核心思想進行國際參照，確保了其科學性與合理性；與此同時，該準則明確強調了實現多樣化、非歧視和公平性的關鍵在于關注可訪問性、通用設計、避免不公平偏見和利益相關者參與四個方面，與歐盟的《可信賴的人工智能倫理準則》《可信賴的教育人工智能框架V1.0》《可信賴人工智能評估清單》《可信賴人工智能自評清單》等文件中關于“公平全納”理念的概念闡述一脈相承，將“公平全納”細分為“全納訪問設計”和“公平參與使用”。其次，對于很難尋找到學理依據的一級指標，從現實出發，依據經驗，擬定對應的二級指標。例如：“隱私保護”是為解決數據泄露和個體隱私權利受損這一現實問題，下設二級指標為“防止數據泄露”和“尊重主體權利”。對于“可持續發展”的探討，緊密圍繞教育領域的現實挑戰與需求，基于過往實踐經驗，提煉出促進學校人工智能教育應用持續發展的三大關鍵路徑，即“技術設備的持續優化”“師生素養的持續提升”和“利益相關方的協同合作”，簡稱“綠色使用”“素養提升”和“多方協同”。

三級指標確立是對二級指標的具體觀測。梳理人工智能倫理治理文件及相關政策，探尋二級指標的可操作化路徑。以“隱私保護”一級指標下的“防止數據泄露”和“尊重主體權利”兩個二級指標為例，以下是三級指標的確立依據：其中，“防止數據泄露”主要分析了數據泄露可能發生的階段，包括數據采集、存儲、共享和使用等。為了防止數據泄露，學校需要在各環節嚴格控制并實施規范行為，遵守《教育部機關及直屬事業單位教育數據管理辦法》中第十、十六條的要求，采集教育數據遵循國家和教育部頒布的相關標準，按照無條件共享、有條件共享、不予共享三種類型分類存儲數據，并利用匿名化和去標識化的方法加密處理敏感數據[24]。因此，“防止數據泄露”的三級指標包括：學校采集數據遵循國家和教育部標準；學校按照無條件共享、有條件共享和不予共享數據三種標準來存儲數據；學校內部共享數據時會對敏感信息進行匿名化、去標識化等保密處理。“尊重主體權利”主要參考我國發布的《中華人民共和國個人信息保護法》中第四十四、四十五、四十六和四十七條法規，即個人對信息處理具有知情權、決定權、查閱權、刪除權、更正權和補充權[25]。據此，確定“尊重主體權利”的三級指標包括：師生及家長對個人信息處理享有知情權和決定權、查閱權和刪除權、更正權和補充權。其余二級指標轉化為三級指標的依據見表1。

最后，研究初步構建了包括9個一級指標、22個二級指標和66個三級指標的學校人工智能教育應用倫理規范指標。

（三）數據驗證：基于專家視角的規范指標的構建

人工智能教育應用倫理規范指標初步構建后，采用德爾菲法確定了其科學性、可靠性和可行性，采用層次分析法確定了權重。首先，通過兩輪德爾菲專家征詢，選擇教育信息化、倫理學、人工智能教育應用等方向的22位專家，設計專家咨詢表，計算專家的積極系數（包括學術水平、判斷依據和熟悉程度）、權威系數和協調程度，確定學校人工智能教育應用倫理規范指標最終版本，包括8個一級指標、21個二級指標和63個三級指標。在第一輪德爾菲專家征詢期間，有專家指出，算法公正和公平全納兩個一級指標似有重疊，建議合并，查閱資料后，發現在教育教學過程中的確很難過多關注背后的算法，而更多聚焦于使用層面，即如何避免算法對學習者的歧視。因此，筆者將“算法公正”和“公平全納”合并為“公平全納”，并糅合原有的二級指標，最終確定了“公平全納”這個一級指標包括的三個二級指標，即“避免算法歧視”“全納訪問設計”和“公平參與使用”。由此，人工智能教育應用倫理規范指標從初始版本的9個一級指標、22個二級指標和66個三級指標變為了最終版本的8個一級指標、21個二級指標和63個三級指標。

其次，采用層次分析法，建立層次模型，向各位專家發放各級指標的判斷矩陣問卷，運用yaahp軟件分析判斷矩陣結果，包括被比較指標的相對權重、單層次一致性檢驗和組合權重，進而確定人工智能教育應用倫理規范指標權重，見表2。

四、人工智能教育應用倫理規范指標的應用建議

人工智能教育應用越來越普及，防范人工智能教育應用倫理風險日益迫切。如何有效采用人工智能教育應用倫理規范指標，促進人工智能教育應用的良善發展？下文以8個一級指標為切入點，提出具體策略，以促進規范指標的有效實踐，以期為學校構建既合乎倫理又能激發技術潛力的良性生態體系。

（一）遵循以人為本的價值導向

以人為本是規范人工智能并促進其長足發展的基礎[37]，是人工智能教育應用的價值導向，學校可在人工智能技術/產品引入之初、短期實踐和長遠規劃中將以人為本的價值導向具象化。其一，學校引入的智能技術/產品需符合人類價值觀。人工智能技術/產品設計伊始，人本人工智能致力于確保人類價值觀是人工智能系統開發、部署、使用和監控的核心，確保尊重基本權利[28]。其二，學校在短期應用人工智能技術過程中，需符合教育管理部門制定的相關標準、使用指南和自評清單，完善技術評估和管理機制，確保良性人工智能教育應用。其三，學校在長遠規劃下，需秉持以人為本的理念，發展人本人工智能，推動人工智能與人類智能的深度融合[38]；教師需不斷提升智能倫理素養，將其視為教育人工智能倫理風險消解的接續動力[39]。

（二）遵守安全可控和隱私保護的準入條件

安全可控和隱私保護是學校引入人工智能技術/產品的第一道防線，是智能體進校園的準入條件，確保數據不被濫用，抵御漏洞和惡意攻擊，使得決策結果具有高準確性、可靠性和可重復性[40]，保障各利益主體（如教師、家長、學生等）的權利得到尊重、保護和促進。為確保隱私保護的落地實踐，學校在使用人工智能時，必須遵守相關的法律規定，保護利益主體的隱私權利，確保數據的安全性和合法性。為保障安全可控的實踐可為，學校在應用人工智能時，需防止技術漏洞導致的安全問題以及生成內容和資源的有害性，解決、預防和消除相關問題，確保技術和決策結果受到人的控制。

（三）貫徹可持續發展的應用準則

可持續發展是人工智能技術及其作用域的發展目標，是人工智能在教育應用中的準則。教育系統作為社會子系統，其自身的可持續發展對社會的可持續發展至關重要。教育的目標不應是改變學生的行為，使其朝著預定的方向發展，而應是使他們能夠作出知情和有意識的決定，參與可持續發展的行動[41]。學校作為實踐基地，應向使用者貫徹“技術的可持續發展”應用觀。第一，激發師生積極使用技術的內生動力，讓師生切身體會技術對教、學、管、考、評的深刻變革作用，投入更多時間和精力到創造性活動中；第二，喚醒師生規范應用技術的倫理自覺，教師在利用數字技術促進學生健康發展時，學生在利用數字技術促進自身發展時，都應遵守倫理規范。

（四）秉承公平全納和相稱無害的教育宗旨

公平全納和相稱無害是人工智能教育應用的基本宗旨。公平全納是實現教育可持續發展的途徑，是助力全球貧困消除的關鍵作用域；相稱無害是教育目標和技術應用相稱的保障，是促進合乎倫理的人工智能教育應用的必然把握。學校為落實公平全納和相稱無害，應在人工智能技術/產品引入和應用過程中采取措施。首先，在引入人工智能技術/產品時，學校可要求供應商提供訓練數據樣本，確保技術/產品設計過程中收集的訓練數據來源真實、準確、無偏見且具有代表性。其次，在應用人工智能技術時，學校需使教師明白：人機協作，綜合評判，客觀評價，施行人性化教育；技術使用并非多多益善，過度或不當使用均會降低學習體驗，甚至造成負面影響，需要明晰技術的強效域和局限域，作出理智決策。

（五）落實透明可釋和問責監督的保障機制

透明可釋和問責監督是人機信任的關鍵，也是技術普及的重要關注點。問責監督與透明可釋密切相關，只有清晰可見的決策過程和結果，方能助力更好問責。透明可釋是人工智能教育應用的關鍵特征，確保教育工作者了解人工智能系統的決策和交互過程。學校需要清晰記錄技術參與教學的全過程，確保決策的可追溯、可解釋和可溝通，提高技術的可靠性和可信度，增強人機信任，促進人機協同。問責監督是人工智能教育應用的強力保障，旨在預防潛在的負面影響，并盡可能將已經發生的負面影響降至最低。學校需要構建公開、透明的監督和評估制度，讓使用者全面了解技術，增強信任感，熟練應用技術促進教與學的最優化。

五、結 束 語

人工智能技術應用于教育日益深入，為確保教育高質量公平發展，倫理風險的防范刻不容緩。本研究構建了人工智能教育應用倫理規范指標，是原則轉化為實踐的初步探索，有助于學校規避相關倫理風險的發生。然而當前，規范指標仍主要聚焦于共性層面，尚未充分考慮不同水平、層級學校的特異性需求。未來研究可選取人工智能教育試點區域和學校，深入挖掘學校的個性化特征，針對不同學校和師生的實際情況，以規范指標為基準進行適應性調整。通過構建多指標、多層次的評估體系，更全面地了解各學校在人工智能教育應用方面的實際情況，促進學校制定更加個性化的人工智能教育應用校本指南，推動學校人工智能教育應用的健康發展，深化教育數字化轉型進程，助推教育高質量優質均衡發展。

[參考文獻]

[1] 教育部辦公廳. 教育部辦公廳關于開展中小學人工智能教育基地推薦工作的通知[EB/OL]. （2024-02-19）[2024-07-10]. http：//www.moe.gov.cn/srcsite/A06/s3321/202402/t20240223_1116386.html.

[2] GARRETT N， BEARD N， FIESLER C. More than "if time allows" the role of ethics in AI education[C]//MARKHAM A， POWLES J， WALSH T， et al. Proceedings of the AAAI/ACM Conference on AI， Ethics， and Society. New York： Association for Computing Machinery，2020：272-278.

[3] 余雅風，王朝夷. 由技術倫理向法律規范演進：國外人工智能應用規范研究綜述[J]. 河北法學，2023，41（2）：83-101.

[4] FLORIDI L. Translating principles into practices of digital ethics： five risks of being unethical[J]. Philosophy & technology，2019，32（2）：185-193.

[5] MITTELSTADT B. Principles alone cannot guarantee ethical AI[J]. Nature machine intelligence， 2019，1（11）：501-507.

[6] 謝娟. 人工智能與教育融合創新之倫理內涵及實現路徑[J]. 中國遠程教育，2023，43（2）：1-8.

[7] HOLMES W， BEKTIK D， WOOLF B， et al. Ethics in AIED： who cares？ [C]//BITTENCOURT I， CUKUROVA M， MULDNER K， et al. 20th International Conference on Artificial Intelligence in Education. Chicago： Open Research Online， 2019：424-425.

[8] 外交部. 中國關于加強人工智能倫理治理的立場文件[EB/OL]. （2022-11-17）[2024-07-10]. https：//www.mfa.gov.cn/web/ziliao_674904/tytj_674911/zcwj_674915/202211/t20221117_10976728.shtml.

[9] 鄭智勇，宋乃慶. 中小學教師智能教育素養測評指標體系構建研究[J]. 中國電化教育，2023（12）：75-83.

[10] 李艷，朱雨萌，樊小雨. 青少年人工智能倫理教育的探索及啟示——以MIT為例[J]. 現代遠距離教育，2024（1）：3-13.

[11] 廖婧茜. 基礎教育高質量發展的倫理訴求及其實現[J]. 教育研究與實驗，2023（4）：41-49.

[12] 趙磊磊，趙玉潔，張黎. 數字化轉型背景下教育技術倫理觀照與風險消解[J]. 中國遠程教育，2023，43（12）：46-58.

[13] 劉秀秀. 技術向善何以可能：機制、路徑與探索[J]. 福建論壇（人文社會科學版），2020（8）：83-91.

[14] 國務院. 關于構建優質均衡的基本公共教育服務體系的意見[EB/OL]. （2023-06-13）[2024-07-10]. https：//www.gov.cn/gongbao/2023/issue_10546/202306/content_6888957.html.

[15] 于珍. AI進校園，邊界在哪里？[N]. 中國教育報，2019-10-24 （4）.

[16] 翟曉梅，邱仁宗. 生命倫理學導論[M]. 北京：清華大學出版社，2005：51.

[17] 鐵小茜，趙昆. 原則主義在醫學倫理學領域的出場邏輯[J]. 醫學與哲學，2023，44（6）：18-22.

[18] 陳化. 原則主義的理論進路、倫理爭論及其啟示[J]. 醫學與哲學，2023，44（6）：1-6.

[19] MASLEJ N， FATTORINI L， BRYNJOLFSSON E， et al. Artificial intelligence index report 2023 [EB/OL].（2023-04-03）[2024-07-10]. https：//aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf.

[20] SCHIFF D. Education for AI， not AI for education： the role of education and ethics in national AI policy strategies[J]. International journal of artificial intelligence in education， 2022，32（3）：527-563.

[21] KIM H. Suggestions on teaching and learning AI ethics using cooperative learning method in elementary and secondary education[J]. Robotics & AI ethics， 2022，7（1）：65-75.

[22] NGUYEN A， NGO H， HONGY， et al. Ethical principles for artificial intelligence in education[J]. Education and information technologies， 2023，28（4）：4221-4241.

[23] European Commission. Ethical guidelines on the use of artificial intelligence （AI） and data in teaching and learning for educators [EB/OL]. （2022-10-25）[2024-07-11]. https：//education.ec.europa.eu/news/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators.

[24] 教育部. 教育部辦公廳關于印發《教育部機關及直屬事業單位教育數據管理辦法》的通知[EB/OL]. （2018-01-23） [2024-07-14] http：//www.moe.gov.cn/srcsite/A03/s7050/201802/t20180211_327248.html．

[25] 中華人民共和國中央人民政府.中華人民共和國個人信息保護法[EB/OL]. （2021-08-20） [2024-07-14]. https：//www.gov.cn/xinwen/2021-08/20/content_5632486.htm．

[26] 國家人工智能標準化總體組 全國信標委人工智能分委會. 人工智能倫理治理標準化指南（2023版）[EB/OL]. （2023-03-16）[2024-09-05]. http：//www.nits.org.cn/index/article/4133.

[27] Association for Computing Machinery. ACM Code of Ethics and Professional Conduct[EB/OL]. （2018-02-10） [2024-09-05]. https：//www.acm.org/code-of-ethics.

[28] European Commission. Ethics guidelines for trustworthy AI [EB/OL]. （2019-04-08）[2024-07-10]. https：//digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.

[29] UNESCO Institute for lnformation Technologies in Education. Report on national smart education framework[EB/OL]. （2022-12-13）[2024-09-05]. https：//iite.unesco.org/publications/report-on-national-smart-education-framework/.

[30] ISO/IEC TR 24368：2022. Information technology-artificial intelligence-overview of ethical and societal concerns[EB/OL]. （2022-08-01）[2024-09-05]. https：//www.iso.org/standard/78507.html.

[31] Australian Institute for Teaching and School Leadership Limited（AITSL）. Australian professional standards for teachers[EB/OL]. （2012-07-27）[2024-09-05]. https：//www.aitsl.edu.au/standards.

[32] European Commission. The Assessment list for trustworthy artificial intelligence（ALTAI） for self assessment [EB/OL]. （2020-07-17）[2024-09-05]. https：//digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment.

[33] UNESCO. Recommendation on the ethics of artificial intelligence[EB/OL]. （2021-11-23）[2024-09-05]. https：//unesdoc.unesco.org/ark：/48223/pf0000381137.

[34] THE UNIVERSITY OF BUCKINGHAM. Interim report -towards a shared vision of ethical AI in education[EB/OL]. （2021-03-23）[2024-09-05]. https：//www.buckingham.ac.uk/research/research-in-applied-computing/the-institute-for-ethical-ai-in-education/.

[35] 中華人民共和國教育部. 教育部關于發布《中小學數字校園建設規范（試行）》的通知[EB/OL]. （2018-04-17）[2024-09-05]. http：//www.moe.gov.cn/srcsite/A16/s3342/201805/t20180502_334759.html.

[36] 中華人民共和國教育部. 《未成年人學校保護規定》[EB/OL]. （2021-06-01）[2024-09-05]. http：//www.moe.gov.cn/srcsite/A02/s5911/moe_621/202106/t20210601_534640.html.

[37] 祝智庭，韓中美，黃昌勤. 教育人工智能（eAI）：人本人工智能的新范式[J]. 電化教育研究，2021，42（1）：5-15.

[38] 祝智庭，戴嶺，趙曉偉. “近未來”人機協同教育發展新思路[J]. 開放教育研究，2023，29（5）：4-13.

[39] 李艷. 青少年人工智能倫理教育初探[N]. 浙江教育報，2023-03-03（5）.

[40] 沈苑，汪瓊. 人工智能在教育中應用的倫理考量——從教育視角解讀歐盟《可信賴的人工智能倫理準則》[J]. 北京大學教育評論，2019，17（4）：18-34，184.

[41] SINAKOUE， DONCHE V， VAN PETEGEM P. Action-orientation in education for sustainable development： teachers' interests and instructional practices[J]. Journal of cleaner production， 2022，370：133469.

Research on the Construction of Ethical Norms for Application of

Artificial Intelligence in Education

YANG Junfeng1， CHU Juan2， ZHANG Binxian3

（1.Jing Hengyi School of Education， Hangzhou Normal University， Hangzhou Zhejiang 311121;

2.School of Educational Technology， Northwest Normal University， Lanzhou Gansu 730070;

3.Faculty of Education， Beijing Normal University， Beijing 100875）

[Abstract] The prevention of ethical risks is an essential safeguard for the application of artificial intelligence in education （AIED）， which requires a perfect indicator system of ethical norms. Based on the urgent needs for the application of AIED to progress from the shallower to the deeper， for the ethical planning of AIED from scratch， and for the enhancement of teachers' artificial intelligence literacy， this paper constructs the ethical norm indicators for the application of AIED following the methodological route of "international reference + local transformation + data validation"， which includes 8 primary indicators， 21 secondary indicators and 63 specific indicators. Based on the normative indicators， this paper proposes some application suggestions， including adhering to a human-centered value orientation， complying with secure， controllable and privacy-protected access conditions， implementing the application guidelines for sustainable development， upholding the educational purpose of fairness， inclusiveness， and proportionality without harm， and establishing a guarantee mechanism of transparency， accountability and supervision.

[Keywords] Application of Artificial Intelligence in Education; Ethical Risks; Ethical Norms; Indicators; Schools