敏捷治理：教育人工智能倫理治理新模式

王佑鎂 王旦 梁煒怡 柳晨晨

[摘? ?要] 進入21世紀以來，人類邁入數據規模呈指數級上升的人工智能時代，人工智能教育成了熱切的必然趨勢，也出現了不可避免的風險挑戰，引發一系列倫理問題，而教育人工智能倫理治理研究始終停留在單一化、被動化的層面，治理效能不顯。文章將教育人工智能的倫理風險歸納為“PBAS”四類問題，剖析倫理風險治理現存的五個短板，提出借鑒使用一種全新的治理模式——敏捷治理，來創新應對教育人工智能倫理治理問題。研究以敏捷治理的演繹趨勢與內涵特征為切入口，結合敏捷治理的原則與能力，構建教育人工智能倫理敏捷治理五步循環模型，設計五層實踐路徑，并以“PBAS”四類問題為例，詳細闡述敏捷治理解決方案。以期為教育人工智能倫理問題提供一種新的治理范式，為倫理風險的可持續治理與健康發展提供參考與借鑒。

[關鍵詞] 教育人工智能； 倫理問題； 敏捷治理； 治理模式

[中圖分類號] G434? ? ? ? ? ? [文獻標志碼] A

[作者簡介] 王佑鎂（1974—），男，江西吉安人。教授，博士，主要從事人工智能教育、數字閱讀研究。E-mail：wangyoumei@126.com。

一、引? ?言

隨著算法與交互方式的不斷更新迭代，人工智能不斷推動人類社會向智能化方向邁進，對包括教育在內的社會各個領域帶來了巨大的沖擊。2017年7月，中華人民共和國國務院發布《新一代人工智能發展規劃》聚焦人工智能技術的變革與未來發展，并指出智能時代教育改革的基本方向與根本性道路，即發展智能化教育[1]。目前，教育人工智能發展如火如荼，在促進學生個性化學習、提升教師教學效率、實現數據精準采集等方面顯示出巨大潛力和顯著成效，但同時也給教育某些方面帶來新的挑戰，諸如師生間情感交流較少、技術存在偏見與歧視、教學過程機械化等，在教育領域逐漸被技術壟斷的過程中，人工智能教育應用忽略了倫理和道德的內在意蘊，忽視了以人為本的準則，從而背離了教育的本質與初衷。社會各界開始重視教育人工智能倫理規范建設，一方面，從人工智能倫理原則中建構教育倫理規范及治理路徑[2]；另一方面，探討人工智能與學校教育的有效融合方式以此避免倫理風險的發生[3]。從趨勢看，教育人工智能會走向強大的融合發展場域，如果僅僅依靠傳統自上而下、被動的治理方式，是否能夠及時應對教育人工智能引發的一系列倫理問題，是否需要改變治理方式；如果需要，又將如何開展和治理，本文試圖回答上述議題。

二、 教育人工智能倫理風險問題及治理現狀

（一）教育人工智能主要倫理問題

人工智能是能執行通常需要人類智力或感官能力的任務或功能的技術，在科學、工程和技術等領域占據主導地位，也通過人工智能學習系統、算法產品等在教育領域蓬勃發展。教育人工智能是人工智能與學習科學相結合形成的新研究領域，通過觀察、理解和掌握學習的發生過程，為學生的學習創造更好的條件，幫助教師更有效地教學[4]。例如，人工智能可為學生提供個性化的學習系統，為教師提供自動評估系統、輔助教學的面部識別系統等。然而，人工智能也為教育領域帶來了一些倫理道德的缺陷，如算法偏見和歧視對學生造成心理傷害，放大種族、性別、地域等多種形式的不公平性，侵犯學生隱私和數據帶來隱患等。胡小勇等將倫理問題歸納為技術設計與開發和教育實踐兩方面[5]，苗逢春總結了基于數據和算法的預測和決策引發的四類倫理問題[6]，鄧國明等將教育人工智能倫理問題劃分為利益相關者倫理問題、技術倫理問題和社會倫理問題三個層次[7]，將教育人工智能倫理問題的研究推上熱潮。本文借鑒Akgun在K-12教育中提出的人工智能教育應用的倫理問題[8]，主要從“PBAS”四類來闡述教育人工智能的倫理問題，包含隱私、偏見和歧視、自治、監視，如圖1所示。

圖1? ?“PBAS”四類問題

1. 隱私（Privacy）

教育人工智能倫理最大的問題之一是隱私問題，隱私侵犯主要發生在學生的個人信息未被征得同意的情況下暴露過多，通過不知情分享降低學生個人能動性與泄露隱私，隱私保護與開放共享之間的關系矛盾難以化解[9]。例如，在人工智能系統采集學生學習行為數據、面部表情數據等情況下，學生個人隱私極有可能被傳播，產生不良影響。管理者在收集數據后，也可能發生向教師、家長等隨意透露的風險。數據的過度采集十分容易加劇學生隱私泄露而帶來的傷害[10]。在學校單方面使用人工智能產品來輔助教學的同時，學生和家長對于隱私問題是未知和別無選擇的。此外，一些在線教育平臺也會在未經用戶的允許下收集超出范圍以外的信息并泄露給第三方。

2. 偏見和歧視（Bias and Discrimination）

教育人工智能的變革關鍵是算法，但算法是人類開發設計的，能操縱且不易改變。因此，經過長時間的算法迭代，它的未知性無疑給教育領域帶來了一定的算法偏見或歧視，可能造成信息繭房。研發者在沒有充足教育知識與經驗的情況下，無法預先洞悉算法會帶來哪些問題，從而對學生造成偏見與歧視，這很有可能是無意的。例如，2020年，英國某中學利用資格等級的算法對大量學生造成了嚴重地分層打擊，引發教育的不公平性[11]。此外，性別偏見和歧視也是常見倫理問題，對語言學習課程學生最為明顯。例如，使用人工智能翻譯器時，谷歌翻譯會將“她/他是護士”翻譯為女性，將“她/他是醫生”翻譯為男性，這表明了教育人工智能的社會偏見和對性別的刻板印象。

3. 自治（Autonomy）

教育的本質是主體間發生交互的學習過程，教師與學生在享受人工智能帶來便利的同時，也存在著人際關系的倫理風險。例如，教師與學生間主體地位不明，學生喪失自主學習能動性，失去自主決策的權利，教師過度以人工智能教學為主，弱化創新思維和探究性學習培養。此外，更有可能出現人工智能越位現象，人工智能不僅具有著作權、勞動權等權利與義務，甚至能精準模仿人類行為與語言。可是，人工智能在教育領域帶給教師與學生學習、教學、評價和監測等方面的便利都是有益的嗎？相關問題的探討目前沒有得到明晰地解決。

4. 監視（Surveillance）

在監視方面，最熟悉的教育人工智能應用則是利用智能算法設計對師生的情緒、表情、行為等進行收集與記錄。將監控機制嵌入人工智能預測系統中，以衡量學生學習表現、優缺點、學習方式，甚至對師生之間的交流對話進行錄音分析。這必將限制師生之間的正常交流，使其逐漸對自己想法產生質疑[12]，從而影響正常的教學活動，降低教學效率。此外，教師不恰當行為的發生，如經常性巡邏與監督，也會給學生帶來未知傷害，但很有可能被人工智能產品視為對學生的正確管理，這一倫理問題的解決方式主要需要背后管理人員規范。

（二）教育人工智能倫理問題的治理狀況

針對教育人工智能倫理現存的一系列問題，引起了各國廣泛關注，各國開始重視對教育人工智能倫理問題的治理。目前，僅有少量的官方政策文本與報告和學者們的研究。例如，聯合國教科文組織在2019年發布《北京共識——人工智能與教育》[13]《教育中的人工智能：可持續發展的機遇和挑戰》[14]，強調了人工智能需要為全民提供優質的教育和學習機會，并對其帶來的影響進行預見性評測。杜靜等提出“APETHICS”框架，為教育人工智能倫理問題提供解決模型[15]。本文重點關注白金漢大學建立的教育人工智能倫理研究所在2020年發布的《中期報告：值得信賴的人工智能倫理指南》[16]，其中提到為實現道德化的教育人工智能而提供的機制選項，包括九條基礎實現機制和七條深層實現機制。其中，基礎實現機制中第五條：利益相關者的教育和意識，即提供教育相關知識提升利益相關者的道德意識。深層實現機制中第三條：保障途徑，即在法律保障的范圍內確保學習者使用教育人工智能的安全性。然而，現階段對教育人工智能倫理問題治理仍存在現實難點，傳統的治理方式已不能滿足其風險的治理，主要問題歸納為五個方面。

1. 缺乏規范指引，系統性不足

面對教育人工智能存在的各類倫理問題，仍沒有系統的教育倫理標準與管理規范。在企業不斷拓寬人工智能在教育領域的應用范圍下，政府政策與法律規范的更新速度已跟不上行業的迭代產出[17]。主要原因包括：一是目前教育人工智能產品與現有規范不匹配；二是未及時出臺規制教育人工智能產品帶來的倫理風險制度，教育人工智能的發展長期處于一種野蠻生長的狀態。例如，對于教師使用人工智能輔助教學時，產生的有關隱私、偏見等倫理問題對學生造成威脅，而學校管理者過分相信人工智能產品，這是缺乏系統地頂層規范指引而造成的。

2. 人文關懷缺漏，主動性不強

智慧教育的目標始終是以人為本，需關注人、尊重人、彰顯人的主體性。在教育人工智能的倫理問題中關于師生人際關系問題值得關注與思考，教師人文關懷能給學生帶來深遠影響。例如，使用人工智能過程中學生對自身角色轉換的感知很微妙，教師用數據來度量學習效果會造成學生學習主動性降低。現階段教師對學生的人文關懷遠遠不足，不能及時且主動地預估給學生造成的傷害[18]。此外，教育人工智能協助教學的過程中，對教師職業的穩定性存在潛移默化的影響，盡管研究者認為人工智能無法代替人類教師，但在簡單重復的工作、智能批改、智能數據采集存儲等方面人工智能的優勢十分明顯。隨著時代的快速發展，給教師帶來的壓力是無法預估的，目前各方對教師職業的主動關懷更是甚微。

3. 治理工具缺新，智能化不夠

近年來，在解決教育人工智能倫理問題時，眾多國家相繼發布針對人工智能倫理問題解決的政策報告，并提出教育領域人工智能的合理性邊界與正確的做法，我國也同樣予以高度地關注與重視。然而，有學者提出，教育人工智能倫理問題治理總體還停留在對其抽象價值的提取與共識構建的階段中[19]。傳統治理方式并未采用智能化的治理工具對其進行及時且精準治理，缺乏深度與創新度。例如，在教育人工智能使用中，如果沒有及時記錄并累積每次出現的問題，并提醒后來的使用者警惕這些風險，那么教育人工智能倫理的問題必將形成一個惡性循環，而恰巧這方面正需要智能化治理工具的協助。

4. 問責機制欠缺，反應力不快

人工智能在教育領域的順利推行，離不開開發人員、管理人員、教師等互相協調，但在追究主體責任方面，至今欠缺良好的問責機制，治理制度的規制性和規范性不夠[20]。開發工程師是否按照可持續性、透明性等原則構建教育人工智能的系統架構，并保障人工智能的運行程序受到追蹤問責，確保使用過程中公平公正對待每個學生，是值得存疑的[21]。例如，數據的誤差、操作不當、算法偏見與歧視，都可能帶來相反結果。在事故發生后，受害者的權益如何得到正當的維護，追究事故背后原因，以避免下次再發生類似的情況，是迫切需要解決的問題。

5. 受眾意識缺失，彌合性不高

想構筑教育領域良好的人機協同關系，需具備基礎的人工智能素養知識。然而，無論是開發人員還是教師與學生，對其受眾意識具有缺失性。例如，老教師現有的智能教育素養水平不足以充分發揮人工智能作用，走向高質量的數字化教育轉型。將人工智能素養教育推廣至學校、培訓機構也沒有系統地規范和精準地投入，彌合性較低。此外，教育人工智能實際上拉大了各學校與地區間的數字鴻溝，其發展沒有真實輔助不發達地區、一些特殊群體的學習，群眾普遍沒有意識其帶來的差異與影響。因此，仍需更加關注教育人工智能落后的山區學生、聾啞學生等[22]。

三、 敏捷治理：一種全新的治理導向

所謂敏捷，是面對事件或環境變化時能“簡單、靈活、快速”地作出反應。2018年，世界經濟論壇的召開，“敏捷治理”被賦予了新的概念和意義，強調其是一種以顧客為中心，具有適應性和包容性的政策制定過程[23]。清華大學薛瀾教授認為，敏捷治理的核心思想是針對新興技術分享提出的一種治理理念和改革目的，兩大顯著特征是參與廣泛度和時間靈敏度[24-25]。此外，我國國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》文件中也提出，“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作和敏捷治理”八項人工智能治理的重要標度，這意味著敏捷治理在中國開始從社會治理領域拓展到人工智能領域[26]。

基于敏捷治理的演變趨勢，能發現敏捷治理與傳統治理并不一致，二者之間存在一定差異，敏捷治理作為一套具有全面性、動態化及精準性的機制，創新了傳統治理模式，分別從治理目標、治理形式、治理過程、治理特點、治理工具以及治理反應六個維度來闡述，見表1。

第一，治理目標，敏捷治理關注可持續性、靈活性與競爭力，通過靈活多變的方式實現治理可持續發展，從而提升治理效率；而傳統治理自上而下進行，以遵守法律法規為底線，較為穩妥[27]。第二，治理形式和治理過程，敏捷治理強調主動與相關主體間的交流互動，征集不同意見，在變化中求變，給予良好反饋；而傳統治理采用管制形式，被動接受上級安排，缺乏協作性。第三，治理特點，敏捷治理注重精準性、柔和性、快速性的要求，而傳統治理卻十分模糊，具有強制性和滯后性。第四，治理工具和治理反應，敏捷治理采用數字信息工具精準識別問題，節約成本和資源，由主觀人為經驗向客觀數據驅動轉變，屬于多變型反應治理方式；而傳統治理通過人工方式和粗糙資源手段進行治理，反應較慢，屬于程序型反應治理方式[28]。

因此，在教育人工智能的倫理問題愈發加劇、治理方式不靈活的背景下，以探討敏捷治理發展趨勢和敏捷治理與傳統治理之間區別為基礎，為教育人工智能倫理問題治理帶來全新蛻化，健全教育人工智能共建共享的治理體系[29]。

四、 教育人工智能倫理的敏捷治理模型構建

在明確教育人工智能倫理風險的基礎上，立足傳統治理方式存在的問題，結合敏捷治理的演繹趨勢與內涵區別，研究參照敏捷治理的基本模型，依據敏捷治理的原則和能力，提出在治理者視角下教育人工智能倫理敏捷治理的五步循環模型，從而更加全面地和系統地解決教育人工智能倫理問題。

（一）敏捷治理的基本模型

本文采用的敏捷治理基本模型來自2022年1月28日人工智能治理準則工作組發布的《實施人工智能原則的治理指南》，其認為每個管理行為者（包括企業、政府、非政府組織等各種行為者）都需執行五步程序模型，并提出每個程序的行動目標[30]，如圖2所示。

1. 條件和風險分析

條件和風險分析指治理者應不斷分析外部條件，關注這些條件會發生哪些變化，以及由此導致的風險狀況。包括：（1）了解積極和消極影響；（2）了解社會接受程度；（3）了解人工智能的熟練程度。

2. 目標設定

目標設定指治理者應設定治理目標，并根據外部條件的變化和技術影響不斷審查這些目標。包括：（1）考慮人工智能治理目標；（2）設定人工智能治理目標。

3. 系統設計

系統設計指治理者根據設定的目標設計治理系統，除了技術系統外，還包括組織系統及其適用規則。在此過程中，需遵循透明和問責制、提供適當質量和數量上的選擇、利益相關者參與、適當分配責任及提供補救措施的基本原則。包括：（1）分析差距和解決差距；（2）提高人工智能管理人員文化水平；（3）通過合作加強人工智能管理公司間關系；（4）減少用戶事故發生率。

4. 實施

實施指實施設計的治理系統的過程。治理者根據實時數據和其他輸入數據，持續監測系統的運行狀況。此外，向可能受影響的利益相關者適當披露有關事項的信息，如系統產生的風險、運行設置以及補救措施等。包括：（1）確保能解釋人工智能治理系統的實施狀況；（2）確保能解釋各人工智能系統的運行情況；（3）考慮將人工智能治理的實施情況列為非財務性信息，主動披露。在此過程中，會受到外部因素的影響，也對外部因素造成影響。

5. 評價

評價指治理者評估最初設定目標是否已完成。如果設定目標沒有實現，系統就會重新設計。包括：（1）驗證人工智能治理系統的設計和實施是否有效；（2）尋求利益相關者的反饋意見。

6. 對條件和風險的重新分析

對條件和風險的重新分析指治理目標因外部因素造成的影響而不得不修訂，此時應分析治理系統的運行條件或風險狀況是否發生變化，如果發生變化，是否需對目標重新修訂，這是回到循環第一步的過程。

（二）教育人工智能倫理敏捷治理的五步循環模型

敏捷治理的原則指敏捷治理的過程中應遵守的基本原則，包括：靈活性、快速性、主動性、多元性與公眾性。敏捷治理的能力指敏捷反應所具備的能力素質，包括：感知能力、反應能力、決策能力、動員能力、執行能力、協調能力。基于上述敏捷治理基本模型，依據敏捷治理的原則與能力，結合教育人工智能倫理的風險特點與傳統治理依然存留的問題，本文提出教育人工智能倫理敏捷治理的五步循環模型，如圖3所示，以期改善教育人工智能倫理問題的治理效果，提高治理效率。

1. 倫理風險分析

倫理風險分析指治理者應不斷總結目前發生的所有教育人工智能倫理問題，并分析這些問題是由哪些原因造成，會給教育主體帶來哪些傷害。包括：（1）了解教育人工智能倫理問題并及時記錄；（2）了解社會各界人士對倫理問題的認識程度；（3）了解開發教育人工智能產品的企業、研究所等對問題的認識程度。

2. 倫理治理的目標設定

倫理治理的目標設定指治理者應根據分析情況，設定治理目標，根據外部條件、影響因素、反饋情況和人工智能技術的發展不斷調整目標設定。包括：（1）分析與衡量教育人工智能倫理問題治理目標；（2）設定教育人工智能倫理問題治理目標。

3. 倫理治理系統與規則設計

倫理治理系統與規則設計指治理者根據設定的治理目標設計教育人工智能倫理問題治理系統。在治理系統中，包括每一項人工智能產品或技術存在的問題與對應治理方案，還包含系統治理的組織架構體系與各層組織應遵守的規則。包括：（1）通過數字化信息工具分析教育人工智能產品或技術等產生的倫理問題，提出解決方案；（2）提高開發人員、管理人員、教師等的教育人工智能倫理素養；（3）以政府為抓手，促進企業合作，形成業界認同的治理規則；（4）降低教育人工智能使用者發生事故概率。

4. 治理倫理問題的實施

治理倫理問題的實施指設計治理系統后實施的過程。系統的管理者需實時錄入并監測數據，保證系統能正常運行，在事故發生后按照準備的解決方案及時處理，形成快速反應、系統的循環流程。在實施過程中，仍需注意向可能會受到影響的相關利益者適當披露有關信息。包括：（1）教育人工智能倫理問題治理系統的流程遵守可解釋性；（2）主動向外界透露治理過程中所涉及的非財務信息。在此過程中，會受到外界正向或負向的影響，也可能對外界產生正向或負向的影響。

5. 評價治理情況與再分析

評價治理情況與再分析分為兩部分：第一是評價教育人工智能倫理問題治理系統的實施情況，評估與最初設定目標是否吻合、是否具有合理性，征集多方意見，進一步改善治理系統；第二是對倫理風險再分析，在征集評價過程中，關注每種倫理風險是否發生變化，若有變化則需再次進入循環，重新設定目標并錄入治理系統中，兩部分同時進行，以提高治理效率。

五、 教育人工智能倫理敏捷治理的實踐路徑

從教育人工智能倫理治理的五個問題出發，構建教育人工智能倫理敏捷治理的五步模型，以敏捷治理的原則與能力為實現模型的輔助基礎，打造教育人工智能倫理敏捷治理的五層實現路徑：分析層、目標層、設計層、實施層、評價層，并以本文上述歸納的“PBAS”教育人工智能倫理問題為例，詳細闡述通過敏捷治理解決的實現路徑，如圖4所示。

在五層實現體系中，分析層是第一層，是對倫理問題的預見性分析與收集，多方主體靈活參與，具備快速感知與動員的能力，并將其成因、了解與認知程度的數據分析提供給下一層。目標層通過分析情況設定符合主旨的治理目標，具有決策能力和快速性。設計層根據設定的目標設計教育人工智能倫理的治理系統，在系統中以數字化工具作為輔助分析的基礎，建構每類教育人工智能技術或產品出現倫理問題的解決準則與方案，注重加強主體間合作和提升整體倫理素養水平，具備多元性、主動性和動員能力。實施層按照設計完成的治理系統對出現的倫理問題進行處理，處理過程中遵守可解釋性、透明性等原則，具備協調能力、執行能力和靈活性。評價層是采納各層主體意見并與實施狀況做出對比與調整，具有公眾性。一旦發現對比情況不理想或與預想目標之間差距較大，則再回到分析層繼續循環治理。

（一）隱私問題的敏捷治理

在第一類——隱私問題中，多數以學生隱私泄露情況為主。教師可監測學生使用過程中出現的問題，進行樣本采集與存檔，上報學校進行匯總處理，再交由企業與政府來分析不同地區、不同人工智能的產品共性，總結優缺點。例如，采集學生數據帶來的好處是什么，帶來的影響是什么，并積極調查學生、教師、學校管理者對其認知程度，詳細分析產生此類情況的原因。在分析完成后，得知發生隱私泄露問題可能是由于學校監管不力，教師對學生隱私保護意識不強，因此造成傷害。治理目標則需加大對學校的監管力度，加強學校對學生的保護。根據治理目標，在治理系統中將解決方案定為：政府發布政策落實監管機制，學校建立合適的監管與獎懲機制督促教師注意保護和關心學生，在教學過程中注意嚴密性，并利用信息化采集工具檢測落實程度，對實施情況進行統計，可通過實地調查法、抽樣調查法等對學生是否受到了隱私泄露的威脅進行征集，再調整治理方案。

（二）偏見與歧視問題的敏捷治理

在第二類——偏見與歧視問題中，人工智能背后的算法偏見與歧視是最為突出的情況，這與開發人員具有較大關系，以企業作為分析主體，教師、學生與政府等作為輔助人員，明晰偏見與歧視的背后邏輯，并調查大眾對其的意識。根據掌握情況設定治理目標，主要與開發人員有關，加大對教育人工智能的產品測試，提醒教師仍應多關心學生身心健康的發展，尤其注意對已受到偏見與歧視的學生提供幫助，如調整學習方式與心理愛護。根據治理目標，在治理系統中將解決方案定為：企業要求開發人員在產品中嵌入算法監測系統，通過數字化監測工具掌握使用情況，根據收集數據調整關于男女性、容貌設定、巡邏行為等設定，提高開發人員的教育人工智能倫理素養。最后，剖析日常教育環境中真實發生的現象，可采用集體訪談法、問卷調查法等了解學生是否遭受到或意識到未知的偏見與歧視，加強偏見檢測和道德評估，為后續的發展做出改正[31]。

（三）自治問題的敏捷治理

在第三類——自治問題中，教育人工智能產品可能會剝奪學生的自主學習能力，威脅教師地位，與教師的教學能力和學校管理者對其規制的要求有關，有許多學生并沒有意識到自主決策能力的降低，需采納各層人士對其輔助教學的看法，采納是否給教師帶來職業焦慮和壓力的意見。根據了解的情況設定治理目標，即在人工智能課程中有序安排教學活動，堅持以學生為主體，同時對人工智能的責任與義務進行明確劃分。根據治理目標，在治理系統中將解決方案定為：學校需對人工智能課程的教學安排進行初步檢驗與評估，從小班教學拓展至大規模，借助信息化工具收集教師與學生使用過程的真實感受，提升學校管理人員的人工智能倫理素養，通過企業合作控制人工智能的地位權限。最終采取抽樣調查法、問卷調查法等探討教育人工智能自治問題是否被有效解決，還學生真正地自由，降低教師的職業焦慮。

（四）監視問題的敏捷治理

在第四類——監視問題中，常見情況是通過數據采集型的教育人工智能產品對學生的面部表情、語言行為、學習方式等進行監視，使學生產生懼怕心理，從而拉開師生間距離。這與教師各類行為控制具有密切聯系，其一言一行始終對學生產生較大影響，需通過多方深度調查才能了解學生內心真實想法。因此，治理目標應是預估教師水平、素養、性格等多方面因素，開展考核機制對教師進行預先衡量，并通過考核機制，大幅提升教師的職業專業度。根據治理目標，在治理系統中將解決方案定為：企業與學校、學校與學校間互相合作傳播教育人工智能的理念與優勢，培訓教師使用的注意事項，拓寬解決教育人工智能倫理問題的視野，利用數字化工具實施教師的分層指導，提供個性化倫理素養輔導。最終通過個別談話、講座、座談會等形式收集教師反饋意見，在實踐中吸取每次推進的意見，調整下一次解決方案。

智能化時代，教育人工智能的發展沒有終點。因此，教育人工智能的倫理問題絕不僅只有本文中所提到的四類，以后還將有更多現在已經出現人類并未意識到或還未曾出現的倫理問題[32]。隨著新一代人工智能、大數據等信息技術的快速發展，未來需借鑒敏捷治理的方式才能更加系統化、靈活性地治理教育人工智能倫理問題，按照教育人工智能倫理敏捷治理的五步模型和五層實踐機制，推動教育人工智能健康化發展，為未來教育人工智能倫理問題的治理提供理論的支撐和方法的引領，提供教育人工智能可持續發展的機遇，建立人機和諧共生的教育生態體系。

[參考文獻]

[1] 中華人民共和國國務院. 國務院關于印發新一代人工智能發展規劃的通知[EB/OL]. （2017-07-20） [2022-12-20]. http：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

[2] 孫田琳子. 論技術向善何以可能——人工智能教育倫理的邏輯起點[J].高教探索，2021（5）：34-38，102.

[3] 托雷·霍爾，曹夢瑩，明芷安，等. 可解釋人工智能的教育視角：基于倫理和素養的思考[J].中國教育信息化，2022，28（4）：5-13.

[4] 胡小勇，徐歡云.面向K-12教師的智能教育素養框架構建[J].開放教育研究，2021，27（4）：59-70.

[5] 胡小勇，黃婕，林梓柔，等. 教育人工智能倫理：內涵框架、認知現狀與風險規避[J].現代遠程教育研究，2022，34（2）：21-28，36.

[6] 苗逢春. 教育人工智能倫理的解析與治理——《人工智能倫理問題建議書》的教育解讀[J].中國電化教育，2022（6）：22-36.

[7] 鄧國民，李梅. 教育人工智能倫理問題與倫理原則探討[J].電化教育研究，2020，41（6）：39-45.

[8] AKGUN S， GREENHOW C. Artificial intelligence in education： addressing ethical challenges in K-12 settings[J]. AI and ethics， 2022：431-440.

[9] 田賢鵬.隱私保護與開放共享：人工智能時代的教育數據治理變革[J].電化教育研究，2020，41（5）：33-38.

[10] 李世瑾，胡藝齡，顧小清. 如何走出人工智能教育風險的困局：現象、成因及應對[J].電化教育研究，2021，42（7）：19-25.

[11] SMITH H. Algorithmic bias： should students pay the price？[J]. AI & society， 2020， 35（4）： 1077-1078.

[12] 趙磊磊，吳小凡，趙可云.責任倫理：教育人工智能風險治理的時代訴求[J].電化教育研究，2022，43（6）：32-38.

[13] 教育部. 聯合國教科文組織正式發布國際人工智能與教育大會成果文本《北京共識——人工智能與教育》[EB/OL]. （2019-08-28） [2022-12-20]. http：//www.moe.gov.cn/jyb_xwfb/gzdt_gzdt/s5987/201908/t20190828_396185.html？from=groupmessage&isappinstalled=0.

[14] 王佑鎂，宛平，趙文竹，柳晨晨. 科技向善：國際“人工智能+教育”發展新路向——解讀《教育中的人工智能：可持續發展的機遇和挑戰》[J].開放教育研究，2019，25（5）：23-32.

[15] 杜靜，黃榮懷，李政璇，等. 智能教育時代下人工智能倫理的內涵與建構原則[J].電化教育研究，2019，40（7）：21-29.

[16] The University of Buckinham. Interim report： towards a shared vision of ethical AI in education[EB/OL]. （2020-03-04） [2022-12-18]. https：//www.buckingham.ac.uk/wp-content/uploads/2021/03/Interim-Report-The-Institute-for-Ethical-AI-in-Educations-Interim-Report-Towards-a-Shared-Vision-of-Ethical-AI-in-Education-1.pdf.

[17] 新華社.發展負責任的人工智能：我國新一代人工智能治理原則發布[EB/OL]. （2021-07-03） [2022-12-18]. http：//www.gov.cn/xinwen/2019-06/17/content_5401006.htm.

[18] 張立國，劉曉琳，常家碩. 人工智能教育倫理問題及其規約[J].電化教育研究，2021，42（8）：5-11.

[19] 高山冰，楊丹. 人工智能教育應用的倫理風險及其應對研究[J].高教探索，2022（1）：45-50.

[20] 侯浩翔，鐘婉娟.人工智能視閾下教育治理的技術功用與困境突破[J].電化教育研究，2019，40（4）：37-43，58.

[21] 錢小龍，張奕瀟，宋子昀，等. 教育人工智能系統的倫理原則與困境突破[J].江南大學學報（人文社會科學版），2021，20（6）：96-104.

[22] 于聰，劉飛. 人工智能教育應用的倫理風險及其對策研究[J].機器人產業，2022（2）：32-37.

[23] World Economic Forum. Agile governance： reimagining policy-making in the fourth industrial revolution[EB/OL]. （2018-04-24） [2022-12-21]. https：//www.weforum.org/whitepapers/agile-governance-reimagining-policymaking-in-the-fourth-industrial-revolution.

[24] 薛瀾. 第四次工業革命將給我們帶來什么？[J].金融經濟，2018（13）：21-22.

[25] 薛瀾，趙靜. 走向敏捷治理：新興產業發展與監管模式探究[J].中國行政管理，2019（8）：28-34.

[26] 發展負責任的人工智能：新一代人工智能治理原則發布[J].科技與金融，2019（7）：2-3.

[27] 吳磊，冷玉，唐書清. 數字化時代敏捷治理的學術圖景：研究范式與實現路徑[J].電子政務，2022（8）：77-88.

[28] 顏海娜，唐薇，王露寒. 基層重大公共衛生風險防控中的敏捷治理機制——基于H街道的新冠肺炎疫情防控個案分析[J].華南理工大學學報（社會科學版），2021，23（1）：113-124.

[29] 詹紹文，趙雪. 基于敏捷治理的智慧社區建設：機理分析與案例考察[J].改革與開放，2022（13）：30-39.

[30] AI Governance Guidelines WG. Governance guidelines for implementation of AI principles [EB/OL]. （2022-01-28） [2022-12-28]. https：//www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20220128_2.pdf.

[31] 沈苑，汪瓊.人工智能教育應用的偏見風險分析與治理[J].電化教育研究，2021，42（8）：12-18.

[32] 王佑鎂，王旦，柳晨晨. 從科技向善到人的向善：教育人工智能倫理規范核心原則[J].開放教育研究，2022，28（5）：68-78.

Agile Governance： A New Model of Ethical Governance for

Educational Artificial Intelligence

WANG Youmei，? WANG Dan，? LIANG Weiyi，? LIU? Chenchen

（Research Center for Big Data and Smart Education， Wenzhou University， Wenzhou Zhejiang 325035）

[Abstract] Since entering the 21st century， human beings have entered the era of artificial intelligence with exponentially increasing data scale， and artificial intelligence in education has become an inevitable trend， but there are also unavoidable risks and challenges， leading to a series of ethical issues. This paper summarizes the ethical risks of educational AI into four categories of "PBAS"， analyzes five existing shortcomings of ethical risk governance， and proposes a new governance model， agile governance， as an innovative response to the ethical governance of educational AI. This study takes the trend of agile governance and its connotation characteristics as the entry point， combines the principles and capabilities of agile governance， constructs a five-step cyclic model of ethical agile governance of educational AI， designs a five-level practice path， and elaborates agile governance solutions using the four categories of "PBAS" as examples. The results provide a new governance paradigm for the ethical issues of educational AI， and provide a reference value for the sustainable governance and healthy development of ethical risks.

[Keywords] Educational Artificial Intelligence; Ethical Issues; Agile Governance; Governance Model