智能時代未來學校建設及其倫理風險規避

杜芳芳 劉昭瑩

摘? ? ? 要：人工智能促使教育與技術的深度融合，技術驅動成為智能時代未來學校建設的基本特征。技術在助力未來學校建設的同時，存在著責任模糊、主體異化、道德缺失以及育人弱化等倫理風險。為規避智能技術對未來學校建設潛藏的倫理風險，具體實施的策略包括：完善各主體應有職責，明晰教育責任；重新定位師生關系，構建人機協同體；建立數據資源透明機制，發展學生健全人格；塑造溫情氛圍，重拾育人初心等。

關 鍵 詞：智能時代? 未來學校? 學校建設? 倫理風險

引用格式：杜芳芳，劉昭瑩.智能時代未來學校建設及其倫理風險規避[J].教學與管理，2023（19）：15-19.

以人工智能為核心的第四次工業革命促使教育趨向與技術深度融合，掀起了全球教育信息化發展大潮[1]。技術驅動下未來學校的構建正如火如荼，“人工智能的全方位滲透激發了人們對未來學校的無限想象，更引發人們對未來學校的廣泛熱議”[2]。但在美好的憧憬之下，學校的育人初心正在被潛藏的倫理性問題逐漸消耗。因此，探尋智能時代未來學校建設中潛藏的倫理性問題，并提出相應的規避之策，是打造育人為先、人機相融的未來學校的前提。

一、技術驅動：智能時代未來學校建設的基本特征

1.技術支持未來學校學習空間的重構

未來學校學習空間的變革是針對傳統學校的相對封閉性而進行的，主要是借助技術開始探索學習空間的建構。朱永新認為，在數字化和智能化的大背景下，未來學校將變成網絡型或實體型的學習中心，是彼此連接的環島，是跨區域、跨國界的開放體系[3]。2000年，美國的HTH（High Tech High）學校最早采用透明化的教室，并利用數字技術進行教學，可謂是未來學校的先驅；2006年，由微軟公司出資，并與費城學區共同建設了第一所“未來學校”，同樣借助信息技術，打破空間壁壘，為學生提供科技感強的虛擬空間；2010年，麥吉爾大學設計了主動學習教室，擁有可移動性的墻壁、互動式的家具，以及共享的屏幕，大大改變了學生的學習體驗。2013年，我國實施未來學校創新計劃，建設未來學校示范校，借助智能技術打造與學科相應的真實情境；2020年，印度金奈河灣學校基于鄉村理念創新學校建筑，學校內部設計多種互通分區，且全部配備機器人輔助學生學習；同年，經濟合作與發展組織（OECD）發布《面向未來教育：未來學校教育四種圖景》報告，提出未來學校將突破學校圍墻，進行無邊界的學習。由此可見，未來學校利用智能技術變革學習空間，學生學習場所不再固定，學生的科技體驗感不斷增強，學校最終將突破校園的界限。

2.技術推動未來學校組織形態的變革

依托技術帶來學校組織形態的變革已成為未來學校建設的核心。在智能時代，未來學校依托技術打破傳統學校固有的組織形態，更新管理方式，為學生提供個性化學習。曹培杰認為：“未來學校通過相互融通的學習場景、靈活多元的學習方式和富有彈性的學校組織，形成個性化的學習支持體系，為學生提供私人定制化的教育。”[4]2012年，布魯塞爾的The Future Classroom Lab憑借先進的技術創建智能空間，配備移動學習設備和智能機器人，為學生進行個性化學習提供充分的技術支持；2014年，法國可汗實驗學校為學生提供個人學習平臺，學生按照軟件提供的最佳速度和最佳方式學習；同年，美國成立Altschool，該校以微型化和精細化為理念，利用數字技術實現學生自主平臺的學習，利用可視化教育技術實現虛實結合，實行混齡學習、跨學科學習以及項目式學習；2019年，德國德累斯頓工業大學附屬學校以開發和優化學習軟件為行動導向，以數字化、個性化和混齡化為實施框架，借助信息技術變革學校的組織形式；我國同樣在變革學校組織形式方面做了不少探索，依托技術打破傳統的組織形式，追求新的教學空間，實行混齡教學。顯然，在智能化大背景下，未來學校的探索離不開技術的支持，不論國內還是國外均依托技術實現學校組織形態變革，技術工具已成為未來學校探索的中流砥柱。

3.技術助力未來學校教學結構的創新

隨著智能時代的到來，傳統教學結構已不能滿足社會對人才的需要，基于此，未來學校開始探索使用新技術助力教學結構的創新。首先，在人才培養方面提出了新的培養目標以順應當今智能化的潮流。張生認為：“未來學校的建設必須以培養學生的高階思維認知能力為目標與基本理念，以為未來社會提供創新型人才為目的。”[5]2020年，世界經濟論壇（World Economic Forum）發布《未來學校：為第四次工業革命定義新的教育模式》報告，提出未來學校要培養學生創新創造、技術技能、人際交往的能力以及全球公民意識。其次，在課程體系方面，世界各地意在通過技術變革課程體系以達到人才培養的新目標。2016年，多倫多成立知識社會項目，培養學生的技術能力和創新能力，該學校為學生提供學習平臺，并與技術公司合作，在此基礎上學生可以和公司直接對話，學習新的技術，培養創新能力[6]；美國的TGS（Think Global School）開創了獨特的Changemaker課程，該課程利用數字技術創建真實的實踐場景，學生們在課堂中就可以體驗到戶外真實的場景，以此培養學生的動手能力。再次，在教學方法方面，教師面臨著巨大的挑戰。朱永新曾說：“未來的教師需要嫻熟地運用智能機器人獲取各種教育資源，學會各種數據處理的方法和技術。”[7]教師須揚棄傳統的教學方法，在技術驅動未來學校建設中培養技術能力。最后，在教學評價方面，未來學校構建了數字時代新的評價框架，評價趨向定量化、精準化。放眼全球，世界各地都在探索評價領域的新路徑，國外諸多國家如美國、德國、芬蘭等都利用技術圍繞評價全過程提出了獨具特色的方案。我國也不例外，東莞市松山湖北區學校以學校數據為核心建立了學生綜合素質評價、學生學業水平測試、教師專業發展、教師智慧教研和學校督導評價五個平臺，進行全方位評價[8]，旨在以技術推動教育評價的改革。清華大學附屬中學同樣依靠技術構建了學生綜合素質評價平臺和評價模型。

在人工智能大背景下，未來學校的構建之路離不開技術的支撐，技術已全方位滲透到學校革新之中。雖說技術能夠為教育發展帶來無限可能，但也應理性地看待，正視技術進步之下所隱藏的倫理風險[9]。盡管目前未來學校的諸多探索只處于試點階段，但其影響不容忽視，在享受技術驅動未來學校建設帶來便捷的同時，必須意識到未來學校建設可能存在的技術倫理風險，防止學校陷入過度技術化的泥潭。

二、發現與反思：智能時代未來學校建設潛在的倫理風險

1.責任模糊倫理風險

關于教育責任，就其定義而言具有廣義和俠義之分，其中廣義的教育責任是一種教育義務，是指作為教育者應該做的事情；狹義的教育責任是一種過錯責任，是指出現教育過失之后被強制性承擔的后果。在智能時代，教育責任倫理顯得尤為重要，它影響著教育活動的開展。

從廣義角度看，傳統學校模式下教育者是教學內容的設計者和教學的實施者，教什么、如何教以及如何更好地支持學生是教師的責任，教師對整個教學過程負責，但人工智能技術用于教學時，教育者則面臨責任模糊的難題。比如，教師批改作文時會出現意見相左、難以定奪的情況，更何況是以算法為核心的智能機器人。使用自動寫作評價系統時，如若只按照已有的算法進行機械式評分，可能會對學生寫作熱情以及能力帶來損害，這應該由教師來負責嗎？隨之而來還有教育公平的問題，“因為教師并不是總能理解電腦進行學生評估的算法原理，也很難向家長解釋”[10]，如若因為教師的理解偏差造成教育偏見，教師該負全責嗎？

從狹義角度來說，未來會出現教育外包。比如，美國的AltSchool宣稱“未來不再開設更多的實體學校，把更多精力用于網絡學習平臺的建構上”[11]，無疑將會有許多企業參與學校教育，學生將在虛擬世界中進行學習，那誰將承擔起相應的教學責任？是技術設計者，還是提供支持的生產商？教育活動具有復雜性，只有人才能靈活應對教育活動中出現的突發情況，作出最有利于學生的選擇。因為算法主導著智能機器的運作，而算法的開拓者又是智能技術的設計者。設計者不可能未卜先知想到所有可能出現的突發情況，當智能技術產品面臨兩難時，會對學生作出最有利的選擇嗎？若未作出正確的選擇而對學生造成了傷害，教學責任又應該由誰來承擔？是它的制造商，它的設計者，還是智能產品本身呢？無論是由哪一方面來負責，都會產生非議。若要讓制造商或者設計者來負責，未免過于苛刻；若由人工智能產生來負責，更不可思議。人工智能時代，教育領域對于技術的責任判定很難有明確的追責，相較之下，傳統模式下的教育教學責任的確定相對明晰。

2.主體異化倫理風險

（1）學習者情感性被異化。未來學校通過技術對學生實現智能推送，而冰冷的數據所傳達的僅僅是學生存在的問題和解決方案。“技術將原本豐富生動的人際對話過程轉變成沒有情感的符號交流過程。”[12]未來學校易存在“只見數據不見人”[13]的問題，缺乏面對面情感的溝通與交流，容易把有血有肉的人物化為簡單的數據。“天天和一堆‘不嗔不怒，不言不語的數據為伴，久而久之，學生們會不會變得理性有余而感性不足？數據的精準會不會讓學生變得精細、精明有余而不夠大氣？”[14]

（2）學習者主體性被消解。未來學校中技術的覆蓋可能使學習者逐漸喪失主動性，走向“幼稚化”。在法國可汗實驗學校，學校提供個人學習平臺，學習者在平臺規定的完成時間和提供的學習方式下完成個人的學習目標。在這個案例中，學習者根據智能平臺進行學習，“如若學習者長期坐等教育人工智能定時定量的投喂，將有可能逐漸喪失能動性”[15]。另外，技術為主的未來學校可能使得學習者思維僵化且浮于表面。如項目評分系統（PEG系統）只關注文章的表面特性，忽視文章內容。若學校中應用該系統，不僅不能提高學生的寫作質量，而且會使學生寫作流于表面，囿于華麗辭藻之中。雖然智能機器會根據學生學習過程中的數據向學生精準推送學習資源，但這些資源完全圍繞學生興趣展開，縮小了學生學習的范圍，使學生囿于技術限制的牢籠中。

（3）學習者社會性被遺忘。無邊界的學習是未來學校的一大特征，雖然能提供個性化的輔導，培養更多優秀的學生，但這是以犧牲孩子的社交時間和情感交流為代價的。法國的Ecole42學校沒有教師、課本和教室，學生每人一臺電腦，學習由自我負責[16]，任何交流與溝通都是在虛擬環境中進行，這將導致學生的社會性難以得到培養。未來教育不是以輸出精英為目的，而是要讓孩子在教育新世界中得到更好的發展。杜威曾指出：“教育是社會生活的過程。”[17]所以，未來學校建設單純依靠智能技術提供虛擬環境對話是行不通的。

3.道德缺失倫理風險

在未來，越來越多的人工智能技術將運用到學校當中，目前人臉識別技術走進教室已成為未來學校的試點項目，此項目意在提高課堂效率。人臉識別以學生個人信息為支撐，通過適時采集學生的表情、動作來分析學生在課堂上的投入程度，雖然在某種程度上可以提高課堂效率，但如何保證學生數據隱私的安全，如何界定學生信息的使用范圍等問題值得深思。況且在這種嚴密的監管之下，學生如同“犯人”一般被時刻監控，這種做法是與教育本質背道而馳的，是有悖道德倫理的。再如美國的Alt School，為了監視學生的一舉一動，在墻上安裝了攝像頭，全天候地對著學生，而學生并不會被告知是誰在背后監控他們，攝像頭所采集的信息是被誰使用、如何使用以及使用的范圍如何界定。除此之外，在課堂上學生可能佯裝認真學習，那真正的教學就不可能發生，長此以往，學生的健全人格也必將遭到破壞。

4.育人弱化倫理風險

正如舒馬赫所言：“教育以人的自由與發展為旨歸，根本任務是傳授價值觀念，傳授知識只是第二位。”[18]未來學校依附于人工智能，其教育最初的本心將可能被基于計算和數據驅動的技術所替代，其結果就是教育的育人初心隨之湮沒。在教學過程中，如若教師過于依賴數據，缺乏自身的判斷，以數據為教學標桿，則會導致“學生的很多潛能因為沒有藥引而未被激發出來”[19]。雖然未來學校建設中學習的效率可能會大大提升，但隨之產生的倫理問題不容小覷。目前，有關自適應學習系統的研究正如火如荼，基本原理是“基于大數據與分析得到待訓練的樣本，并用數據訓練從而得到基于人工智能算法建構的、屬于認知智能助力的精細化教學，而對于學生情感與品德的發展、教學內容價值觀的傳遞等方面難以通過客觀數據量化”[20]，這在一定程度上否定或淡化了學科育人的價值。再者，中小學德育工作評價模型算法中擬采用數學建模的方法形成多層評價結果。此模型包含四種算法：單項算法、關聯算法、協同算法和復合算法[21]，并為德育目標、德育內容以及德育途徑賦值，通過多種算法綜合對學生進行德育評價。但德育目標在不同的屬性之下有不同的目標，而且德育內容的權重又該如何分配？過分追求量化，憧憬以數據來衡量學生的德育，從而得到確定的結果，這將會導致動態的育人過程逐漸喪失溫度。況且人具有綜合實踐性的特征，單一的德育評價無法與人在生活中表現出來的德性相統一。

三、探究與重建：智能時代未來學校建設倫理風險的規避路徑

1.完善各主體應有職責，明晰教育責任

政府部門責無旁貸，未來學校中存在的倫理風險治理是對政府管理效能的考驗。一是籌集多方力量，制定智能時代倫理準則，以明晰權責。2018年，歐盟發行了人工智能倫理準則，提出人工智能發展應堅持“以人為本的價值觀立場”[22]。我國可借鑒國外先進的做法，根據我國實際情況制定適合的倫理準則，規范技術設計者、私營部門等相關主體的行為，以防止倫理問題發生。二是完善相關法律法規。目前，我國關于人工智能技術的相關法律并不健全，這就導致當倫理問題發生時無法可依。既然智能產品將代替人的部分勞動進入真實世界，那就必須和人一樣享有權利和義務，必須遵從法律約束，承擔相應責任。三是要成立監管機構。雖然政府要放權，以推動未來學校的構建，但又不能完全放任各運營部門的行為。其次，各運營部門要做好表率，要提高自身道德感。在保證對未來學校的技術支持之外，還要堅守道德底線，不以此為自身牟取利益。不僅要遵紀守法，遵守人工智能的相關法律，還要做好智能產品質量的監管和把控，禁止不合格產品流入市場。最后，技術主體作為智能產品的研發者更應該承擔起相應的責任。設計者要加強自身的責任意識，意識到人工智能產品所引起的倫理風險與自身的責任意識息息相關，一旦技術主體將帶有歧視等錯誤價值植入算法中，產生的后果將不堪想象。因此，必須強化設計者的責任意識，并將其轉化為代碼植入智能產品中，使其在面對兩難抉擇時能依據道德倫理作出正確的判斷。

2.重新定位師生關系，構建人機協同體

未來學校的構想中以智能產品輔助教師教學與學生學習，在一定程度上會造成主體異位的發生。因此，重新定位智能時代之下的師生關系是極有必要的。首先，技術設計者要改進智能技術的算法。智能產品要在保證給學生提供學習資源的同時，防止學生過度依賴技術。其次，強化教師在智能場域中的主體責任。轉變傳統的教學方式，使自身適應未來學校中的新角色，在機器主動投喂的過程中適時干預，激發學生主動學習的動力，同時要提高使用智能產品的能力。智能技術的使用替代了教師大部分枯燥無味的工作，但這并不意味著教師可以任由智能機器的宰割，而應主動出擊，做一些智能機器做不到的事情，填補學生情感的空缺，培養學生的社會性。最后，學生在智能化學習環境和使用相關學習工具時要處于主體地位，防止成為智能技術浪潮中的犧牲品。學生要有主動學習的意識，拒絕智能機器定時定量的投喂行為，養成與時代相適應的技術思考方式與行為習慣，還要在智能學習的過程中有意識地培養自己的創造性思維和批判性思維。總之，在未來學校的教育空間中，教師、學生、技術共存，教師和學生一改傳統的角色定位，以技術為媒介，共同創建新型的師生關系，推動人機協同體的構建。

3.建立數據資源透明機制，發展學生健全人格

未來學校中技術監控通過收集、分析學生的個人信息實現對學生的全程監控，這不僅會面臨學生隱私數據泄露的風險，甚至會使教育越走越偏，有悖道德倫理。因此，建立數據資源透明機制，發展學生健全人格，有利于教學的真正發生。

數據透明指的是在數據的獲取、儲存和使用的過程中對數據貢獻的主體保證透明性。在數據收集問題上，學校要行使主人翁責任，與技術提供者在信息收集上達成一致，減少對學生附帶信息的收集，并在學校內部專門建立一個數據透明網站，所有數據主體可通過自己的賬號密碼登錄查看與本人相關的所有數據信息。在數據存儲問題上，公開數據存儲的渠道以及存儲的內容，同時學校要與技術提供者合作，共同商討數據儲存期限。在數據使用問題上，要通過數據透明機制公開數據使用的范圍，并依靠技術支撐限制數據的分享。

人臉識別等監控技術進入課堂的最終目的是提高課堂效率，提升課堂質量，但人臉識別的應用不過是治標不治本，甚至危害學生的人格養成。提高課堂質量根本在于培養學生的自覺性，提高學生的學習興趣，而這關鍵又在于教師的教學能力。因此，推進未來教師教學能力的培訓應早日提上日程。教師培訓應圍繞新課程標準和我國發布的教育2.0框架，借鑒TPACK框架研制符合智能時代未來學校特色的教師教學能力框架。一是提高技術知識能力（TK），這不單單指利用信息技術的知識和能力，更強調人與機器協作配合的能力；二是提高教學法知識能力（PK），在教學法知識的基礎上著重培養未來教師如何結合智能技術吸引學生興趣，同學生產生共鳴；三是提高學科內容知識能力（CK），使未來教師不再是單一學科的教學主體，強調師范院校培養職前教師具備多學科知識，開展跨學科教學、項目式教學等；四是提高教研能力，培養教師分析數據的能力，挖掘學生學習數據背后所隱藏的問題，在智能技術的輔助下實現學生的個性化學習。

4.塑造溫情氛圍，重拾育人初心

未來學校的設想以技術為核心，聚焦于利用技術來提高知識傳遞的效率，這在一定程度上忽視了教育育人為先的本質。智能時代之下，重拾育人初心，促進學生全面發展勢在必行。

學校作為學生學習的主陣地要營造溫情的氛圍，采取措施推動學生與學生、學生與老師之間的情感交流，讓學生在工具性技術下感受人的溫暖，進而達到育人的教育目標。教師作為學生學習的第一接觸者，不僅要關注學生知的發展，更應關注學生情與德的發展。智能時代，教師應意識到自身角色不再只是知識的傳遞者和教學的實施者，積極地向學生心靈的培育者、精神成長和品質完善的領路人轉變，實施智能機器人做不到的事情，比如情感的干預、審美情趣的提高以及品格的培養等。智能機器人也是有軟肋的，它不可能完全具有人的情感交流和人文關懷，不可能具有真正的人的創造性與獨特性。未來的教師不僅要關注學生的智力發展，更要關注學生的非智力因素，要堅持育人的價值觀導向，避免教育陷入技術的洪流。此外，技術主體在研發新的教育智能產品時，要加強人工智能在情感識別、腦科學領域的研究。雖說智能機器人并不能完全理解人類復雜的情感，但在算法中加入情感識別，則可以更全面地掌握學習者的學習狀態，同時可以在一定程度上避免學習者情感空缺等問題。

綜上所述，人工智能時代下未來學校建設體現鮮明的技術驅動性，這給教育革新帶來了推動力，但美好設想之下仍隱藏著技術倫理風險。只有警惕和識別技術帶來的這些倫理風險，增強風險防范意識，才能使未來學校的建設之路更寬廣、更美好。

參考文獻

[1] 葉瀾.探教育之所“是”，創學校全面育人新生活[J].人民教育，2018（13）：10-12．

[2] 田友誼，姬冰澌.人工智能時代未來學校的建設之道[J].中國電化教育，2021（06）：39-48．

[3][7][13][14] 朱永新.未來學校：重新定義教育[M].北京：中信出版社，2019：31，137，255，114.

[4] 曹培杰.未來學校的興起、挑戰及發展趨勢：基于“互聯網+”教育的學校結構性變革[J].中國電化教育，2017（07）：9-13．

[5] 張生.聚焦高階思維，建設未來學校[J].中小學學校管理，2017（08）：14-15．

[6] 王永固，許家奇，丁繼紅.教育4.0全球框架：未來學校教育與模式轉變：世界經濟論壇《未來學校：為第四次工業革命定義新的教育模式》之報告解讀[J].遠程教育雜志，2020（03）：3-14.

[8] 馮正華.基于評價立校的未來學校轉向：結構與路徑：東莞市松山湖北區學校綜合評價改革與探索[J].教育信息技術，2021（12）：14-15.

[9] 朱德全，呂鵬.大學教學的技術理性及其超越[J].教育研究，2018，39（08）：73－80．

[10] 安東尼·塞爾登，奧拉迪梅吉·阿比多耶.第四次教育革命：人工智能如何改變教育[M].呂曉志，譯.北京：機械工業出版社，2019：146.

[11][16] 曹培杰.未來學校變革：國際經驗與案例研究[J].電化教育研究，2018（11）：114-119．

[12] 戴維·伯姆.論對話[M].王松濤，譯.北京：教育科學出版社，2004：6．

[15] 趙磊磊，張黎，代蕊華.教育人工智能倫理：基本向度與風險消解[J].現代遠距離教育，2021（05）：73-80.

[17] 約翰·杜威.學校與社會·明日之學校[M].趙祥麟，任鐘印，吳志宏，譯.北京：人民教育出版社，2005：3.

[18] 申靈靈，何麗萍.人工智能時代技術與教育共生的困局與出路[J].高教探索，2021（09）：13-18

[19] 維克托·邁爾一舍恩伯格，肯尼思·庫克耶.與大數據同行：學習和教育的未來[M].趙中建，張燕南，譯.上海：華東師范大學出版社，2015：1.

[20] 沈寓實，徐亭，李雨航.人工智能倫理與安全[M].北京：清華大學出版社，2021：58-59.

[21] 王薇.基于復雜性科學的中小學德育評價模型構建及應用[J].教育理論與實踐，2020，40（35）：11-15.

[22] European Commission.Draft Ethics Guidelines for Trustworthy [EB/OL].https：//ec.europa.eu/digital-single-market/en/news/draftethics-guidelines-trustworthy-ai.

【責任編輯? 關燕云】