教育人工智能應用場景及其理性審視

婁方園 高振 王娟

摘 要：各國高度關注人工智能在教育領域的應用研究，但更多的是從技術視角開展人工智能，忽略了教育本質的培養。盡快設計出能夠有效應對由教育人工智能應用場景所引發的問題的策略，成為一個全新而重要的時代命題。文章首先界定了教育人工智能等相關概念，陳述了教育人工智能的相關應用場景;其次對教育人工智能應用場景進行了理性審視;最后分別從政府、教育組織、產業組織以及個體四個層面提出審慎應對的相關策略，以期為解決教育人工智能應用場景所引發的問題提供思路。

關鍵詞：教育人工智能;應用場景;倫理;審視策略

中圖分類號：G4 文獻標志碼：A 文章編號：2096-0069（2022）03-0026-08

收稿日期：2021-10-08

基金項目：2020年教育部政策法規司課題“在線教育治理研究”（ JYBZFS2020107）;2021年江蘇高校哲學社會科學研究重大項目“人工智能視域下在線教育治理機制與路徑研究”（2021SJZDA161）;2021年江蘇師范大學項目“基于DoPBL模式的中學信息技術課程設計與實踐研究”（2021XKT1363）

作者簡介：婁方園（1995— ），女，河南商丘人，江蘇師范大學智慧教育學院，碩士研究生，研究方向為人工智能、教育治理;高振（1996— ），男，江蘇宿遷人，江蘇師范大學智慧教育學院，碩士研究生，研究方向為人工智能、在線教育;王娟（1979— ），女，江蘇泗洪人，教授、碩士生導師，研究方向為教育理論與教育管理、在線教育。

引言

智能時代，教育人工智能是新一輪科技革命的重要驅動力。2021年4月，聯合國教科文組織制定了《人工智能與教育：政策制定者指南》，提出提升公民的人工智能素養，實現教育共同利益以及包容性和可持續性的未來教育。但人工智能賦能教育的同時也面臨著師資、課程、教材、人才培養質量、教育結構、倫理、安全、隱私、公平等多方面的挑戰。

教育人工智能政策制定者以及教育者如何能更好地利用人工智能為教育提供機遇？如何確保合理、公平地使用教育人工智能產品？如何實現教育與人工智能深度融合？如何應對應用教育人工智能時帶來的多重挑戰與風險？如何明確權責擔當？盡快設計出能夠有效應對和解決由教育人工智能應用所引發的問題的策略，成為學術界的重要課題。為此，本研究將理性審視教育人工智能，提出有針對性的解決方案，為促進教育人工智能健康發展提供思路。

一、教育人工智能的內涵及應用場景

智能時代，教育的表征形態、理論基礎與研究范式正在發生改變，教育人工智能具備了時代新內涵與新內容。從教育人工智能的定義探究過程中發現，諸多學者更多是從技術視角定義教育人工智能，卻忽略了教育本質的培養。基于此，研究從人本主義視角探索教育人工智能的內涵，以期對智能時代教育人工智能應用能夠健康發展提供借鑒。

（一）人工智能

人工智能（AI）是指計算機對人類的智能進行模擬、生產和擴展，機器通過模仿人類的感知、學習、推理和決策能力，實現目前必須借助人類智慧才能完成的任務。人工智能經歷了三個重要時期，如圖1所示。計算智能時代強調符號主義，重視邏輯卻忽視了知識。感知智能時代強調控制主義，重視知識卻無法實現自主學習。認知智能時代強調聯結主義，開始具有自主學習能力，應用場景的開發成為人工智能技術落地最核心的內容。

（二）教育人工智能

人工智能的突出表現以及顛覆性潛力給教育帶來了極大的沖擊，國內外研究者開始重視教育與人工智能的深度融合發展。將人工智能應用在教育領域中的研究可以追溯到程序性教學[1]。有學者曾指出，人工智能可以根據特定的情境、需求，與個體進行對話，進而幫助其實現某個目標[2]。在之后發展的過程中，漸漸出現了微格教學、沉浸學習、自動測評等領域的相關實踐，開始著眼于教育與人工智能的更深層次融合，實現1+1>2的效果。

教育人工智能能夠實現人工智能與教育更深層次的融合，不僅僅是技術問題，也是教育理念和組織變革的問題，更需要有人的參與，教育人工智能具備跨越發展的能力，能夠提升師生素養和信息思維，創造新型學習條件，促進教育人工智能從技術應用向能力素質的發展。

（三）教育人工智能應用場景

只有當人工智能應用于教育人工智能、建構教育場景、充足教育中的要素或者重構教育過程時，才屬于教育人工智能的應用場景[3]，其價值歸宿是為教育主體賦能，為教育系統賦能[4]。眾多學者根據目前初步應用的教育人工智能應用場景，將其分為面向系統、面向學生和面向教師的人工智能三大類，如圖2所示。

1.面向系統的教育人工智能應用場景

面向系統的教育人工智能應用場景基于教育管理信息系統，旨在實現學校管理自動化，為教師和管理員提供信息，為學生提供指導。從教育管理信息系統中提取的大數據也有助于制定教育教學決策。教育人工智能應用場景還顯示出其基于學習者個性化需求和學習水平分析來策劃跨平臺學習內容的潛力。

面向系統的教育人工智能應用場景主要用于監控學生在課堂上的注意力、跟蹤出勤率和預測教師表現。人工智能在教育管理和教學中的應用主要有教育聊天機器人、學習分析應用程序和自適應學習平臺等。教育聊天機器人是使用云服務和人工智能技術與人進行模擬對話的在線計算機程序，其教育應用包括促進學生入學、提供全天候信息、直接支持學習;學習分析應用程序是由英國開放大學設計的人工智能應用程序，通過分析該大學教育管理信息系統的大數據來預測學生成績;自適應學習平臺系統提供后端人工智能功能支持標準教育技術，分析用戶數據，并將其匯總，創建學生互動內容、偏好和成就的心理測量檔案。

2.面向學生的教育人工智能應用場景

面向學生的教育人工智能應用場景被譽為“第四次教育革命”的組成部分，旨在為全世界的學習者提供高質量、個性化和泛在的終身學習。主要包括智能輔導系統、基于對話的輔導系統、探索性學習環境、自動寫作評估、人工智能驅動的閱讀和語言學習、智能機器人、可教的代理，以及教育虛擬現實和增強現實等。

（1）智能輔導系統

教育人工智能最常見的應用場景是智能輔導系統（Intelligent Tutoring Systems，簡稱ITS），其主要通過結構化科目的主題為學生提供個性化的輔導。一些智能輔導系統雖有利于監控學生學習情況，為教師提供采取行動的進一步的信息，但其設計也引發了一些不良問題。目前，全球有60多個商業智能輔導系統可用。

（2）基于對話的輔導系統

基于對話的輔導系統（Dialogue-based Tutoring Systems，簡稱DBTS）利用自然語言處理和其他人工智能技術，模擬師生間的口語教學對話，完成在線學習任務。它采用蘇格拉底式教學方法，借助人工智能生成的問題，引導學生自己解決問題，旨在鼓勵學生參與闡述，達到對主題的深入理解。目前，基于對話的輔導系統有AutoTutor（自動輔導），以及Watson Tutor（沃森導師）商業系統。

（3）探索性學習環境

探索性學習環境（Exploratory Learning Environ-ments，簡稱ELEs）基于建構主義理論，鼓勵學生通過探索學習環境與現有知識建立聯系，從而積極建構個人知識，而非遵循諸如智能輔導系統所支持的循序漸進的“知識傳遞”模式。人工智能在探索性學習環境中的作用是，通過知識跟蹤和機器學習，提供自動指導和反饋，最大限度地減少探索性學習的認知負荷。這些反饋有助于消除誤解，促進理解，支持學生探索。

（4）自動寫作評估

自動寫作評估（Automated Writing Evaluation，簡稱AWE）利用自然語言處理和其他人工智能技術，提供寫作的自動反饋。自動寫作評估方法包括形成性自動寫作評估和總結性自動寫作評估。目前，自動寫作評估教育應用的示例主要有e-Rater（“寫作評分”系統）、Turnitin（“數字圖書館”平臺）和Smartmusic（“智能音樂”應用程序）。

（5）人工智能驅動的閱讀和語言學習

閱讀和語言學習工具越來越多地使用人工智能來增強其方法，如人工智能驅動的語音識別。人工智能驅動的語音識別系統檢測并自動分析閱讀技能，通常用于將學生聲音與母語人士錄音樣本進行比較，通過提供自動反饋來幫助學生改善發音。人工智能驅動的自動翻譯可幫助學生閱讀其他語言學習材料，并使受不同文化熏陶的學生能夠更容易地相互交流。人工智能支持的閱讀和語言學習應用程序包括AI Teacher（人工智能教師）、Babbel（一款語言學習應用的軟件）等。

（6）智能機器人

智能機器人在教育中的應用也在探索中，尤其是在有學習障礙或學習困難的兒童環境中的應用。例如，為自閉癥譜系障礙學習者創造了具有語音功能的類人機器人，提供可預測的機械交互，旨在發展自閉癥譜系障礙學習者的溝通和社交技能。再如，遠程呈現機器人為可能因疾病而無法上學的學生提供進入教室服務。

（7）可教的代理

通過教別人可以更深入、更好地記住一個話題。這種效應已被各種人工智能方法所利用。

（8）教育虛擬現實和增強現實

虛擬現實和增強現實是教育環境應用的兩個創新，經常與機器學習和其他人工智能技術相結合，增強學生體驗。虛擬現實可以為學生提供身臨其境的體驗，使其感覺仿佛被帶入了現實世界或想象的環境。增強現實是基于用戶現實世界的視野，將計算機生成的圖像進行疊加。

3.面向教師的教育人工智能應用場景

盡管面向教師的教育人工智能應用場景具有增強教師能力的潛力，但相比面向學生的教育人工智能應用場景，面向教師的教育人工智能應用場景的關注度要低得多，主要包括由人類教師和人工智能助教組成的“雙師模式”、人工智能驅動的教學助理和討論論壇監控。

（1）人類教師組成和人工智能助教的“雙師模式”

許多教育人工智能都被設計用來取代一些教師任務，而非幫助教師更有效地教學。中國偏遠農村地區已采用“雙師模式”，即名師通過視頻給遠程教室里的學生講課，學生則從當地教師那里獲得額外指導。未來，人工智能助教可能幫助人類教師完成許多任務，如提供專業知識或專業發展資源等。教學生什么內容和如何教學生仍然是教師的責任和特權。教育人工智能的作用只是讓教師的工作更簡單。

（2）人工智能驅動的教學助理

教育人工智能的設計旨在減輕教師費時活動，如考勤、批改作業和回答相同問題。許多人工智能技術有效“接管”了大量教學活動，卻干擾了師生關系，使教師淪為“職能角色”。教育人工智能可能會開啟教學的新模式，而不僅僅是基于計算機的自動化教學。新的教學模式需要增加教師專業知識，這或許可以通過人工智能教學助理來實現。但若要在實際教育環境中應用，許多人工智能技術和倫理問題仍需克服。

（3）人工智能驅動的討論論壇監控

教育人工智能可以支持在線教育，特別是幫助教師或輔導員監控異步討論論壇。學生在論壇上對布置的任務做出回應，向教師詢問課程資料，并參與協作學習。這通常會產生大量帖子，所有這些帖子都必須進行調整和處理。人工智能可能會在很多方面提供幫助，例如對帖子進行分類、匯總引發重疊問題的帖子、使用情緒分析來識別消極情緒狀態的帖子。總之，人工智能可以讓人類教師隨時了解學生意見和共同擔憂。

二、教育人工智能應用場景的理性審視

教育人工智能不僅僅是一場科技革命，更是引發教育、社會、生命、認知和價值的巨大變革。人工智能賦能教育的同時也面臨著師資、課程、教材、人才培養質量、倫理、安全等多方面的挑戰。因此，我們必須要理性審視教育人工智能應用場景。如圖3所示。

有學者基于人本主義視角指出教育人工智能應用場景忽視了教師和學生的真正訴求[5]，提出面對人工智能教育應用所帶來的新的教育問題時應保持教師的主導地位[6];也有學者提出在教育教學中，學生的發展才是目的，人工智能始終只是一種工具或手段，教師既要借助人工智能為學生自主發展提供多種途徑，又要更好地承擔起人工智能無法承擔的責任[7]。

基于已有研究，筆者有如下思考：（1）在開發應用場景時究竟需要何種人工智能？（2）教育的意義和價值何在？（3）在教育人工智能應用場景中必然會使用大量敏感數據，個人隱私如何保障？（4）在教育人工智能應用場景中，誰應該承擔責任？（5）教育人工智能應用場景能否保障教育公平？

（一）在開發應用場景時究竟需要何種人工智能？——訴求性審視

人工智能在教育領域引發各種連鎖反應，造成一些教育現象的失衡。出現這種現象是因為沒有充分考慮教育與技術的關系，是“以技制人”還是“為人謀技”？為解決這一問題，則需明確在開發應用場景時究竟需要何種人工智能以及師生的真實訴求又是什么。

人工智能目前在教育中最大的應用是大量取代人的活動，但在開發應用場景時需要人工智能取代教師嗎？人工智能能夠取代教師嗎？學生又需要什么？很顯然，引導學生成功的絕不僅僅是技術環境，更重要的是教師本身獨特的人格，如情感、信念等。在低階思維層面，教師可以將教育教學的部分權利讓渡于人工智能;在高階思維層面，教師不僅可以激發學生更深入的思考，還能夠與學生產生情感共鳴。

（二）教育的意義和價值何在？——人本性審視

教育的指向即是人性的教育。教育人工智能的應用應以人的需要為根本，突出人本性的價值取向。任何一種教育的重點都應在于人，教育不是只灌輸受教育者知識，更多的應是對受教育者的道德和責任的培養。但隨著人工智能技術的使用，教育中的人卻越來越被物化，教育主體逐漸被人工智能技術改變，教師和學生作為人的屬性逐漸被忽略。人工智能在教育中并不能模擬出真實的情感和人性，很難實現對人的道德、責任的培養，只能作為促進人發展的工具和手段。

（三）在教育人工智能應用場景中個人隱私何以保障？——隱私性審視

人在享受人工智能技術帶來的各種便利與福利的同時，個人隱私空間也在不斷地被壓縮與暴露。在教育人工智能應用場景中，人工智能使用大量數據對算法進行訓練，與此同時，師生隱私泄露風險也將增加，個人隱私何以保障成為必須要面臨的挑戰。

為此，在采集和使用數據過程中，數據主體應有權利知曉數據采集類型、方法以及數據安全保護措施;嚴禁捏造任何數據主體事件的發生，確保數據有效性;未經數據主體允許，嚴禁將所得數據用于商業營利性目的，杜絕濫用數據現象;建立教育數據安全問責機制，強化數據安全保護意識。

（四）在教育人工智能應用場景中誰應該承擔責任？——責任性審視

人是承擔責任的主體。那么，人工智能是否充當了教育角色？是否具有自由的意志？弱人工智能并未被賦予人的教育權利，并不需要承擔相應的教育責任，當其造成傷害時，應在人工智能創建者、監測者與使用者之間追責。創建者是否了解用戶的需求及差異并基于善良的動機設計教育人工智能產品？是否存在任何形式的傷害或歧視？是否具有安全性、可靠性和透明性？監測者是否確保決策安全、合理、公平？是否能夠根據存在的問題提出相關的改進策略及建議？是否具有其作為監測者的職業修養及道德規范？使用者是否能夠將其用于善良的目的之中？是否能夠做到及時反饋？

強人工智能以及超人工智能具有一定的思維能力，可以突破原有設置，學到新的規則。其創建者只是設置了學習規則但并不具有對其絕對的控制力，無法準確判斷其產生的具體影響。那么，此時造成傷害的責任歸屬于誰呢？有學者指出，人工智能不是與人一樣的教育主體，對其施以懲罰意義不大[8]。也有學者指出人工智能可以作為像人一樣的教育主體，需要承擔一定的責任和義務。例如，“索菲亞”是歷史上首個獲得公民身份的機器人，機器人成為公民意味著擁有權利和義務，并承擔一定的道德責任[9]。

（五）教育人工智能應用場景能否保障教育公平？——公平性審視

教育公平是人們不受各種因素的限制，享有同樣的受教育的權利。教育人工智能應用場景的初衷是讓更多師生受益，避免教育不公平問題。首先，值得肯定的是，能夠通過人工智能技術獲得地理信息、教育背景等開放數據，實現教育資源精準投放、按需分配，打破時空的限制，能夠為偏遠地區、教學資源不充足或有特殊需求的學生提供相對公平的教育機會，促進優質教育資源全覆蓋。但是，值得我們思考的是，開發的教育人工智能應用場景能否帶來更多的教育公平？算法的黑箱以及信息的不對等是否會加劇數字鴻溝等現象？

三、教育人工智能應用場景的審慎應對

教育人工智能應用場景的本質在于教育教學與人工智能進行的深度融合，應在重視教育本質的基礎上抑制技術的“惡”，弘揚技術的“善”。審慎應對教育人工智能應用場景需要多個層面協同完善，研究通過對教育人工智能應用場景進行審視，從政府、教育組織、產業組織以及個人四個層面，提出如下審慎應對的策略。

（一）政府層面：強化頂層設計

教育人工智能應用場景面臨著公平、隱私、透明和偏見等諸多問題，為解決教育人工智能應用場景的現存問題，政府是強化頂層設計的重要推動力量，引領著教育人工智能應用場景的發展方向。在制度層面，政府決策部門應采取人文主義方法，制定教育人工智能政策的系統遠景和戰略目標，加強人工智能素養教育[10]，弘揚技術的“善”，確保在教育中包容、公平地使用人工智能;在機制層面，教育人工智能技術存在信息繭房、算法偏見等現象，為提高人們對知識產權保護、侵權責任認定以及數據財產保護的意識，應設置公平、透明的研發機制，改善技術的評估標準，提高過程的主動性，建立符合倫理的行為規范。

（二）教育組織層面：明確教育需求

教育組織是教育能否得到落實的重要保障，是教育人工智能場景應用與推行的實施者。將人工智能應用于教育時，教育組織需要明確教育與技術的關系，明確教育現狀與教學需求，不盲目跟風。教育者有必要在“允許人工智能技術進入教育時，睜大眼睛看它的利弊”，受教育者需要樹立正確的技術觀，教育主體應始終保持高度警惕，思想不被技術所裹挾，杜絕教育過程中出現人工智能歧視等現象。同時，教育人工智能應用場景要回歸并堅持教育的育人功能，遵循技術向善功能，并在教育人工智能應用場景的全過程中凸顯人的主體性精神，彰顯人文價值[11]，避免因技術至上的侵蝕而造成教育目的的偏離，確保教育人工智能以學習者為中心，可通過圍繞教師的日常教學實踐開展試點研究，使教育人工智能應用場景促進教學，而非取代核心教師智能。

（三）產業組織層面：明確權責歸屬

在開發教育人工智能應用場景中，產業組織作為重要的實施主體，為教育人工智能產品市場化和經濟化做出了巨大貢獻。但產業組織在注重經濟效益的同時，也須謹記自身的社會責任，明確自身的創新發展路徑，能夠了解用戶的需求及差異并基于善良的動機設計教育人工智能產品，避免任何形式的傷害或歧視，避免產權糾紛與權責交叉，落實信息安全主體責任，決不實施過度采集用戶信息、竊取與出賣用戶個人隱私等違法行為，確保教育人工智能產品具有安全性、可靠性和透明性。此外，各產業組織應當加強溝通和聯系，推進信息的互聯、互通和共建、共治、共享，與教育組織積極合作，深入了解當前教育人工智能產品的現實需求與技術難點，提高教育人工智能應用場景水平，減少在應用場景中可能引發的倫理問題，將更多有益于人們的“善的東西”“符合倫理道德的東西”賦予教育人工智能應用中，以促進其健康發展。

（四）個人層面：提高信息素養

在不遠的將來，充分運用人工智能，讓自我以及群體的學習能力提升變得非常重要。人工智能以自我學習、機器學習、深度學習的方式不斷完善，個人如果無法理解人工智能、算法和數據，將更加難以看懂未來社會發展趨勢，難以融入未來社會，進而逐步失去對未來社會再創造的能力。因此，在應用教育人工智能的同時，每個個體都需要具備一定的信息安全意識、良好的信息素養。第一，個人可通過正規渠道學習人工智能專業知識，提升人工智能素養教育，掌握人工智能基礎知識，提高計算思維能力，樹立人工智能社會責任意識;第二，個人在獲取教育人工智能服務時應提高對知識產權保護、侵權責任認定以及數據財產保護意識;第三，個人應提高自身的法律意識，當發現個人數據被用于非法情景時，要敢于拿起法律武器保護自己。

[1]BORKO H.Artificial Intelligence and Expert Systems Research and Their Possible Impact on Information Science Education[J].Education for Information，1985，3（2）：103-114.

[2]MINSKY M L，SINGH P，SLOMAN A.The St.Thomas Common Sense Symposium：Designing Architectures for Human-level Intelligence[J].Ai Magazine，2004，25（2）：113-124.

[3]張坤穎，張家年.人工智能教育應用與研究中的新區、誤區、盲區與禁區[J].遠程教育雜志，2017，35（5）：54-63.

[4]權國龍，顧小清，汪靜.人工智能教育應用的視覺交互“賦能”效應研究[J].開放教育研究，2021，27（4）：111-120.

[5]李芒，張華陽.對人工智能在教育中應用的批判與主張[J].電化教育研究，2020，41（3）：29-39.

[6]譚維智.人工智能教育應用的算法風險[J].開放教育研究，2019，25（6）：20-30.

[7]王旦，張熙，侯浩翔.智能時代的教育倫理風險及應然向度[J].教育研究與實驗，2021（4）：34-39，96.

[8]葉良芳.人工智能是適格的刑事責任主體嗎？[J].環球法律評論，2019，41（4）：67-82.

[9]謝洪明，陳亮，楊英楠.如何認識人工智能的倫理沖突？——研究回顧與展望[J].外國經濟與管理，2019，41（10）：109-124.

[10]徐蕊玥，梁昊楠，周琴.人工智能賦能教育變革：國際經驗與未來展望[J].數字教育，2021，7（3）：21-26.

[11]羅萬麗，王蕊，范榮.人工智能在教育領域的應用探析[J].數字教育，2018，4（6）：79-82.

（責任編輯 孫興麗）

The Application Scene of Educational Artificial Intelligence and Its Rational Examination

LOU Fangyuan，GAO Zhen，WANG Juan

（School of Wisdom Education，Jiangsu Normal University，Xuzhou，Jiangsu，China 221116）

Abstract： Various countries pay high attention to the application research of artificial intelligence in the field of education，but most of them carry out artificial intelligence from the perspective of technology and neglect the cultivation of the essence of education.To design a strategy to effectively cope with the problem initiated by the application scene of educational artificial intelligence as soon as possible has become an entirely new and important proposition of times.Firstly，this article has defined related conceptions like educational artificial intelligence， etc.，stated related application scene of educational artificial intelligence;secondly，this article has done a rational examination to the application scene of educational artificial intelligence;at last，this article has put forward related strategy like prudent response from four levels like government，educational organizations，industrial organizations， and individuals，hoping to provide thoughts for the solving of problems initiated by the application scene of educational artificial intelligence.

Key words： educational artificial intelligence;application scene;ethic;examining strategy