人工智能教育應用的實然分析：教學自動化的方法與限度

張志禎　張玲玲　羅瓊菱子　鄭葳

【關鍵詞】? 人工智能教育應用;教學自動化;智能教學系統;計算機教育應用;交互主體;媒體工具;

專家系統;機器學習;CognitiveTutor;AutoTutor;Course Signals;WISE+c-Rator

【中圖分類號】? G420????? 【文獻標識碼】? A????? 【文章編號】 1009-458x（2019）3-0001-13

一、引言

人工智能與教育系統以人類的知識實踐為紐帶，兩者存在多層次、復雜且密切的相互作用，人工智能應用于教育實踐具有邏輯必然性（張志禎， 等， 2019）。人工智能是科學、工程與數學，但是人工智能教育應用是具有社會歷史文化屬性的人類教育實踐，其大范圍開展有賴于教育主體（教師、管理者、學生、組織機構）理解人工智能在教育活動中的作用方式、可能與限度。本文的“實然”分析不是對人工智能教育應用情況的大規模現狀調查，而是從微觀教育過程層面，分析人工智能是“如何”應用于教育的，即其實現教學自動化的方法。

對人工智能教育應用的“實然”分析，主要源于“人工智能+教育”當前備受關注，但是相關探討過于關注未來、可能與工程技術，而相對輕視甚至忽視歷史、局限與教學實踐。研究當然需要指向未來，但對于未來的分析預測應有歷史與現實根基，計算機、人工智能教育應用的歷史是面向未來的起點與基礎。人工智能教育應用是為教育的，而非為人工智能的（Baker， 2016），對于教育而言人工智能是實現目的的工具與手段，盡管它是積極能動的，但它本身并不能證明其價值，教育教學的目標、活動、情境復雜多樣，難以有普適的工具手段，人工智能要在教育信息化生態中發揮作用，進而帶動生態系統進化升級，不但需要明確其優勢與資源，還需明確其局限與代價。因此，不僅需要從工程技術角度進行分析，更需要從教育教學過程角度進行分析，而當前從教育教學活動微觀過程對于人工智能教育應用進行分析的工作做得還很不夠，這不利于廣大教育研究者與實踐者客觀把握人工智能及其教育應用。

人工智能教育應用，在宏觀層面上是“智能化領跑教育信息化2.0”（王珠珠， 2018），在微觀層面上是計算機教育應用的增強與擴展。因此，本文嘗試探索如下問題：第一，人工智能為計算機教育應用帶來了什么？第二，人工智能是如何實現教學自動化的？即其實現教學自動化的方法。第三，人工智能教育應用有何局限？限度何在？

本文通過綜合分析文獻和邏輯思辨回答上述問題，采用文獻研究法、歷史研究法和案例研究法。“歷史研究是尋找事實，然后使用這些信息去描述、分析和解釋過去的系統過程”（維爾斯曼， 1997， p. 278）。為更好地理解人工智能教育應用，我們回溯到早期的教學機器研究，梳理關鍵事件與系統，嘗試對計算機教育應用的歷史做概括。案例研究是對某一有邊界的系統（bounded system）的深度描述與分析;案例是一種分析單位，而非特別的數據收集和分析方法，進行案例研究時通常更在乎“情境中的解釋或理解”，而非假設檢驗（Merriam， 2009， pp.40-42）。本文中的案例研究，旨在通過對典型智能教學系統（Intelligent Instructional System）進行對比分析，回答人工智能是如何實現教學自動化的問題。這里所說的智能教學系統取其廣義，即利用人工智能技術干預學習過程的教學或學習支持系統，既包括自身提供特定內容教學信息的系統，也包括在對學習過程和情境進行感知分析的基礎上提出教與學反饋和建議的系統。為保證研究信度，研究者選擇了4個持續時間長（5年以上）且有系列公開發表物的系統，作為專家系統與機器學習智能教學系統的案例，分析其實現教學自動化的方法。

二、計算機與人工智能教育應用：對教學機器的增強與擴展

利用機器輔助或代替人類個體開展教學活動的實踐探索，遠早于數字電子計算機與人工智能的發明。“在教學中利用節省勞力的工具是完全可能的，這樣做并不會使教育機械化，反而可能使教師擺脫許多繁重的例行工作，進行更多真正的教學工作，……那種能夠發展學生的理想、啟發他們的思想的教學工作”（普萊西a， 1979），在21世紀第二個10年快結束時這樣的表達頻繁見于各種教育相關學術會議與論文，但這段話并不是信息技術專家或者教育技術專家在今天說的，而是心理學家普萊西在20世紀前半葉所說。早在1927年，普萊西就設計出了能夠開展個性化教學的機械設備（教學機器），希望可以開啟一個新產業。

早期教學機器利用機械技術，能夠實現（普萊西a， 1979）：①將教學內容分為片段呈現，以框面（frame， 也譯為“幀”）為單位，一個框面或者用兩三句話呈現一小段教學信息，或者呈現一道選擇題或填空題;②在呈現題目框面時，學生可以利用機器的交互裝置（如按鈕）作答，機器即時反饋對錯，根據回答情況跳轉到下一框面（新的教學信息或者另外一道題目）;③機器可以記錄學生答題情況（對錯、次數），可以自動隱藏已掌握的題目（如連續兩次都答對），以防止過量學習。教學機器能夠自動為學生學習提供反饋，并可適應性、選擇性地呈現教學信息。程序教材是專門用于教學機器的教學資源。

斯金納在1956年和1957年發表的兩篇文章（斯金納a， 1979; 斯金納b， 1979）為教學機器奠定了學理基礎，在行為主義心理學作為主導理論的情況下，程序教學的理念被廣為接受，程序教材的開發和實驗被廣為關注。盡管如此，教學機器對教學實踐的影響遠遠不及倡導者的預期。主要的原因有兩方面：一是教學設計理念，正如普萊西在1963年的文章中所反思的，程序教材編制者似乎忘了教師們都明白的道理，人類個體能夠很容易地從大段文本閱讀中學習，而且也具有從錯誤中學習的能力，將知識切成碎片反而可能破壞認知結構的建立（普萊西b， 1979）;二是機械教學機器在信息呈現、教育方式以及記錄、存儲與分析交互過程數據方面有很多局限，適應性很有限。因此，數字電子計算機問世后，教學機器、程序教學研究者立即認識到其巨大潛力，相關研究與實踐也迅速轉向數字世界（布希涅爾， 1979）。

（一）計算機教育應用回顧：交互主體與媒體工具的嬗變與融合

計算機在教育中的功能與應用方式已討論得很充分（如， 科利斯， 2011; 沃森， 2011; Smaldino， et al.， 2008， p. 159）。為更好地從自動化角度分析計算機教育應用，本文根據計算機在微觀教與學活動中學生“感知”到的計算機系統的自治程度將計算機在教學活動中的角色分為交互主體與媒體工具兩類①。

交互主體指計算機利用軟硬件模擬出一個虛擬主體（如：教學代理， pedagogical agent; 學伴， learning companion）或者交互式環境空間，學習者在與之互動的過程中開展學習活動，學習者感到計算機是具備一定自主性的實體，是教學交互過程中的技術主體。這是教學機器傳統的延續。第一個智能輔助教學系統（Intelligent Computer Assisted Instruction， ICAI）SCHOLAR是虛擬主體，它在與學生對話的過程中通過對學生的回答給予指導反饋、回答學生問題等方法教學生南美洲地理知識（Collins & Grignetti， 1975），計算機模擬出能夠進行自然語言對話的教師。多數游戲和模擬教學軟件可被視為環境空間，如PLATO、BEETLE II、River City等，學習者在與計算機虛擬空間互動的過程中開展有指導的“做中學”或者競爭游戲，在這一過程中學習。

媒體工具強調計算機（包括網絡）兩方面的功能：一是多媒體數據的輸入、存儲、傳輸、再現與加工;二是作為“人際”交流合作的媒介。具體來說，包括傳遞再現、創作表達、探究發現、交流合作和監控管理功能（見表1）。在利用這些功能開展教學活動時，計算機更像“工具”，而非“主體”，即計算機不具有目的性與能動性，而是作為師生感官的延伸或者中介作用于特定類型的信息，受行動主體控制。更重要的是，在教與學活動的過程中師生始終有參與感與控制感，是大大小小各種類型決策的決策者。當然，工具對于人的思維與行動方式是有反作用的。正如英國諺語所說，“當你有一把錘子，什么東西看起來都像個釘子”。在解決教與學問題的過程中，媒體工具不但是可利用的資源，也是限制框架，在一定程度上框定了行動者的思維與行動。

進一步分析可以發現，交互主體與媒體工具并非涇渭分明，作為連續體的兩端更為合適。兩者界限模糊的原因有兩方面：一是在對某一技術支持的學習活動進行分析解讀時，視角可以是多樣化的。例如LOGO，可以強調其利用代數、幾何知識與計算機編程語言進行可視化呈現，這時它是創作表達的媒體工具;可以強調學習者利用命令行與其互動，這時它是提供探索機會的交互式學習空間，更具交互主體屬性。二是教師與學生使用同一技術工具的目的、方式不同，因此計算機在活動中的角色存在差異。例如多媒體創作工具，教師用其制作課件、教學軟件等教學材料，對教師而言它是“創作表達”與“傳遞再現”教學知識與技能的工具;學生通常是教師所創作的作品的使用者，對學生而言作品是交互式學習環境，是教學交互活動的技術主體。從這一角度概括計算機教育應用的歷史（見圖1），可以發現：

第一，20世紀50年代末，計算機教育應用濫觴于交互主體。以PLATO①（始于1959年）與SCHOLAR（始于20世紀60年代末，Collins & Grignetti， 1975）為代表的早期計算機輔助教學系統，雖然教學方法不同（前者呈現教學內容并在解題交互中評價學生對內容的掌握情況;后者采用基于自然語言的文本對話），但均強調計算機是具有領域知識的主體，可在交互過程中評價學生，為學生提供適應性教學信息。

第二，20世紀80年代中后期，計算機作為媒體工具蓬勃興起，作為交互主體深入發展，兩者協同發展。計算機多媒體技術和網絡技術發展普及、計算機硬件性能提高、軟件功能逐漸豐富且可用性提升，這些是計算機作為教育媒體工具大行其道的技術基礎，而學校信息技術基礎設施逐漸完善、教師信息技術素養不斷提高以及各國在政策層面加以鼓勵，則是其大范圍應用的社會條件。這一階段值得特別注意的有三個方面：一是“媒體”功能通常是借助“工具”使用來實現的;二是Authorware等多媒體教學軟件創作工具使非專業編程人員，甚至普通教師，也可以創作出“交互主體”類的教學軟件;三是數字視頻技術的發展降低了捕獲、記錄、存儲、處理、傳輸、呈現教學活動的技術門檻，網絡教學平臺實現了網絡資源簡易、快速和低成本發布，并使大規模開展各種同步與異步教學活動成為現實。可以說網絡教育學院的網絡課程、美國麻省理工學院的開放課件（OCW）以及后來的MOOCs課程（尤其是xMOOC）充分利用了計算機網絡的“傳遞再現”和“交流合作”這些媒體功能。

第三，20世紀90年代中后期，媒體工具與交互主體廣泛深度融合。這主要表現在，媒體工具類應用（如網絡課程）中通常會包含交互主體類應用（如教學游戲或者模擬）;反之亦然，虛擬環境空間中也可包含教師的講解視頻。計算機支持的合作學習與MOOC學習中存在更深度的融合。例如MentorChat（Tegos， et al.， 2014; Tegos & Demetriadis， 2017），學生利用網絡即時通信工具（媒體）開展討論，而后臺的程序以智能體（agent）形式參與討論，監控討論過程，根據教師設定的“概念圖”判斷學生對知識內容的覆蓋和掌握程度，并可以在需要時提問學生;Aleven等（2016）探索了如何將Cognitive Tutor整合到edX課程“Big Data in Education”（教育大數據）中，為學生提供處理復雜數據任務的“做中學”經驗，緩解MOOC學習中適應性指導不足的問題。

（二）智能教學系統：人工智能提高交互主體的教學適應性

1. 從CAI到ICAI，再到學習分析

即使到了21世紀，多數基于計算機和互聯網的教學系統仍然只能交互式呈現事先設置好的多媒體教學信息與固定的練習和測試題目，依然很機械，是所謂特設的專門（ad hoc）程序。其根源在于計算機不能“理解”所教的知識，不會“運用”所教的技能（當然，簡單的數學計算、英文單詞拼寫等認知技能除外）（Park & Seidel， 1987）。

人工智能進入教育領域的初衷是提高計算機輔助教學（Computer Assisted Instruction， CAI）軟件的靈活性與適應性（Collins & Grignetti， 1975; 劉清堂， 等， 2016）。1965年第一個專家系統Dendral問世。幾年后，智能計算機輔助教學系統（Intelligent Computer Assisted Instruction， ICAI）SCHOLAR的研發拉開了人工智能教育應用的大幕，隨后迅速涌現的十幾個智能教學系統使ICAI成為一個獨立的研究領域（Park & Seidel， 1987）。此后的研究一直圍繞如何利用人工智能技術促進學生的學習，即實現“教的自動化”②。

Park等（1987）30多年前對于CAI與ICAI區別的探討到今天仍然與現實相符，而且仍然非常具有啟發性。其主要觀點為：就開發目標而言，CAI通常是教育者和培訓者利用計算機技術解決教學問題，提高教學效率與質量;ICAI通常是計算機科學家和認知科學家探索人工智能技術在學習與教學中應用的潛力，系統的技術方面通常是研究的焦點。就理論基礎而言，CAI多依據學與教的原則、教學開發過程以及關于教學的規定性理論;ICAI多基于學與教的認知過程，利用教學的描述性和診斷性理論。就所教學科而言，CAI幾乎涉及所有學科;ICAI主要圍繞結構性強的學科，如數學、編程、醫學診斷、物理等。就系統開發過程而言，CAI多采用ADDIE（Analysis Design Development Implementation Evaluation，即分析—設計—開發—實施—評價）教學系統設計過程模型，團隊通常包括教學設計者、學科專家、計算機開發人員等;不同的ICAI項目的開發過程差異很大，由于多以測試人工智能技術為主要目的，內容則相對更傾向于方便取樣。就系統驗證與評價而言，CAI主要關注教學效果，通常采用多種評價方法;ICAI多以能夠處理特定的教學過程來評價，能夠按照最初的設計來運行即算是達到了預期目標。

對人工智能教育應用專門期刊所發表文章的概要內容進行分析，結果表明，本領域的研究從以技術驅動為主轉向技術與教育共同驅動。International Journal of Artificial Intelligence in Education（IJAIED，《人工智能教育應用國際期刊》）是專門面向人工智能教育應用領域、采用同行評審的學術期刊。對該刊一組高影響力文章①的內容分析表明，20世紀90年代初到21世紀的前10年，本領域研究聚焦于系統評估、建模方法和研究方法，具有強烈的工程化研究取向。而該刊近年來發表的文章和專刊的選題表明，研究越來越注重教育實踐需求和教育實踐問題解決。

隨著在線學習和混合學習的普及，尤其是MOOCs的大規模采用，學習過程和學習資源使用數據迅速積累，人們開始嘗試發掘數據中蘊藏的模式與相關關系，以此促進學習、改進資源、開展學習與教育研究，教育大數據挖掘和學習分析逐漸成為獨立的研究領域（魏順平， 2013）。常規編程與統計分析方法面對大數據捉襟見肘，能夠實現“模式發現與識別”的機器學習技術得以廣泛采用。在學習分析應用中的人工智能從“臺上傳道的圣人”變為“后臺警覺的老大哥”，是隱形的虛擬主體。

2. 智能教學系統的教學方法：輔導與輔導的不同

從教學方法角度看，操練與練習、輔導、模擬、游戲等是CAI軟件與智能教學系統的常用教學方法。對于每種方法，人工智能都能增強計算機的功能，使其具備一定的“理解能力”，從而具備更高的適應性。

輔導（tutoring）這一術語在CAI與智能教學系統中均經常出現，但所指的教學活動不同，是展示CAI與智能教學系統在教學方法上差異的好例子。CAI中的輔導通常指“測試——根據測試情況呈現解釋和說明性教學信息”（對于大多數CAI軟件而言，教學信息和從前測到教學信息的跳轉路徑等均為事先設置好的，無法在教學過程中根據學習情況調整）。VanLehn（2006）提出輔導系統應支持兩層次的循環，外循環（outer loop）用于選擇任務或問題，內循環（inner loop）用于實現對于問題解決過程的逐步（stepwise）反饋、提示與指導。用VanLehn的術語來說，CAI軟件只有外循環，無內循環，而且外循環也多是預設的或者固定的，非生成性的。

智能教學系統中的輔導通常指兩類教學活動：一是模擬人類教師的輔導行為，即蘇格拉底式問答。學生用自然語言與系統“交談”，系統和學生均可以提出和回答問題，是所謂“混合式主動教學（mixed initiative instruction）”，如SCHOLAR（Collins & Grignetti， 1975）、AutoTutor（Graesser， et al.， 2007）。只有計算機“理解”自然語言和特定領域的知識，能夠實現這種靈活性。二是“做中學”的交互式學習環境。系統模擬出一個針對特定問題的交互式問題解決環境，向學生提出問題，學生利用環境中的各種工具解決問題，系統監控學生解決問題的步驟，根據需要提供反饋（指導、提示、問題解決演示等），如Cognitive Tutor（Anderson， et al.， 1995）、BEETLE II（Dzikovska， et al， 2014）。計算機需要自己“會”解決問題，才能做到檢測學生的問題解決狀態，推測學生掌握知識、技能的情況，實時給出有針對性的反饋。用VanLehn的術語來說，智能教學系統實現了兩層次的適應性循環。

Woolf（2009， p. 30）認為智能教學系統應具備生成性、學生建模、專家建模、混合主動（mixed initiate）、交互學習、教學建模及自改進（self-improving）特性。這一說法仍偏向實現層面。綜合上述觀點可以概括出，由于人工智能技術能夠在一定程度上執行技能、理解內容和感知預測（可感知學習情境、學習活動過程和學習者特征），主要用于提高計算機作為教學交互主體的靈活性與適應性。人工智能對計算機教學系統的增強作用、案例及主要實現技術參見表2。表2最右列呈現了系統實現的核心技術類型。智能教學系統是綜合性的（通常包括學科知識模型、學生模型、教學模型和交互界面等模塊，不同模塊的實現技術通常存在差異），如以專家系統為核心的Cognitive Tutor在學生模型模塊利用貝葉斯網絡評估學生對特定知識點的掌握情況（Anderson， et al.， 1995），這是利用機器學習技術從學習過程數據中推斷、挖掘出定性結論。因此，這里只是概要表示其主要技術類型。

三、人工智能實現教學自動化的方法

從核心實現技術的角度看，智能教學系統可以分為專家系統和機器學習兩類。本部分選擇了4個智能教學系統，分析其實現教學自動化的方法。Cognitive Tutor（始于1983， Anderson， et al.， 1995）、AutoTutor（始于1998， Nye， et al.， 2014; Graesser， 2016）是典型的基于專家系統的智能輔導系統。前者是交互式學習環境，發展學生的認知技能;后者是虛擬主體，通過自然語言對話促進學生對概念的理解。Course Signals（始于2008， Arnold & Pistilli， 2012）與WISE+c-Rater（c-Rater始于2009年之前，用于WISE的探索始于2014年左右，Liu， et al.， 2014）的“智能”模塊均采用機器學習技術，但教學功能與外在表現差異很大，前者是針對大學教學的學習分析，利用歷史記錄與學習過程數據預測學生成功學習課程的可能性;后者用于中小學網絡科學探究學習，智能模塊對學生有關科學問題的回答自動進行評分，根據評分結果分配反饋指導語，以促進科學知識的整合學習;兩者的教學信息由人類教師直接提供或通過多媒體學習材料傳遞呈現。四者均有實證研究支持其教學的有效性，前兩個智能輔導系統已衍生出多種大規模應用的商業產品。

（一）以專家系統為基礎的自動輔導

Cognitive Tutor以認知任務分析為基礎，實現認知技能的自動輔導。計算機為學生創建一個高度結構化的問題解決環境，能夠逐步跟蹤、判斷學生的問題解決過程，并適時提供反饋、提示與幫助。為支持特定認知技能的學習（如三角形全等證明），需詳盡分析完成任務所需的陳述性知識和程序性知識，利用產生式系統表征知識，為學生提供解決問題的認知工具，系統跟蹤問題解決過程，將學生表現記錄在學生模型中（Anderson， et al.， 1995; Aleven， et al.， 2009）。Cognitive Tutor成功用于中小學代數、幾何等內容的學習（Koedinger & Aleven， 2016）。

AutoTutor基于某一問題（如“在自由落體的電梯里，小明松開手，手里的鑰匙將怎樣運動？”）與學生開展自然語言（英語，書面或口頭）對話，通過分析學生的回答（自我解釋）促進學生對概念的深度理解。有些版本的AutoTutor能夠感知學習者的情緒和注意狀態，據此調整輔導對話的內容與風格（Graesser， 2016）。AutoTutor通過語義分析和語詞匹配技術分析學生的回答，結合領域知識庫（如自由落體）內容實時為學生生成引導性問題，幫助學生理解。AutoTutor成功用于物理、數學等學科的學習（Nye， et al.， 2014）。

對于給定學科內容的教學過程，舒爾曼（Lee S. Shulman）的教學推理與行動模型是個很好的分析框架，與中小學教師的日常教學實踐過程高度契合。其基本假設是：“教學是觀念交流的活動。教師首先掌握、探索和理解一個觀念，把它轉換為自己的思想，從多個角度去理解它。然后，這個觀點要被重新塑造或修正，直到它能夠被學生所掌握。”（Shulman， 1987）即教學遠不止是課堂上的幾十分鐘，完整的教學過程包括理解、轉化、教學、評價、反思和新的理解六個階段。在教學過程中，不但學生對某一主題的理解有變化，教師的理解同樣在更新。模型中的具體任務可由人完成，也可由計算機完成，根據Anderson等（1995）與Nye等（2014）的文獻的描述，對兩個系統的分析結果見表3。

從這兩個案例看，專家系統類的人工智能教育系統僅實現了教學知識應用的自動化。可見，就完整教學過程而言，計算機能做的實際上很有限，計算機還無法勝任理解教學內容、轉化、反思和形成新的理解等任務，能夠自動化（由計算機完成）的是教學與評價。即“理解”了知識且能“施展”技能的計算機系統，能夠為學生個體或小組提供動態適應的教學（個別化的速度、學習路徑、反饋和練習題目等），并在學習過程中全面評價學生的學習過程與結果（通常是通過更新學生模型來實現）。Cognitive Tutor利用產生式系統（“如果……，那么……”的規則集合）存儲人類專家的內容知識，在恰當的時候針對學生的問題解決給出相關知識。對于Cognitive Tutor而言，課程開發成本高昂主要是因為需要手動為系統提供知識，需要進行詳盡細致的認知任務分析，將專家的陳述性知識和程序性知識顯性化，同時還要轉換為產生式規則輸入計算機，這一過程費時費力。Cognitive Tutor一個學時的教學通常需要100～1，000個小時的開發時間。解決知識獲取難題的途徑有兩個：一是通過創作工具（authoring tool）提高人類專家輸入、管理知識的效率，降低操作的認知難度;二是通過提供范例，簡化知識獲取與表征（Aleven， et al， 2009）。

（二）以機器學習為基礎的自動模式發現與識別

美國普渡大學的Course Signals是學習分析領域的“啤酒和尿布”。該系統2008年左右就已在大學層面部署，基于歷史數據生成數據模型，可利用學生的人口學數據和在線學習過程記錄等數據，預測學生的課程學業表現。教師可選擇在學生學習平臺中呈現紅綠藍信號燈、發電子郵件（系統可為教師生成電子郵件草稿，但是否發送郵件內容由教師決定）提示或者約面談等方法提前干預。（Arnold & Pistilli， 2012）

WISE①+c-Rater利用計算機自動為學生的短文回答評分，為科學探究學習中的簡答題提供自動反饋。WISE單元強調通過學生書面回答科學問題促進學生的科學思維發展。在課堂教學中，教師如何及時為學生的回答提供反饋成為課程實施的難題。研究團隊將美國教育考試中心（ETS）的c-Rater整合到WISE平臺中，利用過去已經評分的針對某些科學問題的學生回答訓練c-Rater文本分類系統生成預測模型，為學生的問題回答評分（分類），并根據得分為學生分配研究者事先擬好的反饋指導，以促進知識整合學習（Liu， et al.， 2016）。

這兩個案例所采用的主要人工智能技術均為機器學習。機器學習不同于人類的學習，它用算法發現樣例特征值之間的相關模式，并利用這些相關模式對新樣例進行分類。有監督的機器學習（supervised machine learning，即由人來明確告訴計算機每個樣例的特征值和類別）的過程如圖2（改編自Raschka & Mirjalili， 2017， p. 3）。監督學習的過程依然需要大量的人工，具體包括：①準備訓練數據，明確每個樣例用哪些屬性來表征以及案例所屬的類別。②選擇機器學習的算法，調整參數。存在大量的機器學習算法，分別適合不同的情境，其選擇主要靠工程試驗驅動，參數調整也是靠研究者的直覺和經驗居多。③準備新的數據。Course Signals高風險學生發現、WISE+c-Rater中的學生回答自動評分都依賴機器學習完成，工作流程類似（見表4），所不同的是樣例特征與類別。從基本邏輯看，兩者都假定以往的樣例（以往學生的學習記錄和以往學生的回答）在未來仍保持穩定。若學習者和學習情境有顯著變化，則訓練出來的模型的預測力就會下降，需要更新訓練數據集或者調整參數，甚至換成其他算法。這一過程不僅耗費人力，而且對執行者的專業能力有很高的要求。

機器學習之所以受到重視，根本原因在于其部分解決了知識“分析（生成）”難題，算法可以從案例中自動發現知識（更準確地說應該是發現模式，即pattern，哪些屬性經常會一起出現，通過屬性之間的相關，在不確定因果的情況下也可以實現具有實用價值的預測）。從根源上看，機器學習所獲知識還是來源于人類，它不過是將隱含于案例中的人類知識挖掘出來。在教育領域，高質量的已標注案例數據集不多見。最容易想到的，也許就是高利害考試中已評分的題目。批改作文的人工成本高昂，標注案例數據豐富，人工智能技術很早就大規模應用于ETS的GRE、托福等考試的作文評價也就不足為奇了。但機器學習技術的局限在于：一是需要大量的實例，如要為作文評分，系統需要某一作文題目下不同級別的文章實例，機器運用算法從這些文章中發現不同分值文章的特征;二是分類機制難以解釋;三是特征設定還需要人工完成;四是缺乏常識，評分系統實際上并不能理解文字的含義，無法像人一樣感知、理解文章。這樣造成的后果就是非常新穎且有創造性的作文很可能被判低分。

四、人工智能實現教學自動化的限度

人工智能實現教學自動化的限度取決于人工智能研究的進展和智能教學系統的研發，以及社會所設定的教育教學目標、模式與組織為智能教學系統發揮作用留下的空間。鑒于本文主要圍繞智能教學系統開展分析，因此僅關注人工智能與智能教學系統的局限造成的自動化限度。盡管前文提及目前本領域應用研究已不再是單純技術驅動，但技術還是最活躍的因素，這其中不但包括人工智能自身的發展，更重要的是新技術如同電解鋁技術一樣能夠“解鎖”隱藏在數據礦山中的知識，可能帶來解決老問題的新途徑。例如，WISE+c-Rater在采用新的機器學習方法后，預測模型訓練所需的人工干預大幅度降低，性能卻有所提升（Liu， et al.， 2016）。這是大規模采用人工智能技術為學生科學探究過程提供反饋的很好的起點。

（一）人工智能技術的局限

斯加魯菲（Scaruffi， 2017， p. 28）認為人工智能近年來取得的進展更多應歸功于計算機性能的提升與數據的積累，而非基本思想和方法的突破。當前人工智能技術主要存在如下局限：

第一，常識與符號接地難題。常識指他人能夠理解并認為是顯而易見的事情（明斯基， 2016， p. 172）。例如，蘇珊出門購物時，她的頭有沒有和她一起去（平克， 2015， p. 199）。由于缺乏常識，即使最常規的工作也無法由計算機完全負責——它會犯人類覺得匪夷所思的錯誤。專家系統難以捕捉和表征常識（危輝， 等， 1999）。機器學習系統缺乏常識導致性能受數據集影響而不穩定，如Google自動翻譯的句子回饋到Google系統后導致機器翻譯質量下降（Scarffi， 2017）。符號接地問題或許是計算機不具備常識的重要原因，即對計算機而言語詞只是形式系統中的符號，未與現實世界建立關聯。作為形式系統，計算機的“理解”只是無意義、無體驗的數值計算或符號匹配。松尾豐（2016， pp.78-79）認為將符號與意義連接起來需要“具身化”，如果沒有能夠與外界進行交互作用的身體則無法掌握事物的概念。無常識與符號不接地導致計算機無法真正理解語義，當前令人印象深刻的機器翻譯和語音識別都是借助統計語言模型實現的（吳軍， 2014， pp.27-40）。但不僅聊天機器人難以維持多輪次的會話，限定在特定領域的自然語言輔導進展也非常艱難。由于難以恰當地處理學生的主動提問，對話輔導系統中學生主動提問的情況最終幾乎消失（Graesser， 2016）。

第二，遷移難題。今天實用的人工智能系統都是所謂“弱人工智能”，即只能完成特定任務，難以遷移到其他情境（Yao & Zhou， 2018， p. 219）：下棋的系統聽不懂人說話;手寫識別的系統不會證明數學定理;同為專家系統，診斷血液病的系統無法為特殊需要兒童制定教學計劃。專業問題解決能力難以跨領域，其根源是問題解決所需知識的領域特定性、情境性與主體性。當今社會，人類專家終其一生也只能在有限的一個或數個領域中有專長，這樣的跨領域似乎對機器要求太高了。但是，當前深度學習系統的訓練過程表明，與人類個體相比，現有技術所存在的問題是在學習過程中缺失抽象概括能力：兒童只需要見過幾只貓或者貓的圖片就能認出幾乎所有的貓，而機器學習系統需要數以萬計貓的圖片（Le， et al.， 2012）。

第三，能耗難題。目前人工智能系統依托馮·諾伊曼體系計算機，在執行對人類大腦而言輕而易舉的工作時，它消耗的能量遠遠高于人類大腦。相比之下，人類的大腦是奇跡：葡萄柚大小的一塊物質中，存在僅僅消耗20瓦電能就可以高效運轉的220億個神經元;讓一臺傳統計算機擁有類似的認知能力，需耗費上億瓦特的電量，以及一個足球場大小的處理器（凱利， 等， 2016， p. 107）。在研究探索試驗階段，高能耗不是大問題，但大規模常態化應用，大規模計算的能耗和環保代價是必須要考慮的。例如有關比特幣“挖礦”對于氣候可能產生的影響的研究表明，到2033年比特幣挖礦產生的碳排放足以讓全球溫度升高2℃（Mora， et al.， 2018）。

（二）智能教學系統的局限

作為人工智能教育應用載體的智能教學系統受到人工智能與教育教學兩方面的制約，目前智能教學系統存在的主要局限為：

第一，設計難題。即使人工智能存在上述局限，但其在支持學與教方面仍有巨大的應用空間。問題在于人類擁有如此強大靈活的學習技術的時間并不長，還未發展出能夠充分發揮其作用的理論方法與組織制度，而且人工智能技術本身仍不斷有突破，并不穩定，這增大了認識其起作用的條件與方式的難度。設計的難題之一是計算機的角色定位。研究者自然地將人類教師的教學行為遷移到智能環境中，如AutoTutor的設計從研究人類教師和同伴的輔導活動開始（Nye， et al.， 2014）;Cognitive Tutor開始時采用“教師輔導”隱喻，但后來發現并不合適，作為交互學習環境更為恰當，但木已成舟，不好更改了（Anderson， et al.， 1999）。設計的難題之二是“人—機”關系問題。應該給人類教師和學生多大的選擇與控制的空間？是增強還是替代教師？早期的系統多是封閉系統，從設計、開發到應用，從目標、內容到功能設定，教師均沒有機會參與;有些新一些的系統（如ASSISTments），教師是內容、反饋等的主要決策者和提供者。Baker（2016）認為計算機擅長快速掃描和分析大量數據，缺點是難于改變，而人類教師則相反，人與機器是天然的合作者。Course Signals在這方面已經做出了很有成效的探索。設計的難題之三是具體到特定的智能教學系統，尤其是智能輔導系統，系統需要“自主”做出與教學活動密切相關的決策，甚至需要交代決策的依據和可能的后果，這要求功能與活動設計者深入了解教與學活動的過程，需要開發團隊整體上具備一位高效教師所需的全部知識，并將其編碼到系統中。對開發團隊而言，這些知識分布在不同成員的頭腦中，如何將其整合在一起是個挑戰。

第二，開發遷移難題。智能教學系統開發的數學與技術門檻很高。人工智能系統是以知識或數據為中心的計算機系統，而當前開發者訓練仍以面向過程的事務處理為主。開發范式的轉換不但發生在軟件開發技術層面，而且發生在背后的數學原理、方法與系統設計思路層面，其難度遠高于常規過程處理程序的開發，造成高昂的開發成本。這導致早期ICAI開發者主要是計算機科學和人工智能研究者，而非教育培訓領域研究者與實踐者（Park & Seidel， 1987），這一局面直到今天似乎也并沒有太大改觀。智能教學系統的開發費時費力。對于專家系統而言，獲取與表征知識的成本很高，在早期Cognitive Tutor中一條產生式規則的識別、表征與編碼需要10個小時左右（Anderson， et al.， 1995），小型系統的規則數量也數以百計，復雜系統有成千上萬條，專門的創作工具對提高效率有幫助，但只是提高了部分操作的速度，并未降低構建專家系統的認知復雜度。機器學習盡管可自動發現與識別模式，但應用到新領域時，發現整理樣例、調整算法參數的工作量也是巨大的。人工智能系統的技術與認知復雜性導致其更新升級的難度也更大。盡管人類知識具有穩定性，但在教育領域，變化是常態。就教育內部而言，課程標準、考試要求、教材等幾年就要更新一次，智能教學系統也面臨更新的壓力。定期升級對于產品廠商也許是好事，但是對于社會總體成本而言，不易評估。

第三，生態化應用難題。智能教學系統如何融入現有教育系統，尤其是學校教育？盡管人工智能的教育應用具有邏輯必然性，但對于已運行在“教師、黑板、教科書”生態中的學校教育而言，智能教學系統是“外來物種”。新物種進入已有生態，要想在生態系統中起作用，必然需要打破已有的平衡，建立新的平衡。Cognitive Tutor在匹茲堡學區的實驗取得成功的原因之一，是研究者擁有重構課程與教學的權力與資源（Koedinger， et al.， 1997），甚至可以說研究者按照Cognitive Tutor的需求，重新設計了數學課程與教學。ASSISTments之所以得到大規模的應用，部分原因是研究者放下身段，以支持與服務者的身份耐心傾聽一線數學教師的需求（該研究團隊核心成員曾做過中學數學教師， Heffernan， 2014）。但相當數量的開發者做不到這兩點，通常只是有個好主意、創造出了可能有用的技術，開發出原型系統后到中小學做做測試。例如，有研究者（Johnson & Lester， 2016）反思當時（2000年左右）覺得動畫教學代理（animated pedagogical agents）是個好點子，但到底教學需要不需要，到底教學系統需要不需要，其實并不確定。這樣的研究對于領域創新發展而言也是必不可少的，但外加給教育的痕跡明顯，形成可持續的產品/項目的難度比較大。另外，即使是“超脫”于課程教學活動之上的學習分析系統，要想起作用，也需要教學方法上的調整，而調整的背后也許是學科內容及其學習過程本質觀念上的變化。例如，Course Signals要求有更多線上活動，要求教師在課程中設計階段性評價任務，這對部分人文藝術課程提出了挑戰：這些課程很少有過程性數據（Sclater， et al.， 2016）。其隱含的理念是學生學習這類學科需要很長時間的體驗和積累，最后形成整體性的理解與作品，這一過程是難以分解的。在這種課程中使用學習分析系統，也許還沒有到削足適履的地步，但改變教學活動的設計是必需的。

第四，識別與評價難題。從用戶的角度而言，智能教學系統難以識別和評價。首先，人工智能是后臺的實現技術，不像多媒體學習資源，很直觀，教師和學生能迅速判斷。其次，人工智能只是實現適應性教學的方法之一，在有些情況下它還是實現起來很復雜而且實際效果一般的技術。在電子消費品市場，很多標稱“人工智能”的產品是名不副實的（松尾豐， 2016， pp.30-33）。對于智能教學系統，若此類事情發生，是否道德？再次，智能教學系統的適應性和學習路徑的復雜動態性導致適用于普通教學資源（如多媒體課件、CAI軟件、網絡課程）的評價方法（如專家評價）難以應用于智能教學系統。在以研究為目的的智能教學系統評價中，多數依然僅關注系統是否實現了所設計的功能、是否能夠按照預期運行，而且缺乏對其教學效果的嚴格實驗。需要建立智能產品的評價測試規范，以強調其學習效果和支持適應性學習的合理性與有效性。

第五，倫理難題。這里用“倫理”一詞指代技術應用對于人與人之間各種關系的影響。智能教學系統的大范圍、長期應用必然涉及倫理問題，諸如版權、責任劃分、支持與限制、代價和隱私保護等。隱私保護已受到普遍關注，這里不再贅述。這里所說的版權問題源自智能教學系統自身的特點。印刷教材如同“斷了線的風箏”，無法與外界交換信息，擁有了物理實體就獨占其內容與功能，但當前的多數智能教學系統卻如同“木馬”：它與系統所有者（廠商或者服務提供商）的遠程數據交換可能比與師生的操作交互更為密切，在師生使用過程中產生的數據和生成性資源都可能被回傳到服務器，以優化教學系統的性能。由師生（很可能是付費）的使用行為“喂大”的系統，師生卻很可能只有短時間的使用權，而版權卻屬于智能教學系統的所有者。這是否公道？是否可持續？也許需要新的版權框架。對于學校與智能教學系統提供者的責任劃分問題，可以設想，如果學生的大量時間花在通過與智能教學系統互動來學習，那么學生的學業成績該由誰負責任？目前的人工智能教育應用多以“大規模個性化”和“精準教學”為目標，在班級授課制大規模推行之后，實際上一直有通過分班、分層、教師輔導和同伴輔導等教學組織形式實現教學個性化的努力，尤其是同伴輔導，很多研究證明了其對于輔導者和被輔導者的益處（斯萊文， 2007， pp. 222-223）。過于強調利用技術實現個性化，讓學生更多與機器互動，如果長期、大范圍實施，那么我們的社會會付出怎樣的代價呢？對于那些基于歷史數據實現的系統，其適應在多大程度上是“適應”，在多大程度上是限制呢？兩者有沒有清晰的界限？

五、結語

本文從微觀“實現”層面上探討了人工智能技術如何實現“教”的自動化。“實現”之所以打了引號，是因為這里強調從教育教學過程的視角，而非系統架構和系統開發的視角，分析人工智能教育應用完整過程中的人機分工問題，以呈現人工智能到底“自動化”了什么以及如何“自動化”。

首先，人工智能為計算機教育應用帶來了什么？計算機教育應用的歷史研究表明：在教學活動層面，總體上表現為計算機作為交互主體與媒體工具的嬗變與融合;人工智能技術主要增強了計算機作為交互主體的靈活性與適應性：智能系統在一定程度上能夠“行動”，即在結構化環境中可以施展認知技能解決問題;能夠“理解”，用自然語言與學生共同建構解釋并提供指導反饋;能夠“感知”，從數據中發現、識別模式并做出預測。

其次，人工智能是如何實現教學自動化的？針對典型智能教學系統的案例研究表明：以專家系統為核心實現技術的智能輔導系統（如Cognitive Tutor、AutoTutor）主要實現了人類學科知識和教學知識的自動化應用，知識采集和分析尚需人工完成;以機器學習為核心實現技術的學習分析系統（如Course Signals）與自動指導反饋（如WISE+c-Rater），從歷史數據（學習過程與行為記錄、已評分學生回答等）中發現模式，用于預測與識別現象（高風險學生、學生回答類別），其自動化的是模式發現與應用，而準備歷史數據、選擇與調整算法需要人工完成。人工智能在教學“完整”過程中的作用還非常有限，靈活性與適應性還比較差，代替人類教師還很不現實。智能教學系統在增強教師方面比替代教師有更廣闊的空間。

最后，人工智能應用于教育領域有何限度？本文主要對技術與系統的局限作分析，這種局限主要源自人工智能技術的缺乏常識與符號不能接地、遷移困難以及高能耗，而智能教學系統則存在設計難題、開發與遷移難題、生態化應用難題、評價與識別難題以及倫理難題等。

需要特別說明的是，分析局限不是為了否定，而是為了更全面和客觀地認識，是為了在實踐層面更合理地定位，在研究層面更準確地尋找創新的邊緣與突破點。

[參考文獻]

布希涅爾. 1979. 在將來的教學系統中計算機的作用[M]. 普萊西，斯金納，等. 程序教學和教學機器. 劉范，等，譯. 第2版. 北京：人民教育出版社：323-351.

科利斯. 2011. 計算機在教育中的應用（Computers in Education）[M]. T. 普洛波，D. P. 埃利. 教育大百科全書：教育技術. 劉美鳳，宋繼華，等，譯. 第2版. 重慶：西南師范大學出版社：85-91.

劉清堂，吳林靜，劉嫚，范桂林，毛剛. 2016. 智能導師系統研究現狀與發展趨勢[J]. 中國電化教育（10）：39-44.

馬文·明斯基. 2016. 情感機器：人類思維與人工智能的未來[M]. 王文革，程玉婷，李小剛，譯. 杭州：浙江人民出版社.

麥爾荀伯格，庫基耶. 2014. 大數據教育篇：教學與學習的未來趨勢[M]. 臺北：遠見天下文化.

皮埃羅·斯加魯菲（Piero Scaruffi）. 2017. 智能的本質[M]. 任莉，張建宇，譯. 北京：人民郵電出版社.

平克. 2015. 語言本能：人類語言進化的奧秘[M]. 歐陽明亮，譯. 杭州：浙江人民出版社.

普萊西a. 1979. 一架以練習材料進行自動教學的機器[M]. 普萊西，斯金納，等. 程序教學和教學機器. 劉范，等，譯. 第2版. 北京：人民教育出版社：57-64.

普萊西b. 1979. 教學機器（和學習理論）的危機[M]. 普萊西，斯金納，等. 程序教學和教學機器. 劉范，等，譯. 第2版. 北京：人民教育出版社：120-131.

斯金納a. 1979. 學習的科學和教學的藝術[M]. 普萊西，斯金納，等. 程序教學和教學機器. 劉范，等，譯. 第2版. 北京：人民教育出版社：65-81.

斯金納b. 1979. 教學機器[M]. 普萊西，斯金納，等. 程序教學和教學機器. 劉范，等，譯. 第2版. 北京：人民教育出版社：82-105.

斯萊文（Slavin， R. E.）. 2007. 教育心理學[M]. 姚梅林，等，譯. 北京：人民郵電出版社.

松尾豐. 2016. 人工智能狂潮：機器人會超越人類嗎？[M]. 趙函宏，高華彬，譯. 北京：機械工業出版社.

王珠珠. 2018. 教育信息化2.0：核心要義與實施建議[J]. 中國遠程教育（7）：5-8.

危輝，黃旗明，潘云鶴. 1999. 常識：知識獲取的瓶頸[J]. 計算機科學，26（9）：17-19.

魏順平. 2013. 學習分析技術：挖掘大數據時代下教育數據的價值[J]. 現代教育技術（2）：5-11.

維爾斯曼（Wiersma， W.）. 1997. 教育研究方法導論[M]. 袁振國，等，譯. 北京：教育科學出版社.

沃森. 2011. 計算機輔助學習（Computer-assisted Learning）[M]. T. 普洛波，D. P. 埃利. 教育大百科全書：教育技術. 劉美鳳，宋繼華，等，譯. 第2版. 重慶：西南師范大學出版社：77-81.

吳軍. 2014. 數學之美[M]. 第2版. 北京：人民郵電出版社.

約翰·E. 凱利，史蒂夫·哈姆. 2016. 機器智能[M]. 馬雋，譯. 北京：中信出版社.

張志禎，張玲玲，李芒. 2019. 人工智能教育應用的應然分析：教學自動化的必然與可能[J]. 中國遠程教育（1）：23-35.

Smaldino， S. E.， Russell， J. D.， Heinich， R. et al. 2008. 教學媒體與技術[M]. 郭文革，等，譯. 第8版. 北京：高等教育出版社.

Aleven， V.， McLaren， B. M.， Sewall， J. & Koedinger， K. R. （2009）. A new paradigm for intelligent tutoring systems： Example-tracing tutors. International Journal of Artificial Intelligence in Education， 19：105- 154.

Aleven， V.， Baker， R.， Wang， Y.， et al. （2016）. Bringing non-programmer authoring of intelligent tutors to MOOCs. Proceedings of the Third ACM Conference on Learning @ Scale， 313-316. https：//doi.org/10.1145/2876034.2893442

Anderson， J. R.， Corbett， A. T.， Koedinger， K. R. & Pelletier， R. （1995）. Cognitive tutors： Lessons learned. The Journal of The Learning Sciences， 4（2）， 167-207.

Arnold， K. E. & Pistilli， M. D. （2012）. Course signals at Purdue： Using learning analytics to increase student success. ACM International Conference Proceeding Series. Doi： 10.1145/2330601.2330666.

Baker， R. S. 2016. Stupid tutoring systems， intelligent humans. International Journal of Artificial Intelligence in Education， 26（2）：600-614.

Brundage， M.， Avin， S.， Clark， J.， Toner， H.， Eckersley， P.， Garfinkel， B. et al. 2018. The malicious use of artificial intelligence： Forecasting， prevention， and mitigation. https：//maliciousaireport.com/

Collins， A.， & Grignetti， M. 1975. Intelligent CAI. Final Report （1 March 1971-31 August 1975）. [2018-10-10]. https：//eric.ed.gov/？id=ED11 4089

Dzikovska， M.， Steinhauser， N.， Farrow， E.， et al.. 2014. BEETLE II： Deep natural language understanding and automatic feedback generation for intelligent tutoring in basic electricity and electronics. International Journal of Artificial Intelligence in Education， 24（3）：284-332.

Graesser， A. C.， Jackson， G. T. & McDaniel， B. （2007）. AutoTutor holds conversations with learners that are responsive to their cognitive and emotional states. Educational Technology， 47（1）：19-23.

Graesser， A. C. 2016. Conversations with AutoTutor help students learn. International Journal of Artificial Intelligence in Education， 26（1）：124-132.

Grandbastien， M.， Luckin， R.， Mizoguchi， R.， & Aleven， V. （2016）. Preface to the IJAIED 25th anniversary issue. International Journal of Artificial Intelligence in Education， 26（1）：1-3.

Heffernan， N. T.， & Heffernan， C. L. （2014）. The ASSISTments ecosystem： Building a platform that brings scientists and teachers together for minimally invasive research on human learning and teaching. International Journal of Artificial Intelligence in Education， 24（4）：470-497.

Johnson， W. L.， & Lester， J. C. （2016）. Face-to-face interaction with pedagogical agents， twenty years later. International Journal of Artificial Intelligence in Education， 26（1）：25-36.

Koedinger， K. R.， & Aleven， V. （2016）. An interview reflection on “intelligent tutoring goes to school in the big city”. International Journal of Artificial Intelligence in Education， 26（1）：13-24.

Le， Q.V.， Ranzato， M.， Monga， R.， Devin， M.， Corrado， G. S.， Chen， K.， Dean， J.， & Ng， A.Y. （2012）. Building high-level features using large scale unsupervised learning. 2013 IEEE International Conference on Acoustics， Speech and Signal Processing， 8595-8598.

Liu， O. L.， Brew， C.， Blackmore， J.， Gerard， L.， Madhok， J.， & Linn， M. C. （2014）. Automated scoring of constructed-response science items： Prospects and obstacles. Educational Measurement： Issues and Practice， 33（2）：19-28.

Liu， O. L.， Rios， J. A.， Heilman， M. ， Gerard， L. and Linn， M. C. （2016）.? Validation of automated scoring of science assessments. J Res Sci Teach， 53： 215-233. Doi：10.1002/tea.21299.

Mora， C.， Rollins， R. L.， Taladay， K.， Kantar， M. B.， Chock， M. K.， Shimada， M.， & Franklin， E. C. （2018）. Bitcoin emissions alone could push global warming above 2°C. Nature Climate Changevolume， 8（11）：931-933.

Merriam， S. B. 2009. Qualitative research： A guide to design and implementation. San Francisco： Jossey-Bass.

Nye， B. D.， Graesser， A. C.， & Hu， X. （2014）. AutoTutor and family： A review of 17 years of natural language tutoring. International Journal of Artificial Intelligence in Education， 24（4）：427-469.

Park， O.， & Seidel， R. J. 1987. Conventional CBI versus intelligent CAI： Suggestions for the development of future systems. Educational Technology， 27（5）：15-21.

Raschka， S.， & Mirjalili， V. （2017）. Python machine learning. Birmingham： Packt Publishing Ltd.

Sclater， N.， Peasgood， A.， & Mullan， J. （2016， April）. Learning analytics in higher education： A review of UK and international practice. Retrieved December 12， 2018， from https：//www.jisc.ac.uk/sites/default/files/learning-analytics-in-he-v3.pdf

Shulman， L. （1987）. Knowledge and teaching： Foundations of the new reform. Harvard Educational Review， 57（1）：1-22.

Tegos， S.， Demetriadis， S.， & Tsiatsos， T. 2014. A configurable conversational agent to trigger students productive dialogue： A pilot study in the CALL Domain. International Journal of Artificial Intelligence in Education， 24（1）：62-91.

Tegos， S.， & Demetriadis， S. 2017. Conversational agents improve peer learning through building on prior knowledge. Journal of Educational Technology & Society， 20（1）： 99-111.

VanLehn， K. 2006. The behavior of tutoring systems. International Journal of Artificial Intelligence in Education， 16（3）：227-265.

Woolf， B. P. 2009. Building intelligent interactive tutors. Burlington：Morgan Kaufmann Publishers.

Yao， M.， Jia， M.， Zhou， A. 2017. Applied artificial intelligence： A handbook for business leaders. ISBN 978-0-9982890-5-2 （Kindle） （kindle edition）.