[摘? ?要] 如何推進基于隱私保護和開放共享的教育數據治理成為深化人工智能應用過程中需要迫切回應的兩難議題。以此為語境,文章從隱私保護與開放共享的矛盾關系視角分析考察人工智能時代教育數據治理的迫切挑戰、現實境遇和變革路徑。研究發現:(1)教育數據的開放共享要求不斷提升,但隱私空間卻可能被嚴重壓縮;教育大數據的開放應用場景將不斷豐富,但隱私保障難度卻空前提升;(2)隱私保護制度缺失導致的教育數據泄漏風險、開放共享支持不足造成的教育應用場景受限等正在成為教育數據治理面臨著的嚴峻考驗;(3)促進教育數據治理變革需重構教育數據治理的制度倫理空間、強化教育主體的安全保障意識和能力、拓展基于技術升級的開放應用可能。
[關鍵詞] 人工智能; 數據治理; 教育; 隱私保護; 開放共享
[中圖分類號] G434? ? ? ? ? ? [文獻標志碼] A
[作者簡介] 田賢鵬(1990—),男,河南商城人。副教授,博士,主要從事教育政策與管理研究。E-mail:xianpengtian @163.com。
一、引? ?言
人工智能不僅是一場技術革命和產業革命,更是一場數據革命。無論接受與否,數據正在像空氣和水一樣成為不可或缺的基本生存資源,每一個虛擬或者實體的存在都將成為基于數據的信息綜合體[1]。在教育領域,學校、教師和學生等相關主體都已被卷入這場聲勢浩大的數據革命之中,基于數據分析的電子書包、智能教室、智慧校園等相關應用正在滲透到教育教學改革的全過程之中,并且全方位地重塑教育治理的理念、方法和路徑。隨著智能應用場景的不斷豐富和深化以及商業資本的推波助瀾,數據革命對于學校、教師和學生的這種影響還將持續地走向深化。如何通過教育數據治理變革來科學處理數據產生、存儲、使用和管理過程中的隱私保護和開放獲取的關系,無疑會成為一個迫切的新時代議題。正如控制論創始人維納(Norbert Wiener)所言:“技術的發展,對善和惡都帶來了無限的可能性。”[2]人們正在一方面享受著數據應用帶來的各種便捷和福利,另一方面卻遭受著個人隱私空間被不斷壓縮的煩惱和弊端。由于教育數據治理的失范,學生和教師數據信息被公開叫賣、侵犯學生和教師數據隱私等現象頻繁發生,數據壟斷、授權應用場景受限等諸多問題也在不斷出現。推動教育數據的隱私保護和開放獲取成為教育治理變革亟待破解的當務之急,但已有研究對此問題的關注卻嚴重不足。
二、人工智能時代教育數據治理
面臨的迫切挑戰
在盧西亞諾(Luciano Floridi)看來,“人工智能使得數據痕跡可以被記錄、監控、處理,并被廣泛應用于社會、政治或商業等各種目的。”[1]怎樣使用數據并使得數據價值得到合理發揮是教育數據治理迫切需要回答的問題。從治理訴求看,隱私保護與開放共享是人工智能時代教育數據治理的核心內容。
(一)教育數據開放共享訴求日趨強烈,但隱私空間卻被嚴重壓縮
無論從教育應用還是商業應用的角度看,數據自身并沒有特別的價值,其價值是在使用過程中實現的,開放共享是發揮和提升數據應用價值的前提基礎。對于應用決策而言,數據只有經過系統整合、形成相互支持的應用價值鏈,才能在教育教學改革過程中發揮有效的價值。但由于開放共享準則與機制不完善,數據在不同部門和學校之間無法實現互通共享,信息孤島、數據壟斷等造成的共享壁壘嚴重阻礙了數據應用價值的最大程度發揮。推動開放共享成為人工智能時代教育數據治理需要回應的迫切訴求,且隨著人工智能應用場景的深化和擴展,這種訴求也會愈來愈強烈。美國教育統計中心早在2009年就專門組織專業力量進行了“通用教育數據標準(CEDS)”的研發,以簡化不同教育機構和學校之間的數據交換和比較過程,促進數據在橫向和縱向層面的共享[3]。紐約大學、加州大學伯克利分校、華盛頓大學等則聯合共建大數據生態系統(Ecosystem for Big Data),以期充分利用日益增加的共享數據進行教育管理和學生分析。
但對誰開放共享數據、如何開放共享數據則具有高度復雜性和系統性,關涉各方面利益主體的相關利益及其隱私保護。也就是說,教育數據的開放共享是有限度的,其不僅與教育部門和學校的治理權限和能力有關,還與學生和教師的隱私權利保障有關。一方面,擴大教育數據的開放共享空間雖然有利于提升數據的應用價值、形成相互支持的應用價值鏈,從而更好地服務于教育教學改革,但卻有可能侵犯到教師和學生等相關主體的隱私空間;另一方面,限制教育數據的開放共享空間雖然有利于保護教師和學生等相關主體的隱私空間,但卻有可能束縛教育數據應用價值的發揮,導致教育教學改革無法享受人工智能發展帶來的數據應用紅利。從人工智能的不可逆態勢看,推動教育數據開放共享是必然要求,促進教師和學生的數據隱私保護也是必然要求。
(二)基于教育大數據的開放應用場景不斷豐富,但隱私保障難度卻空前提升
為了最大化地挖掘數據的教育應用價值和商業應用價值,人工智能在教育教學改革中的應用場景將必然得到進一步深化和拓展,但由此帶來的隱私保障難度也將不斷提升。如何避免成為“裸奔的透明人”成為人工智能時代教育數據治理面臨的突出挑戰。伊恩·艾瑞斯(Ian Ayres)就曾擔憂地指出:“大數據分析減少了我們的有效隱私空間,我們生活在了一個越來越無法隱藏我們是誰、我們做了什么以及我們會做什么的世界里。”[4]基于教育大數據的分析應用已經廣泛進入課堂、教室和校園,而且這種應用正在隨著人工智能技術的提升而愈加深化和多元。但與傳統信息環境不同,人工智能不僅破壞了一種基于匿名的隱私平衡,而且能在增加或減少信息摩擦上給信息智能體授權,其全方位場景應用在一定程度上架空了用戶的選擇權,迫使用戶不得不做出某些被動的選擇[5]。
通過對教師和學生的日常行為習慣和學習行為特征數據進行深度的挖掘分析,可以為教育教學和校園綜合治理提供決策支撐,但這也在無形中將教師和學生的隱私暴露在了第三方空間之中,嚴重削弱了教師和學生對于自身隱私控制的實際能力。從價值角度看,數據是被動的客觀存在,其到底是發揮積極功能還是消極功能則取決于使用主體。在教師和學生眼里,數據是其個人隱私,應當得到必要尊重和保護;在學校管理者眼里,數據是推進改進教育教學的支撐,應當得到有效的記錄和保存;在商業開發者眼里,數據是拓展商業利益的工具,通過數據分析可以展開有針對性的商業營銷。但隨著教育應用場景的拓展,數據產生的來源將愈來愈廣、過程將愈來愈復雜、規模將愈來愈龐大、使用目的也將愈來愈多元,而這顯然會提升數據隱私保障的難度系數。
三、人工智能時代教育數據治理的現實境遇
從來源看,隨著人機交互的不斷深化,組織層面的學校、個體層面的教師和學生都將成為海量隱私數據的生產者和攜帶者,但卻很難成為這些隱私數據的掌控者。事實上,大量的教育應用數據正在被第三方機構所掌控,學校、教師和學生往往成為被動的數據提供者,而由此帶來的教育數據治理問題也將空前嚴峻。
(一)隱私保護制度缺失導致教育數據泄漏風險加大
人工智能時代的萬物互聯、人機共存使得任何主體行為的發生都將被不可避免地記錄在數據網絡系統之中,無處不在的監控無論對于教師還是學生都將是一種恐怖的存在[6]。人的信息存在方式賦予了人權的數字屬性,使得教師和學生由“自然人”轉向“信息人”。
一方面,作為一項技術,人工智能是在不斷發展和突破的,而這也意味著基于現有技術的人工智能應用可能存在各種各樣的漏洞。事實上,諸如“3D”人臉識別系統、指紋識別系統以及其他相關應用管理系統的安全保障問題已經引起了社會的廣泛關注,“黑客”入侵數據系統的各類困擾也在頻繁發生。教育領域中,智能頭環、“刷臉”報道、“刷臉”簽到等相關應用更是引發了人們對于數據安全問題的深度擔憂。盡管萬物互聯、人機共存給個性化教育實施提供更多可能,但當每一種存在都成為數據的生產者和攜帶者時,數據泄露的渠道和路徑就會增多,相關風險無疑就會越來越高。
另一方面,數據是一種可供生產實踐應用的資源和工具,為了追求應用價值的最大化,相關主體可能在違背教育倫理的情況下濫用數據以謀取非正當性利益。不同于傳統的外顯化侵權,人工智能時代的“算法黑箱”[7]會形成自動化的歧視和侵權“決策”,一旦存在算法歧視、信息控制、侵犯隱私等問題,就會成為連續性的常規動作,產生系統化和機制化的侵權后果。人工智能場景中,教師和學生的數據信息不僅有巨大的教育應用價值,而且其商業開發價值也同樣可觀。壟斷性的數據平臺能夠借助各類教師和學生數據進行非教育目的的營利性行為。
(二)開放獲取支持不夠造成教育數據應用場景受限
不同教育應用場景的數據系統具有相對的自我封閉性,呈現出松散的碎片化特征,難以構成支撐教育決策的完整應用價值鏈。從教育數據治理的角度看,實現基于開放共享的數據整合是充分挖掘教育數據應用價值的前提保障,開放獲取支持不夠會限制和束縛人工智能在教育場域中的應用空間范圍。人工智能應用的巨大優勢在于基于海量數據的精準分析和預測,但其發揮的基礎在于不同系統之間的數據整合和共享。
首先,不同教育數據系統的異質性增加了開放共享的難度。數據產生于行為,在不同的系統,基于學生和教師行為產生的數據記錄方式和內容有所不同。高校信息管理系統建設主要以實現業務功能為導向,在底層數據結構設計方面并沒有構建起統一的數據存儲標準和管理準則,導致大量數據在不同高校信息管理系統之間的存儲形式不一,由此形成了一數多源的“數據孤島”[8]。而且,教育應用市場上的管理信息系統開發主體相對多元,彼此之間并沒有形成基于開放共享的數據基礎架構,導致不同高校管理信息系統之間的相互兼容性嚴重不足。
其次,數據的機構性壟斷造成了教育應用共享的排他性。超級機構平臺可以通過數據生態系統的構建來采集和存儲海量數據,以達到特定的數據控制目的。從性質上講,數據一旦生成就能夠被無限制地復制和應用,但從應用角度講,對誰開放、怎樣開放卻涉及復雜的權利和利益問題。具有壟斷性能力的超級平臺機構為了維護自身的權利和利益往往會拒絕向第三方提供數據共享服務。2019年5月,由中國人民大學發布的國內首份有關數據壟斷的研究報告《互聯網平臺新型壟斷行為的法律規制研究》顯示,數據管理平臺呈現出“贏者通吃,一家獨大”的特點。在美國,諸如Coursera等超級學習平臺已經占有超高的市場份額,并且正在利用自身的數據閉環系統來限制用戶轉移以排斥其他平臺進入,從而達成數據控制的目的。
最后,學校對于技術的不信任阻礙了數據開放共享的進程。由于教育對于技術應用的反應相對遲鈍,導致大數據在教育領域中的應用場景非常有限。從深層原因看,這種反應的相對遲鈍可能源自于學校對于技術的不信任。與國外相比,人工智能在我國的商業應用領域發展較快,企業相關機構的技術接受能力較強,但在教育領域,由于基于技術的數據素養教育缺失,教育管理者、教師和學生的技術接受能力相對較弱,其數據素養提升速度遠遠落后于人工智能的應用發展速度。
(三)教育數據治理中隱私保護與開放共享的關系矛盾難以化解
如何獲取數據涉及隱私保護和開放共享之間的關系平衡和處理。隱私保護要求充分尊重教師和學生的知情權,保障教師和學生的相關隱私不受侵犯;開放共享則要求擴大教師和學生的數據信息整合力度,以便最大化地挖掘數據的應用價值。從根本上看,隱私保護和開放共享之間存在著嚴重的矛盾沖突性。對此,學術界也呈現出了兩種不同聲音:一是從公共視角出發,將教育數據視為一種公共資源,主張強化底層數據架構的頂層設計,推動數據在不同應用主體之間的互通共享;二是從個體視角出發,將教育數據視為一種個人隱私,主張完善數據隱私保護的法律規制,將學生和教師的數據隱私權作為一項基本權利納入隱私權的保障范圍。隨著人工智能在教育場景應用的范圍和深度不斷拓展,兩種聲音此起彼伏。但教育數據治理不可能離開隱私保護而探討開放共享,也不可能為促進開放共享而不顧隱私保護。事實上,人工智能構筑了一個包含無數教育應用場景的、基于數據分析的虛擬空間。只有進入這個空間,才能享受到全新的價值體驗,但進入這個空間也就意味著留下數據,而留下數據在一定程度上就是對自身隱私權的轉讓抑或對自身數據信息的共享。在技術力量的強大驅動下,愈來愈多的教師和學生正在或主動或被動地進入這個空間,一方面意味著愈來愈多的數據隱私侵權問題將有可能會發生,另一方面則意味著愈來愈多的數據共享價值將會得到更大程度的挖掘。如何在保障教師和學生隱私信息的同時推進數據開放共享,是人工智能時代的教育數據治理必然面臨的兩難選擇。
四、人工智能時代教育數據治理的路徑選擇
人工智能時代,數據權利逐漸成為公民的一項基本權利,推動人工智能時代的教育數據治理變革需充分關照組織層面和個體層面相關主體的矛盾復雜性以及隱私保護與開放共享的內在沖突性。一方面,要將學生和教師的隱私權益置于價值秩序的優先序列,確保教師和學生的合法權益不受侵害;另一方面,要借助人工智能來推動教育教學變革,從而更好地為促進學生健康成長和教師專業發展服務。在此背景下,如何在保障學生和教師隱私不受侵犯的基礎上最大程度地發揮教育大數據的應用價值是人工智能時代教育數據治理不懈的目標追求。
(一)優化教育數據隱私安全保護機制,重構數據治理的制度倫理規范
為了保障數據隱私安全,歐盟早在20世紀90年代中期就制定出臺了《數據保護指令(簡稱DPD)》,確立了“數據主體在收集數據時應給予通知”“未經數據主體同意,不得披露同意數據”等七條促進個人數據保護的基礎原則和制度倫理規范。隨著人工智能開啟的大數據革命的到來,其在《數據保護指令》的基礎上于2018年修訂出臺了《通用數據保護條例(簡稱GDPR)》,進一步賦予數據主體以“刪除權、限制處理權、反對權和自動化個人決策相關權利”,同時在2019年制定出臺了《歐盟人工智能倫理準則(簡稱EGAI)》。此外,針對教師和學生的數據隱私和安全,美國曾先后制定實施了《家庭教育權利與隱私法案(FERPA)》《保護學生權利修正案(簡稱PPRA)》《兒童在線隱私保護法案(簡稱COPPA)》《學生數字隱私和家長權利法案(簡稱SDPPRC)》等相關法規,聯邦教育部則專門建立了首席數據隱私官(簡稱CPO)制度。
與此同時,國內學者也在不斷呼吁建立立體化、多層次的教育數據安全管理機制,例如制定《教育大數據權利法》《個人教育數據保護法》《教育大數據行業公約》[9]等。但從實際的政策行動看,相關的呼吁并沒有得到足夠的重視和響應,泄露教師和學生數據隱私的問題仍然頻繁發生[10]。重構基于教育數據安全保護的制度倫理規范將會愈來愈迫切。
具體而言,可主要從四方面推進:一是在數據收集和使用過程中,要保障教師和學生的知情權,必須經過教師和學生同意后方可進行收集和使用;二是學校不得將教師和學生的數據用于商業營利目的,未經授權不得隨意向任何第三方機構或者個人轉讓;三是要確保學生和教師數據的有效性,嚴格禁止任何捏造、篡改教師和學生數據行為的發生;四是建立教育數據安全管理保障的問責機制,任何泄露教師和學生數據隱私的行為以及違反數據安全保護原則的舉動都應到受到相應的嚴格懲戒。
(二)提升教育決策主體的數據治理能力,強化教師和學生數據安全保護意識
從相對發展看,人工智能在教育場景中的應用更新速度遠超教育數據治理體系重構的速度,而相關主體的數據治理能力的落后則是其關鍵所在。就現實狀況而言,人工智能帶來的突破變革及其對教育發展的滲透影響程度是社會各界所始料未及的,變化之快、力度之大遠超正常想象,但數據準確性不高、一致性不強、標準性不足等問題[11]卻在嚴重制約著其具體應用價值的發揮。如何通過數據治理能力提升來最大限度地挖掘其正向價值、避免負向應用價值,是教育相關主體需要著力回應和解決的迫切議題。對此,有學者認為,應通過設置教育數據治理的組織機構、制定和完善數據通用標準[12]等來促進相關治理體系的完善;也有學者指出,要通過一站式服務中心、數據中心和認證建設,在平臺服務層實現業務流程整合、數據統一規劃治理和管理服務應用標準化[13]等。從深層次看,這些舉措的核心在于提升與人工教育智能發展速度相適應的現代化數據治理能力。
人工智能環境下,教師和學生不僅要有與人溝通交流的能力,在奧恩(Joseph E Aoun)看來,科技素養、數據素養和人文素養將會成為人們充分利用數字世界所必備的基本素養[14]。如何在教育數據治理能力提升的基礎上培養教師和學生的數據素養、強化其數據安全保障意識,也是傳統教育內容體系需要進一步突破和創新的內在要求。首先是提升數據素養在整個教育教學內容體系中的地位,推動數據素養教育進教材和課堂,培養適應人工智能發展的新時代公民,以彌補傳統教育教學中的數據安全保護意識教育缺失問題;其次是優化數據素養教育的過程保障機制,明確應用主體在數據使用過程中的權利和義務邊界,為教師和學生的數據素養能力提升提供立體化、全方位的支持;最后是大力推動教師和學生數據隱私安全保障的政策與法規的制定和落實,并據此完善合法權益保障的相應救濟規則,依法懲戒侵犯教師和學生數據安全的行為。
(三)促進基于區塊鏈的安全保障技術應用,拓展教育數據獲取的開放應用可能
區塊鏈是一種分布式數據存儲、點對點傳輸、共識機制、加密算法等計算機技術的新型應用模式[15],因其具有去中心化、可靠性和可追溯性等特征而被認為是確保數據安全的重要技術突破。目前區塊鏈已經廣泛應用于信用背書、信息加密、智能合約等諸多領域,并且在教育領域也顯現出巨大的潛力[16]。從趨勢特征看,區塊鏈構成了聯結教育數據治理中隱私保護和開放共享的技術載體,為實現數字教育資源共建、共享提供了新的工具和方向。對于教育數據治理而言,首先要從價值層面突出關注數據存儲、挖掘和獲取過程中的應用倫理構建,以確保避免數據使用過程的非法行為發生;其次要從事實層面重點關注技術自身的創新突破,以技術進步彌補傳統工具手段的不足。顯然,區塊鏈技術在教育領域中的應用屬于后者,需要以新技術的進步和創新來回應原有技術的缺陷和漏洞。促進基于區塊鏈技術的教育應用需要從兩方面進行努力。
一方面,深化以區塊鏈技術研究為基礎的教育數據安全保障系統優化,提升技術自身的抗風險性和安全性。正如聯合國教科文組織2019年報告《教育中的人工智能:可持續發展的挑戰和機遇》中所指出的那樣,“構建開放、高質量和包容性強的教育數據系統是人工智能教育可持續發展的重要前提”[17],而基于區塊鏈技術的研究深化則是構建開放、高質量和包容性強的教育數據系統的技術保障基礎。現階段,包括安全保障技術在內的人工智能正處在一個飛速發展的關鍵節點,盡管各種新技術手段和應用層出不窮,但基于基礎研究的底層數據安全架構卻并不完善,數據泄露或者被盜用導致的各種風險仍然廣泛存在。從原理上看,區塊鏈技術的研究深化將在很大程度上緩解教育數據治理過程中隱私保護和開放獲取關系矛盾難以調和的困境。其不僅可以通過去中心化消除教育數據共享過程中的隱私保護問題,而且能夠借助分布式數據系統存儲拓展教育數據的開放共享空間,從而在確保教師和學生數據隱私保障安全的基礎上,促進人工智能在教育中的應用場景的深化。
另一方面,加強區塊鏈技術在教育數據治理領域的安全應用和推廣,推動去中心化的教育數據共享新機制構建。從技術成熟度來看,區塊鏈還處在一個快速變革創新的初始階段,有關區塊鏈的技術應用仍然有待進一步的實踐探索和檢驗。事實上,從基礎研究開發到技術成熟應用有一個相對漫長的周期。就教育領域而言,決策者要保持對區塊鏈技術進步的敏感性,以便及時將成熟的技術應用在相對合適的教育場景,但又不能冒進、盲目的信賴技術。從未來趨勢看,加強區塊鏈技術的安全應用和推廣為教育數據治理的應有之義和重要內容。目前理論界和實踐界已經達成的一個基本共識是:“區塊鏈技術能夠在一定程度上解決當前開放教育資源建設面臨的運營成本高、版權保護弱、資源共享難和資源質量低等現實問題。”[18]構建基于區塊鏈技術的教育數據開放共享新機制有著巨大的應用和推廣前景,是推動教育數據治理中隱私保護和開放共享關系矛盾化解的重要手段和路徑方向。
五、結? ?語
數據既具有個體意義上的隱私性,又具有組織層面的開放性。對于教育數據治理而言,隱私保護與開放共享是對立統一的矛盾綜合體。一方面,隱私保護要求決策主體應當充分關照與教師、學生和高校數據有關的合法權益,構建基于個體隱私的數據開放邊界,避免教育數據泄露或濫用帶來的制度倫理風險;另一方面,開放共享卻要求決策主體從打破教育數據壟斷、促進教育智能應用深化出發,推動不同數據綜合體之間的互動和聯結,從而實現對教育數據價值最大程度的挖掘。從內在聯系看,隱私保護是開放共享的前提和基礎,是教育數據治理必須堅守的基礎準則;開放共享則是充分挖掘教育數據價值的必然要求,是促進人工智能在教育領域應用深化和拓展的客觀需要。深化人工智能時代的教育數據治理變革,需要動態平衡隱私保護與開放共享的對立統一關系,重構基于隱私保護和開放共享的制度倫理空間,在確保教師、學生和高校等相關主體的隱私得到合理保護的同時,致力于最大限度地挖掘和拓展教育數據的應用價值。
[參考文獻]
[1] 盧西亞諾·弗洛里迪.第四次革命:人工智能如何重塑人類實踐[M].王文革,譯.杭州:浙江人民出版社,2016.
[2] 諾伯特·維納.控制論[M].郝季仁,譯.北京:科學出版社,2016.
[3] Common education data standards. The CEDS Initiative[EB/OL].[2019-08-20].https://ceds.ed.gov/whatIsCEDS.aspx.
[4] 伊恩·艾瑞斯.大數據思維與決策[M].宮相真,譯.北京:人民郵電出版社,2016.
[5] 侯浩翔.人工智能時代學生數據隱私保護的動因與策略[J].現代教育技術,2019(6):12-18.
[6] 江山.校園拒絕攝像頭[N]. 中國青年報,2019-09-11(007).
[7] AUDET C, LE DIGABEL, SEBASTIEN, TRIBES C. Dynamic scaling in the mesh adaptive direct search algorithm for black-box optimization[J]. Optimization and engineering, 2016(2):333-358.
[8] 董曉輝,鄭小斌,彭義平.高校教育大數據治理的框架設計與實施[J].中國電化教育,2019(8):63-71.
[9] 戚萬學,謝娟.教育大數據的倫理訴求及其實現[J].教育研究,2019(7):26-35.
[10] 杜靜,黃榮懷,李政璇,等.智能教育時代下人工智能倫理的內涵與建構原則[J].電化教育研究,2019(7):21-29.
[11] 徐峰,吳旻瑜,徐萱,等.教育數據治理:問題、思考與對策[J].開放教育研究,2018(2):107-112.
[12] 李青,韓俊紅.數據治理:提升教育數據質量的方法和途徑[J].中國遠程教育,2018(8):45-53.
[13] 宋蘇軒,楊現民,宋子強,等.教育信息化2.0背景下新一代高校智慧校園基礎平臺建設研究[J].現代教育技術,2019(8):18-24.
[14] 約瑟夫·E·奧恩.教育的未來:人工智能時代的教育變革[M].李海燕,王勤輝,譯.北京:機械工業出版社,2019.
[15] 任仲文.區塊鏈領導干部讀本[M].北京:人民日報出版社,2018.
[16] 李青,張鑫.區塊鏈:以技術推動教育的開放和公信[J].遠程教育雜志,2017(1):36-44.
[17] UNESCO. Artificial intelligence in education: challenges and opportunities for sustainable development[EB/OL].[2019-08-20]. https://unesdoc.unesco.org/ark:/48223/pf0000366994.
[18] 李新,楊現民.應用區塊鏈技術構建開放教育資源新生態[J].中國遠程教育,2018(6):58-67,80.