人工智能應用背景下數字教材編制的倫理危機及其治理

● 高思超 奉元圓

人工智能的發展和廣泛應用得益于大數據驅動、計算能力的發展以及深度學習算法的演進。同時，人工智能技術的進步又催生了數據和信息的更新迭代。2017 年，國務院發布《新一代人工智能發展規劃》，提出要大力發展智能教育，開發“基于大數據智能的在線學習平臺”，營造良好的“以學習者為中心”的教育環境和氛圍，實現教育信息服務的精準推送。2020年，教育部印發的《國家教材建設重點研究基地管理辦法》要求，“加強信息時代新形態教材”的研究與實踐。黨的二十大報告提出“推進教育數字化，建設全民終身學習的學習型社會”。“教育數字化有利于構建開放性、適應性、永續性的良好教育生態”［1］。

人工智能技術應用于教育領域的廣度不斷拓展，客觀上將加速數字教材編制的改革，為數字教材編制提供新的機遇和手段。然而，我們還需要認識到，數字教材編制同樣伴隨著較大的倫理危機。誠如喬納斯所言：“技術可能在某些方面達到了極限，再也沒有回頭路。肇因于我們人類的技術進步將以它們不可遏止的勢頭遠離我們——奔向災難。”［2］國內眾多研究者同樣意識到了問題的嚴重性。如有研究者指出：“教育大數據的應用要實現教育正價值、消解負價值作為基本追求”［3］，“人工智能的教育應用需觀照教育領域中的生命本質”［4］。

一、人工智能應用背景下數字教材編制的倫理訴求

人工智能應用背景下數字教材的編制倫理，主要是指編制主體在將人工智能運用于數字教材設計和建設中應當遵循的道德規范和價值標準。目前，學術界關于人工智能技術應用背景下的教育倫理問題和數字教材編制的問題形成基本共識，即人工智能技術應用于教育的風險消解要以教育倫理價值為導向。

（一）價值訴求：推動技術向“善”和“人”的發展融合

從數字教材編制的實踐出發，編制者要重視知識的學科性和學習者的認知特點，力爭在編制實踐中找到“平衡點”，并按照教材編制規則形成數字教材的體系。但是，在“技術理性”和“工具主義”的支配下，人們往往關注教師編制的“學科知識邏輯”，忽視學習者作為“人”的價值關懷。例如，從傳統教材內容的習得方法和范圍看，教材編制者主要考量兩大邏輯，即“學科知識邏輯”和“課程發展邏輯”，在充分考察學科和課程發展的基礎上，確定教材編寫的目標，或者根據“經驗”了解學習者的發展需求。這導致編寫者掌握的學習者的真實學習需要和發展水平呈現“碎片化”和“模糊化”，最終難以真正滿足學習者的發展性需要。人工智能技術應用視域下，數字教材的編制可以利用智能技術，將復雜的教育教學場域中的海量數據轉化為更具“教育價值和意義”的服務系統。智能技術和平臺也提供了范圍更廣、類型更多、內容更新的云端學習資源，為教師掌握學習者最新的學習動態和更多的學習細節提供支持。誠如有研究者所言，“對數字教材編制的整體把握趨于全面，使得教材研究開始從經驗為主的思辨范式向以數據分析為主的實證研究轉變”［5］。人工智能融入數字教材編制必須遵循技術向“善”的價值追求，避免“技術主義”導向下教育本質的異化，編制的過程要充分考量學習者的主體性。

（二）關系訴求：促進數字教材編制主體的多元協同和融通

以往教材編制過分關注學科知識體系的完整性，忽視了教材內容編制的主體維度。不同編制者對信息的接收和掌握有較大差異，導致編制者之間的交流和溝通有效性不夠。但是，在人工智能背景下，傳統教材編制諸多約束將會逐漸破解，有研究者就指出，“智能系統能夠輕松、直觀地呈現知識之間的關聯，幫助學生構建系統、完整的知識體系”。［6］智能技術的數字教材編制應用，要著眼于學科融合和資源利用的開放性，促進教材知識的立體化構建。同時，教材編制是一項多主體參與的實踐活動，要求不同的主體要有協同合作的意識和能力，促進教育行政部門、學校管理人員、教師和教材編審人員等多個主體協調聯動，打破時間和空間的限制，提升數字教材的編寫質量，促使數字教材編制從一維滲透走向多維聯動。［7］

（三）內容訴求：堅守數字教材編制體系的“三性”融匯

數字教材編制體系的“三性”，即教材編制的系統性、規范性和個性化。傳統教材編制具有系統性、規范性和靈活性，表現在三方面：一是教材內容的編制系統性和邏輯性較強，凸顯了教材內容本身的完整和不同層次學習內容的過渡與銜接。二是教材的結構相對穩定，遵循教材編制的普遍標準，例如教材的體例、印刷的標準、圖文的選用等都有相對統一的要求。三是教材內容的選擇和組織具有一定的靈活性，不僅要體現學科知識體系的“深度”和“廣度”，還需要緊跟時代的需要，反映教育教學改革的前沿動態。人工智能應用背景下，數字教材的編制可以充分利用智能技術和平臺，進一步創新教材內容的靈活性，要將學習者“生活世界”中的“案例”和“經驗”充分融入教材中。根據學習者的個性特點和學習偏好，重構模塊化教材內容，促進學習者的個性化學習和創新化發展。當然，人工智能融入數字教材編制并非對傳統教材編制的全盤否定，而是在以往教材編制的基礎上進行新的探索和實踐，賦予教材編制新的意義和價值。有研究者就指出：“教育改革創新必須在既有的教育基地上逐步進行改造，怕麻煩，想干脆利索是不行的。”［8］因此，融入人工智能的數字教材編制在保持教材內容靈活性選擇與創新性的基礎上，仍要堅守教材編制體系的系統性與規范性。

二、人工智能融入數字教材編制衍生的倫理風險

（一）人工智能技術泛濫致使課堂規范與責任倫理弱化

傳統教材對學生的吸引力不斷減弱，主要源于傳統教材對知識內容的呈現方式仍然以文字敘述為主，教材的形式和內容亟待改革或補充。數字教材的編制，能夠借助人工智能技術將“靜態”的知識進行“動態”的運用，將其融入相應的動態數字資源中，從而促使教材內容在多平臺、多介質資源中的融通，可以有效改變單一的課堂授課方式，促進以學習者為中心的課堂教學方式和模式的創建。但是，我們也需要清醒地認識到，技術至上也導致人文精神的式微和人類責任意識的不斷淡化。數字教材的編制在為學習者提供海量的、開放的課程資源的同時，也為教材使用者帶來很大的挑戰和風險。“信息技術作為一種新型的媒介有它特有的教學優勢，但是，脫離實際需求、無的放矢地使用信息技術，不僅不能使教學的意義得到有效釋放，反而會極大地浪費師生的精力和時間，從而導致課堂教學與道德之善背道而馳。”［9］技術在數字教材編制過程中的過度運用和介入，將會對學生學習的專注力造成干擾和影響，正如有研究者指出的那樣：“教材中過多的超鏈接，也極易讓學生失去段落主線，鏈接節點越多，‘歧路就越多’，受無關信息干擾的概率就越大，自控力差的學生容易誤入‘歧途’。”［10］

數字教材編制如果只注重選用和呈現足夠的“碎片化”信息資源的話，那么將會在不同程度上破壞教師的課堂教學設計和教學組織，導致師生“淹沒”在海量的信息資源中。另外，教材中設計的各種各樣的刺激源，易造成學習者在學習進程中受到諸多無關刺激的影響，進而導致學習者產生浮躁的心態、專注力下降、學習效率降低等不良后果。同時，數字教材編制必將更多地借助多媒體設備，這對學生的學習方式造成沖擊，學生在學習過程中可能將更多精力用于多媒體設備的運用，傾向于關注更多與課程學習無關的內容，技術的泛濫可能會消解學習者對學習的責任意識，從而弱化了課堂規范和責任倫理。

（二）人工智能技術的介入解構了系統化教材知識體系

人工智能技術使教材能夠通過多樣化的新形態進行呈現，教材編制因此具有泛在性、即時性、情境性等特征。數字教材的編制表現為教材內容呈現方式的多媒體化，受此影響，學習者極易關注產品的更新換代，追逐于新教材的外觀設計、新穎功能、內容編排的形式，而對教材內容的體系化和結構化卻不夠重視。從教與學的本質看，教師的教和學生的學都是一個漸進式的過程，知識點安排遵循整體統籌和系統設計才能更為合理，這樣也才會保證師生教學過程的循序漸進。

數字教材編制借助于人工智能技術促進了網絡資源的開放性，使移動學習和泛在學習不斷發生，這可能會導致教材內容的“碎片化”和“分散化”，嚴重沖擊了教材本身的邏輯結構和系統知識體系。“碎片化”的教材內容解構了原有知識結構，“分散化”的知識點又不利于學習者完整知識體系的建構。數字教材編制不可避免地會利用圖片、音頻、視頻和集成性兼容文本等不同形式的信息資源，雖然以多感官的綜合運用豐富了教材使用的體驗，但海量的信息會加劇教材使用者信息超載，在一定程度上削弱教材使用者的想象空間，破壞學習者持續思考的習慣，丟失思想的深刻性與多元性，限制了知識的識記與建構，以致學習者無法在頭腦中形成完整的知識體系。［11］

（三）人工智能技術的加持泛化了教材目標定位

數字教材編制借助于人工智能技術，可以將各個范疇和領域的素材納入教材編制的系統中。這對豐富教材內容具有積極作用，但是，這樣也容易使部分未經科學證實和實踐檢驗的資源進入教材之中。當然，這些資源可能不同程度具有一定的教育意義，但在經濟利益驅使下，教材編制容易粗制濫造，缺乏基本規范和科學依據，導致教材角色定位模糊，指向性不夠明確。各學段的學生認知水平不同，必然要求教材的科學水平以及內容的廣度、深度和難度等有所差異。有研究者認為：“不是科學水平越高越好、教材內容越深越好，教材內容的深度和廣度要適應于教學對象。”［12］但是，當下隨著信息技術更新迭代的加速，數字教材數量和種類也不斷增長，這會激化教材使用對象的模糊性，諸多教材并沒有真正充分調研和聽取使用者的需求，籠統定位使用者群體，部分數字教材對自身適切的使用者缺乏清晰的定位，導致教材使用對象目標定位泛化。

另外，數字教材編制通過技術手段能夠充分滿足教材內容的快速更新，這也可能加劇教材內容的相對穩定性和內容靈活性的矛盾。一般情況下，相對穩定的教材內容和知識結構，有利于教師教學實踐智慧的生成，從而有效促進教育教學高質量發展。有研究者指出：“教材建設不僅要注重內容和體系的鼎革，還要注重方法和手段的變更，教材內容相對穩定也有利于保障教學的穩步推進。”［13］但是，教材內容的快速更新容易引發教材結構化的知識體系與信息技術時代知識碎片化之間的矛盾，不利于教師系統推進教學設計和總結教學經驗，影響教學質量的穩步提升。

（四）數字化資源的運用容易引發法律風險隱患

數字教材的編制改變了傳統教材對信息資源的獲取和管理模式，教材內容資源的數字化也為大量教材信息資源的共享提供了平臺。目前，我國人工智能法治建設還不夠完善，對信息技術的規范和個人隱私的保護、數字化資源版權保護等法律法規還沒有真正建立，這導致數字教材編制過程中可能面臨諸多法律風險。人工智能建基于大數據技術等進行資源采集，很可能會涉及個人的信息安全，尤其是隱私問題，數字教材的編制當然需要采集師生課堂行為數據的合理性問題，雖然目前法律上對這一領域的規定還比較模糊，但從教育倫理的角度看，學校無疑具有保護師生個人隱私與合法權益的道德義務。［14］另外，數字教材編制還面臨版權風險，“網絡的開放性致使教材中的數字資源易被復制、傳播，突破了傳統知識產權的時間、空間和區域限制，作為作者無形的智力成果，被他人依托互聯網技術侵權使用，知識產權和版權受到挑戰”。［15］當前，我國還未完全建立起數字資源出版物版權保護法體系，《中華人民共和國著作權法》對教材中的數字資源版權問題尚無清晰界定，數字教材資源的版權保護和版權糾紛處理等問題缺乏足夠的法律依據，導致數字教材中的資源被“共享”變得更為便捷，輕易的復制和隨意的分享加劇了版權侵害。長此以往，數字教材編制的生態環境將會不斷惡化。

三、人工智能應用背景下數字教材編制倫理風險的化解

（一）明確人工智能教育應用的倫理規范與技術責任

《新一代人工智能發展規劃》強調要“制定促進人工智能發展的法律法規和倫理規范，開展人工智能行為科學和倫理等問題研究，制定人工智能產品研發設計人員的道德規范和行為守則”。［16］人類生活的諸多領域已經受到人工智能的影響，人工智能也逐漸成為人們生活世界的重要組成部分。但是，以大數據和云計算等為核心的智能系統的運行過程和機制往往不為人們所知，由此可能會導致在運行過程中存在“數據的設計偏好、隱性的利益算計、主體知情權缺失”等倫理問題。因此，要對于人工智能應用的倫理規范和技術責任進一步明確。

將人工智能運用于教育領域，需要堅持以“實踐”為導向，在實踐活動中觀照真實的價值沖突和倫理困境，堅守“人本主義”倫理立場，統籌智能技術和價值關懷，彰顯人工智能倫理規范和教育主體責任的耦合，通過系統分析，建立合理的倫理規范，完善技術發展的監督和責任，促使教材信息創造者、設計者在編制的頂層設計階段，優先考慮教育主體的切身利益。人工智能融入數字教材的編制，一定要秉承“算法倫理風險無涉”的理念，將學習者的個性發展視為重要追求目標，才能夠真正規避智能技術的算法“偏見”。

（二）重拾“以人為本”的數字教材編制教育價值理念

技術在教育教學改革發展和教育生態形塑過程中發揮重要作用，數字教材的編制需要新技術和新工具的介入。但是，智能技術支持下的數字教材必須以合理的教育價值理念為指引，以此規避系統開發者鑲嵌于智能算法中的不合理的價值訴求，誠如有研究者所言，“資本邏輯的原生動力決定了智能算法推薦的開發和設計，不可避免地會具有追逐商業利潤的強烈色彩”。［17］還有研究者認為，“在算法與數據操縱之下，AI 的滲透使技術日益成為人們思考教育時的基本標準和尺度”，［18］“異化”數字教材追求的教育價值。數字教材編制過程中，智能技術和系統的開發者若盲目追求智能化和信息化，很可能也會走入工具理性的泥潭，將教育視為可以量化的對象，助長工具理性對價值理性的僭越。

數字教材編制要實現持續、健康發展，必須堅持教育性和教育的人文價值追尋。數字教材編制需要從關注技術發展和融入轉變為回歸教育本質。數字教材編制在關注教材知識的表征和傳遞基礎上，更多的是要“喚醒”課堂教學中學習者的“主體意識”，破除算法的“規訓”和“操縱”，彰顯“人”的主體意識和內在精神，重拾“以人為本”的教育價值信念。例如，有研究者指出：“數字教材編制過程中，必須將‘以人為本’的價值理念貫穿始終，用‘教育之眼’來透析、挖掘和實現‘計算’的育人價值。”［19］還有研究者認為：“對新技術所構建的喧囂場域中，要對學生已經或可能產生的價值迷失、行為失范等進行澄清和引導。”［20］因此，數字教材編制必須以價值理性為指引，創新人工智能融入數字教材編制中的算法、設計和傳播，消解智能技術教育操控的風險，還必須立足人的發展，彰顯人文價值理性的作用，防止對人工智能技術的過度依賴。

（三）動態監控智能技術融入數字教材編制全過程

一般而言，紙質教材編制分為教材內容選擇、組織和呈現三個階段。人工智能應用下的數字教材編制包括“數字教材的目標與設計、數字教材的內容選擇與組織、數字教材的智能表征”，涉及數字教材編制的內容維度、數據維度和生成維度等不同層面。做好數字教材編制全過程和全方位的監控，才能不斷提高人工智能融入數字教材內容的適切性和交互性，實現深度學習的目標。

首先，從教材的目標與設計來看，數字教材的編制者需要秉持合理和恰當的編制理念，依據理念的指引和對教材應用場景的考量，優化教材編制的目標和頂層設計。教材的設計處于教材編制的“前端”，對教材內容的選擇和呈現，甚至教材應用于教學過程都發揮重要作用。數字教材需要秉承“學習者中心”理念，通過將大數據等技術手段融入教材編制，促進學習者“有意義的自主建構”。數字教材編制過程中各個參與者可以利用智能信息平臺或技術進行及時交互、充分討論，提高教材編制的科學化和人文性。其次，在教材內容的選擇與組織上，一方面要考量學科專業知識體系的系統性和完整性等，另一方面要觀照學習者的內在精神、“生活世界”以及他們的身心成長規律，根據學習認知實際情況，完善教材內容。內容的選擇和組織要平衡智能技術帶來的教材內容的無限性和學習者精力及時間有限性的沖突。數字教材編制中內容的選擇和組織還需要體現“主題模塊化”和“跨學科整合”的傾向，使教材內容更具有凝練和元認知效用。再次，在教材內容的呈現上，要充分考慮學習者的學習體驗，數字教材中的內容呈現的方式要多樣化、立體化，在明確內容的教育目的和價值基礎上，充分利用智能技術手段和優勢，通過文本、超鏈接、音視頻和虛擬教學等方式呈現，激活學習者的學習興趣，“喚醒”學習者的主體意識和內在精神。

（四）充分審視智能技術融入數字教材編制的設計機理

數字教材編制的直接目的是通過智能技術融入后實現教材內容的數字化，充分彰顯技術服務體系的價值和作用，其最終目的還是在于通過智能技術不斷拓展教育教學場域中的信息化變革，促進教師在新的時代背景下進行教學范式的重構和育人水平的提升。技術的驅動能夠引發數字教材編制的設計改革，因此，從技術維度審視，結合教學分析、產品設計和制作三方面的內容，可以明晰數字教材編制的設計機理。

其一，遵循學習者的需要，利用智能技術厘清教材各部分內容編制目標，結合學習者的“個性化發展”趨勢和教學目標，統籌數字教材編制的頂層設計；其二，基于真實教育教學情境的考量，設計數字教材的文本內容、音視頻內容等，遵循教學目標和學習者認知特點，營造深度學習的情境；其三，從教材的開發層面看，“數字教材開發在滿足學習者主體不同需求的基礎之上，按照知識邏輯體系對數字教材內容進行模塊化設計，并選擇適宜的數字教材智能終端呈現數字教材內容”。［21］因此，要將人工智能技術倫理規范融入數字教材編制中，強化數字教材的人文價值追求。

（五）強化智能技術融入數字教材編制的制度建設

數字教材編制和智能技術的深度融合，依賴于相關制度的保障和支持。數字教材編制過程中必須完善兩方面的制度：一是智能技術融入教材編制后的標準建設，二是數字教材編制過程涉及的相關法律法規。

首先，人工智能介入數字教材的編制，要著眼于教材內容層面的教育價值追尋和技術層面的實踐操作，同時還要考慮數字教材編制的特色要求，根據國家的相關政策建立較為完善的質量標準，包括教材教育標準、內容標準和技術標準等。唯有如此，才能確保數字教材利用智能技術編制的合目的性。具體來看，一是要建立教育標準，數字教材的教育標準要遵循教育的價值追求和教育教學規律，充分考量學習者的認知發展特點，對教學實踐場域中的教學方法和教學模式等提出有效建議［22］。二是要完善內容標準，確保教材內容選擇和組織的科學性和合理性。三是要建立教材編制的技術標準，通過學習借鑒國外先進的數字教育標準成功經驗，結合數字教材內容編制實際，探索規范、有效的數字教材標準。四是建立融入智能技術的數字教材編制的版權標準，編制的內容不能存在侵權行為，同時也要加強自身知識產權的保護。其次，從政策、法律和法規層面提供制度支持。針對智能技術融入數字教材后的倫理規范和技術發展的“雙重訴求”，應更多關注數字教材編制中可能會涉及的算法、數據的法律依據。同時，還需要通過法律手段，進一步明晰教材編制應遵循的倫理規范，厘清數字教材編制的治理“邊界”。誠如有研究者指出的那樣，“借助相關法律對算法歧視、隱私入侵、數據安全、數字資源版權等問題進行規制”［23］，促進數字教材編制真正面對和走進人工智能技術的疆域深處，對數字教材編制在智能時代的真實處境進行再認，明晰數字教材編制的要義，避免因為技術的異化使得數字教材編制過程中工具理性的僭越，導致教材編制陷入倫理窠臼，最終實現數字教材編制的價值復歸。