人工智能教育應用的倫理風險研究

（ 揚州大學新聞與傳媒學院 225000）

新一代人工智能技術(shù)的飛速發(fā)展正在引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革，引發(fā)和重構(gòu)新的行業(yè)結(jié)構(gòu)和行業(yè)形態(tài)。教育是促進人類文明發(fā)展的重要領(lǐng)域，人工智能技術(shù)在教育中的應用正在推動互聯(lián)網(wǎng)教育進入“人工智能+教育”的高級階段。然而，利用人工智能技術(shù)推動教育發(fā)展的同時，也產(chǎn)生了一系列倫理問題，如削弱教師地位、侵犯學生自由、加大教育不平等、對教育正向價值的壓制、對教育育人價值的僭越。華東師范大學唐漢衛(wèi)教授認為，人工智能的深入運用將在本體意義上動搖我們原有的對教育的理解、批判和追求，從而產(chǎn)生前所未有的困惑和焦慮。本文圍繞人工智能與教育的深度融合，從倫理學的視角下審視人工智能對教育的影響，讓人工智能的應用回歸教育本質(zhì)，讓技術(shù)運行在符合教育規(guī)律和人認知規(guī)律的軌道上。

一、人工智能教育應用的含義及合理性

張坤穎等認為只有當人工智能輔助于教育應用、建構(gòu)教育場景、重組教育中的要素或者重構(gòu)教育過程時，才屬于人工智能的教育應用。從目標來看，人工智能教育應用以“育人”為最終目標；從過程來看，人工智能教育應用于課堂教學、學校管理、家校合作等方面；從結(jié)果來看，人工智能教育應用實現(xiàn)了教育教學、學校管理方面的最優(yōu)化。由此可見，人工智能的教育應用是人工智能與教育深度融合的產(chǎn)物。

在對人工智能教育應用進行倫理反思之前，需要先確認人工智能在教育中的應用是否具有合理性，其依據(jù)是：合乎教育自身的發(fā)展規(guī)律。首先，了解學生的真實發(fā)展水平是教育活動開展的前提，人工智能可以捕捉到學習者不同時間、不同地點的各種數(shù)據(jù)，包括面部表情、動作、情緒等。與傳統(tǒng)教師依靠自身觀察、他人評價、傳統(tǒng)紙筆測驗等方式相比，人工智能更能了解學生的真實發(fā)展水平；其次，尊重個性是教育的內(nèi)在要求。傳統(tǒng)教學很難為學生提供個性化服務，而人工智能的精準預測使得學生的個性化發(fā)展成為可能；最后，人工智能應用于教育使得學習打破了時空的限制，教師也可以隨時查看學生發(fā)展狀態(tài)并及時做出干預。與此同時，家庭、學校和社會的聯(lián)系也更加緊密、教育合力不斷增強。

二、人工智能教育應用產(chǎn)生倫理風險的原因分析

（一）人工智能自身的因素

人工智能教育應用依賴于教育大數(shù)據(jù)、算法和機器學習，人們通常認為人工智能因為沒有人為因素的介入而趨向公平。但在實踐過程中，人工智能的偏見或歧視卻屢見不鮮，如微軟公司的聊天機器人Tay在發(fā)布24小時以后就開始變得具有種族歧視和厭惡女性。

人工智能存在偏見的主要原因在于算法和數(shù)據(jù)。算法是人工智能的核心要素，雖數(shù)字符號是中立的，但如果算法設計者自身抱有偏見，就有可能將這些偏見嵌入算法系統(tǒng)。另外，算法決策的基本原理是“以過去的數(shù)據(jù)預測未來的趨勢”。而教育數(shù)據(jù)存在兩個方面的問題：一是教育數(shù)據(jù)的全面性，二是教育數(shù)據(jù)的真實性。然而，要獲取教育領(lǐng)域的全部數(shù)據(jù)卻是一大妄想。教育是培養(yǎng)人的社會活動，我們可以利用技術(shù)收集人的行為、語言的變化卻無法對人的價值觀念、思維方式的變化進行數(shù)據(jù)化處理。教育的社會性使得教育數(shù)據(jù)與其他領(lǐng)域的數(shù)據(jù)總有著千絲萬縷的聯(lián)系，我們無法清晰的界定哪些是教育領(lǐng)域的數(shù)據(jù)。教育數(shù)據(jù)來源的多元化，也使得教育數(shù)據(jù)承載的價值既包含正向也包含負向。

（二）人工智能使用者的因素

人工智能應用于教育，其使用者為教師和學生，本文主要從教師和學生對人工智能的認可度以及能力素養(yǎng)兩個方面進行分析。

教師和學生對人工智能的認可度直接影響了人工智能在教育中的使用情況。當前，人們對人工智能的認識存在兩種極化：既有對人工智能的全盤肯定，也有對人工智能的全盤否定。這種理性認識的不足在一定程度上滋生了人工智能教育應用的倫理問題。此外，教師和學生倫理意識不足也是導致人工智能教育倫理的原因之一，如缺乏隱私的保護意識。

人工智能教育應用對教師的專業(yè)水平提出了更高的要求，不僅需要教師具備傳統(tǒng)的教育教學知識，還不要具備人工智能方面的知識以及掌握設計開發(fā)數(shù)字化學習資源的技能。但目前的師范類教育以及教師在職培訓，不管是理論層面還是操作層面都很少涉及有關(guān)人工智能方面的知識，教師職業(yè)素養(yǎng)與人工智能的沖突，也成為人工智能教育應用倫理問題出現(xiàn)的一個原因。

（三）法律制度的因素

人工智能在教育中應用必然會出現(xiàn)一些在傳統(tǒng)教育中從未出現(xiàn)的問題，為了維護人類的基本權(quán)利以及規(guī)范人工智能在教育中的應用，需要制定相關(guān)的法律法規(guī)、建立各類管理機構(gòu)，以引導和監(jiān)督人工智能在教育教學、教育管理等各環(huán)節(jié)的規(guī)范運行。在制度方面，我國尚未建立一套完善的與人工智能教育相關(guān)的制度。制度的建設也是一個長期而復雜的過程，且需要國家相關(guān)部門、教育行業(yè)及相關(guān)領(lǐng)域與相關(guān)單位三層共同制定，而這期間又會不斷出現(xiàn)新的問題，制度建設的滯后性導致了對人工智能教育應用約束力不足。

三、人工智能教育應用倫理風險的具體表現(xiàn)

（一）人工智能教育應用對使用者主體性的削弱

1.削弱教師地位

目前，國內(nèi)外學者在機器人替代勞動力研究方面都得出了比較一致的結(jié)論，即機器人的出現(xiàn)會替代某些職業(yè)或者某些任務。教師這一職業(yè)是否會消失眾說紛紜，有學者認為，傳統(tǒng)意義上的教師已無存在的必要。也有學者認為，無論人工智能發(fā)展到何種程度，教師始終“在場”。可以確定的是：將人工智能應用于教育領(lǐng)域，教師已不再高枕無憂。

當前的教育人工智能可以幫助教師完成一些重復或輔助性的工作，未來教育人工智能還可能承擔更多的工作。因此，教育人工智能投入使用量增加的同時教師的失業(yè)率也隨之增加。楊緒輝等認為大腦的生理局限使得信息化時代的老師是一種“缺陷”的存在，必需要借助外在代具來構(gòu)建自身的完整。教師在借助人工智能的過程中稍有不慎就會變相成為人工智能的附庸，從而導致教師地位下降。

2.侵犯學生自由

人工智能教育應用需要對學生的學習過程進行全面跟蹤、記錄，學生如同進入一座“全景式監(jiān)獄”。在此不難發(fā)現(xiàn)，學生之所以能享受人工智能提供的便利是以隱私泄露為代價的。也許收集學生生活和學習數(shù)據(jù)的初衷是為了提供更好的精準化服務，但數(shù)據(jù)不會遺忘，將那些在學生未成熟的情況下作出的欠妥的行為全盤記錄下來，很可能會給學生貼上某種具有暗示意味的“標簽”從而影響學生的入學或求職。這不可避免的損失了學生的人格尊嚴，限制了學生的自由。

人工智能能夠?qū)W生的后續(xù)發(fā)展進行趨勢預測，教師可以根據(jù)預測的結(jié)果進行及時干預，從而保證更好的教育效果。但這種預測會剝奪學生自由選擇的權(quán)利，尤其隨著預測精準度的不斷提高，人們對預測信任感的不斷增強，學生可能再也無法根據(jù)自己的意愿作出選擇，這種預測對學生的學業(yè)反而成了一種禁錮。

（二）人工智能教育應用對教育的沖擊

1.加大教育不平等

人工智能應用于教育旨在實現(xiàn)更高效的資源配置，有效提升教育質(zhì)量并促進教育公平。如慕課（MOOC）被看作是全球課堂的雛形，但是這種教育資源并非均勻的在不同地區(qū)中“擴散”，特別是在教育數(shù)據(jù)的獲取方面，不同教育系統(tǒng)、平臺間的數(shù)據(jù)沒有開放和共享，國家和地區(qū)之間的“數(shù)據(jù)鴻溝”更加凸顯。數(shù)據(jù)獲取的不平等也就決定了數(shù)據(jù)使用的不平等，最終會擴大教育地區(qū)間的差距。

人工智能對學生未來學習軌道的預測在一定程度上與美國、英國等國家的“分軌制”教育有異曲同工之處，它們都是在分析學生的心里特征及學習能力的基礎(chǔ)之上，結(jié)合社會發(fā)展需要，制定不同的學習路線。區(qū)別在于，人工智能提供的分流標準更加細致、分流手段更加多元。傳統(tǒng)分軌制的公平性已備受爭議，人工智能的預測也存在加大教育不公平的風險。

2.對教育正向價值的壓制

從人工智能教育應用倫理產(chǎn)生的原因分析中可知，人工智能是存在偏見的，人工智能的使用者之間也存在不同的價值追求。因此，人工智能是負載價值的，既有正向價值也有負向價值。

教育離不開價值的判斷和選擇，任何教育資料在呈現(xiàn)給學生之前都需經(jīng)過必要的價值審視。但因為人工智能自身的特性，使其無法對所有的數(shù)據(jù)進行價值審查。人工智能教育應用不可避免地對學生的行為方式、思維習慣、價值觀念產(chǎn)生影響，其負向價值就會對教育產(chǎn)生干擾，與教育應然的正向價值產(chǎn)生沖突。因此，在人工智能教育應用中，必須始終堅持教育的正向價值取向，仔細審視并正確處理人工智能背后的負面價值。

3.對教育育人價值的僭越

提供精準的個性化服務以及將難以理解的知識精準清晰的表示出來是人工智能教育應用的目標。也就是說人工智能在具有育人價值的教育面前，只是一種工具的存在。

將人工智能應用于教育不僅為教育變革帶來契機，應當永遠注意技術(shù)是服務于教育的、是為人類更好的生存和發(fā)展的，技術(shù)本位的思想尤其值得審視與反省。事實上，在教育領(lǐng)域?qū)θ斯ぶ悄艿捻敹Y膜拜、盲目樂觀這種苗頭已經(jīng)顯現(xiàn)，人工智能甚至正成為教育中的一種新的“意識形態(tài)”。人工智能的“意識形態(tài)”地位一旦確立，其工具價值也就僭越了教育的育人價值。所以，必須將教育的育人價值作為價值判斷的標準和最終目標。

四、結(jié)語

人工智能與教育的深度融合不僅要符合技術(shù)倫理、教育倫理的規(guī)范，更要符合教育的發(fā)展規(guī)律和學生的認知規(guī)律。本文首先闡述了人工智能教育應用的內(nèi)涵，然后對人工智能在教育領(lǐng)域應用的合理性進行了論證，最后探討了人工智能教育應用可能產(chǎn)生的倫理風險以及對產(chǎn)生的原因進行了分析。雖然本文僅在技術(shù)、教育、倫理三個方面進行了研究，沒有設計到其他學科，分析不夠深入。其意義在于呼吁廣大的教育工作者以及技術(shù)開發(fā)人員，在教育領(lǐng)域推進人工智能的過程中應當時刻保持必要的反思，警惕人工智能在使用過程中潛在的倫理風險，避免教育技術(shù)史上由技術(shù)至上導致錯誤的歷史重演。