人工智能教育焦慮：成因與化解

●陳祥梅 寧本濤

人工智能技術作為信息科技的高階發展，為推動教育領域的改革與創新發展提供了堅實的技術基石。2019 年，中共中央、國務院印發的《中國教育現代化2035》強調“加快信息化時代教育變革”，人工智能教育已成為實現規模化教育與個性化培養有機結合的重要技術手段。技術賦能教學、技術促進學習的呼聲不絕于耳，然而人工智能技術給教育領域帶來變革希望的同時，亦存在人工智能數據濫用、過度依賴人工智能教育等現象，引發人工智能教育焦慮。人工智能教育產品研發過程中潛在的偏見使教育領域面臨多重風險與焦慮［1］，以及人工智能教育存在將自定步調重復學習視為個性化學習的隱患等［2］。然而當前學術界關于人工智能教育焦慮的系統論述研究尚不完善，本研究旨在分析人工智能教育產生的消極現象、探究背后的本質成因并提出相應的緩解對策，以期為人工智能教育的理性發展和科學應用提供些許參考。

一、人工智能教育焦慮

人工智能熱潮帶來教育新的發展業態的同時，也引發了人工智能教育焦慮。Wang 指出人工智能焦慮是一種抑制人類與人工智能發生交互作用且表現在整體情感上的焦慮［3］。Johnson 認為人工智能焦慮是由于人們對人工智能發展方向的不明確而產生的一種緊張和恐慌情緒［4］。參考相關學者定義，本研究將人工智能教育焦慮界定為人工智能技術在教育領域應用過程中產生的焦慮情緒。人工智能教育焦慮主要表現在以下幾個方面。

（一）數據安全焦慮

在使用人工智能教育產品時，人工智能技術需獲取、存儲、管理和應用使用者的數據，在此過程中經常出現人工智能教育數據的泄露、侵權、盜用甚至被利用的現象［5］，以及因違背倫理道德所產生的教育數據倫理風險［6］，引發人們對人工智能教育的數據安全焦慮。如《2022 人工智能教育藍皮書》研究結果顯示，學校管理層愿意積極推進人工智能教學應用，但對人工智能技術在教育應用中可能導致師生的個人信息泄露或被監視等問題較為擔憂，以及近年來頻繁出現的以“教育創新”之名監控學生的現象。學生穿戴智能芯片校服，學校和家長可實時動態了解學生的位置，并能夠進行軌跡分析，存在違背道德倫理的隱憂。人工智能教育數據安全焦慮表面上是一種焦慮情緒，本質上反映的則是當前新技術挑戰舊有教育數據管理體系、相關技術應用不規范和人工智能教育倫理觀念的缺失導致對人工智能教育數據的濫用，以及因教育問題的復雜性和教育對象的特殊性，教育的人本價值秩序在使用人工智能技術的過程中可能會被弱化的問題。

（二）依賴誤導焦慮

人工智能技術提供了便利、精準和個性化的服務，人工智能算法為學習者“量身定制”個性化學習方案，人們的使用體驗較好并逐漸對人工智能技術產生了信任和依賴。但人工智能技術并沒有人類預想的“完全可信”，使用者在技術方便中不自覺地產生依賴甚至被誤導，個人思辨能力逐漸缺乏［7］。人工智能算法的個性化推薦已被發現存在推薦內容同質化的問題，人工智能基于用戶的行為和興趣習慣來為特定群體做精準的內容投放將會導致特定群體同質、群體間異質現象嚴重，最終導致“群體極化”現象［8］。推薦給學生的學習資源同質化，學生接受的信息會被限制在算法的提供范圍內，這將會在一定程度上窄化學生的思維、價值觀等，抑制學生的多元化發展。且個性化學習方案是在算法標準化的運行機制下產生的。依托大數據算法的規模化、標準化的個性化，是“真個性化服務”，還是一種“偽個性化的標準化服務”［9］？抑或是個性化學習方案是否能有效促進學習者的全面發展？這些懸而未答的疑惑，引發人工智能教育依賴誤導焦慮。

（三）偏見歧視焦慮

近年來，人工智能教育領域頻繁出現人工智能技術刻板評估教師、忽視殘障學生、教育違規收費、性別歧視、學生家庭歧視和學生成績評估偏見等現象［10］。人工智能技術基于教育大數據采用算法進行分析，從而對不同特征群體的使用者采用不同的策略，產生偏見或歧視傾向或行為，或導致大規模的群體偏見歧視，使群體感知到非公平的對待，從而產生人工智能教育焦慮情緒。人工智能教育偏見歧視主要來源于設計者和算法的偏見歧視，其背后的內在機理在于算法研發者的偏見和歧視行為會在算法的推斷與執行過程中不斷加以強化，并最終通過人工智能教育產品的應用潛移默化“植入”使用者的頭腦中，從而固化或改變其行為選擇［11］，導致偏見歧視行為的惡性迭代。人工智能技術的發展使得為不同特征的學習者提供相適應的教學支持成為可能，但是當人工智能偏見和歧視進入教育領域，帶來的可能將是“教育偏見歧視”，而非“因材施教”［12］。

（四）人工智能學習焦慮

人工智能時代的到來，引發了人工智能學習的熱潮，人工智能相關課程逐漸得以普及［13］。人工智能教育逐漸呈現低齡化發展趨勢，從高中教材到小學教育，甚至幼兒編程都可以看到人工智能的身影。給幼兒學習者開展復雜的人工智能編程培訓是否有必要，這一問題雖未有定論［14］，但相關研究也表明幼兒學習者通過學習人工智能教育，可以鍛煉他們的思維和邏輯能力，激發其探究的好奇心和創造力，提升幼兒學習者的信息素養［15］。家長希望自己的子女“不輸在起跑線上”，有更多的技能可以“傍身”，爭相參加校外教育培訓機構針對低齡兒童推出的人工智能教育課程班，導致人工智能教育的低齡化現象越來越嚴重。人工智能教育低齡化是否符合教育身心發展的基本規律？幼兒學習者是否達到編程所需的英語、數學和閱讀門檻基礎［16］？這一系列懸而未決的問題均指向當前人工智能教育課程領域幼兒學習者開展人工智能教育的適切性問題以及由適切性問題引發的人工智能教育課程標準界定不一、課程內容缺乏合理性等諸多現實問題。

二、人工智能教育焦慮的成因分析

焦慮現象背后折射焦慮情緒本因，只有透析焦慮現象背后的本質，才能“對癥下藥”，找到應對人工智能教育焦慮之法。人工智能教育四重焦慮的具體成因分析如下。

（一）人工智能教育數據的濫用

當前，新技術挑戰舊有教育數據管理體系、相關技術應用不規范以及人工智能教育倫理觀念的缺失導致對人工智能教育數據的濫用，由此引發人工智能教育數據安全焦慮。首先是人工智能技術對舊有教育數據管理體系的挑戰。人工智能技術與相應的教育數據管理體系和管理制度等方面相比發展較為迅速，很多教育互聯網企業在用戶數據隱私的紅線邊緣徘徊。相關教育數據安全管理體系和管理制度的不完善［17］，導致數據侵權、濫用和盜用現象屢見不鮮，引發使用者人工智能教育數據安全焦慮。其次是相關技術應用不規范。大部分人工智能教育產品硬性要求讀取用戶個人隱私信息，使用者不開放權限將無法使用該項教育服務。甚至部分人工智能產品在未經使用者授權同意的情況下自動獲取使用者個人數據。為體驗到更加精準和個性化的人工智能教育服務，使用者必須讓渡一部分的隱私權給人工智能技術。在讓渡隱私權的過程中，使用者產生人工智能技術隱私侵犯的焦慮，擔心私人信息被監控甚至被利用。最后是人工智能教育倫理觀念的缺失。開放教育數據的挑戰很大一部分原因在于觀念層面。教育問題不同于其他領域問題，不同于工業領域生產、技術領域等的升級。教育的對象是人，更加注重人本價值取向追求［18］。隨著人工智能技術更多的應用于教育領域，琳瑯滿目的人工智能教育產品競相亮相，沖擊著原本的人、技術、數據和倫理之間的關系。

（二）人工智能技術的過度依賴

對人工智能技術的過度依賴引發人工智能教育依賴誤導焦慮。首先，感受世界的視角影響和決定了我們對世界的判斷。人工智能技術的感知系統遠沒有達到精準描述和再現世界的程度。人工智能技術依然缺乏很多維度的“觸角”，數據獲取維度的不全面性將加劇人工智能誤導，引發人工智能教育誤導焦慮。其次，教育追求的是人的更好發展，但人更好發展的標準涉及價值觀。不同對象因其成長背景、環境不同對其自身發展標準界定不同，甚至有些界定之間本身存在沖突。因此用統一標準化的算法去衡量所有學習者的更好發展，引發人們對人工智能教育同質化、絕對化的焦慮。最后，人工智能技術依據學習者的學習特征提供個性化學習方案，學習者的學習體驗較好。按理說，這是一種非常理想化的學習方式，但這或許是一種假象。學習者在技術方便中不自覺地越來越依賴人工智能技術［19］，個人思辨能力逐漸缺失，引發人工智能教育依賴焦慮。人工智能技術刻意屏蔽了算法程序中認為與學習者不匹配的知識與內容，而屏蔽掉的部分或許是學習者缺乏和需要得到強化的部分，從而導致學習者的全面發展受限。再者，基于人工智能技術捕捉到的學習者即時反饋信息并對其調整學習方案，關注的只是學習者的短期情況，而長遠的關于人的價值觀、責任感和理想信念等的形成，人工智能技術則無法觸及。

（三）設計和算法的偏見歧視

人工智能教育偏見歧視焦慮主要來源于設計者偏見和算法偏見。一方面，人工智能教育產品在設計開發時便被植入了設計者和開發者的偏見。負責開發教育智能產品的設計團隊以技術人員為主，偏見的一部分來自開發團隊自身教育理論經驗不足、片面采集數據和忽視特殊受眾群體。在設計人工智能相關教育產品的過程中，并未考慮到在認知和注意等方面存在障礙的學習群體，這些群體被人工智能教育忽視和邊緣化。人工智能教育應用產品在設計之初便帶入了設計人員的偏見，而算法的不斷強化將會導致迭代的偏見。另一方面便是人工智能算法導致的偏見［20］。如上文所述算法會存在誤導問題，也會導致偏見問題。人工智能教育獲取使用者的數據類似于工廠需加工的“原材料”，“原材料”在進入工廠時便被加上了設計者的偏見。算法類似于工廠的機器，機器運行加工原材料時也被添加了算法工程師的偏見。如英國A-Level 和GCSE 考試事件便是算法導致偏見的例子，由于這兩個事件產生的社會負面影響過大，已被專業人士剖析并有后續的解決措施。而大部分情況下由于人工智能技術相關算法如神經網絡一般缺少解釋性［21］，以及其內在的運行機理缺乏透明度等問題，很多使用者受到歧視和偏見的問題并不會被發現。

（四）教育過度競爭的焦慮

由于教育的人力資本效應以及我國義務教育優質資源的不均衡，家長迫切希望自己的子女可以獲得更好的教育，有更多的技能可以“傍身”，教育過度競爭和教育“內卷”現象愈演愈烈。“內卷”一詞出自格爾茨《農業的內卷化》，用來表達一種“不經濟而勞累”的模式［22］。在當前技術快速發展的時代，編程能力是從升學自主招生到高考再到未來就業的核心競爭力之一，校外編程培訓課程受到家長的青睞。有調查顯示，在中小學生校外培訓課程中，除藝術類和體育類校外培訓課程外，計算機編程類課程選擇的人最多［23］。且近年來人工智能學習者的低齡化趨勢明顯，很多的幼兒園學生開始接觸計算機編程課程，引發人工智能教育學習焦慮。人工智能教育低齡化是否符合教育身心發展的基本規律？“編程”是否能真正促進兒童的個體發展？這些疑問當前學術界暫未有明確的定論。再者，當前人工智能教育課程在教材標準和設計方面存在諸多問題。傳統學科教育如數學、化學和物理等經歷了多年的積淀和改革，無論是從教材標準還是從課程設計方面都較為科學和規范。人工智能技術本身屬于一個新興技術，人工智能教育課程目前在規范性和系統性等方面仍需進一步完善，這也給人工智能學習者的學習帶來較大的挑戰。

三、人工智能教育焦慮的化解對策

隨著人工智能技術在教育場景中的深度應用，如何緩解人工智能教育焦慮，更好地收獲人工智能教育紅利，是當前亟待解決的現實問題。基于四重人工智能教育焦慮的深度剖析，我們提出如下有針對性地緩解人工智能教育教育焦慮的對策。

（一）構建與算法時代相適應的教育數據安全治理體系

教育與人工智能技術相互融合形成了一種全新的教育形態，新的教育形態勢必挑戰舊有的教育治理體系，應構建與算法時代相適應的教育數據安全治理體系。首先，完善相關人工智能數據安全保護制度。教育數據獲取必須征得使用者的授權同意，隨著當前調用數據的開源化和多元化趨勢，這一點尤為重要。必須保證人工智能技術對使用者教育數據采集獲取、調用及管理等過程的規范性。尤其禁止以商業盈利化目的對教師和學生數據濫用的行為，保障使用者的個人隱私權，消除使用者教育數據隱私侵犯的焦慮。其次，開發和應用新興技術保障使用者數據安全。應用新興的數據安全技術，如聯邦學習法、區塊鏈等，保障人工智能教育的數據安全。如谷歌公司于2016 年首創的一種基于機器學習的聯邦學習法，學習者通過聯邦學習可以將個人隱私信息保留到本地數據庫。人工智能技術在調用數據時，只需調用本地聯邦學習下構建的經處理后的個人隱私數據的模型、參數等，不直接調用使用者個人隱私原始數據，從而從根本上杜絕了人工智能教育數據隱私外泄的風險［24］。最后，構建以人本價值為取向的數據服務倫理秩序。在隱私保護政策制度和先進數據技術無法施展的區域，用人工智能倫理規約的方式助力數據安全風險治理，消除使用者教育數據倫理安全焦慮［25］。人工智能技術只是一項技術，人類對技術所做的努力是為了人和社會更好地發展。基于教育對象的特殊性和教育內容的復雜性，要求必須構建“以人為本”的人本價值取向的人工智能社會。

（二）建立人與技術協同合作雙向賦能的人機協同關系

人工智能技術為人們提供教育便利的同時也存在人們逐漸對人工智能技術產生依賴、人類與機器主客易位以及人工智能技術對人類產生誤導等諸多問題，引發人工智能教育焦慮。應從增強技術手段、強化人機協同機制以及理性運用人工智能技術等方面緩解人工智能教育依賴誤導焦慮。首先，應加大人工智能技術獲取數據的前端傳感研究力度。感受世界的視角影響和決定了我們對世界的判斷。從人工智能技術數據收集的維度方面來說，當前人工智能技術的感知系統遠沒有達到精準描述和再現世界的程度，依然缺乏很多維度的“觸角”。加大對人工智能技術前端傳感研究投入，以獲取更加全面多維的數據，更好地服務使用者。其次，人類智能和人工智能相結合，彼此揚長避短更好發揮人工智能技術的作用，并促進其逐漸形成一種人與技術交互式的、日益融合的關系。人類智能和人工智能各自擅長的領域不同，兩者之間協同合作、相互作用、雙向賦能產生整體效應，其發揮的效能大于等于“人類智能”和“人工智能”單獨作用時發揮的能效之和［26］，從而緩解人工智能教育依賴誤導焦慮。最后，理性運用人工智能技術。尊重人類自身身心發展的教育規律，牢牢把握住教育決策權、選擇學習方案的自主權。用辯證發展的眼光運用該項技術，不完全依賴于人工智能技術，不讓人工智能技術成為人類發展潛能的限制性因素。

（三）從人的全面發展視角界定教育算法的使用規則

為更加充分、廣泛和深度地將人工智能技術運用于教育領域，激發人工智能技術更好服務教育的潛能，緩解人工智能教育技術的偏見歧視焦慮，應從人的全面發展視角探討人工智能教育核心算法的使用規則。首先，提高研發團隊對教育基本理論和教育規律的認識和理解，將更多的教育概念融入算法框架中。教育算法必須以教育理論為依據［27］，堅持以人的全面發展為導向。人工智能教育產品研發團隊需引入多種角色，引入教育領域專家學者為人工智能教育產品的研發提供理論指導，引入教育智能產品的實際使用者反映用戶實際需求，從而在人工智能教育產品的設計開發源頭上避免偏見歧視的進入。其次，完善人工智能技術運用于教育領域的準入機制、監管機制和退出機制。在產品發布之前需經過多輪審查和試驗，加強人工智能應用產品關于偏見和歧視等方面的檢測和評估。對無法促進人全面發展的人工智能教育產品不予發布，提前規避人工智能教育的歧視偏見問題。對于已經發布的人工智能教育應用需不定期進行篩查檢測，將存在嚴重偏見和歧視問題的教育產品及時下架修改。及時發現人工智能教育產品存在的偏見歧視問題并予以糾正，緩解人工智能教育焦慮。最后，培養師生正確的人工智能應用觀。人工智能應用或產品只是教育的輔助手段和工具，師生作為使用者需要有自己的主觀判斷能力。人工智能技術不一定是完全智能的，也存在著偏見和錯誤，人工智能決策得出的結果可以作為判斷的參考，但切忌盲目相信和依賴人工智能教育，沉浸迷失在算法給出的答案中。

（四）以“新課標”規范引領人工智能教育課程建設

面對教育“內卷”，不少校外教育培訓機構針對低齡兒童推出人工智能教育課程，人工智能學習低齡化趨勢明顯。加之當前人工智能課程領域存在內容缺乏合理性、標準界定不一等諸多問題引發人工智能教育學習焦慮。2022 年4 月，教育部發布《義務教育信息科技課程標準（2022 年版）》，人工智能教育進入“新課標”。在新的背景下，需以“新課標”引領人工智能教育課程發展，多方齊心協力，共建、共研、共同探索面向未來的人工智能教育課程，提升人工智能課程規范的科學性。首先，需依據不同年齡層面和不同學段的學習者認知特點開展人工智能教學。人工智能的學習需要學習者有一定程度的知識儲備，具備相關信息技術、數學和英語等基礎知識。因此在進行教學之前需對學習者的人工智能學習基礎做一定的測試和評價，基于學習者的認知和知識水平開展相應的人工智能教學，符合人的身心發展規律，不可拔苗助長。其次，需制定專門的人工智能課程標準。盡管在區域層面已有很多學校開設機器人課程、編程等人工智能相關課程［28］，但在課時、課程內容和開設年級等方面缺少國家的統一標準。最后，需加強人工智能教育教材建設。當前，人工智能課程教材和內容已初步規范化，但仍存在教材質量參差不齊、版本繁多等系列問題。且存在部分教材并未做到難度循序漸進以及未充分考慮到學習者的認知水平。因此，需以“新課標”引領人工智能教育課程建設，緩解人工智能教育學習焦慮。