風險與防范:中小學人工智能教育的倫理考量

蔣馨培 趙磊磊

(1. 江南大學 教育學院,江蘇 無錫 214122;2. 南京師范大學 教育科學學院,江蘇 南京 210097)

1 研究背景

人工智能教育是面向人工智能素養提升的教育,強調培養學生編程、協作、問題解決與創新等核心能力,著重關注計算、數據、批判性與設計等跨學科思維的形成[1],這一教育充分利用現有高質量的AI科普資源、開源軟件等,改變傳統教學模式[2]。在中小學開展AI教育,不僅能科普AI知識,還能夠鍛煉學生的邏輯思維能力和問題解決能力[3],培養學生的人工智能素養,使其具備適應未來智能型社會的基本能力[4],實現人的生命價值[5]。綜合來說,中小學人工智能教育的內容應主要包括3個方面:一是要用人工智能學習(例如,在課堂上使用人工智能驅動的工具),二是要學習人工智能(人工智能技術是什么?由什么組成?如何運轉),三是要為人工智能做準備(例如,讓學生不僅理解人工智能的技術原理,更需明白人工智能對人類生活的影響)。

人工智能及大數據技術對社會各行各業都產生了長遠的、變革性的影響,同時人工智能正與個性化智能導學、教育大數據收集分析等技術攜手不斷地推動教育智能化變革。智能技術與人才培養成為國家核心競爭力的重要組成要素,而人工智能教育也成為國家政策的關注重點。對此,國家出臺了相應的政策為我國中小學人工智能教育課程的開展與推進提供政策導向與保障,也為各校構建校本化人工智能教育課程指明了大致方向。2017年7月國務院印發《新一代人工智能發展規劃》,明確提出“實施全民智能教育項目,在中小學階段設置人工智能相關課程”[6]。2018年4月教育部印發《高等學校人工智能創新行動計劃》,提出“構建人工智能多層次教育體系,在中小學階段引入人工智能普及教育”[7]。教育部頒布的《義務教育小學科學標準》明確指出:科學素養是指了解必要的科學技術知識及其對社會和個人的影響。很顯然,人工智能課程應屬于“必要的科學技術知識”[8]。

隨著國家政策的出臺,關于人工智能教育的討論也不斷增加,主要包括以下幾個方面:一是關于中小學人工智能開展的價值目標探討[9];二是關于中小學人工智能教育的學習內容探討[10];三是關于中小學人工智能教育開展過程中存在的倫理問題探討。中小學人工智能教育的開展能夠讓兒童理解人工智能與人類智能的區別,了解人工智能僅僅是對人類智能的一種延展而非替代。然而,當前系統性探討中小學人工智能教育開展過程中的倫理問題文章較少,人工智能教育實際開展過程中存在的倫理問題亟待解決。因此,如何在有效利用智能技術為教育帶來紅利的同時又避免技術破壞人類社會的道德準則,成為中小學人工智能教育發展必須重視和首要需解決的問題。

2 中小學人工智能教育倫理探尋的歷史變革

教育是隨著時代發展的事業,教育倫理亦然。進入21世紀以來,隨著中小學人工智能教育的不斷發展,人們既熱衷于在教育中應用人工智能技術,又產生了相應的憂思,人工智能教育中存在的倫理問題成了教育領域關注的熱點。對于具有時代性的人工智能教育倫理問題而言,對其歷史變革進行梳理具有一定的必要性。

2.1 人工智能教育起步期:立足“機器人教育”表層倫理問題探討

2003年頒布的普通高中新課程標準將“簡易機器人制作”列入“通用技術課程”選修內容,由于教育機器人本身具有的高靈活性、強互動性,可以很大程度上助益教學創新,增強學生的動手與思維發展,機器人教育也成為人工智能教育開展的主要課程形式。在這一階段,以“機器人教育”“機器人教學”為主題的文獻逐漸增多,提到了智能導師系統類人的教學模式[11],教育機器人對學生學習的正向影響[12]。學界對機器人教育過程中存在的倫理問題也展開了相應的討論,如認為機器無法僅靠掌握學生學習信息(登錄時間、上課的次數、提交電子作業的情況)來判斷一名學生的學習情況[13],機器學習雖為用戶的“個性化學習”提供了實現的可能,但是數據收集標準不統一、處理規范不完善嚴重影響人工智能教育應用的有序發展[14]。在機器人教育開展的過程中,學者們關注到了機器人應用可能引發的倫理風險問題,但沒有深入挖掘相應的風險解決策略。

2.2 人工智能教育發展期:聚焦“編程教育”內隱倫理風險形式

2017年7月,國務院發布《新一代人工智能發展規劃》,促進中小學人工智能教育快速發展。規劃明確提出:“在中小學階段逐步推廣編程教育。”[6]同年10月,教育部關于印發《中小學綜合實踐活動課程指導綱要》的通知指出,要通過信息技術的學習實踐,提高學生利用信息技術進行分析和解決問題的能力以及數字化產品的設計與制作能力[15]。自此,中小學人工智能教育的重心從機器人教育轉到編程教育。中小學階段編程教育主要是讓學生感受編程思想,但多數學校在開展編程教育的過程中,不考慮學生的實際情況,教授難度較高的編程知識或以競賽促學習,違背了編程教育的初衷,或是帶來了相應的算法風險[16](數字鴻溝、定制性算法)。結合編程教育這一背景,多數學者從師資建設、課程體系構建、教學方式等角度分析潛在的倫理風險并提出了相應措施,推動了編程教育的發展。

2.3 人工智能教育轉型期:關注“智能技術”多形態倫理風險

進入21世紀,中小學階段的人工智能教育迎來了良好的發展環境與強勁的發展態勢。2021年10月,中國教育學會中小學信息技術教育專業委員會發布《中小學人工智能課程開發標準(試行)》文件,闡述中小學人工智能課程的開發標準和教學內容[17]。聯合國教科文組織也于2022年2月發布《中小學人工智能課程藍圖:亟需政府支持》文件,為國家層面構建人工智能課程體系提供框架指導[18]。在智能時代這一新的發展背景與國家政策的助力下,人工智能教育課程的構建也邁向了體系化,關于人工智能教育技術倫理風險的研究爆炸性增長。文獻梳理發現,多指出技術應用于教育中所帶來的關系風險[19](如師生關系異化、技術僭越主體權利)、監管風險[20](系統提供商權責不明)、情感風險[21](忽視教育主體情感需求)等。這些倫理問題的探討,也為中小學人工智能教育教學提供重新調整、反思、提升的契機,為人工智能教育提供新的發展機遇。

3 中小學人工智能教育發展中的倫理風險表征

目前,學者對中小學人工智能教育發展中倫理風險的關注視角存在一定差異。蘇明等學者基于馬克思主義技術批判人的異化與教育的異化,對人工智能教育提出了價值審視、公平性審視、人性審視、責任審視和終極目標審視,強調發揮人工智能教育的積極作用[22]。劉盾等學者從哲學與倫理的雙重視角,分析人工智能對教育的沖擊,指出人工智能應用于教育可能會導致人與教育的分離脫節、人文教育缺失以及對教師職業的威脅等倫理問題[23]。Perrotta等學者對機器學習與人的個性兼容性提出了質疑,通過分析“深度學習”和智能輔導機器對學生教育表現的預測結果,認為人工智能教育中算法對學習者的學習數據分析不當[24]。歸納來看,人工智能教育涉及到技術僭越、情感缺失、算法風險、過程管控等倫理風險問題,由此,本研究從主體地位、情感需求、算法局限、外在規范4個方面分析中小學人工智能教育應用中存在的倫理風險表征形式。

3.1 技術至上消解師生的教育主體地位

技術本身只是提供使用價值的工具,如若過于崇尚技術而形成技術至上的理念,將會消解師生在教育教學中的主體地位,帶來一定的關系倫理風險。具體來說,其一,技術至上會破壞教師教學主權。當前,中小學人工智能教育的主題是教授智能知識與技術,人工智能教育課程開設的過程中必然要使用到智能技術,如學習機器人、機器助手等工具,技術的過度使用導致教師在教學設計、決策、診斷、評價等方面的部分職能已經被人工智能所代替。同時,教師采用智能助手為學生的作業評分,技術在教學中的過多參與在某種程度上已經消解教師的“主體權威”和“知識權威”,教師也極易淪為技術的附庸,從而導致自身的觀察能力與教育機智有所下降。其二,技術理性造成教育主體地位缺失。盡管智能技術是基于人類智慧衍生的智能產品,但是技術內在的邏輯要求教育主體拋棄多樣的情感感受,依照技術理性行事,提高教學效率,這本身就有違教育規律。同時,教育教學中的某些規則被技術規則替代,使教育主體交往的規則被破壞。技術則越來越顯示出類似于教育主體的某些特征,漸漸發展成為客體身份的主體存在,導致教育主體地位缺失變成了一個普遍現象。

3.2 人機互動頻繁遮蔽教育主體的情感需求

人是社會關系的總和,社會性是人的本質屬性。在使用人工智能技術時要遵循人類社會的道德標準與行為準則,以防技術破壞人類社會獨有的情感聯結。中小學人工智能教育過程中各類技術設備的使用,雖革新了教學方式,但也極易導致教育主體的情感需求被忽視。具體來說,一是教育主體意識不到自身的情感需求。當學生過多地沉浸于虛擬空間與虛擬機器時,極易導致其遺忘真實世界。由于學習機器人能夠捕捉學生的面部表情、情感波動,為學生提供及時的學習服務,使學生有一種在課堂上和教師互動的真實參與感。這種過多的人機互動,致使學生漸漸遠離現實生活而與同伴產生疏離,導致其社會交往能力和群體意識逐漸下降,違背教育主體同伴交往的情感需求。二是技術的過度使用導致教育主體情感需求被忽視。中小學人工智能教育開展的形式是將人工智能領域最新的知識和模型搬入課堂,便于讓學生通過實操理解智能技術背后的原理。另外,還有智能機器人、教學輔助等智能設備的使用,導致課堂極易忽視教師對學生“因材施教”的指導作用。教育本身就是靈魂撼動的職業,需要教育主體的情感交流參與,過多依靠人工智能技術的使用,極易忽視教育過程中學生情感與品格的塑造,不利于學生的全面發展。

3.3 算法推薦難以挖掘個性化育人的本質

教學中利用大數據分析和算法推薦,能夠基于學生的學習能力或技能水平動態調整課程難度或種類,能適應每個學習者的速度和進度并實時調整內容;或在恰當的時機提供定制化的練習,實現大規模的個性化學習[25]。但是,人工智能教育育人的本質仍是促進學生的個性化發展,當過多依賴于人工智能的算法推薦,極易出現“信息繭房”效應,導致教學偏離個性化育人的軌道。一方面,算法技術通過采集學生的行為軌跡、學習風格等信息,推送學生感興趣的內容,而那些被判定為“不感興趣”“邊緣化”的信息就由算法技術自主排除。長此以往,學生的信息獲取渠道就被困于一個固定的范圍內,學生擅長的學科知識將會得到快速擴充,知識獲取的途徑也越來越狹窄。智能化算法的推薦破壞了信息收集中的全面性,使人的思維被算法所局限,學生主動獲取信息、搜集信息、分析信息的能力退化,致使人的個性化思維難以發展。另一方面,教育教學中過多地依賴于算法技術,不利于學生進行深度學習。學生使用互聯網搜索引擎對相關信息進行點擊、查看,智能算法的便捷性讓學生享受到了信息爆炸的愉悅,同時也使學生過多地依賴于網絡,對于自身發展的規劃、選擇不夠明晰。太多的知識信息注定了學生的學習只能是淺嘗輒止的,并沒有達到深度學習,對于學生持續發展并無很大的助益。

3.4 人工智能教育過程缺乏風險規范與問責機制

智能教育的過程是利用智能技術優化教學過程,以實現人全面發展目標的過程。人們正處于一個技術主導命運的時代,在技術延伸到和人高度相關的教育領域時,有必要對智能技術的應用建立系統監管機構和問責機制。當前,人工智能教育倫理缺乏相對規范的監管和問責機制,在技術風險防控方面存在較大漏洞。如數據收集過程中存在個人信息數據被泄露的安全隱患,機器學習等算法存在偏誤、歧視的缺陷。在此方面,如若不進行及時的監管治理,將會造成人工智能應用失序的現象。2018年AI Now報告中提到,人工智能行業“迫切需要新的治理方法”,因為“大多數科技公司的內部治理結構未能確保對人工智能系統的問責制”[26]。只有設置相應的監管與制裁措施,建立外部權威規范,當人工智能教育出現倫理風險問題時才能夠及時有效地解決,甚至從根源上保障教育主體的自身權利。另一方面,人工智能教育課程開展的過程中并沒有設置相應的風險防范與問責機制。在中小學人工智能教育課程開設的過程中,學生要能夠根據特定的情境要求,將相應的硬件與智能技術組裝連接搭建出算法模型,以解決實際問題。比如,開發垃圾自動識別系統、東西分揀系統等。在這個開發過程中,算法系統所需的信息數據邊界并沒有被界定,極易導致過度收集個人或社會的隱私信息,破壞人類社會的道德標準。

4 中小學人工智能教育倫理風險的防范策略

基于前文探討的中小學人工智能教育存在的倫理風險問題,提出相應的倫理風險防范措施,以期把技術行為可能引起的倫理風險可能性降到最低,發揮智能技術對社會、教育、個人創造福祉的作用。

4.1 明晰工具價值,促進教育主體角色地位回歸

智能技術在教育教學過程中只是作為工具使用,如若智能技術顛覆了以“主客體”為本質的人技關系,將會導致不可預測的道德危機。面對技術至上等觀念帶來的教育主體地位消解的現象,教育工作者應首要明晰智能技術的工具價值,以促進教育主體角色地位的回歸。首先,在教師主體角色地位回歸這一方面,教師需明晰智能技術的工具效用,通過用好“人工智能技術”去上好“人工智能教育課堂”。教師可以將數據資源庫、數字課程等優質教學資源,插入到日常的智能教育課堂當中,為學生提供一個真實的學習情境,加強學生對于智能技術概念原理等知識的理解。同時,教師也應保持著終身學習的信念,利用網絡學習資源,提升自身的信息化教學水平,積極構建自身的信息素養核心競爭力,增強對人工智能教育課堂的駕馭能力。包括充分提升自身的信息素養知識、操作能力,運用教學機智對課堂中的突發情況進行有效化解,結合自身的專業素質整合教學設計和調整教學過程。只有這樣,才能更好地發揮教師在教學過程中的主體地位。其次,謹防教育主體地位的缺失,教育主體應明確對技術使用的限度,不應盲目地被智能技術“領導”。在中小學教授人工智能相關課程時,教師除了關注智能知識的傳授,更應該幫助中小學生提升相應的倫理意識。中小學生掌握人工智能技能的同時,教師還可以就電車困境、控制權歸屬、責任擔當、身份認同、公平公正等話題展開討論,提升學生的道德主體意識,以防學生過于崇尚技術理性,而做出一些有違倫理道德的事情,對同伴關系造成破壞。

4.2 聚焦人文關懷,捕捉教育主體的情感訴求

人工智能技術本身具有“技術”“類人”雙重屬性,使得人工智能應用于教育領域中有著先天的優勢。但技術理性和人文情感存在相悖取向,如若缺失對教育主體情感需求的滿足,將致使教育生命力減弱。因此,應聚焦人工智能教育視域下的人文關懷,捕捉教育主體內生的情感訴求,形成富有人文關懷和情感交互的文化氛圍。其一,不應讓學生過多地沉浸于智能技術創造的虛擬空間。教育的本質是育人,人工智能教育的本質核心是培養學生的多維思考力、空間創造力,如若學生過多沉溺于“技術使用”和“技術陪伴”,很難與教師和同伴建立親密的信任與聯結關系。教育必須在文化的意義上尋求人之為人的本質屬性、人存在于世的合理性以及人們各種行為的合法性[27]。在此基礎上,教師應打破這樣的情境,創設人際互動課堂,加強教師與學生、學生與學生之間的情感交流活動,了解學生在校真實的情感訴求。其二,以技術的力量促進師生情感交流。具體而言,可借助“教學機器人”“教學助手”等智慧教學設備,為學生解答基礎的學習問題,教師為學生講解復雜具有共性的題目,帶領學生進行演繹歸納,幫助學生構建相應的知識圖譜,增進師生的教學情感交流。另外,教師可以根據智能感知、智慧監測等教學過程設備,分析學生的學習狀況與情緒反應,及時地對學生進行情感干預,排解學生內心的消極情緒。

4.3 關注育人本質,創設人機協同型智能教育模式

算法、數據分析等技術是人工智能融入教學中的重要功能,但算法本身存在歧視和偏誤風險,同時算法的智能推薦將限制學生知識擴充和思維拓展。教育的本質是培養學生可持續發展的能力,學習者如若過多依賴于技術對于教學的助推作用,將難以實現教育的核心要義。因此,需關注育人本質,創設人機協同型智能教育模式。其一,堅持技術育人的價值觀導向。目前,我國人工智能技術的教育應用實際上只是淺層次的以認知為導向的人工智能教育應用[28],為更好地實現人工智能在育人中的助推作用,應避免人工智能單向影響教育,切實地將人工智能技術搬入課堂教學中。與此同時,智能技術的使用應該考慮到學生全面發展與個性化發展的需要,教師要適時對技術工具進行調控,以防智能技術造成學生知識獲取渠道狹窄等問題,破壞教育促進學生全面發展的核心要義。只有關注到技術育人的作用與本質含義,才能真正發揮技術的優勢。其二,利用好智能技術優勢,創設人機協同型智能教育模式。中小學教師應利用好智能感知與情感識別技術,掌握學生的學習認知水平、情感狀態,基于對學生精準的學情分析,結合自身的學科背景與技術素養,構建更加情境化的人工智能課程教學形式。如將AI建模與數學課程相關知識結合起來,形成跨學科型智能教育模式。同時,智能機器人的輔助教學功能可以幫助教師進行簡單的智能知識科普工作,教師只需根據學生的學習需求或學習疑惑,有選擇地進行深入講解,這樣既可以節省教師的精力,又可以提升學生的智能知識掌握水平。

4.4 重塑技術規范,架構過程倫理風險管控體系

人工智能教育的開展是為了提升師生的信息素養,發揮技術本身的價值。人工智能教育開展帶來的風險問題需要有相應的技術倫理風險規約,管控智能技術在教學中的應用限度。具體來說,一是學校可以成立教學過程監督組織,建設透明化的倫理審查體系。審查機構的參與主體可以由信息技術教師、相關領域的專家學者以及法律從事者參與,結合參與主體自身對于倫理問題的了解和研究,可對人工智能教育開展過程中出現的相應倫理問題及時進行監督和防控,并提出一定的前瞻性思考,做到對倫理風險的提前防范。二是重塑技術在課程中的使用規范,讓師生了解技術使用的邊界。考慮到中小學教育者對于人工智能倫理風險問題了解不多,在規約制定的具體文本上要注意語言表述,既要聯系現實語境使用較為精準的語言,也要保證倫理規范的文本表述不要太過細致或寬泛。規范的指向范圍需要多關注人工智能和機器學習領域各種方法和技術的實際使用,這有助于縮小倫理和技術話語之間的差距,更易于實際課程開展過程中的風險管控。三是要預測人工智能教育開展過程中可能發生的倫理問題,及時提出相應的管控規約。規約的制定主體應結合當前的倫理風險發生范圍、倫理風險防控環境等要素,以客觀事實為基礎,及時對新興技術在課堂中的應用可能帶來的風險問題進行預測,調整規約管控范圍,以防新興倫理風險出現無規范可參照的問題。

5 結語

智能技術與教育的融合,使得人工智能教育課程已經成為中小學課程體系建設中的核心。從人工智能倫理風險本身來看,人工智能技術逐漸類人化發展,甚至存在僭越人類主體身份的可能性,技術所帶來的倫理風險問題將會對教育主體造成極大的傷害。由此,本研究思考了人工智能教育涵蓋的范圍,分析中小學人工智教育發展現存的倫理風險問題和相應的風險防范策略,以期為消解人工智能教育發展中存在的倫理問題提供理論參照。雖然倫理規制的完善往往具有滯后性,但仍需對其不斷完善,使得在人工智能教育開展的過程中各主體能夠深度挖掘技術的正向價值,規避負面影響。未來人工智能教育的推進不僅需關注課程層面的設計,更需研究者與相關部門制定完善的倫理規約與法規,為人工智能教育的開展創造和諧規范的生態環境。