生成式人工智能的教育應用及倫理風險探析*

楊俊鋒,沈中奇,陳睿寧

(杭州師范大學 經亨頤教育學院,浙江 杭州 311121)

一、引 言

國家高度重視人工智能技術對教育的深刻影響。2017年7月國務院印發《新一代人工智能發展規劃》[1],明確指出利用智能技術加快推動人才培養模式、教學方法改革。習近平總書記在2019年5月給國際人工智能與教育大會的賀信中強調“積極推動人工智能和教育深度融合,促進教育變革創新”[2]。人工智能技術在教育領域的應用逐漸深入。人工智能在教育領域的應用推動了教學創新,推進了學習個性化、管理與評價精細化,促進了教育跨領域融合發展。人工智能為教學提供了適切的解決方案,部分替代了教師的重復性工作,使他們能夠更加專注于創新性和啟發性的教學活動[3]12-19+92。此外,人工智能可以有效推動學生學習方式的個性化與精準化,使教育工作者能夠精準診斷學生的學習需求,提供個性化學習資源[4]75-86。基于大數據,人工智能有能力對學生進行全面的學習歷程和行為評價,實現實時的精準反饋[5]91-98+107。同時,人工智能也有效減少了由于地域和社會經濟差距帶來的教育不平等現象,讓更多的孩子可以享受到優質的教育資源,讓“人人可學、時時可學、處處可學”的愿景成為可能[6]9-12。在教育場域中,人工智能賦能教育,教育賦值人工智能,形成教育與人工智能融合的未來理想形態,促進跨領域融合發展[7]8-15+66。

近期,以ChatGPT(Chat Generative Pre-trained Transformer)為代表的生成式人工智能快速發展,為教育領域的變革注入了新的活力,有著廣闊的應用前景。ChatGPT類產品是基于算法、模型、規則自動化生成文本、圖片、聲音、視頻、代碼等多模態內容的生成式人工智能[8],其采用了大語言模型、基于人類反饋的強化學習、思維鏈等技術進行訓練,由此獲得了強大的自然語言處理能力、多模態信息處理能力、學習與適應能力及邏輯推理與決策能力,基于此,生成式人工智能不僅可以記憶用戶對話信息進行上下文分析[9]81-83,快速與精確生成多模態信息,學習不同任務與主題,還可以輔助人類進行邏輯推理與決策。可以預見,以ChatGPT為代表的生成式人工智能將獲得更廣泛的應用場景并變革人機關系[10]81-90,將成為加速教育系統變革的重要驅動力。

然而,生成式人工智能在深入應用到教與學的過程中產生了諸多問題,使教育工作者產生了困擾,甚至動搖了教育的初心及育人使命[11]19-25。一些教育研究者和實踐者陷入技術泥潭,引發了人們對人工智能取代人類的擔心及對智能化未來社會的過分想象[12]5-15。現代智能技術呈現的理性化、機械化的邏輯難以完成引領學生體驗認識生命意義這一人文性、超理性的使命[13]1-8。教育人工智能在實踐中體現出的優勢可能引發人機關系的失衡,工具理性與人的發展不匹配引發諸多倫理風險[14]104-112。對此,教育界應關注如何在迎接這場技術革命的同時,保持對教育核心價值的堅持,以及如何在科技發展的巨大沖擊下,保證教育的人本精神不受侵害,找到一條科技與教育并進、人與機器共生的新路徑非常重要。當下正是審思如何將以ChatGPT為代表的生成式人工智能與教育融合的好時機。因此,本研究旨在深化對生成式人工智能在教育領域應用的理解,以期推動其與教育的深度融合,保證教育的健康和持續發展。為了積極擁抱新技術,本研究探索生成式人工智能在教學、學習、管評、科研等環節的實際運用及其融入方式,深度剖析其應用過程中可能產生的倫理風險,提出有效的策略和措施,以發揮其最大潛力,使風險最小化,最終實現人工智能在教育領域的適度、合理使用。

二、生成式人工智能在教育中的典型應用

生成式人工智能展現了突出的自然語言處理能力、學習與適應能力、多模態信息理解與生成能力、邏輯推理與決策能力。自然語言處理能力源于大數據、高級算法模型和先進技術的共同作用,使得生成式人工智能能夠模擬人類的思維,理解和處理語言信息;學習與適應能力則是通過基于人類反饋的強化學習實現的,這種方法賦予了生成式人工智能快速學習新知識和適應不同任務的能力;多模態信息理解與生成能力使得生成式人工智能能夠處理圖像、音頻、視頻等多種類型的信息,讓其在應對更加復雜和多樣化的任務方面更加出色;邏輯推理與決策能力得益于其豐富的數據儲備和先進算法技術的協同作用,同時知識圖譜使生成式人工智能將學到的知識進行有序組織,并基于此模擬人的思維鏈,實現更高質量的文本生成。根據生成式人工智能的四大核心能力,以ChatGPT為代表的生成式人工智能在教育中的典型應用包括教學、學習、管評、科研四個方面,如圖1所示。

(一)賦能教學:讓教師專注于教學改進

生成式人工智能在提升教學效率方面具有優勢[15]102-112。教師可以利用生成式人工智能生成、篩選、組織優質教學資源,以滿足多樣性教學的需要[16]19-25+45。合理地利用生成式人工智能,可以減輕教師工作負擔,將教師從機械化任務中解放出來,使其能夠專注于改進教學和關注學生。在教學實踐中,生成式人工智能通過其自然語言處理能力,能夠精確地理解教師的語義,并從中推斷出潛在的需求和意圖。生成式人工智能憑借學習與適應能力,可以吸收教師提供的教學數據、課程資料,從而設計出針對性的課程,滿足教師的特定需求。多模態信息理解與生成能力可以幫助人工智能理解、轉換和生成不同模態的信息。在未來的課堂上,教師可以將自己的授課內容實時自動轉化為多模態信息,如文字、圖像、動畫、視頻等,將其呈現在教室與學生的電子設備上,使學生可以更加直觀地理解和掌握課程內容,進一步提高參與度和注意力。

(二)促進學習:構建個性化學習新方式

隨著教育信息化的發展,互聯網中各類教育應用充斥著大量未統一分類的學習資源,而學生在選擇合適的學習資源時容易陷入信息過載與迷失[16]19-25+45。用智能技術構建新型教育體系,其中重要一步是建立學習者和學習資源的聯結[17]137-147。此外,虛擬教學場景構建成本較大,難以規模化發展,而合理應用生成式人工智能可以打破專業壁壘,推動學習場景多元化。生成式人工智能可以為學生提供個性化、定制化的自適應學習體驗。學生可以與ChatGPT進行知識問答,ChatGPT可以通過學生畫像識別學生學習情境,結合學科專業知識幫助學生獲取個性化的學習資源[18]24-31+51。ChatGPT還可以作為學生的外語學習助手,模擬日常場景進行實時對話,依據任務幫助學生進行代碼編寫。其多模態信息理解與生成能力,可以將數據進行跨模態整合,進行場景構建與生成實驗等。在化學、生物、物理等學科中,ChatGPT可以根據學生的學習需求和興趣,結合學科知識和實驗數據,生成一定的實驗內容,同時結合圖像生成式人工智能生成虛擬實驗室中的場景、設備等,并引導學生進行操作和觀察。在未來的無障礙學習方面,ChatGPT可以根據特殊人群的需求和特點,結合其他生成式人工智能技術,為特殊人群提供無障礙學習的機會,促進人工智能的包容性發展。

(三)創新管評:優化管理和評價新視角

在教育領域,生成式人工智能的運用正在逐步深化,其對教育管理和評價的改革和創新帶來的影響也日益凸顯。其突出的自然語言處理能力、邏輯推理與決策能力可以幫助學校與教師優化管理流程,實現精細化管理。生成式人工智能分析各種教學活動的數據,通過進行精確的畫像分析、提供學習診斷報告等方式[19]74-80,便于教師實時調整教學策略[20]34-41,為教師定制個性化的教學計劃。不僅如此,生成式人工智能可以為教育管理者的決策提供科學依據與生成分析報告[21]247-253+267。通過對學生出勤率、學習表現、教師的教學評價等數據進行深度分析,以此生成學生未來可能的學術表現等預測信息,為教育管理者提供一系列如成績分布圖、教師評價雷達圖等可視化的報告[22]26-33,這些報告可以幫助教師了解教學效果等情況,發現可能存在的問題,從而及時調整教學管理策略。

在評價方面,生成式人工智能也將改變傳統的考試評價方式,實現更全面和個性化的評價。人工智能在注意的廣度、深度與客觀程度上都會強于傳統的評價方式[23]36-43。生成式人工智能所具有的自然語言處理能力,可以對學生的作業文本進行評分,還可以解釋得出評分的原因,以輔助學習者不斷提升閱讀和寫作技巧[24]21-41。除此之外,還可以借助生成式人工智能對學生進行知識水平、思維方式、創新能力等多角度的多元化評價。生成式人工智能可以通過分析學生的測試結果,評估學生特定學科的知識水平;通過分析作業、報告和在線討論等文本,理解他們的思維方式,如是否能夠邏輯清晰地組織和表達思想,是否能夠多角度和有深度地考慮問題;通過評估學生的創新項目、作品等,評價他們的創新能力,如是否能夠提出獨特的想法,是否能夠使用新的工具和技術等。

(四)助力科研:塑造學術研究的新模式

生成式人工智能在賦能學術研究方面,通過運用先進的算法與龐大的知識庫,能協助研究人員從海量信息中獲取相關信息,還可以為研究者提供創新性想法與啟示,以提高學術研究的效率。首先,生成式人工智能可以輔助研究人員進行文獻搜集與梳理工作。生成式人工智能與搜索引擎相結合,憑借其強大的自然語言能力與處理速度,可以快速檢索與搜集相關領域文獻,并進行匯總與分析[25]15-25。生成式人工智能還可以輔助研究者進行研究設計。借助與生成式人工智能的討論,研究者可以獲得一定的研究啟示,從而進一步明晰和完善研究思路[26]3-12+21。此外,生成式人工智能在提升論文寫作質量方面也發揮著重要作用。在論文寫作過程中,研究者需要關注語言的表達和組織方式是否清晰明了。此時,他們可以利用生成式人工智能進行語法和句式的修訂,以及語言表達的潤色,從而更有效地傳遞知識。

三、生成式人工智能教育應用的倫理風險

生成式人工智能在教育應用中可以為我們提供精準的個性化教學設計、自適應的學習支持、高效的學校管理支持、多元化的考核形式、客觀的評價體系以及對學術研究的賦能。但是其在為教育發展帶來新的活力的同時,也帶來諸多風險隱憂與倫理問題[27]88-94。在教育領域,數據的收集、儲存、傳遞及分析過程中可能產生的違反公認道德和規則的風險,可以被認為是教育數據倫理風險。這包括但不限于數據隱私被侵犯與數據利益分配不均等倫理問題[28]17-25+77。算法風險的存在與否取決于多個因素,如是否遵循教育邏輯,教育過程和相關人員是否能夠被準確量化,量化結果是否真實體現教育本質,以及算法和計算模型是否安全、可靠且無濫用風險[29]20-30。在人工智能的運用中,可能存在削弱教師角色、對學生全面發展的潛在限制及無界限的智能教育環境對學生自我認知的影響,此外,還需全面審視教育應用中責任歸屬不明確的問題[30]47。為引導人工智能的應用與發展,避免人工智能對社會產生負面影響,聯合國教科文組織提出一系列人工智能倫理原則,其中包括尊重人權、問責性、公平性和透明度[31]。基于以上分析,本研究提出一種倫理問題分析框架,這種框架旨在幫助我們更深入地理解、分析和解決在教育中使用生成式人工智能可能出現的倫理問題,如圖2所示。

按照倫理問題產生的階段自下而上可將風險分為數據、算法和使用三個部分,從主體及其行為的角度,重點分析可能產生的倫理風險成因:數據生命周期中的數據收集、處理、存儲和管理的倫理問題(如隱私侵犯和數據安全等);算法生命周期中的理解問題、算法設計和建模階段等的倫理問題(如算法偏見與歧視及責任歸屬等);使用場景中的教學管評研等應用中的倫理問題(如濫用導致學術不端和缺乏人文關懷等)。根據倫理風險的成因,結合教育倫理原則,從個體、人與人之間的關系、教育生態三個維度深度分析可能產生的影響。

(一)數據全生命周期的倫理風險及影響

從數據收集、處理、存儲到管理的整個過程中,可能面臨多種潛在的教育倫理風險,如數據泄露、侵犯隱私和存在誤導性信息等。生成式人工智能在學習和適應過程中需要大量數據,在數據收集中涉及學生、教師等敏感信息的數據安全問題變得尤為重要。此外,受訓練數據、模型不完美性等因素影響,生成式人工智能可能產生錯誤或虛假知識,進而影響教育質量和公平。

1.數據泄露與侵犯隱私:學生權益受損

數據泄露可能導致學生權益受損。ChatGPT等生成式人工智能需要處理和存儲大量的數據,在學習、教學和評價場景中,學生、教師與這些應用之間的對話可能會涉及個人隱私信息、學術記錄、行為模式、學生成績、班級信息和答題信息等[32]41-50。

根據倫理問題分析框架,在數據的生命周期中,若在數據處理、存儲與管理時,相關的企業技術人員沒有采取相應的安全措施,人工智能教育產品存在安全隱患,這些數據若被未經授權的人訪問、篡改或濫用[33]35-40,可能會對學生和教育機構帶來嚴重的、持久的負面效應。從對個體的影響來看,如果學校未能妥善保護這些數據,導致數據被利用,就會使學生被詐騙或騷擾,不僅嚴重影響學生的心理安全感,還會使學生的財產權、隱私權等受損。這種情況會進一步破壞學生與教育機構之間的信任關系,對教育機構的聲譽產生負面影響,甚至可能導致家校關系惡化。數據泄露問題對教育生態的影響也是明顯的,它可能使人們對生成式人工智能的安全性產生疑慮,進而制約生成式人工智能與教育的深度融合。

2.數據有誤與處理不當:虛假知識誤導

ChatGPT等生成式人工智能可能會生成錯誤或虛假知識,影響學生認知發展與教育公平。ChatGPT模型可以模擬人類思維,甚至可以一本正經地“胡說八道”,根據倫理問題分析框架,在數據收集過程中,它可能會受到訓練數據有錯誤等因素的影響,生成有事實性錯誤的信息。如果企業相關技術人員對收集數據質量不加以把控,學生對其內容不加辨別,教師對學生學習過程不監督、不進行合理引導,就會對個體、人與人之間的關系及教育生態造成破壞性影響。從對個體影響的角度看,錯誤知識的傳授可能導致學生對某個領域或概念的理解產生偏差,影響自身知識體系的構建及其對真實世界的認知;從對關系影響角度看,學生獲取了由生成式人工智能產生的錯誤知識,這些知識與教師所講授的知識存在偏差或相悖,而教師未發現或不加以引導,則會導致教師在學生心中的“知識權威地位”下降,不利于師生關系的發展;從對教育生態的影響分析,如果有關部門不加以監管,生成式人工智能則可能導致虛假知識泛濫,產生“劣幣驅逐良幣”的風險[15]102-112。

(二)算法全生命周期的倫理風險及影響

在算法生命周期的不同階段,也可能存在不同原因導致的倫理問題。在理解問題階段,可能存在理解偏差和認知偏差;在建模階段,可能存在將不公平的偏見納入模型的問題;在算法設計階段,可能存在將人為價值觀帶入模型設計的問題;在應用階段,可能存在導致實踐應用階段模型輸出不準確、歧視性輸出的問題。

1.算法歧視與訓練集偏見:教育不公平加劇

人為價值涉入的算法設計可能會影響教育公平。盡管算法的基礎原理是價值無涉的,但算法的各種參數、變換、賦值實際上存在著人為價值介入的可能性[34]12-18。根據倫理問題分析框架,在算法的生命周期中,在設計與建模階段,設計人員的主觀價值觀介入可能會導致偏見的產生。此外,在算法的建模階段,生成式人工智能如ChatGPT在模型訓練時,采用了基于人類反饋的強化學習技術,需要獲取人類的反饋來不斷優化自己,我們無法得知其中是否存在隱含偏見。在算法的數據收集階段,開發人員采用的數據集代表性不足會導致教育偏見與歧視。ChatGPT的訓練數據集中包含來自各個語種的語料庫,如英語、中文、西班牙語、德語、法語等[35],但由于英語在全球范圍內的廣泛使用,所以英語語料占比是較高的。這些語料來自多個渠道的歷史數據,包括網絡文本、書籍、新聞、論文、對話和其他形式的語言數據。那么這些語料可能存在數據偏差與偏見,例如存在性別、種族、文化和經濟等方面的偏見,最終產生“成見疊加”效應[36],甚至會滲透西方的意識形態[37]26-32。部分圖形生成式人工智能在測試中也顯現了明顯的種族偏見,當其被要求生成“CEO”“律師”等高薪白領職業時,輸出的圖片幾乎都是白人形象[38]17。從個體維度分析其造成的影響,若學生與ChatGPT進行知識問答,ChatGPT因存在偏見給出歧視性與不準確的回答,或者以不當的方式引導學生的學習和行為,忽視部分學生的學習需求,可能會使學生感到困惑或沮喪,最終降低學生的學習效果。從關系維度分析,學生可能會對生成式人工智能產生不信任,甚至產生反感,進一步影響生成式人工智能在教育領域的應用和接受度。從教育生態的維度分析,算法偏見和數據代表性不足可能會破壞整個教育生態,因為它們可能導致教育資源的不公平分配,這會加深學生之間的數字技能鴻溝,甚至損害教育的公平性[39]34-39+96。

2.算法不可釋與不透明:人機信任產生危機

生成式人工智能如ChatGPT采用深度學習算法模型,其內部結構和運行流程的復雜性使得結果的產生過程通常難以被清晰地闡述[40]131-139。以ChatGPT為代表的生成式人工智能并不會清晰展示其得出答案與決策的推導過程。因此,教師和學生對其算法路徑與運算邏輯一無所知[41]61-69。而在算法的主導下,ChatGPT會生成看似有道理的答案,極具迷惑性。如果開發者沒有盡力提高算法的可解釋性與適當的透明度,師生可能無法判斷生成式人工智能提供的答案的正確性、全面性與邏輯性,“知其然而不知其所以然”,這可能使部分學生接受有偏差的知識,從而導致學業成績下滑。長此以往,批判性思維弱的學生在知識理解上的差距可能被拉大,從而進一步破壞教育公平。對于人機信任關系的影響來說,教師可能會對在教育中生成式人工智能的使用產生疑慮,這可能會降低他們在教學中允許學生使用這種工具的意愿。

(三)人工智能教育應用場景中的倫理風險及影響

生成式人工智能賦能教育首先要滿足“合理性”這一基本要素[42]80-89。馬克思·韋伯提出了“合理性”的概念。他把合理性分為工具理性和價值理性。工具理性以結果為導向,追求效率;而價值理性以目的為導向,強調動機的純正和選擇正確的手段達到自己的目的,注重個人的價值與意義。在生成式人工智能與教育的融合過程中,如果過度推崇工具理性,可能會掩蓋“以人為本”的核心價值[43]34-38+102。教師與學生一味追求完成教學、學習任務的高效率,對其產生依賴,最終可能導致自身主體地位被取代,產生學生思維怠惰、人際溝通能力下降、學術不端等現象以及教師專業發展被抑制等問題。

1.思維惰化與專業能力下降:教師主體地位消解

教育的目的不僅僅是傳授知識,更重要的是對人的全面塑造[44]66-72。如果教師在備課時只追求效率,只想要快速進行知識傳遞,忽視了教學的育人屬性,則會產生思維惰化的現象。根據倫理問題分析框架,在教學場景中,教師將自己的教學主體地位全權交給ChatGPT,忽略“育人”本質,教育信念喪失,缺少對教學內容的藝術性設計,思維怠惰以至于直接拿其生成的教學方案進行授課,或是在教育中用人工智能代替與學生的互動[45]52-62。長此以往,教師的教學能力就會因缺少鍛煉而退化。當教師被技術主導,其實現自我專業發展的內在驅動力可能會喪失,創新精神可能會被削弱,主體地位可能被消解,成為技術的附庸[46]15-23+33。如果教師對學生的心理狀態與學習情況關注不夠,將教學權力讓渡給ChatGPT等生成式人工智能,從師生關系角度看,會加劇教師與學生的情感疏離。從對教育生態的影響看,當教師群體都追求工具理性時,教師的教學模式逐漸趨同,導致教師群體的同質化發展。

2.過度依賴與使用不當:學生學習異化

過于依賴ChatGPT等生成式人工智能可能會使學生長期處于一種“信息繭房”狀態。在ChatGPT這樣的AI系統中,雖然它的目標是盡可能提供準確、全面與多元化的信息,但它也可能會根據用戶的前序對話和表達的興趣,提供符合用戶已有觀點和興趣的信息,不能完全保證提供的知識是全面和系統的。根據倫理問題分析框架,在學習過程中,如果學生只依賴ChatGPT進行學習,忽視傳統的面對面交流和協作學習,且教師未進行適度引導,就可能會導致他們知識理解片面,導致獲取信息的廣度與思考的深度會受限制,仿佛將自己束縛在蠶繭中,難以形成連貫和深入的理解[47]79-84。若學生習慣于依賴技術工具獲取信息和解決問題,沉浸在“信息繭房”中,而不愿意與他人進行交流和互動,愛“人工智能”而不愛“鄰人”,會進一步影響人與人之間的關系,如降低學生的人際交往和溝通能力,減弱與教師的情感聯系,喪失在真實交往中獲取的人文關懷和情感支持。除此之外,人們需要在共同的學習與交往中,增強對國家和民族的歷史與文化的感受,人們的集體精神需要互相激發,而非單純依賴于與ChatGPT的對話[48]102-112+2。從對教育生態影響的角度出發,信息的不完整性可能會使學生在各個學習階段面臨不公平的學習機會,從而導致學生的認知發展不均衡,對此我們必須認真對待。

ChatGPT等生成式人工智能在一定程度上可以幫助學生提升獲取知識的效率,但學生若全盤接受其生成的內容,則可能不利于學生的發展。根據倫理問題分析框架,在學習過程中,學生在利用ChatGPT完成系列學習任務時,只獲得單向的知識灌輸與投喂,只等待答案的生成,不再進行思考[48]102-112+2。從對個體的影響分析,學生若對其呈現的結果不加批判,全盤接受,會導致學生思維的惰化,消弭主觀能動性[49]48-56。長期被“機器喂養”的學生的元認知、創新性思維、批判性思維、獨立解決問題的能力均可能受到不同程度的損害[50]。從對教育生態的影響來說,這與教育的“培養全面發展的人”目標背道而馳,如果學生沉溺于生成式人工智能提供的便捷環境,而忽視了獨立思考和實踐,將會導致教育目標的偏離,影響教育質量,對教育的可持續發展造成威脅。

3.評價失衡與決策偏頗:學生全面發展受限

濫用ChatGPT等生成式人工智能還可能引發教育評價的失衡問題[51]5-14。ChatGPT在當前開放測試中的表現可能會對線上考試的學術誠信評價體系構成威脅[52]。根據倫理問題分析框架,在教育評價時,部分學生使用ChatGPT生成的內容提交作業、論文和考試答案,教師將難以準確評價學生的知識水平和能力。對于學生個體而言,首先,長期使用生成式人工智能完成作業與考試,不僅不利于自身的學業成績提升,還會影響自身的高階思維發展。其次,這種依賴可能增加教師對學生的不信任感,學生在完成學業時還需要考慮如何自證,增大學業壓力[53]113-123。最后,濫用生成式人工智能可能對教育生態產生長期不利影響,可能破壞公平競爭的環境,導致評價機制失衡,影響可持續發展。有學者提出諸如ChatGPT等人工智能為傳統的教育評價敲響喪鐘。因此,教育者需全面反思,對教學評價方式作出實質性與創新性的改變。

在使用生成式人工智能對學生進行趨勢預測時,可能會產生決策偏頗的問題。因為預測趨勢只是對可能性的分析,而可能性并不直接轉化為必然性。生成式人工智能對數據與學生學業成績等相關關系的探討,僅僅是揭示兩個數值間的互動關系,這有助于我們洞察更深層的發展規律,然而,相關性并不能取代因果關系,更不能基于此斷言兩種事物間的必然聯系[54]34。根據倫理問題分析框架,作為人類智慧的產物,“方法+工具”必須同人類的智慧緊密相連,不能背離人類的洞見力[55]7-12+20。若一味地盲從采納其對學生的決策并進行管理,學生的個性化需求和自我發展的可能性被忽視,其未來的學習和發展也會受到相應的影響。長此以往,學校對學生的管理可能會變得機械化,缺乏人性化的溫度與人文力量,不利于學生與學校的關系發展。如果整個社會都依賴生成式人工智能的決策來決定教育資源的分配,可能會使教育資源的分配更加傾向于那些有優勢的群體,加劇教育資源的不平等分配。

4.學術不端與科研失信:研究可持續發展受阻

不誠信使用生成式人工智能可能會帶來學術不端的問題甚至影響科研發展與進步。依據倫理問題分析框架,在科研中,學生在使用生成式人工智能時,為了快速產出成果,追求效率,往往放棄了自身的思考,失去科研的本心,濫用這種技術從而產生學術不端問題,如剽竊、抄襲與數據造假等[56]19-30。從個體角度看,這些行為會使學生不愿認真鉆研,只想“不勞而獲”,這將損害學生的獨立思考能力與科研能力;從關系角度看,破壞誠信將會削弱科研的真實性和可信度,導致研究成果質量下降,使得大眾對學術研究的信任和尊重減弱;從教育生態角度看,這些學術不端行為會導致研究成果質量下降,阻礙科學知識的積累和創新,可能進一步影響整個學術界的可持續發展。

四、生成式人工智能教育應用的實施路徑

著名的“科林格里奇困境”表明,對一項技術限制得過早,可能會抑制技術的爆發,若限制得過晚,則可能該項技術已成為整個經濟和社會的一部分,對它的控制會變得十分困難[57]。當下我們要積極思考應對策略,既不對其放任自流,也不過分限制而扼殺技術的創新,教育與人工智能并非“零和博弈”,我們應積極擁抱新技術,順勢而為。

(一)重新思考教育目標和理念

教育的首要目標是培養能獨立思考和有正確價值判斷能力的人[58]。以ChatGPT為代表的生成式人工智能浪潮對學生的邏輯思維、提問能力、批判性思維、協作能力、溝通能力等提出了新的要求。只有學習個體的內腦建立高階思維技能,并通過思維技能駕馭如ChatGPT這樣的外腦,才能與ChatGPT等人工智能應用形成良性的人機協同[59]8-15。我們應該重新思索教育理念,加速教師的觀念轉變,著重培養學生的高階思維能力,讓學生可以更好地應對未來不確定的社會。

(二)優化AI教育應用場景設計

生成式人工智能擁有卓越的內容生成能力,可應用于教、學、管、考、評、研等多個場景。需要進一步優化教育應用場景的設計,明確人工智能技術在育人過程中的價值,從教學全流程、全要素、全業務的視角進行深入探索,實現智能技術與教育教學的深度融合,從提高教育質量和促進教育均衡的角度,破解我國現階段教育的主要矛盾。通過典型場景驅動的模式,解決教育和教學中的核心問題,探索低成本、可復制、可推廣的典型應用,推動教育數字化轉型升級。

(三)制定AI教育應用倫理規范

生成式人工智能在為教育帶來新的機遇的同時,也帶來了如隱私泄露、“信息繭房”、算法偏見和學術不端等倫理問題。為了避免此類問題的發生,教育領域應高度重視生成式人工智能在教育應用中的倫理道德問題,健全相關倫理規范體系,將倫理道德融入人工智能全生命周期[60],確保數據的安全可控與師生的隱私安全,監督審查算法的設計,確保公正無偏見,將倫理道德融入教育應用的相關環節和實踐活動,確保人工智能的應用以人為本。

(四)提升智能素養與倫理意識

在當今信息化時代,科技快速發展,提高師生的智能素養是將新一代人工智能技術融入教學的基礎,有助于學生更好地適應社會發展。而倫理風險意識則是保證師生安全可靠地應用人工智能技術的前提條件。為提高師生的智能素養和倫理意識,應開發人工智能教育應用與倫理意識相關課程和培訓,組織舉辦各種實踐活動,如編程競賽、網絡安全知識競賽和公益活動等,讓師生在實踐中提高智能素養和倫理意識。

(五)明確AI教育應用使用限度

在人工智能的應用過程中,需明確其應用限度。第一,在使用生成式人工智能時,要遵循相關法律法規與倫理原則,尊重學生和教師的隱私權,關注弱勢群體,保證教育公平。第二,明確人工智能在教育中的定位。人工智能在教育中只是起到輔助作用,不能完全替代教師的工作。教師不能忽略對學生的情感關懷,應關注學生的心理健康和人際交往能力,確保學生不會因為過度依賴技術而削弱人際溝通技能。第三,教師應加強對學生使用生成式人工智能全過程的監督,確保學生正確、適度地使用人工智能,防止學生偏離學習目標、被錯誤的知識誤導、過度依賴而導致思維惰化,最終影響其全面發展。

(六)轉變評價方式與考核方法

在生成式人工智能發展越來越快的當下,需要重新思考評價方式,轉變評價思路。比如,要強調思維而非知識、關注問題而非答案、注重邏輯而非簡單羅列[27]。學校可以采用以下策略來改進評價機制,如設計富有挑戰性的項目式任務,讓學生進行獨立思考和探究,鼓勵學生運用高階思維技能;采用多元化評價方法,結合傳統的筆試、面試和作業評價,引入同行評審、自我評價和教師觀察等多種評價方式全面了解學生的學習情況和能力水平;強化過程性評價,不僅要關注學生的最終成果,還要重視學習過程中的積極參與、探究和反思。

五、結 語

生成式人工智能在教育領域具有廣泛的應用前景,為教育發展和變革帶來了巨大的機遇。而技術創新的驅動與倫理風險的規避需求之間形成了一種矛盾,并涉及政策制定者、技術開發者、教育工作者、受教育者等多個群體。科技創新者致力于推動人工智能技術在教育領域的應用,以提高教育質量和效率,但在這個過程中可能忽視倫理風險。教育利益相關者則關心個人隱私、教育公平以及人的全面發展等方面的問題,希望在引入先進技術的同時確保這些倫理問題得到妥善解決。因此,科技創新者與教育利益相關者之間如何找到納什均衡(1)博弈雙方在策略中找到一種平衡,使得一方在知道對方策略的情況下無法通過改變自己的策略獲得更大收益。,共同實現人工智能在教育領域的可持續發展是當下亟待解決的問題。

在拓寬教育應用場景的同時,必須高度重視倫理道德的底線,不可忽視其潛在的倫理風險,如數據泄漏、算法偏見、“信息繭房”、人文關懷缺失和學術不端等。在應對生成式人工智能教育應用的倫理挑戰時,需要進行多層面、多維度的研究與思考。這包括:完善相關政策法規,引導科技發展方向;變革教育理念,以順應時代發展;加強教育倫理教育,培養具有高度道德自覺的研究者、開發者與使用者;倡導多學科、跨界的合作研究,以全面深入地探討倫理問題,促進教育高質量發展。