生成式人工智能賦能教育領域的技術優勢與風險應對策略

隨著人工智能技術的迅猛發展，生成式人工智能（Generative AI）在教育領域的應用日益廣泛。探討生成式人工智能技術在教育中的優勢以及相應的風險，并提出有效的風險應對策略成為教育領域亟待關注的技術賦能問題。生成式人工智能具有提供個性化學習支持、實現自適應教學方法和提高教育資源普及性等技術優勢，但是其數據隱私與安全性的缺失、人工智能偏見與歧視、人際交流與情感支持的喪失等風險給教育領域帶來的可能性風險，需要通過加強數據隱私保護與安全措施、減少人工智能偏見與歧視的影響以及強調人際交流與情感支持等教育性途徑加以應對。

生成式人工智能（Generative AI）是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。其本質是一個無監督或部分監督的機器學習框架，并通過使用統計學、概率等生成人工遺跡。[1]近年來，借由通用語言模型不斷迭代引發的諸領域變革性討論正是生成式人工智能創新性引用的體現，OpenAI不斷推出的ChatGPT系列更成為介入教育領域的前沿話題。當前，生成式人工智能技術在賦能教育主體、客體、內容、方法、途徑、管理、評價等諸多領域均展開實踐探究，同時各種前所未有的新興風險也逐漸涌現?；诖耍斜匾嫫饰錾墒饺斯ぶ悄苋谌虢逃I域的技術優勢，預判其可能存在的風險，并提出可行的風險應對措施，以期實現生成式人工智能賦能教育領域，以技術推動鑄魂育人。

生成式人工智能融入教育領域的技術優勢

當前，隨著類ChatGPT技術的不斷更新進步，生成式人工智能已被廣泛應用于人類社會生活的眾多領域，并彰顯出獨樹一幟的技術優勢。其能夠促進教育的個性化、即時化、自適應化和多樣化，為教育的改革和發展提供了新的機遇和可能性。

（一）提供個性化學習支持

個性化學習是通過生成式人工智能技術實現的一種教育方法，它能夠根據學生的學習風格、興趣和學習進度，提供定制化的學習資源和教學活動。在學習平臺如Khan Academy和Coursera等的應用中，個性化學習已被證明對提高學習效率和成績有顯著影響。這些平臺利用生成式人工智能技術分析學生的學習數據，推薦適合其學習風格和水平的課程內容和學習路徑，從而為學生提供了個性化的學習支持。[2]這種個性化學習支持可以通過智能教育系統的數據分析和學習算法來實現，例如推薦系統、學習路徑優化等。ChatGPT等生成式人工智能所提供的定制化學習體驗有助于提高學生的學習效率和成績，同時也增強了他們的學習動機和參與度。

（二）實現自適應教學方法

生成式人工智能技術還可以實現自適應教學方法，即根據學生的學習情況和反饋信息，自動調整教學內容、難度和節奏，最大程度促進學生個人的學習進步。EdTech公司Squirrel AI在中國的一項研究中展示了自適應教學方法的潛力，他們的智能教育系統利用機器學習算法分析學生的學習行為和表現，根據個人的學習需求和能力水平，動態調整教學內容和難度。這種自適應教學方法有效地提高了學生的學習效果，同時在國內外學術期刊上發表了多篇研究論文支持其效果。生成式人工智能所提供的自適應教學方法依賴于智能教育系統對學生學習數據的實時監測和分析，通過機器學習和數據挖掘技術來識別學生的學習需求和弱點，從而提供針對性的學習支持和指導。

（三）提高教育資源普及性

生成式人工智能技術可以通過在線教育平臺、虛擬教學助手等形式，將教育資源和服務擴展到更廣泛的學生群體。通過智能教育系統的互動學習環境，學生可以隨時隨地訪問高質量的教育資源，進行自主學習和課程學習。Massive Open Online Courses的興起為提高教育資源的可及性提供了有力的證據。平臺如edX和Udacity等為全球學生提供了免費或付費的高質量課程，通過生成式人工智能技術實現了個性化學習支持和自適應教學方法。這些平臺的成功案例表明，生成式人工智能在提高教育資源的可及性方面發揮了重要作用。生成式人工智能通過提供個性化和數字化的教育資源，有助于彌補地區教育資源不足的問題，提高教育的普及性和公平性。

可以預見，生成式人工智能基于在未來極有可能重塑教育者與受教育者之間的互動關系，革新教育內容和方法，提升教育管理和評價的效率，助力建立更加靈活、多樣化和普惠性的教育體系。

生成式人工智能融入教育領域面臨的風險

生成式人工智能融入教育領域為教育的個性化、智能化發展提供了強大的技術驅動，然而“技術總是同時打開兩個相反的可能性”，[3]智能技術作為一把“雙刃劍”，在為教育領域帶來無限可能的同時，其面臨的數據隱私與安全性的缺失、人工智能偏見與歧視以及人際交流與情感支持的喪失等問題也大大增加了教育發展的不確定性。

（一）數據隱私與安全性的缺失

生成式人工智能技術在教育領域的應用需要大量的學生學習數據訓練模型，這些獲取的和網絡爬蟲抓取的數據涉及個人隱私和敏感信息。2018年，美國一家在線學習平臺Coursera曾因未經許可共享用戶數據而面臨訴訟。這一事件引發了對在線教育平臺數據隱私保護的關注，提醒教育機構和技術提供商加強數據隱私保護與安全措施，確保學生學習數據的合法使用和保護。因此，教育機構和技術提供商需要采取有效的數據保護和安全措施，防止數據泄露、濫用和未經授權的訪問。此外，還需要考慮數據共享和轉移的合規性，以確保學生數據的合法使用和保護。

（二）人工智能偏見與歧視

生成式人工智能算法可能受到訓練數據的偏見影響，導致在教育領域出現歧視性結果和不公平對待的問題。例如，如果訓練數據集中存在性別、種族或經濟地位等方面的偏見，那么生成的智能教育系統可能會對某些學生群體產生不公平的影響。研究人員曾發現一些在線學習平臺的推薦系統存在性別、種族和地理位置等方面的偏見。例如，某些推薦算法更傾向于向男性學生推薦STEM領域的課程，而向女性學生推薦人文科學類課程。這種人工智能偏見的存在引發了對教育平臺算法公正性和平等性的擔憂。因此，教育機構和技術提供商需要采取措施來檢測和糾正人工智能算法中的偏見，確保教育資源和機會的公正分配。

（三）人際交流與情感支持的喪失

生成式人工智能教育系統可能會降低學生與教師之間的實時交流和情感聯系，從而影響教育過程中的人際關系和情感支持。雖然智能教育系統可以提供個性化的學習支持和反饋，但它們往往缺乏人類教師的情感理解和情感指導能力。在一些在線學習環境中，學生可能缺乏與教師和同學之間的實時交流和情感支持。研究發現，這種缺乏人際交流和情感支持的環境可能影響學生的學習體驗和成就。因此，教育機構和技術提供商需要關注如何在生成式人工智能教育系統中加入情感識別和情感智能技術，加強人際交流和情感支持的建設，以提高教學過程中的人際交流質量和情感支持水平，提高教學質量和學生滿意度。

生成式人工智能融入教育領域的風險應對策略

習近平總書記指出：“要加強人工智能同保障和改善民生的結合，從保障和改善民生、為人民創造美好生活的需要出發，推動人工智能在人們日常工作、學習、生活中的深度運用，創造更加智能的工作方式和生活方式?！泵鎸ι墒饺斯ぶ悄茉谌谌虢逃I域過程中的風險，有必要通過加強數據隱私保護與安全措施、減少人工智能偏見與歧視的影響、強調人際交流與情感支持的重要性等措施來保障智能技術在教育領域的良好應用。

（一）加強數據隱私保護與安全措施

生成式人工智能在個人隱私信息的處理過程中，可能存在違法收集、使用個人隱私信息進行不當商業利用等風險，因此在應用于教育領域的過程中，教育機構和技術提供商應建立健全數據隱私政策和安全管理制度，確保學生學習數據的安全存儲、傳輸和處理。同時綜合運用多種數據加密、訪問控制和身份驗證等技術手段，加強對學生數據的保護和監控。2023年7月10日，我國國家互聯網信息辦公室聯合多個部門發布了《生成式人工智能管理暫行辦法》，以此規制ChatGPT等生成式人工智能技術的應用風險。在不斷制定和完善人工智能法律法規的基礎上，科研機構和科技企業也應在國家有關部門的領導與支持下，盡快開發出安全可控、適合師生使用的生成式人工智能技術產品，確保隱私保護及數據安全。

（二）減少人工智能偏見與歧視的影響

生成式人工智能系統的偏見往往源于訓練數據源的偏見。因此，教育機構和技術提供商應采集和使用多樣化、全面性的數據集，包括不同性別、種族、社會背景的學生群體，平衡樣本集合，以確保生成式人工智能系統能夠反映各種學生群體的特點和需求，減少訓練數據中的偏見，提高生成式人工智能系統的公平性和包容性。同時還要對算法進行定期評估和審查，及時發現并糾正潛在的偏見和歧視問題。此外，促進人工智能與人類教師的協同合作也是減少人工智能偏見與歧視的重要途徑。人工智能系統可以提供個性化學習資源和評估反饋，而人類教師可以發揮專業知識和情感支持的優勢，為學生提供全面的教育支持。通過人機協同合作，可以有效彌補彼此的不足，提高教育的質量和公平性。

（三）強調人際交流與情感支持的重要性

教育是人的教育，教育的本質旨在回答教育如何使“人”成為人的問題。[4]雖然生成式人工智能技術為學生提供了更加高效、個性化的學習路徑，但是人際交流與情感支持對教育“現實的人”的重要性依然不容忽視。為了確保教育的全面性和人性化，在生成式人工智能教育系統中，應設計情感識別和情感表達功能，促進學生與教師之間的情感交流和情感支持。此外，還可以通過在線教育平臺提供實時教師支持和虛擬輔導服務，彌補智能教育系統在人際交流和情感支持方面的不足。

聚焦當下，隨著谷歌Gemini，OpenAI-Sora等大模型的全面開源和逐漸推廣，可以預見的是，技術迭代必將推動教育領域產生深遠變革。與此同時，正如聯合國教科文組織于2023年9月7日頒布的《生成式人工智能教育與研究應用指南》中所強調：“教育行業從業者必須在未來更進一步考慮倫理原則”，以更好應對學習數據和個人信息被大規模收集和分析的過程中產生的個人隱私泄露問題，技術依賴性增加引發人工智能透明度和公平性問題以及對于教育資源的不平等分配風險等。[5]面對這些風險，我們需要積極探索技術與人文教育的有機結合，強調人的主體地位，將人工智能技術作為教育的輔助工具，而非取代人的角色。同時，建立健全的法律法規和倫理準則，保護學生的隱私權和個人權益，促進技術的可持續發展和社會的可持續進步。只有在充分認識和應對風險的基礎上，我們才能更好地把握生成式人工智能技術帶來的機遇，實現教育的公平、普及和提升。

參考文獻

[1]MLADAN J：《CAMPBELL M.Generative artificial intelligence：trends and prospects》，載《Computer》，2022，55（10）：107-112頁。

[2]劉勇、徐佳慧、董躍武等：《高等教育中如何應用ChatGPT類生成式人工智能——聯合國教科文組織<高等教育中的ChatGPT和人工智能：快速入門指南>解析》，載《中國教育信息化》，2024，30（02）：71-80頁。

[3]張一兵、貝爾納·斯蒂格勒、楊喬喻：《技術、知識與批判——張一兵與斯蒂格勒的對話》，載《江蘇社會科學》，2016（04）：1-7頁。

[4]王夏杰、鄧淑華：《馬克思教育思想及其重要啟示——基于“現實的人”研究視域》，載《中共山西省委黨校學報》，2020，43（05）：12-15頁。

[5]蘭國帥、杜水蓮、宋帆等：《生成式人工智能教育：關鍵爭議、促進方法與未來議題——UNESCO〈生成式人工智能教育和研究應用指南〉報告要點與思考》，載《開放教育研究》，2023，29（06）：15-26頁。

[6]鄧建鵬、趙治松：《文生視頻類人工智能的風險與三維規制：以Sora為視角》，載《新疆師范大學學報（哲學社會科學版）》，2024-03-25：1-9頁。

作者簡介

強子言 長安大學經濟與管理學院信息管理與信息系統專業學生

楊延慶 西安醫學院黨委學工部副教授，研究方向為計算機應用技術