“阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應用的潛能與風險

王佑鎂 王旦 梁煒怡 柳晨晨

摘要：智能聊天機器人模型ChatGPT，因具有可以針對用戶輸入內容生成自然語言文本，支持連續多輪對話與上下文理解等特性，吸引了大量教育研究者和工作者的關注。作為AIGC的典型應用，ChatGPT會如何改變教育？它到底是教育的“阿拉丁神燈”還是“潘多拉魔盒”呢？一方面，ChatGPT具有賦能教學創新的潛能，可以提升教學成果的完成度與創意感、增強數字導師的角色感與互動性、提高自適應學習系統的易用性與精準度、促進教學策略與方式的智慧化與創造性，支持教學反饋與評價的生成性與個性化。另一方面，ChatGPT在教育中的應用也可能引發四類風險：學業誠信遭質疑與評估機制失平衡、過度依賴生沉迷與教師地位恐弱化、信息傳輸不準確與知識水平受限制、倫理意識未加強與倫理風險難應對。顯而易見，作為一款現象級生成式人工智能應用，ChatGPT可能引發教育的深刻變革。教育工作者應謹慎地加以使用，積極吸納ChatGPT帶來的教育創新，同時通過發展評估策略、分割教學責任、加速技術革新、制定倫理指南等措施規避其可能帶來的教育風險。

關鍵詞：人工智能；ChatGPT；AIGC；教育潛能；教育風險

中圖分類號：G434 ? 文獻標識碼：A ? ?文章編號：1009-5195（2023）02-0048-09 ?doi10.3969/j.issn.1009-5195.2023.02.006

基金項目：全國教育科學規劃2021年度國家一般課題“教育領域人工智能應用的倫理風險與防范對策研究”（BCA210086）。

作者簡介：王佑鎂，博士，教授，博士生導師，溫州大學大數據與智慧教育研究中心主任（浙江溫州 325035）；王旦、梁煒怡，碩士研究生，溫州大學教育學院教育技術系（浙江溫州 325035）；柳晨晨，博士，副教授，溫州大學教育學院教育技術系（浙江溫州 325035）。

一、 引言

2022年11月30日，由美國人工智能研究實驗室OpenAI上線發布的全新聊天機器人模型ChatGPT火爆全網，其在上線后短短5天內便吸引了超過百萬用戶，這是社交媒體平臺Meta用了10個月、流媒體平臺Netflix用了3年才達到的成績（Hurst，2022）。ChatGPT可以針對用戶輸入的內容生成更自然的響應文本，允許用戶與其就任何事情進行自然語言對話。其敢于質疑、承認無知、支持連續多輪對話與上下文理解等特性吸引了大量教育研究者和工作者的關注。

一些研究者認為ChatGPT將加速教育變革。“有了ChatGPT，教育可能永遠不一樣。”（Euchner，2023）“ChatGPT如果使用得當，將是一種強大的教育工具。”（Rudolph et al.，2023）也有學者指出，ChatGPT成為了抄襲和作弊的利器（王樹義等，2023），濫用ChatGPT可能會對學術公平性產生一定的負面影響（朱光輝等，2023）。那么，ChatGPT會如何改變教育呢？它到底是教育的“阿拉丁神燈”還是“潘多拉魔盒”呢？面對人工智能的飛速發展，教育工作者該如何做好準備迎接此類新技術的出現呢？本文擬結合各界對ChatGPT的應用與探索，嘗試探討其在教育中應用的潛能與限度。

二、ChatGPT的實質：AIGC的突破性落地

從內容的創作者角度來看，互聯網的內容生產形態目前為止可大致分為三個階段，分別是專業生成內容（Professional Generated Content，PGC）、用戶生成內容（User Generated Content，UGC）和人工智能生成內容（AI Generated Content，AIGC），具體如表1所示（王諾等，2022）。

專業生成內容（PGC）是Web1.0時代主要的內容生成模式，主要通過鼠標鍵盤的操作進行專業內容分享，創作者是具備專業知識和技能的專業人士，分享內容具有專業化、垂直化與權威化等特點（張新新等，2022）。此階段依賴靜態和動態HTML網頁技術，以靜態單向閱讀為主，用戶僅是被動參與，難以產生交互和新內容的創作。Web2.0時代，互聯網內容生成由專家主導轉向用戶主導模式，即用戶生成內容（UGC）。這一階段創作權由專業人員讓渡給普通用戶，用戶既是內容受眾，也是內容的創造者和發布者。用戶可根據自身需求，自主創作需要的內容，分享內容也更加多元化、個性化、民主化和創新化。此階段以Blog、SNS、RSS、Wiki等社會性軟件的應用為核心，由六度分隔、XML、AJAX等新理論和技術支持展開。目前，互聯網已逐步邁入Web3.0時代。隨著人工智能技術的不斷改進，通過自然語言處理（Natural Language Processing，NLP）和自然語言生成（Natural Language Generation，NLG）方法，依據用戶某些詞語或句子自動化生成滿足用戶需求的人工智能生成內容（AIGC）模式，已成為Web3.0時代內容生成的重要方式。相較于PGC和UGC，AIGC最大的不同就是能利用人工智能技術驅動機器創作內容，具有大模型、多模態、可控制和虛實共生等特征（李白楊等，2022）。AIGC被認為是推動元宇宙發展的加速器。

ChatGPT是基于人工智能技術的大型語言對話模型，是一種新型自然語言處理工具。ChatGPT首次采用從人類反饋中強化學習（Reinforcement Learning from Human Feedback，RLHF）的方式，具有根據用戶反饋改進輸出結果的能力，并會根據用戶反饋持續化更新和學習，實現與真實對話無異的交流（Shen et al.，2023）。同時，ChatGPT采用了注重道德水平的訓練方式，這使它具備了能判斷不懷好意的提問和請求的能力，并能對它們“說不”（Tate et al.，2023）。OpenAI（2022）稱，平臺提供的對話模式令ChatGPT可以“回答后續的問題、承認自己的錯誤、挑戰不正確的前提與拒絕不恰當的請求”。

從技術層面看，ChatGPT屬于AIGC應用，是基于自然語言處理（NLP）和機器學習技術（Machine Learning，ML）的人工智能內容生成應用（George et al.，2023）。但從創作層面來說，ChatGPT不僅可以自動化生成內容，還可以根據用戶提供的輸入內容，生成用戶內容和專家內容。ChatGPT基于GPT-3.5大型語言模型家族，結合監督學習和強化學習技術進行微調，擁有1750億個模型參數（Hirosawa et al.，2023），能夠以更接近人類思考的方式參與用戶查詢過程，并可以模擬多種人類情緒和語氣，根據上下文和語境提供恰當回答，優化了GPT-3回答中看似通順但脫離實際的問題（Taecharungroj，2023）。作為一個低門檻、高效率的文字內容生產工具，ChatGPT被認為將在智能客服、虛擬人、游戲、教育等領域獲得更大落地，這對于傳統的內容生產形態無疑是一次巨大的沖擊。

三、賦能創新：ChatGPT教育應用的潛能

ChatGPT一經推出便引起轟動，成為互聯網上最受關注的人工智能應用之一。教育研究者和工作者也紛紛就ChatGPT在教育領域的應用潛力與影響展開探索與討論。有學者認為，ChatGPT具有非常強大的信息搜索與整理能力，能為學生的疑問提供更豐富的答案，并允許學生使用自然語言找到他們所需要的學習資源，這將有望徹底改變基于互聯網的信息搜索方式（Aljanabi et al.，2023）。它可以成為一個很好的AI助教，在短時間內幫助教師和學生制定課程計劃、生成不同級別的問題列表；也能作為智能助理與秘書，輔助學生完成學術論文、程序和測驗等（儲舒婷，2023）。Zhai（2023）通過ChatGPT進行了一項實驗研究：利用其完成了一篇題為《Artificial Intelligence for Education》的學術論文，發現ChatGPT能協助研究人員完成一篇連貫的、部分準確的、內容豐富的論文。他還將ChatGPT應用于科學學習中，并提出四項具體的應用范式：開發自動評估項目、評估再反饋、個性化學習指導與特殊需求的制定。Rudolph等（2023）探索了ChatGPT在高等教育中的可能應用，包括為教學引入創新性評價、創新教學策略、提供實驗與經驗學習、促進協作學習與團隊合作等。

依據教育領域人工智能教育應用的基本取向和教學設計的基本要素（王春麗，2022），本文將ChatGPT在教育中的可能應用劃分為5個方面，如圖1所示。

1.提升教學成果的完成度與創意感

ChatGPT與教育的結合，能為學生的論文、作業、測試等提供支持，減少一系列重復性工作，激發生成具有創意感的內容（楊歡等，2022）。一位五年級教師Piercey分享了其利用ChatGPT將一名學生創作的故事重新組合成童謠、連續劇、兒童讀物的過程（ED TECH，2022）。他詳細解釋了ChatGPT如何潛移默化地在一個五年級學生創作的簡短故事中添加你想增加的元素，例如機器人、隨機角色等，從而構建出更豐富的故事。他認為ChatGPT的出現為趣味性的課堂增添了可能性，為學生提供了一些非常獨特的范例，學生能學會如何將寫作內容描繪得更加生動和有趣。

ChatGPT不僅能創造出一段寫實的故事、一篇精彩的文章、一首優美的詩，還能對寫作類和編程代碼類作業進行輔導。在寫作方面，ChatGPT通過寫作提示能鼓勵學生更加深入地寫作，提高其批判性思維。并且，ChatGPT能使學生認識不同的寫作體裁與風格，以一種有趣的方式來幫助學生克服寫作時的畏懼感。在輔助編程方面，ChatGPT可以為學生自動生成所需代碼，促進學生將精力聚焦于更具有創造性的創意上。

2.增強數字導師的角色感與互動性

ChatGPT可以為學生分析、整合已有知識，并提供智能虛擬輔導與服務，使學生獲得個性化的回答和反饋（Qadir，2022），可以作為學生互動學習、語言翻譯與論文評分的數字導師。

首先，在ChatGPT的支持下，學生能夠以對話方式與虛擬導師進行互動。有研究表明，基于生成式的會話代理可以為學生學習第二語言提供有效的支持，進而提升語言表達能力（Chang et al.，2022）。其次，ChatGPT可以翻譯不同的語言，能為虛擬教師提供教學材料，為學生第二語言學習提供支持。已有研究表明，基于數據集訓練的生成模型能夠為學生提供準確的翻譯結果（Wu et al.，2016）。再次，ChatGPT的數據模型能夠精準地識別論文的主要特征，可以為學生的論文評分，使教師能有更多時間來專注于教學其他方面，從而減輕教師的壓力。

國外學者Omar等（2022）嘗試使用ChatGPT強大的語言模型吸引和教育學生。他們分享了ChatGPT作為數字導師如何訓練學生語言技能和溝通技能的詳細做法。例如在英語課程中，可以將ChatGPT作為對話伙伴，來練習學生的口語、聽力、閱讀和寫作技能，鼓勵學生參與討論，從而加深學習印象；在歷史課堂中，ChatGPT可以針對一個歷史主題，從各種不同角度為學生提供相關材料，從而幫助學生更加開拓性地思考與討論。可見，ChatGPT能在教與學中扮演數字導師角色，鍛煉學生多方面的技能（Khan et al.，2023）。

3.提高自適應學習系統的易用性與精準度

ChatGPT能自動化輔助學生多項任務。“與ChatGPT對話，它會記住你所回復的內容，并且如果你不喜歡它回復的內容，你可以拓展、精煉回復的內容，甚至可以要求它以不同的聲音和方式進行回復。”（Alshater，2022）因此，ChatGPT可以被用來創建自適應的學習系統，其模型能自動化理解用戶輸入的任務，并相應地調整自身輸出內容的難度，自主化適應學生學習。教師也可以利用學生的進步和表現來調整自身教學方法，進而更有效率地完成教學目標。這無疑提高了自適應學習系統的易用性與精準度，為學生個性化學習提供了便利。

同時，ChatGPT還可以為學習有障礙的學生提供自適應服務，有助于促進教育的公平性和包容性。例如，ChatGPT可以為有閱讀障礙的學生提供有聲文本的朗讀以及自動化的學習方法推薦，進而縮小數字鴻溝，創建學生學習方式的新樣態。

4.促進教學策略與方式的智慧化與創造性

ChatGPT不僅能為學生帶來便利，還可能引發教學方式的變革。ChatGPT可以創新教學策略，促進協作學習與經驗學習。

首先，ChatGPT可以結合不同的教學方式，如基于游戲的教學、基于項目的教學等，通過不同方式賦能智慧化教學的趣味性，提高學習的投入度和體驗感，讓學生獲益。它還能便捷地幫助教師布置隨機的教學任務，生成不同級別且富有創造性的教學問題與答案，使教學策略和方式升級（Topsakal et al.，2022）。已有研究在課堂中借助ChatGPT實施翻轉課堂、智慧課堂等教學方式，發現其有助于提升學生的學習興趣（Rudolph et al.，2023）。

其次，ChatGPT可以幫助教師制定教學計劃、對教學內容進行排序，并生成課堂問題，為教師節省大量尋找教學靈感的時間，這對于新手教師是非常有用的。教師借助ChatGPT，可以使用自然語言輕松地創建定制課程、測驗和其他學習材料，顯著提高教師教學的有效性和效率 （Pfeffer et al.，2023）。如此一來，教師可以將更多時間和精力專注于打造更優質的教學，為學生提供個性化學習。

最后，在適當教學策略的輔助下，ChatGPT還可以作為不同場景的學習手段，使學生分小組協作解決對應問題，進而促進學生之間的合作，讓學生在體驗中成長。

5.支持教學反饋與評價的生成性與個性化

教學反饋與評價是教學中非常關鍵的一環，有效的反饋能促進學生的理解，保證學習效果（陳明選等，2018）。ChatGPT可以實現個性化的學習指導、開發自動評估項目與評價再反饋。

首先，ChatGPT通過有針對性地提供學習資源，可以指導學生進行自主學習，獲得必要的知識和技能。已有研究表明，ChatGPT及類似聊天機器人在個性化的學習指導方面具有一定的有效性，能進一步改善學習效果（Aljanabi，2023）。其對話功能可以及時糾正學生的錯誤理解，并提供符合不同年齡段學生知識理解水平的、量身定制的解釋。

其次，ChatGPT可以協助教師生成個性化的教學評估項目，使教學評價走向公平化。例如，有研究通過ChatGPT開發了一個與中學生生活現象相關的評估任務來評估學生的學習表現，包括標題、方向和評估標準，并通過實證研究的方式驗證了此評估項目的有效性（Zhai，2023）。

再次，ChatGPT不僅能協助評估和報告學生的學習表現，還能對學生的學習表現進行準確分析，并與家長或其他利益相關者共享。在人類反饋強化學習（RLHF）機制支持下，ChatGPT可以實現對教學評價的再反饋，甚至能分析學生對教學評價的反應。有研究嘗試將一篇文章輸入ChatGPT并要求它提出改進建議，發現ChatGPT作出的回應又快又準確，且還可監控和支持學生完成所有修改（Frieder et al.，2023）。

四、潛在風險：ChatGPT教育應用的挑戰

也有一些學者對ChatGPT在教育中的使用表示擔憂。Alshater（2022）認為ChatGPT存在一定的局限性，包括對數據的質量存在依賴性、有限的知識領域、倫理問題、過度依賴技術與存在誤用的可能性等。Baidoo-Anu等（2023）也認為，在教育中使用ChatGPT可能存在缺乏人類的互動、有限的理解、訓練數據存在偏差、缺乏創造力、缺乏上下文的理解與泄露隱私等問題。Qadir（2022）還提出，ChatGPT和其他生成式人工智能系統一樣可能會存在偏見，甚至產生和傳播錯誤信息，并引發一系列倫理問題。當下教育領域最擔心的是ChatGPT會幫助學生完成家庭作業或作弊，從而有損教育公平。

總的來說，雖然ChatGPT在教育中的應用具有很大潛力，但也存在學業誠信遭質疑、師生過度依賴、信息傳輸不準確、倫理風險難應對等風險與挑戰，如圖2所示。

1.學業誠信遭質疑，評估機制失平衡

ChatGPT能在多門學科中幫助學生完成學習任務，提高教學成果的完成度與創意感，但隨之而來也引發了學者們對學生學業誠信的擔憂。有研究者提出，ChatGPT可能會幫助學生實施作弊，使教育評估機制失去平衡，導致教育不公平的問題（Cotton et al.，2023；Ventayen，2023）。有研究者通過測試ChatGPT與真實考生在大學開放性考試中的作答結果后表示，ChatGPT的推出可能導致在線考試和開放性考試學術誠信的終結，因為ChatGPT的考試答案展現出了高度的批判思維和邏輯思維，能在很少的輸入下生成高度逼真的文本，使學生在考試中作弊成為可能（Susnjak，2022）。此外，教務人員也表示很難區分學生和ChatGPT生成的寫作內容，并且當學生使用ChatGPT回答問題時，教務人員很難充分評估學生的真實理解水平。因此，這可能導致已有教育評估機制的失效（Cotton et al.，2023）。達沃斯世界經濟論壇人工智能負責人Kay Firth-Butterfield表示：學生提交人工智能生成的內容將影響其自我能力的提升，因為“這種行為好比是一個工作機器”。而且，教育領域對人工智能工具的反應是緩慢的，防止其帶來的風險需多次嘗試和反復調整才能準確實施（Pomeroy，2022）。當學生依賴人工智能產品，將創作的主權移交給AI后，學生又能在教育中學到什么呢？我們又如何掌握學生的真實水平呢？這對學業誠信檢測與評估機制提出了巨大的挑戰。

2.過度依賴生沉迷，教師地位恐弱化

誠然，ChatGPT和其他內容生成類模型能為學生提供互動學習，讓學生在互動中受益（Baidoo-Anu et al.，2023）。2014年的一項研究也證明，與模仿人類情感行為的虛擬導師互動的學生學習效果更好（DMello et al.，2014）。但是，學生在多次使用ChatGPT后，很可能會產生一定的依賴心理。尤其在多次使用其協助完成學習任務并獲得較好的成績后，學生很可能沉迷于其效果。因智能工具產生依賴進而養成惰性心理是有先例的。如早前多有報道學生依賴作業搜題工具而導致學習成績下降的問題。過度依賴在線工具可能降低學生的創造力，使其將節省的時間轉移至與學習無關的方面。同時，強大的人工智能輔助工具也對教師的能力提出了更高的要求，教師需具有較強的知識對錯辨別能力，特別是在備課環節能做到取其精華與去其糟粕（周潔等，2022）。而且，ChatGPT的過度使用也可能威脅教師在課堂中的地位，導致學生在課堂中不專心聽講，而將解決課后任務的希望寄托于ChatGPT。ChatGPT確實讓知識獲取更加容易、作業反饋更加便捷、學習模式更加多樣，還能幫助教師節省文書工作、評分測驗等，但如果師生不能適應ChatGPT帶來的變化，其將帶來怎樣的后果，還不得而知。

3.信息傳輸不準確，知識水平受限制

盡管ChatGPT很像傳統的搜索引擎，可以快速提供大量、豐富的學習信息，但其信息的準確性還無法保證。紐約市教育局就對ChatGPT向學生傳達的信息表示了擔憂，特別是對其答案的安全性和準確性提出了質疑。他們還擔心使用ChatGPT會導致年輕學生變得自滿，致其缺乏評估信息的必備技能（Hsu，2023）。OpenAI（2022）也承認，ChatGPT有時會回復看似合理但不正確或荒謬的答案，因為：（1）在反饋學習（Reinforcement Learning）訓練期間，沒有真實的信息來源；（2）訓練模型較為謹慎導致它會拒絕可以正確回答的問題；（3）監督訓練誤導模型的回答。而且，ChatGPT對學生輸入文本的調整或多次輸入相同文本十分敏感。例如，在ChatGPT中輸入想要詢問的問題，ChatGPT可以聲稱不知道答案，但稍作改寫就可以回答出正確的答案。正因如此，教學中使用ChatGPT時，必須是精確詢問的文本。教師與學生并不能完全信任它。還有研究者指出，OpenAI上線ChatGPT時，其訓練模型的數據受制于2021年，對2021年之后的世界的認知是有限的，對某些特殊人群的相關問題也知之甚少，尤其是對理科方面的內容掌握程度較低（Qadir，2022）。此外，ChatGPT無法與活躍的互聯網相連接，無法從社交媒體中獲取任何信息，數據集存在封閉性，所以生成不正確的信息是可能的。如果ChatGPT為學生生成的是一個圍繞特定搜索主題的虛假閱讀列表，那么ChatGPT能為教學提供便利的基礎又何在呢？

4.倫理意識未加強，倫理風險難應對

人工智能倫理是指在道德上約束人工智能開發、管理、應用等應遵守的一切倫理原則和行為規范。隨著人工智能的飛速發展，教育工作者們也必須具有一定的倫理意識。在ChatGPT為學生提供個性化的教學反饋時，以下三種倫理問題值得注意：數據隱私、偏見性與所有權，如圖3所示。

第一， 數據隱私。為了獲得ChatGPT對特定問題的解決方案，師生需要輸入大量與之相關的數據和資料。ChatGPT在識別數據并為使用者提供滿意的答復時，儲存的數據卻有可能被泄露。教育機構尤其是學校對第三方在未經同意的情況下如何正確使用學生數據表示擔憂。

第二， 偏見性。ChatGPT是一個大型的語言模型，雖然被訓練了幾百萬個數據點，包括了大量的文本與書籍，但由于其學習到的知識僅來自于訓練數據中的統計規律，缺乏語境理解能力，無法像人類一樣能對世界進行復雜和系統地了解，因此常具有攻擊性和偏見性的反饋內容（Baidoo-Anu et al.，2023）。

第三， 所有權。ChatGPT為教師與學生生成的所有內容能否被直接使用需要評估。雖然ChatGPT代寫編程代碼、擴寫生動故事等能力在短時間內已獲得廣泛認可，但這種生成性模型只能根據它們的訓練數據模式生成響應，并不具備創新性和獨創性。換句話說，ChatGPT的響應是匯聚數據庫中數據的成果，這些作品的所有權又該屬于誰呢？而后產生的一系列風險又應該由誰來承擔呢（Pavlik，2023）？這需引起人們的高度重視。

五、未來教育的發展之路：ChatGPT引發的思考

無論ChatGPT為教育領域帶來的是機遇還是風險，其作為一種變革性力量，已經在全球各個領域引發廣泛關注。智能技術的快速發展，勢必進一步引發教育的深刻變革。應如何正確謹慎地使用ChatGPT，積極吸納ChatGPT帶來的教育創新，同時制定合理使用的準則與標準以規避其風險，不僅關乎教育人工智能的創新融入，也影響著未來教育的發展方向。基于此，本文構建了未來ChatGPT教育應用的優化路徑，如圖4所示。

1.發展評估策略，重塑學術誠信

當前人們對ChatGPT在教育中應用的最大擔憂，即是其可能引發學生作弊和學術不端現象。當前已有教育部門、高校、出版機構出臺ChatGPT的使用禁令。但是堵不如疏。如何做好應對策略，才是教學管理者和有關機構應該重點關注的問題。一方面，教育機構應該加大對學生的誠信教育，幫助其認識學業誠信的重要性以及剽竊和作弊引發后果的嚴重性；同時鼓勵學生原創。另一方面，教師要改進教學方式，設定明確的期望和指導方針，跟蹤學生進度，定期審查學生的作業進度，或要求學生上交作業草稿以供審閱，及早發現學生問題并解決。此外，研究機構或企業也要積極進行產品研發，開發或改良誠信檢測的軟件或工具，幫助識別采用ChatGPT等智能工具輔助的成果。Turnitin檢測軟件承諾于2023年將最新的人工智能生成檢測功能（包括識別ChatGPT生成文本）整合于已上市的監測產品中，這有助于解決學業誠信問題（Riley，2023）。

2.分割教學責任，加強情感互動

教育應以學生的發展為第一要義。ChatGPT可以作為數字導師，輔助教師教學，但在ChatGPT與教師之間，需明確各自的角色、任務與責任。教師要合理應用ChatGPT的技術功能，注重師生情感交流，增強人文關懷。學生可以將ChatGPT作為學習輔導工具，但不能形成慣性依賴。家長需積極配合教師，正確引導、監督學生使用ChatGPT。教學管理者要制定合理的政策與規范，協調學生、教師以及技術工具三者之間的關系，營造積極、健康的教學環境。

3.加速技術革新，促進教育發展

當前ChatGPT技術本身還存在缺陷，需不斷優化和升級，以適應不同行業、領域的需求。2023年1月9日，OpenAI實驗室對ChatGPT模型進行了最新一輪的改進，改進后ChatGPT能在更廣泛的主題上進行響應，并提高了回答的真實性（Akhter et al.，2023）。此外，教師和學生在借助ChatGPT進行內容創作時必須明確，ChatGPT只是輔助工具，其“理解”和“創新”只是淺層的。ChatGPT能否被很好地應用于教育，取決于教育工作者能否發現正確使用ChatGPT的途徑。教育的核心是人，技術只是工具。只有明確人與工具的關系，才能在教育中更好地發揮技術的功效，促進教育的發展。

4.制定倫理指南，監督應用方式

在倫理方面，應加快提升教育各層人士的人工智能倫理素養，強化“倫理先行”意識，加強自律自治，共同打造ChatGPT教育應用的良性發展生態。具體而言，一方面要制定ChatGPT等內容生成類智能工具的使用與應用指南，明確倫理界限；另一方面要加強倫理教育，確保學生、教師、管理者等了解倫理指南，并在學習與教學中以合乎倫理的方式使用ChatGPT。如可以將批判性思維與倫理元素納入教學課程中，幫助學生培養負責任地使用ChatGPT所需要的技能和習慣。此外，還應綜合應用多種舉措，監督ChatGPT在教育環境下的使用，以防止不當應用行為的出現。

參考文獻：

[1]陳明選，王詩佳（2018）.測評大數據支持下的學習反饋設計研究[J].電化教育研究，39（3）：35-42，61.

[2]儲舒婷（2023）.ChatGPT火熱“出圈”，我們如何應對新挑戰[N].文匯報，2023-02-05（003）.

[3]李白楊，白云，詹希旎等（2022）.人工智能生成內容（AIGC）的技術特征與形態演進[J/OL].圖書情報知識.https：//kns.cnki.net/kcms/detail/42.1085.G2.20221128.1005.002.html.

[4]王春麗（2022）.國際組織的人工智能教育應用觀：技術、實踐及挑戰[J].比較教育研究，44（10）：86-93，102.

[5]王諾，畢學成，許鑫（2022）.先利其器：元宇宙場景下的AIGC及其GLAM應用機遇[J].圖書館論壇，43（2）：117-124.

[6]王樹義，張慶薇（2023）.ChatGPT給科研工作者帶來的機遇與挑戰[J/OL].圖書館論壇.https：//kns.cnki.net/kcms/detail

//44.1306.g2.20230223.2231.002.html.

[7]楊歡，劉世清（2022）.人工智能背景下教育風險的規避策略研究[J].電腦知識與技術，18（8）：81-82，87.

[8]張新新，夏翠娟，肖鵬等（2022）.共創元宇宙：理論與應用的學科場景[J].信息資源管理學報，12（5）：139-148.

[9]周潔，蔡燃，宋偉等（2022）.中小學人工智能教育的開展困境與實施路徑探究[J].計算機教育，331（7）：7-11.

[10]朱光輝，王喜文（2023）.ChatGPT的運行模式、關鍵技術及未來圖景[J/OL].新疆師范大學學報（哲學社會科學版）. DOI：10.14100/j.cnki.65-1039/g4.20230217.001.

[11]Akhter， H. M.， Cooper， J. S.， & Cooper， J. （2023）. Acute Pulmonary Edema After Hyperbaric Oxygen Treatment： A Case Report Written with ChatGPT Assistance[J]. Cureus， 15（2）：e34752.

[12]Aljanabi， M. （2023）. ChatGPT： Future Directions and Open Possibilities[J]. Mesopotamian Journal of CyberSecurity， 2023：16-17.

[13]Aljanabi， M.， Ghazi， M.， & Ali， A. H. et al. （2023）. ChatGpt： Open Possibilities[J]. Iraqi Journal For Computer Science and Mathematics， 4（1）：62-64.

[14]Alshater， M. （2022）. Exploring the Role of Artificial Intelligence in Enhancing Academic Performance： A Case Study of ChatGPT [EB/OL]. [2023-01-15]. https：//papers.ssrn.com/sol3/

papers.cfm？abstract_id=4312358.

[15]Baidoo-Anu， D.， & Owusu Ansah， L. （2023）. Education in the Era of Generative Artificial Intelligence （AI）： Understanding the Potential Benefits of ChatGPT in Promoting Teaching and Learning[EB/OL]. [2023-01-13]. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=4337484.

[16]Chang， C. Y.， Hwang， G. J.， & Gau， M. L. （2022）. Promoting Students Learning Achievement and Self-Efficacy： A Mobile Chatbot Approach for Nursing Training[J]. British Journal of Educational Technology， 53（1）：171-188.

[17]Cotton， D. R.， Cotton， P. A.， & Shipway， J. R. （2023）. Chatting and Cheating. Ensuring academic integrity in the Era of ChatGPT[EB/OL]. [2023-01-15]. https：//edarxiv.org/mrz8h？trk=public_post_main-feed-card_reshare-text.

[18]DMello， S.， Craig， S.， & Witherspoon， A. et al. （2014）. Affective and Learning-Related Dynamics During Interactions with an Intelligent Tutoring System[J]. International Journal of Human-Computer Studies， 72（6）：415-435.

[19]ED TECH （2022）. ChatGPT， Chatbots and Artificial Intelligence in Education[EB/OL]. [2023-01-17]. https：//ditchthattextbook.com/ai/.

[20]Euchner， J. （2023）. Almost Human[J]. Research-Technology Management， 66（2）：10-11.

[21]Frieder， S.， Pinchetti， L.， & Griffiths， R. R. et al. （2023）. Mathematical Capabilities of ChatGPT[EB/OL]. [2023-01-16]. https：//arxiv.org/abs/2301.13867.

[22]George， A. S.， & George， A. H. （2023）. A Review of ChatGPT AIs Impact on Several Business Sectors[J]. Partners Universal International Innovation Journal， 1（1）：9-23.

[23]Hirosawa， T.， Harada， Y.， & Yokose， M. et al. （2023）. Diagnostic Accuracy of Differential-Diagnosis Lists Generated by Generative Pretrained Transformer 3 Chatbot for Clinical Vignettes with Common Chief Complaints： A Pilot Study[J]. International Journal of Environmental Research and Public Health， 20（4）：3378.

[24]Hsu， J. （2023）. Should Schools Ban AI Chatbots[EB/OL]. [2023-01-16]. https：//www.sciencedirect.com/science/article/pii/

S0262407923000994.

[25]Hurst， L. （2022）. ChatGPT： Why the Human-Like AI Chatbot Suddenly Has Everyone Talking[EB/OL]. [2023-01-15]. https：//www.euronews.com/next/2022/12/14/chatgpt-why-the-

human-like-ai-chatbot-suddenly-got-everyone-talking.

[26]Khan， R. A.， Jawaid， M.， & Khan， A. R. et al. （2023）. ChatGPT-Reshaping Medical Education and Clinical Management[J]. Pakistan Journal of Medical Sciences， 39（2）：605-607.

[27]Omar， F. （2022）. Chatgpt in Education Engaging and Educating Students with a Powerful Language Model[EB/OL]. [2023-01-13]. https：//www.youtube.com/watch？v=XXnc2T879kQ.

[28]OpenAI （2022）. ChatGPT： Optimizing Language Models for Dialogue[EB/OL]. [2023-01-12]. https：//openai.com/blog/chatgpt/.

[29]Pavlik， J. V. （2023）. Collaborating with ChatGPT： Considering the Implications of Generative Artificial Intelligence for Journalism and Media Education[J/OL]. [2023-01-13]. https：//journals.sagepub.com/doi/abs/10.1177/10776958221149577.

[30]Pfeffer， O. P.， Sailer， M.， & Schmidt， A. et al. （2023）. ChatGPT for Good？ On Opportunities and Challenges of Large Language Models for Education[EB/OL]. [2023-01-15]. https：//www.edu.sot.tum.de/fileadmin/w00bed/hctl/_my_direct_uploads/ChatGPT_for_Good_.pdf.

[31]Pomeroy， R. （2022）. The Promises and Perils of AI - Stuart Russell on Radio Davos[EB/OL]. [2023-02-01]. https：//www.weforum.org/agenda/2022/01/artificial-intelligence-stuart-

russell-radio-davos/.

[32]Qadir， J. （2022）. Engineering Education in the Era of ChatGPT： Promise and Pitfalls of Generative AI for Education [EB/OL]. [2023-01-15]. https：//www.techrxiv.org/articles/preprint/Engineering_Education_in_the_Era_of_ChatGPT_Promise_and_

Pitfalls_of_Generative_AI_for_Education/21789434.

[33]Riley， S. （2023）. ChatGPT， Friend or Foe in the Classroom[EB/OL]. [2023-01-17]. https：//otl.du.edu/chatgpt-

friend-or-foe-in-the-classroom/.

[34]Rudolph， J.， Tan， S.， & Tan， S. （2023）. ChatGPT： Bullshit Spewer or the End of Traditional Assessments in Higher Education？[J]. Journal of Applied Learning and Teaching， 6（1）：1-22.

[35]Shen， Y.， Heacock， L.， & Elias， J. et al. （2023）. ChatGPT and Other Large Language Models Are Double-Edged Swords[EB/OL]. [2023-01-13]. https：//pubs.rsna.org/doi/abs/10.1148/

radiol.230163？journalCode=radiology.

[36]Susnjak， T. （2022）. ChatGPT： The End of Online Exam Integrity？[EB/OL]. [2023-01-12]. https：//arxiv.org/abs/2212.09292.

[37]Taecharungroj， V. （2023）. “What Can ChatGPT Do？” Analyzing Early Reactions to the Innovative AI Chatbot on Twitter[J]. Big Data and Cognitive Computing， 7（1）：35.

[38]Tate， T.， Doroudi， S.， & Ritchie， D. et al. （2023）. Educational Research and AI-Generated Writing： Confronting The Coming Tsunami[EB/OL]. [2023-01-16]. https：//edarxiv.org/4mec3/download？format=pdf.

[39]Topsakal， O.， & Topsakal， E. （2022）. Framework for A Foreign Language Teaching Software for Children Utilizing AR， Voicebots and ChatGPT （Large Language Models）[J]. The Journal of Cognitive Systems， 7（2）：33-38.

[40]Ventayen， R. J. M. （2023）. OpenAI ChatGPT Generated Results： Similarity Index of Artificial Intelligence-Based Contents[EB/OL]. [2023-01-13]. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=4332664.

[41]Wu， Y.， Schuster， M.， & Chen， Z. et al. （2016）. Googles Neural Machine Translation System： Bridging the Gap Between Human and Machine Translation[EB/OL]. [2023-01-12]. https：//arxiv.org/abs/1609.08144.

[42]Zhai， X. （2023）. ChatGPT for Next Generation Science Learning[EB/OL]. [2023-01-12]. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=4331313.

收稿日期 2023-02-16 責任編輯 汪燕

“Aladdins Lamp” or “Pandoras Box”：

The Potential and Risks of ChatGPTs Educational Application

WANG Youmei， WANG Dan， LIANG Weiyi， LIU Chenchen

Abstract： ChatGPT， an intelligent chatbot model， has attracted a lot of attention from educational researchers and workers because of its features of generating natural language text in response to user input and supporting continuous multi-round dialogues with contextual understanding. As a typical application of AIGC， how will ChatGPT change education？ Is it an “Aladdins Lamp” or “Pandoras Box” of education？ On the one hand， ChatGPT has the potential to empower teaching innovation， enhance the completion and creativity of teaching outcomes， strengthen the role and interactivity of digital tutors， improve the ease of use and accuracy of adaptive learning systems， promote the wisdom and creativity of teaching strategies and methods， and support the generativity and personalization of teaching feedback and evaluation. On the other hand， the application of ChatGPT in education may also lead to four types of risks， including questionable academic integrity and unbalanced assessment mechanisms， over-reliance on student addiction and the weakening status of teachers， inaccurate information transmission and limited knowledge， and unenforced ethical awareness and difficulty in dealing with ethical risks. Obviously， as a phenomenal generative AI application， ChatGPT may trigger a profound change in education. Educators should use it cautiously and actively， incorporating the educational innovations brought by ChatGPT， while avoiding the possible educational risks by developing assessment strategies， dividing teaching responsibilities， accelerating technological innovation and developing ethical guidelines.

Keywords： Artificial Intelligence; ChatGPT; AIGC; Educational Potential; Education Risk