ChatGPT類生成式人工智能教育應用倫理審度與調適

DOI：10.3969/j.issn.1673-8454.2023.12.005

作者簡介：陳瀟、蘇雪源，浙江工業大學教育科學與技術學院碩士研究生（浙江杭州 310023）；王波，浙江工業大學教育科學與技術學院本科生（浙江杭州 310023）；祝一清，信陽師范大學地理科學學院本科生（河南信陽 464000）；孔德彭，通訊作者，浙江工業大學教育科學與技術學院副教授，博士（浙江杭州 310023）

基金項目：全國教育科學“十三五”規劃2019年度“教育機器人開發中的價值審度及倫理調適研究”（編號：BEA190116）

摘" "要：ChatGPT憑借實時、高效、精準、靈活等特點，在各國、各領域迅速“出圈”，其交互的智能性、流暢性賦予了人們很大的想象空間，進一步激起“機器換人”的激烈討論。特別是在教育領域，ChatGPT既可以促進教育新業態的發展，同時也引發人們對人工智能濫用的擔憂。為更加全面系統了解ChatGPT，通過實證測試其在問題答疑、論文撰寫、計算能力等方面的表現，發現ChatGPT與教育深度融合過程中，可能引發倫理風險，存在隱私安全、退化師生能力、信息誤導以及公平性缺失等問題。針對這些問題，未來亟需教師隊伍、專家學者及政府多方齊心協力，從教育應用、觀念引導、標準制定、技術保障、社會監管等方面共同構筑良序的現代化教育生態。

關鍵詞：ChatGPT；生成式人工智能；教育應用；倫理；信息技術

中國分類號：G434" " " " "文獻標志碼：A" " " " "文章編號：1673-8454（2023）12-0042-07

2022年11月30日，美國OpenAI公司研發的聊天機器人ChatGPT（Chat Generative Pre-trained Transformer）發布，1個月內活躍用戶累計量達5700萬，成為最受歡迎的消費型應用程序[1]。ChatGPT走紅后，其寫論文、演講稿、翻譯、編程等“超能力”逐漸顯現。僅發布2個月，調查發現已有89%的18歲以上學生嘗試使用ChatGPT幫助自己完成作業[2]。隨之而來的學術造假、考試作弊等一系列的問題逐漸浮出水面，引起了教育領域學者的廣泛關注和思考。2023年3月，OpenAI公司建立大型多模態模型GPT-4，兼具文本和圖片理解能力，使人機交互更加穩定、可靠[3]。技術的優化升級并不代表倫理危機的消解，反而更需要教育者謹慎對待技術所帶來的挑戰，引導技術的理性應用和進步，在趨利避害中進一步提升教育質量[4]。新技術作為萬物互聯的載體，必將與教育實現深度融合。在未來，教育者不僅需要關注人工智能技術高效、方便、快捷的優勢，還要看到實際應用中可能存在的一些倫理問題，以批判性思維探究“以ChatGPT為代表的科技發展將會對教育領域產生什么影響”“教師、學生、行業專家等利益相關者應該如何應對人工智能的倫理風險”“如何構建人工智能下的良序學術生態”等問題，以更好地促進智能教育的發展。

一、ChatGPT應用于教育領域

存在的倫理問題

ChatGPT具有輔助教師設計教案及個性化學習計劃、協助教學和批改作業等優勢，既可以減輕教師負擔，也能夠提高課堂效率，在一定程度上為教師專業能力提升、專業知識增長、專業情意深化及專業理念革新提供新的機遇[5]。但在實際應用過程中，教師需要把握一定的“度”，一旦失去平衡，可能會對其未來發展和學生成長產生不利影響。

（一）隱私安全

生成式人工智能工具背后需要數以萬計的數據支撐，其強大的記憶功能既是高效工作的基礎，也可能成為數據泄露的源泉，從而產生意想不到的后果。一是存在敏感信息和原創想法泄露的風險。ChatGPT作為人工智能驅動下的大型聊天機器程序，以深度學習為框架，根據用戶輸入的問題在海量數據中心搜索相關答案并進行整合，形成類似于人類語言的文本。在應用過程中，如果學生或教師將姓名、身份證號、銀行卡號等敏感信息輸入其中，可能會產生信息泄露問題，甚至危及自身安全。此外，原創性想法的輸入也需格外慎重，ChatGPT本身不會將用戶信息及歷史數據發送給他人，但其生成的文本可能會作為相似問題搜索的數據基礎，從而啟發后面的提問者[6]。二是精準預測、刻畫模型易于算法偏好誘導和非法利用。與簡單聊天工具Siri不同的是，ChatGPT是一個可以持續對話的文字聊天工具，雖然它能夠更好地模擬與人類對話的過程，能夠在前面問題的基礎上進行連續發問，促進談話深入，但是可能會使大數據了解對話者的性格、愛好等，逐漸形成對話者的基本畫像，從而實現行為的精準預測。如果預測信息被不法分子竊取，不僅侵犯個體隱私權，影響日常生活，甚至助長犯罪行為的發生。三是青少年心智尚未成熟，便捷教育數據服務背后缺乏有效的保護屏障。ChatGPT適用范圍廣泛，學齡前階段的兒童都可以通過網頁或客戶端實現文本信息搜索，因其沒有青少年保護設置，導致信息安全問題難以保障。

（二）師生思維能力衰退

人工智能時代雖然產生眾多先進的技術和工具，但人類的思想能力卻逐漸顯示出疲憊和衰退的狀態[7]。ChatGPT作為一種先進智能虛擬工具，可以滿足教師和學生隨時隨地學習的需要，能夠適應社會科技的發展，促使傳統教育逐漸向智能教育轉變。但如果過分濫用ChatGPT衍生產品，教師在不考慮學情及教材的情況下，機械地搬運現成教案，教學方法缺乏創新，久而久之，其個性化創新能力、自主開發課程及教法的意識和能力都會受到限制，甚至出現能力倒退的現象，對教師專業發展內驅力及能力提升意識都會造成一定影響。此外，也可能導致學生對所學科目缺乏深入理解，機械性地記憶相關知識點，不利于問題解決能力的提升。如果學生過分依賴技術查詢學習信息，通過“快捷徑”的方式完成論文寫作等學習任務，無疑等同于論文剽竊，將會阻礙其獨立思維和批判性思維能力的培養。同時ChatGPT的回答官方全面，邏輯性較強，但它無法適應不同文化及地區背景的差異，如果學生不結合自身問題背景進行補充，可能答案缺乏準確性，也不利于學生發散思維和創新性思維的提升。

（三）師生社交技能退化

人是具有社會性的動物，在交流互動中需要帶有情感和思想，不能脫離群體而孤立存在。而語言、文字、聲音及情緒等是有效溝通的主要因素，在人與人交往中起重要作用。雖然ChatGPT在教育環節中，能憑借仿真技術，對交互場景進行模擬，根據學生自身能力及興趣制定個性化的學習方案，構建學生與人工智能的交流平臺，促進其口語及寫作能力的發展，但是這一切都是智能算法和程序代碼運行的結果，冷冰冰的機器沒有真正的語言理解和邏輯推理能力[8]，難以提高學生的人際交往能力，不利于學生社交的泛化及團隊合作能力形成，無法適應學校課堂中小組合作的學習方式。此外，ChatGPT的價值觀明確，沒有情感、意識和個性，是一個回答問題的工具，具有客觀、靈活的特點，但缺乏更多的人性化。在學習過程中，機器難以洞悉學習者的情緒情感及心理變化，無法達到人與人交流的效果。過于物化機器人，不利于學生同理心培養和情感發展，學生缺乏技術關懷，遷移到社交中可能出現攻擊行為，對其健康價值觀的培養會產生一定影響；過于“人”化機器人，學生可能會對人機關系的理解產生一定偏差，從而導致情感或心理問題的出現。

（四）信息誤導

ChatGPT是一個自動從龐大數據庫或語料庫中學習的人工智能系統，通過對大量數據進行訓練，從而智能形成語言文本[9]。ChatGPT難以自動識別信息的對錯，通過數據庫中的全部信息，生成自認為客觀的文本，所以文本的準確性難以確定。同時，當前ChatGPT所收錄的數據截止日期較早，對后期發生的事情缺乏數據記錄，所以關于進展及熱點相關問題的答復存在一定滯后性，無法保證信息的及時更新。當學生錯誤地將其當作正確答案進行記憶和學習時，可能會擾亂自己的學術知識體系，對框架的整體把握及后期的學習產生一定的影響。錯誤信息的流傳還會影響未來ChatGPT模型生成文本的質量。令小雄等也給出同樣的見解，認為ChatGPT根據問題對文獻進行復制、梳理，生成虛假的學術文本，具有不完整性，從而導致錯誤信息的傳播，對學術界及社會發展都具有一定的負面影響[10]。此外，ChatGPT在教育領域的應用容易誘發誠信危機，使用ChatGPT撰寫科研論文、開展研究的例子屢見不鮮。據《自然》（Nature）雜志不完全統計，已經將ChatGPT列為作者的論文最少有4篇[11]。因此，在教學過程中，教師應引導學生正視ChatGPT的功能，它可以作為靈感的源泉、寫作的框架，但決不能成為各科作業的“幫手”。

（五）公平性缺失

信息技術的高速發展，打破了時間、空間的壁壘，阻斷了信息的不對稱化，讓人們隨時隨地都可以查閱熱點信息，了解發展動態，使社會更具透明化、公平化。科技進步也引發一系列不公平現象的發生，需要加強認識，提高警惕。一是算法偏見和歧視。人工智能的本質是算法從大數據中提取特征進行訓練，而訓練并參與預測的“黑箱”無法公開相關信息，具有不透明性。由于“黑箱”中的相關結構難以理解，加之部分數據本身帶有歧視性，在算法以代碼的形式重新包裝后，會進一步放大社會偏見，加劇社會中存在的歧視，如在性別、宗教、職業等方面可能無法做到公平對待。二是城鄉差距。新興智能設備往往價格昂貴，經濟相對貧瘠的家庭負擔較大，可能導致教育不公平現象出現。三是應用權限。2023年1月，美國紐約和西雅圖的公立學校都明確表示，在學校設備和網絡上禁止使用ChatGPT；國際機器學習會議（International Conference on Machine Learning，ICML）也宣布，禁止從大型語言模型工具中生成文本論文，除非生成文本作為論文實驗分析的一部分呈現[12]。當前，我國學校的做法還未完全統一，可能會造成信息不對稱以及數字鴻溝等問題，從而影響教育公平。總之，ChatGPT在教育中的應用還處于討論中，其中可能存在的有悖公允和倫理問題還需進一步探究，以尋求更具針對性的應對方法。

此外，教師角色定位迷失也是ChatGPT應用過程中可能存在的倫理問題[13]。一方面是教師自我角色的迷失，混淆教師自身與技術的關系與主次，產生對技術的盲目崇拜；另一方面是學生對教師角色認識的偏差，由于知識不僅僅來自于教師傳授，教師的 “專業權威性”不再凸顯，無法明確教師的教育主導者地位。

二、ChatGPT應用于教育領域

倫理建設對策探析

（一）重視學校管理，明確ChatGPT角色定位

ChatGPT正迫使教師不得不審視當前教育中存在的問題，并思考采取何種措施為學生的有效學習提供幫助。傳統教育的成果導向可能無法適應當前的發展趨勢，ChatGPT具有寫論文、翻譯、編程等功能，普通文本類作業也能夠輕松完成。如果ChatGPT以不恰當的方式存在于學校中，可能會對學生的知識學習和創新性思維培養產生不良影響。雖然OpenAI公司已經推出區分機器生成和人類書寫文本的分類器，但其并不可靠，無法精準區分機器文本和人類文本，仍存在很多限制[14]。

教師在教學過程中，應以動態的眼光看待ChatGPT，主動思考教育與其如何并存。一是要重新思考教學方法和教學初衷，重視學生獨立思考能力、批判性思維和創造性能力的培養，而不僅僅是獲取知識的能力；二是要逐漸摒棄傳統的填鴨式的授課方式，將人工智能引入教學過程中，打造專業教師、遠程教師、機器人教師協同教學的“三師課堂”[15]，提高教學效果；三是要調整教學評價方式，避免考試作弊、學術抄襲等不良行為的發生，可以采用更具創造性的過程性評價方式，也可以部分恢復傳統的紙筆測試形式，避免學生對人工智能產生依賴。學校還要定期開展教師數字化素養培訓，采用線上線下相結合的方式，提高教師的數字化技能及信息安全意識，保證“人工智能+教育”的順利開展。此外，受教育者需正視ChatGPT的角色定位。賀樑等通過個案研究證明，目前ChatGPT不具備獨立輔導學生的能力[16]。因此，ChatGPT可以作為教學助手存在于課堂中，協助教師完成授課，而學生需根據教師的指令進行操作和應用，杜絕查詢與學習無關內容的行為，禁止照搬照抄生成答案，保證ChatGPT的健康使用。同時，教師和學生也要主動學習數據安全知識，切忌輸入個人相關信息，防止敏感數據泄露。總之，ChatGPT的出現是社會發展的需要，它有利于幫助教育者抓住教育的本質，促進更深層次教育的理解。

（二）加強政府監管，創建現代教育生態

健康的學術教育生態，不僅需要學校內部體系的適度調整，更需要政府及社會的規約，未來可以從學科交叉合作、政策制定、安全意識培養及保障信息公平化四個方面著手建設。

一是重視多學科的交叉合作。政府在積極倡導發展人工智能的同時，需認真思考如何創建和諧的智能社會，這不僅僅是社會學需要考慮的問題，更需要計算機、人工智能及教育學等學科的通力合作，共同打造適合社會發展的人工智能倫理發展框架，促進社會的和諧穩定。

二是推動人工智能教育倫理政策的制定。2021年，國家新一代人工智能治理專業委員會發布《新一代人工智能倫理規范》，明確指出“將倫理道德融入人工智能全生命周期”，并就人工智能的倫理要求進行詳細闡述[17]，但缺乏對教育領域倫理規范的制定，比如責任歸屬、大型語言模型署名問題等，都需要相關政策或法律予以保障。

三是積極開展數據安全意識宣傳與培訓。相關部門需聚焦人工智能數據、算法和模型，定期開展信息安全教育和技能培訓，并針對當前人工智能衍生產品進行講解，加強倫理宣傳，做到培訓好、貫徹好，切實提高大眾的數據安全意識。同時還要加強反詐防騙知識的宣傳，注重網絡個人隱私保護。

四是保障信息傳播的公平性。一方面，政府需要對ChatGPT的使用及禁用情況做出明確說明，保證工具應用的公平性；另一方面，政府需要重視相對貧困地區的技術發展狀況，不斷縮小城鄉差距，保證學生接受教育的公平性。

（三）突破技術難題，優化大型語言模型

一是保證輸入數據的全面準確性。數據收集是模型建構的基礎，也是ChatGPT完成任務的第一步，只有數據的數量和質量得到保障，才能實現模型的精準搭建。一方面要實時更新數據庫和語料庫。ChatGPT收錄數據截至2021年，就時效性來看，沒有將最新數據納入其中，數據信息缺乏全面性，無法生成最新文本。因此，及時更新訓練數據，保證數據庫足夠大，信息足夠新，語音模型才能基于既定相關知識不斷提升、優化，最終得到問題的最優解。另一方面要自主篩除錯誤信息，確保數據的可靠性。雖然ChatGPT能夠進行初步的道德判斷，并利用數據庫中已有知識判斷問題的合規性，具備一定的人類道德計算力[18]，但對于語料庫中問題相關信息的對錯難以分辨，容易產生錯誤文本，誤導學生學習虛假信息。由此可見，專業人士應重視當前ChatGPT數據庫可能存在的相關問題，不斷更新迭代，創建更具可信化的知識庫。

二是提升語言模型算法的穩定性。相對于傳統學習，深度學習算法的可解釋性、透明度嚴重缺失，其潛在的歧視和偏見可能導致結果不公現象發生。算法偏見是客觀存在的，往往受數據、開發者及算法本身偏見的影響，而算法偏見有時會導致算法歧視的產生[19]。因此，針對算法偏見和歧視問題，一方面應秉持平等的數據價值觀，篩除掉帶有歧視性的數據，以保證數據的“無害化”，同時還要建立算法內部監管體系，增強算法的合法合理性和透明性；另一方面需重塑法律及政策功能，發揮法律對人工智能平臺和算法設計者的監管職能[20]。此外，數據泄露也是專業人員需要重視的問題之一。數據是語言模型的基礎，不法分子往往通過攻擊模型來達到竊取敏感數據的目的，可能危及個人隱私和安全。因此，需要加強模型的穩定性，通過正則化和交叉驗證的方法防止模型過擬合，以降低數據泄露的風險；還要加強教師和學生的信息安全意識，防止個人隱私信息泄露。

三是強化輸出信息的真實獨創性。ChatGPT主要以文本形式給予提問者反饋，且文本形成主要基于人類概率性語言進行搬運、整合數據信息，以及高效模仿現有范本等工作。在人機交互方面，ChatGPT缺乏聽覺、觸覺等多感官刺激，難以達到人際溝通的真實效果；在文本生成方面，ChatGPT撰寫文章也是一種創作，可以形成創新性的成果，但一味的搬運和整合應用領域的既有知識，也無法達到人類的創新水平。因此，在外部形態上，要逐步搭建ChatGPT實體人形機器人架構，實現人機多模態交互，提升交際質量，特別是在教育教學領域，實體機器人更能夠吸引學生興趣，提高學習效率；在內部規制上，ChatGPT也需要不斷學習，其智能芯片要不斷優化、迭代，逐步實現自我意識的突破，達到質的飛躍，最終變得越來越具有創造性。

三、結語

當前，人工智能模仿人類的行為動作、肢體語言和面部表情非常容易，而ChatGPT是人工智能時代又一里程碑標志性的工具，憑借其強大的能力走紅，勢必大大促進人工智能與教育教學深度融合，使未來學習空間隨時可見虛擬數字人、模擬教師和場景專家成為可能，實現教育業態和教學模式的快速更迭。新技術在教育領域的介入，往往會引發學者對倫理問題的審視和價值的重塑。技術本無錯，利弊兼有，關鍵在于善用。ChatGPT嵌入課堂，既要引導教師明確人工智能模式下教師角色的定位，同時還應促進教師的自我反思與技術提升[21]。人工智能在教育領域的高速發展，將不斷激發人們對智能教育倫理的深度思考。未來，相關研究者需要重新思考教育與人工智能的關系，從倫理角度對人工智能教育不斷反思和審視至關重要。

參考文獻：

[1]CERULLO M. ChatGPT user base Is growing faster than TikTok[EB/OL].（2023–02–23）[2023-07-01]. https：//www.cbsnews.com/news/chatgpt-chatbot-tiktok-ai-artificial-intelligence/.

[2]Study Website. Productive teaching tool or innovative cheating？[EB/OL].[2023][2023-07-02]. https：//study.com/resources/perceptions-of-chatgpt-in-schools.

[3]OpenAl. GPT-4[EB/OL].（2023-03-14）[2023-07-02]. https：//openai.com/research/gpt-4.

[4]朱昌俊.ChatGPT火了，教育需要雙重應對[N].中國教育報，2023-02-21（2）.

[5][13]吳軍其，吳飛燕，文思嬌，等.ChatGPT賦能教師專業發展：機遇、挑戰和路徑[J].中國電化教育，2023（5）：15-23，33．

[6]王樹義，張慶薇.ChatGPT給科研工作者帶來的機遇與挑戰[J].圖書館論壇，2023，43（3）：109-118．

[7]趙汀陽.人工智能提出了什么哲學問題？[J].文化縱橫，2020（1）：43-57．

[8]馮雨奐.ChatGPT在教育領域的應用價值、潛在倫理風險與治理路徑[J].思想理論教育，2023（4）：26-32．

[9]VAN DIS E A M， BOLLEN J， ZUIDEMA W. ChatGPT： five priorities for research[J]. Nature， 2023（7947）：224-226.

[10][18]令小雄，王鼎民，袁健.ChatGPT爆火后關于科技倫理及學術倫理的冷思考[J].新疆師范大學學報（哲學社會科學版），2023，44（4）：123-136．

[11]羅生全，譚愛麗.ChatGPT應用背景下教育發展的邏輯轉換及實踐路徑[J].重慶理工大學學報（社會科學），2023，37（5）：7-15．

[12]漠影.時間線復盤ChatGPT爆火之路：改變互聯網圈的兩個月[EB/OL].（2023-02-13）[2023-07-01].https：//zhidx.com/p/362781.html.

[14]OpenAI. New AI classifier for indicating AI-Written text[EB/OL].（2023-02-022）[2023-07-02]. https：//openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/.

[15]焦建利.ChatGPT助推學校教育數字化轉型——人工智能時代學什么與怎么教[J].中國遠程教育，2023，43（4）：16-23．

[16]賀樑，應振宇，王英英，等.教育中的ChatGPT：教學能力診斷研究[J].華東師范大學學報（教育科學版），2023，41（7）：162-176．

[17]國家新一代人工智能治理專業委員會.新一代人工智能倫理規范[EB/OL].（2021-09-26）[2023-07-02].https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html.

[19]孟令宇.從算法偏見到算法歧視：算法歧視的責任問題探究[J].東北大學學報（社會科學版），2022，24（1）：1-9．

[20]石穎.算法歧視的緣起、挑戰與法律應對[J].甘肅政法大學學報，2022（3）：58-68．

[21]唐漢衛.在線教學存在的倫理問題與應對策略[J].現代教育技術，2020，30（12）：41-47．

Ethic Critique and Adaptation of Education Application

under the Tide of ChatGPT Technology

Xiao CHEN1， Xueyuan SU1， Bo WANG1， Yiqing ZHU2， Depeng KONG1

（1.College of Education， Zhejiang University of Technology， Hangzhou 310023， Zhejiang;

2.School of Geographical Sciences， Xinyang Normal University， Xinyang 464000， Henan）

Abstract： ChatGPT， with its characteristics of real-time， efficiency， accuracy and flexibility， is rapidly becoming popular in various countries and fields. The intelligence and fluency of its interaction empower people’s imagination， which further rouses the heated discussion of “machine substitution”. Especially in the field of education， while ChatGPT can promote the development of new educational formats， it also causes people’s concerns about the abuse of artificial intelligence. In order to have a more comprehensive and systematic understanding of ChatGPT technology， this paper studies its performance in answering questions， writing papers， and its calculating ability， etc.， and discusses the ethical risks that may occur in the process of deep integration of ChatGPT and education from the perspective of educators. And the technology has other problems such as the endangering privacy security， declining thinking ability and social ability of teachers and students， misleading information， lack of fairness， etc. In view of such problems， it is urgent for teachers， experts， scholars and the government to make joint efforts to build a well-ordered modern education ecology from the aspects of educational application， concept guidance， standard setting， technical support and social supervision.

Keywords： ChatGPT; AIGC; Educational application; Ethic; Information technology

編輯：王曉明" "校對：李曉萍