生成式人工智能的教育應用監管路線圖

摘" "要：隨著以ChatGPT為代表的生成式人工智能的問世及快速迭代，生成式人工智能對教育和研究產生巨大的促進作用，同時也帶來前所未有的風險和挑戰。2023年9月7日，聯合國教科文組織發布首部關于生成式人工智能應用的全球指導性文件——《教育和研究領域生成式人工智能使用指南》。通過對該指南的文本分析，介紹文件的出臺背景和內容梗概，討論生成式人工智能所引發的爭議和負面影響，呈現了教育和研究領域使用生成式人工智能的監管框架，繪制生成式人工智能在教育和研究領域的應用監管“路線圖”，最后結合生成式人工智能在我國教育和研究中的使用現狀，向政府部門、科技公司、學校等教育機構、教師、研究人員、學生分別提出相關建議：政府部門要完善政策框架，加強公眾參與；科技公司要堅持以人為本，維護數字正義；學校等教育機構要優化校本政策，重塑學習環境，開展AI培訓；教師要變革教學方式，開展人機合作，進行倫理示范；研究人員要拓展研究領域，提升研究效能；學生要合理使用工具，強化傳統技能。

關鍵詞：聯合國教科文組織；生成式人工智能；教育和研究；指南；監管；路線圖

中圖分類號：G434" " " " "文獻標志碼：A" " " " "文章編號：1673-8454（2024）08-0013-16

DOI：10.3969/j.issn.1673-8454.2024.08.002

作者簡介：劉軍，湖南幼兒師范高等專科學校教授，湖南師范大學博士研究生（湖南長沙 410081）；雷亮、熊立春，湖南幼兒師范高等專科學校講師（湖南常德 415000）；鐘昌振，湖南幼兒師范高等專科學校教授，碩士（湖南常德 415000）

基金項目：2022年湖南省職業教育教學改革研究項目“‘產出導向法’在師專公共英語SPOC混合式教學中的應用研究”（編號：ZJGB2022594）；湖南省社科基金2022年度教育學專項課題“數字技術賦能職業教育高質量發展的制度困境與政策創新研究”（編號：22YBJ09）；2023年湖南省高校思想政治工作質量提升工程資助項目“新媒體與高校輔導員思想政治教育工作的深度融合研究”（編號：23C43）

2022年11月30日，美國人工智能研究實驗室OpenAI公司在其社交網絡上向全世界免費推出大型預訓練模型——ChatGPT（又稱GPT3.5），引發全球關注。ChatGPT自上線以來，5天內吸引100萬用戶，2個月內用戶就突破1億。[1]隨著ChatGPT以及谷歌公司的Bard、微軟公司的Bing Chat、百度公司的“文心一言”等陸續火爆網絡，生成式人工智能（Generative Artificial Intelligence，簡稱GenAI）以迅雷不及掩耳之勢突入公眾視野，并引發全球熱議。

2023年UNESCO《2023教育地平線報告（教與學版）》指出，“GenAI已經被許多高等教育專家認定為我們這個時代最具顛覆性的技術之一”。[2]GPT為代表的GenAI以其驕人的性能和免費使用等特征在教育及研究領域獲得廣泛青睞。然而，由于GenAI在學校中的推廣速度太快，世界各國相應監管體系尚未同步建立，GenAI引發人們對包括學術環境在內的誤用和濫用可能性的廣泛擔憂。2023年9月7日，UNESCO發布《教育和研究領域生成式人工智能使用指南》（Guidance for generative AI in education and research，以下簡稱《指南》）。[3]

一、《指南》的出臺背景和內容梗概

（一）出臺背景

從“人工智能”一詞由計算機和認知科學家約翰·麥卡錫（John McCarthy）創造出來至今，[4]已有60多年波瀾壯闊的歷史，從1997年IBM的“深藍”（DeepBlue）擊敗衛冕世界象棋冠軍加里·卡斯帕羅夫，[5]到2016年的世界冠軍李世石與谷歌AlphaGo的“人機對決”，再到2018年的人工智能與生物技術的跨界融合，這些標志性事件引發人們對人工智能越來越強烈的研究熱情。[6]

生成式人工智能是一種可根據自然語言對話界面的提示自動生成內容的人工智能，這些內容的格式包括用自然語言編寫的文本、圖像、視頻、音樂、軟件代碼等。作為人工智能領域的后起之秀，GenAI的歷史相對較短，然而它給世界帶來的震蕩卻非同一般。GenAI憑借其模仿人類產生文本、圖像、視頻、音樂、軟件代碼等能力，一經問世就在全世界引起軒然大波。由于復制了構成人類學習基礎的高階思維，這種信息處理和知識生產的能力對教育和研究具有潛在的巨大影響力。

GenAI的出現及其突飛猛進也引發人們對安全、數據隱私、版權、操縱等諸多問題的關切。教育領域最初的擔憂是ChatGPT和類似的GenAI工具會被學生用來在作業中作弊，從而破壞學習評價、認證和資格證書的價值。[7]一些學者還擔心，論文作為一種學習評價工具的終結可能即將到來，因為ChatGPT等GenAI工具可以輕松生成關于任何特定主題的具有說服力的段落、章節和論文。[8]越來越多的學者開始呼吁出臺有關GenAI使用的世界性指導文件。[9][10]

《指南》正是為了回應這一迫切需求而制定的。根據2019年通過的《人工智能與教育北京共識》，UNESCO要在咨詢會員國意見的基礎上制定相關指導綱要，并開發資源，以支持各國政府制定促進教育領域有效、公平應用人工智能的政策和戰略。[11]人工智能作為一種認知技術，其內容與UNESCO所服務的核心領域——教育、科學、文化和通信密切相關。UNESCO在全球人工智能治理中一直具有重要影響，先后出臺《青島宣言》《人工智能與教育北京共識》《人工智能與教育：政策制定者指南》《人工智能倫理問題建議書》等一系列全球指導性文件。當前，人工智能已經成為引領新一輪科技革命和產業變革的重要驅動力，正在深刻改變人們的生產、生活和學習方式。[12]生成式人工智能工具迅速興起，版本迭代的速度超過了國家監管框架的適應速度。目前，大多數國家缺乏GenAI方面的國家法規，很多教育機構也沒有做好對GenAI工具進行驗證的準備。“生成式人工智能可以為人類發展帶來巨大機遇，但它也可能造成傷害和偏見。如果沒有公眾參與以及政府的必要保障和監管，它就無法融入教育。”UNESCO總干事奧黛麗·阿祖萊（Audrey Azoulay）在一份公開聲明中說道。[13]

（二）內容梗概

《指南》正文包括6個部分。第1部分介紹GenAI的概念和工作原理；第2部分探討GenAI所引發的爭議和對教育的負面影響；第3部分是對GenAI的監管建議，包括監管理念、監管步驟、關鍵要素等；第4部分呈現教育和研究領域使用GenAI的政策框架；第5部分是關于創造性使用GenAI的建議，包括使用策略、方法和具體案例；第6部分對GenAI在教育和研究領域中的未來議題進行了預測。

《指南》作為UNESCO發布的全球第一部關于GenAI在教育和研究領域使用的規范性文件，旨在支持各國迅速采取行動、規劃長期政策和發展人的能力，通過制定適當的法規、政策和能力提升方案，確保GenAI成為真正有利于教師、學習者和研究人員的工具，從而保護人的能動性，促進包容性、公平性、性別平等，以及文化、思想和語言的多樣性。

二、GenAI引發的爭議及負面影響

（一）加劇數據貧困

GenAI的發展離不開海量數據和超強算力。那些無法獲取數據或無力支付數據費用的國家和人民將陷入“數據貧困”的境地。[14]GenAI在發達國家和地區的迅速普及，加快了人工智能財富向全球北方集中的速度。其直接后果是，數據匱乏的地區被進一步排除在外，不得不面臨被GenAI模型中嵌入的標準所殖民的潛在風險。

（二）技術的發展超越國家法規的適應速度

由于GenAI發展速度太快，與之相關的法律起草和實施工作往往滯后于技術更新的節奏。因此，各國在法律法規建設方面受到挑戰。其中一個突出問題就是如何對國內數據的獲取和使用進行監管。《指南》認為，需要制定適當的法律，使地方政府能夠對洶涌而來的GenAI浪潮進行一定程度的控制，以確保將其作為公益產品進行管理。

（三）擅自使用他人內容

訓練GenAI模型需要大量數據（如文本、聲音、圖像和代碼），而這些數據大多來自互聯網，通常未經過其所有者的使用授權。許多圖像GenAI系統因此被指控侵犯知識產權。如最近美國作家協會（The Authors Guild）和17位作者就對OpenAI公司提起集體訴訟，指控該公司利用他們的作品訓練GPT，從而侵犯了版權，這已是作家針對OpenAI侵犯版權提起的第四起訴訟。[15]

（四）模型無法解釋

人們早已認識到，人工神經網絡（ANN）通常是一個“黑箱”，即其內部工作原理無法公開檢查。這就導致產生某些內容無法解釋的問題。隨著GenAI變得愈發復雜，上述問題也變得日益嚴重。此外，GenAI模型通常會“繼承”其訓練數據中的“偏見”。由于模型的不透明，致使這些“偏見”很難被發現和糾正，從而影響人們對GenAI的信任。

（五）機器創作污染互聯網

GPT等GenAI工具的訓練數據通常來自互聯網，而網絡數據不可避免地包含歧視性和其他不可接受的語言。盡管開發人員實施了所謂的“防護欄”（guardrails）策略，但由于缺乏嚴格的監管和有效的機制，GenAI產生的帶有偏見的材料在整個網絡上廣為傳播，從而對互聯網造成污染。

（六）缺乏對現實世界的理解

包括GPT在內的大型語言模型有時被戲稱為“隨機鸚鵡”[16]。之所以會出現這種情況，是因為它們通常只會從隨機模式開始，重復在其訓練數據中所發現的語言模式，其實并不理解其含義，就像鸚鵡只會模仿聲音，但實際上并不理解在說什么一樣。因此GenAI無法生成有關現實世界和各類關系的真正新穎的內容。

（七）減少意見的多元化和加劇非主流思想的邊緣化

由于提前預設了訓練數據創建者的價值觀，GenAI工具只能輸出所謂的“標準答案”。如果訓練數據中頻繁出現一個詞序列，那么GenAI在其輸出中很可能會重復出現這個組合。這種現象不可避免地會對多元化意見和多樣性思想的表達產生阻礙。那些數據匱乏的群體，在互聯網上的“數字存在”非常有限。因此，他們的聲音和所關注的問題很少會出現在GenAI的訓練數據中，從而導致這些弱勢群體的聲音被進一步邊緣化。

（八）生成“深偽”

“深度偽造”（deepfake）是指使用人工智能對圖像、聲音、視頻進行篡改，生成真假難辨的偽造圖像、聲音或者視頻。[17]最典型的“深度偽造”是“AI換臉”[18]。GenAI能讓制造這些“深偽”和所謂的“假新聞”變得輕而易舉。

三、GenAI的教育應用監管路線圖

（一）監管理念

創造人工智能的終極目標不是創造擁有智能的機器，而是創造讓我們人類變得更加聰明的機器。[19]GenAI作為人工智能的高級形態，自然也應該服從于人類的發展。UNESCO認為，要想有效解決與GenAI有關的各種爭議，必須依照“以人為本”的原則對其實施監管，確保AI技術的使用服務于人的能力發展，保護人的能動性、提高透明度和加強公共問責，以實現包容、公正和可持續的未來發展。具體到教育領域，以人為本的監管原則旨在通過使用GenAI技術增強人類可持續發展能力，以及在生活、學習和工作中實現有效人機協作的能力，確保弱勢群體也能夠平等地獲得AI支持，同時促進語言和文化的多樣性。

為有效落實以人為本的監管理念，《指南》建議各國采取全政府（whole-of-government）、跨部門和多利益相關者的方法來整體規劃教育領域的人工智能政策，利用GenAI實現以下五大目標：①實現殘疾學習者等弱勢群體對學習資源的平等獲取；②支持個性化和開放式的學習；③通過改善數據管理，增加學習機會和提升學習質量；④監測學習過程并向教師提醒學生學習失利的風險；⑤增強人們合理有效使用GenAI的能力。

（二）監管舉措

為有效監管GenAI并重申公共控制，發揮其在教育、研究領域的潛力，UNESCO在對全球監管并促進創造性使用GenAI的政府戰略進行調研和審議的基礎上，提出政府機構可以采取的7項舉措。

1.出臺有關數據保護、個人隱私的法律框架

為規避數據保護和個人隱私風險，《指南》呼吁各國制定相關法律框架，用于監管生成式人工智能收集和處理個人數據。在這方面，歐盟于2018年頒布的《一般數據保護條例》（General Data Protection Regulations， GDPR）為規范人工智能的提供者收集和處理個人數據提供了法律框架。作為全球數據保護立法方面的先導，可為其他國家制定類似法規提供借鑒。

2.落實人工智能國家戰略

UNESCO調查數據顯示：到2023年初，約有67個國家已制定人工智能國家戰略，其中61個國家制定了獨立的人工智能戰略，而其中7個國家將人工智能內容作為全國數字化戰略的一部分。[19]不過，所有這些戰略都沒有將GenAI作為一個專門的議題來對待。因此，《指南》建議各國修改人工智能國家戰略，將GenAI的內容納入其中。

3.實施人工智能使用倫理的具體規定

世界上大多數國家未能在人工智能戰略中確立倫理問題并提出相應預防措施。許多國家僅在技能發展層面將人工智能與教育聯系起來，而沒有對在教育領域使用人工智能所涉及的倫理問題進行專門討論。《指南》敦促各國緊急制定人工智能倫理規范并予以實施，確保包括教育在內的所有部門合乎倫理地使用GenAI。

4.修改版權法

GenAI的廣泛使用給版權保護帶來新的挑戰。該挑戰不僅涉及模型訓練時所用到的受版權保護的內容或作品，也涉及模型所產生的“非人類”知識的身份問題。未經同意或未經許可使用受版權保護的作品進行人工智能訓練成為GenAI行業和政府需要解決的一個重要問題。目前，只有中國、美國等少數國家以及歐盟對版權法進行了調整。美國版權局（The US Copyright Office）裁定，GenAI的產出不受美國版權法保護，原因在于“版權只保護人類所創造的材料”。[20]2023年7月中國發布《生成式人工智能服務管理暫行辦法》，要求生成式人工智能的輸出內容貼上“數字合成”產品的標簽。[21]《指南》敦促各國盡快完善或調整現有版權法，以規范人工智能訓練中受版權保護的材料的使用，并對GenAI輸出內容的身份進行明確定義。

5.制定GenAI監管框架

人工智能技術的快速發展正迫使國家和地方政府加快其監管制度更新的步伐。《指南》對中國要求適當、合法標注人工智能生成的內容的做法表示贊賞，并敦促其他國家在評估現有地方法律法規差距的基礎上制定類似的GenAI監管框架。

6.開展GenAI能力建設

《指南》建議學校等教育機構開展GenAI能力建設，讓教師和研究者了解使用人工智能對教育的潛在益處和風險，通過培訓、輔導等方式，持續提升教師和研究人員使用GenAI的能力。新加坡就已經啟動此類能力建設項目，通過人工智能政府云集群為包括教育部門在內公共機構的人工智能能力提升建立了一個專門平臺。[22]

7.反思GenAI對教育和研究的長期影響

GenAI對教育和研究的影響才剛剛開始，大多數國家正處于利用GenAI的早期階段。人們對教育和研究的影響還有待充分探索。為確保以人為本地使用GenAI，《指南》建議各國應立即就其長期影響展開公開辯論和政策對話，通過開展由政府、私營部門和其他合作伙伴共同參與的辯論和對話，為法規和政策的更新提供見解、投入。

（三）監管要素及行動建議

《指南》不僅明確了監管GenAI的4個重要利益相關方：政府監管機構、GenAI工具提供商、機構用戶、個人用戶，而且對各自可以采取的行動提出建議。

1.政府監管機構

《指南》認為政府需要綜合協調GenAI法規的設計、調整和實施，并重點采取以下7項行動：加強跨部門協調，通過建立一個全國性機構，對GenAI實施統一領導，并協調各部門的合作；保持立法的一致性，對現有法規進行評估，并根據 GenAI 提出的新問題進行必要調整；在監管GenAI和促進人工智能創新之間取得平衡，促進跨部門合作，共同開發可靠模型，鼓勵構建開源生態，促進資源和數據共享，支持跨部門創作；對人工智能潛在風險實施評估和分類；保護數據隱私，起草和實施保護用戶個人信息的相關法律；確定和執行使用GenAI的年齡限制，并規定GenAI提供商在年齡核實方面的責任以及父母或監護人監督未成年兒童使用GenAI方面的責任；保護國家數據所有權和防范數據貧困風險。

2.GenAI工具的提供者

GenAI的提供者包括負責開發、提供GenAI工具的組織和個人，以及使用GenAI技術提供服務的組織和個人。《指南》建議GenAI提供商應該對產品的設計倫理負責，包括執行相關的倫理原則，并認真履行以下責任：承擔人類責任，秉持人類核心價值觀和合法目的，尊重知識產權，維護倫理實踐，防止虛假信息和仇恨言論的傳播；提供可靠的數據和模型；不得生成歧視性內容，應確保建立健全 “防護欄”，防止GenAI生成有攻擊性、有偏見或虛假的內容；保證GenAI模型的可解釋性和透明度；對GenAI生成的內容進行合理標注；堅持安全和安保原則，確保在GenAI系統的整個運行期間提供安全、穩定和可持續服務；建立有關訪問和使用規范，對其服務受眾、應用場景、目的提供明確的規范，幫助用戶進行理性和負責任的決策；承認局限性并積極防范可以預見的風險；建立投訴和救濟機制；對非法使用的監督和舉報提供便利。

3.機構用戶

機構用戶包括大學和中小學校等教育機構，他們負責決定是否采用，以及采購和部署哪些GenAI工具。《指南》敦促機構用戶履行如下職責：要對GenAI的算法、數據和產出進行審核，包括定期審核、評估、保護用戶數據以及自動過濾不當內容；要驗證適切性和保護用戶福祉，實施國家分類機制或制定機構政策對GenAI系統、應用進行分類和驗證，確保不會對機構用戶，特別是兒童和弱勢群體造成可以預見的傷害；審視并應對長期影響，對在教育中長期依賴GenAI工具可能會對批判性思維能力、創造力等人類能力的潛在影響進行評估和妥善應對；要設置使用GenAI的最低年齡限制。

4.個人用戶

個人用戶主要是指正規教育機構里的教師、研究人員和學生，或參加非正式學習課程的個人。《指南》建議個人用戶采取以下行動：了解GenAI的使用范圍，在簽署或同意服務協議時，應了解協議中規定的義務以及協議背后的法律或法規；合乎倫理地使用GenAI工具，避免損害他人名譽；監控和報告非法 GenAI應用程序，在發現GenAI違反法律法規時，應及時報告政府監管機構。

（四）監管框架

《指南》針對GenAI在教育和研究中的使用，提出一個建議的監管框架。

1.促進包容、公平、語言和文化多樣性

《指南》強調，為應對教育的根本挑戰，GenAI工具必須具有包容性，無論使用者的性別、種族、特殊教育需求、社會經濟地位如何，都應該能夠平等地對其加以利用。GenAI工具必須有助于促進公平、語言多樣性和文化多元化。為實現以上目標，政策制定者必須做到：識別無力承擔互聯網連接費用的群體，并采取措施彌合數字鴻溝，以改善人們對人工智能工具的使用；制定適當標準來驗證GenAI系統，以防止性別偏見、對邊緣群體的歧視或嵌入數據/算法中的仇恨言論；為GenAI系統制定包容性規范，保護語言和文化多樣性。《指南》還強調，應嚴格防止人工智能提供商排斥少數民族語言或歧視本地語言使用者，并要求提供商不得推廣主導性語言或文化規范。

2.保護人的能動性

隨著使用GenAI的人數越來越多，人們必須保持謹慎，以免因過度依賴而導致人的能動性受到削弱。正如UNESCO教育部助理總干事斯特凡尼婭·賈尼尼（Stefania Giannini）指出的那樣，“人工智能絕不能篡奪人類智慧。相反，它應當引發重新考慮我們對知識和人類學習的已有理解”。[22]為此，《指南》建議政策制定者在制定教育和研究政策時采取以下措施保護、增強人的主動性：讓學習者了解GenAI可能從他們那里收集的數據類型、數據使用方式以及可能對其教育產生的影響；在使用GenAI進行教學、學習和研究的過程中強化人的控制或選擇；在從事實踐觀察、科學實驗、社交互動、討論、邏輯推理這些對學習者發展認知能力和社交技能至關重要的活動時，避免使用GenAI；利用GenAI工具來緩解而不是加大作業和考試的壓力；鼓勵教師、學生和研究人員對GenAI可能強制推行的標準或教學法提出質疑；避免在進行高風險決策時將人類責任拱手交給GenAI工具。

3.對GenAI教育系統實施監控和驗證

在部署使用GenAI系統之前，監控和驗證其道德風險、教學適當性、嚴謹性，及其對學生、教師、課堂乃至學校的影響至關重要。《指南》建議采取如下措施：建立GenAI系統的偏見檢測機制；應對知情同意問題；檢查GenAI的輸出材料中是否含有深偽圖片、不實新聞、仇恨言論等違規內容；正式采用GenAI工具之前，學校等教育機構必須開展必要的倫理驗證；確保GenAI應用程序對學生無害、具有教育效果、符合目標學習者的年齡和能力特征，并遵循恰當的教學原則。

4.提高學習者的人工智能素養

學習者良好的人工智能素養是安全、合理、有效使用人工智能的重要保障。要想駕馭GenAI工具，人們必須了解人工智能的工作原理及其對利益相關者的影響。然而，UNESCO的數據顯示，到2022年初，只有大約15個國家制定并實施或正在制定政府認可的學校人工智能課程。[23]《指南》建議采取以下緊急行動：為各類教育和培訓提供政府認可的人工智能課程；對高校和科研單位培養本地人工智能人才提供支持；打造性別均衡的人工智能專業人才庫；根據預測的未來崗位變化培養學習者適宜的能力；為年長學習者提供個性化幫助。

5.培養教師和研究者使用GenAI的能力

根據UNESCO的調查數據，目前只有中國、芬蘭等7個國家已經或正在開發教師人工智能培訓項目。[24]該數據表明，大多數國家的教師沒有機會獲得關于在教育中使用GenAI的培訓。鑒于此，《指南》提出如下建議：制定或調整當地政策，對GenAI工具的研發和選用提供指導；保障教師和研究人員合理利用GenAI工具的權益；通過明確價值取向等手段，引導教師有效、合理利用GenAI工具促進師生共同發展；動態審視教師利用GenAI進行教學和學習的能力，并將其整合到教師相關培訓項目當中。

6.鼓勵多樣化的意見和表達

受制于其工作原理、訓練材料和研發人員的默會觀點，GenAI的輸出內容往往復現了當前世界的主流觀點，由此對少數和多元意見造成破壞。我們必須意識到，要發展先進的人類文明，任何領域都不能將GenAI的輸出內容作為最具權威的知識來源，必須批判性地看待GenAI生成的內容。為此，《指南》建議：使用者必須充分認識到GenAI作為“快速但往往不可靠的信息來源”的有限作用；鼓勵多元化思想表達以應對同質化和標準化意見的問題；為學習者提供足夠的機會去嘗試、犯錯和實證實驗，以探索不同的觀察結果。

7.考查適合當地的GenAI模型并建立證據庫

UNESCO報告指出，GenAI模型目前以來自北半球的數據為主，而其他地區的代表性數據相對缺乏。需要采取合成數據或由計算機生成數據等措施，讓此類模型更加關注當地社區的背景和需求。對此，《指南》建議采取以下行動：對GenAI工具的設計和選用進行戰略規劃；鼓勵GenAI的研發人員重點聚焦開放式、探究式和多元化學習；強調根據教育重點，考查和擴展基于證據的人工智能在教育中的應用案例；引導使用GenAI通過復雜技術激發研究方法的創新和改進；根據已證實的教學研究和方法建立具體標準，并為GenAI的有效性建立證據基礎；積累GenAI對社會和倫理影響的相關證據；分析大規模使用GenAI所付出的環境成本，制定人工智能公司必須達到的可持續性目標，以避免加劇氣候變化。

8.采用跨部門方法審視人工智能的影響

《指南》建議政策制定者與人工智能提供商、教師、研究人員、家長以及學生代表開展合作，實施課程體系和評價手段的全面改革，以探索GenAI的潛力并減輕風險。同時建議讓學習科學家、人工智能工程師、其他利益相關者代表的跨部門和跨學科專業知識參與進來，共同審視GenAI對學習和知識生產、研究和版權、課程和評估、人類協作以及社會動態的長期影響。此外，《指南》還建議要為制度升級提供信息支持。

需要說明的是，以上框架是建立在2022年UNESCO發布的《人工智能與教育：決策者指南》的基礎之上的。框架中的建議措施可以視為對前一個文件的有益補充。

四、《指南》對我國的啟示

2018年教育部發布的《高等學校人工智能創新行動計劃》提出，要加快人工智能在教育領域的創新應用，利用智能技術支撐人才培養模式的創新、教學方法的改革、教育治理能力的提升。[25]在此背景下，UNESCO這份《指南》可以指導我們認真審視GenAI與教育的關系，為我國借助教育數字化推動教育優質發展的戰略提供新的思路。本文從政府部門、科技公司、學校等教育機構、教師、研究人員、學生幾個層面分析其啟示意義。

（一）政府部門

GenAI為我們的教育變革帶來重大契機的同時，也引發巨大挑戰。政府部門需要針對GenAI在教育中的使用制定健全的法規和政策，為其在教育和研究領域的健康、快速、可持續發展提供堅實的制度保障。

1.完善政策框架

目前，我國對人工智能的治理已經走在世界前列。2023年7月發布的《生成式人工智能服務管理暫行辦法》，是世界上首個有關GenAI監管的全國性政策文件。[26]為了保持我國在GenAI治理方面的優勢，筆者建議還可以從以下四個方面著力。一是推進人工智能基礎性立法，通過基礎性立法，將散落在已有法律法規中有關數據、算法、算力等內容的規定加以整合，為新興技術當前和未來的發展繪制藍圖并設置紅線，為AI領域的治理明確方向。[27]二是制定有關教育和研究領域使用GenAI的專門法規，并組建相應的監管機構。對擬進入教育行業的GenAI工具進行準入性審查，定期對這些GenAI工具進行安全評估，并建立合理的用戶權益保護和投訴機制。值得一提的是，在制定法律和實施監管的問題上，我們要放眼未來，做到未雨綢繆，努力克服“科林格里奇困境（Collingridge’s Dilemma）”，[28]即試圖控制一項新技術通常非常困難，因為在其早期的可控階段，人們對其有害后果的了解還不足以證明有必要對其實施控制；但當這些后果開始顯現時，控制起來已經變得非常昂貴而緩慢。三是出臺教育和研究領域GenAI使用倫理框架，為教育和研究機構制定校本倫理規范提供政策導向。四是建立一體化的學生人工智能能力體系。UNESCO于2022年發布《中小學階段人工智能課程：政府認可人工智能課程的調研》（K-12 AI curricula： a mapping of government-endorsed AI curricula），為各國研發人工智能課程提供支持性工具與框架。[29]該框架可以為我國制定面向大中小學學生的一體化人工智能能力體系提供借鑒。

2.倡導公共參與

在教育領域使用生成式人工智能會引發一些道德問題，如隱私、數據安全、公平性等。為了有效應對這種情況，公眾的參與自然必不可少。政府應當鼓勵公眾對生成式人工智能可能引發的倫理等問題進行公開討論，借此消除對教育領域使用人工智能的誤解和恐懼。鼓勵公眾參與決策過程，在用戶和從事人工智能工作研發的機構之間建立信任，從而建立GenAI在教育領域中使用的友好環境。政策制定者還應與研究人員、教育工作者和技術專家攜手合作，就如何安全、建設性地使用這些不斷發展的GenAI工具來改善教育和支持學生學習展開磋商。政府通過與學校、高科技企業等開展合作，推動教學模式更加智能化、學習方式更加個性化、教育資源更加開放化，不斷提高教育教學效果。另外，政府應當牽頭建立國際或國內數據共同體等機制，加強優質數據共建共享，提高數據資源的使用效率。

（二）科技公司

科技公司在推動GenAI在教育和研究領域的應用中起到“急先鋒”的作用。在推進教育和研究領域轉型的同時，既有諸多贊譽也引來不少“非議”。在這個“數字技術和科技公司的力量廣受質疑”的時期，[30]科技公司必須直面質疑和挑戰，堅持以人為本，維護數字正義，為優化GenAI的發展生態展現更大的責任擔當。

1.堅持以人為本

科技公司及其技術人員在GenAI的研發中要始終堅守“技術服務于人類”的鮮明立場，不斷探索破解深度學習算法中不可解釋性問題的路徑和方法。秉持“如果存在處理過程和結果都絕對不可解釋的人工智能技術，這些技術應被禁止用于人類”[31]的原則。如何確保公平地獲取由人工智能研究組織和公司開發的此類技術也很重要。隨著GenAI技術在教育和研究領域中的使用越來越普遍，與落后的弱勢學生相比，家庭富有的學生能夠從教育技術中獲益更多。隨著2023年3月14日ChatGPT的升級版GPT-4的發布，每月20美元的資費標準可能會使很多不發達經濟體的用戶望而卻步，從而形成一道事實上的“數字屏障”。有學者預測，如果軟件變成付費形式，則在其可訪問性上可能存在高收入國家和低收入國家之間的潛在不平衡。[32]科技公司有義務考慮技術使用的公平問題，通過降低成本、共享數據、投放廣告等措施調低使用價格，讓更多人能公平地使用先進的GenAI工具，減小“教育技術的馬太效應”[33]的影響。

2.維護數字正義

作為GenAI工具的創造者、推廣者和最大受益者，高科技公司必須恪守科技倫理，維護數字正義。數字正義主要表現為分配正義、程序正義、互動正義和信息正義四種形式。[34]數字分配正義涉及數據處理者與產出者之間的利益分配，以及個體能否獲得在數字舞臺上平等參與的機會。科技公司一方面要維護數據產出者的合法權益，另一方面，要盡可能讓更多的人獲取和使用最先進的數字技術。程序正義指數字技術應用背后的過程和邏輯。科技公司要通過排除偏見、聽取意見和說明理由，履行“技術性正當程序”[35]。與教育系統中使用GenAI有關的重要問題之一，是可能出現偏見和歧視。有學者指出，“人工智能和機器學習系統在商業、醫療、教育、政府等領域越來越多地取代了人類決策者。然而，不僅沒有完全消除人類的錯誤和偏見，這些算法在某些情況下還被復制或放大”[36]。因此，我們要防范“小數據”所帶來的風險，警惕“熱爐效應（hot stove effect）”[37]，通過確保原始數據的準確性，以及科學、公平的算法來提升數據的準確性。互動正義涉及個體尊嚴，研發公司應當允許用戶對生成式智能系統提出異議，自覺接受相關倫理審查并及時糾正錯誤。信息正義涉及向用戶提供相應的信息與解釋。信息正義要求科技公司克服數據黑箱和算法黑箱的弊端，實現數據化過程的可見性、可解釋性，注重保護知識產權和數據隱私。

（三）學校等教育機構

1.優化校本政策

UNESCO的《人工智能與教育：政策制定者指南》提出，政策制定者要“與人工智能提供者和教育者合作，確定應對課程框架和評估方法變化的最適當方式，為探索人工智能提供有利的政策環境和課程空間”[38]。盡管學生和教師已廣泛采用GenAI工具，然而，對全球450多所學校進行的一項調查發現，只有不到10%的學校制定了有關使用GenAI工具的政策或指南。[39]在當前GenAI發展如此迅猛的態勢下，學校等教育機構要迅速開展GenAI治理的頂層設計，及時出臺相關規章制度和管理流程，引導師生負責任和合乎倫理地使用GenAI工具，以滿足教學、學習和研究的需要。具體可通過采用以下4項舉措來實現這一目標：在機構實施道德準則，確保研究人員、教師、學生負責任和合乎倫理地使用GenAI工具，并以批判的態度對待產出內容的準確性和有效性；為研究人員、教師、學生提供相關指導和培訓，確保他們了解數據標注和算法中的偏差等倫理問題，并遵守有關數據隱私和知識產權的法規；提升GenAI提示工程能力；檢測書面作業中基于GenAI的抄襲行為。在制定政策和流程時要特別注意以下兩點：一是堅持以人為本的基本立場，大力倡導“數字人文主義（Digital Humanism）”[40]；二是注重信息安全和隱私保護，通過加密技術等手段保護師生的信息隱私和安全。

2.重塑學習環境

學校要大力營造GenAI的良好環境，借助GenAI這個“非凡的技術奇跡”，努力構建智慧教育新生態。具體而言，可以通過創設多樣化的學習情境，促進學習者開展自學和小組共同學習，促進項目式學習、探究式學習、協作式學習；可以借助智慧學習系統、在線智能教室和“智能學伴”，推動形成人機共教、人機共育的新型教學模式；還可以融通數字化和智能化的物理空間、信息空間、社會空間，實現多空間融合，推動高質量的協同育人服務創新。[41]另外，有學者設計的AI生態教育的政策框架，或許對我們有一定的借鑒作用。該框架包含教學、治理和運行三個維度，每個維度涉及若干關鍵領域。[42]學校通過將人工智能與教育深度融合，真正實現從人工智能教育到教育人工智能的轉向，從而最終實現教育人工智能的終極目標——建立智能化的網絡學習空間。[43]

3.開展AI培訓

UNESCO的《人工智能時代的能力培養綜合報告》指出，世界公民需要了解人工智能的潛在影響、作用和局限，需要具備一定的“人工智能素養”[44]。人工智能素養指人們在人工智能方面的知識、理解、技能和價值取向，包括數據素養和算法素養。學校要通過開發人工智能課程，將計算思維、機器學習、自然語言處理、神經網絡等內容納入課程，確保學生能獲得使用GenAI的實際經驗，并讓學生為未來的職場做好準備。學校應整體規劃人工智能教育。不僅對學生進行培訓，還要將全體教師和行政人員也納入培訓對象。因為對人工智能系統的不了解，也是引發教師與智能教學系統沖突的主要原因之一。[45]

（四）教師

隨著ChatGPT的推出，GenAI正在迅速改變著我們思考、創造和生活的方式。有理由相信，人們對GenAI的抵制也會像先前對計算器、計算機和互聯網的抵制一樣，最終將煙消云散。GenAI也將成為教育生態系統中的一項必備工具。教師應接納ChatGPT等人工智能工具，將其視為助力學生學習和教師教學的智慧“合作伙伴”[46]，通過變革教學方式，開展人機合作、進行倫理示范，充分利用GenAI帶來的教學便捷，直面新技術所引發的各種挑戰。

1.變革教學方式

GenAI工具并非人類教師的“競爭者”和“攪局人”，而是有望成為教育變革的“加速器”和“催化劑”，是教師和學生可以在教學、學習中利用的一種有益資源。對于技術派教師和創新人才來說，GenAI是阿拉丁神燈，而非潘多拉魔盒。[47]教師需要更新教學理念，通過變革教學方式、優化學生評價等，實施真正意義上的以學生為中心的教學方式，促進學生差異化、個性化發展。GenAI工具在教育中最顯著的好處之一是能夠為學生創造個性化的學習體驗。教師可以將GenAI工具作為自己的“貼身助教”，共同開展課程的設計和實施，分析個體學習者的優勢、劣勢和喜好，然后根據其獨特需求定制教學內容。GenAI工具還可以幫助教師更加有效地監控學生的學習進度。通過識別個別學生存在的學習困難，并提供實時反饋，教師就能及早提供有針對性的支持，幫助學生克服這些困難。隨著生成式人工智能的到來，學生評價成為教育領域特別受關注的熱門話題。為了克服學生在作業中過度使用GenAI的弊端，教師應當避免布置公式化的作業和考試，轉而設計有助于培養學生創造性和批判性思維能力的作業。例如，上課時進行隨堂考核，讓學生進行演示、現場表演，允許學生對他們真正感興趣的話題進行寫作，實施同伴評價等。

2.開展人機合作

GenAI技術雖然具有創新性和顛覆性，但它們并不能取代人類思維。人類教師要主動與其開展合作，將它們作為工具使用。教師要利用GenAI工具開展人機合作，共同設計GenAI在教學中的應用，通過提供額外支持和個性化關注，從而讓學生更多受益。有人擔心，GenAI工具可能會阻礙學生批判性思維和知識接受能力的發展。實際上，學生可以做到運用技術和保持發展“兩不誤”。教師可以將GenAI工具和技術融入教學，幫助學生發展批判性思維和解決問題的能力。一種方法是使用GenAI生成的答案作為課堂討論的基礎，即向學生展示GenAI生成的多種方案，并要求學生對這些方案的準確性和推理過程進行評價，從而提升學生的分析能力。另一種方法是鼓勵學生理解GenAI在解決某項問題所采用的邏輯。這將有助于學生理解思維步驟，并認識結構化思維在解決問題中的重要性。通過分析GenAI的每一個步驟，學生可以學習如何將復雜問題分解成易于處理的各個部分，并應用相應原理加以解決。此外，教師還可以利用GenAI生成答案當中的錯誤，從而實現更高層次的教育目標。教師在使用GenAI工具時，應優先考慮人的能動性以及人與工具之間的良性互動。具體而言，使用工具應有助于滿足人類需求，并使學習或研究更加有效；教師和學習者對工具的使用應基于人的內在動機；工具的使用過程應由教師和學生共同把控；應根據學習者年齡、預期成果和目標知識類型或目標問題，合理選擇工具及其生成的內容；使用過程應確保人類與GenAI的互動和高階思維的參與，確保人類對GenAI輸出內容的準確性、教學或研究策略及其對人類行為影響的相關決策負責。

3.進行倫理示范

“教師既要注重自身技術倫理的示范性，還要加強對學生技術倫理的價值引領。”[48]教師自己必須意識到，GenAI并不理解它所生成的文本，它可能而且經常生成不正確的語句，這些輸出僅代表最常見或最主流的世界觀，其中有些還是錯誤或有偏差的（如刻板的性別角色），有的甚至含有攻擊性和不道德的內容。因此，教師要對GenAI生成的內容保持理性態度，批判性地看待GenAI所包含的價值取向和文化標準。與此同時，教師還要對學生開展包括學術誠信在內的倫理教育，引導學生以道德和負責任的態度與人工智能技術開展互動。

（五）研究人員

GenAI工具對科學產生了顛覆性的影響。有人認為，GenAI將會改變科學的規則。[49]GenAI的出現同樣給廣大研究人員帶來機遇，例如，它可以扮演研究大綱的AI顧問、文獻綜述者的角色，幫助列出研究問題，自動收集信息，開展數據分析等。與此同時，也帶來諸如編造虛假文獻信息、侵犯他人隱私等諸多挑戰。為了最大限度發揮其積極作用，研究者可以利用GenAI工具拓展研究領域，提升研究效能。

1.拓展研究領域

有學者認為，理論缺失可能是教育技術學領域的一項綜合癥。[50]國外相關學者對教育領域中AI應用研究的綜述顯示，與人工智能驅動教育技術相關的教育學和心理學理論進步的證據非常少，該領域還存在對挑戰和風險缺乏批判性反思，教育領域中人工智能的應用與教育理論脫節，以及教育人工智能相關倫理和教育方法有待進一步探索等問題。[51]鑒于以上情形，教育領域的研究人員應當進一步拓展研究領域，繼續探討GenAI工具在教育中使用的倫理和社會影響，包括它對人類教師的潛在影響、適當的法規和政策的必要性，及其在教育中使用的有效策略；開展有關提示工程和人工智能素養的研究，特別是人工智能倫理和機器學習方面的研究。另外，深度學習的理論還處于起步階段，[52]研究空間巨大，值得研究者關注。

2.提升研究效能

教育領域的研究人員可以利用GenAI 處理與分析數據、生成和驗證假設、促進協作與溝通。[53]可以利用GenAI工具從文獻中自動提取相關信息，對復雜數據集進行摘要和綜合，自動識別數據中的模型和趨勢，等等。研究者可以利用GenAI工具分析海量文獻發現研究空白和找到有潛力的研究方向，可以通過比較不同的研究來識別當前結論中的差距和矛盾之處，從而確定需要進一步研究的問題，也可以通過創造性地解決問題生成新的思路和概念，從而確定新的研究問題和假設，還可以通過建議合適的研究設計和研究方法對研究假設進行驗證。利用GenAI工具，研究者可以通過以下舉措提升研究效能：聯接研究人員、相關專家、資源，促進研究人員之間的合作；增強研究人員與非專業人士之間的溝通，彌合研究人員與普通公眾、政策制定者以及其他利益相關者之間的信息鴻溝，建立公眾對科學的信任，促進學術界和其他部門之間的合作；協助撰寫基金課題、研究論文，制作會議演示文稿，提供即時翻譯，以及快速生成多種語言、多種格式的文本，幫助研究人員節省時間并克服語言障礙，便捷地與國際同事、讀者開展合作和共享信息。

（六）學生

學生大多屬于“數字原住民”，往往能比其老師更輕松、更便捷地使用GenAI技術。學生應當在法律和倫理框架之下合理使用GenAI工具，與此同時，強化對批判性思維能力、問題解決能力的培養。

1.合理使用工具

學生應盡快掌握必要的GenAI相關知識和技能，以及與之相關的使用規范和倫理要求，提升人工智能素養，熟練操作GenAI工具。為了從GenAI獲取理想的內容，學生要具備相應的“提示工程”（prompt engineering）能力。以下技巧可供參考：使用簡單、清晰、易于理解的語言，避免使用復雜或模棱兩可的措辭；提供示例，以說明所需的回答或生成的回答格式；提供上下文；必要時進行細化和迭代，嘗試不同的變化；遵守倫理規范，避免使用可能生成不恰當、有偏見或有害內容的提示。筆者認為，有學者提出的IDEE框架可以作為學生使用GenAI工具的指導原則。該框架由4部分組成：確定預期成果（Identify the Desired Outcomes）、確定適當的自動化程度（Determine the Appropriate Level of Automation）、確保倫理考量（Ensure Ethical Considerations）、評估有效性（Evaluate the Effectiveness）。[54]已有數十項研究表明，過度的技術使用與心理健康水平下降之間存在較強相關性，“過度使用技術的數字用戶”更容易感到悲傷、不快樂、無聊，更易于陷入困境。[55]同樣，過度依賴GenAI生成的答案也可能導致混亂和誤解。需要記住的是，GenAI只是一種輔助工具，它不能替代人類的指導和專門知識，其使用應該根據學習環境的獨特需求和情形進行調整。

2.強化傳統技能

需要指出的是，隨著人工智能技術的不斷發展，傳統的人際技能和人文素養，如批判性思維、溝通和解決問題的能力，其作用不僅沒有被削弱，反而變得比以往任何時候都更加重要。[56]隨著可供選用的GenAI工具變得越發復雜和更易獲取，正確識別并合理使用這些工具變得至關重要。學生可以充分運用GenAI工具來強化他們的傳統技能，如讓GenAI工具充當1對1的語言、藝術、編程或算術教練，提供個性化、即時性的指導，并對提出的問題給出量身定制的答案。盡管人工智能不會，也永遠不可能取代人類在藝術創造領域的能力，但它卻可以在藝術和語言的訓練方面大顯身手。另外，作為GenAI的主要代表，ChatGPT可以通過以下三種方式幫助人們清晰地思考：一是通過提醒學習者留意他們之前沒有考慮過的想法以促進發散性思維；二是充當具有挑戰性的批評者，或是一個持反對觀點的專家；三是將模糊的想法通過語言清晰地表達出來。[57]

五、結語

從以人為本的角度來看，GenAI工具的設計應擴展或增強人類的智力和社會技能，而不是削弱它們。同時，人們要在理性規制框架下合理利用GenAI技術，而不是無原則地依賴它們。人們一直期望人工智能工具能夠進一步整合，成為人類可用工具的一部分，以支持分析和行動，實現更具包容性和可持續性的人類未來。為了使人工智能在個人、機構和系統層面成為人機協作中值得信賴的重要組成部分，應根據GenAI等新興技術的特點，進一步明確和落實“以人為本”的理念。只有這樣，才能確保GenAI成為研究人員、教師和學習者值得信賴的工具。以ChatGPT為代表的生成式人工智能工具正在沖擊甚至重塑學校教育生態，“人工智能+教育”成為未來教育發展的必然趨勢。[58]

參考文獻：

[1]HSU Y C， CHING Y H. Generative artificial intelligence in education， part one： the dynamic frontier[J]. TechTrends， 2023，67：603-607.

[2]EDUCAUSE. 2023EDUCAUSE horizon report （teaching and learning edition）[EB/OL]. （2023-05-08）[2023-10-20]. https：//library.educause.edu/resources/2023/5/2023-educause-horizon-report-teaching-and-learning-edition.

[3]UNESCO. UNESCO： Governments must quickly regulate generative AI in schools[EB/OL]. （2023-09-07）[2023-10-19]. https：//www.unesco.org/en/articles/unesco-governments-must-quickly-regulate-generative-ai-schools.

[4][5]安東尼·塞爾登，奧拉迪梅吉·阿比多耶.第四次教育革命：人工智能如何改變教育[M].呂曉志，譯.北京：機械工業出版社，2019：83-84，86.

[6]張洋.論人工智能發明可專利性的法律標準[J].法商研究，2020，37（6）：181-192.

[7][19][23][24][26]UNESCO. Guidance for generative AI in education and research[M]. Paris： UNESCO， 2023：7，19，25， 26，20.

[8]LIU Y， HAN T， MA S， et al. Summary of ChatGPT-related research and perspective towards the future of large language models[J]. Meta-Radiology， 2023，1（2）：1-14.

[9]SALVAGNO M， TACCONE F S， GERLI A G. Can artificial intelligence help for scientific writing？[J]. Critical Care， 2023，27（1）：1-5.

[10][56]QADIR J. Engineering education in the era of ChatGPT： promise and pitfalls of generative AI for education：proceedings of 2023 IEEE global engineering education conference， Dubai， United Arab Emirates， April 25-28， 2023[C]. Piscataway， New Jersey， USA： IEEE， 2023：1-9.

[11]聯合國教科文組織.人工智能與教育——北京共識[R].巴黎：聯合國教科文組織，2019：63.

[12]衛炳江，蘇福根，姚楠.由ChatGPT引發的人工智能推動教育變革創新的思考[J].中國教育信息化，2023，29（4）：3-9.

[13]SOPHIA FOX-SOWELL. UNESCO urges governments to regulate generative AI in schools[EB/OL]. （2023-09-07） [2023-10-24]. https：//statescoop.com/unesco-urges-governments-regulate-generative-ai-schools/.

[14]MARWALA T. Algorithm bias—Synthetic data should be option of last resort when training AI systems[EB/OL]. （2023-07-28）[2023-10-08]. https：//unu.edu/article/algorithm-bias-synthetic-data-should-be-option-last-resort-when-training-ai-systems.

[15]SARVESH MATHI. The Authors Guild， George RR Martin， John Grisham， and others files lawsuit against OpenAI for copyright infringement[EB/OL]. （2023-09-22）[2023-10-21]. https：//www.medianama.com/2023/09/223-authors-guild-lawsuit-openai/.

[16]托雷·霍爾，李思琦，孫波.生成式人工智能對歐洲教育的影響及對中國的啟示[J].中國教育信息化，2023，29（6）：8-16.

[17]姚志偉，李卓霖.生成式人工智能內容風險的法律規制[J].西安交通大學學報（社會科學版），2023，43（5）：147-160.

[18]曹建峰.深度偽造技術的法律挑戰及應對[J].信息安全與通信保密，2019（10）：35-40.

[20]US Copyright Office. Copyright registration guidance： works containing material generated by artificial intelligence[EB/OL]. （2023-03-16）[2023-10-18]. https：//www.federalregister.gov/documents/2023/03/16/2023-05321/copyright-registration-guidance-works-containing-material-generated-by-artificial-intelligence.

[21]中華人民共和國中央人民政府.生成式人工智能服務管理暫行辦法[EB/OL].（2023-07-10）[2023-10-18].https：//www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm.

[22]OCAMPO Y. Singapore unveils AI government cloud cluster[EB/OL]. （2023-06-02）[2023-10-20]. https：//opengovasia.com/singapore-unveils-ai-government-cloud-cluster.

[25]教育部.教育部關于印發《高等學校人工智能創新行動計劃》的通知[EB/OL].（2018-04-03）[2023-10-25].http：//www.moe.gov.cn/srcsite/A16/s7062/201804/t20180410_332722.html？eqid=b992307e00003f7d000000066498ffc3.

[27]張璐.通用人工智能風險治理與監管初探——ChatGPT引發的問題與挑戰[J].電子政務，2023（9）：14-24.

[28]COLLINGRIDGE D. The social control of technology[M]. London： Frances Pinter， 1980：19.

[29]曾海軍，張鈺，苗苗.確保人工智能服務共同利益，促進教育系統變革——《人工智能與教育：政策制定者指南》解讀[J].中國電化教育，2022（8）：1-8.

[30]PRINS C. Digital justice[J]. Computer Law amp; Security Review， 2018，34（4）：920-923.

[31]苗逢春.教育人工智能倫理的解析與治理——《人工智能倫理問題建議書》的教育解讀[J].中國電化教育，2022（6）：22-36.

[32]SALVAGNO M， TACCONE F S， GERLI A G. Can artificial intelligence help for scientific writing？[J]. Critical Care， 2023，27（1）：1-5.

[33]REICH J. Failure to disrupt： why technology alone can’t transform education[M]. Harvard University Press， 2020：149.

[34]周尚君，羅有成.數字正義論：理論內涵與實踐機制[J].社會科學，2022（6）：166-177.

[35]劉東亮.技術性正當程序：人工智能時代程序法和算法的雙重變奏[J].比較法研究，2020（5）：64-79.

[36]RICH A S， GURECKIS T M. Lessons for artificial intelligence from the study of natural stupidity[J]. Nature Machine Intelligence， 2019，1（4）：174-180.

[37]DENRELL J， MARCH J G. Adaptation as information restriction： the hot stove effect[J]. Organization Science， 2001，12（5）：523-538.

[38]MIAO F， HOLMES W， HUANG R. et al. AI and education guidance for policy-makers[M]. Paris， UNESCO， 2021：34.

[39]UNESCO. UNESCO survey： less than 10% of schools and universities have formal guidance on AI[EB/OL]. （2023-06-01）[2023-10-21]. https：//www.unesco.org/en/articles/unesco-survey-less-10-schools-and-universities-have-formal-guidance-ai.

[40]苗逢春.從“國際人工智能與教育會議”審視面向數字人文主義的人工智能與教育[J].現代教育技術，2022，32（2）：5-23.

[41]李艷燕.科技賦能教育創新：學習環境的變革與升級[J].學術前沿，2023（20）：73-79.

[42]CHAN C K Y. A comprehensive AI policy education framework for university teaching and learning[J]. International Journal of Educational Technology in Higher Education， 2023，20（1）：1-25.

[43]徐曄.從“人工智能教育”走向“教育人工智能”的路徑探究[J].中國電化教育，2018（12）：81-87.

[44]MIAO F， HOLMES W. International forum on AI and the futures of education， developing competencies for the AI era： synthesis report[R]. Paris， UNESCO， 2020：6.

[45]張纓斌，吳若喬，何雨軒，等.感知情境與人在回路的智能教育——《人工智能與教學的未來：見解與提議》要點與反思[J].開放教育研究，2023，29（4）：11-20.

[46]王悠然.利用ChatGPT優勢完成教育目標[EB/OL].（2023-03-31）[2023-12-11].http：//www.cssn.cn/skwxsdt/gjhy/202304/t20230403_5617652.shtml.

[47]焦建利.ChatGPT：學校教育的朋友還是敵人？[J].現代教育技術，2023，33（4）：5-15.

[48]周玲，王烽.生成式人工智能的教育啟示：讓每個人成為他自己[J].中國電化教育，2023（5）：9-14.

[49]VAN DIS E A M， BOLLEN J， ZUIDEMA W， et al. ChatGPT： five priorities for research[J]. Nature， 2023，614（7947）：224-226.

[50][51]ZAWACKI-RICHTER O， MARíN V I， BOND M， et al. Systematic review of research on artificial intelligence applications in higher education-where are the educators？[J]. International Journal of Educational Technology in Higher Education， 2019，16（1）：1-27.

[52]LU Y. Artificial intelligence： a survey on evolution， models， applications and future trends[J]. Journal of Management Analytics， 2019，6（1）：1-29.

[53]RAY P P. ChatGPT： a comprehensive review on background， applications， key challenges， bias， ethics， limitations and future scope[J]. Internet of Things and Cyber-Physical Systems， 2023，3：121-154.

[54]SU J， YANG W. Unlocking the power of ChatGPT： a framework for applying generative AI in education[J]. ECNU Review of Education， 2023，6（3）：355-366.

[55]CLEMENT J， MILES M. Screen schooled： two veteran teachers expose how technology overuse is making our kids dumber[M]. Chicago： Chicago Review Press， 2018：113.

[57]EUCHNER J. Almost human[J]. Research-Technology Management， 2023，66（2）：10-11.

[58]何昌旺，熊和平.ChatGPT類生成式人工智能教育倫理危機及其應對[J].中國教育信息化，2024，30（2）：81-90.

Global Roadmap for Regulating the Application of Generative AI in Education and Research： the Interpretation and Enlightenment of UNESCO Guidelines for Generated AI in Education and Research

Jun LIU1，2， Liang LEI2， Changzhen ZHONG2， Lichun XIONG2

（1.School of Educational Science， Hunan Normal University， Changsha 410081， Hunan;

2.Hunan College for Preschool Education， Changde 415000， Hunan）

Abstract： With the introduction and rapid iteration of Generative Artificial Intelligence （GenAI）， represented by GPT， GenAI has created a tremendous boost to education and research， while also posing unprecedented risks and challenges. On September 7， 2023， the UNESCO released Guidelines for generated AI in Education and Research. The textual analysis of the guidelines introduces the background of the document， discusses the controversies and negative impacts of GenAI， presents a policy framework for the application of GenAI in education and research， and builds its “road-map” in education and research. Taking into account the current status of GenAI use in education and research in China， recommendations are made to Chinese government departments， AI companies， schools and educational institutions， teachers， researchers， and students respectively： government agencies should improve policy frameworks and enhance public participation; technology companies should adhere to a people-centered approach and uphold digital justice; schools and educational institutions should build or revise school-based policies， reshape the learning environment， and conduct relevant AI training; teachers should transform teaching methods， engage in human-machine collaboration， and provide ethical demonstrations; researchers should expand research areas and improve research efficiency; students should use tools wisely and reinforce classical skills.

Keywords： UNESCO; Generative Artificial Intelligence（GenAI）; Education amp; research; Guideline; Regulation; Road-map

編輯：王天鵬" "校對：王曉明