人工智能應用熱的省思

仲玉維

焦建利 華南師范大學教育信息技術學院教育技術學教授、博士研究生導師，未來教育研究中心主任。主要從事教育技術學基本理論、學習科學與技術、技術支持的教師專業發展、基于移動終端的一對一數字化學習（智慧教室）、極簡教育技術、在線學習等問題的教學和科研工作。利用業余時間經營學術自媒體教育技術學自留地（jiaojianli.com）。

2022年11月30日，OpenAI公司向全世界發布了其最新的大型語言預訓練模型——ChatGPT。自打那個時候開始，作為技術發燒友的焦建利教授就被生成式人工智能迷得一塌糊涂，兔年春節，他大多數時間是和大型語言模型應用一起過的，一邊懷著激動和興奮，琢磨 ChatGPT以及其他大型語言模型給學校教育帶來的機遇，對學校教育的價值和意義、課程與教學的設計研究；一邊又充滿理性和審慎，省思ChatGPT之類的人工智能，對于技術派教師的知識、技能和素養的挑戰，對學生的學習、教師的教學以及學校的管理和服務所產生的諸多技術的、倫理道德的和法律法規的威脅和可能的挑戰。本期我們訪談的專家就是華南師范大學焦建利教授。

本刊編輯：2022年年底，OpenAI 發布ChatGPT。不少人有這樣的擔心，生成式人工智能工具ChatGPT是懶惰學生的福音，可能會取代教師。您怎么看？

焦建利：的確，這種說法有一定的代表性，甚至連分析哲學領域的重要人物、認知科學領域的創始人Noam Chomsky（喬姆斯基）教授都有類似的觀點。在一次訪談中，喬姆斯基將使用ChatGPT視為“基本上是高科技剽竊”和“避免學習的一種方式”。

我認為，ChatGPT之類的大語言模型只是工具，是技術產物，是合乎人的目的性的存在。它究竟是剽竊的利器、抄襲的工具還是生產力的工具，完全取決于人，取決于人以什么目的，怎么使用它。

比較有意思的是，我讀到的美國和英國的兩個有關ChatGPT的學校教育應用的調查報告，結論出乎意料，發人深思。

一項新的調查顯示，教師比學生更有可能使用聊天機器人來完成“作業”。該調查由沃爾頓家庭基金會（Walton Family Foundation）委托，2023年2月2日-7日期間，對美國1002名K-12教師和1000名12-17歲的學生進行了調查，調查的目的是了解他們對該技術以及將其用于學校工作的看法。調查結果發現，在美國全國范圍內，51%的教師在學校使用ChatGPT，而學生中這一比例僅為33%。在受訪的教師中，黑人（69%）和拉丁裔（69%）教師報告的使用率更高。似乎很多教師都允許學生使用ChatGPT。

報告作者寫道：“絕大多數使用過 ChatGPT的教師和學生表示，它對他們的教與學產生了積極影響”“與其尋找限制它的方法，學生和老師都認為我們應該尋找方法將ChatGPT納入教育并充分利用它的潛力。”大多數學生表示，這可以幫助他們成為更好的學生（68%），并幫助他們學得更快 （75%）。73% 的教師表示 ChatGPT 可以幫助學生學到更多。

一家網站通過教師調查應用程序TeacherTapp，對9323名英國教師進行調查，報告顯示，只有6%的人在工作中使用過ChatGPT，而 32%的人不知道ChatGPT是什么。這個結果再次發人深思。

這兩個或許不具備可比性的對美國和英國教師的調查，似乎也佐證了在“人工智能領域，國家與國家之間的人工智能數字鴻溝正在呈幾何倍數的加大”的觀點。一方面，這或許是因為OpenAI是美國的互聯網公司，或許和兩個國家中小學教師的數字素養和技術文化有著密切的關系。

至于ChatGPT之類的人工智能取代教師之說，我的看法是：人工智能不會取代教師，過去不能，現在不能，將來也不能。但是，善于使用人工智能的教師，一定會淘汰不用人工智能的教師。

本刊編輯：ChatGPT一石激起千層浪，引發了全球互聯網龍頭企業（尤其是微軟、谷歌、百度、Meta等）圍繞搜索引擎相關業務展開的搜索引擎大戰。ChatGPT到底能夠為教育、教學帶來什么呢？

焦建利：在過去的100年里，每當新的科技被引入教育時，都會產生激烈的爭論和普遍的擔憂。在這100年里，我們已經見證了很多教育科技的應用和變革，其中包括黑板、放映機、計算機、互聯網、平板電腦等，ChatGPT當然也不例外。

由于有了ChatGPT大型語言模型的快速發展，使得我們人類的學習方式會發生一個根本性變化，有助于推動學習方式從“搜索就是學習”逐步轉向具有悠久歷史和古老傳統的“對話式學習”，這種影響在今年已經顯現出來了。

有了ChatGPT人工智能之后，每個人都有了自己的人工智能助理和私人學習的顧問，學習、教育教學變得更加個性化，因材施教有望得到落實。特別是隨著生成式人工智能的發展，我們發現，在教育的生態里面，信息、知識甚至一些技能已經不再重要，重要的將會是創意、批判性思維、創造性、溝通，包括提問的技巧、協作、審美、情商和品格等。

我總結了一下，ChatGPT之類的生成式人工智能可以幫助人們完成以下幾個方面的工作。

一是作為生成式人工智能的代表，ChatGPT能夠為教師和學生生成相應的文本，如活動方案、教學設計、隨堂練習題等。配合第三方應用，ChatGPT還可以生成故事、電子書、講義、教案、教學材料、視頻微課，甚至演示文稿、代碼和網站等。

二是作為一個基于自然語言的大型語言模型，ChatGPT更具對話性，且似乎更有語言天賦，它能夠回答后續問題、承認錯誤、質疑不正確的前提并拒絕不適當的請求；還可以幫助學生、教師更好地理解和掌握抽象的概念和知識，并為教師提供課程相關支持，如回答學術（包括科學、歷史、文學、數學等）問題。

三是通過使某些任務和角色自動化，ChatGPT已經為諸多工作場所帶來重大變化。人工智能和機器人不但可以自動化傳統的體力勞動和重復性勞動，而且能夠自動化越來越多的腦力勞動和知識密集型業務；通過將ChatGPT的功能與其他人工智能技術（如人工智能藝術引擎）相結合，可以使目前由人類設計師、藝術家和內容創作者完成的任務自動化；它還可以使學生學習和教師教學的相關業務自動化，如為學生和教師提供學習資源，幫助教師和學生尋找有用的學習資源。

四是ChatGPT的應用場景不僅僅體現在常規工作和教學業務中，在科學研究領域，ChatGPT也有廣泛的應用前景。許多科學家和研究人員嘗試使用ChatGPT輔助科學研究過程中的某些任務，取得了令人振奮的成績。如研究人員可結合ChatGPT和其他大型語言模型來確定研究空白、進行文獻綜述、起草論文并修改完善，撰寫演講稿以及編寫計算機代碼等。

本刊編輯：人工智能面臨著一定的應用風險問題，包括技術倫理、技術向善、隱私保護等，這些問題引起了人們的高度關注。在運用ChatGPT等AI軟件的過程中，您遇到了什么問題，有什么樣的思考？

焦建利：在我看來，今天我們看到人工智能對于教育在法律和倫理方面的議題，主要有以下五個方面。

一是，我認為它帶來的挑戰和問題是不確定性和錯誤的信息，ChatGPT經常會生成一些不準確的信息、誤導性信息，給人們帶來很大問題。比如，我曾經問ChatGPT誰是喬姆斯基，它告訴我是演員，這是錯誤的；后來，我用英文問，誰是Noam Chomsky，它的回答是正確的。所以，有的時候我們會思考，究竟它給我們的答案是對的還是錯的，還是我們提問方式有了問題，我們批評ChatGPT的語言模型邊界和局限性的時候，是不是我們提問的方法出了問題。就好比，并非每一個會說話的人都會聊天，否則，就不會有“把天聊死了”這樣的說法了。我們使用ChatGPT之類的聊天機器人，需要學會怎么和它愉快地聊天，這就涉及了一個被稱之為“提示語工程學”的領域了。

二是，ChatGPT經常會產出一些并不可靠的內容。比如，在應用過程中間你會發現，它會給你提供一些不存在的信息，我曾經遇到過，我讓它列出一些我自己研究的一個課題，有關的參考文獻，希望用MAPA格式來給出這樣的文獻，它列的非常規范，看上去非常漂亮，但是當你去搜索，發現這個文獻是不存在的，所以這變成了一個很重要的問題，尤其用到教育教學里面的時候，這種不可靠會帶來很大挑戰。

三是，我曾經開玩笑地問了ChatGPT一個很荒誕的問題，我問“為什么在慢跑之后吃自己穿的襪子更有營養，更有利于健康？”ChatGPT是怎么回答我的呢，它說“因為慢跑可以幫助我們消化脂肪，而襪子里面含有營養成分，比如維生素、礦物質、氨基酸等等”，它在一本正經地胡說八道。

四是，數據安全的問題、隱私保護以及相關法律的關注。比如涉及了攻擊性信息、種族歧視方面不恰當的內容，甚至一些有毒的信息，由ChatGPT的人工大型語言模型產出，很多專家談到了這一點，我很同意他們的看法，這點看法類似于莎士比亞講過一句“本無好壞，取決于人怎么思考”。還有就是由于大型語言模型訓練帶來的偏見，涉及相關語料和相應問題，可以看到這方面的情況還是比較多的，因此，也有人批評在教育里面它帶給我們的是什么，有人認為它是“教育的瘟疫”，有人說“抄襲變得更容易了”。

五是，開放性和公平性的問題。在很多專家討論人工智能里面提到了，以Open AI為例，它的名稱是Open，是不是全世界的人都能使用它，我們今天講由于技術的原因帶來很多挑戰和問題，但是，歸根結底我的看法是，這取決于我們怎么使用它，如果以正確的方式使用它，它會成為我們教師的朋友。

人工智能倫理的問題變得非常重要，我們今天需要采取一些行動來解決這些問題。

本刊編輯：作為技術發燒友，您最近還關注哪些人工智能方面的內容？有什么推薦的最前沿的技術信息嗎？

焦建利：我在“自留地君”微信公眾號上，會經常發布一些我認為很有意思也很有時效性的人工智能科技動態。比如“人工智能藝術讓人人都成藝術家？”的推文中，介紹了以6Pen.art為代表的一組人工智能繪畫工具，基于人工智能算法的在線繪畫作品創作，可以讓每一個像我這樣沒怎么接受過藝術教育的人，在線借助人工智能，創作出一幅幅自己的繪畫作品，還可以參加在線畫展。用戶直接給出想象中畫面的關鍵詞，它就能借助人工智能算法給你生成對應圖像，這一切就仿佛它能聽懂人類的語言一樣。藝術創造不用畫筆，而靠“算”，一個“用嘴作畫”的時代，似乎已經悄然到來。AI藝術成為藝術的一種新形式，每個使用AI創作軟件的人，都似乎可以算作是AI藝術家了。在技術的支撐下，一臺計算機在生成網絡里對一組聲音或圖片庫進行研究，根據所采集到的資料來生成自己的內容。然后，在其判別網絡里通過與原始資料庫比對，來測試自己的正確率。如此不斷重復以上步驟，機器在反復試驗中逐步改進和優化自身。

人工智能不僅可以讓每個人都成為視覺藝術家，還可以讓我們創作自己的音樂。人工智能在音樂領域的應用愈發深刻廣泛，覆蓋了音樂教學、人工智能音樂創作、AI演奏、虛擬歌手、娛樂社交等眾多場景。單就AI音樂創作部分，人工智能可以讓普通人（當然也包括音樂創作專業人士、作曲家和音樂家）利用人工智能技術對音樂進行創作、加工和利用，比如：AI演唱、AI作詞、AI作曲、人聲/樂器分離、BGM識別、副歌剪輯、曲譜識別、音頻合成等。比較有代表性的包括：Amper Music、AIVA、Jukedeck、Ecrett Music、Melodrive、ORB Composer等。

其實，這幾個月來，人工智能發展實在是太快了，快到讓人瞠目結舌，目不暇接的地步。難怪網友驚呼，“日日工業革命，夜夜文藝復興”。我覺得，人工智能真正帶來的沖擊是全新的工作方式，所有的軟件和平臺都將會被人工智能刷一遍，成為人工智能軟件。生活在這個時代的每一個人，也都將被人工智能賦能，否則，就會被這個時代淘汰。

讓我們一起見證歷史，共同創造人工智能教育應用的未來。