XEduLLM：讓大模型進入中小學信息科技課

摘要：生成式人工智能的迅速崛起備受教育的關注，信息科技教師希望在課堂中應用大模型，讓學生熟悉提示詞，但受限于條件而難以實現。本文分析了在課堂上使用大模型的不同解決方案，并重點介紹使用開源Python庫XEduLLM，讓教師搭建一個大模型服務，這樣不僅能夠讓學生在課堂上研究大模型的提示詞，還能夠讓學生隨時隨地借助大模型自主學習。

關鍵詞：大模型；GenAI；XEdu

中圖分類號：G434 文獻標識碼：A 論文編號：1674-2117（2024）15-0089-03

自OpenAI推出ChatGPT以來，生成式人工智能迅速崛起，展現出令人矚目的巨大潛力。很多教師都很想為學生上一節關于大語言模型和提示詞（Prompt）的課程，讓他們真實了解當前人工智能的發展現狀，并借助大模型自主學習。可惜因網絡監管的要求，任何大模型的使用都需要實名認證，而大部分中小學不允許學生帶手機，很難做到在課堂上正常登錄國內各種大模型服務，因而無法通過不同提示詞研究大模型。

在課堂上使用大模型的不同解決方案

2023年，筆者曾為學生上過一節與ChatGPT相關的課，其過程是將自己和ChatGPT的對話過程全部導出。現在，國內各大AI企業相繼發布了大模型，其功能都可圈可點，已經具備了國產大模型走進中小學課堂的基本條件。為了能開展大模型的教學，教師們可謂使出渾身解數，筆者將他們的操作簡要概括為三種方式。

方式1：批量注冊大模型的測試賬號

為上課的學生每人提供一個測試賬號，這看起來有點笨，其實是一種可行的方法。一般來說，一個班級數十人，幾位教師找一個支持郵箱注冊的網絡服務同時申請，也能很快完成。之前執教電子郵件之類的內容，有些教師就用這樣的方式解決實名認證的問題。

方式2：在局域網搭建本地大模型服務

有些經費充足的學校會直接購買一臺AI一體機（指非集群工作的單臺服務器），內置了大模型的相關服務。有一定技術能力且擁有高性能工作站的教師，往往也會采用自主搭建大模型服務的方式。因為隨著技術的快速迭代，已經出現了多種在本地搭建大模型服務的工具，技術難度并不高。例如，Ollama是一個開源的大型語言模型服務工具，通過簡單的安裝指令，它可以讓用戶執行一條命令就在本地運行開源大型語言模型。但是這種方式還需要教師自主開發一個Web服務。

方式3：利用API開發網絡中轉服務

在ChatGPT剛剛出來的時候，有很多企業開發了提供中轉服務的App或者網絡應用，可是使用這些App依然需要實名認證，同樣無法解決課堂教學的問題。有能力的教師會借助AI企業提供的API服務，自主開發一個網絡中轉服務。這里的“網絡中轉服務”指教師自己開發一個網頁，利用Flask、FastAPI，結合Requests庫，做一個類似網關的服務。

這三種方式的比較分析如右表所示。相對來說，利用大模型企業提供的API服務，用網絡中轉方式讓多人共享是一種值得推薦的方案。

XEduLLM的功能簡介和基礎應用

XEduLLM是XEdu系列工具之一，為開發者提供了簡便統一的方式來與大語言模型進行交互和微調，旨在幫助信息科技教師開展以大模型為內容的教學。XEduLLM的出現讓開發者可以便捷地在自己的應用程序中加入大模型對話的功能，特別是在教學場景中教師可以利用XEduLLM提供一個API網絡中轉服務。

1.啟動大模型網絡中轉服務的基本步驟

（1）獲取API密鑰

國內外知名的大語言模型基本上都提供了API服務，這里以“智譜清言GLM”為例，訪問其官網（open.bigmodel.cn）進行注冊登錄，隨后點擊右上角的“API密鑰”，再點擊“添加新的API key”，獲取到的就是每個人獨一無二的API密鑰，將在應用調用API服務時進行身份鑒別和計費。

（2）安裝XEduLLM

作為一個開源Python庫，XEduLLM可以使用Python包管理的方式進行安裝，命令為“pip install xedu-python”，安裝成功后會出現“Successfully installed xedu-python”的字樣。

（3）啟動大模型網絡中轉服務

下面提供了一段服務模板代碼，只需要將其中的api_key的值替換為剛才獲取到的API密鑰，即可啟動服務并使用。各家平臺的模型效果和費率稍有不同，教師可以根據需要嘗試并選擇。

上頁圖1中的代碼在運行后，輸出了三個網址，在本機上打開任一網址都能夠體驗到通過大模型網絡中轉服務搭建的網頁對話功能，效果如上頁圖2所示。

2.XEduLLM在課堂教學中的使用

（1）體驗大模型對話

在課堂教學中，學生可以通過局域網訪問的方式來進行體驗。假設前面的程序運行在教師機上，并且學生機與教師機在同一個局域網內，學生就可以通過前面輸出的三個網址中的第一個網址訪問該服務，進行在線體驗。整個過程學生無需注冊登錄，不同網頁之間的聊天記錄相互獨立，互不干擾。

（2）體驗大模型開發

如果學生想要基于大模型開發相應的AI應用，也無需注冊登錄，可以直接使用Python代碼將對話內容發送給該網址，即可獲得對話結果，教師也不需要擔心自己的密鑰泄露造成財產損失。代碼示例如圖3所示。

當然，上述功能的實現都要求在學生體驗的過程中，教師機始終保持網絡中轉服務開啟，且賬號內費用足夠。如果學生想要回家繼續體驗，則可以參照前面的方法自行注冊并獲取API密鑰進行體驗。

XEduLLM在教學中的應用展望

1.為學生配置借助XEduLLM開發的智能體

信息科技教師可能不滿足于基礎的大模型對話能力，希望能夠讓大模型成為課堂的得力助手。例如，在上“算法”有關的課程時，可以為學生提供一個專門回答算法編程問題的智能體，參考代碼如圖4所示。

2.學生自主開發基于XEduLLM的智能體

學生可以借助教師提供的網址進行智能體的開發，使用“set_system（prompt）”來設置屬于自己的提示詞，并且開啟個人網頁進行調試，通過不斷完善提示詞的方式，讓智能體逐漸符合自己的需求。調試完成后也可以通過分享網址的形式，讓大家一起測試。

結語

盡管各平臺的模型仍在不斷改進和上新，但借助XEduLLM能夠讓這些模型盡早進入信息科技的課堂，讓學生體驗到最新的大語言模型的魅力，甚至是讓學生能夠在大模型基礎上加以開發和應用，這將更好地幫助他們順應時代的潮流，引領未來。