云計算人工智能邊緣計算實驗課程建設與探索

張志佳　李丹　陳麗

關鍵詞：實驗室建設；分布式教學；智能與邊緣計算

中圖分類號：TP18 文獻標識碼：A

文章編號：1009-3044（2023）12-0167-04

0 引言

高校實驗室是培養(yǎng)學生動手實踐能力的實驗場所，是驗證學生專業(yè)課學習結果和能力的工具，被喻為創(chuàng)新能力培養(yǎng)的基礎訓練場、創(chuàng)造先進生產(chǎn)力的培養(yǎng)皿、前沿技術發(fā)展的源泉和引擎[1-3]。

傳統(tǒng)的高校實驗課程實踐方式[4]需要在固定的高流動性、聚集性和經(jīng)常性實踐場所開展，尤其是專業(yè)性實驗課，大多需要在專業(yè)設備和專業(yè)場所進行。隨著云計算技術的高速發(fā)展并趨于成熟，課程內(nèi)容信息化進程已在高校課堂全面鋪開，傳統(tǒng)的線下實驗課授課方式已無法滿足師生需求，實施線上實踐課程教學同時，結合線下實踐是一項十分有效的實踐教學嘗試[5-6]。

人工智能專業(yè)實驗室不僅要提供基礎的開發(fā)環(huán)境，還要提供機器學習、深度學習等人工智能專業(yè)實驗課的運算環(huán)境以及用于實驗的數(shù)據(jù)集。這些實驗素材的準備均需專業(yè)的人工智能實驗室作為支撐，也需要專業(yè)的能夠實現(xiàn)師生互動操作的實驗平臺，普通的實驗室無法達到開展人工智能專業(yè)線上實踐課程的要求。

1 支持人工智能邊緣計算實驗課程的實驗室建設

為滿足本學院面向邊緣計算算法和邊緣計算設備構建人工智能人才培養(yǎng)體系的需求，為全校師生解決同專業(yè)同時上課同時實踐同時考試，并解決線下實驗室場地有限的問題，沈陽工業(yè)大學人工智能學院成立了智能與邊緣計算實驗室，應用人工智能實驗管理平臺進行相關線上實踐課程體系建設、開展分布式實踐教學，以應對學生零散位置前提下的專業(yè)實踐課程培養(yǎng)。

1.1 人工智能邊緣計算實驗室構成

智能與邊緣計算實驗室整合了人工智能一體機產(chǎn)品、智能終端平臺，以及FPGA中國創(chuàng)新中心提供的共享資源。

1） 人工智能一體機

人工智能一體機包括人工智能云平臺和硬件平臺。人工智能云平臺支持AI開發(fā)全生命周期的管理，可按需提供虛擬機、容器資源、分布式存儲以及資源管理調(diào)度，可提供實驗課程常用的AI框架，數(shù)據(jù)集、模型、算法等，并面向科學研究和實驗教學提供完善的系統(tǒng)管理支撐服務功能。

2） 智能終端平臺

邊緣計算創(chuàng)新實驗室以數(shù)據(jù)中心和智能終端相結合的方式開展實驗，可開發(fā)AI終端項目開發(fā)實踐課程、自動駕駛實驗課程、畫像風格遷移實驗設計、無人機實訓課程以及機器人開發(fā)課程等。

3） FPGA中國創(chuàng)新中心共享資源

FPGA中國創(chuàng)新中心支持共建聯(lián)合創(chuàng)新實驗室，提供公有云資源，即FPGA云實例和云存儲，同時支持學科體系共建。

1.2 人工智能邊緣計算實驗管理平臺技術架構

人工智能實驗管理平臺技術架構共有五層，即實現(xiàn)界面設計的展示層、實現(xiàn)服務功能的業(yè)務層、支持人工智能實驗操作的AI平臺層、管理容器化和虛擬機資源的調(diào)度層以及構成計算資源的資源層。

1） 展示層

平臺開發(fā)采用前后端分離架構模式，前端使用Vue、AngularJS框架開發(fā)，通過HTTP和RESTful API 與服務端通信，使用Web?socket 實現(xiàn)服務器與客戶端之間的消息推送。

2） 業(yè)務層

后端使用Java開發(fā)語言，基于微服務架構設計，主要采用SpringBoot 框架。通過Rabbitmq實現(xiàn)服務間的數(shù)據(jù)同步，確保數(shù)據(jù)的一致性。使用MySQL網(wǎng)站數(shù)據(jù)庫管理系統(tǒng)，使用Redis中間件解決分布式鎖等競爭性問題。使用Nginx實現(xiàn)請求轉發(fā)、代理等功能，使用ETCD分布式存儲系統(tǒng)，并與Nginx共同實現(xiàn)動態(tài)負載均衡。

3） AI平臺層

AI平臺支持TTS（從文本到語音）、MINIST數(shù)據(jù)集、FaceNet（人臉識別系統(tǒng)）等人工智能算法，同時支持TensorFlow、Mxnet、Caffe、PyTorch等人工智能框架。

4） 調(diào)度層

使用Kubernetes（容器資源調(diào)度平臺）實現(xiàn)容器化資源的調(diào)度、服務編排、租戶管理等。通過對接Open?stack（云計算管理平臺）實現(xiàn)虛擬機資源的調(diào)度管理。

5） 資源層

資源層包括CPU、GPU、FPGA異構計算資源。使用CephFS文件系統(tǒng)實現(xiàn)分布式文件存儲。使用Pro?metheus實現(xiàn)對主機狀態(tài)、資源使用情況的監(jiān)控。

1.3 人工智能邊緣計算實驗管理平臺功能架構

人工智能實驗管理平臺部署的功能架構方案，包括由硬件設備層提供計算資源、存儲設備、網(wǎng)絡設備以及安全設備，依靠人工智能管理平臺提供算力支撐，依托云計算管理平臺提供云主機，支持云主機類型實驗和FPGA 開發(fā)板實驗，搭建各種智能實訓場景。

人工智能實驗管理平臺功能架構分為基礎功能和高級功能兩部分。

（1） 基礎功能

①課程管理：包括自建課程和內(nèi)置課程。

②實驗管理：包括容器類型實驗、虛擬機類型實驗、FPGA開發(fā)板實驗。

③支持實驗課程建設的系統(tǒng)管理功能。

④實驗配置。

⑤操作日志。

（2） 高級功能

①AI應用中心系統(tǒng)：使用內(nèi)置模型預測服務進行預測并獲得預測結果。

②門戶管理系統(tǒng)：根據(jù)課程需求定義個性化內(nèi)容，在實驗平臺首頁展示。

③統(tǒng)計分析系統(tǒng)：統(tǒng)計實驗作業(yè)情況和實驗記

錄，便于教師隨時跟進學生的實驗進度。

④實驗自動評測系統(tǒng)：系統(tǒng)自動評測學生提交的實驗作業(yè)。

⑤考試系統(tǒng)。

⑥數(shù)據(jù)集管理系統(tǒng)：業(yè)務管理員或教師向數(shù)據(jù)集中存放實驗所需文件，學生使用數(shù)據(jù)集中的文件完成相應的實驗作業(yè)。

⑦GPU資源池管理系統(tǒng)：開啟GPU復用后支持創(chuàng)建GPU切片實驗，提高GPU使用率，統(tǒng)計并展示GPU使用情況。

2 人工智能邊緣計算實驗課程分布式教學設計與應用

邊緣計算是指在靠近物或數(shù)據(jù)源頭的一側，采用網(wǎng)絡、計算、存儲、應用核心能力為一體的開放平臺，就近提供最近端服務。這樣能夠在減少請求響應時間、減少網(wǎng)絡帶寬同時，保證數(shù)據(jù)的安全性[7]。其基本原理是在網(wǎng)絡邊緣的數(shù)據(jù)產(chǎn)生側對數(shù)據(jù)進行處理和分析，通過及時響應邊緣側發(fā)起的請求，進而實現(xiàn)減少網(wǎng)絡傳輸所產(chǎn)生的時延[8]。

人工智能實驗管理平臺部署的功能架構方案，包括由硬件設備層提供計算資源、存儲設備、網(wǎng)絡設備以及安全設備，依靠人工智能管理平臺提供算力支撐，依托云計算管理平臺提供云主機，支持云主機類型實驗和FPGA開發(fā)板實驗，搭建各種智能實訓場景。

人工智能實驗管理平臺結合云技術，提供了不受時空限制的與線下實驗相同的線上實驗操作，是開展人工智能學院邊緣與計算實驗課程分布式教學的應用平臺工具。在線實驗課分布式實踐教學設計包括創(chuàng)建實驗課程、在線授課、在線測試等流程，經(jīng)過師生在線互動，初步形成了人工智能實驗管理平臺分布式教學的線上實驗教學模式，在人工智能專業(yè)學生中展開應用。

2.1 人工智能邊緣計算實驗課程在線創(chuàng)建

授課教師在線創(chuàng)建課程，點擊頁面“新建課程”選項，根據(jù)頁面提示補充課程大綱、參考書籍、實驗資料以及實踐內(nèi)容等信息后，點擊“發(fā)布”課程，此為課程建立。

課程一經(jīng)發(fā)布即在平臺可查、可選、可學習，任課教師在課程詳情點擊頁面“排課管理”，需根據(jù)不同學期不同教學班的授課安排，點擊“添加分組”，可根據(jù)授課時間給上課班級安排課表。至此，所有專業(yè)實踐課程所需線上課程資源都已建立。

AILab實驗管理平臺創(chuàng)建的實驗課程，教師和業(yè)務員權限可以創(chuàng)建支持虛擬桌面、Jupyter、FPGA開發(fā)板三種類型實驗。

① 虛擬桌面：適用于帶有圖形可視化的實驗場景，支持容器/虛擬機類型的實驗環(huán)境配置；

② Jupyter：分步執(zhí)行實時運行，適用于交互式編程類實驗；

③ FPGA 開發(fā)板：對接人工智能邊緣實驗平臺后，可操作FPGA相關實驗。

2.2 人工智能邊緣計算實驗課程在線授課

實驗課開課前，需要業(yè)務管理員根據(jù)在線課程要求創(chuàng)建實驗運行環(huán)境所需的鏡像和規(guī)格。鏡像是提供實驗運行的環(huán)境，規(guī)格則是實驗環(huán)境中CPU、內(nèi)存和GPU資源。業(yè)務管理員在平臺“配置管理”目錄下分別創(chuàng)建容器規(guī)格、容器鏡像。如果實驗需要用到數(shù)據(jù)集，創(chuàng)建實驗課程還需上傳實驗所需數(shù)據(jù)集。

授課教師需要在系統(tǒng)提前上傳實驗指導書，并根據(jù)實驗課的難易程度，提供可供學生參考的實驗代碼和實驗數(shù)據(jù)。授課教師可以在線布置實驗作業(yè)，布置實驗作業(yè)時需要選擇關聯(lián)一門實驗課程，實驗作業(yè)可以定向定時發(fā)布給學生，并要求學生在規(guī)定時間內(nèi)完成。

學生按照實驗課程排課登錄人工智能實驗管理平臺點擊“我的課程”上課，并與教師在線交流。課后在“我的實驗”界面查看老師布置的實驗作業(yè)，點擊“進入實驗”，根據(jù)要求完成實驗并整理實驗報告書上傳系統(tǒng)，同時上傳必要的實驗代碼和數(shù)據(jù)集。

授課教師登錄人工智能實驗管理平臺點擊“實驗評價”，根據(jù)學生提交的實驗報告、實驗代碼和數(shù)據(jù)集以及自動評測得分給出最終的分數(shù)。教師在批改作業(yè)時，可根據(jù)學生提交作業(yè)的完成度，選擇“推送成績”或“退回重做”。

2.3 人工智能邊緣計算實驗課程在線測試

授課教師或管理員登錄人工智能實驗管理平臺，點擊“創(chuàng)建考試”，根據(jù)頁面提示補充考試信息，創(chuàng)建考試完成后“發(fā)布”考試。學生按照考試安排，在學生端“我的考試”頁面下查找需要參加的考試，點擊“開始考試”后下載試題所需的代碼和試題報告，并在完成實驗后上傳實驗報告、實驗代碼及工程文件。授課教師可在線或下載學生提交的實驗報告、實驗代碼及工程文件進行檢查，并在平臺系統(tǒng)上在線推送成績。

3 人工智能邊緣計算實驗課程的示范效果與發(fā)展方向

智能與邊緣計算實驗平臺實驗室可以實現(xiàn)分布式線上實驗教學[9]。利用互聯(lián)網(wǎng)實現(xiàn)一人一機一IP，充分利用實驗平臺的實踐課程設計資源。學生分布式個人PC機可根據(jù)管理員劃分的IP地址及賬號登錄Web端，學生通過Web界面訪問后臺實驗管理系統(tǒng)，所有實驗數(shù)據(jù)、程序等存放在后臺系統(tǒng)，師生可隨時查看修改。

人工智能實驗管理平臺已創(chuàng)建課程可實現(xiàn)資源共享。平臺現(xiàn)已開發(fā)包括機器人路徑規(guī)劃、EM算法實驗、Logistick回歸實驗、支持向量機實驗以及線性回歸實驗等課程，根據(jù)平臺管理員提供的登錄權限，可供本學院學生學習，也可提供給其他專業(yè)同學用作專業(yè)拓展或創(chuàng)新資源加以利用。

實現(xiàn)實驗課程線下線上教學聯(lián)動，共同發(fā)展[10]。人工智能實驗管理平臺可以有效地支撐專業(yè)實驗教學資源建設，學院力爭線上線下實踐教學同質(zhì)同效，針對線上教學的特點，及時開展線上線下師生互動，逐步提高實驗課程線上教學質(zhì)量，并根據(jù)線下實踐課程開展情況及時更新線上課程資源，實現(xiàn)線上線下實踐教學突破空間局限，互相促進，最終實現(xiàn)線上實踐課程全校共享。

開展實驗課程分布式教學，促進虛擬實驗環(huán)境構建[11-13]。人工智能學院開展的實驗課程分布式教學，是基于人工智能實驗管理平臺基礎上創(chuàng)建的促進線上實踐教學的一種教學手段。該平臺提供的虛擬實驗環(huán)境，以人工智能實驗平臺為基礎，幫助學生將智能與邊緣計算的學習從理論掌握到實踐驗證的過渡，將人工智能與邊緣計算有機結合，培養(yǎng)學生動腦動手以及創(chuàng)新能力。

4 結束語

高等教育面對新型教學方式的沖擊和學生對高校實踐課程大環(huán)境的需求，利用虛擬化教學資源開展實踐教學，充分利用智能與邊緣計算教學研究與專業(yè)實驗室共建發(fā)展，組織開展線上實踐教學活動，是高校鍛煉學生實踐能力的最有效方式之一。實驗室發(fā)展綜合考慮了人工智能專業(yè)學以致用、學以實用等實踐教學目標，線上線下相結合，豐富線上課程資源，同時在產(chǎn)業(yè)、學校、科研及實際項目中相互配合，發(fā)揮優(yōu)勢，采用分布式實踐教學方式，通過線上線下聯(lián)動，解決學生專業(yè)實踐課程培養(yǎng)受限的問題。