TinyML邊緣計算在高校人工智能專業實驗教學中的應用研究

摘要：人工智能作為新工科專業之一，是引領新一輪科技革命和產業變革的戰略性技術，必須與產業深度融合發展。TinyML是人工智能領域前景較好的新興技術，將其融入專業實踐教學符合新工科人才培養的要求。本文介紹了TinyML技術特點，分析其在高校人工智能專業實踐教學中的應用前景。

關鍵詞： TinyML邊緣計算；人工智能專業；實踐教學

隨著人工智能在技術與應用方面取得了巨大的進展，行業熱門已經從大數據快速轉變到人工智能領域。教育部2019年設立本科人工智能專業后，各大高校緊跟時代發展，紛紛設立人工智能專業。截至2022年，我國有400多所本科院校開設了人工智能專業。人工智能專業涉及很多學科分支，主要包括機器學習、數據挖掘、計算機視覺、自然語言處理、心理學、腦科學、語音識別、數字信號處理等等。近年來，TinyML（微型機器學習）技術取得廣泛應用，使得邊緣計算的業務顆粒變得更小，甚至下沉到物聯網設備，大大擴展了邊緣計算的應用場景和市場縱深。作為一門實踐性很強的學科，高校人工智能專業實踐內容也要貼近行業實際，關注技術發展動向，TinyML技術能將機器學習、邊緣計算和物聯網應用有機融合，能極大豐富教學實踐內容。

一、TinyML技術簡介

TinyML是一個新興領域，是快速增長的機器學習技術和應用，未來的萬物互聯時代，基于超低能耗微控制器的人工智能終端借助各種傳感器，將人工智能覆蓋到世界每一個角落，激發出超乎想象的TinyML應用場景。人工智能行業是下一個最具商業前景的發展方向。

（一）TinyML的概念

TinyML（tiny Machine Learning），是在終端和邊緣側的微處理器上實現的機器學習過程，即微型機器學習。TinyML是指超低功耗（毫瓦量級）的邊緣側機器學習應用，需要硬件、軟件和算法的整體性協同實現，涉及軟件、工具、算法、硬件、專用集成電路（ASICs）、半導體制造等。

（二）TinyML的特點

TinyML 算法的工作機制與傳統機器學習模型幾乎完全相同，通常在用戶計算機或云中完成模型的訓練。訓練后處理是 TinyML 真正發揮作用之處。TinyML 的出現，是為了更好地緩解邊緣 ML 和云端 ML 中，解決了長期困擾人工智能領域的數據隱私、網絡時延以及能耗等問題。TinyML嘗試在物聯網設備上，直接處理和分析受限的敏感數據，避免敏感數據被云計算平臺收集，保護了個人隱私和數據安全。很多應用場景都對時間延遲非常敏感，例如自動駕駛就對系統響應時間要求極高。TinyML可以將某些機器學習任務下放到終端設備，來減少終端與云端的數據交互，從而降低甚至是完全消除了對外部通信的依賴，從而解決本地終端延遲問題。許多物聯網終端都是移動便攜設備，對于功耗的要求很高。通過降低設備性能，優化算法，減少網絡傳輸的能耗，TinyML的基礎運行能耗能降到毫瓦級。

（三）TinyML的關鍵技術

隨著物聯網應用的普及，使用微型控制器處理在超低功耗下運行特定機器學習項目的需求日益顯現。TinyML主要優勢在于超精簡高效的機器學習算法帶來的超低硬件資源消耗，其關鍵技術在深度學習和MCU芯片開發。深度學習的概念源于人工神經網絡的研究，含多個隱藏層的多層感知器就是一種深度學習結構。是通過構建具有很多隱層的機器學習模型，對采集的數據進行大量的數據模型訓練，不斷提取出更有價值的目標特征，最終提升分類或預測的準確性，從而形成機器“推理”能力。研究深度學習靈感來自模擬人腦的工作原理，進行知識學習、數據分析和歸一化處理。傳統的機器學習模型一般都是部署在算力龐大的數據中心，對算法模型規模不敏感。將人工智能植入到MCU，需要通過基于神經網絡的深度學習對模型進行深度壓縮。

實現TinyML的核心器件是MCU，為了降低能耗，MCU犧牲性能，將計算單元做得非常小巧，并且通常集成Wi-Fi和藍牙等通信模塊。MCU大多數采用單核或雙核CPU，主頻在50MHZ到200MHZ之間，內存不超過512K。低性能特性降低了芯片的設計和生產難度，提高運行穩定性。由于MCU性能遠不及PC，雖然能滿足當前大多數物聯網應用，但無法應對低功耗、高性能的人工智能發展趨勢。現有ARM架構的MCU芯片無法同時實現低能耗和高性能，需要尋找芯片技術上的突破。神經形態計算芯片有望解決這一難題，這是模擬大腦生物過程的計算硬件理念，這類芯片通過模擬電路實現人腦神經形態計算，減少了大量模數轉換過程，能提高性能和電源效率。這項新技術目前已經較為成熟，一旦普及將帶來人工智能終端甚至行業的變革。

二、基于TinyML技術的邊緣計算應用

（一）行業應用

在即將到來的萬物互聯時代，各行各業都爭相加入網絡化、數字化、智能化的變革之旅。TinyML技術的普及，極大推進了人工智能終端的小型化、低能耗的發展速度。目前，TinyML技術在智能家居領域已經得到了廣泛應用，例如智能空調、智能門鎖和智能音箱都植入了TinyML控制模塊，極大降低設備空閑的能耗，并使用智能算法和傳感器技術，實時監控外部觸發條件，根據設定快速喚醒設備。在工業制造領域，TinyML也有望大量的節能和安全管理問題。另外，醫療監測診斷設備也可以變得更便攜和廉價，各類偏遠或野外電池供電設備也能增加有效續航時間。

（二）應用案例

智能手機通過音頻識別喚醒屏幕是TinyML技術應用的經典案例，例如蘋果手機的“嘿 Siri”喚醒功能。智能手表中抬手亮屏也是用了TinyML技術，用人工智能算法對抬手運動識別，與其它大量的手臂運動進行區分。圖像手勢識別應用案例也比較多，例如用手勢控制的水龍頭。在疫情管控方面，技術人員使用了TinyML終端對公共場所進行咳嗽檢測。對TinyML應用案例多數來自節能的需求，特別是非連續工作設備空閑狀態的低能耗工作模式。

三、TinyML技術與人工智能專業的關系

（一）優化課程結構

為主動應對新一輪科技革命與產業變革，支撐服務創新驅動發展、“中國制造2025”等一系列國家戰略。人工智能專業作為新工科專業之一，要積極引入工程教育的新理念、學科專業的新結構。TinyML 是機器學習和嵌入式 IoT 設備的交叉領域，是一門新興的工程學科，具有革新許多行業的潛力。在課程設置上應緊跟時代脈搏，關注行業技術應用前沿，將發展前景較好的新技術融入課程體系中去，輸入新鮮的血液，使專業建設始終緊跟行業發展。

（二）相關實驗設施成本較低

TinyML是基于MCU的技術，繼承了傳統單片機的所有優點，其推廣優勢就是理論上的低成本。傳統基于云的機器學習，通常需要規模龐大的高算力性能硬件投入，例如谷歌、亞馬遜、阿里等行業巨頭都在云計算上投入了驚人的算力資源。而TinyML的邊緣終端通常價格低廉，可以減少教學成本上的投入。

（三）與現有課程關系密切

TinyML并不是學科上的創新，而是應用場景和一系列技術以及工具的創新。它是人工智能的一個分支，是邊緣計算思想極致體現。不管是云ML，邊緣ML，還是TinyML，其基本原理都是一致的，區別在于執行單元的規模和位置。算力單元從云端下沉到用戶側最后到邊緣設備，這些邊緣設備在內存、計算和功能方面都高度受限于設備自身的資源，進而需要研發更為高效的算法、數據結構和計算方法。TinyML是跟嵌入式技術緊密結合的，與各行各業深入融合，衍生出大量終端應用場景的解決方案，拓展了人工智能應用的范圍。將TinyML引入工人智能專業實踐，不僅能普及新技術，豐富項目實踐內容，還能提高專業趣味性。

四、實踐教學應用

（一）課程融合

TinyML并不是基礎理論的創新，更多的學科交叉的應用，因此在理論教學中更多的是將邊緣計算的理念深化，講解關鍵技術。在實踐教學內容應該緊跟技術發展前沿，力求解決當前行業痛點難點。在不開設新專業的情況下，可根據實際情況將TinyML融入專業課程中（如表1所示）。

（二）課堂實驗案例設計

人工智能是實踐性很強的專業，實驗教學是重要環節之一，基礎案例設計要注重基本原理和通用技術應用，TinyML實驗過程通常涉及數據采集、模型訓練、模型轉換、模型載入等步驟，每個步驟都需要一定的技術指導。課堂實驗更注重實驗步驟（如表2所示）指導，教師引導，使學生初步掌握常見方法和工具。

（三）實踐項目開發

TinyML優勢在低能耗要求的邊緣計算領域，雖然理論上可以將傳統云端的機器學習算法模型移植到本地，但需要經過修剪、壓縮等復雜過程才能適配到性能受限的終端。通過開放式項目實踐，鼓勵學生獨立思考，解決實際問題，更好地理解這一過程和意義。

實踐項目案例通常圍繞經典案例或者貼近生活的場景開發，通常提出項目要求，不限定實現方式。可以根據項目類型定制實驗開發板，也可以用市場上成熟開發板進行案例教學。常見開發板基于各類主流MCU設計，包括STM32系列、ATMega328P系列、ATSAMD51系列、HaaS系列、ESP32系列以及等。目前，TinyML最常用的兩個領域是關鍵字發現和視覺喚醒詞，另外安防監控也開始大量應用。例如基于阿里云HaaS EDU K1開發板（如圖1所示）進行語音喚醒實驗，語音喚醒已經廣泛用于手機、智能音響等領域。

本實驗項目主要步驟是語音數據采集，數據集創建、模型訓練、模型部署和結果驗證。整個過程需要應用很多軟硬件工具和技術，比如KWS Demo、jupyter notbook、TFLite-Micro等軟件工具，以及一些周邊傳感器。開放式的項目實踐需要學生有一定基礎，能自主搭建開發環境，用各自擅長的方法和技能去實現項目要求。

（四）探索教學新方法

教育部推出的“新工科”計劃強調了教育新理念、教學新方法，以應對日新月異的技術發展。TinyML是一門新興技術，教學資源非常有限。因此，積極嘗試并推廣關聯學習、去中心化學習、非正式學習、想象學習等新型學習方法，搭建開放式的人工智能綜合實踐平臺，形成多元化、差異化學習個體與群體。鼓勵學生實時關注行業發展，及時將先進的理念和優秀的解決方案融入教學活動，去中心化的非正式學習有利于學生發揮特長，實現差異化發展。由于新工科領域往往是國家戰略和社會經濟關注的熱點，人工智能相關的學科競賽水平以及行業認證的含金量都逐年提高，為新工科專業建設提供了優質的資源和目標導向。通過競賽和行業認證對學生進行差異化、個性化培養，是一項非常有效的措施。競賽往往自帶學科方向，通過不同學科競賽，競賽小組間的學科方向差異，潛移默化中形成學生的專業方向，能提早明確職業生涯規劃。行業認證代表行業對該專業方向人才的技能需求，通過行業認證能評估教學成效，使學生更貼近行業需求和新動向，有針對性地學習行業知識和技能，快速養成職業化思維。學科競賽和行業認證都是推動教學改革，檢驗教學成果的有效方式，要充分利用，在不斷摸索中調整和完善教學理念和方法。

五、結束語

人工智能專業起初只是計算機科學的一個分支，發展到現在已經遠遠超出了計算機科學的范疇，呈現出了多向交叉學科的特征。人工智能領域知識更新快，新技術應用層出不窮。高校實踐教學可以不斷獲取更多前沿的理念和案例，但也面臨教學改革、方向選擇等諸多挑戰。新興專業建設需要預測行業發展的熱點，評估新技術的前景，選擇有代表性的新技術納入課程體系，應用于實踐教學。

作者單位：張增 杭州電子科技大學信息工程學院

參? 考? 文? 獻

[1]張先超，任天時，趙耀，等.移動邊緣計算時延與能耗聯合優化方法[J].電子科技大學學報，2022，51（05）：737-742.

[2]劉旭瑤，曾天凱，戴嘉慶，等.基于Tiny ML輕量化邊緣側處理的智能分類垃圾桶[J].裝備制造技術，2022（06）：110-113.

[3]C.J.Abate，君謙.什么是tinyML？[J].單片機與嵌入式系統應用，2021，21（08）：1-3.

[4]C.J.Abate，禾沐.機器學習的未來——Daniel Situnayake訪談[J].單片機與嵌入式系統應用，2021，21（06）：1-3，6.

[5]Markus Levy.MCU上的深度學習是邊緣計算的未來[J].中國電子商情（基礎電子），2020（08）：42-45.

[6]周鈺致. 邊緣計算環境中低時延高可信顯示芯片的研究與設計[D].中國科學技術大學，2020.

[7]饒偉. 基于LORA無線通信技術和MQTT協議的電力環境監測系統的研究與設計[D].深圳大學，2020.

[8]宋正陽. 校園安全態勢感知與自動報警系統設計與實現[D].海南大學，2020.

基金：杭州電子科技大學信息工程學院2022年科研培育基金項目（KYP0222010）。

張增（1986.08-），女，漢族，湖北隨州，碩士研究生，助理實驗師，研究方向：人工智能，實驗室管理。