基于神經(jīng)網(wǎng)絡(luò)的人工智能技術(shù)在移動(dòng)終端上的應(yīng)用分析

摘要：人工智能技術(shù)在移動(dòng)終端的應(yīng)用呈現(xiàn)出飛速發(fā)展的態(tài)勢(shì)?；谏窠?jīng)網(wǎng)絡(luò)的人工智能技術(shù)主要依靠構(gòu)建人工智能的總體框架和網(wǎng)絡(luò)模型的運(yùn)行推理技術(shù)，來(lái)實(shí)現(xiàn)科學(xué)研究的實(shí)踐化。本文將通過(guò)對(duì)移動(dòng)終端上的人工智能技術(shù)應(yīng)用分析，進(jìn)一步深化研究移動(dòng)智能終端的人工智能技術(shù)，從而提出關(guān)于未來(lái)終端人工智能技術(shù)發(fā)展的預(yù)測(cè)。

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò);人工智能;移動(dòng)終端

一、人工智能技術(shù)在移動(dòng)終端上的應(yīng)用

隨著智能手機(jī)、平板電腦、運(yùn)動(dòng)手環(huán)等移動(dòng)終端在人類日常生活中的普及使用，人工智能技術(shù)已經(jīng)在人類的日常生活中占據(jù)著非常重要的地位。AI技術(shù)能使各種設(shè)備愈發(fā)便捷化、人性化，主要是基于神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)的。相較于傳統(tǒng)的遵循特定計(jì)算邏輯和規(guī)則的應(yīng)用編程，神經(jīng)網(wǎng)絡(luò)可以通過(guò)程序員提供的樣本進(jìn)行自主選擇學(xué)習(xí)、自動(dòng)執(zhí)行任務(wù)。多層次構(gòu)成的神經(jīng)網(wǎng)絡(luò)，除了輸入層和輸出層，還包括隱藏層。每一層次的神經(jīng)元都具備將抽象復(fù)雜的數(shù)據(jù)表示法進(jìn)行簡(jiǎn)略化理解、操作的能力。

盡管神經(jīng)網(wǎng)絡(luò)運(yùn)行的原理相同，但是人工智能技術(shù)在移動(dòng)終端上的應(yīng)用形式卻存在一定差異。其中，較為簡(jiǎn)單的一種是端云結(jié)合的AI技術(shù)。移動(dòng)客戶端作為信息采集的據(jù)點(diǎn)，通過(guò)網(wǎng)絡(luò)將收集到的信息數(shù)據(jù)傳遞至云端，經(jīng)過(guò)云端的AI處理后再反饋給客戶。這種形式主要適用于語(yǔ)音助手、在線翻譯等對(duì)相應(yīng)速度要求不高的功能服務(wù)。另外，還有一種是在移動(dòng)客戶端直接進(jìn)行操作的AI技術(shù)。這樣不僅能夠使客戶端的響應(yīng)時(shí)間得到有效縮減，而且還能提高其使用的安全可靠性，更好地保護(hù)用戶隱私的相關(guān)數(shù)據(jù)。同時(shí)，這種直接進(jìn)行人工智能處理的技術(shù)還能不受網(wǎng)絡(luò)環(huán)境的限制，在無(wú)網(wǎng)絡(luò)信號(hào)覆蓋的區(qū)域中依然支持使用。當(dāng)然，如果想較為完美地發(fā)揮這些優(yōu)勢(shì)，還需要滿足移動(dòng)終端關(guān)于算力和功耗的一系列要求。

二、移動(dòng)終端人工智能的總體構(gòu)架

移動(dòng)終端人工智能技術(shù)的正常運(yùn)行，不可缺少端側(cè)人工智能計(jì)算框架的支持。目前，端側(cè)人工智能計(jì)算框架主要是基于神經(jīng)網(wǎng)絡(luò)進(jìn)行向上、向下的推理計(jì)算。向上是通過(guò)UI用戶界面向用戶提供功能邏輯、數(shù)據(jù)儲(chǔ)存等服務(wù)。向下則是通過(guò)調(diào)用人工智能計(jì)算框架進(jìn)行AI任務(wù)處理，使數(shù)據(jù)得到獲取、傳遞以及結(jié)果反饋。一般來(lái)講，移動(dòng)終端的人工智能計(jì)算構(gòu)架主要包括通用構(gòu)架和專用構(gòu)架。通用構(gòu)架指Tensorflow Lite、Caffe2等，它們能夠支持Android、iOS多操作系統(tǒng)、多芯片平臺(tái)的人工智能計(jì)算構(gòu)架。專用架構(gòu)指SNPE、HiAI等，這些人工智能計(jì)算構(gòu)架僅支持部分芯片平臺(tái)上的運(yùn)行。

終端人工智能技術(shù)的推理計(jì)算，最終是要在硬件上得到落實(shí)。移動(dòng)終端的人工智能技術(shù)在為人類的日常生活提供便利的前提下，也對(duì)終端的計(jì)算芯片的算力有著高標(biāo)準(zhǔn)的要求。目前，比較常見(jiàn)的硬件資源包括 CPU、GPU、DSP、NPU等。其中，CPU構(gòu)架中大比重的控制器、寄存器等部件能夠帶動(dòng)指令的準(zhǔn)確執(zhí)行、函數(shù)的調(diào)用，但適應(yīng)于計(jì)算的邏輯單元較少，處理數(shù)據(jù)的能力較弱。相比而言，GPU能夠提供的算力更高，用于圖像處理的邏輯單元更豐富，但是算力依舊不能緊跟移動(dòng)終端人工智能技術(shù)的腳步。為了更進(jìn)一步滿足移動(dòng)終端對(duì)AI技術(shù)算力的要求，專門針對(duì)人工智能計(jì)算的AI硬件加速單元NPU、DSP等出現(xiàn)在了大眾視野。通過(guò)采用程序和數(shù)據(jù)分開的結(jié)構(gòu)，DSP芯片利用專門的硬件乘法器下達(dá)指令，在虛擬或增強(qiáng)現(xiàn)實(shí)、處理圖像或視頻、計(jì)算視覺(jué)等計(jì)算負(fù)載當(dāng)中發(fā)揮重要作用。同時(shí)，各種神經(jīng)網(wǎng)絡(luò)模型的算法在這里得到了極速版實(shí)現(xiàn)，高通驍龍芯片的HVX矢量擴(kuò)展技術(shù)（DSP）和張量加速器HTA就是很好的例子。

三、神經(jīng)網(wǎng)絡(luò)推理的四步驟

基于神經(jīng)網(wǎng)絡(luò)的人工智能技術(shù)在終端的應(yīng)用，主要是通過(guò)推理計(jì)算實(shí)現(xiàn)的。神經(jīng)網(wǎng)絡(luò)的推理是利用模型進(jìn)行數(shù)據(jù)的運(yùn)轉(zhuǎn)、預(yù)測(cè)的過(guò)程，執(zhí)行一般需要四步驟：神經(jīng)網(wǎng)絡(luò)模型的轉(zhuǎn)換與加載、數(shù)據(jù)轉(zhuǎn)換、神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行推斷、推理結(jié)果輸出。

（一）神經(jīng)網(wǎng)絡(luò)模型的轉(zhuǎn)換與加載

進(jìn)行神經(jīng)網(wǎng)絡(luò)推理的第一步，就是關(guān)于神經(jīng)網(wǎng)絡(luò)模型的選擇和使用。神經(jīng)網(wǎng)絡(luò)模型作為一種數(shù)據(jù)結(jié)構(gòu)，是通過(guò)訓(xùn)練學(xué)習(xí)網(wǎng)絡(luò)的邏輯和知識(shí)，整理計(jì)算所采集的數(shù)據(jù)，從而完成特定任務(wù)、解決相應(yīng)問(wèn)題。神經(jīng)網(wǎng)絡(luò)模型在首次進(jìn)行人工智能操作前，需要搭建成型并進(jìn)行數(shù)據(jù)訓(xùn)練，訓(xùn)練的精準(zhǔn)程度達(dá)到推理應(yīng)用的要求后才能付諸實(shí)踐。在模型訓(xùn)練的過(guò)程中，會(huì)形成模型結(jié)構(gòu)和參數(shù)兩部分。同一個(gè)神經(jīng)網(wǎng)絡(luò)模型經(jīng)過(guò)數(shù)據(jù)訓(xùn)練后，可以按照參數(shù)轉(zhuǎn)換成不同的預(yù)訓(xùn)練模型，從而識(shí)別不同的目標(biāo)對(duì)象，對(duì)不同的人工智能任務(wù)進(jìn)行不同的處理操作。當(dāng)然，預(yù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型一般是由上一節(jié)中提及的人工智能計(jì)算框架生成，不同的端側(cè)人工智能計(jì)算框架對(duì)應(yīng)支持不同的神經(jīng)網(wǎng)絡(luò)模型格式。通過(guò)人工智能計(jì)算框架進(jìn)行模型的轉(zhuǎn)換，轉(zhuǎn)換成各框架支持的格式之后，移動(dòng)終端上的預(yù)訓(xùn)練模型的部署工作才能開展。比如TensorFlow模型是從TensorFlowLite架構(gòu)中應(yīng)運(yùn)而生。

神經(jīng)網(wǎng)絡(luò)模型的轉(zhuǎn)換與加載，是為了能夠更加高效地執(zhí)行設(shè)備命令，主要發(fā)揮兩個(gè)作用。首先是可靈活適配人工智能計(jì)算構(gòu)架。由于人工智能計(jì)算構(gòu)架的端側(cè)存在差異，支持神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行就會(huì)受到局限。當(dāng)解釋器無(wú)法“認(rèn)同”預(yù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，就需要對(duì)其進(jìn)行格式轉(zhuǎn)換以適配相應(yīng)的人工智能計(jì)算構(gòu)架。這種格式轉(zhuǎn)化的過(guò)程少不了模型轉(zhuǎn)換工具的功勞。只有模型轉(zhuǎn)換工具發(fā)揮了對(duì)預(yù)訓(xùn)練模型在結(jié)構(gòu)和參數(shù)兩方面的優(yōu)化功能，準(zhǔn)確率和處理速度就會(huì)得到滿意的提升。

關(guān)于神經(jīng)網(wǎng)絡(luò)模型的轉(zhuǎn)換與加載的第二個(gè)作用，是壓縮和優(yōu)化現(xiàn)有模型的作用。這種壓縮和優(yōu)化過(guò)程是模型的量子化過(guò)程。Float類型，是一般的神經(jīng)網(wǎng)絡(luò)模型的參數(shù)和數(shù)據(jù)參數(shù)類型，它通過(guò)在CPU或GPU上執(zhí)行來(lái)提高準(zhǔn)確率，但處理速度非常緩慢。隨著終端人工智能計(jì)算的AI硬件加速單元NPU、DSP等的發(fā)展，更好算力的int類型就此出現(xiàn)。就如同其命名的一樣，這是一類能夠支持INT型數(shù)據(jù)的預(yù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型，通過(guò)模型量子化過(guò)程，使模型能夠在AI加速度單元上執(zhí)行任務(wù)。盡管這樣的壓縮會(huì)損失一部分的精確度，但其充分利用AI加速單元提升的速度和降低的功耗，給移動(dòng)終端的用戶帶來(lái)了全新的體驗(yàn)。

（二）數(shù)據(jù)轉(zhuǎn)換

人工智能任務(wù)開始之前，需要進(jìn)行輸入數(shù)據(jù)的預(yù)處理工作環(huán)節(jié)。比如在識(shí)別圖像時(shí)，卷積核的大小、步長(zhǎng)等參數(shù)都是神經(jīng)網(wǎng)絡(luò)模型處理的數(shù)據(jù)對(duì)象，根據(jù)處理圖像規(guī)定的要求進(jìn)行卷積等運(yùn)算。一般情況下，不同的神經(jīng)網(wǎng)絡(luò)模型對(duì)圖像都有不同的的尺寸要求。這就需要再執(zhí)行圖像處理任務(wù)時(shí)，需要在格式、大小上對(duì)采集的圖像進(jìn)行縮放或拉伸預(yù)處理，進(jìn)一步加工以滿足模型的尺寸要求。之后圖像預(yù)處理后，可以將其轉(zhuǎn)化為神經(jīng)網(wǎng)絡(luò)模型進(jìn)行計(jì)算。為了適應(yīng)終端硬件單元的處理特點(diǎn)，通常需要將圖像轉(zhuǎn)換成線性變量，如內(nèi)存中的ByteBuffer。同時(shí)，根據(jù)模型的精度要求，將每個(gè)像素的值轉(zhuǎn)換為浮點(diǎn)型或int型。

（三）神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行與推理

這一步驟涉及的神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行與推理，主要在于對(duì)人工智能解釋器的構(gòu)建和相關(guān)數(shù)據(jù)的分配工作。人工智能解釋器在建構(gòu)過(guò)程中，能夠指定整個(gè)人工智能計(jì)算構(gòu)架的預(yù)訓(xùn)練網(wǎng)絡(luò)模型、各項(xiàng)數(shù)據(jù)參數(shù)、硬件適配等，驅(qū)動(dòng)移動(dòng)終端的硬件進(jìn)行計(jì)算，支持不同的移動(dòng)操作系統(tǒng)運(yùn)轉(zhuǎn)。例如，TensorFlowLite的解釋器可以支持CPU、GPU、NN API。

CPU中運(yùn)行的float浮點(diǎn)數(shù)，適用范圍廣泛，幾乎在所有的移動(dòng)終端都可運(yùn)行使用，但是結(jié)構(gòu)限制下出現(xiàn)的算力有足、推理結(jié)果不夠精確、執(zhí)行速度較慢等，是其無(wú)法避免的缺陷。

GPU則是設(shè)計(jì)用來(lái)完成大規(guī)模運(yùn)算并行工作的。包含大量運(yùn)算符的神經(jīng)網(wǎng)絡(luò)是應(yīng)用GPU最多的一類，將大的輸入張量劃分為更小的工作負(fù)載同時(shí)執(zhí)行，會(huì)在推理運(yùn)算速度上得到大的提升。與CPU相比，利用GPU進(jìn)行高效的推理運(yùn)算的同時(shí)，還能消耗更少的電力和產(chǎn)生更少的熱量。

區(qū)別于CPU和GPU的普及化推理運(yùn)算，NN API是專門面向移動(dòng)設(shè)備上的機(jī)器學(xué)習(xí)高密度運(yùn)算而生。它作為一個(gè)基礎(chǔ)性階段，為訓(xùn)練神經(jīng)網(wǎng)絡(luò)的更高級(jí)機(jī)器學(xué)習(xí)框架的構(gòu)建而做準(zhǔn)備。

（四）推理結(jié)果輸出

這一步驟是在模型執(zhí)行完畢之后，向客戶反饋特定的數(shù)據(jù)結(jié)構(gòu)的過(guò)程。為了防止用戶無(wú)法理解數(shù)據(jù)的含義，開發(fā)人員就需要附帶完成關(guān)于反饋數(shù)據(jù)的解釋工作，將數(shù)據(jù)結(jié)構(gòu)以通俗易懂的形式解釋給用戶。例如在進(jìn)行圖像分類處理中，神經(jīng)網(wǎng)絡(luò)模型會(huì)自動(dòng)生成圖片處理結(jié)果相關(guān)的概率列表，而且結(jié)果會(huì)由多組數(shù)據(jù)組成，按照概率高低逐一展現(xiàn)出來(lái)。

四、結(jié)語(yǔ)

人工智能技術(shù)在移動(dòng)終端的應(yīng)用是打破傳統(tǒng)編程邏輯的新發(fā)展方向，能夠在人性化的智能時(shí)代為用戶提供更智慧、更便捷的服務(wù)。無(wú)論是芯片廠商、終端廠商或人工智能框架開發(fā)商，都紛紛抓住移動(dòng)終端智能化的商業(yè)發(fā)展契機(jī)，在各自負(fù)責(zé)的領(lǐng)域范疇投入了前所未有的支持力度，使基于神經(jīng)網(wǎng)絡(luò)的人工智能技術(shù)在移動(dòng)終端的應(yīng)用日益完善。相信人工智能技術(shù)在移動(dòng)智能終端的應(yīng)用發(fā)展將不會(huì)止步于此，一定會(huì)在未來(lái)伴隨著技術(shù)的不斷成熟、用戶體驗(yàn)的不斷反饋升級(jí)、服務(wù)質(zhì)量的不斷優(yōu)化而走向顛覆性的新時(shí)代。

參考文獻(xiàn)：

[1]解謙，張睿，劉紅.移動(dòng)智能終端基于神經(jīng)網(wǎng)絡(luò)的人工智能技術(shù)與應(yīng)用[J].信息通信技術(shù)與政策，2019（12）：45-50.

[2]張偉.談未來(lái)移動(dòng)通信技術(shù)發(fā)展趨勢(shì)與展望[J].數(shù)字通信世界，2017（05）：151-154.

[3]郭佳穎，解謙，陳詩(shī)洋.移動(dòng)智能終端指紋識(shí)別率和識(shí)別處理時(shí)延測(cè)試方法[J].移動(dòng)通信，2018（06）：1-6.

[4]成郁.信息通信技術(shù)的基本原理及5G移動(dòng)通信技術(shù)發(fā)展的探究[J].數(shù)字通信世界，2018（07）131.

武漢商貿(mào)職業(yè)學(xué)院覃勤