使用深度分離卷積網(wǎng)絡(luò)實現(xiàn)繼保壓板狀態(tài)識別

曾慶祝，李新海，尹雁和，夏曼，廖偉全，梁景明

(廣東電網(wǎng)有限責(zé)任公司中山供電局，廣東 中山 528401)

1 引言

在電力系統(tǒng)中，對于繼電保護壓板的巡檢大多數(shù)采用的是人工巡檢，即一個人讀取壓板數(shù)據(jù)，一個人校對數(shù)據(jù)庫壓板的信息，該方式花費時間多，依靠人工讀取，并且容易出現(xiàn)誤投、誤退的情況。一旦繼電保護壓板誤投或誤退，可能導(dǎo)致保護誤動或者拒動，引發(fā)嚴重的電網(wǎng)事故，對電網(wǎng)運行造成威脅[1]。

為了防止對繼電保護壓板的誤操作，目前主要采用的方式是嚴格規(guī)范操作流程、使用顏色標識、人工智能圖像識別技術(shù)等[2]。其中圖像識別技術(shù)由于識別速度快、識別效果好、使用方便等優(yōu)點，受到眾多學(xué)者的重視[3－5]。

本文結(jié)合以往的一些研究，一種利用深度可分離卷積網(wǎng)絡(luò)實現(xiàn)繼電保護壓板識別的方法。該方法首先基于TensorFlow機器學(xué)習(xí)平臺創(chuàng)建深度可分離卷積網(wǎng)絡(luò)；然后，對采集的壓板圖像進行標注，形成數(shù)據(jù)集，并對網(wǎng)絡(luò)進行訓(xùn)練，得到圖像識別模型；最后，使用TensorFlow Lite對模型進行轉(zhuǎn)換和優(yōu)化，并將其應(yīng)用于嵌入式系統(tǒng)。該方法在嵌入式設(shè)備上應(yīng)用時，沒有延遲、離線情況發(fā)生，滿足變電站工作人員使用手持嵌入式設(shè)備完成繼電保護壓板狀態(tài)的核對任務(wù)要求，具有廣泛應(yīng)用價值。

2 深度可分離卷積網(wǎng)絡(luò)

2.1 深度可分離卷積網(wǎng)絡(luò)與傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)區(qū)別

卷積神經(jīng)網(wǎng)絡(luò)是一種帶有卷積結(jié)構(gòu)的深度神經(jīng)網(wǎng)絡(luò)，它的本質(zhì)是一個共享權(quán)重的多層復(fù)合函數(shù)[9]。經(jīng)典傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)有 LeNet、AlexNet、VGGNet、GoogleNet、ResNet等。 該類網(wǎng)絡(luò)模型均已被應(yīng)用于多種場景下，并且都經(jīng)受了考驗，獲取不錯的效果。但是這些模型為了追求高準確率，網(wǎng)絡(luò)模型存在深度和復(fù)雜度越來越大，模型過于龐大的缺點。由于嵌入式設(shè)備資源有限，傳統(tǒng)卷積網(wǎng)絡(luò)模型在嵌入式設(shè)備上運行會出現(xiàn)設(shè)備內(nèi)存不足、響應(yīng)慢甚至無法使用等問題。以MobileNet為代表的深度可分離卷積網(wǎng)絡(luò)的優(yōu)勢在于更小的體積、更少的計算量、更高的準確率和更快的速度[10－11]。

2.2 深度可分解卷積原理

深度可分解是一種可分解卷積操作，它可以拆分為兩個更小的操作:深度卷積和點陣卷積。對于標準卷積，其卷積核是用在所有的輸入通道上，而深度卷積針對每個輸入通道采用不同的卷積核，就是說一個卷積核對應(yīng)一個輸入通道，所以說深度卷積是depth級別的操作。而點陣卷積其實就是普通的卷積，只不過采用的是1×1的卷積核，如圖1所示。

圖1 深度級可分離卷積原理圖

圖3中的參數(shù)Dk表示的是卷積核，M表示的是通道數(shù)，N表示的是卷積核的個數(shù)，Dh表示的是輸入圖片的大小。深度卷積的計算量為a＝Dk?Dk?M?1?Dh?Dh；點卷積的計算量為b＝1?1?M?N?Dh?Dh。深度可分解的卷積計算總量為a＋b。深度可分解卷積的計算量如式(1)所示。

如果深度可分離卷積網(wǎng)絡(luò)使用了3?3的卷積，那么深度可分離卷積網(wǎng)絡(luò)相比標準卷積可降低大約九倍的計算量。對于深度可分解卷積，其一開始采用深度卷積對不同的輸入通道分別進行卷積，然后采用點陣卷積將第一步的輸出再進行結(jié)合，這樣的操作與使用一個標準卷積的效果相差并不大，但是前者會大大減少計算量和模型參數(shù)量，從而達到提升網(wǎng)絡(luò)運算速度的目的，使得該模型可適用于移動設(shè)備或者嵌入式設(shè)備中。

2.3 深度可分離卷積網(wǎng)絡(luò)設(shè)計

本文采用MobileNet作為研究工具，該網(wǎng)絡(luò)為深度可分離的卷積的典型網(wǎng)絡(luò)。該網(wǎng)絡(luò)模型可有效減少網(wǎng)絡(luò)參數(shù)，平衡準確率與延遲度之間關(guān)系。MobileNet網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計，如表1所示。

表1 MobileNet網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計

如表1所示，首先是一個3×3的標準卷積，然后就是堆積深度分離卷積，并且其中的部分深度卷積會通過步長等于2進行下采樣；然后采用平均池化將feature變成1×1，根據(jù)預(yù)測類別大小加上全連接層，最后是一個softmax層。如果單獨計算深度卷積和點陣卷積，整個網(wǎng)絡(luò)有28層(Avg Pool和Softmax不計算在內(nèi))。整個網(wǎng)絡(luò)的參數(shù)和計算量分布如圖表1所示，可以看到整個計算量基本集中在1×1卷積上，因此MobileNet的計算量和參數(shù)量較其他網(wǎng)絡(luò)具有絕對的優(yōu)勢。

3 壓板狀態(tài)識別模型訓(xùn)練

3.1 數(shù)據(jù)集制作

本文研究的實驗收集了廣東某供電局所轄變電站繼電保護壓板圖像作為原始實驗數(shù)據(jù)。數(shù)據(jù)集的制作流程如圖2所示。

圖2 數(shù)據(jù)制作流程

(1)壓板圖像增強處理，將原始實驗數(shù)據(jù)圖片做數(shù)據(jù)增強處理，主要是通過平移、縮放、隨機遮擋、顏色色差、銳化、噪聲干擾、亮度調(diào)整等操作增加數(shù)據(jù)樣本的數(shù)量，因為對于一個卷積神經(jīng)網(wǎng)絡(luò)即使圖像數(shù)據(jù)樣本只是有微小的改變，卷積神經(jīng)網(wǎng)絡(luò)也會把數(shù)據(jù)樣本視為不同的圖像，如圖3所示為進行數(shù)據(jù)增強處理后的圖像。

圖3 圖像數(shù)據(jù)增強對比效果

(2)壓板圖像分辨率標準化處理，把采集的壓板圖像標準化處理為統(tǒng)一大小和分辨率，數(shù)據(jù)樣本圖像大小為512?512。

(3)壓板圖像標注，對數(shù)據(jù)進行人工標注，使用矩形框?qū)喊寮捌錁撕炄Τ觥?/p>

3.2 訓(xùn)練參數(shù)配置

本文模型訓(xùn)練環(huán)境為基于Windows 10系統(tǒng)下的Python3.7和TensorFlow1.4機器學(xué)習(xí)平臺。模型訓(xùn)練流程分為數(shù)據(jù)集劃分、數(shù)據(jù)集文件轉(zhuǎn)換和訓(xùn)練參數(shù)配置。

(1)在數(shù)據(jù)集劃分

將圖像數(shù)據(jù)集隨機劃分80%訓(xùn)練集、10%驗證集和10%測試集。

(2)數(shù)據(jù)集文件轉(zhuǎn)換

將標注數(shù)據(jù)集的XML文件轉(zhuǎn)換為CSV文件，使用腳本把上述的標記后得到的XML文件轉(zhuǎn)換成CSV文件，CSV文件內(nèi)容包括有:圖像名稱、圖像所屬數(shù)據(jù)集、圖像長度寬度、標記類型、標記的位置坐標，CSV文件部分內(nèi)容如表2所示。

表2 CSV文件內(nèi)容

(3)訓(xùn)練參數(shù)配置

表3 訓(xùn)練參數(shù)配置

3.3 模型訓(xùn)練分析

模型訓(xùn)練采用逐漸預(yù)熱(增加)學(xué)習(xí)率到0.8，然后再基于余弦不斷衰減學(xué)習(xí)率，如圖4(a)所示。網(wǎng)絡(luò)結(jié)構(gòu)經(jīng)過50000次訓(xùn)練，損失函數(shù)曲線圖，如圖4(b)所示。

圖4 模型訓(xùn)練分析

由圖4分析可得，損失函數(shù)是衡量真實值與模型預(yù)測值不一樣的程度，它是一個非負的實值函數(shù)，當損失函數(shù)越小，則模型的魯棒性越好。在訓(xùn)練的過程中，雖然損失函數(shù)有波動，但是隨訓(xùn)練的次數(shù)深入，損失函數(shù)越來越小。因此模型隨著訓(xùn)練次數(shù)的增加，模型的預(yù)測是越趨向真實值。

4 壓板圖像識別模型的嵌入式實現(xiàn)

本文使用基于linux的android系統(tǒng)作為嵌入式系統(tǒng)平臺，通過TensorFlow Lite工具對2訓(xùn)練所得模型進行優(yōu)化和改進，使其轉(zhuǎn)換為適合在Android系統(tǒng)上運行的模型格式。TensorFlow Lite的工作流程，如圖5所示。

圖5 TensorFlow Lite的工作流程

(1)模型選擇，選擇2所述訓(xùn)練的模型。

(2)模型量化，本文分別對TensorFlow Lite提供的動態(tài)范圍量化、全整數(shù)量化(Full integer quantization)、Float16量化做了對比實驗，效果如表4所示。

表4 量化比較

由表4分析可得，本文所述優(yōu)化模型采用動態(tài)范圍量化方法，減小模型大小，實現(xiàn)模型運行的加速和精度的保持，使其適用于嵌入式設(shè)備。

(3)模型轉(zhuǎn)換，本文采用 TensorFlow轉(zhuǎn)換器(converter)對模型進行轉(zhuǎn)換，轉(zhuǎn)換后的格式為Flat-Buffers模型文件格式。

(4)模型優(yōu)化，通過TensorFlow Model Optimization Toolkit對2所述訓(xùn)練所得模型進行優(yōu)化，使得模型尺寸縮小、運行內(nèi)存空間變小、低延遲，響應(yīng)快，功耗低、對精度影響低。

(5)模型部署，通過應(yīng)用程序?qū)喊鍒D像識別模型部署到移動端或嵌入式設(shè)備，使用TensorFlow Lite解釋器在設(shè)備上運行。

5 試驗效果

經(jīng)過上述的步驟后，在嵌入式設(shè)備上識別測試集數(shù)據(jù)效果如圖6所示。圖中綠色矩形為壓板閉合，藍色矩形為壓板備用，紅色為壓板打開。

圖6 壓板識別效果圖

6 結(jié)語

文章提出一種利用深度可分離卷積網(wǎng)絡(luò)實現(xiàn)繼電保護壓板識別的方法。首先，基于TensorFlow機器學(xué)習(xí)平臺創(chuàng)建深度可分離卷積網(wǎng)絡(luò)；然后，對采集的壓板圖像進行標注，形成數(shù)據(jù)集，并對網(wǎng)絡(luò)進行訓(xùn)練，得到圖像識別模型；最后，使用TensorFlow Lite對模型進行轉(zhuǎn)換和優(yōu)化，并將其應(yīng)用于嵌入式系統(tǒng)。試驗結(jié)果表明，深度可分離卷積網(wǎng)絡(luò)在嵌入式系統(tǒng)上運行性能和識別速度達到預(yù)期效果，壓板開合狀態(tài)識別正確率達100%。

本方法具有使用硬件資源少、識別壓板狀態(tài)準確率高等優(yōu)點，并且還可應(yīng)用到多個場景，尤其是移動APP和嵌入式設(shè)備，能夠極大地提高工作人員的工作效率，解決了以往人工核對壓板過程中可能出現(xiàn)的問題，有效地減少工作人員的核對工作量。具有廣泛應(yīng)用價值。