基于深度學習的工程作業智能監控技術的模型優化測試

尚福瑞 范云飛 郝強 甄志偉

摘 要：為了改善輸變電工程作業人工檢測效率低、人員財產安全風險頻發問題，提出了一種基于神經網絡模型壓縮目標檢測技術，結合改進的卡茲曼濾波進行目標跟蹤，實現無人機對輸變電工程的智能監控。通過深度可分離卷積模型，降低參數數量、提高推理速度，引入注意力機制和剪枝算法，降低神經模型復雜度和非必要參數，減少信息處理數量。同時采用歐氏距離改進的卡爾曼濾波進行目標跟蹤，提升目標跟蹤的實時性和準確性。實驗結果表明，提出的組合模型算法與傳統算法對比，可以充分提取文本的高頻特征信息，對于不同顆粒度的數據集的準確率提升8%，召回率降低4%，性能更優，具有一定的科研及應用價值。

關鍵詞：輸變電工程作業；智能監控；深度學習；模型壓縮；剪枝算法；卡爾曼濾波

中圖分類號：TP391.1；TM743

文獻標志碼：A文章編號：1001-5922（2023）04-0182-05

Model optimization test of intellegent monitoring technology for engineering operation

SHANG Furui1，FAN Yunfei2 ，HAO Qiang3 ，ZHEN Zhiwei4

（1.Ministry of Construction of State Grid Qinghai Electric Power Company，Xining 810000，China；

2.State Grid Construction Department Xining Power Supply Company，Xining 810000，China；

3.State Grid Qinghai Electric Power Company Haidong Power Supply Company Construction Department，Haidong 810700，Qinghai China；

4.Tianjin Bohai Xinneng Technology Co.，Ltd.，Tianjin 300392，China）

Abstract：In order to improve the low efficiency of manual detection and frequent risks of personnel and property safety in power transmission and transformation projects，a compressed target detection technology based on neural network model wasproposed inthis paper.The technology was combined with improved kazman filter for target tracking，to achieve intelligent monitoring of power transmission and transformation projects by UAVs.Firstly，the deep separable convolution model was used to reduce the number of parameters and improve the reasoning speed，and the attention mechanism and pruning algorithm were introduced to reduce the complexity and unnecessary parameters of the neural model and reduce the amount of information processing.At the same time，the improved Kalman filter using Euclidean distance was used for target tracking to improve the real-time and accuracy of target tracking.The results showed that，compared with the traditional algorithm，the proposed combinatorial model algorithm fully extracted the high-frequency feature information of the text，and the accuracy of data sets with different granularity was increased by 8%，the recall rate was reduced by 4%，and the performance was better.In conclusion，theproposed combinatorial model algorithm has certain scientific research and application value.

Key words：power transmission and transformation works;Intelligent monitoring;deep learning;model compression;pruning algorithm; Kalman filtering

近年來，無人機技術以其低成本、高效率迅速搶占市場，與機器視覺、人工智能結合后，已逐步應用于電力巡檢領域［1］。目前常見的無人機電力工程巡檢主要應用超聲、激光以及雷達等傳感器，優點在于投入較低，但是檢測精度和效率不高。而具有良好的拉伸性、柔韌性和精度高等能力的水凝膠材料是無人機傳感器潛在的候選材料，且水凝膠材料具有較好的耐久性能和力學性能，可廣泛應用于輸變站工程作業智能監控中，同時傳感器中的聚苯胺有兩種形式，薄膜和水凝膠材料。與薄膜相比，水凝膠材料因其優異的性能，包括優秀的電化學性能和物理化學性能，吸引了更多的關注。因此，將水凝膠材料與傳感器相結合是一個可行的方案。且國外學者Lee提出了計算檢測目標間的匹配度和固化2個目標的度量方式相結合的方式進行目標檢測，算法穩定性較高，檢測精度有一定提升［2］。馬爾斯提出了將卡爾曼濾波算法與支持向量機算法結合進行目標跟蹤，有效的解決了目標在復雜環境中檢測成功率低的問題［3］。還有提出增加YOLOV3算法的檢測深度，基于此建立了一種目標檢測監控系統［4］。

基于此，針對輸電線工程作業特點提出了一種基于神經網絡模型壓縮目標檢測技術，結合改進的卡茲曼濾波進行目標跟蹤，實現無人機對輸變電工程的智能監控。首先通過深度可分離卷積模型，降低參數數量、提高推理速度，引入注意力機制和剪枝算法，降低神經模型復雜度和非必要參數，減少信息處理數量。同時采用使用歐氏距離改進的卡爾曼濾波進行目標跟蹤，提升目標跟蹤的實時性和準確性。

1 基于特征貢獻度的句向量構建模型

1.1 YOLOv4網絡結構

YOLO系列模型具有速度好、檢測精度高、靈活性強等特點，YOLOv4模型對比其他模型其對復雜背景下的小目標檢測效果更好，結構如圖1所示，其包括多個由1×1卷積、3×3卷積、殘差結構形成的CR塊構成。 YOLOv4對比YOLOv3網絡，通過優化輸入端、特征提取骨干網絡、特征融合頸部、檢測頭提升處理性能。通過引入數據增強、自對抗訓練模塊，對目標圖片進行預處理。引入卷積核、MISH激活函數、Leaky-ReLUctant激活函數，結合批歸一化處理構成的特征提取骨干模塊，提高模型的融合性、檢測精度。增加目標檢測的自學習能力，降低計算的成本，減少運算瓶頸。將金字塔池化層和基于路徑聚合的網絡結構（PANet）引入到特征提取層和結果輸入層中間，對比YOLOv3網絡結構特征傳遞的效率更高，檢測精度和特征提取效果理想。

1.2 基于的注意力機制的改進YOLOv4目標檢測算法

由于輸變電工程作業過程中，無人機水凝膠傳感器經常出現在目標較為簡單但周圍環境特別復雜的情況，因此本文引入了注意力機制用于降低復雜背景環境產生的干擾。結合注意力機制具有效果與性能無法兼顧的情況，本文對通道注意力機制進行改進，引入輕量級高通道金字塔分割注意力模塊（PSA），并YOLOv4網絡結構中的3×3卷積更換為PSA模塊，形成新的骨干網絡，并使用該模塊計算特征圖的通道權重，通過權重區分目標和復雜背景。同時可以自主學習持續更新特征通道的權重值，進一步區分目標特征信息、剔除低價值背景信息［6］。

模塊與YOLOv4網絡模型結合通過對特征通道執行全局范圍的平均池化操作，獲得一維卷積計算通道權重，前提是要須確保注意力的通道維度保持不變，卷積核的值使用內核值與通道維度進行除運算，即為卷積核的交互覆蓋面，計算方法如式（1）所示。

k=ψ（C）=log（C）a+baodd（1）

式中：k代表注意力模塊的通道維度C通過自動適應計算卷積核的大小；|·|odd代表相鄰的奇數；a、b為線性函數相關系數，實驗確定a、b分別取值2和1。引入注意力機制的特征骨干網絡如圖1所示。

本文引入了深度可分離卷積進行替換處理，減少成本的同時可減少參數數量。與傳統卷積相同的深度卷積和卷積核是1×1一維卷積2部分組合構成了深度可分離卷積。

使用傳統卷積時，對于一張（5×5）像素、三通道大小為5×5×33的輸入圖片，經過4個輸出通道和具有3×3的卷積核的卷積曾卷積后，最終輸出具有4個典型特征圖，卷積層需要設置的參數大小為108，即為3×3×3×4。

同樣的圖片使用深度可分離卷積處理，第1步進行深度卷積處理時，采取逐級通道卷積的方式，在二維平面內，卷積核與通道數量一一對應，一個卷積核處理一個通道。因此，該圖片經過處理后可生成3個特征圖，卷積深度參數值為27，即為3×3×3。經過深度卷積后的特征映射數量與輸入層通道值一致，由于每個通道獨立卷積，沒有充分利用其他通道的特征信息，因此使用第2步一維卷積（逐點卷積）進行特征組合產生新的特征映射。一維卷積的卷積核大小為 1×1×3上層通道數量值，通過特征映射深度加權運算后，獲得新的特征映射。卷積核參數數量為12，即為1×1×3×4，新的特征映射圖數量也為12。

采用深度分離卷積模型的參數數量約為傳統卷積的三分之一，將深度可分離卷積代替CBL塊連續卷積“×5”中的傳統卷積后的，結構如圖2所示。

將原YOLOv4網絡中PANT模塊的5層傳統卷積核替換為深度可分離卷積，即為使用3×3、1×1、1×1、3×3 、1×1卷積核。

1.3 模型壓縮

深度卷積神經網絡表達能力隨著網絡層數的加深而提升，模型增大，運行效率降低，研究顯示，網絡結構中超過三分之二的權值可以不參與訓練即可達到原有性能。因此研究引入稀疏訓練、剪枝技術相結合進行模型壓縮，保持檢測精度的同時，提升運算速度。具體壓縮模型主要采取余弦率衰減法、多尺寸訓練等技術提高訓練有效性，在此基礎上進行稀疏訓練、CR模塊層剪枝以及通道剪枝等方式，進行模型壓縮，流程如圖3所示。

CR模塊剪枝主要是剪枝權重底的層和通道，其前提為權重判定，由于批量歸一化層可以體現特征圖0到1之間的正態分布，本文將批量歸一化層（BN）的縮放和平移參數作為權重評價參數，BN層的參數變化如式（2）所示：

y=λ×x－μδ2+φ+β（2）

式中：使用μ代表批歸一化的均值；σ2代表批歸一化的方差；γ代表模型縮放訓練的閾值參數；β代表模型平移變化訓練閾值參數，其中縮放參數可以保留歸一化前的特征參數。因此主要以此系數作為權重評價值。權重的系數程度將影響模型剪枝的最終效果，本文使用L1正則化約束的方法對權重分布進行強制稀疏。通過對損失函數進行正則化處理完成強制稀疏，損失函數如式（3）所示：

Lsparsity=Lloss（b，b^，c，c^，o，o^）+∑γ∈Γg（γ）g（γ）=|γ|（3）

式中：使用代表正則化約束稀疏，用以平衡損失項。另外，本文采用近端梯度下降法對L1的正則化進行優化，解決到LI正則化約束在0點的導數會出現不存在的情況。

模型壓縮的第2步為層剪枝操作，從神經神經網絡模型的結構的完整性角度考慮，將每個CR塊作為一個整體進行剪枝［8］，共計38個CR塊，通過對CR塊的權重均值γ作為CR塊是否被精簡的標志物，按照CR塊的γ的由底到高額順序剪枝，由于該方法相對粗糙，既有可能出現精度損失較大的情況。因此，結合γ值的變化趨勢，在一次剪枝過程中會采用相對保守的方式，每次按照CR模塊二分之一的比率進行剪枝，具體的剪枝參數參見3.2實驗環節。結合模型壓縮的微調進行補償，并持續開展循環迭代，通過此種方式減少迭代損失。

模型壓縮的第3步為通道剪枝：即為根據層剪枝后得到的相對精簡和穩定的網絡結構后，根據全局剪枝參數值λ，對一定閾值下的通道進行剪枝操作。同時，設置保護閾值，避免某一層級的通道被過度剪枝，根據剪枝參數與CR塊的縮放稀疏，換算全局減值率對應的通道剪枝閾值π1，根據通道保護閾值參數β，換算每個神經網絡層的保護閾值π2，當既大于剪枝閾值和小于通道保護閾值同時成立時，對該通道進行剪枝操作。為了降低直接剪枝造成的精度損失，經過分析訓練后的，選擇0.3的比率設置剪枝率，即可以實現剪枝操作，又可以避免精度的過度損失，并結合迭代稀疏、微調對精度進行補償，最終實現模型壓縮的同時，減少了精度損失［9］。

2 基于卡爾曼濾波目標跟蹤算法

輸變電工程智能監控主要使用無人機水凝膠傳感器進行監測，包括目標檢測和目標跟蹤兩部分，目標跟蹤部分本文結合卡爾曼濾波可準確預測視頻監控目標運動軌跡，可穩定跟蹤監測目標的優勢。同時兼顧卡爾曼濾波對于運動特征變化較快的目標跟蹤效果不佳，無法體現跟蹤目標的典型特征等問題進行了優化。基于卡爾曼濾波的輸變電工程目標跟蹤算法如圖4所示。

目標檢測部分采用改進的YOVLO4網絡模型，對視頻輸入圖像的處理序列進行目標檢測，獲得檢測目標，采用余弦相似度算法、歐式空間值距離計算法以及優化后的馬氏距離的權重組合算法［10-13］對卡爾曼濾波算法中的目標檢測位置和目標移動位置間的距離填充，提高對運動目標的軌跡預測的準確性［14］。其中，將檢測目標、跟蹤目標的外觀特征點使用包含10層網絡結構的深度學習的進行特征提取，計算二者的余弦空間距離，通過此值衡量外觀特征的匹配度［15-17］。

3 實驗結果分析

3.1 數據集

實驗數據集選擇上本文采用了無人機采集的輸變電工程施工現場的9 782張不同高度、不同時間的現場人、車、樹木、電力設施等物體在內的圖片組成數據集合［18］。設置其中7 362張圖片為訓練集合、2 620中圖片為測試集［19］。

3.2 實驗結果

算法評價部分本文采用文獻［20］使用的方法，針對數據集統一設置的分辨率大小為800×800像素的圖片。算法性能評價指標主要從模型壓縮效果和目標跟蹤效果2個角度評價，目標檢測算法的模型壓縮效果評價指標為參數的數量、計算量以及參數壓縮數量、計量量壓縮比、F1值、平均精度均值。將YOLOV4原始算法，添加了注意力機制的改進算法作為基準模型，與引入注意力機制與模型壓縮后的算法進行測試比較，結果如表1所示。

由表1可知，YOLOv4模型加入注意力機制后，并未改變模型體積和浮點的計算數據量。在平均精度方面，引入注意力機制并進行模型壓縮后，平均精度值持續提升，整體提升了4.4%，F1分值同樣提升較大，F1值提升了4。同時對比本文提出的算法，模型體積壓縮到了原始體積的12%，預測時間減少6 ms。由此可見，經過壓縮后的模型無論運算精度、運算速度上，性能均有較大提升，而且參數量和模型體積壓縮效果明顯。

實驗中，重點測試了不同剪枝率下的YOLOv4模型的壓縮效果，壓縮模型采用的稀疏矩陣的反復迭代實現，不同剪枝率下模型壓縮效果不同，具體結果如表2所示。

由表2可知，本文同樣選擇了剪枝率分別在60%、70%和80%的模型性能對比，在不同算法的計算量達到同樣剪枝率的效果下，本文提出的算法對參數的壓縮量達到了最佳，精度最佳，誤差最小。剪枝率在70%時，對于參數的壓縮率達到98%，參數量僅為1.58 MB，對比實驗算法，提升了2.5個百分點。由此可見，本文提出算法性能提升明顯。圖5為應用本文后的目標檢測效果圖。

4 結語

本文結合優化后的神經網絡模型進行目標檢測，與改進后的卡茲曼濾波目標跟蹤算法結合，實現無人機對輸變電工程的智能監控。采用深度可分離卷積模型用于降低神經網絡模型的參數數量，進一步提高推理速度，引入注意力機制和剪枝算法，降低神經模型復雜度和非必要參數，減少信息處理數量。實驗證明，本文提出的組合模型算法與傳統算法對比，識別準確率提升8%，召回率降低4%，具有一定的科研及應用價值；后續將對目標跟蹤算法進一步優化，改善多目標情況下的追蹤效果。

【參考文獻】

［1］LEE I.BIG DATA：Dimensions，evolution，impacts，and challenges［J］.Business Horizons 2017，60（3）：293-303.

［2］ MADAWALAGAMA S，MUNASINGHE N，DAMPEGAMAS，et al.Low cost aerial mapping with consumer grade drones ［J］.Coordinates，2016，8（4）13-18.

［3］ HE KAIMING，GKIOXARI G，DOLLA R P，et al.Mask RＧCNN ［C］Proc of the IEEE Int Conf on Computer Vision．Piscataway，NJ：IEEE，2017.

［4］ 馮帥，張龍，賀小慧.基于Jetson TK1和深度卷積神經網絡的行人檢測［J］.信息技術，2017，41（10）：62-64.

［5］ 李慧霞，李臨生，閏慶森.基于Mean Shift算法的目標跟蹤綜述［J］.信息技術，2017，20（1）：43-46.

［6］ 李慶軍，李培明，趙國仲，等.特高壓輸電線路環保水保智能監控平臺研究應用［J］.電網與清潔能源，2020，36（11）：82-89.

［7］ 羅琪.以深度學習方法為載體的醫學影像實時變化檢測算法分析［J］.粘接，2020，44（12）：132-135.

［8］ 蔡必壯，葛展展，都海波.基于數字孿生的角鋼塔攀爬機器人系統研究［J］.控制工程，2022，29（3）：509-514.

［9］ 林藝華.基于深度學習的高速公路交通流數據監控方法研究［J］.粘接，2021，46（5）：182-186.

［10］ 高西.深度學習技術在皮膚影像自動分類中的應用［J］.粘接，2021，48（11）：98-101.

［11］ 林藝華.基于深度學習的高速公路交通流數據監控方法研究［J］.粘接，2021，46（5）：182-186.

［12］ 崔艷軍，陶剛，丁偉翠.基于BIM技術的特高壓數字化管控系統在變電站工程中的應用［J］.電力勘測設計，2023（1）：49-55.

［13］ 袁敬中，謝景海，許穎，等.基于全息數據的變電智慧設計方法研究及應用［J］.電氣應用，2022，41（9）：38-48.

［14］ 王鑫.輸變電工程造價大數據平臺構建與智能分析管控應用研究［J］.電力大數據，2018，21（11）：8-14.

［15］ 張志堅.基于深度學習的肌電信號預測的研究［J］.粘接，2021，45（2）：134-137.

［16］ 孫再征，樊志琴，茅東升，等.多重相互作用協同增強水下膠粘劑的研究［J］.中國膠粘劑，2023，32（1）：8-17.

［17］ 王迪，張益明，張繁昌，等.利用先驗信息約束的深度學習方法定量預測致密砂巖“甜點”［J］.石油地球物理勘探，2023，58（1）：65-74.

［18］ 盧經緯，程相，王飛躍.求解微分方程的人工智能與深度學習方法：現狀及展望［J］.智能科學與技術學報，2022，4（4）：461-476.