基于改進YOLOv4 算法的高壓輸電線路異物檢測

張秋雁，朱儻，肖書舟，楊忠，曾華榮，張馳，李國濤

1. 貴州電網責任有限公司 電力科學研究院，貴州 貴陽 550002

2. 南京航空航天大學 自動化學院，江蘇 南京 211106

在電能傳輸過程中保障輸電線路安全穩定高效運行具有重要意義[1]。近些年來，因為放風箏、氣球等人為活動導致產生輸電線路異物、進而影響電力系統穩定運行的事件絡繹不絕，嚴重的甚至造成了跳閘事故，致使部分片區電力系統陷入癱瘓，因為輸電線路懸掛的異物會使電力線發生短路，放電距離縮短[2]。因此，采取措施來發現并清除這些異物具有重要意義。輸電線路上懸掛的異物主要有風箏、氣球、塑料薄膜類的垃圾以及鳥類在桿塔上搭建的巢穴。早期的清障任務由人工來完成，但有些異物位于比較偏遠的地區，且多附著在高壓線上，人工來清除這些輸電線路異物存在極大的安全隱患，并且清除操作難度也很大。之后提出采用爬行機器人、無人機等方式清障。攜帶噴火裝置的無人機[3]清理異物對操作人員的技術是一項挑戰，突然急劇上升的溫度會加速線路的勞損，影響輸電效率。再后來提出用傳統的人工特征提取方法識別出異物后采用物理抓取來清障：文獻[4]通過檢測輸電導線外形輪廓判斷異物存在與否；文獻[5]通過梯度法獲取電力線邊緣，并選取霍夫變換累加器中局部極大值個數與最終檢測到的線路數量作為異物特征向量來檢測異物，檢測效果受復雜背景、噪聲等因素影響，精度較低。

近年來深度學習成為了熱點技術，擺脫了傳統機器學習帶來的一些弊端。神經網絡不易受檢測目標的幾何變換、形變、光照等因素影響，降低了異物附著在輸電線上產生的形變帶來的識別難度[6]；且它能自動生成檢測目標所對應的特征，避免了人工設計特征的煩瑣，相較于傳統目標檢測算法具有顯著優勢?；谏疃葘W習的目標檢測算法分為一階段和二階段2 類，二階段算法需要生成大量候選框，計算量極為龐大，檢測速度很慢，在實際工業應用上完全無法達到實時檢測的程度，這類算法的代表是快速區域卷積神經網絡（faster region-convolutional neural network，Faster RCNN）[7]。文獻[8]采用圖像合成技術擴充數據集，并采用Faster R-CNN 實現輸電線異物識別，但是該方法生成的數據集質量較差，模型訓練效果不佳。沈茂東等[6]優化了候選框，設計了一種名為TLFOD Net 的網絡結構，提高了模型性能，但最終的模型運算速度仍然很慢。而一階段算法則通過神經網絡訓練后不產生候選框，直接回歸目標的類別置信度和位置坐標，因此可獲得較快速度，這類算法的代表是一階段多框檢測（single shot multibox detector，SSD）[9]和YOLO[10?13]系列算法。文獻[14]改進了YOLOv4 的特征金字塔和損失函數，改進的YOLOv4 針對輸電線路異物檢測性能得到了提升。文獻[15]將Darknet-53 網絡插入了RepVGG 模塊并添加了多尺度檢測，提升了檢測性能，但精度和速度仍然有限。

YOLOv4 是目前的主流目標檢測算法，具有較好的檢測效果。它在初步特征提取網絡采用CSPDarkNet53[16]作為骨干網絡，加強特征提取網絡加入了空間金字塔池化(spatial pyramid pooling， SPP)[17]模塊和路徑聚合網絡 (path aggregation network，PAN)[18]模塊，進一步提取有效特征。由于本文構建的輸電線路異物數據集大部分為小目標，且尺度上存在一定程度的扭曲，導致原先默認規范的尺度框無法完全準確標定異物目標，因此本文利用K-means 聚類生成新的錨點框，提升模型魯棒性；同時采用優化的快的空間金字塔池化（spatial pyramid pooling-fast，SPPF）模塊替代原始的SPP 模塊，加快運行檢測速度；最后引入在深層網絡中更具優勢的SiLU 激活函數替換原始的全部激活函數，進一步提升了模型性能。

1 輸電線異物數據集

1.1 數據集采集

由于針對高壓輸電線路的異物檢測沒有公開數據集，因此本文自建了該類檢測的數據集，主要通過網絡采集圖像、無人機拍攝、視頻逐幀分解以及Adobe Photoshop（PS）技術等方式生成相關圖像，圖像背景基本都是高壓輸電線路場景。圖1 為構建數據集的流程。最終獲得數據集共包含4 579 張圖片，分為4 類，其中鳥巢2 541 張、氣球704 張、風箏691 張、垃圾643 張。將數據集按照7∶2∶1 劃分為訓練集、驗證集和測試集。訓練集用于模型擬合樣本；驗證集用于驗證模型擬合效果，從而調整超參數；測試集用于最終測試模型在該檢測任務中的泛化性。

圖1 構建數據集流程

1.2 數據集標注

本文數據集采用Labelimg 標注，得到的XML 文件記錄了每張圖片中異物種類、矩形框坐標，用于模型訓練。

1.3 數據集在線增強

由于模型對于數據量的需求極大，越多的數據投入生成的模型可獲得的性能越好、泛化性越強。為了增大數據集規模，采用了多種數據增強方式，具體見表1。考慮到部分圖片背景涉及到電線桿塔，故不采用隨機垂直翻轉。

表1 在線數據增強方法

2 改進YOLOv4 異物檢測算法

2.1 網絡結構

如圖2 所示，輸入尺寸大小416×416 的圖片，依次通過骨干網絡、加強特征提取網絡向檢測頭輸出13×13、26×26、52×52 這3 種不同尺度大小的特征層；參考CSPNet 改進的CSPDarkNet53[19]作為其骨干網絡，使用ResNet 的殘差邊思想修改了殘差塊CSP-X，添加了一條大的殘差邊來保留淺層信息，其中X代表殘差組件的數量。在骨干網絡中使用Mish[20]激活函數替代Leaky ReLU 激活函數，頸部部分設計了SPP 空間金字塔池化模塊和路徑聚合網絡來對不同尺度的信息進行提取和融合。最后通過探測頭進行分類回歸，輸出檢測結果。

圖2 改進YOLOv4 網絡結構

2.2 訓練技巧

2.2.1 Mosaic 數據增強

YOLOv4 算法的數據增強方法除了采用了常規的隨機水平翻轉、縮放、色域變換等操作，還根據Cutmix 的原理提出了一種Mosaic 數據增強方式。其具體實施方法是從數據集中隨機選取4 張圖片，將4 張圖片分別進行縮放，放置于4 個不同方向對應的角落，空白區域用灰色填充，最后將其拼接在一起構成一張新圖片，如圖3 所示。生成的新圖片豐富了檢測背景，同時由于采用了不同程度的縮放，加強了對小目標的檢測。而我們的數據集中主要標注的為大目標，小目標樣本匱乏，因此采取Mosaic 數據增強十分必要，能使魯棒性更好，并且在批標準化的計算過程一次性計算4 張圖片，減輕了圖像處理單元（graphic processing unit，GPU）的負擔。

圖3 圖像縮放與圖像拼接

2.2.2 標簽平滑

標簽平滑采用懲罰機制。當分類過于準確時給予懲罰，避免模型過度自信，兩端極值往中間靠一點，避免出現過擬合。訓練數據的過程中，一方面考慮到準備的數據集并不算大，無法覆蓋實際生活中的所有情況；另一方面數據集規模越大，越難以保證標注目標均正確，一旦標注錯誤，會對模型的訓練帶來不利影響。因此，采用標簽平滑技術訓練出來的模型對于樣本量不足和少量標注錯誤都具有一定的“容忍度”，提高了模型的泛化性。策略公式為

式中：y′為標簽平滑后的類別真實值標簽； ε為標簽平滑因子，用于控制標簽平滑的程度；y為類別真實值標簽；c為總類別數。

采用標簽平滑后，模型不僅要考慮訓練樣本中正確分類標簽的類別損失，還會添加一個錯誤類別標簽的損失，導致最終的類別損失增大、訓練難度提升；因此改進模型要訓練到原來模型的最低損失值，就需要學習訓練得更好，加強模型的學習能力。為此設置了對比實驗如表2 所示，采用YOLOv4 網絡，僅調整標簽平滑因子 ε的取值，其他訓練參數不變。其中平均精度均值（mean average precision，mAP）指標越高代表網絡模型整體的檢測精度越高。由實驗結果可知，標簽平滑因子 ε取值為0.005 時最合適。

表2 標簽平滑因子取值對比實驗

2.2.3 余弦退火衰減

在文獻[21]中引入了余弦退火的學習率下降方式。在優化過程中，為了找到全局最優解，避免訓練過程中梯度下降算法陷入局部最優，通過余弦退火衰減算法（圖4）在學習率下降到一定程度后，通過重啟突然提高學習率跳出局部最優，重新去尋找全局最優解。給定一個較大的學習率后，學習率先緩慢下降然后加速下降，再緩慢下降，下降到一定程度后通過重啟操作，學習率重新回到一個較大的值，再重復之前的學習率衰減方式，這種下降模式配合學習率能產生較好學習效果。其實現方法為

圖4 余弦退火衰減

式中： ηt為學習率，ηmax和ηmin分別為最大和最小學習率，Tcur為當前迭代次數，Ti為第i輪的迭代次數。當Tcur=Ti時，表明已經迭代到最后一輪，此時學習率為最小值ηt=ηmin；每次重啟后當Tcur=0時，學習率為最大值ηt=ηmax。

2.3 K-means 聚類優化目標框

原模型采用的3 種尺寸的錨點框是由COCO 數據集中80 類目標聚類得到，參數具有普適性。但是本文構建的輸電線路異物數據集大部分均為小目標，且尺度上存在一定程度的扭曲等情況，導致原先默認的規范的尺度框無法完全準確標定異物目標，因此采用K-means 聚類，對數據集不同尺寸大小目標進行聚類分析，通過生成的聚類來重新選擇更合適的寬高尺寸。傳統的Kmeans 聚類通過計算兩者之間的歐式距離來衡量2 個對象是否屬于同一簇，但這么做存在的問題是當進行錨點計算時會促使大的邊界框相應產生大的誤差，因此本文通過采用計算聚類中心和異物目標的IOU 值來衡量聚類結果：

式中：Bbox為聚類框，Ccentroid為簇中心框，IOU 代表兩者之間的交并比。最終通過聚類生成的錨點框如表3 所示，并給出了不同錨點框的mAP。

表3 不同大小錨點框

由于本文數據集大部分標記框大小接近，尺寸比較集中，因此通過K-means 聚類算法產生的錨點框也較為集中，從大、中、小尺寸對應的錨點框大小就可以看出來其相差并不大，而這也無法體現模型在多尺度輸出的優勢。進一步分析發現，數據集中標注框尺寸也有較多比得到的錨點框尺寸要大，這樣在訓練時對模型的要求也更高，那么最終得到的輸出也會因為這些誤差而使損失值更大。因此考慮到本文目標多為小中尺寸，因此采用K-means 聚類后生成的小中尺寸的錨點框，保留原始大尺寸的錨點框，構成最終的9 組錨點框。由表3 數據看到測精度得到明顯提升，證明了該方法的可行性。

2.4 優化的SPPF 模塊

原始的SPP 是使用不同尺寸的池化核對卷積后的輸出進行最大池化，從而產生不同尺度的更大的感受野，獲得的上下層特征更顯著，從而能提取出更豐富的圖像特征。輸入并行通過4 條支路，分別對應于最大池化核1、3、9 和13，然后拼接在一起進一步融合，能在一定程度上解決目標多尺度問題。

如圖5 所示，本文設計了SPPF 模塊來代替原始的SPP 模塊。SPPF 模塊設置了1 條主線通道，將輸入串行通過多個5×5 池化核。第1 條支路直接連接到輸出，相當于1 個1×1 大小的池化核；第2 條支路經過了1 個5×5 的卷積核，再連接到輸出；第3 條支路通過2 個5×5 的池化核，再連接到輸出，其中2 個5×5 池化核可達到1 個9×9 池化核的效果；最后一條支路通過3 個5×5 的池化核，再連接到輸出，3 個5×5 的池化核可發揮1 個13×13 池化核的效果。最終將4 條支路的輸出堆疊起來，實際的池化效果與原先的SPP 模塊相同，但實現更高效。每當需要進入下一個最大池化核時，前一個池化核已經提前完成了部分池化操作，因此可以節省時間。改進后的SPPF 模塊在發揮同等作用的前提下實現了更高的效率，可以將運算速度提高2 倍，加快模型的收斂。

圖5 SPP 模塊和SPPF 模塊

2.5 SiLU 激活函數

原模型在路徑聚合網絡和預測層部分采用的激活函數為Leaky ReLU，其公式如下：

原模型中當x<0時，系數設置為0.1，而ReLU 激活函數在取值為負時梯度為0，Leaky ReLU 為了保證輸入信息小于0 時不會完全丟失，設置了一個較小的梯度，但是該函數曲線不夠平滑。而本文采用的Sigmoid 加權線性單元（Sigmoid weighted linear unit，SiLU)激活函數是Swish[22]激活函數的特例，表達式為

式（1）對應的曲線如圖6 所示，可以看出曲線相當平滑，無上界有下界，并且是非單調的，對性能可以發揮有利作用，效果相較Leaky ReLU 函數更好，特別是在深層網絡中優勢更加明顯。

圖6 SiLU 激活函數

3 模型訓練與結果分析

3.1 實驗環境

本文實驗平臺的配置如下。操作系統：Windows 10；中央處理器：Intel Core i7-8700K，3.6 GHz；內存：32 GB；圖像處理器：NVIDIA GeForce Titan Xp，12 GB；圖像處理器加速庫：CUDA 11.1，cudnn 8.0；深度學習框架：Pytorch。

3.2 實驗參數

輸入尺寸大小為416×416，批處理大小為8，初始學習率設置為0.001，之后采用余弦退火衰減算法階段性改變當前學習率，平滑標簽大小設置為0.005，迭代訓練100 個世代。

3.3 損失函數及其變化曲線

本文在自建數據集的基礎上分別訓練了原始YOLOv4 模型以及疊加了不同改進后的YOLOv4模型，圖7 給出不同訓練條件下的損失曲線。從圖7 中可以看出，改進后的模型擁有更快的收斂速度和更好的魯棒性，同時最終的損失值更低。

圖7 模型不同訓練條件下的損失曲線

3.4 實驗結果及分析

3.4.1 消融實驗

性能指標以mAP、幀率和存儲空間為代表，最終結果如表4 所示。文中選擇的基準模型為目前主流的目標檢測模型YOLOv4，采用K-means聚類后模型獲得了更合適的錨點框，mAP 提高了0.72%，錨點框的改動不改變模型參數，因此模型速度保持不變；之后采用SPPF 模塊用于提升SPP 部分池化效率，增強模型特征提取能力，mAP 提升了0.4%，并且幀率也相應提高了0.3；最后通過改變路徑聚合網絡部分和預測層部分的激活函數，采用更先進的SiLU 激活函數，在模型速度不變的情況下精度再次提升了0.11%。整個YOLOv4 模型改進的過程中，可以發現模型在不增加參數量的情況下，精度得到了逐步地提升，且速度并沒有減慢，滿足實際工業場景中對于實時性的要求。

表4 改進YOLOv4 的消融實驗

3.4.2 對比實驗

除了設置消融實驗，本文還與該類算法同屬一個系列的YOLOv5 模型進行對比實驗，其中YOLOv5 選取的是精度最高的x 版本。精度對比如表5 所示，由表5 可知，原版YOLOv4 與YOLOv5在精度上都不如本文提出的模型，且YOLOv5 的幀率較低，不過YOLOv5 內存占用相對較少。其中YOLOv4 在風箏和垃圾2 類異物的檢測中平均精度（average precision，AP）相對較低，YOLOv5 在風箏這類樣本的學習中AP 較差，而本文模型的改進使得4 類目標的檢測精度都得到了一定程度的提升，且速度和內存占用不因精度提升而受到影響。

表5 不同算法對比實驗

3.4.3 檢測效果對比

為了比較3 種算法實際檢測效果，隨機選取了2 張輸電線路纏繞異物的圖片進行測試，檢測效果如圖8 所示。由圖8 可以看出，第1 個場景下原模型YOLOv4 算法存在漏檢，第2 個場景下原模型YOLOv4 算法檢測的置信度僅為0.57，YOLOv5-x 算法模型檢測出了異物且取得了不錯的效果，但文中改進的YOLOv4 算法模型的檢測效果最佳，以極高的置信度框選出了輸電線路上的異物。一方面說明本模型提升了在復雜背景下的適應性，另一方面說明改進后的模型精度得到了顯著提升。

圖8 檢測效果對比

4 結論

本文針對輸電線路上的異物檢測，研究了基于改進YOLOv4 算法的實時檢測模型。

1）為了提升模型的精度，改進了針對自建數據集生成的錨點框，改進了空間金字塔池化層，優化了模型的激活函數。改進后的模型在不增加模型原有參數量的條件下，檢測精度得到了提升，速度幾乎不變，可以滿足實時檢測的要求。

2）自建數據集用于模型的訓練與驗證，最終訓練出的模型能較好地檢測出輸電線路上存在的各類異物，但由于異物種類和尺寸的特殊性以及圖片像素問題，仍存在一定的漏檢情況。之后可不斷擴充數據集，增強模型泛化性，以適應更多變的情況。

未來工作可以繼續細分異物數據集檢測的類別，以便于工作人員針對不同種類異物采用不同清障方法。