改進YOLOv3算法在矸石充填的應用

蔡曉敏,成 超,秦緒彬

(1.南京郵電大學通達學院,江蘇 揚州 225000;2.揚州環銳科技有限公司,江蘇 揚州 225000)

0 引言

由于煤炭開采會導致土地塌陷,開采出的矸石堆滲浸對土地會造成污染,所以越來越多的煤礦將矸石回填采礦區。矸石充填時,判斷搗實機構和后部輸送刮板機的相對位置至關重要。這對于控制搗實機構上下和伸縮的動作,使搗實結構把矸石搗實壓密具有重要作用。搗實機構太高會和后部輸送刮板機發生機械干涉;太低會把矸石帶回,從而造成搗實機構撞斷傳送帶的事故[1-2]。傳統的矸石充填搗實系統靠操作人員用眼睛判斷位置。這一方面會造成人力資源的耗費,另一方面由于煤礦工作環境復雜、人眼觀察不清晰,在操作過程中不可避免地會產生失誤和疏漏。因此,業內迫切需要用計算機和傳感器替代人眼對充填位置進行檢測,從而判斷安全距離、防止碰撞。

近年來,深度學習在計算機視覺、圖像處理方面取得了巨大的成功。其中,你只看一遍(you only look once,YOLO)算法是目前比較流行的一種目標檢測算法。YOLO算法指只需要看一遍圖片就能預測出物體的類別和位置。YOLOv3是繼YOLO和YOLOv2之后,YOLO系列的又一目標檢測算法。YOLOv3具有速度更快、精度更高的特點。

深度學習的性能在很大程度上取決于其結構和超參數設置。因此,本文提出1種基于實數和整數混合編碼的粒子群優化(particle swarm optimization,PSO)算法來優化YOLOv3超參數獲取過程,并把該算法應用于矸石充填搗實視覺系統中,以獲得對應的充填溜子和橫截面的對應位置,從而保證搗實機構不會和后部輸送刮板機發生干涉并避免碰撞。同時,搗實機構能將矸石壓實、沒有回矸,從而達到保護安全、最大程度處理矸石固廢且實現最大程度回填充實率的目的。根據調研,本文提出的智能方法在國內外矸石充填領域鮮有研究。

1 YOLOv3算法概述

近年來,深度學習領域獲得了長足的發展,特別是卷積神經網絡(convolutional neural network,CNN)的方法取得了廣泛的應用。和傳統模式識別最大的不同是,深度學習可以從大量帶有標簽的數據中準確、自動地學習到特征,提升了算法應用速度和自動化程度[3-4]。深度學習中的YOLO算法先將目標邊界位置的問題直接轉換為回歸問題,然后通過CNN對其進行處理,在具有高精度的同時保證了實時性。因此,YOLO算法近年來得到了廣泛的重視。

YOLOv3模型可分為特征提取層和處理輸出層。特征提取層是Darknet-53和ResNet-like網絡的組合。處理輸出層類似于特征金字塔網絡。YOLOv3模型還可以具體劃分為106層全卷積體系結構,包括卷積層、批標準化(batch normalization,BN)層、shortcut層、路由層、上采樣層和YOLO層。其中:shortcut層借鑒了深度殘差網絡;路由層索引到前面的特征映射;上采樣層是雙線性上采樣層;YOLO層是特征映射解析層[5]。在卷積層中主要使用1×1和3×3濾波器。3×3卷積層用于減小寬度和高度以及增加通道數。1×1卷積層用于表示壓縮特征。網絡體系結構的復雜性往往伴隨著模型訓練難度和收斂速度的雙重挑戰。因此,基于復雜的底層結構,YOLOv3采用了快捷層,大大降低了訓練難度、提高了訓練精度?？鐚舆B接是通過路由層實現的,有助于多個不同特征的融合,以實現多層聯動學習。上采樣層采用2次上采樣,將大分辨率特征圖和小分辨率特征圖有機地聯系起來,以增強對小目標的識別能力。YOLO層用于輸出預測對象的坐標和類別。YOLOv3結構如圖1所示。

圖1 YOLOv3結構示意圖

圖1中:DBL表示Darknetconv2d_BN_Leaky是YOLOv3的基本組件;resn中的n代表數字,包括res1,res2,… ,res8等,表示這個res_block里含有多少個res_unit;concat表示張量拼接;add表示張量相加;conv表示卷積。

2 改進PSO方法

合理的神經網絡結構和超參數設置能夠極大地提高YOLOv3的性能。通常,這些超參數的設置由在這方面有豐富經驗的研究人員手動調制。1個性能良好的神經網絡結構會依賴于問題的特征,因此在過去的幾十年里,許多研究者都在研究如何自動識別合適的網絡結構。進化算法是1類基于群體的元啟發式優化算法,已被證明在識別合適的網絡模型方面是有效的,因而被廣泛應用到各種工業生產和實際生活領域,并有望解決深度學習領域超參數調試難的問題。大衛等[6]介紹了1種在修改的美國國家標準與技術研究院(Modified National Institute of Standards and Technology,MNIST)數據集上基于遺傳算法改進深度自動編碼器性能的深度學習算法。Suganuma等[7]提出利用笛卡爾遺傳規劃(Cartesian genetic programming, CGP)算法建立CNN結構及其連通性。為了減少搜索空間,該算法以卷積塊、張量級聯等高級功能模塊作為CGP的節點函數。為此,本文利用改進PSO獲得YOLOv3的超參數,使得優化后的算法更利于矸石充填搗實系統中的防碰撞檢測?；诟倪MPSO的YOLOv3超參優化算法流程如圖2所示。

圖2 基于改進PSO的YOLOv3超參優化算法流程圖

2.1 PSO算法

PSO算法是1995年由Kenndy等依據鳥群和魚群的覓食合作行為而提出的[8]。在PSO算法中,每個在定義域內的可行解被看作1個粒子,而被求解的優化問題被看作適應度函數,通過迭代運行把每個粒子代入適應度函數計算,從而求得最終的近似解。相對于其他群體優化算法而言,PSO算法提出了群體和個體歷史經驗解的概念,分別代表全體和個體在搜索歷史中獲得的最優位置。群體在迭代過程中向這2個歷史最優解的不間斷學習加速了尋優過程,從而獲得相對于其他群體算法更快的收斂速度。PSO算法的迭代如式(1)、式(2)所示。

vid(t+1)=wvid(t)+c1r1×[pid-xid(t)]+c2r2×[pgd-xid(t)]

(1)

式中:i為粒子序號,i=1,2,...,N,N為粒子個數;d為粒子維度序號,d=1,2,...,D,D為粒子維度;t為迭代次數;w為慣性權重;c1為個體學習因子;c2為所有粒子的學習因子;r1和r2為兩個服從分布U(0,1)的隨機數,可增加搜索的隨機性;vid為第i個粒子第d維的速度;xid為第i個粒子第d維的位置;pid為第i個粒子第d維的最優解;pgd為到第d次迭代為止,所有粒子第d維的最優解。

xid(t+1)=xid(t)+vid(t+1)

(2)

2.2 PSO算法個體初始化和編碼

PSO算法在搜索空間中隨機選擇對應的超參數組合初始化群體。學習率(learning_rate,LR)、LR從 0 上升到LR的樣本數burn_in(簡稱“BI”)、動量(momentum,MO)、學習率更新迭代步數1(step1,ST1)和LR更新迭代步數2(step2,ST2)這些超參數分別以實數和整數的形式進行編碼。優化的超參數及其變化范圍如表1所示。

表1 優化的超參數及其變化范圍

由表1可知,待優化的超參數分別為離散值和整數值。因此,本文針對這2種數值分別采用不同的初始化和更新方法。針對離散值,本文定義離散值的初始范圍為[1,n]。其中,n為離散值的數目。在使用PSO迭代式進行計算的過程中,本文通過向下取整獲得個體更新以后的位置。例如:針對超參數LR,本文定義的范圍為[1,4]。在迭代計算過程中,假如x取值為3.4,則向下取整為3,代入網絡對應的LR為0.001。針對整數值,則只使用向下取整概念更新個體。

表1所示的這些超參數在本文定義的取值范圍內(該取值范圍是經驗值)可以取不同的數值。隨機選擇這些超參數后,本文基于層數和特征圖的數目,根據以下所述的規則創建網絡。

①當YOLOv3模型首次訓練時,LR的初始值為0.001。一般而言,LR的范圍在0.001～0.1之間,在對數范圍均勻分布。隨著迭代次數的增加,學習速度降低,損失函數的收斂加速。在整個培訓期間,從訓練開始到結束,LR應降低至原來的1%。

②批次表示一批訓練樣本的樣本數。每批樣本更新1次參數,以保證訓練速度和計算能力。通常選擇樣本數為8或64。

③隨著訓練迭代的進行,損失函數將在訓練后期的迭代過程中緩慢收斂。BI可以更好地解決這個問題[9]。BI的范圍一般在0.85～0.95之間,不能大于1。

④當迭代次數達到BI時,LR的更新方法將改變。初始網絡值為500,范圍限制在400～700之間。

⑤當迭代到ST1和ST2時,LR將變為原來的10%。初始網絡值分別設置為400和700,并且范圍有限。

2.3 適應度函數

YOLOv3的平均分類精度被用作個體的適應度得分,即從每個粒子上構建YOLOv3模型并將其存儲在個體中。訓練數據集的90%用于訓練網絡、10%用于驗證。本文采用隨機梯度下降(stochastic gradient descent, SGD)算法對所構造的網絡進行訓練。訓練時間為固定的迭代數e(e=50)。本文將驗證階段的平均分類精度作為適應度得分。對于每個網絡的訓練,本文將交叉熵損失作為損失函數。每20個e的LR降低至10%。損失函數Loss如式(3)所示。

Loss=-yi×log(pi)-(1-yi)×log(1-pi)

(3)

式中:yi為樣本i的標簽,正類為1、負類為0;pi為樣本i預測為正類的概率。

3 試驗結果及分析

本試驗使用視覺目標分類(visual object class,VOC)2007的官方數據集來預訓練網絡,使用矸石真實數據來訓練和測試網絡。VOC包含2種類型的標簽數據,分別為檢測和語義。所有的數據均有檢測標簽,有些還包括語義標簽。VOC數據集目前被廣泛應用于網絡算法性能的判斷。許多研究人員報告了他們的訓練和測試在這些數據集上的表現。數據集對象包括20個類別,共9 963幅圖像,分為訓練、驗證、測試這3個部分,共有24 640個對象被標記[10]。本文涉及的YOLOv3網絡的代碼和架構都從YOLO官網中獲得。調試代碼使用的顯卡為英偉達2080TI 圖形處理器。

本文主要介紹了1種利用PSO迭代求解YOLOv3網絡結構最優超參數組合的方法,以獲得較低的損失函數值和精度[11-12]。

PSO的初始化參數設置如下:最大迭代次數為10次;初始粒子數為10個;搜索維數d=5;初始慣性權重w=0.8、c1=2、c2=2。

試驗采用PSO對YOLOv3的一些超參數進行優化,而其他超參數(如歸一化等)則保持不變。實際上,為了保證在訓練中損失函數不會產生梯度爆炸,這些需要優化的超參數應在有限的范圍內迭代。

本試驗選擇YOLOv3的損失函數作為適應度函數。每次調整超參數后,試驗將超參數輸入YOLOv3網絡進行完整的訓練。YOLOv3的初始迭代次數是520 000次。由于在實際矸石數據訓練中發現模型經過1 000次迭代后基本收斂,過大的訓練迭代只會消耗計算資源,因此試驗的訓練周期設定為1 000次迭代。1次試驗獲得的粒子群10個個體超參值如表2所示。

表2 1次試驗獲得的粒子群10個個體超參值

在表2的試驗中,粒子數是10。首先,在表1的范圍內隨機生成10個粒子的位置,并將這10個粒子的初始超參數進行YOLOv3訓練,得到1組初始局部最優值。然后在第一次迭代后,根據式(1)、式(2)得到了10個粒子的1組新的超參數,并將它們重新輸入YOLOv3進行訓練。如果有更好的適應值,則更換相應位置的參數。通過這種往復運動,經過10次迭代,得到1組新的局部最優值。隨著粒子的迭代,具有最佳適應度函數值的粒子被稱為全局最佳粒子,即試驗結束時的最佳超參數粒子。

為了展示PSO與YOLOv3網絡集成后的優點、防止誤差導致的數據失真,在相同的試驗環境下,本文將標準超參數和算法改進優化后獲得的全局最優超參數分別輸入YOLOv3 5次。本文將5次運行改進后的PSO算法優化后獲得的網絡損失函數與網絡預測值進行比較。標準YOLOv3和改進YOLOv3的5次損失函數值如圖3所示。

圖3 標準YOLOv3和改進YOLOv3的5次損失函數值

標準YOLOv3算法運行后獲得的平均損失函數為0.315 54。改進后YOLOv3的平均損失函數為0.137 3。由此可知,改進YOLOv3的預測精度大大提高。

4 結論

針對煤礦系統中的矸石回填機構防碰撞問題,本文提出了1種基于整數和實數混合編碼的PSO算法的YOLOv3解決方案。本文提出的PSO算法用于解決網絡超參數選擇問題,進而使得優化后的網絡具有更優的性能,從而有效地優化選擇網絡的超參數、精確地檢測出搗實機構在圖片中的精確位置。該方案應用于矸石充填搗實系統中,以獲得對應的充填溜子和橫截面的對應位置?？刂破魍ㄟ^反饋,驅動電液控閥組執行搗實機構的上下和伸縮動作,保證搗實機構不會和后部輸送刮板機發生干涉,以保障安全,提高防碰撞效率。同時,搗實機構能將矸石壓實,沒有回矸,以達到最大化處理矸石固廢且最大化回填充實率的目的。平均損失函數對比結果表明,改進后YOLOv3的預測精度大大提高。本文所提算法具有更加良好的性能,可以進一步優化和推廣。