基于卷積神經網絡的拖拉機工況識別*

孔慶好，吐爾遜·買買提，趙夢佳

(新疆農業大學交通與物流工程學院，烏魯木齊市，830052)

0 引言

隨著中國農業機械技術水平的提高,新疆農業機械化水平逐年上升，2019年新疆農機總動力達到27 890 MW,新疆棉花、小麥等作物已經基本實現從耕種到收獲全程機械化生產，但農業機械化帶來的不僅有更加高效的生產效率，同時也帶來了更嚴重的大氣污染問題[1]。針對上述情況應用數據挖掘技術深入剖析農用拖拉機等移動源自身狀態參數、識別并細化移動源作業狀態可以幫助掌握區域污染物排放趨勢并以此為基礎制定更具針對性的治理措施,為實現這一目標建立具有高識別精度的農機工況識別模型顯得尤為重要。

目前,農機領域數據挖掘技術的應用主要集中在農機空間狀態識別[2]、農用機械污染物排放研究[3-5]、農用拖拉機故障檢測和農機運行效率分析[6]等方面。在農機工況識別方面相關研究較少且多基于農機空間位置信息數據對農機運行工況展開研究,其中吐爾遜·買買提等提出基于密度聚類結合農業機械作業狀態特征,通過對農機空間位置信息進行聚類實現農機工況識別。王培等[2]提出采用數據挖掘中聚類與空間數據分析方法,基于農機空間位置信息數據設計實現典型農機的運行狀態識別方法。然而,上述研究均通過分析農機空間運行軌跡特點從空間層面間接判斷農機運行狀態，因此具有一定局限性。事實上，在農機作業過程中不僅會產生海量的農機空間信息數據，也會產生諸如速度、油耗以及發動機轉速等反應農機運行狀態的數據,深入挖掘這類數據實現農機作業工況的識別,可以進一步滿足農機精細化管理與分析研究的應用需求。

1 研究方法

本研究通過研究農用拖拉機運行速度、發動機轉速以及油耗等大量實測歷史數據，提出利用農用拖拉機自身運行狀態信息進行農用拖拉機工況識別，首先利用無監督學習算法支持向量機[7-8](Support Vector Machine,SVM)結合K-CV[9](K-fold Cross Validation)尋找最優參數訓練模型實現拖拉機運行工況識別，并在此基礎上對算法效果及農機作業狀態識別結果進行數據處理與分析，分析該方法的適用性。同時，針對分析結果中發現的問題提出利用拖拉機運行速度與發動機轉速來描述拖拉機運行狀態，在此基礎上應用卷積神經網絡[10](Convolutional Neural Networks,CNN)進行拖拉機工況識別,并針對測試結果進行模型適用性分析。

1.1 農機實際工況下各參數分布特點

根據農用拖拉機的作業特點與文獻[11]將農用拖拉機工況分為怠速、行走和耕作三種模式。其中，怠速模式主要指發動機保持在低轉速狀態下，且拖拉機處于靜止的狀態；行走模式是指拖拉機處于正常行駛當中，且不進行任何作業；耕作模式是指拖拉機對土地或農作物進行作業，旋耕犁處于工作狀態。在實際作業中，當拖拉機處于怠速狀態時，拖拉機發動機轉速一般不會超過800 r/min，且運行速度為0，油耗較低；當拖拉機處于行走模式時通常會保持一個較高的移動速度，拖拉機發動機轉速以及油耗均高于怠速模式，但低于耕作模式；在耕作模式下，拖拉機運行速度相較行走模式處于一個較低水平，但單位燃油消耗量以及發動機轉速均為三種模式中最高的，具體實測數據變化范圍如圖1所示。

(a)發動機轉速變化范圍

基于上述分析，可以發現處在不同運行模式下的拖拉機行駛速度、發動機轉速以及燃油消耗量呈現出明顯的差異，可以提取農機時間序列樣本點的上述參數分析辨別農機運行狀態，通過數據挖掘的方法實現農機工況的識別，滿足農機使用機構對農機的精準管理與后續相關研究的要求。

1.2 基于參數優化的SVM識別模型

1.2.1 C-SVC算法

支持向量機的主要思想是在多維空間中建立一個分類超平面作為決策曲面，使得不同分類之間的隔離邊緣最大化，其中C-SVC算法是最經典的SVM算法，通過引入懲罰參數C，軟化超平面間隔，從而達到擴大分隔間隔的目的。C-SVC具體算法公式如下。

設已知訓練集

T={(x1,y1),…,(xl,yl)}∈(X×Y)l

(1)

式中：xi——特征向量。

xi∈X=Rn(i=1,2,…,l)，即為輸入數據。yi∈Y={1,-1}(i=1,2,…,l)，為類別標號。

選取適當的核函數K=(x,x′)和適當的參數C>0，構造并求解最優化問題。

0≤αi≤C,i=1,2,…,l

(2)

(3)

(4)

式中：b*——閾值；

sgn(·)——符號函數；

K(x,xi)——核函數。

C-SVC算法在設計之初是為了解決二值分類問題，在處理多類問題時，需要構建合適的多類分類器。因此,本研究采用一對一(one-versus-one)法來實現多類分類，其基本原理是在任意兩個類之間構建一個SVM，因此k個類別樣本需要構建k(k-1)/2個SVM分類器。

1.2.2 SVM的參數優化

在算法構建過程中通過交叉驗證(Cross Validation,CV)的方法實現懲罰參數與核函數參數的尋優，該算法的基本思想是將數據集分為訓練集與驗證集，通過訓練集對分類器進行訓練從而建立模型，再使用驗證集對該模型進行驗證，判斷該模型的分類效果。

在對多種CV方法進行對比后，本文選用K-foldCrossValidation(K-CV)法篩選最優參數，該方法將原始數據分為K組，將其中K-1組數據作為訓練集用于模型訓練，剩余一組作為驗證集對模型進行驗證，如此循環直到所有數據子集分別都被作為驗證集使用，將得到的K個模型分類準確度的平均值作為分類模型的評價最終指標。

1.2.3 基于參數優化的C-SVC拖拉機工況識別模型

獲取某一時間段內拖拉機作業時的參數數據，將其組成樣本集，并將其作為輸入數據構建拖拉機工況預測模型，具體步驟如下。

1)為了防止各項特征數值差距過大對分類精度造成影響，對數據集進行歸一化處理，確保所有數據均處在區間[0,1]。

2)將樣本集分為訓練集與驗證集，選擇徑向基核函數K(x,xi)=exp(-γ‖xi-x‖2),γ>0處理訓練樣本集，構建C-SVC模型。應用K-CV法確定懲罰參數與核函數參數的取值，最終得到最優參數。

3)對數據集進行訓練，獲得最優分類器模型，將測試樣本集輸入模型當中，并將分類結果與實際值進行對比，依照對比結果判斷模型的學習推廣能力，若模型分類效果較差，則需返回步驟(2)，直到建立具有較好分類準確度的模型。

1.3 基于卷積神經網絡的農機工況識別

1.3.1 算法描述

選擇卷積神經網絡算法(CNN)來實現拖拉機工況的連續性識別，該算法是一種將卷積計算與前饋神經網絡相結合的深度算法，目前在圖像識別，人臉識別以及故障檢測等領域應用廣泛，具有較高的通用性與檢測準確度[12-13]。本文采用CNN算法中的Alexnet模型，該模型是在LeNet模型基礎上進一步深化建立的深度學習模型[12]。模型由輸入層、輸出層、5個卷積層以及3個全連接層組成主體結構，同時為了提高運行效率，在第3、5、9層構建Max-pooling池化層，整體網絡結構如表1。

表1 模型網絡結構Tab.1 Network structure of CNN model

在輸入層選擇227×227×3大小的圖像作為輸入，在第1卷積層，該層卷積核大小為11×11，即每次連接11×11的區域，獲取一個特征，并使用ReLU作為激活函數，并進行降采樣處理。

在第2卷積層，使用256個5×5的過濾器產生27×27×256個特征圖，更進一步提取圖像特征，過濾器對256個特征圖中的某幾個特征圖中相應的區域乘以相應的權重，然后加上偏置之后所得到區域進行卷積，該層同樣使用ReLU作為激活函數，并進行降采樣處理。

第3、4卷積層通過特征提取獲得384個13×13新特征圖，第5卷積層得到256個13×13個特征圖，并構建擁有4 096個神經元的第1與第2全連接層。

為了使網絡具有更強的適用性及性能，因此第3全連接層選用1 000個神經元，并在輸出層之前選用Softmax函數，如式(5)，計算各工況的概率值。

(5)

式中：vc——分類器前級輸出單元的輸出；

c——當前類別索引；

t——總的類別個數；

Sc——目前元素的指數與全部元素指數和的比值，即當前工況類別的判斷概率值。

1.3.2 識別精確度計算

在完成模型訓練之后，還需利用測試集對識別精度進行量化，具體公式如式(6)。

(6)

式中：θ——識別精度；

nTP——某類狀態預測正確的數量；

nFP——某類狀態預測錯誤的數量。

2 農機試驗及結果分析

2.1 數據獲取

農用拖拉機上裝載SEMTECH-DS氣態污染物分析儀，該分析儀不僅可以實時采集污染物濃度數據、質量排放量和基于燃油消耗和時間的污染物排放量，還集成了轉速儀，測速儀以及GPS等用于采集農機實時狀態的專業配件。在進行田間作業排放試驗時，將采樣頻率和采樣周期分別設定為1次/s與45 min，并在采樣周期的0～10 min 內將試驗車輛設置為怠速模式，在10～20 min 內將試驗車輛轉變為行走模式，在20～45 min時間區間內試驗拖拉機始終保持在耕作模式。

選取試驗數據中數據質量較高的一個采樣周期,并提取其中的發動機轉數、農機行駛速度以及油耗數據作為本研究的測試數據集。

2.2 C-SVC運行結果及分析

依照基于C-SVC算法識別模型的構建步驟，對測試數據進行歸一化處理。隨機選取3種工況中50%的數據作為訓練集，剩余數據則作為測試集，用于驗證模型的識別準確度。使用MATLAB平臺實現識別模型的搭建，設置懲罰參數與核函數參數的取值范圍為[2-10,210]。模型對懲罰參數與核函數參數的取值范圍進行離散化處理，取不同的離散值使得支持向量回歸機的訓練誤差最小。參數選擇效果如圖2所示，最終得到懲罰參數C與核函數參數g的最優值為0.25與12.125 7。

圖2 參數選擇效果圖(3D)Fig.2 Effect drawing of the parameter selection(3D)

使用模型對測試樣本集數據進行工況識別，并對識別結果進行可視化處理，結果如圖3所示。

圖3 識別結果圖Fig.3 Recognition result

圖3中標簽1表示的是農機的怠速模式，標簽2為行走模式，標簽3為耕作模式，從中可以看出僅有2個樣本點出現了識別錯誤，其識別準確度達到99.851 9%。識別模型將處于行走模式的樣本點錯誤識別成怠速模式，進一步分析兩個樣本發現，樣本數據并不符合農機正常行走模式下的數據范圍，屬于異常數據，因此出現了識別錯誤的情況。通過上述測試僅從識別效果來看，基于參數優化的C-SVC模型可以有效識別單個樣本點的工況。

2.3 基于卷積神經網絡的工況識別

結合前述內容可知，基于參數優化的C-SVC模型可以較好的對樣本點進行工況識別，然而在實際應用中拖拉機作業是個長時間持續過程，此過程中會產生包含部分異常值的海量數據，通過C-SVC模型僅對單個樣本點進行識別并不能有效分辨試驗數據中的異常數據，從而造成大量的錯誤識別。并且，在實際作業中拖拉機會基于工作現場的復雜情況多頻次轉換作業工況，轉換過程的識別同樣無法通過單個樣本點的工況識別實現。同時，由于數據集較大的體量，試圖通過分析不同工況下農機數據的差異從而實現人工識別同樣不可取。

實現拖拉機工況的連續性識別可以有效解決上述問題，本文以拖拉機運行速度與發動機轉速等信息構建樣本圖像來描述農機工況變化的數據表達，并在此基礎上應用卷積神經網絡實現農機工況的連續性識別。

2.3.1 數據預處理

為了實現農機工況的連續性識別，為農機狀態識別提供新思路，需進一步研究農機工況變化數據，尋找能夠描述農機工況變化的數據特征。在1.1節中已經提到怠速、行走及耕作3種不同工況下發動機轉速、油耗以及農機運行速度等數據具有較大的差異，在此基礎上本文進一步分析實測數據的分布特點發現，隨著農機工況轉變發動機轉速變化呈現明顯的梯度上升趨勢，耕作工況下轉速最高，行走次之，怠速最小，這說明農機在整個采樣周期內發動機轉速保持階段性加速狀態，但當處于一種工況下時，發動機轉速在較為固定的范圍內波動變化。需要指出的是農機的運行速度指標也表現出明顯的階段性，但并不表現為梯度上升，而是由最開始的靜止狀態經過3～4 s的加速過程進入行走模式，而當農機處于行走模式下時由于實際路況以及駕駛員心理狀態等因素的影響導致農機運行速度在速度—時間二維空間中分布較廣，但總體上維持在一個較高水平。而當農機由行走模式轉為耕作模式時由于旋耕犁的下放加大了與地面的摩擦，從而導致運行速度下降。此外，當拖拉機改變運行工況時，農機運行參數則會出現較大波動。

綜上所述，本研究利用一段時間內農機發動機轉速與運行速度作為數據樣本，以這兩項數據樣本在農機不同運行工況的變化趨勢為基本特征，結合計算機視覺采用圖像識別方式進行農機工況識別。如圖4所示,選取時間序列的若干樣本組成數據集,將農機各工況的數據集以面積圖的形式形成圖像樣本,用于計算機識別。其中藍色區域的紅色輪廓線表示轉速的變化趨勢,單位為r/min，橘色區域的綠色輪廓線可以理解為速度的變化趨勢,單位為km/h。將表示轉速與速度的圖像區域分別涂上藍色與橘色,用于增強計算機的視覺能力,提高后文深度學習算法識別效果。

(a)怠速工況識別圖像

圖4(a)為農機處于怠速狀態時發動機轉速與農機速度的圖像表示,由于怠速階段農機速度為0,因此該階段的圖像只表現出藍色區域用于表示農機發動機轉速的變化趨勢；行走狀態下農機處于一個較高的運行速度，速度區域幾乎覆蓋轉速區域如圖4(b)。圖4(c)則為農機處于耕作狀態時發動機轉速與農機速度在圖像上的顯示,與行走狀態圖像相比轉速變化趨勢更加平穩，且速度區域面積明顯小于行走，表明拖拉機速度明顯小于行走工況。圖4(d)則表示兩種工況轉化時兩項參數的變化，從中可以看出兩者波動較大，且由于劇烈的波動可能會導致測量數據出現異常值。

分別選用10、15、20個樣本形成數據集，分別訓練識別模型并對比最終結果發現包含20個樣本的數據子集訓練得到的工況識別模型兼具高識別準確度與較快的運行速度，因此將總共2 700條樣本數據，按照每組20個樣本構成135個圖像樣本，并將其中60%作為訓練集，25%作為驗證集用于驗證模型，剩下15%則當成測試集用來評估模型。同時，為了方便農機工況的識別，將農機工況分為4種，分別為怠速、行走、耕作以及其他，前三種已經在前文中提到，這里不再贅述，其他指代兩種工況轉換時農機的運行工況。

2.3.2 CNN模型運行及分析

通過不同模型超參數組合，在訓練集上進行參數調優，獲得該模型的主要超參數分別為迭代次數為900，學習率為0.000 1，設置初始權重系數與偏置為符合正態分布的隨機值，迭代優化算法為Sgdm，同時為了提高模型訓練效率，設置模型訓練過程中驗證數據最優分類準確度連續20次驗證都沒有提高時停止網絡訓練。運行之后訓練集經過28 s訓練建立模型，圖5說明隨著迭代次數的增加，模型準確率與損失值在訓練集和驗證集上的變化趨勢。從中可以分析發現，隨著迭代次數的增加模型識別準確度逐漸提高最后穩定在97.1%，同時損失值則隨著迭代次數的增加呈現單調遞減，逐步趨近于0，這表明該模型在訓練集以及驗證集上訓練效果較好。

為進一步驗證識別模型的可靠性，將測試集應用于訓練好的模型，并引入精準率(Precision)、召回率(Recall)以及F1值(H-mean)等3項指標對驗證集與測試集的識別結果進行評價，結果如表2所示，針對不同工況3項評價指標均能達到0.8以上，這表明該識別模型識別精度較高，分類效果良好。并最終獲得識別結果如圖6與圖7，圖6中標簽分別表示圖像所屬的農機工況與該工況的概率值，測試結果顯示隨機選取的4個樣本的工況類別判斷概率值均為100%。分析圖7混淆矩陣發現，該模型在識別怠速與其他工況時并未出現識別錯誤，僅出現一例耕作與行走狀態的識別混淆，這種識別錯誤對于實際工況識別是可以接受的。根據式(6)，該模型針對不同工況識別準確率可以達到93.3%，雖然在識別精度上比參數優化的C-SVC算法略有下降，但處在可接受范圍內。同時通過提高訓練集以及驗證集的數據樣本規?？梢赃M一步提高模型識別準確度。

(a)準確率

表2 模型不同工況下精準率、召回率及F1值Tab.2 Precision,recall and H-mean of the model under different working conditions

圖6 部分測試集識別結果Fig.6 Part of the test set recognition results

圖7 模型應用于測試集的識別結果混淆矩陣圖Fig.7 Confusion matrix of result of testing set

3 結論

1)設計采用無監督學習參數優化的C-SVC算法，通過參數優化選取懲罰參數與核函數參數最優值0.25與12.125 7對樣本點進行工況識別，結果表明識別效果較好，且識別準確度可以達到99.851 9%，但無法實現時間序列的工況連續性識別，且無法有效識別兩種工況轉換時的農機狀態。

2)提出以包含農機發動機轉速與運行速度等信息圖像樣本來描述農機工況連續變化的數據表達方式。

3)采用拖拉機運行速度與發動機轉速等信息構建樣本圖像并利用深度學習卷積神經網絡基于Alexnet網絡結構，并選用迭代優化算法Sgdm進行最高900次迭代建立了農機工況識別模型，通過測試集評估該模型，發現該模型識別準確率達到93.3%，且測試集3種運行工況下精準率、召回率及F1值三項指標均能達到0.8以上，表明該模型可以有效識別農機運行工況，為農機工況識別模型的建立提供新思路。

本次研究雖通過卷積神經網絡進行農機工況識別，但受數據規模等因素的限制，所建立的工況識別模型可以進一步優化模型結構并提高識別精度,在后續工作中，將在實際工況下的數據測度規模和工況分析方面做進一步研究。