基于隨機森林的航空發動機工作狀態識別

李鼎哲， 彭靖波， 趙澤平， 王瑋軒， 趙 彪

(空軍工程大學航空工程學院， 西安， 710038)

航空發動機工作狀態識別屬于模式識別中的多分類問題。目前，已有學者將SVM與SVDD方法用于航空發動機工作狀態識別，文獻[1]基于最小二乘支持向量機(LS-SVM)將一對一、一對多以及糾錯輸出編碼3種分類方法進行了比較，并采用糾錯輸出編碼方法對某架次發動機工作狀態進行了識別。但所提方法在追求分類速度的同時犧牲了一定的分類精度，并且數據缺失對分類性能有較大的影響。文獻[2]構建了一種基于超橢球分類面支持向量數據描述(HE-SVDD)分類器，具備了快速從大規模飛行數據中識別航空發動機工作狀態的能力。但所提方法的分類性能依賴于核函數的選取，且核函數的選取只能依靠經驗。文獻[3]針對HE-SVDD方法存在的部分缺陷進行改進，提出了一種改進BA優化的多核支持向量數據描述(CRBA-MKSVDD)分類算法，進一步提高分類器的性能。但所提方法作為一種單分類器，存在響應時間長等缺點。

隨機森林(Random Forest, RF)作為一種統計學習理論，利用Bootstrap重抽樣方法從原始樣本中抽取多個樣本，對每個樣本建立決策樹模型，然后組合多棵決策樹的預測，通過投票得出最終預測結果。該方法內部執行交叉驗證，對于復雜和非線性數據，有很好的預測效果，并且有訓練速度快、不易過擬合等優點[4-5]，近年來廣泛應用于故障診斷[6-7]、聚類識別[8-9]、回歸預測[10-11]等領域。PCA法作為一種數據處理分析方法，主要應用于圖形、語音等方面的處理和識別以及特征選擇[12-14]。為此，本文將主成分分析法(Principal Component Analysis, PCA)與隨機森林(RF)結合對航空發動機工作狀態進行識別。

1 狀態識別方法

1.1 主成分分析方法

PCA是一種常用的數據分析方法，其原理是通過一個向量矩陣將原始數據從高維空間投影到一個低維的向量空間[15-16]。換言之即通過線性變換將原始數據變換為一組各維度線性無關的表示，以此提取數據的主要線性分量。PCA法的流程為：①樣本向量集；②計算矩陣X的協方差矩陣C；③計算協方差矩陣C的特征值和對應特征向量；④將所得特征向量從大到小排列對應的特征向量組成特征矩陣U；⑤使用特征矩陣U將樣本特征矩陣X進行變換；⑥輸出主成分。

設一個n維樣本向量集X={x1,x2,…,xn}，則X?Rm×n，令:

(1)

得到樣本集的協方差矩陣為:

(2)

將矩陣C正交分解，得到:

C=U·Λ·UT

(3)

式中:Λ=diag(λ1,λ2,…,λn)是對角陣，由C的n個按降序排列的特征值λi組成。特征矩陣U=[u1,u2,…,un]由特征值λi對應的特征向量ui(i=1,2,…,n)組成的特征矩陣。λk對應的貢獻度為:

(4)

為了提取樣本集中信息量大的主元，用貢獻率θ來表示，得到前d個主元的貢獻率為:

(5)

設定閾值為P，使得θ≥P，確定主元，可得到主元模型:

V=UTX

(6)

原先的矩陣X可以重構為:

(7)

這樣就可以將前d個特征向量構成的PCA子空間的大部分特征信息體現出來，實現了屬性約簡的目的。

1.2 決策樹

決策樹(Decision Tree)[17]方法可認為是一棵分類模型樹，包含根節點、內部節點和葉節點,圖1為決策樹的基本構成。

圖1 決策樹基本構成圖

其中，根節點包含整個數據集，每個內部節點是一個判斷條件，它將根據判斷條件的測試結果，將數據集分配到2個或多個子節點，子節點繼續分裂直至產生葉節點，包含最終的數據類別。但決策樹生長過渡會使其產生過擬合的問題，且對于不平衡樣本的分類性能較差，信息增益容易偏向樣本量大的特征。

1.3 隨機森林算法

隨機森林是由多棵決策樹組成的組合分類器，圖2為隨機森林的算法流程圖。通過訓練多個樹狀分類器，將多棵決策樹的預測組合，最后經過投票的方式得到預測結果。其基本思想是先采用Bootstrap抽樣從原始訓練集中抽取k個樣本，其次建立k個決策樹模型，獲得k種分類結果，最后對所有結果投票表決，確定最終歸屬于哪一類別。其模型函數為：

(8)

式中：k為決策樹的數量；Y為輸出變量(目標變量)；I為示性函數；H(x)表示組合分類模型；hi(x)表示第i棵決策樹的分類模型。

圖2 隨機森林流程圖

隨機森林通過構造不同的訓練集增加分類模型間的差異，從而提高組合分類模型的外推預測能力[1]。其隨機性主要體現在以下方面：第一，訓練樣本選擇具有隨機性，即通過多次有放回抽樣形成子集；第二，特征子集的選擇具有隨機性，即隨機抽取特征集合；第三，所有決策樹模型不進行剪枝，自由成長。因此，隨機森林很好地解決了過擬合的問題，將多個弱分類器集成一個強分類器。

1.4 算法步驟

算法設計流程主要包含了某型發動機飛參數據的采集與預處理、特征提取以及工作狀態識別。

首先，將相關發動機參數從飛參記錄器轉錄至地面處理設備(通常是便攜式計算機)，進行數據的預處理，隨后按一定比例選取訓練集和測試集。再采用PCA方法對數據集進行特征提取，利用降維后的訓練集對隨機森林分類器進行訓練，再導入測試集進行發動機工作狀態的分類識別，并計算分類準確率和測試時間。

1)采集飛參數據，提取相關特征參數并進行預處理。

2)通過PCA方法將所提取的飛參特征數據進行降維，根據貢獻率選擇n個主成分，輸出對應的特征向量矩陣，組成訓練數據集。

3)在訓練數據集中通過Bootstrap方法有放回抽取k個樣本集，構建k棵決策樹。

4)在每一棵樹的各節點處隨機抽取m個特征屬性(m≤n)，對評估效果最佳的屬性在對應節點處遵循節點不純度原則進行分裂生長。

5)每棵決策樹充分生長，不進行任何剪枝。

6)將生長得到的k棵樹組成隨機森林，根據分類器的投票數量得到相應分類結果。

上述算法設計流程如圖3所示。

圖3 算法流程圖

2 航空發動機工作狀態識別

2.1 飛參數據選取與預處理

某型發動機的穩定工作狀態包含慢車、節流、中間、小加力和全加力(最大)狀態，在外場工作中，通常需要將油門桿角度與其他同發動機相關的參數結合起來人工判讀發動機工作狀態，因此在特征飛參數據的選取上將會以此作為參考。

以下原則將會在參數選取過程中被考慮：①以該型號發動機技術說明中明確規定的相關技術指標以及對應參數為準。②若飛參數據之間存在較強的相關性，則選擇相對工作狀況強相關的參數，如換算轉速與轉速之間存在關聯，考慮到轉速作為發動機工作狀態劃分的主要依據之一(如慢車狀態轉速通常為中間狀態轉速的0.4～0.6倍)，而換算轉速更多的用于發動機相關參數的控制規律，那么就選擇轉速作為特征參數。

綜上，最終選擇油門桿角度(APL,(°))、低壓轉速(n1,%)、高壓轉速(n2,%)、滑油壓力(Pm,MPa)、主燃油量(Wf,kg)、渦輪后溫度(T6,℃)、渦輪后壓力(P6,kPa)、發動機排氣溫度(T9,℃)、噴口面積(A9,cm2)以及加力接通信號(K)共計10個特征參數。

從外場收集該型航空發動機2018年5月日常飛行訓練中的飛參數據。隨機選中4個無故障飛行架次，對上述的特征參數進行提取，根據文獻[18]所提方法進行如下預處理：

1)異常值剔除。對于明顯偏離參數正常變化范圍且同一時間點其余參數均正常的點，為避免影響分類效果，應當剔除。

2)同步性處理。某型飛機飛參記錄器1 s記錄4幀飛參數據，但由于不同的參數采樣頻率不同，在時間上并不同步，需要進行同步性處理，處理的辦法是對各參數在1 s內求均值。

3)數據歸一化。由于所選參數的測量精度以及量綱的不同，需要進行歸一化處理，將所有參數歸一化至0～1之間。

按照上述原則和處理方法最后得到原始樣本數據38 826個，其中慢車、節流、中間、小加力、全加力數據數量分別為10 416、9 892、12 208、2 398和3 912個。

2.2 屬性約簡和決策樹數目選擇

為降低特征維數以及減少各特征間相關性，采用PCA方法對選取的10個特征進行融合和約簡。

5個狀態下的樣本各取70%作為訓練集，余下30%作為測試集。對所取訓練集進行PCA處理，可以得到10個特征值矩陣Λ以及對應的特征向量U。選取主元累計貢獻率θ為95%，得到相應的k值為5。前6個主元的累計貢獻率分別為59.1%，69.6%，79.4%，87.8%，95.2%，96.6%。

在進行狀態識別前，需要選擇最優的決策樹數目。決策樹數目與分類準確率的關系如圖4所示。可以看到當決策樹棵樹為15時，分類準確率達到98.43%，且隨著決策樹數目增多，準確率趨于穩定。但決策樹增多會使計算復雜度隨之上升，伴隨著計算時間的增加。因此，選擇15棵決策樹組成隨機森林分類器，進行發動機工作狀態的識別，既能保證分類精度，又能合理的減小計算復雜度，縮短計算時間。

圖4 分類準確率與決策樹數目關系圖

表1比較了未使用和使用PCA方法進行屬性約簡后的隨機森林分類器(決策樹數量同為15)分類準確率和訓練時間?？梢钥闯?，對數據進行屬性約簡后，訓練時間將會顯著減少，而且分類精度仍然較高。

表1 2種方法準確率比較

2.3 基于隨機森林的訓練與測試

實驗過程中，選擇屬性約簡后的訓練集對不同的分類器(BP-ANN、LS-SVM、BA-MKSVDD和RF)進行訓練，用同樣經過屬性約簡的測試集對訓練后的分類器進行分類精度檢驗。圖5為反映分類器識別效果的受試者工作特性(ROC)曲線。

對比分析圖5可知，所提出的PCA-RF方法在發動機的5種工作狀態下都具有比較優異的分類性能，相比于其它3種識別方法尤其是BP神經網絡和LS-SVM而言，其對5種工作狀態下的特征數據，在較低的異常樣本接受率下都能夠正確的接受大部分目標樣本，更適合用作狀態識別分類器。

表2和表3分別為使用PCA降維前后4種分類器分類精度和測試時間。從表2可知，RF的識別準確率最高，明顯高于LS-SVM與BP-ANN，尤其表現在發動機進入加力工作狀態之前的3個工作狀態上。由于發動機進入加力狀態工作時間較少，以及加力狀態下飛參數據具有波動性強、穩定性低的特點，因此造成識別準確率的下降。由表3可知，使用PCA降維后，能夠顯著減少識別時間，但同時會使識別準確率有小幅下降。綜合看來，本文所選的PCA-RF方法既可以有效提高識別效率，又能夠保證較高的識別精度。

圖5 不同工作狀態的ROC曲線

表2 使用PCA降維前各分類器的分類精度與測試時間

表3 使用PCA降維后各分類器的分類精度與測試時間

2.4 狀態識別實例

使用本文提出的算法，節選該型發動機的某次飛行訓練中的一段飛參數據進行工作狀態識別，在進行發動機工作狀態狀態識別前需要利用2.1節中提出的原則對飛參數據進行預處理。

在選取的這段飛參數據內，該型發動機先后經歷了慢車、節流、慢車、中間、節流、小加力、全加力、最大、節流和慢車狀態，圖6為識別結果。

圖6 某架次發動機工作狀態識別結果

可以看出，預測結果同實際結果吻合度較高。使用本文所提方法對該段發動機工作狀態識別準確率達到97.89%，已經基本符合發動機的實際工作狀況，可以體現本文方法的有效性。

3 結論

本文提出了一種基于PCA的特征提取方法和RF的航空發動機工作狀態識別方法。通過對某型發動機工作狀態的識別實例，得出以下結論：

1)利用PCA方法進行屬性約簡對識別準確率影響較小，同時能提高識別效率。

2)經過對比實驗，本文所提方法具有較高的識別準確率和識別效率。

3)節選某架次航空發動機飛參數據進行工作狀態識別，結果表明本文所提方法對發動機工作狀態能有效識別，具有研究應用價值。

此外，隨機森林分類器的分類性能易受樣本數量影響，對于小樣本數據的分類效果仍有提高的空間。