負相關算法在模擬電路故障診斷中的應用

摘 要：傳統的BP神經網絡泛化能力較差，易于陷入局部最優。為此，提出并將基于負相關學習法的神經網絡集成應用于模擬電路故障診斷的研究。實驗結果表明：基于負相關學習法的神經網絡集成比單個子網和傳統神經網絡集成更能有效地泛化能力。

關鍵詞：神經網絡 負相關學習 分類 模擬電路故障診斷

中圖分類號：TP806.3 文獻標識碼：A 文章編號：1672-3791（2012）12（a）-0127-01

BP神經網絡是一種在分類和預測中應用非常廣泛的方法，但是BP神經網絡方法存在著泛化能力差，易于陷入局部最優等缺點。而神經網絡集成則是對多個子神經網絡的結果進行組合，而差異度較大的子網絡可以使集成具有很好的泛化能力，為此，本文引入負相關學習算法，旨在增大子神經網絡的差異度以改善集成后網絡系統的性能。

1 神經網絡集成算法

1.1 傳統神經網絡集成算法簡介

在1996年，Krogh為神經網絡集成下了一個定義：即“神經網絡集成是用有限個神經網絡對同一個問題進行學習，集成在某輸入示例下的輸出由構成集成的各神經網絡在該示例下的輸出共同決定”。

1.2 實現方法

對神經網絡集成實現方法的研究主要集中在兩個方面：即怎樣將多個神經網絡的輸出結論進行結合以及如何生成集成中的個體網絡。

1.2.1 結論生成方法

當神經網絡集成用于分類器時，集成的輸出通常由個體網絡的輸出投票產生，通常采用絕對多數投票法或相對多數投票法。理論分析和大量試驗表明：后者優于前者。因此，在對分類器進行集成時目前大多采用相對多數投票法。

1.2.2 個體生成方法

在生成個體網絡的方面，最重要的兩個技術是Boosting和Baggaging。區別在于兩者的訓練集的選擇方式的不同：前者的訓練集選擇是獨立的，而后者訓練集的選擇依賴于前一輪學習結果。

2 負相關神經網絡集成算法

而負相關學習法則立足于通過在神經網絡集成中各子神經網絡的誤差函數中引入一個相關性懲罰項來并行訓練這些子網絡。也就是說，每個子神經網絡訓練的目的是使得整個神經網絡集成取得最好的訓練結果。

負相關學習算法主要流程：設有一組訓練數據和其對應的期望輸出。選取第n個測試樣本以及對應的期望輸出進行學習。

Step1根據各子網絡輸出計算出集成神經網絡的輸出

Step2定義帶有懲罰項的誤差函數

其中λ為調節懲罰強度的參數（0≤λ≤1）

Step3使用BP算法和Step2中提到的新的誤差函數來訓練神經網絡并調整權值。

3 實驗與分析

客觀世界信號的本質決定了模擬電路無處不在和不可替代性。模擬電路測試和故障診斷無法回避，開展相關的理論和方法研究尤為重要。本文利用基于負相關學習的神經網絡集成對采集的故障信息進行了模式識別。

現對于采集有五組數據，分別是：r1p（實際值大于標稱值），r1m（實際值小于標稱值），c1p（實際值大于標稱值），c1m（實際值小于標稱值），normal（正常）。將上述數據送入負相關算法的神經網絡中進行分類。

表1分別是BP神經網絡和λ=0.5時負相關神經網絡的分類結果。

從實驗結果上看，負相關網絡的識別正確率要高于BP神經網絡。

4 結論

本文通過分析傳統神經網絡集成的不足，引出用負相關學習算法，并將其應用于模擬電路故障診斷。實驗結果表明：基于負相關學習法的神經網絡集成比單個子網和傳統神經網絡集成，能有效地提高其泛化能力。但負相關學習法中的懲罰系數的選取將影響神經網絡集成的泛化能力。因此，如何快速選擇合適的懲罰系數是下一步要解決的問題。

參考文獻

[1]彭種，樊銳，劉強.基于人工神經網絡的電路故障診斷專家系統[J].系統：幾程與電子技術，2002，24（10）：116-119.

[2]徐敏.神經網絡集成在圖書剔舊分類中的應用[J].計算機工程，2006，32（20）：210-212.

[3]Liu Yong，Yao Xin.Simultaneous Training of Negatively Correlated Neural Networks in an Ensemble[J].IEEE Transactions on Systems，Man and Cybe Metics-PartB，1999，26（6）：716-725.

[4]Liu Y，Yao X.Ensemble Learning via Negative Correlation[J].Neural Networks，1999，12（10）：1399-1404.

[5]閻平凡，張長水.人工神經網絡與模擬進化計算[M].北京：清華大學出版社，2000.