徐玉潔 蘇慧芳 邵淑娜



摘? ?要:傳統的BP神經網絡在模式識別中存在識別速度慢和識別準確率低等若干不足,針對這些問題對BP神經網絡改進。通過將改進的BP算法與傳統的BP算法比較,發現改進后的BP算法在收斂速率和局部極值點上有了較大的改善且提高了準確率。將改良后的BP算法應用于對無線信道的分類識別中,輸出結果表明,優化后的BP算法是一種速度快誤差小的神經網絡分類算法。
關鍵詞:神經網絡? BP算法? 模式識別
中圖分類號:TP183? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻標識碼:A? ? ? ? ? ? ? ? ? ? ? ? 文章編號:1674-098X(2019)11(c)-0131-02
神經網絡參照動物神經網絡行為,憑借其內部節點的密切聯系,采用分布式方法達到處理信息的目的。近年來被廣泛使用的是BP算法,即一種按誤差逆傳播算法訓練的多層前饋網絡。BP算法可以在沒有描述映射關系的數學方程的前提下學習并儲存大量映射關系,并通過最速下降法,借助向傳播反復修改網絡權值和閾值,因此使得誤差最小。但是實際應用中,BP算法對新鮮樣本的適應能力低,非常容易陷入局部極值點并且在權值初始化的有很大的盲目性,種種弱點導致了BP算法準確率低等問題,本文設計了一個新的高斯誤差函數,降低算法陷入極值點的可能,進一步縮小了誤差提高了準確率。
1? 誤差函數及BP結構
設輸入輸出節點數分別為m、n,則神經網絡是n維歐幾里得空間到維歐幾里得空間的非線性算子。隨著算法的深入,神經網絡的缺點也暴露出來:(1)由于算法是最速下降法,而目標函數極其復雜,所以會產生鋸齒屈服的情況,導致算法低效。(2)算法非常容易陷入極值點故收斂序列向其極限逼近的速度變慢。(3)神經元輸出接近0或1,出現平坦區,權值誤差浮動小造成麻痹現象。針對BP算法的缺點,并根據樣本的實際情況,實時地調整參數,通過神經網絡的輸出與期望的輸出比較,參照差值及時修改算法權重,迫使誤差最小,并提高算法的泛化能力。假設神經網絡有個m1輸入層m2個輸出層m3個隱含層,結構如圖1所示。
那么該神經元網絡的隱含神經元輸出為
輸出層神經元輸出為
式中,wij表示輸入層第i個神經元與隱層第j個神經元的;連接權,vjt表示隱含層第j個神經元與輸出層第t個神經元的連接權,θj、rt為神經元閾值;f(x)為激勵函數
訓練總數設為K,全局輸出誤差引入新誤差函數,定義為,則N個樣本誤差是
這個新的誤差函數的好處是出現異常點時及時調整誤差權重,使權重變小,這樣就降低了異常值對輸出帶來的影響。
2? 優化的BP算法實際應用
BP神經元網絡算法對無線信道進行模式識別。
第一步根據無線信道參數提取算法的指紋模型和評價指標給出信道特征參數向量,即輸入模式,X1=[特征參數1,特征參數2,特征參數3,...]此中l表示第l個場景,設總共有有N個場景,則l=1,2,...N。實際上提取的特征參數是有限的,為了充分利用神經網絡,Xi可以用常數補齊,考慮特張參數的量級可能相差較大,會給模式識別帶來不必要的誤差,我們對其進行同量化處理,形式如下。
X1=[特征參數1/a,特征參數2/b,特征參數3/c, ... ,c]
X2=[特征參數1/a,特征參數2/b,特征參數3/c, ... ,c]
X3=[特征參數1/a,特征參數2/b,特征參數3/c, ... ,c]
第二步確定輸出模式的個數,若識別的個數增加時,我們只需要增加矩陣元素個數即可表示更多的模式。
第三步,確定BP神經網絡的結構參數,例如,我們可以用輸入模式和輸出模式確定神經網絡中的輸入層、隱含層、輸出層的神經元的個數。若輸入參數為16,則輸入神經元個數為n=16,輸出層神經元個數q=3,中間層神經元個數取n,p中間的數即可,令p=8。一般情況下網絡最大容許誤差為0.01,動量因子α控制不在局部極值點抖動取0.5~1.0和η控制收斂速度取0.5~2.0,λ取小量,讓區間飽和度變小,利于網絡的收斂。網絡最大學習次數為100,該神經網絡即可很好的識別不同的模式。最后一步就是建立量高的神經網絡進行模式識別,整個模式識別的誤差變化如圖2所示。
3? 結語
本文針對傳統BP算法的弊端改進了BP算法,提高了神經網絡的準確率,減小了異常值權重從而降低了陷入局部權值的可能性,在無線信道模式識別的應用中,取得了較好的結果。與傳統BP算法相比改進后的算法還是無法完全避免陷入局部權值的可能性,所以仍然有待于優化。
參考文獻
[1] 姚文俊.基于遺傳算法的故障診斷的研究[J].現代電子技術,2003(23):85-86.
[2] 曾凡智,李鳳保.基于神經網絡的設備故障診斷[J].計算機應用,2004(2):24-26.
[3] 胡師彥.混合遺傳BP算法在圖像識別中的應用[J].石家莊鐵道學院學報,2002,15(3):5-8.
[4] VittorioManiezzo.GeneticEvolutionoftheNeuralNetworks[J].Trans.onNeura lNetworks,1994,5(1):39-53.