趙曉罡
摘? ? 要:針對當前人工智能方法存在的訓練精度瓶頸問題和智能系統對高精度人工智能方法的迫切需求問題,結合小波分析和BP(back propagation)、RBF(radial basis function)神經網絡的優點,提出了自適應小波神經網絡(adaptive wavelet neural network,AWNN)方法,將其應用于智能視頻分析系統和智能控制系統,并驗證了AWNN方法可以取得更好的收斂性、準確性、精度等。通過對AWNN方法與經典的神經網絡進行理論分析,并與計算機仿真進行對比分析,驗證了該方法可以提升經典神經網絡的速度和精度;進而通過將AWNN方法植入真實的視頻分析系統進行實驗,驗證了AWNN方法與現有的視頻分析技術相比具有更準確的內容分類能力;最終將AWNN方法與經典控制方法相結合,通過與兩種現有的神經網絡控制方法進行對比分析,驗證了AWNN控制方法具有更好的控制性能。
關鍵詞:高精度;自適應小波神經網絡人工智能;方法
1? 前言
經典的人工智能方法主要可以分為兩大類:一是基于規則和推理技術的人工智能,例如專家系統、模糊邏輯、搜索方法、遺傳算法、群集智能和基于規則的機器學習方法;二是基于人腦原理的神經網絡技術,例如前饋神經網絡、反饋神經網絡、復合神經網絡和基于神經網絡的機器學習方法。
經典的人工智能方法在知識的海量存儲和智能單元的處理能力(智能算法的局限性)兩個方面遇到了瓶頸,導致其智能在一些簡單的領域被有限地應用。經典的人工智能方法在學習知識的容量、精度和穩定性三方面待提升。
2012年以來,微軟、蘋果、谷歌、百度等公司相繼在人工智能領域進行了重量級戰略投資,開發了Cor-tana, Siri等人工智能系統,并發表了大量研究成果。2015~2016年,谷歌公司研究人員在“Nature”雜志發表多篇論文,展示了將深度人工智能方法應用于計算機,從而實現對49項游戲的學習和操控。計算機通過實時在線學習,對半數以卜比賽的操控效果達到了與測試人員非常接近的水平,在部分比賽中超過測試人員。研究表示“該成果是世界卜第一個能面對不同任務進行學習,對不同系統進行控制并勝出的人工智能算法?!庇嬎銠C科學和IT領域開始向人工智能應用領域深水區邁出步伐,對具有高性能的人工智能理論和應用進行研究成為計算機科學探索的前沿陣地。2016年3月,谷歌公司采用卜述理論研發的A1phaGo人工智能系統在圍棋項目人機對戰中,戰勝了世界圍棋冠軍李世石。
經典的神經網絡可以分為前向網絡和反饋網絡。其中應用最廣泛的兩種神經網絡模型是BP( back propagation)神經網絡和RBF 神經網絡,還有很多基于這兩類模型的改進模型。傳統的BP網絡算法采用基于誤差反向傳播的梯度算法,充分利用了多層前向網絡的結構優勢,算法相對成熟,具有很多應用案例;RBF網絡利用差值法的研究成果,采用前饋的結構,各有優缺點。
BP神經網絡模型的優點是:(1)具有較強的非線性映射能力;(2)具有高度自學習和自適應的能力;(3)具有良好的泛化能力,即對新鮮樣本的適應能力;(4)具有一定的容錯能力。
BP神經網絡存在的缺點和問題是:(1)局部極小化影響精度;(2)算法收斂速度慢;(3)對訓練樣本依賴。RBF神經網絡[6]采用了與 BP神經網絡不同的局部激勵函數,很大程度卜克服了BP神經網絡的卜述缺點。RBF神經網絡的優點是:(1)具有唯一最佳逼近的特性,無局部極小問題;(2)具有較強的輸人和輸出映射功能,在前向網絡中RBF網絡是完成映射功能的最優網絡;(3)學習過程收斂速度快。
RBF神經網絡存在的問題是:(1)RBF隱含層節點的中心難以獲得;(2)隱含層節點數難以確認。
小波分析被稱為數學顯微鏡,小波變換可以通過尺度伸縮和平移對信號進行多尺度分析,能有效提取信號的局部信息,具有良好的函數逼近能力和模式分類能力。小波神經網絡已被證明在逼近單變量函數時是漸近最優的逼近器。
本文希望同時解決r述3個問題:BP神經網絡陷人局部極小問題,RBF神經網絡訓練過程不穩定問題,以及在神經元規模有限的情況下訓練精度瓶頸問題。試圖探索將卜述3種算法優點相結合,從而克服彼此的缺陷,并引人對樣本的自適應機制,構建出自適應小波神經網絡方法。
本文首先驗證了AWNN方法相對于經典神經網絡的性能提升;進而應用于智能視頻分析系統,在真實環境中驗證了AWNN方法應用相對于其他經典神經網絡應用的性能提升;最后與經典控制方法相結合,通過計算機仿真的方法驗證了AWNN控制系統相對于其他經典神經網絡控制系統的性能提升。
2? AWNN模型建立
AWNN設計原理如下:(1)BP神經網絡結構中通過反向誤差傳播原理,可以獲得穩定、快速、單調的誤差收斂效果;(2)RBF神經網絡中隱含層神經元采用基函數變換算法,相當于增加了誤差調整維度,從而可以跳出陷人局部極小的情況;(3)小波變換算法的尺度變換算法具有極好的局部信息提取能力。
AWNN設計思路如下:采用BP神經網絡拓撲結構和RBF神經網絡隱含層神經元結構,將小波尺度變換函數作為神經網絡隱含層的活化函數習,并設計對樣本的自適應機制。
自適應小波神經網絡的結構由5層組成:輸人層、自適應層、小波函數計算層、輸出層、綜合層。
3? AWNN智能控制系統應用研究
將AWNN應用于智能控制實驗,驗證AWNN算法相對于BPNN,RBFNN算法可以使智能控制系統具有更好的特性。
神經網絡控制系統結構圖。原理是在線整定器的神經網絡根據系統輸出量和狀態量,采用梯度下降法向著輸出誤差最小的方向,前向計算出控制參數的更新值,新的控制參數使得在線整定器計算出最新的控制量。
在線整定器先后采用BPNN,RBFNN和AWNN算法與經典控制方法相結合,從而構成一組對比實驗,即BPNN-PID , RBFNN-PID和AWNN-PID神經網絡智能控制算法對比實驗,從而對AWNN算法在智能控制領域應用得到的性能提升進行驗證。RBFNN-PID出現不收斂的情況。
(1)AWNN-PID方法在響應快速性方面均優于BPNN-PID , RBFNN-PID方法存在不穩定的情況,但具有最快的階躍響應速度,且是唯一出現超調的算法;(2) AWNN-PID方法的平均穩態誤差小于RBFNN-PID方法,BPNN-PID方法具有最小的穩態誤差;(3)各算法在非線性系統應用中,面對系統內部和外部的動態波動和擾動,各算法具有自適應跟蹤與恢復能力,其中AWNN算法具有快速響應系統波動與波動后快速恢復能力,具有較好的魯棒性。
4 結束語
AWNN算法結合了小波變換、BPNN,RBFNN算法的優點:繼承了BPNN的優點,具有更好的快速收斂性;繼承了RBFNN的優點,可以克服局部極小問題;繼承了小波分析的優點,具有更高的分辨精度。對比實驗驗證了AWNN算法可以通過多次重新訓練,更高概率地得到更高的精度。
當BPNN, RBFNN,AWNN分別應用于智能視頻監控系統,均可實現對帶有標準數字的紙板進行人侵檢測、處理、分析識別功能。通過對比實驗,驗證了AWNN算法在訓練效率、訓練成功率和精度方面具有更好的特性。特別是在高精度實驗中,BPNN無法完成神經網絡的訓練,RBFNN的訓練成功率也無法達到AWNN的水平。AWNN算法和系統可以應用到家居、提款機和博物館等智能監控領域。
參考文獻:
[1] 代艷霞,王洪益,伍倪燕.自適應因子神經網絡的變壓器故障診斷研究[J].機械設計與制造,2017(7):175~178.
[2] 薛國峰.基于小波分析和代理模型的結構可靠性分析方法研究[D].哈爾濱工業大學,2017.
[3] 王超.炮控系統電動負載模擬器辨識與智能控制研究[D].南京理工大學,2017.