999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

遺傳算法優化BP神經網絡的說話人識別系統

2013-08-01 11:22:52蘭勝坤
重慶理工大學學報(自然科學) 2013年10期
關鍵詞:優化系統

蘭勝坤

(1.福州海峽職業技術學院,福州 350102;2.福建工程學院國脈信息學院,福州 350102)

說話人識別(speaker recognition)又稱聲紋識別,是指根據說話人所說的話來鑒定說話人身份的一種身份認證技術,屬于語音信號處理4大分支(語音識別、說話人識別、語音編碼以及語音合成)中的一種[1]。語音是人的自然屬性之一,也是一個正常人所固有的特征。由于每個說話人發音器官的生理差異(包括聲帶、咽喉、口腔、鼻腔的構造不同),以及后天行為、環境等因素的影響,導致不同說話人發出的語音信號帶有強烈的個人色彩,因此通過聲紋識別技術對用戶進行身份識別是可行的。說話人識別技術的核心是將預先錄入的說話人的語音樣本分為訓練語音和測試語音兩部分,然后把從訓練語音中提取出來的表征說話人特征的參數保存到數據庫中,識別時用同樣的方法提取待測語音信號的特征參數并與數據庫中的特征數據進行匹配,從而得出識別結果。

神經網絡是由大量結構簡單的處理單元(又稱神經元)廣泛地互聯構成的復雜網絡系統,又稱人工神經網絡(artificial neural networks,ANN)[2]。BP(back propagation)神經網絡簡稱BP網絡,又稱誤差反向傳播神經網絡[3],是一種按照誤差逆傳播算法訓練的多層前饋神經網絡。BP神經網絡屬于有導師學習方法,學習規則為δ學習規則[4]。這種網絡的結構簡單、學習效果好、泛化能力強,是目前最重要的神經網絡之一[5-7]。但BP神經網絡采用的是一種基于梯度下降的算法,因此不可避免地存在訓練時間長、收斂速度慢、容易陷入局部最優等缺陷。

遺傳算法(genetic algorithms,GA)以達爾文生物進化論“適者生存,優勝劣汰”的自然法則為基礎,通過模擬生物的進化過程搜索最優解[8]。用遺傳算法優化問題時,首先在可行域中隨機生成一組初始解作為進化的第一代群體,群體中的每一個個體稱為染色體,并按照預先設定的編碼規則對各個染色體進行編碼,形成字符串。編碼完成后,按照一定的概率對個體進行選擇、交叉和變異等遺傳操作,產生下一代新的種群,完成了一次遺傳過程[9]。在選擇個體的時候,通過個體對環境的適應程度來評價染色體的好壞。適應程度越高,被選擇的機率越高,而適應程度低的則有可能直接被淘汰。每經歷一次遺傳過程,都會使每一代新的種群比上一代種群更加適應環境,直到末代種群滿足條件為止結束,解碼后的末代種群的最優個體便可看作問題的近似最優解[10]。遺傳算法是一類隨機算法,但它不是簡單的隨機計算,而是能自動獲取和指導優化的搜索空間,可以自適應地調整搜索方向,不需要確定規則[11]。另外,遺傳算法還有全局尋優能力強和隱含并行性等優點,從而避免陷入局部極小。因此,將神經網絡與遺傳算法結合起來,充分利用BP神經網絡的局部尋優和遺傳算法的全局尋優,能有效提高網絡的學習性能和收斂性[12]。

1 遺傳算法優化BP神經網絡

遺傳算法與神經網絡的結合[13]主要有輔助式結合和合作式結合。輔助式結合一般是通過遺傳算法對數據進行預處理,然后利用神經網絡求解問題,或者如模式識別利用遺傳算法進行特征提取,再用神經網絡進行訓練識別。合作式結合是指同時用遺傳算法與神經網絡對問題求解,主要有3種方式:①直接用遺傳算法優化神經網絡的拓撲結構;②將神經網絡的拓撲結構固定,利用遺傳算法確定網絡的權值;③ 利用遺傳算法優化BP網絡的學習規則。本系統主要采用第2種優化方式。利用遺傳算法優化BP神經網絡的權值的基本過程如下:

1.1 確定編碼方式和初始化群體

采用遺傳算法優化BP神經網絡的權值。在BP神經網絡中,不同的初始權值可能產生不同的解,也可能會對訓練時間、收斂性以及泛化誤差造成很大的差異。傳統的神經網絡權值獲取是通過某種確定的變化規則,利用訓練結構的誤差函數不斷進行調整,最終得到一個較好的權值分布。BP神經網絡的算法是基于梯度下降的方法,它對網絡的初始權值相當敏感,在訓練的過程中,相關參數選取不當就可能導致網絡不能收斂或者因收斂速度慢而訓練時間過長,同時又極易陷入局部極小而無法得到好的權值分布。遺傳算法雖然不能尋得最優,但總能找到更優解,用它來優化神經網絡的連接權可有效克服上述問題[14]。

利用遺傳算法優化BP神經網絡的權值和閾值,首先要確定一種編碼方案。遺傳算法有很多種編碼方案,二進制編碼是最常用的一種。這種編碼方式實現簡單,但有可能將神經網絡的權、閾值(連續參數)離散化,也會造成編碼字符串過長,且在將二進制的字符串轉化為實數時可能會產生一定的誤差,從而影響網絡的學習精度。實數編碼則不僅能將神經網絡的權、閾值直觀地表現出來,同時還提高了學習的精度以及計算的速度,克服了二進制編碼帶來的負面影響。編碼方式確定之后,隨機生成幾十個到上百個初始個體,每一個個體代表神經網絡的一個初始權值,且這些權值的初始范圍為(-1,1)。

本文采用實數編碼,編碼的方式是將神經網絡的權值和閾值按照一定的順序級聯成一個字符串。例如,圖1所示的遺傳算法編碼方案就是按照從輸入到輸出、從上到下的方式排列,字符串上的每個值代表網絡上的權值或閾值。

圖1 遺傳算法的編碼方案

1.2 適應度函數

遺傳算法利用適應度函數來評估個體的生存能力。BP神經網絡用實際輸出與期望輸出之間的均方誤差平方(mse)來評估網絡的好壞,均方誤差越小越好。遺傳算法與神經網絡結合,常使用輸出誤差平方和的倒數作為染色體的適應度函數:首先以訓練樣本集作為輸入對神經網絡進行訓練,求出實際輸出與期望輸出的均方誤差,找到最大誤差,記為msemax。染色體的適應度函數見如式(1)。

式(1)和式(2)中:mse為實際輸出與期望輸出的均方誤差;N為訓練樣本總個數;d為網絡的期望輸出;y為樣本的實際輸出;fitness為網絡權閾值對應的適應度函數,當fitness與1相近時,可認為訓練已達到網絡的基本要求。

2 遺傳算法優化神經網絡權值的流程

遺傳算法優化神經網絡的步驟:

1)確定一個編碼方式,對BP神經網絡的權值和閾值進行編碼,并按照一定的順序級聯起來組成一個染色體。隨機生成N個這樣的染色體群體,開始訓練神經網絡。

2)對當前群體進行遺傳操作,生成新的下一代群體,計算網絡的輸出,并求出每個染色體的適應度。

3)對神經網絡進行性能評估,若達到一定精度,則轉入步驟4),否則保留最優個體并返回步驟2)。

4)計算網絡輸出,對神經網絡的性能進行評估,檢查評估結果是否達到精度要求,若達到則保存網絡的權閾值及神經網絡的輸出結果,訓練結束,否則繼續步驟5)。

5)計算網絡的正向誤差及反向誤差,根據誤差調整網絡的權、閾值,并返回步驟4)。

圖2 遺傳算法優化神經網絡流程

3 系統設計和實驗仿真

3.1 系統設計

實驗環境基于Matlab 7.0平臺實現。實驗采用的語音數據在實驗室環境下自行錄制,錄制的語音內容為數字“0~9”和字母“A~Z”。每個語音分兩次錄音,兩次錄音的時間間隔為1周。選取第1次收錄的數字“0”~“6”共7個語音作為訓練語音樣本,其余作為測試語音樣本。本次語音的格式為wav格式,采樣頻率為8 kHz,預加重系數為0.937 5。采用采樣窗長為 32 ms(256點),幀移為16 ms(128點)的漢明窗對語音分幀。用雙門限檢測法對語音進行端點檢測,濾除靜音段,僅保留有聲段。對這些語音信號進行處理之后,對每個語音提取特征參數。本文采用MFCC算法對語音提取12維的特征參數,即每幀信號用12維的矢量序列表示。

大量實驗結果表明:在解決一般問題時,對于一個3層的BP神經網絡,當它的隱層神經元足夠多時,這個網絡足以逼近任意的有理函數和無理數,增加神經網絡的隱藏神經元個數只會加大網絡的負責度和計算量。因此,系統選擇一個3層BP網絡即可滿足要求。隱層的神經元個數可以參考以下公式進行確定:

其中:S1為隱層神經元個數;n為輸入神經元個數;l為輸出神經元個數;α為1~10之間的自然數。在一定范圍內改變S1,用同一訓練樣本集對網絡進行學習,可從中確定網絡誤差最小時所對應的隱層神經元個數。也可以改變隱層神經元的個數,不斷對系統進行訓練,選擇總體誤差最小時所對應的個數。

BP神經網絡輸入層神經元與樣本的維數相關,所以確定輸入層神經元個數為12個。對于說話人確認系統,識別結果只有正確和錯誤兩種,因此可以用一個神經元的輸出“0”和“1”分別代表系統的“錯誤”和“正確”兩個結果。

3.2 實驗仿真

對說話人辨認系統進行訓練。圖3為神經網絡的訓練性能曲線,其中縱坐標表示神經網絡的誤差精度,橫坐標表示神經網絡達到誤差精度時所需訓練的次數,即訓練步長。從圖3可以看出:當網絡收斂到目標誤差0.000 1時,共訓練了68次。圖4為系統的訓練過程和識別結果,可見0.194 7為系統的總體誤差。

BP神經網絡的參數保持不變,利用遺傳算法對網絡的權值和閾值進行優化。圖5為GA-BP網絡對說話人確認系統的網絡訓練性能曲線,系統所用的訓練樣本和測試樣本與上一個系統相同。從圖5可以看出:系統達到精度要求時,只訓練了12次。圖6為系統的訓練過程和識別結果,可以看到系統的總體誤差為0.149 6。

圖3 神經網絡訓練性能曲線

圖4 訓練過程和識別結果

圖5 GA-BP網絡對說話人確認系統的網絡訓練性能曲線

圖6 訓練過程和識別結果

對比圖3和圖5發現:在利用遺傳算法對BP神經網絡的權值和閾值進行優化后,系統在達到精度要求時,訓練的次數從68次減少到了12次,說明優化后的系統加快了收斂速度,減少了系統的訓練時間。對比圖4和圖6發現:優化后系統的總體誤差也有所降低。表1為幾種說話人識別方法的識別率比較,提取的特征參數為 MFCC參數。

表1 幾種說話人識別方法的識別率比較 %

從表1可以看出:GA-BP網絡的識別率最高,說明利用遺傳算法優化BP神經網絡能有效地提高原有系統的識別率。

4 結束語

BP神經網絡采用的是基于梯度下降的算法,主要存在收斂速度慢和容易陷入局部最優兩個問題;而遺傳算法的特點是同時使用多個搜索點進行搜索,使用概率搜索技術進行隨機搜索,它不依賴于具體的問題,只需要給出問題的目標函數作為搜索信息。遺傳算法的這些特點恰好能夠彌補BP神經網絡的缺陷,因此,利用遺傳算法優化BP神經網絡的權、閾值能有效克服BP網絡易陷入局部極小的這一問題。在說話人識別系統中,利用遺傳算法優化BP神經網絡的權值和閾值后,不僅能減少網絡的收斂次數,加快網絡的訓練時間,還能降低系統的總體誤差,提高系統的識別率。

[1]劉雪燕,張娜,袁寶玲.說話人識別綜述[J].電腦知識與技術,2009,5(1):169 -171.

[2]田雨波.混合神經網絡技術[M].北京:科學出版社,2009:104-148.

[3]張蕾,普杰信,范慶輝.基于遺傳算法和BP網絡的物體識別方法[J].計算機工程與設計,2008,29(7):1785-1788.

[4]潘昊,王曉勇,陳瓊,等.基于遺傳算法的BP神經網絡技術的應用[J].計算機應用,2005,25(12):2777-2779.

[5]李紅連.BP神經網絡在車輛組合導航中的應用研究[J].壓電與聲光,2011,33(1):45 -48.

[6]張朋,陳明,何鵬舉.聲表面波CO氣體傳感器溫度誤差補償方法研究[J].壓電與聲光,2010,32(1):3-6,22.

[7]張銀雪,賈振紅,蔣海軍.基于PSO和改進神經網絡的圖像濾波方法的研究[J].激光雜志,2009,30(4):34-36.

[8]王國超,吳慶林.基于遺傳優化模糊PID高壓共軌系統噴油量的控制算法[J].重慶理工大學學報:自然科學版,2012,26(11):17 -22.

[9]李建珍.基于遺傳算法的人工神經網絡學習算法[J].西北師范大學學報:自然科學版,2002,38(2):33-37.

[10]楊梅,卿曉霞,王波.基于改進遺傳算法的神經網絡優化方法[J].計算機仿真,2009,26(5):198 -201.

[11]鄭衛燕.基于遺傳算法的網絡優化研究及其應用[D].哈爾濱:哈爾濱工程大學,2008.

[12]李享梅.改善遺傳神經網絡性能的研究[J].儀器儀表用戶,2007(2):13-14.

[13]范巧艷,艾斯卡爾·艾木都拉.遺傳算法優化RBF網絡的圖像雜波抑制技術研究[J].激光雜志,2010,31(2):11-13.

[14]羅鍵,劉軍祥.一種基于遺傳算法的新型神經網絡設計[J].系統工程理論與實踐,2001(10):42-46.

猜你喜歡
優化系統
Smartflower POP 一體式光伏系統
工業設計(2022年8期)2022-09-09 07:43:20
超限高層建筑結構設計與優化思考
房地產導刊(2022年5期)2022-06-01 06:20:14
民用建筑防煙排煙設計優化探討
關于優化消防安全告知承諾的一些思考
一道優化題的幾何解法
WJ-700無人機系統
由“形”啟“數”優化運算——以2021年解析幾何高考題為例
ZC系列無人機遙感系統
北京測繪(2020年12期)2020-12-29 01:33:58
基于PowerPC+FPGA顯示系統
半沸制皂系統(下)
主站蜘蛛池模板: 真实国产乱子伦视频| 成人午夜天| 国产成人久久综合777777麻豆| 色综合天天视频在线观看| 欧美激情视频二区| 日a本亚洲中文在线观看| 无码'专区第一页| 亚洲品质国产精品无码| 国产视频你懂得| 无码一区二区三区视频在线播放| 天堂网亚洲系列亚洲系列| 国产69囗曝护士吞精在线视频| 国产日韩AV高潮在线| 国产精品浪潮Av| 粗大猛烈进出高潮视频无码| 91午夜福利在线观看精品| 亚洲全网成人资源在线观看| 亚洲一区二区精品无码久久久| 欧美人人干| 岛国精品一区免费视频在线观看| 免费人成视网站在线不卡| 国模沟沟一区二区三区| 亚洲黄色成人| 国产亚洲精品在天天在线麻豆| 69精品在线观看| 2020国产免费久久精品99| h网址在线观看| 午夜免费视频网站| A级毛片高清免费视频就| 香蕉国产精品视频| 18禁色诱爆乳网站| 国产视频大全| 亚洲欧美人成电影在线观看| 无码乱人伦一区二区亚洲一| 毛片在线播放a| 久久国产精品无码hdav| 毛片网站在线看| 香蕉久久国产精品免| 日韩欧美国产另类| 成年午夜精品久久精品| 色综合天天综合| 亚洲天堂福利视频| 日韩中文欧美| 三上悠亚在线精品二区| 亚洲欧美日韩动漫| 日韩欧美国产区| 国产视频自拍一区| 国产成人精品一区二区不卡| 国产菊爆视频在线观看| 亚洲日本韩在线观看| 婷婷综合在线观看丁香| 一级毛片中文字幕| 少妇精品网站| www.亚洲国产| 天天综合网亚洲网站| 999在线免费视频| 看你懂的巨臀中文字幕一区二区| 久久久黄色片| 黄色在线网| 亚洲第一页在线观看| 日本人又色又爽的视频| 亚洲无线一二三四区男男| 国产精品白浆无码流出在线看| 亚洲中文精品人人永久免费| 色屁屁一区二区三区视频国产| 91在线丝袜| 亚洲区视频在线观看| 五月婷婷亚洲综合| 99精品伊人久久久大香线蕉| 亚洲国内精品自在自线官| 久久无码av三级| 丁香亚洲综合五月天婷婷| 爆乳熟妇一区二区三区| 久久精品国产亚洲麻豆| 亚洲制服丝袜第一页| 欧美成人亚洲综合精品欧美激情| 亚洲中文字幕在线一区播放| 高潮毛片免费观看| 日本三级精品| 日本五区在线不卡精品| 无码人妻免费| 亚洲欧洲综合|