基于小波變換和GRU神經(jīng)網(wǎng)絡(luò)的系泊纜力預(yù)測

宋旭東，王雪,伊衛(wèi)國

(大連交通大學(xué) 軟件學(xué)院，遼寧 大連 116028)*

近幾年隨著海上運(yùn)輸業(yè)的迅猛發(fā)展，船舶建造噸位不斷變大，停泊大型船舶的開放式碼頭數(shù)量隨之持續(xù)性增長，伴隨而來船舶停靠碼頭時(shí)斷纜事故發(fā)生幾率增高.開放式碼頭船舶系纜力受到多方面因素(風(fēng)、浪、流等)的影響，僅靠人為經(jīng)驗(yàn)判斷船舶系泊安全以避免斷纜事故的發(fā)生是極不可靠的，因此對船舶纜繩進(jìn)行受力情況分析，預(yù)測下一階段纜繩纜力值是否在纜繩可承受范圍內(nèi)是保障生產(chǎn)安全不能缺少的一個(gè)環(huán)節(jié).考慮到船舶停靠時(shí)纜繩受力曲線非線性顯著的特點(diǎn)，在本文中選用小波變換對纜力值數(shù)據(jù)進(jìn)行處理后再使用GRU神經(jīng)網(wǎng)絡(luò)通過以往數(shù)據(jù)進(jìn)行下一時(shí)間段數(shù)據(jù)的預(yù)測.

將小波變換用于處理非線性顯著的數(shù)據(jù)這種情況在許多領(lǐng)域已得到了廣泛應(yīng)用.文獻(xiàn)[1]中使用小波變換進(jìn)行數(shù)據(jù)處理后提取特征值放入BP神經(jīng)網(wǎng)絡(luò)中進(jìn)行船舶分類的工作.文獻(xiàn)[2]中將小波變換應(yīng)用于圖像處理技術(shù)，將圖片進(jìn)行三層分解后的高頻系數(shù)作為輸入值錄入到CNN神經(jīng)網(wǎng)絡(luò)中進(jìn)行處理，處理后的數(shù)值通過小波重構(gòu)最終得解，該模型對圖片的降噪明顯好于先前提出的各類模型.文獻(xiàn)[3-4]均采用RNN(Recurrent Neural Networks,循環(huán)神經(jīng)網(wǎng)絡(luò))中的LSTM(Long Short Term Memory,長短期記憶網(wǎng)絡(luò))進(jìn)行預(yù)測.

在文獻(xiàn)[5]中提出了包含GRU(Gated Recurrent Unit，基于門控循環(huán)單元的網(wǎng)絡(luò))等多種神經(jīng)網(wǎng)絡(luò)結(jié)合的算法用于時(shí)間序列的預(yù)測，文獻(xiàn)[6]中使用特定電子系統(tǒng)對原始數(shù)據(jù)進(jìn)行處理后放入GRU神經(jīng)網(wǎng)絡(luò)進(jìn)行了學(xué)習(xí)績效預(yù)測.

文獻(xiàn)[7]通過BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)船舶系泊方式的最優(yōu)方案.文獻(xiàn)[8-9]對船舶在多因素影響下運(yùn)動姿態(tài)進(jìn)行了預(yù)測.文獻(xiàn)[10]中對船舶停靠碼頭的系泊纜力在不同條件因素下纜繩受力做了實(shí)時(shí)監(jiān)控，在系泊作業(yè)中隨著船舶載重的變化以及人為操作等實(shí)際因素進(jìn)行分析，將得到的實(shí)測數(shù)據(jù)進(jìn)行了多方面的分解分析對比，得出了船舶停靠時(shí)哪些位置上的纜繩受力變化區(qū)間較大等一系列結(jié)論.

1 小波變換和循環(huán)神經(jīng)網(wǎng)絡(luò)

1.1 小波變換

小波變換常用于信號分析和圖像處理，是一種由傅里葉變換演變來的可以同時(shí)提供信號在時(shí)域和頻域中的信息的一種新的變換分析方法.

(1)

a,b∈R;a>0，其中a、b分別為ψ(t)的伸縮因子和平移因子.由此可知ψa,b(t)是由母小波ψ(t)經(jīng)過伸縮平移變換后得到的函數(shù).對于任意函數(shù)f(t)∈L2(R)的連續(xù)小波變換可表示為：

(2)

1.2 循環(huán)神經(jīng)網(wǎng)絡(luò)

RNN相較于其余的神經(jīng)網(wǎng)絡(luò)它像人一樣具有記憶功能，與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)(CNN)不同的是，RNN可以利用“序列信息”.在結(jié)構(gòu)上表現(xiàn)為，隱藏層的輸入不但像普通神經(jīng)網(wǎng)絡(luò)一樣包括上一層的輸出，還包含上一時(shí)刻隱藏層的輸出，即隱藏層節(jié)點(diǎn)之間也是具有連接的，從而完成了對前面信息的記憶，并使之影響當(dāng)前的輸出.

圖1為RNN循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖，其中x為輸入序列，o為輸出序列，L是損失用以衡量每個(gè)o與相應(yīng)的訓(xùn)練目標(biāo)y的距離，h代表當(dāng)前隱藏狀態(tài).輸入到隱藏的連接、隱藏到隱藏的循環(huán)鏈接、隱藏到輸出的連接分別由權(quán)重矩陣U、W、V參數(shù)化.不過傳統(tǒng)的RNN在訓(xùn)練長期依賴(long-termdependencies)的時(shí)候會遇到很多困難，最常見的就是梯度消失(vanish gradient) 問題.為解決該問題提出了門控RNN(Gated RNN).

2 預(yù)測模型設(shè)計(jì)

2.1 模型設(shè)計(jì)

由于船舶系纜力序列的非平穩(wěn)性，直接對纜力序列進(jìn)行預(yù)測勢必會影響預(yù)測精度.為提高預(yù)測準(zhǔn)確性本模型中先運(yùn)用Daubechies小波對系纜力序列作預(yù)處理，得到處理后的細(xì)節(jié)序列；將得到的細(xì)節(jié)序列放入循環(huán)神經(jīng)網(wǎng)絡(luò)GRU中分別進(jìn)行網(wǎng)絡(luò)訓(xùn)練，再將GRU訓(xùn)練后得到的各序列進(jìn)行小波重構(gòu)疊加獲得船舶系纜力序列穩(wěn)定的模擬預(yù)測模型,如圖2所示.預(yù)測模型和具體的預(yù)測步驟如下：

Step1：對原始纜力數(shù)據(jù)進(jìn)行分解，分解層數(shù)為n，得到與之對應(yīng)的n條細(xì)節(jié)序列分別為d1，d2，d3，……，dn.

Step2：將得到的細(xì)節(jié)序列d1，d2，d3，……，dn分別放入GRU神經(jīng)網(wǎng)絡(luò)中進(jìn)行預(yù)測，得到與之相應(yīng)的預(yù)測結(jié)果的D1，D2，D3，……，Dn.

Step3：將得到的預(yù)測結(jié)果D1，D2，D3，……，Dn經(jīng)過小波重構(gòu)得到最終的預(yù)測數(shù)據(jù)f(t)，小波重構(gòu)數(shù)學(xué)表達(dá)式為：

(3)

小波重構(gòu)需要滿足容許條件：

(4)

2.2 Daubechies(dbN)小波

同傅里葉函數(shù)不同，小波函數(shù)不是唯一的，根據(jù)母函數(shù)的不同，小波變換的結(jié)果也不盡相同.本文中選用了Daubechies小波(dbN緊支集正交小波).而沒有選用與其極為相似的 Symlets小波(symN近似對稱的緊支集正交小波).

dbN和symN中N是小波的階數(shù)，小波函數(shù)ψa,b(t)和尺度函數(shù)(基本小波)φ(t)的支撐區(qū)為2N-1，ψa,b(t)的消失矩為N.N越大消失矩階數(shù)越大，消失矩越高光滑性就越好，頻域的局部化能力就越強(qiáng)，頻帶劃分效果越好，弊端在于N越大會使時(shí)域的緊支撐性減弱，計(jì)算量增加，實(shí)時(shí)性變差.symN小波相較于dbN小波，處理一些數(shù)據(jù)時(shí)具有更好的對稱性，能夠在一定程度上減少對信號進(jìn)行分析和重構(gòu)時(shí)的相位失真.

2.3 GRU循環(huán)神經(jīng)網(wǎng)絡(luò)

在實(shí)際應(yīng)用中最有效的門控RNN分別是LSTM和GRU.LSTM改進(jìn)了普通RNN的隱藏層，經(jīng)過3個(gè)不同的門即遺忘門、輸入門和輸出門來結(jié)合前面的狀態(tài)、當(dāng)前的輸入和當(dāng)前的記憶，然后使用了不同的函數(shù)來計(jì)算隱藏層的狀態(tài).GRU保留了LSTM構(gòu)架中真正需要的部分更新門zt(LSTM中遺忘門和輸入門的結(jié)合)，同時(shí)還設(shè)計(jì)了允許網(wǎng)絡(luò)動態(tài)控制時(shí)間尺度和不同單元的遺忘行為的重置門rt.

本文選擇使用GRU循環(huán)神經(jīng)網(wǎng)絡(luò)是因?yàn)樗晟屏薒STM所擁有的的功能的同時(shí)還簡化了構(gòu)架提高了運(yùn)算速度.圖3中的各個(gè)部分滿足式子如下：

zt=σ(Wzxt+Uzht-1)

(5)

rt=σ(Wrxt+Urht-1)

(6)

(7)

(8)

更新門zt的作用是決定上一層隱藏層狀態(tài)ht-1中有多少信息傳遞到當(dāng)前隱藏狀態(tài)ht中，重置門rt決定上一時(shí)刻隱藏狀態(tài)的信息中有多少是需要被遺忘的.

3 預(yù)測方法與分析

3.1 實(shí)驗(yàn)背景

船舶系纜力所受影響因素是多方面的，除了主要的影響因素風(fēng)、浪、流以外還受到纜繩材質(zhì)和系纜方式等方面影響.單個(gè)船舶的停靠需要多個(gè)纜繩的共同作用，本實(shí)驗(yàn)數(shù)據(jù)將采用纜繩初始受力較大，且方差值顯著的船舶首倒纜所受到的力進(jìn)行預(yù)測.本實(shí)驗(yàn)所用算法的編寫均在Eclipse開發(fā)平臺下使用Java語言實(shí)現(xiàn)，運(yùn)行得到實(shí)驗(yàn)數(shù)據(jù)后錄入Excel表格中進(jìn)行對比.本文實(shí)驗(yàn)中小波變換階數(shù)的選擇經(jīng)過多次更改算法對比結(jié)果最終確認(rèn)為4.因此通過小波變換我們會得到4條細(xì)節(jié)序列放入GRU中進(jìn)行預(yù)測，預(yù)測數(shù)據(jù)在通過小波重構(gòu)最終得到.

將文獻(xiàn)[9]中實(shí)測得到的112條船舶系纜力數(shù)據(jù)分為兩組，前100條數(shù)據(jù)作為樣本數(shù)據(jù)，后12條數(shù)據(jù)作為測試集進(jìn)行實(shí)驗(yàn)，開始讀數(shù)時(shí)刻設(shè)為1，以此類推.每進(jìn)行一次讀數(shù)的間隔時(shí)間為120s.圖4說明了本次模型預(yù)測中的112條真實(shí)數(shù)據(jù)曲線變化情況.

首先分別將數(shù)據(jù)通過Symlets小波和Daubechies小波進(jìn)行處理后放入GRU神經(jīng)網(wǎng)絡(luò)中進(jìn)行預(yù)測得到的結(jié)果進(jìn)行對比，對比結(jié)果如圖5所示，從圖中可以看出相較于Symlets小波，Daubechies小波作為母函數(shù)處理數(shù)據(jù)后預(yù)測的效果更好，因此本預(yù)測模型中選用了Daubechies小波.

將原始系纜力數(shù)據(jù)通過Daubechies小波變換進(jìn)行分解，分解得到的4條數(shù)據(jù)分別放入GRU神經(jīng)網(wǎng)絡(luò)中進(jìn)行預(yù)測，最后將數(shù)據(jù)進(jìn)行小波重構(gòu)得到最終的預(yù)測結(jié)果.將最終預(yù)測結(jié)果與真實(shí)的系泊纜力數(shù)據(jù)直接放入GRU神經(jīng)網(wǎng)絡(luò)中得到的結(jié)果進(jìn)行比對，驗(yàn)證預(yù)測模型的準(zhǔn)確性.實(shí)驗(yàn)結(jié)果見圖6所示.

3.2 預(yù)測結(jié)果分析

從實(shí)驗(yàn)得到的結(jié)果中可以清晰地看到，將數(shù)據(jù)直接使用GRU神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測得到的數(shù)據(jù)與真實(shí)數(shù)據(jù)相比較變換曲線較為一致但不能忽略在某些時(shí)刻誤差過大的事實(shí)，在實(shí)際應(yīng)用中這種誤差存在的風(fēng)險(xiǎn)不能被忽視.而本預(yù)測模型中經(jīng)過小波變換后的數(shù)據(jù)使用GRU神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測得到的結(jié)果與真實(shí)數(shù)據(jù)相比整體上差值較小，應(yīng)用方面風(fēng)險(xiǎn)較小，具有實(shí)際應(yīng)用的價(jià)值.

4 結(jié)論

本文提出了一種數(shù)據(jù)經(jīng)過小波變換處理后基于循環(huán)神經(jīng)網(wǎng)絡(luò)GRU的系纜力預(yù)測模型.受多方面因素影響系纜力數(shù)據(jù)的非線性特征顯著，將小波變換的思想融入到循環(huán)神經(jīng)網(wǎng)絡(luò)中能夠較為準(zhǔn)確地預(yù)測下一時(shí)刻數(shù)據(jù).相較于直接通過循環(huán)神經(jīng)網(wǎng)絡(luò)預(yù)測未經(jīng)處理的系纜力數(shù)據(jù)，本文提出的預(yù)測模型更為可取，可考慮應(yīng)用于工程實(shí)踐中去.

后續(xù)的工作將繼續(xù)研究該模型，通過該模型預(yù)測船舶所有纜繩的纜力，在本文實(shí)驗(yàn)的基礎(chǔ)上添加仿真作業(yè)增大循環(huán)網(wǎng)絡(luò)錄入的數(shù)據(jù)量驗(yàn)證大數(shù)據(jù)情況下該模型的準(zhǔn)確率，還將嘗試在Hadoop平臺上進(jìn)行實(shí)驗(yàn).