基于改進果蠅的混合小波神經網絡交通流預測

宋瑞蓉， 王斌君*， 仝 鑫, 劉文懋

(1.中國人民公安大學 信息技術與網絡安全學院， 北京 100038； 2.綠盟科技集團股份有限公司， 北京 100089)

當今社會，隨著汽車占有量的爆炸式增長，交通擁堵成了困擾中國乃至世界的重大課題。在人們對于便捷出行要求日益增強與道路交通壓力逐漸增大的沖突之下，智能交通系統得到了極大的促進與發展。精準的交通流量預測是完善智能交通系統的重點和難點研究技術之一。交通流量預測是指通過對已有觀測數據規律的研究，預測未來時刻的交通流量，從而便于人們進行出行選擇和計劃，同時也有利于交通管理部門對路面交通開展科學地統一調度、調配和管理。

現有文獻對交通數據預測展開了廣泛地研究，大致可分為以下五類：線性理論模型、智能理論模型、交通仿真模型、組合理論模型和非線性理論模型[1]。線性理論模型是利用線性的數學關系完成時間序列的遞推。其中，最常見的為差分整合移動平均自回歸模型(autoregressive integrated moving average model,ARIMA)，該方法在早期交通預測中被大量使用。Liu等[2]將ARIMA作為組合模型長期短期記憶神經網絡和時間序列自回歸綜合移動平均模型的組成部分對交通流進行預測，相較于單一模型提高了預測精度。卡爾曼濾波是最近應用較為廣泛的線性理論模型，最初應用于系統狀態估計，現在經常被用于時間序列數據的預測。周曉等[3]使用卡爾曼濾波對道路平均速度進行預測，同時考慮了該路段上下游車輛的平均速度因素，使得模型能夠同時提取和關注數據的時間和空間特征。智能模型以神經網絡模型為主，以其對數據擬合能力強且能夠關注到數據間復雜的依賴關系而被廣泛適用于各種領域。Ran等[4]使用卷積神經網絡進行交通時間預測，同時提出了一種新的局部接受域，用來限制歷史數據與待預測信息間的依賴關系，并結合注意力機制對卷積之后的結果進行自適應關注，增強模型對特征的提取能力。文獻[5]將長短期記憶網絡與注意力機制相結合對交通時間進行預測，與其他基線方法相比，該模型表現出了更好的預測能力。常見的交通仿真模型有自動分配理論、元胞自動機模型[1]。文獻[6]中應用元胞自動機模型對航道內區域的船舶交通流進行預測建模，使用概率模型對航道外區域進行建模，從而完成對港口水域的交通流預測。交通數據中存在復雜的線性和非線性關系，所以單一模型往往無法提取到交通數據的全部特征，組合模型是通常采用的策略。文獻[7]提出了基于CNN-ResNet-LSTM的網絡結構，綜合不同網絡的優勢，卷積神經網絡(convolution neural network, CNN)提取空間特征，長短期記憶(long short-term memory，LSTM)網絡提取時間特征，殘差單元ResNet用于加深網絡深度，提高了網絡的特征提取能力。Liu等[8]建立了基于(LSTM)網絡和人工神經網絡(artificial neural network，ANN)的混合神經網絡，將時間特征與空間特征相融合，并建立時間滾動窗完成數據的更新和遺忘，從而對公交車到達時間進行有效的預測。文獻[9]使用LSTM網絡將天氣因素考慮在內從而對交通流做出更準確的預測。文獻[10]提出了組合模型S-GCN-GRU-NN以預測短期交通流速度。其中，使用時空圖卷積網絡(spatiotemporal graph convolutional network,S-GCN)模型來獲取復雜的時空相關性，并將門控回歸單元神經網絡(gated recurrent units-neural network,GRU-NN)模型用于短期交通速度預測。綜上可以看出，組合模型是當前研究的熱點方向，由于其可以綜合不同模型優勢，提取到更加全面的特征，從而被廣泛應用。

智能優化算法是一種用來尋找目標函數全局最優值的方法，現常與深度學習網絡相結合，能達到對網絡模型的初始參數進行調優的效果。在果蠅優化算法、狼群算法、灰狼優化算法、蝴蝶算法等常見的智能優化算法中，果蠅算法(fruit fly optimization algorithm，FOA)表現突出，該算法于2011年由Pan[11]提出，模擬果蠅的覓食行為，從而尋找全局的最優解。文獻[12]對果蠅算法進行了優化并用于交通流量預測，首先采用并行搜索策略和均勻交叉算子，提高了搜索范圍和群間的通信能力。同時，提出了果蠅源分配策略來計算每群在下一次迭代中產生的果蠅數量。文獻[13]為了克服基本果蠅優化算法的缺點，采用了免疫算法的自非自抗原識別機制和免疫系統的學習-記憶-遺忘知識處理機制,提高了果蠅優化算法的穩定性。文獻[14]將果蠅算法中向優勢個體聚集改進為向優勢群體聚集，同時對聚集方法和搜索半徑進行了優化。張鑄等[15]提出了一種新型混沌步長果蠅優化算法，改進了果蠅算法中固定步長的缺陷。李春等[16]對搜索半徑進行了動態優化改進，同時在適應度函數中增加了逃脫系數，提高了果蠅算法的局部和全局搜索能力。

選擇適合于時序數據特征提取的小波神經網絡進行交通流量預測，并使用果蠅算法對小波神經網絡中的大量初始參數進行調參處理，解決了初值敏感問題。同時，對果蠅算法進行了改進，在保證搜索精度的同時提高搜索效率。此外，采取了組合模型的思路進行了誤差二次提取，彌補了單一模型無法提取到數據間的復雜關系，從而導致預測精度不高的缺陷。下面分別進行闡述，與讀者商榷。

1 相關工作

為了清晰地闡述本文對小波神經網絡預測模型的改進，下面先對已有小波神經網絡和果蠅優化算法的核心內容進行簡要地表述。

1.1 小波神經網絡

交通流量數據中隱含著復雜的非線性關系，神經網絡對于這種復雜關系具有很好的提取能力。小波神經網絡(wavelet neural network，WNN)在人工神經網絡的基礎上結合了小波變換技術，激活函數采用小波基函數，輸出層對所選取的小波基函數進行加權求和。相較于BP(back propagation)神經網絡而言，小波神經網絡能夠簡化網絡的訓練，在時序數據預測方面往往表現更加突出。

小波神經網絡隱含層的輸出表示為

(1)

式(1)中：h(x)為隱含層所選取的小波基函數；wij為輸入層與隱含層之間的權重系數；aj為小波基函數的伸縮因子；bj為平移因子；hj為隱含層神經元的輸出。

小波神經網絡輸出層的計算公式為

(2)

式(2)中：wjk為隱含層與輸出層之間的權重系數；yk為小波神經網絡的輸出值。

式(1)、式(2)中的權重參數wij和wjk、小波伸縮因子aj以及小波平移因子bj均采用誤差反向傳播，通過梯度下降的方法不斷迭代更新得到，但初始值需要在模型訓練前進行設定。小波神經網絡對參數的初始值較為敏感，所以采用果蠅算法對小波神經網絡的初始參數進行調節，以提高模型的效率和預測能力。

1.2 果蠅優化算法

果蠅優化算法模擬生物界中果蠅的覓食行為，可用于尋找全局最優解。首先初始化果蠅種群，讓果蠅的初始位置在整個空間中隨機分布，并確定距離食物最近的果蠅位置，其他果蠅依據視覺向該果蠅方向移動，從而使整個種群向食物所在的位置靠近。果蠅算法的優點在于運行速率快、簡單易懂并且有很好的收斂性能和全局搜索能力。

步驟一初始化果蠅種群。

首先，初始化果蠅種群數量sizepop、最大迭代次數maxgen以及果蠅位置(X,Y)。果蠅的初始位置采用隨機初始化進行賦值。

文中所優化的參數為權重系數wij和wjk、小波伸縮因子aj及平移因子bj。需要優化的參數數量N的計算公式為

N=inputnum·hiddennum+2·hiddennum+

hiddennum·outputnum

(3)

式(3)中：inputnum代表網絡輸入神經元的個數，hiddennum代表隱含層神經原個數；outputnum代表網絡輸出神經元個數。

步驟二果蠅依嗅覺進行搜索。

為果蠅賦予隨機的搜索方向與范圍，表達式為

(4)

式(4)中：R代表搜索半徑。

步驟三計算位置濃度判定值Si。

根據果蠅的位置來判斷其與食物之間的距離，但由于無法獲取食物的坐標，將果蠅與原點之間距離的倒數作為濃度判定值Si，表達式為

(5)

(6)

步驟四將步驟三所求出的濃度判定值Si代入濃度判定函數，即該問題中的目標函數，求出不同位置的果蠅所對應的氣味濃度，從中選取具有最佳氣味濃度的果蠅，計算式為

(bestSmell,bestIndex)=min[f(Si)]

(7)

式(7)中：bestSmell為本次迭代后最優的氣味濃度；bestIndex為該氣味濃度所對應的索引。文中所選取的濃度判定函數為絕對值誤差，表達式見式(8)所示。

(8)

步驟五將具有最佳濃度的果蠅所在位置設置為本次迭代之后的最佳位置，其他果蠅向該果蠅的位置靠近。

Xaxis=X(bestIndex)

(9)

Yaxis=Y(bestIndex)

(10)

步驟六重復執行上述步驟，若最佳濃度優于上次迭代后的最佳濃度時，執行式(9)、式(10)，更新最佳位置，直到達到最大迭代次數。

2 基于改進果蠅優化算法的混合小波神經網絡預測模型

2.1 模型總體結構

基于改進果蠅的混合小波神經網絡預測模型由三部分組成，分別為改進的果蠅算法、小波神經網絡以及用于誤差二次提取的組合模型。具體模型結構如圖1所示。

圖1 基于改進果蠅的混合小波神經網絡預測模型Fig. 1 Hybrid wavelet neural network prediction model based on improved fruit fly optimization algorithm

步驟一利用改進的果蠅算法搜索初始權重參數和初始小波因子。

步驟二將改進果蠅算法輸出值作為小波神經網絡的初始參數，投入訓練數據后，開始進行模型訓練，輸出預測值及誤差序列。

步驟三將步驟二提取的誤差序列輸入用于誤差提取的組合模型中進行訓練，輸出誤差預測值。

步驟四將步驟二輸出的模型預測序列與步驟三輸出的誤差預測序列疊加，得到經過誤差二次提取后的最終預測結果。

2.2 果蠅優化算法的改進

2.2.1 搜索半徑改進

果蠅優化算法中的搜索半徑R對搜索結果具有重要影響，搜索半徑較大時，有利于進行全局搜索，但會使訓練后期的局部收斂速度下降；半徑較小時，在搜索后期有利于尋找最優值，但在前期容易陷入局部最優。基本果蠅算法中搜索半徑為固定值，這會降低搜索的效率，將搜索半徑動態化可以解決搜索前后期對于搜索半徑的不同需求。

文獻[17]中提出了改進的DS-FOA算法，將迭代次數對于搜索半徑的影響予以考慮，在迭代前期，需要進行全局搜索，搜索半徑較大，到迭代后期，已基本靠近最優值，此時需要縮小搜索半徑，從而通過迭代次數對搜索半徑加以調整，搜索半徑公式為

(11)

式(11)中：Rmax表示最大搜索半徑；Iter表示現在已完成的迭代次數；Itermax代表初始化的最大迭代次數。

式(11)動態化搜索半徑，使得搜索半徑隨迭代次數增加而減小，但也存在一定問題，由于搜索半徑與迭代次數呈一次線性關系，搜索半徑的下降速度保持恒定，使得在迭代初期搜索半徑的下降速度較快。文獻[16]對就針對該缺陷進行了改進，讓搜索半徑在迭代初期保持恒定，在經過一定迭代次數之后開始減小，具體表達式為

(12)

通過設置搜索半徑的衰減因子μ使搜索半徑在迭代初期保持穩定，經過一定迭代次數后，搜索半徑才開始下降，從而解決了上述問題。由于衰減因子μ需要人為設定，且不同μ的取值會對結果造成影響。本文對該方法進行改進，使得搜索半徑在迭代初期可以緩慢下降，在迭代后期快速下降，從而動態調整搜索半徑的減小速率，改進后的搜索半徑表達式為

(13)

改進后的搜索半徑與迭代次數呈二次關系，迭代初期搜索半徑變化程度較小，使得搜索半徑基本保持穩定；迭代后期半徑減小加快，由于此時已接近最優值，減小搜索范圍更有利于尋優。

搜索半徑的變化不僅需要考慮迭代次數，還需考慮當前局部的最優解，若當前局部最優解較差時，需要增大搜索半徑，反之，則需減小搜索半徑。文獻[18]對局部最優解的取值進行考慮，并依此對搜索半徑進行了改進，表達式為

(14)

在實際問題中，某些情況下無法獲知目標最優值，所以對式(14)進行了改進，引入當前局部最優值bestSmell與上次迭代所產生的氣味濃度值f(t)，用兩者比值作為搜索半徑的調整因子，具體表示為

(15)

現有動態搜索半徑的方法中只單一將迭代次數作為調整因子或將當前濃度函數的取值作為調整因子，將改進后的兩種方法進行結合，表示為

(16)

將式(16)代入式(4)中就得到更新之后的果蠅位置，即

(17)

2.2.2 種群數量改進

文獻[18]中引入了可變種群規模策略，種群數量會隨當前函數取值與目標值的比值而發生變化，表達式為

(18)

本模型所選取的氣味函數是將歸一化后的數據經模型訓練所得到的預測值與真實值之間的絕對值誤差，氣味濃度取值較小，式(18)會造成種群數量變化范圍過大，當種群數量取值過大時，會造成算法效率下降，取值過小時則達不到調參的效果。對式(18)進行改進，改進之后的種群數量變化公式為

sizepopt+1=sizepopt0ebestSmell-f(t)

(19)

式(19)中：Smellbest代表當前局部最優值，f(t)代表第t次迭代后氣味濃度的取值，Smellbest-f(t)>0時表示當前的解優于局部最優解，則增加搜索能力，擴大種群規模，反之，當前解較差，減小種群規模。

為了對比兩種方法下種群規模的變化范圍，以AL1053路段為例，將調參過程中種群數量的變化過程分別進行統計。其中，式(18)所代表的種群數量變化公式記為比值法，改進后式(19)所代表的方法記為指數法，兩種方法的實驗結果如圖2所示。

圖2 比值法與指數法種群數量變化對比Fig.2 Comparison of population change between ratio method and index method

由圖2可以看出比值法的種群數量變化范圍為(0，2 500)，當前解較差時，種群數量會降低至個位數，此時，達不到調參的效果；當前解較好時，種群數量會有大幅度增加，此時，會降低算法的運行效率。改進后的指數法種群數量變化范圍為(40，130)，變化范圍較小，種群數量可以保持在合理的預期區間內，可以在保證算法運行效率的同時達到調參的效果。

2.3 誤差二次提取

誤差補償法(error compensation，EC)是提取預測模型的誤差后，再次對誤差進行訓練，得到誤差的預測值，然后將預測值序列與誤差值序列相疊加，從而得到最終的預測結果[19]。

文獻[19]中提到，交通流預測實驗中所得到的誤差通常具有某種規律性，再次使用同一模型進行誤差二次提取可以挖掘到誤差中所隱含的特征信息。文獻[20]將船舶的交通流量數據分為線性和非線性兩部分，采用誤差補償法組合SARIMA模型與BP神經網絡模型，分別用于提取交通流數據中的線性和非線性成分。

將小波神經網絡作為第一個誤差提取模型，分別與小波神經網絡(WNN)、長短期記憶人工神經網絡(LSTM)、雙向長短期記憶人工神經網絡(BiLSTM)、極端梯度提升模型(eXtreme gradient boosting,XGBoost)、隨機森林模型(random forest，RF)使用誤差補償法進行組合。使用小波神經網絡對自身預測的誤差進行二次提取，如文獻[19]中所述，可以提取誤差中的隱含特征。長短期記憶人工神經網絡與雙向長短期記憶人工神經網絡擅長處理時序化數據，與小波神經網絡組合進行誤差二次提取能夠提取到隱含的時序特征。極端梯度提升模型和隨機森林模型與小波神經網絡結構相差較大，與小波神經網絡組合能夠增強預測模型的互補特征提取能力。誤差二次提取的具體模型結構如圖3所示。

圖3 誤差二次提取組合模型Fig.3 Error secondary extraction combination model

3 實驗結果

3.1 交通流數據及其預處理

實驗數據由英國公路局提供和管理。實驗中共選取了10個數據集，分別是道路AL1053、AL1249、AL1251等在2014年1月份上的交通流量數據。實驗數據是通過傳感器等方式獲得，所以存在一定的噪聲，為了使模型預測更加準確，首先應對數據進行降噪處理。

交通流量數據中存在的噪聲通常為高頻信號，可以采用小波變換的方法對數據進行降噪處理。本文采用db4小波對交通流量數據進行了4層分解，將含有噪聲的高頻系數提出，重構小波分解向量，將其中的第一、二層細節分量置零，得到降噪處理之后的交通流量序列。經過降噪處理后的數據序列仍能保留原數據序列的相關趨勢，但可以使得整個序列變得更加平滑，去除測量時的不精確及其他噪聲原因造成的誤差。

采用三層網絡結構的小波神經網絡，輸入層、隱含層及輸出層的神經元個數設置為4、6、1。為權重系數和小波因子設置了不同的學習速率，分別為0.01和0.001。小波基函數為Morlet小波，表達式為

(20)

實驗結果評價用到3個誤差指標分別為均方根誤差RMSE、平均絕對誤差MAE及平均絕對百分比誤差MAPE,計算公式為

(21)

(22)

(23)

3.2 改進果蠅算法實驗結果

使用小波神經網絡(WNN)、經果蠅算法調參的小波神經網絡(FOA_WNN)和本文提出的經改進后的果蠅算法調參的小波神經網絡(FOAC_WNN)3個模型分別在所選的10條不同路段的交通流量數據集上進行實驗，用上述誤差評價指標對實驗結果進行評價，如表1所示。

表1 使用改進果蠅算法調參的實驗結果對比Table 1 Comparison of experimental results using improved fruit fly optimization algorithm

由表1可以看出FOAC_WNN在3種誤差評價指標下均表現出了更好的預測能力。為了更清楚地顯示FOAC_WNN模型對特殊點交通流量預測的優勢，現對交通流量的峰值與低谷值進行觀察，3種模型的對比預測效果如圖4所示。

圖4 交通流量峰值與低估值處的預測結果Fig.4 Prediction results at peak and underestimation of traffic flow

由圖4可以看出，經改進的果蠅算法調參后的小波神經網絡在交通流量峰值處和低谷值處預測效果均優于其他兩種模型，說明該模型能夠擬合各種時間點下的交通流量變化趨勢，并且能夠做出較為精準的預測。

為了觀察這3種模型在所有數據集上預測誤差的離散情況，將結果的MAPE指標繪制為箱線圖，如圖5所示。

由圖5可以看出FOAC_WNN的MAPE指標的中位數、四分位數、上邊緣均低于其他兩個模型，同時預測誤差更為集中，說明該模型在不同數據集上的預測效果更加穩定，且均優于其他兩個模型。

圖5 不同模型MAPE箱線圖對比Fig.5 Comparison of MAPE box diagram of different models

3.3 組合模型實驗結果

為了進一步提高模型預測的準確度，使用前文所述的誤差補償法將經過改進后果蠅算法調參的小波神經網絡(FOAC_WNN)與其他模型相結合，這些模型分別為小波神經網絡(WNN)、長短期記憶人工神經網絡(LSTM)、雙向長短期記憶人工神經網絡(BiLSTM)、極端梯度提升模型(XGBoost)以及隨機森林 (random forest,RF) 模型，使用3種評價指標對實驗結果進行評價，如表2所示。

表2 組合模型預測結果

由表2可以看出經過誤差二次提取，模型的預測準確度均有提高，其中與Bilstm模型、RF模型、XGBoost模型相結合的組合模型預測效果明顯優于其他模型。具體而言，與XGBoost模型相結合的組合模型在RMSE、MAE指標上表現最優，與RF模型相結合的組合模型在MAPE指標上表現最優。綜上而言，這兩種模型在3種誤差指標上相差較小，均可以使用誤差倒排法與經改進果蠅算法調參的小波神經網絡相結合作為交通流量預測的二次誤差提取最佳模型。

4 結論

選用小波神經網絡對交通流量進行預測。由于小波神經網絡對初始權重和小波因子敏感，故選用果蠅優化算法對權重參數和小波因子的初始值進行調節，并且從搜索半徑和種群數量兩個方面對基本果蠅算法進行了改進。實驗證明使用改進后的果蠅算法對小波神經網絡進行參數調節，提高了模型的預測準確度和收斂速度。另外，考慮到交通流量數據中蘊含著復雜的線性和非線性關系，以及小波神經網絡預測誤差蘊含的規律性，進而采用誤差補償法與小波神經網絡、長短期記憶人工神經網絡、雙向長短期記憶人工神經網絡、極端梯度提升模型以及隨機森林模型進行組合，進行誤差的二次提取與補償修正。通過實驗證明，組合模型均能夠提高模型的預測準確度，其中隨機森林模型與經改進果蠅算法調參的小波神經網絡相組合表現出最好的預測效果。

文中只考慮了交通流量的時間特征，尚未考慮空間特征。將時空特征進行融合提取交通流量信息是接下來需要重點進行研究的內容。