基于鯨魚算法優(yōu)化長短期記憶網絡的短期負荷預測

長江大學電子信息學院 劉昊東 鄒必昌

為了解決短期負荷預測精度低、準確性差等問題，采用一種使用鯨魚優(yōu)化算法（WOA）優(yōu)化長短期記憶網絡（LSTM）的短期負荷預測模型。針對模型的參數較難選擇的問題，利用WOA對LSTM模型參數尋優(yōu)。通過實例驗證了預測模型的有效性，結果表明WOA-LSTM比LSTM模型具有更好的效果。

眾所周之，在電力系統(tǒng)中發(fā)電、輸電、用電是同時進行的。由于目前的技術手段無法實現電能的大量儲存，發(fā)電前的負荷預測就顯得十分重要。同時，負荷預測可以提高電網的經濟效益，避免電能的大量浪費，保證電網的安全運行。電力負荷預測一般可以在時間上分為長期、中期、短期負荷預測，其中短期負荷預測是指未來24h到168h每個時刻點的的負荷預測。精確的負荷預測可以提高電網運行的可靠性、安全性、經濟性。

近幾年國內外學者提出很多預測方法，大致可分為傳統(tǒng)統(tǒng)計法和現代預測算法。傳統(tǒng)統(tǒng)計法主要包括：多元線性回歸、趨勢外推法、時間序列法等。隨著智能電網的發(fā)展，負荷數據越來越復雜，傳統(tǒng)統(tǒng)計法難以滿足更高的精度需求。現代預測算法主要包括：支持向量機、BP神經網絡、隨機森林等為代表的人工智能算法。深度學習作為一種新起的研究領域，也廣泛地運用于短期負荷預測。文獻（王永志，劉博，李鈺.一種基于LSTM神經網絡的電力負荷預測方法）提出了一種基于LSTM神經網絡的的電力負荷預測方法。LSTM的模型參數往往需要人為設定，這將直接影響模型的擬合能力，訓練速度，實際效果。為了提高長短期記憶網絡的精度，本文提出使用一種群體智能優(yōu)化算法來優(yōu)化長短期記憶網絡的參數。利用浙江某地的負荷數據進行仿真，結果表明，該方法能夠優(yōu)化模型參數，并有效地提高精度。

1 長短期記憶網絡

為了解決循環(huán)神經網絡的梯度消失和梯度爆炸問題，Hochreiter和Schmidhuber（1997）提出一種特殊的循環(huán)神經網絡——長短期記憶網絡。與循環(huán)神經網絡不同的是，長短期記憶網絡有輸入門、輸出門、遺忘門三個特殊結構，這使得它能記住長期信息。LSTM具有很強的泛化能力，適合處理非線性問題。長短期記憶網絡自誕生以來，就被大量運用于時間序列預測中。其基本結構圖如圖1所示。

2 鯨魚算法

鯨魚優(yōu)化算法(WOA)是一種元啟發(fā)式優(yōu)化算法，一種新的模擬座頭鯨狩獵行為的元啟發(fā)式優(yōu)化算法(鯨魚優(yōu)化算法，WOA)。目前的工作與其他群優(yōu)化算法相比的主要區(qū)別在于，采用隨機或最佳搜索代理來模擬捕獵行為，并使用螺旋來模擬座頭鯨的泡泡網攻擊機制，其包含搜索獵物、包圍獵物和捕食獵物三個階段。

圖1 LSTM基本結構圖

3 基于鯨魚算法優(yōu)化的長短期記憶網絡

鯨魚優(yōu)化算法具有較好的優(yōu)化能力，全局收斂能力，收斂速度快的特點。為了避免人為經驗差異影響LSTM模型的效果，本文提出使用鯨魚優(yōu)化算法對模型的迭代次數、學習率、第一隱藏層神經元、第二隱藏層神經元四個參數進行尋優(yōu)。

鯨魚算法優(yōu)化LSTM過程：

Step 1：將數據中的負荷、溫度、濕度、日類型預處理，劃分訓練集、測試集。

Step 2：初始化算法的維度、迭代次數、種群數，并確定迭代次數、學習率、第一隱藏層神經元個數、第二隱藏層神經元個數的參數范圍。

Step 3：隨機生成10個種群，并用對應的參數來設置長短期記憶網絡。

Step 4：將模型的預測值與實際值的均方差作為適應度，計算每個種群對應的適應度，把其中最小適應度作為此次最優(yōu)結果，并與全局最優(yōu)結果進行比較，如效果更好，則替換。

Step 5：開始迭代，利用鯨魚算法更新種群對應的四個參數。

Step 6：重復Step 4-5，直到最大迭代次數。

Step 7：輸出最優(yōu)結果對應的迭代次數、學習率、第一隱藏層神經元個數、第二隱藏層神經元個數。

4 算例仿真

本次仿真選擇浙江某地區(qū)的電力負荷數據，其包含每天的平均溫度、最高溫度、最低溫度、相對濕度、星期類型，以及每天24h的負荷數據，一共97×29條數據，基于python環(huán)境下，使用tensorflow框架編寫程序。

圖2 LSTM神經網絡預測效果

圖3 損失曲線

圖4 適應度優(yōu)化過程

圖5 迭代次數優(yōu)化過程

圖6 學習率優(yōu)化過程

圖7 第一層神經元優(yōu)化過程

圖8 第二層神經元優(yōu)化過程

圖9 WOA-LSTM效果圖

4.1 模型的輸入與輸出

長短期記憶網絡被用來解決長期依賴問題，具有記憶長期信息的能力。模型的輸入為第n-1天的氣候數據、星期類型、負荷數據、以及第二天的氣候數據，一共29個特征作為輸入。模型的輸出為第n天的負荷數據，為24h的整點負荷值，一共有24個特征。以此類推，建立模型。

4.2 評價指標

本次實驗采用四個指標來評價預測模型的效果，分別為平均絕對百分比誤差（MAPE）、均方根誤差RMSE、平均絕對誤差MAE、R平方(R2)。

4.3 仿真驗證

本文數據集為浙江地區(qū)某地2月13日到5月20日，每天的數據包含平均溫度、最高溫度、最低溫度、相對濕度、星期類型、與24個時刻的負荷，共29個特征，選擇89個樣本作為訓練集，7個樣本做為測試集。仿真實驗將LSTM模型、woa-LSTM模型分別做預測實驗，并將二者的結果對比。

4.3.1 LSTM神經網絡

此模型參數設置：迭代次數為50、學習率為0.001、第一隱藏層神經元為80、第二隱藏層神經元為80、batch_size為16。測試集的MAPE:0.032、RMES:3.057、MAE:2.386、R2:0.92（見圖2、圖3）。

4.3.2 使用鯨魚算法優(yōu)化LSTM

如圖4-9所示，鯨魚算法分別對迭代次數、學習率、第一層神經元、第二層神經元在預先設定好的范圍內尋找最優(yōu)組合。隨后，我們把優(yōu)化好的四個參數直接用來訓練LSTM模型。其測試集的MAPE:0.028、RMES:2.860、MAE:2.120、R2:0.95。從結果中，我們不難看出，鯨魚算法確實能優(yōu)化LSTM模型，并有著不錯的效果。

結論：為了解決復雜的短期電力負荷問題，本文提出使用鯨魚算法來優(yōu)化長短期記憶網絡的短期負荷預測方法。從仿真結果和過程分析中，可以看出：（1）鯨魚算法可以很好地優(yōu)化長短期記憶網絡的參數選擇問題。（2）此方法不僅可以應用于負荷預測，也可以在其他領域應用：發(fā)電功率預測、電價預測。