基于特征工程和NGO-LSTM的水質預測模型研究

摘要：由于水質數據特征復雜、關聯度參差不齊而導致溶解氧濃度預測難度較大，為提高水質溶解氧濃度預測的準確性，提出了一種基于特征工程和北方蒼鷹優化算法的長短期記憶網絡（Feature Engineering-Northern Goshawk Optimization-Long Short Term Memory，FE-NGO-LSTM）混合模型。首先對水質數據集進行缺失值補齊、特征篩選與特征多項式構造，然后基于NGO-LSTM模型優化模型參數，提升預測性能；對不同多項式階數下的特征預測效果進行分析之后，將該模型與基于灰狼優化算法、鯨魚優化算法及粒子群優化算法的LSTM模型進行對比;最后，在太湖流域東苕溪城南監測斷面對該模型進行了驗證，計算FE-NGO-LSTM模型預見期為4，8，12，16，20，24 h的預測結果。試驗結果顯示：當多項式階數為2階時，模型預測效果最好，FE-NGO-LSTM模型相比基于其他優化算法的LSTM模型，平均絕對誤差、均方誤差、均方根誤差分別至少降低9.0%，12.9%及6.3%，且隨著預見期的增加，預測誤差仍在可接受范圍內，說明FE-NGO-LSTM模型在預測溶解氧濃度時具有一定優勢與泛化性。

關 鍵 詞：水質預測；溶解氧；特征工程；深度學習；北方蒼鷹優化算法；耦合模型；苕溪流域；太湖流域

中圖法分類號：TV213.4

文獻標志碼：ADOI：10.16232/j.cnki.1001-4179.2024.10.012

0 引 言

水質監測和預測是全面提升國家水安全保障能力的重要環節，提高水質預測準確度有助于加快推進國家水網建設。隨著計算機科學技術的發展，基于人工智能深度學習算法的水質預報在解決以往經驗公式老舊、大量數據處理、物理機制模型受限等問題時有較好表現^［1-2］。例如基于長短期記憶神經網絡（Long Short Term Memory，LSTM）的水庫水位預測模型，相對預報誤差較低^［3-4］。在此基礎上，郭利進等^［5］提出基于改進果蠅算法優化的LSTM模型應用于水質預測，該模型預測溶解氧濃度效果較好。為進一步提高LSTM模型預測性能，周朝勉^［6］、王軍^［7］等進行了卷積神經網絡（Convolutional Neural Networks，CNN）-LSTM的混合水質預測模型研究，有效提高了預測精度。

盡管深度學習在水質預測方面性能出色，但是基于單一算法的超參數選擇存在局限性，無法得到較優解。因此，為克服LSTM中超參數對預測性能的影響，楊坪宏等^［8］采用變色龍優化算法（Chameleon Swarm Algorithm，CSA）、獵豹優化（Cheetah Optimization，CO）算法、山瞪羚優化（Mountain gazelle Optimization，MGO）算法分別調優門控循環單元（Gated Recurrent Unit，GRU）-LSTM 超參數的水質時間序列預測模型，使模型獲得較好的智能化水平。肖明君等^［9］利用粒子群算法（Particle Swarm Optimization，PSO）改進反向傳播神經網絡（Back Propagation Neural Network，BPNN）模型的參數選擇方式，提高了模型預測結果準確性。魯言波等^［10］提出PSO-GRU水質預測模型，引入粒子群優化算法，快速簡便地實現了GRU模型遷移使用。宋治岑等^［11］研究對比了基于鯨魚算法（Whale Optimization Algorithm，WOA）的支持向量機（Support Vector Machines，SVM）模型和其他算法的模型預測準確度。牛景輝^［12］設計了一種基于灰狼算法（Grey Wolf Optimizer，GWO）優化的XGBoost（eXtreme Gradient Boosting）算法，用以解決模型參數調整復雜和預測水質數據準確率較低的問題。但全局搜索能力較好的北方蒼鷹算法（Northern Goshawk Optimization，NGO）暫未應用于水質預測。

此外，預測模型對水質監測數據要求較高，當水質指標特征較少或者較多時都會影響預測的效果，因此學者們提出特征提取、構造等方法。許德昊等^［13］通過相關性計算和特征構造方法增加有效特征個數，有效提高了預測準確率。而在特征提取時，方國華等^［14］則運用灰色關聯分析選擇多元特征輸入變量，構建基于灰色關聯-長短期記憶網絡（Grey Relational Analysis-Long Short Term Memory，GRA-LSTM）的水質預測模型，實現關鍵水質指標影響因子重要性定量化排序與冗余信息的消除。但是上述研究缺乏對深度學習的優化。

因此，本文創新性地構建一種基于特征工程和NGO-LSTM的水質預測模型。此模型優勢在于先通過特征工程，篩選水質監測指標中對溶解氧影響較大的指標，再進行特征構造得到新的特征數據集，最后基于NGO優化算法找出LSTM的相對最優超參數，進行溶解氧預測，以期得到較好的水質預測效果。

1 研究區域與數據來源

研究區域東苕溪城南監測斷面（東經120.0733°，北緯30.5402°）地處浙江省湖州市，東苕溪流域屬于太湖流域苕溪水系，位于浙江省北部，監測斷面水質基本能達到Ⅲ類水質，偶有出現溶解氧小于3 mg/L的Ⅳ類水質情況。該斷面存在太湖逆流影響溶解氧波動的可能，因此選取此斷面作為研究對象，研究區域位置見圖1。

研究數據均來自國家地表水水質自動監測實時數據發布系統。水質指標主要有水溫（℃）、pH（無量綱）、溶解氧（DO，mg/L）、高錳酸鹽指數（KMnO，mg/L）、氨氮^［15］（NH-N，mg/L）、總磷（TP，mg/L）、總氮（TN，mg/L）、電導率（EC，μs/cm）、濁度（NTU）。系統每4 h更新一次水質數據。

水質數據監測時間為2020年11月8日至2023年4月30日，采樣頻率為4 h，理論應有5 424組數據，實際已有數據5 130組，缺失294組，占樣本總量的5%，即存在少量缺失數據。本文已通過線性插值方法補充，該監測站的水質監測數據分布見圖2。因9個指標的數據范圍差異較大，故采用子圖（a）～（i）分別展示。從圖2中可看出，該監測斷面的水溫、pH、溶解氧、電導率分布較為均勻，數據異常值較少，高錳酸鹽指數、氨氮、總磷和濁度的監測數據較為集中，整體數據真實可靠。其中，溶解氧屬于水質監測重要指標之一^［16］，對水生生物的生存和發展具有重要影響，影響水體凈化速度快慢，因此選擇溶解氧指標為本文預測指標。

2 研究方法

2.1 特征工程

2.1.1 特征選擇

特征選擇的目標是尋找最優特征子集，剔除關聯度較低的特征，從而達到減少特征個數、提高模型精確度、減少運行時間的目的。本文原始數據集共有9個特征，采用Spearman系數^［17-19］分析對原始特征進行篩選，按照特征相關性對各個特征進行評分篩選，反映等級相關程度。Spearman相關系數表達式如式（1）所示：

式中：R（x）和R（y）分別是特征x和特征y的位次，R（x）和R（y）分別表示平均位次。Spearman系數絕對值越高，表明y與x相關性越強。一般認為當系數絕對值大于0.4時，兩個特征之間即存在較強關聯性。

2.1.2 特征構造

基于Spearman系數獲得溶解氧的強關聯特征，提出多項式的特征構造方法^［15］，能夠獲得與溶解氧強相關的更高維度的特征數據集。假設與溶解氧強關聯的特征為{S，S}，則基于2階多項式特征構造的特征數據集為{S，S，SS，S²，S²}，基于3階多項式特征構造的特征數據集為{S，S，S²S，S³，S³，SS²，SS}，以此類推。隨著多項式n階的增加，數據集特征數量的增加可能導致預測性能的下降。因此，較優n階的設置將通過相關試驗進行確定。

2.2 LSTM算法

長短期記憶神經網絡（LSTM）^［20-21］被廣泛應用于各個領域，是一種特殊的遞歸神經網絡（Recurrent Neural Network，RNN）^［22-24］。圖3為t-1時刻和t時刻的LSTM記憶單元的交互邏輯。在t時刻，記憶單元的輸入包括t-1時刻的隱藏層狀態變量h，記憶單元狀態變量C和當前時刻的輸入信息X；其中t時刻記憶單元中從左至右的σ激活函數分別為遺忘門f，輸入門i以及輸出門o。模型依次通過上述3個門得到t時刻的隱藏層狀態變量h和記憶單元狀態變量C;最終h會傳入輸出層生成LSTM在t時刻的計算結果，同時與C一起傳入后一時刻進行計算。

圖3 LSTM模型結構

Fig.3 LSTM model structure

2.3 北方蒼鷹優化算法

北方蒼鷹優化算法（Northern Goshawk Optimization，NGO）在2021年由Dehghani等^［25］提出，該算法模擬北方蒼鷹的狩獵策略，具體包括獵物識別與攻擊、追擊與逃亡等行為^［26］。在NGO初始階段，隨機初始化種群成員在搜索空間中的分布：

式中：X為北方蒼鷹種群的矩陣；X為第i只蒼鷹的初始解；x為第i只蒼鷹在第j維度的值；N和m分別為種群數量和問題空間的維度。算法目標函數向量如下式：

式中：F（X）為目標函數向量，F為第i個解對應的目標函數值。

2.4 基于特征工程和NGO-LSTM的模型

本文提出的FE-NGO-LSTM水質預測模型核心思想在于擴充與水質指標核心相關的數據特征，通過北方蒼鷹優化算法優化LSTM的核心參數（學習率、隱含層節點數、L2正則因子），以期提高水質預測的能力。模型整體流程如圖4所示。原始數據包含9個水質指標，存在殘缺數據、數據量綱不同的情況，首先通過線性插值以及數據歸一化進行數據預處理。接著根據20%和80%的比例劃分測試集以及訓練集。

為避免數據信息泄露，模型僅基于訓練集進行特征工程操作，其中包含特征關聯度分析與多項式n階特征的構造。然后基于合適的關聯特征與多項式階數n構造得到新的數據集。為避免數據過擬合，將訓練集重新劃分為20%的驗證集與60%的新訓練集。

最后基于訓練集與驗證集進行FE-NGO-LSTM的參數優化，將驗證集的驗證誤差作為優化指標，得到最優的LSTM參數。最后將優化參數帶入新數據集中進行測試驗證。

3 試驗與結果分析

3.1 試驗環境

本文所有試驗均基于MATLAB平臺，深度學習GPU為NVIDIA GeForce RTX 4080。同時為驗證該模型的有效性，本文在試驗中對LSTM其他網絡模型參數均保持相同設置，如表1所列。

3.2 評價標準

水質預測屬于回歸預測問題，采用平均絕對誤差（Mean Absolute Error，MAE），均方誤差（Mean Squared Error，MSE），均方根誤差（Root Mean Square Error，RMSE）和決定系數（R²）來評估模型的預測能力。

式中：y表示實際水質指標；y′表示預測水質指標；y則為實際水質指標的平均值；m表示測試樣本數量。

3.3 試驗過程

3.3.1 Spearman系數設置

（1）對原始數據集進行Spearman系數分析，圖5表示該數據集不同特征之間的Spearman系數相關性，與溶解氧特征關聯性較強的特征依次為水溫（0.81）、pH（0.80）、電導率（0.51）、總磷（0.32）、總氮（0.20）、高錳酸鹽指數（0.19）、濁度（0.17）、氨氮（0.12）。初步判斷水溫、pH與電導率為溶解氧強關聯特征。

（2）使用大于溶解氧Spearman系數特定值的數據集分別基于傳統LSTM模型以及NGO-LSTM模型進行試驗。在此試驗中Spearman系數設置為［0，0.2，

0.4，0.6］，其中傳統LSTM模型的參數參考主流設置，

L2正則因子為0.000 01，學習率為0.001，隱藏層節點數量為128。試驗結果如表2所列，可以看到Spearman系數為0時，即數據集為原始數據集，冗余特征較多，對預測干擾較大，因此該試驗預測效果最差，且此時LSTM模型的3個誤差指標都大于NGO-LSTM模型的誤差指標，決定系數小于NGO-LSTM模型的決定系數。類似情況在Spearman系數為0.6時一樣存在，基本證明NGO-LSTM模型優于LSTM模型。隨著Spearman系數逐漸增大，LSTM模型預測誤差先減小后增大，表現不夠穩定，而NGO-LSTM模型中MAE、MSE、RMSE逐漸減小，R²越來越接近1，充分證明了NGO-LSTM模型的優勢。

3.3.2 基于FE-NGO-LSTM的水質預測結果

基于上述研究，該試驗使用Spearman系數大于0.6的特征數據集，即上一時刻的水溫、pH以及溶解氧。FE-NGO-LSTM模型訓練數據基于以上3個特征，進行多項式n階特征構造，n為［2，3，4］。因上一時刻溶解氧與該時刻溶解氧的Spearman相關系數為1，所以基于上一時刻的溶解氧構造的任意特征與該時刻溶解氧的Spearman相關系數均為1，故此處不針對上一時刻溶解氧指標進行多項式構造。其中多項式2階數據構造如表3所列，指標特征由3維升維至6維。

將新構造的數據集帶入FE-NGO-LSTM算法中進行比較，試驗結果如圖6所示，各項指標在2階時效果最好，決定系數R²達到了0.871 29，MAE為0.375 04 mg·L^-1。當階數達到3，4時，預測指標決定系數降低較為明顯，而且MAE、MSE、RMSE均有不同程度上升，可以推測當核心特征數量有限時，過高的多項式階

數將導致特征冗余，預測性能過擬合。由此可以判定，

在此數據集中，當多項式階數為2時，FE-NGO-LSTM的預測效果較為出色。

總氮、總磷及電導率與溶解氧含量有密切關系，所以本文將Spearman系數大于0.2的特征數據集也納入構造多項式n階特征，n同樣為［2，3，4］，對比前后數據集的預測精度。試驗結果如表4所列，可見誤差已經遠大于水溫、pH數據集的預測結果，進一步證實該試驗使用Spearman系數大于0.6的特征數據集進行預測的科學合理性。

圖7為基于2階新數據集的FE-NGO-LSTM模型預測結果和真實值的擬合效果。由圖7可知：預測值和真實值吻合程度較高。其中真實值略大于測試值的比例約占43%，真實值與測試值的最大差值約為2.7 mg/L，模型預測的曲線相對真實值更為平穩，整體預測情況基本能夠擬合溶解氧指標變化趨勢。

為進一步驗證FE-NGO-LSTM算法的有效性，本文基于同樣的多項式2階數據集，將FE-NGO-LSTM模型與耦合其他優化算法的LSTM模型進行對比。參與比較的有灰狼優化算法（Grey Wolf Optimizer，GWO）、鯨魚優化算法（Whale Optimization Algorithm，WOA）、粒子群優化算法（Particle Swarm Optimization，PSO），均為學術界主流算法。試驗結果如圖8所示，其中FE-NGO-LSTM效果最好，R²達到0.871 29，RMSE為0.230 25 mg·L^-1。FE-GWO-LSTM模型、FE-WOA-LSTM模型、FE-PSO-LSTM模型預測準確度依次下降，而效果相對最差的FE-PSO-LSTM算法的R²為0.795 86，RMSE為0.289 96 mg/L。總體來看，FE-NGO-LSTM模型的平均絕對誤差、均方誤差、均方根誤差分別至少降低9.0%，12.9%及6.3%，因此可以判斷NGO優化算法更具優勢。

為進一步驗證FE-NGO-LSTM模型的預測性能和泛化能力，本文將構造的2階數據集的水質預見期由4 h擴展至8，12，16，20，24 h，分別進行試驗。其中圖9展示不同預見期下模型的預測值與真實值的偏差，直線線段為基于最小二乘法展示的預測值擬合情況。隨著預見期的增加，數據樣本減少，預測點更偏離擬合線段。圖10為基于不同預見期的FE-NGO-LSTM預測效果。隨著預見期的增加，誤差緩慢增加，預測性能略微下降，基本符合隨時間增長，預測難度加大的實際情況。R²由8 h預見期的0.789 85降低為24 h的0.703 01，其余誤差指標均有所上升，整體性能下降最大為27%，仍在可接受范圍內。因此，當預見期為24 h以內時，FE-NGO-LSTM模型仍有相對較好的預測效果，具有較強泛化能力。

4 結 論

考慮水質監測指標之間的關聯性，在預測溶解氧指標時，本文利用Spearman相關系數篩選出關聯度較高的水溫、pH等水質指標進行特征構造，提出FE-NGO-LSTM預測模型。對比試驗結果，得到結論如下：

（1）就原始監測數據而言，NGO-LSTM模型比LSTM模型預測精度更高，初步證明北方蒼鷹算法耦合長短期記憶神經網絡進行水質預測的可行性。并且選擇Spearman相關系數大于0.6的數據特征時，預測結果相對較優。

（2）在此基礎上，進一步構造多項式［2，3，4］階新數據集，采用FE-NGO-LSTM模型進行預測對比分析，基于2階新數據集的預測結果最優。

（3）基于2階特征構造的新數據集，FE-NGO-LSTM對比粒子群算法、鯨魚算法以及灰狼算法耦合LSTM模型，誤差指標最小。

（4）溶解氧指標的預見期由4 h延長至8，12，16，20，24 h，FE-NGO-LSTM模型仍能夠保持較好的預測精度，R²最低為0.703 01，在可接受范圍內。

參考文獻：

［1］ DING F，ZHANG W J，CAO S H，et al.Optimization of water quality index models using machine learning approaches［J］.Water Research，2023，243：120337.

［2］ 歐陽文宇，葉磊，顧學志，等.深度學習水文預報研究進展綜述Ⅱ：研究進展及展望［J］.南水北調與水利科技（中英文），2022，20（5）：862-875.

［3］ ZHANG L，JIANG Z Q，HE S S，et al.Study on water quality prediction of urban reservoir by coupled CEEMDAN decomposition and LSTM Neural Network Model［J］.Water Resources Management，2022，36：3715-3735.

［4］ 王渤權，金傳鑫，周論，等.基于長短期記憶網絡的西麗水庫水質預測［J］.長江科學院院報，2023，40（6）：64-70.

［5］ 郭利進，許瑞偉.基于改進果蠅算法的 LSTM 在水質預測的應用［J］.長江科學院院報，2023，40（8）：57-63.

［6］ 周朝勉，劉明萍，王京威.基于CNN-LSTM的水質預測模型研究［J］.水電能源科學，2021，39（3）：20-23.

［7］ 王軍，高梓勛，朱永明.基于CNN-LSTM模型的黃河水質預測研究［J］.人民黃河，2021，43（5）：96-99，109.

［8］ 楊坪宏，胡奧，崔東文，等.基于數據處理與若干群體算法優化的 GRU/LSTM水質時間序列預測［J］.水資源與水工程學報，2023，34（4）：45-53.

［9］ 肖明君，朱逸純，高雯媛，等.基于不同人工神經網絡的水質預測方法對比［J/OL］.環境科學：1-10［2024-09-03］.https：∥doi.org/10.13227/j.hjkx.202310074.

［10］魯言波，陳湛峰，李曉芳.基于粒子群優化的GRU廣東省跨境斷面水質預測模型研究［J］.生態環境學報，2023，32（9）：1673-1681.

［11］宋治岑，張順平，盧敏.基于HHO-SVM的水質預測模型及應用［J］.水電能源科學，2023，41（8）：70-72，47.

［12］牛景輝.基于GWO-XGBoost的工業污水水質關鍵數據預測算法［J］.工業水處理，2024，44（1）：184-190.

［13］許德昊，王魏，胡顯輝，等.基于特征構造的MDconv-GRU刺參養殖水質pH值預測［J/OL］.控制工程：1-10［2024-09-03］.https：∥doi.org/10.14107/j.cnki.kzgc.20230171.

［14］方國華，張鈺，袁婷，等.基于灰色關聯-長短時記憶網絡的水質預測研究［J］.安全與環境學報，2023，23（12）：4557-4568.

［15］劉揚揚，蘇新華，蔡洺垚.孤山航電樞紐工程對漢江水環境的影響研究［J］.人民長江，2023，54（5）：73-79.

［16］李余隆，張蘭，李立.基于GCN-LSTM的錢塘江南源水質預測研究［J］.人民黃河，2023，45（12）：83-87，95.

［17］余鵬明，管孝艷，陳俊英，等.基于Spearman秩相關的再生水利用量影響因素研究［J］.節水灌溉，2019（10）：78-82，88.

［18］張晶梅.基于秩相關系數的大壩安全評價組合賦權研究［J］.水電能源科學，2012，30（10）：69-71.

［19］趙朔，桂峰蘭，柳后起.基于三種機器學習模型的太湖總氮濃度預測［J］.中國農村水利水電，2022（6）：24-28，39.

［20］HOCHREITER S，SCHMIDHUBER J.Long-term memory［J］.Neural Computation，1997，9（8）：1735-1780.

［21］覃曉東，朱仟，周東旸，等.基于深度學習的多源降水數據融合方法及其應用［J］.人民長江，2023，54（11）：68-75.

［22］殷兆凱，廖衛紅，王若佳，等.基于長短時記憶神經網絡（LSTM）的降雨徑流模擬及預報［J］.南水北調與水利科技，2019，17（6）：1-9，27.

［23］JIANG Y Q，LI C L，SUN L，et al.A deep learning algorithm for multi-source data fusion to predict water quality of urban sewer networks［J］.Journal of Cleaner Production，2021，318：128533.

［24］RASHEED ABDUL HAQ K P，HARIGOVINDAN V P.Water quality prediction for smart aquaculture using hybrid deep learning models［J］.IEEE Access，2022.10：60078-60098.

［25］DEHGHANI M，HUBáLOVSK? ?，TROJOVSK? P.Northern goshawk optimization：a new swarm-based algorithm for solving optimization problems［J］.IEEE Access，2021（9）：162059-162080.

［26］YANG C，JIANG Y T，LIU Y，et al.A novel model for runoff prediction based on the ICEEMDAN-NGO-LSTM coupling［J］.Environmental Science and Pollution Research，2023，30：82179-82188.

［27］楊婷婷，虞佳穎，肖姚，等.基于Embedding-GRU的水庫水位預測模型［J］.南水北調與水利科技（中英文），2023，21（5）：940-950.

［28］項新建，張穎超，許宏輝，等.基于CEEMDAN-VMD-TCN-light GBM模型的水質預測研究［J/OL］.中國農村水利水電，2024（3）：86-95.

［29］王昱文，杜震洪，戴震，等.基于復合神經網絡的多元水質指標預測模型［J］.浙江大學學報（理學版），2022，49（3）：354-362，375.

［30］王紅晨，馬俊，陳博行.基于進化算法優化的CNN-EA-Conv LSTM水質預測模型［J］.水電能源科學，2023，41（8）：73-76.

（編輯：劉 媛）

Research on water quality prediction model based on feature engineering

and NGO-LSTMYU Jiaying¹，XIAO Yao ²

（1.School of Hydraulic Engineering，Zhejiang Tongji Vocational College of Science and Technology，Hangzhou 311231，China； 2.College of Aerospace Engineering，Chongqing University，Chongqing 400044，China）

Abstract： Due to complex characteristics and uneven correlation of water quality data，it is difficult to predict dissolved oxygen concentration.To improve the prediction accuracy of water quality dissolved oxygen concentration，a Feature Engineering and Northern Goshawk Optimization-Long Short Term Memory （FE-NGO-LSTM） hybrid model was proposed.Firstly，missing value imputation，feature screening，and feature polynomial construction were performed on the water quality dataset.Then，the model parameters were optimized based on the NGO-LSTM model to improve prediction performance.After analyzing the feature prediction performance under different polynomial orders，the model was compared with LSTM models based on grey wolf optimization algorithm，whale optimization algorithm，and particle swarm optimization algorithm.Finally，the model was validated with the dataset of the Chengnan monitoring section on east Tiaoxi River，and the prediction results of the FE-NGO-LSTM model were calculated for prediction periods of 4，8，12，16，20，and 24 hours.The experimental results demonstrated that when the polynomial order was 2nd，the model had the best prediction performance.Compared with LSTM models based on other optimization algorithms，the average absolute error，mean square error，and root mean square error of FE-NGO-LSTM model were reduced at least 9.0%，12.9%，and 6.3% respectively.Moreover，as the prediction period increased，the prediction error was still within an acceptable range，indicating that the FE-NGO-LSTM model has certain advantages and generalization in predicting dissolved oxygen concentration.

Key words： water quality prediction；dissolved oxygen；feature engineering；deep learning；Northern Goshawk；optimization algorithm；coupling model；Tiaoxi River Basin；Taihu Lake Basin