基于注意力機制的跨境斷面水質預測模型研究

摘" 要： 為了充分掌握水體污染治理效果，為水環境保護和生態治理提供科學依據和技術支持，提出一種基于注意力機制的跨境斷面水質預測模型。運用長短期記憶神經網絡建立跨境斷面水質預測模型，引入注意力機制，建立跨境斷面水質預測序列編碼矩陣。利用長短期記憶神經網絡解碼器對序列矩陣數據進行解碼操作后，輸出跨境斷面水質的預測結果。實驗結果表明，所提模型可有效提取跨境河流縱向斷面水質化學需氧量（COD）時間特征與數據特征，同時可預測跨境縱向斷面水質內的余氯、濁度等，且預測跨境斷面水質高錳酸鹽指數較為準確，應用效果較佳。

關鍵詞： 注意力機制； 長短期記憶神經網絡； 跨境斷面； 水質預測； 序列編碼矩陣； 編解碼器； 化學需氧量（COD）

中圖分類號： TN911.23?34； TP302" " " " " " " " " "文獻標識碼： A" " " " " " " " " 文章編號： 1004?373X（2024）16?0145?05

Research on cross border section water quality prediction model

based on attention mechanism

ZHU Qiliang， YU Xueting

（School of Information Engineering， North China University of Water Resources and Electric Power， Zhengzhou 450046， China）

Abstract： In order to fully grasp the effectiveness of water pollution control and provide scientific basis and technical support for water environment protection and ecological governance， a cross?border section water quality prediction model based on attention mechanism is proposed. A cross?border section water quality prediction model is established by means of long short?term memory neural networks， and a sequence coding matrix for cross?border section water quality prediction is established by introducing attention mechanisms. After decoding the sequence matrix data using a long short?term memory neural network encoder， the predicted results of cross?border cross?sectional water quality are output. The experimental results show that the proposed model can effectively extract the temporal and data characteristics of COD （chemical oxygen demand） in the longitudinal section of cross?border river， and can also predict residual chlorine and turbidity in the water quality of cross?border longitudinal sections. The prediction of the permanganate index in the water quality of cross?border sections is more accurate， and the application effect is better.

Keywords： attention mechanism; long short?term memory neural networks; cross border section; water quality prediction; sequence encoding matrix; encoder decoder; chemical oxygen demand

0" 引" 言

隨著全球化的加速和工業化的深入，跨境水體的水質受到越來越多的關注，因為它們的水質狀況直接影響到周邊環境和生態系統，進而影響到人類的健康和生活質量[1?2]。因此，對跨境斷面水質進行準確預測，對于預防和治理水污染、保護水資源具有重要意義。

目前有很多學者研究跨境斷面水質預測模型，如魯言波等研究的粒子群優化的跨境斷面水質預測模型，使用GRU人工神經網絡建立預測模型，將跨境斷面水質采集數據輸入到該模型內，使用粒子群優化算法求解其預測模型后，輸出跨境斷面水質預測結果[3]。石翠翠等提出一種支持向量回歸的水質預測模型，該方法在人工神經網絡中，運用回歸支持向量機作為分類器，輸出跨境斷面水質預測結果[4]。馬創等提出一種基于遺傳算法與支持向量機的水質預測模型，該模型使用遺傳算法訓練當前數據的特征權重向量，使權重適配當前預測問題，得出跨境斷面水質預測結果[5]。以上水質預測方法主要基于統計模型來實現，在預測精度和實時性方面存在一定的局限性。

為了解決上述問題，本文提出一種基于注意力機制的跨境斷面水質預測模型。利用傳感器在跨境河流斷面位置采集水質實時數據，構建跨境斷面水質預測模型。引入注意力機制提升模型性能，將跨境斷面水質預測綜合特征序列編碼矩陣進行映射處理，使用長短期記憶神經網絡解碼器進行解碼，輸出跨境斷面水質預測結果，從而更準確地預測跨境斷面的水質狀況。

1" 跨境斷面水質預測模型

利用傳感器在跨境河流斷面位置采集水質實時數據，如濁度、溶解氧、余氯、pH值、ORP等數據[6?7]，再將以上水質數據輸入到長短期記憶神經網絡內；長短期記憶神經網絡利用水質實時數據建立水質預測序列矩陣，然后將該矩陣輸入到特征注意力機制層內，通過特征注意力權重計算后，獲取到跨境斷面水質數據的特征；再將該特征輸入到LSTM編碼器內，編碼器對該特征進行編碼處理后，將其輸入到時間注意力機制層內，通過選取時間注意力權重，從時間維度獲取跨境斷面水質預測的特征；最后通過解碼器進行解碼操作，輸出跨境斷面水質預測結果。

1.1" 構建跨境斷面水質預測模型

運用長短期記憶神經網絡建立跨境斷面水質預測模型。該模型神經網絡結構分為遺忘門、輸入門、細胞更新以及輸出門等，其在預測跨境斷面水質時，利用遺忘門接收跨境斷面水質實時數據后，利用Sigmoid激活函數[8?9]評估當前跨境斷面水質實時數據的一級狀態，獲得介于0～1之間的值；再將該值與跨境斷面水質實時數據初始記憶狀態相乘，遺忘門數值接近1的跨境斷面水質實時數據被保留，建立水質預測序列[ft]。[ft]公式如下所示：

[ft=σ（?fht-1+xt+bf）] （1）

式中：[ht-1]表示上一個時刻遺忘門細胞輸出向量；[xt]表示輸入的跨境斷面水質實時數據；[bf]表示遺忘門偏置；[?f]表示遺忘門權重；[σ?]表示激活函數。

將公式（1）結果輸入到長短期記憶神經網絡的輸入門內，輸入門對每個細胞對應的跨境斷面水質實時數據進行選擇后，獲取跨境斷面水質的候選值向量[Qt]，公式如下：

[Qt=tanh（?cht-1+xt-1+bc）] （2）

式中：[?c]、[bc]分別表示輸入門權重和偏置；[xt-1]為上一個時刻的跨境斷面水質數據。

獲取到跨境斷面水質的候選值向量后，采用長短期記憶神經網絡對每個細胞進行更新處理，將細胞狀態由[Qt-1]更新到[Qt]，公式如下所示：

[Qt=Qt-1⊙ft+it⊙Qt] （3）

式中：符號“[⊙]”表示“同或”運算符；[it]表示輸入門選擇后的跨境斷面水質實時數據。

通過上述步驟即可完成對于跨境斷面水質的預測分析。在此基礎上，本文所提出的變壓器負荷能力評估模型表達式如下：

[Mt=ft（Qt⊙Qt）] （4）

1.2" 建立跨境斷面水質預測序列編碼矩陣

引入注意力機制可以幫助跨境斷面水質預測模型更好地處理多樣化的特征關注，捕捉序列數據的長程依賴關系，以及提升模型的魯棒性和泛化能力[10?11]。這有助于提高模型的預測準確性和可解釋性，使得水質預測結果更加可靠。因此，跨境斷面水質預測模型在長短期記憶神經網絡基礎上引入了注意力機制，其中包括特征注意力模塊和時間注意力模塊。

令[X]表示時間注意力模塊接收到的跨境斷面水質實時數據矩陣，該矩陣具有[m]行[n]列，在時間為[t]時，該模塊計算的跨境斷面水質實時數據特征注意力權重[ati]公式如下所示：

[ati=softmax（xti）] （5）

式中[xti∈X]。

通過公式（5）得到跨境斷面水質實時數據特征注意力權重，建立特征矩陣[X']；然后將[x'ti]作為輸入，通過時間注意力模塊獲得每個特征的時間特征注意力權重[bti]，公式如下：

[bti=softmax（x'ti）] （6）

式中[x'ti∈X']。

利用公式（6）獲得跨境斷面水質實時數據特征的時間特征后，建立時間權重矩陣[B]；然后將跨境斷面水質數據的特征和時間特征進行融合處理[12]，得到跨境斷面水質預測綜合特征的序列編碼矩陣，公式如下：

[C=MtBTati+bti] （7）

式中[C]表示跨境斷面水質預測綜合特征序列編碼矩陣。通過將水質預測序列轉化為編碼矩陣，可以對數據進行特征提取。編碼矩陣將序列數據按照一定規則進行編碼，使得模型能夠更好地理解數據的結構和模式，提取有用的特征。

1.3" 跨境斷面水質預測結果輸出

長短期記憶神經網絡編碼器?解碼器是一種常見的模型架構，用于將一個輸入序列轉換為另一個輸出序列。這個結構由編碼器和解碼器兩個主要部分組成。編碼器負責將輸入序列轉換為固定長度的向量表示；解碼器是接收編碼器的輸出，以及先前生成的目標序列的部分作為輸入。

長短期記憶神經網絡的編碼器在本質上是一個循環神經網絡，其可將輸入的跨境斷面水質預測綜合特征序列編碼矩陣進行映射處理[13?14]。令[ci]表示跨境斷面水質預測綜合特征序列編碼矩陣[C]內的任意序列，利用下式進行映射處理。

[ht=C（ht-1，xt）] （8）

式中[ht]表示映射后的跨境斷面水質預測綜合特征序列。

將映射處理后的數據作為輸入，通過長短期記憶神經網絡解碼器進行解碼，輸出跨境斷面水質預測結果，公式如下所示：

[y（t）=f?ht] （9）

式中[f]是激活函數。

通過長短期記憶神經網絡解碼器進行解碼，能夠捕捉長期依賴關系，并獲取具有自適應能力的跨境斷面水質預測結果，這將有助于對水質狀況的準確評估。

2" 實驗分析

以我國東部某跨境河流作為實驗對象，該河流全長447 km，大小支系縱橫交錯，河流主脈穿過3個省，該跨境河流流域面積為2.33萬km2，流域內年降水量為400～600 mm，年均徑流量為17.91億m3。該跨境河流流域范圍內水資源較為豐富，但含沙量較大，水土流失問題較為嚴重，同時流域附近工業較為發達，跨境河流水質存在不同程度污染。然而，在某些河段和下游地區，經過治理和水質改善措施的實施，水質得到了一定程度改善，但對于該跨境河流治理來說任重道遠。為此，應用本文模型對該跨境河流的斷面水質展開預測，為跨境河流治理提供技術支持。本文使用型號為Hach Sension 8173的水質傳感器實時采集水質數據。該傳感器可實時采集氨氮、總磷、濁度、溶解氧、pH值、溫度等水質數據，傳感器安裝現場圖如圖1所示。

水質傳感器參數如表1所示。

以該跨境河流某河段縱向斷面作為實驗對象，在該縱向斷面內每隔50 m設置一個預測點，一共設置10個預測點。以河流水質衡量指標COD（化學需氧量）作為衡量指標，使用本文模型的注意力機制提取10個預測點的水質COD時間序列特征和數據特征，提取結果如表2所示。

根據表2可以清晰地看到，在跨境河流的縱向斷面內，每個預測點的COD數據特征和時間特征都是獨特的。這表明，該河流在各個斷面位置的水體質量不盡相同。例如：當關注編碼為1的預測點時，其時間特征為15：22，這表明在這個特定的時間點，該預測點的水質中的COD數值較高，說明該處的水體受到了較為嚴重的污染；進一步觀察該預測點的數據特征，其COD數值為23.02 mg/L，這個具體的數值也明確地反映了該預測點的水質污染程度。綜上可知，采用本文所提出的方法能夠有效地從時間和數據兩個維度揭示跨境斷面水質的特性，這為后續的跨境斷面水質預測提供了堅實的基礎。為了更全面地理解和評估跨境斷面的水質狀況，建議將該方法擴展到更多的預測點，并考慮在不同時間點的水質變化情況，這有助于更好地了解跨境河流的水質狀況，并為水質管理和保護提供更有力的依據。

以該跨境河流某段縱向斷面作為實驗對象，該跨境河流縱向斷面的預測點設置如圖2所示。

以20天作為預測時間段，使用本文模型在該時間段內對該跨境河流縱向斷面6個預測點的水質指標即余氯、濁度進行預測，預測結果如表3、表4所示。

分析表3可知：該跨境河流縱斷面靠近上游的監測點，其水質中的余氯數值相對較小；然而，隨著時間的推移，水質預測點的余氯數值呈現出逐漸增加的趨勢，但增加的幅度較為平緩。這一預測結果表明，隨著時間的推移，該跨境斷面的水質逐漸變差，水體內的余氯數值不斷升高。因此，為了更好地保護和管理跨境斷面的水質，需要加強對余氯的監測和控制，以降低其對水質的負面影響。同時，建議進一步研究余氯在水中的擴散和降解機制，為水質管理和保護提供更科學和可靠的依據。

分析表4可知，該跨境斷面河流隨著時間推移，其水體濁度逐漸上升，但靠近河流下游，預測點編碼為4、5、6位置處，水質濁度呈現略低狀態，且隨著時間增加，該位置處的水質濁度增加幅度小于編碼為1、2、3的預測點。原因在于：該跨境斷面河流上游河床較窄，縱向呈直線型分布，導致該位置水體流速較大，因此預測點1、2、3位置處的水質濁度較高；而預測點4、5、6位置處，其水質縱向深度數值較大，受河床轉彎對水體的緩沖作用，該區域水體流速略緩，同時水質沉積，使得該區域水質濁度有所降低。綜合表3和表4的結果，本文提出的方法能夠有效地預測跨境斷面的水質余氯數值和濁度數值，具有較為顯著的水質預測能力，這為水質的管理和保護提供了科學可靠的依據，其應用效果較為顯著。

使用本文模型對一段時間內跨境斷面水質的高錳酸鹽指數進行預測，同時采用實地測量方法獲取跨境斷面水質內高錳酸鹽指數，并與本文預測結果進行對比分析，驗證本文模型對跨境斷面水質預測的有效性。高錳酸鹽指數測試結果如圖3所示。

分析圖3可知，該跨境斷面水質內的高錳酸鹽指數隨著時間的增加忽高忽低，呈現不規律狀態。其原因在于：水質生態具有凈化功能，在大自然凈化作用下，數值內的高錳酸鹽被凈化，其指數表現為下降趨勢；但受污染物排放，又會導致跨境斷面水質內的高錳酸鹽指數上升。而本文模型對該跨境斷面水質進行預測時，僅在時間為第30天和第40天時，預測結果與其實際值之間存在輕微差異，在其他時間點時預測結果均與實際值完全吻合，這說明本文模型對跨境斷面水質預測精度較高，進一步驗證了本文模型的實際應用性。

3" 結" 論

為提高水質預測的準確性和實時性，本文提出一種基于注意力機制的跨境斷面水質預測模型。通過引入注意力機制，模型能夠更好地捕捉數據中的時序依賴關系和特征間的關聯性，從而更準確地預測跨境斷面的水質狀況。實驗結果表明，該模型具有較為顯著的水質預測能力，對跨境斷面水質預測精度較高。所提模型不僅為跨境斷面水質預測提供了新的解決方案，也為深度學習技術在環境監測和生態治理領域的應用提供了有益的探索。

參考文獻

[1] 王驥，謝再秘，莫春梅.神經網絡在養殖水質精準預測方面的研究進展[J].水產學報，2023，47（8）：19?34.

[2] 肖燚，郭亞會，李明蔚，等.基于機器學習的地下水水質預測研究[J].北京師范大學學報（自然科學版），2022，58（2）：261?268.

[3] 魯言波，陳湛峰，李曉芳.基于粒子群優化的GRU廣東省跨境斷面水質預測模型研究[J].生態環境學報，2023，32（9）：1673?1681.

[4] 石翠翠，劉媛華，陳昕.基于粒子群算法優化支持向量回歸的水質預測模型[J].信息與控制，2022，51（3）：307?317.

[5] 馬創，王堯，李林峰.基于遺傳算法與支持向量機的水質預測模型[J].重慶大學學報，2021，44（7）：108?114.

[6] 施珮，匡亮，王泉，等.基于PC?RELM的養殖水體溶解氧數據流預測模型[J].農業工程學報，2023，39（7）：227?235.

[7] 楊明潤，郭星鋒，黃元峰，等.基于數據壓縮的WSN水質異常數據檢測算法[J].電視技術，2022，46（5）：204?207.

[8] 張陽，冼慧婷，趙志杰.基于空間相關性和神經網絡模型的實時河流水質預測模型[J].北京大學學報（自然科學版），2022，58（2）：337?344.

[9] 林鈺棽，魏云龍，陳琪琪，等.一種嵌入式計算平臺的Sigmoid函數優化方法[J].小型微型計算機系統，2021，42（10）：2053?2058.

[10] 夏正新，蘇翀.一種多參數學習的門控激活函數[J].南京郵電大學學報（自然科學版），2022，42（5）：83?90.

[11] 張俐，陳小波.動態加權條件互信息的特征選擇算法[J].電子與信息學報，2021，43（10）：3028?3034.

[12] 江釓泓，畢然，杜家豫，等.基于不同水廠水質調查的消毒副產物生成趨勢及模型預測[J].環境工程學報，2022，16（2）：515?523.

[13] 王昱文，杜震洪，戴震，等.基于復合神經網絡的多元水質指標預測模型[J].浙江大學學報（理學版），2022，49（3）：354?362.

[14] 趙春蘭，李屹，何婷，等.基于動態隸屬度的模糊時間序列模型的水質預測研究[J].計算機工程與科學，2022，44（8）：1488?1496.