貝葉斯神經(jīng)網(wǎng)絡在城市短期用水預測中的應用

占敏+薛惠鋒+王海寧+萬毅

摘要：嚴格水資源管理制度實施的背景下，短期用水量預測對城市供水系統(tǒng)調(diào)度的作用日益顯著。在分析日用水量時序演化規(guī)律及隨機性影響因素的基礎上，以前7天每日用水量、日最高溫度、當月用水量占全年比、日降水量、節(jié)假情況作為短期用水量預測指標，構建了BP神經(jīng)網(wǎng)絡城市短期用水量預測模型，并利用貝葉斯正則化對BP神經(jīng)網(wǎng)絡進行優(yōu)化。將兩種模型應用于廣州市某自來水公司進行對比驗證，結(jié)果表明，貝葉斯神經(jīng)網(wǎng)絡預測模型與BP神經(jīng)網(wǎng)絡預測模型的平均絕對百分比誤差分別達0.87%與1.85%，經(jīng)貝葉斯正則化的BP神經(jīng)網(wǎng)絡模型泛化能力更強，精度提高了約0.98%，更符合城市短期用水量預測的高精度要求。

關鍵詞：短期用水量；神經(jīng)網(wǎng)絡；貝葉斯正則化；預測模型

中圖分類號：TV213 文獻標識碼：A 文章編號：1672-1683（2017）03-0073-07

Abstract：Under the background of implementation of the most stringent management regulations on water resources，the prediction of short-term water consumption is playing an increasingly significant role in urban water supply system scheduling.Based on the analysis of the temporal evolution pattern and random factors of short-term water consumption，a Bayesian neural network prediction model for urban short-term water consumption was built with the daily maximum temperature，daily water consumption of the previous 7 days，ratio of water consumption of the current month to the annual amount，daily precipitation，and holidays as predictors of short-term water consumption.Meanwhile，Bayesian regularization was used to optimize BP neural network.Both BP network model and the optimized model were applied to a running-water company in Guangzhou City for tesing.The results indicated that the mean absolute percentage error of the Bayesian neural network prediction model was 0.87%，while that of the BP neural network prediction model was 1.85%.Compared to the BP neural network prediction model，the optimized model has stronger generalization ability，with accuracy improved by about 0.98%.Thus，it fits better with the high-precision requirement of urban short-term water prediction.

Key words：short-term water consumption；neural network；Bayesian regularization；prediction model

水資源是保障區(qū)域發(fā)展和人民生活基礎性資源與戰(zhàn)略性資源，然而我國近2/3的城市呈“缺水”或“嚴重缺水”狀態(tài)，多地已逼近用水總量紅線。在最嚴格水資源管理制度[1]實施的背景下，日益突出的水資源供需平衡矛盾給城市供水調(diào)度帶來了空前的挑戰(zhàn)。長期用水總量紅線目標需要短期用水實時控制與調(diào)節(jié)來實現(xiàn)，且短期用水量預測作為城市供水系統(tǒng)運行工況模擬與調(diào)度決策基礎和前提，是城市供水調(diào)度關鍵的一環(huán)，本文試圖建立高精度的逐日用水量預測模型，以提高供水系統(tǒng)工況模擬的合理性及調(diào)度決策的可靠性，支撐城市供水系統(tǒng)的穩(wěn)定運行，促進區(qū)域水資源的高效利用與節(jié)約。

每日用水量會隨著時間與天氣等條件的影響而發(fā)生變化，具有復雜性、非線性、時變性等特點。目前，較為常用的用水量預測方法有灰色預測法、回歸預測法、時間序列預測法與神經(jīng)網(wǎng)絡預測等[2-3]。其中，灰色預測法與時間序列預測法只是對歷史數(shù)據(jù)的挖掘，在處理隨機性因素造成的用水變化異常情況時預測效果受限。回歸預測考慮了用水量的影響因素，但該方法中因素的選擇對模型的精度影響較大。神經(jīng)網(wǎng)絡具有較強的自組織、自學習及歸納與容錯能力[4-5]，且對非線性問題擬合效果較好，因此，本文采用經(jīng)典的BP神經(jīng)網(wǎng)絡算法進行預測[6-7]。針對上述方法無法兼顧日用水量時序規(guī)律與影響因素造成異常變化的情況，本文將歷史數(shù)據(jù)及影響因素同時納入預測指標體系中，在考慮日用水量的周期性、趨勢性及隨機性情況下進行預測；針對BP神經(jīng)網(wǎng)絡推廣能力不足等問題，采用貝葉斯正則化對網(wǎng)絡進行改進并實驗驗證。

1 城市短期用水量預測模型構建

1.1 BP神經(jīng)網(wǎng)絡

人工神經(jīng)網(wǎng)絡由多個神經(jīng)元組成，各個神經(jīng)元之間相互連接[8]。網(wǎng)絡結(jié)構一般分3層：1個輸入層、1個輸出層及連接二者的若干個隱含層。BP神經(jīng)網(wǎng)絡（Back-propagation Network）是目前應用最為廣泛的神經(jīng)網(wǎng)絡之一，當網(wǎng)絡的隱含層為1時，結(jié)構圖見圖1。網(wǎng)絡工作機理是：信息進入網(wǎng)絡的輸入層后傳播至隱含層，再利用隱含層各神經(jīng)元的激活函數(shù)進行運算并將結(jié)果傳播到輸出層[9]。隱含層的層數(shù)視實際問題的復雜度而定。一般而言，一個隱含層即能逼近任何非線性連續(xù)函數(shù)。

BP神經(jīng)網(wǎng)絡的特點是將前一次輸出結(jié)果的誤差反向傳播來重新調(diào)整其權值及閾值，當誤差達到最小或極小的時候結(jié)束[10]。因此BP神經(jīng)網(wǎng)絡多了一個向后傳播過程。網(wǎng)絡在向前傳播時運算方式如下：

1.2 貝葉斯神經(jīng)網(wǎng)絡

泛化能力是衡量神經(jīng)網(wǎng)絡結(jié)構性能的重要標志，一個神經(jīng)網(wǎng)絡模型可能對訓練樣本集會達到較好的匹配效果，但是當訓練好的網(wǎng)絡去處理一些未知的信息的誤差可能會非常大。這是由于網(wǎng)絡過度依賴訓練樣本，當訓練樣本不能完全描述全樣本的特征時，網(wǎng)絡便不能得出其內(nèi)在規(guī)律，導致其不能很好地對未知信息進行準確判斷，推廣能力不足[12]。根據(jù)Moody原則，過擬合現(xiàn)象是由于網(wǎng)絡結(jié)構冗余而造成的，在樣本出現(xiàn)較小誤差時，可能會因冗余度過高而輸出誤差較大的結(jié)果。正則化方法是在目標函數(shù)（3）式中增加一個正則化項或懲罰項[13]，實現(xiàn)目標的結(jié)構風險最小化。因此，目標函數(shù)被調(diào)整為

新的性能指標函數(shù)能在當網(wǎng)絡訓練誤差盡可能小的情況下，得到較小的權值[14]。這相當于在保證網(wǎng)絡滿足擬合精度要求情況下減少其網(wǎng)絡節(jié)點，降低其復雜度，提高其泛化性能[15]。

貝葉斯神經(jīng)網(wǎng)絡就是對神經(jīng)網(wǎng)絡的權值向量賦一個先驗分布，若在樣本較少時，可利用該先驗分布防止網(wǎng)絡出現(xiàn)過擬合。隨著樣本的增加，在訓練過程中，貝葉斯神經(jīng)網(wǎng)絡不斷地自動調(diào)整正則化系數(shù)，提高網(wǎng)絡的泛化能力，并能自動調(diào)整重要的輸入變量權值的后驗分布使其達到概率最大化，其預測精度就可能會有所提高，增強其泛化能力[16]。

貝葉斯方法的核心是以先驗知識和數(shù)據(jù)對模型加以評價，該方法將未知變量θ看成一個具有不確定性的隨機變量，θ的不確定性可以用概率或概率分布進行描述。在沒有獲得數(shù)據(jù)時，對一個變量的未知情況的概率分布進行表述稱為先驗分布。貝葉斯公式可表示為

式中：γ是神經(jīng)網(wǎng)絡的有效參數(shù)的個數(shù)，γ=m-2βtr（H）-1，γ∈（0，m），m是神經(jīng)網(wǎng)絡參數(shù)的總數(shù)，H即目標函數(shù)的Hessian矩陣。但式中的Hessian矩陣的計算量較大，本文采用GAUSS-NEWTON法近似計算Hessian矩陣[17]。具體公式為H=2αJT+2βIm，其中J是訓練誤差的Jacobi矩陣。α與β的具體計算步驟如下：（1）初始化α、β與神經(jīng)網(wǎng)絡連接權值；（2）將誤差反向傳遞，權值用最速下降法調(diào)整從而減少代價函數(shù)E；（3）計算有效權值數(shù)γ；（4）重新對α、β進行計算；（5）重復步驟（1）至（3），直到滿足要求。

貝葉斯神經(jīng)網(wǎng)絡能在網(wǎng)絡訓練時自適應地調(diào)整α、β的值，最終得到最優(yōu)解，而一般的正則化方法卻很難做到[18]。貝葉斯正則化在神經(jīng)網(wǎng)絡訓練中選定α與β的值，把網(wǎng)絡權值作為隨機變量處理，并設訓練數(shù)據(jù)集與權集的先驗概率服從高斯分布，然后按貝葉斯規(guī)則，根據(jù)后驗概率的最大化求出目標函數(shù)E最小點處W的d與β。

1.3 基于貝葉斯神經(jīng)網(wǎng)絡的城市短期用水量預測模型 城市用水量一般包括生活用水、工業(yè)用水及公共用水。對于城市日用水量而言，一定程度上受溫度、降水量、季度、節(jié)假情況等因素的影響。

（1）溫度變化會導致用水量的不同。在溫度較高條件下，居民生活方式可能發(fā)生改變，生活用水量呈上升趨勢；維持工業(yè)機械正常運作比平時需要更多的水量進行降溫處理，工業(yè)用水增加，且日用水量的增幅與溫度的變化率密切相關。

（2）降水量在一定程度上可以彌補城市需水量，如降水量的大小會直接影響到公共用水量，當公共綠地或公共建筑需補水時，若降水量較多，則人工補水量減少；反之，人工補水量增大。

（3）在節(jié)假日，居民在家時間相比工作日更長，居民生活用水將會大量增加，同時部分企業(yè)可能作業(yè)量減少甚至停工，造成工業(yè)用水下降。若無法定假日，一周內(nèi)用水量近似為周期性變化。

（4）在不同的季度，居民生活條件及方式和企業(yè)的生產(chǎn)條件與市場需求都會有不同程度的變化，導致用水量發(fā)生改變，該變化可近似為以12個月為周期的周期性變化。

綜上所述，日用水量可能存在以每日為單位的周內(nèi)的短周期性和以季度為單位的年內(nèi)的長周期變化；而溫度、濕度及節(jié)假情況又會增加日用水量的隨機性，再考慮日用水量可能存在的趨勢性變化。因此，本文遵循指標建立的科學性、完備性、實用性、可操作性、獨立性的原則，結(jié)合上述日用水量的周期性、隨機性及趨勢性，選取前7天的用水量、日最高溫度、日降水量、當月用水占全年比、節(jié)假情況這11個指標作為網(wǎng)絡的輸入節(jié)點，以當天的用水量為輸出結(jié)果建立短期用水量預測模型。即：

式中：Dn-k為第（n-k）天的用水量（k=0，1，2，3，4，5，6，7）；Tn為第n天的最高溫度；Qn為判斷第n天是否為節(jié)假情況，若是工作日，則Qn=0，若是雙休日，則為Qn=1，若是其他法定假日，則Qn=2；Rn為根據(jù)天氣預報獲取的第n天的預降水量；Sn是第n天所在的月份歷史年份占全年用水量的百分比。

將網(wǎng)絡的隱含層設為一層，根據(jù)Kolmgrov定理，網(wǎng)絡隱含層神經(jīng)元的數(shù)目為網(wǎng)絡輸入數(shù)目的2倍加1，即隱含層神經(jīng)元個數(shù)取為23，構成一個11-23-1的神經(jīng)網(wǎng)絡模型。該模型可提前預測后一天的用水量。

前述提到神經(jīng)網(wǎng)絡的泛化能力是網(wǎng)絡性能的一個重要標志，若網(wǎng)絡泛化能力低，則即使網(wǎng)絡對于訓練樣本擬合度較高，網(wǎng)絡對未知樣本的預測精度也可能較低。而網(wǎng)絡的泛化能力的主要影響因素就是網(wǎng)絡結(jié)構的復雜度，日用水量11-23-1的神經(jīng)網(wǎng)絡預測模型，網(wǎng)絡輸入層及隱含層節(jié)點較多，復雜度較高，若利用BP神經(jīng)網(wǎng)絡進行預測，則其對訓練樣本能得到較好的擬合效果，但是若樣本出現(xiàn)較小的誤差，則可能會因網(wǎng)絡冗余度較高而引起網(wǎng)絡輸出的極大偏差，實際樣本不可避免存在噪聲點，因此BP神經(jīng)網(wǎng)絡預測的推廣能力難以保證。貝葉斯神經(jīng)網(wǎng)絡不僅考慮網(wǎng)絡對歷史日用水量的擬合度，而且還盡可能根據(jù)貝葉斯正則化自動調(diào)整網(wǎng)絡參數(shù)，使得一些冗余的網(wǎng)絡結(jié)構對應的權值最終趨向于0，這就自動減小網(wǎng)絡的復雜度，減少因樣本失真而導致的預測精度大幅下降的問題，增強了網(wǎng)絡的泛化能力。

2 實證分析

本文以國家水資源監(jiān)控能力建設項目監(jiān)測的廣州市某自來水公司為例，利用國家水資源管理信息系統(tǒng)中該公司2015年9月24日至2016年1月3日實時監(jiān)測上報的日用水量數(shù)據(jù)，結(jié)合廣州市2015年10月1日至2016年1月3日的天氣數(shù)據(jù)，分別構建BP神經(jīng)網(wǎng)絡與貝葉斯正則化后的城市短期用水量預測模型。

由于樣本有限，該公司各月用水量占比用廣州市各月用水量占比替代，按近五年廣州市各月用水占比計算得出。廣州市1月、12月用水占全年的7.5%左右，2月份占7%，3月、4月、11月份為8%，5月、6月、10月為8.5%，7月份為9.5%，8月份達到最高10%，9月份為9%。將收集的95個樣本的前80個樣本作為網(wǎng)絡的訓練集，最后15個樣本作為網(wǎng)絡的測試集以檢驗模型性能。利用MTALAB實現(xiàn)兩種神經(jīng)網(wǎng)絡算法，設網(wǎng)絡的學習函數(shù)為tansig函數(shù)，最大訓練次數(shù)設為600，訓練的目標誤差為0.005，其余參數(shù)取默認值。模型訓練前對數(shù)據(jù)進行歸一化處理。根據(jù)tansig的曲線特性，將歸一化函數(shù)設為x*=2x-xminxmax-xmin-1，在得出結(jié)果后再反歸一化得出預測的日用水量。本文采用平均絕對百分比誤差MAPE（Mean Absolute Percentage Error）與均方根誤差RMSE（Root Mean Square Error）對兩種模型的預測效果進行評價：

將2015年12月20日至2016年1月3日的數(shù)據(jù)分別在BP神經(jīng)網(wǎng)絡于貝葉斯神經(jīng)網(wǎng)絡預測模型中運行，對測試樣本的擬合度見圖2和圖3，預測的相對誤差曲線如圖4，表1為模型預測的日用水量與日監(jiān)測用水量的比較，表2為預測模型的性能對比表3與表4分別為兩種模型訓練后權值對比。表3與表4中的Input表示輸入層神經(jīng)元，Hidden表示輸出層神經(jīng)元（以輸入層神經(jīng)元至隱含層第1個神經(jīng)元至第5個神經(jīng)元的權值為例）。

本的擬合度為0.995 76，而BP神經(jīng)網(wǎng)絡對樣本的擬合度為0.997 32。但是，圖4、表1與表2顯示，BP神經(jīng)網(wǎng)絡短期用水量預測模型的最大相對誤差為5.76%，最小相對誤差為0.34%，誤差波動幅度較大，而貝葉斯神經(jīng)網(wǎng)絡預測模型則相應為2.89%與0.31%；傳統(tǒng)BP神經(jīng)網(wǎng)絡預測模型的均方誤差為20 580 m3，而貝葉斯神經(jīng)網(wǎng)絡預測模型則為9 106 m3，表明貝葉斯正則化后的神經(jīng)網(wǎng)絡具有更高的穩(wěn)定性。另外，BP神經(jīng)網(wǎng)絡預測模型的平均絕對百分比誤差為1.85%，而貝葉斯神經(jīng)網(wǎng)絡預測模型則為0.87%，其精度提高了0.98%。

由表3及表4可知，BP神經(jīng)網(wǎng)絡對樣本訓練后其輸入層到隱含層前5個神經(jīng)元的連接權值取值區(qū)間為（0.0100，1.0000），而貝葉斯神經(jīng)網(wǎng)絡中的連接權值中有15個連接權值為0.000 1或-0.000 1，由于網(wǎng)絡的連接權值是有隨機函數(shù)隨機分配的浮點數(shù)，無法取整數(shù)0，取±0.000 1相當于0，這表明經(jīng)貝葉斯正則化后的神經(jīng)網(wǎng)絡能自動去除輸入變量之間的冗余，減小網(wǎng)絡的復雜度。

綜合上述結(jié)果可知，貝葉斯正則化能在網(wǎng)絡擬合精度與復雜度之間自動調(diào)節(jié)，使得網(wǎng)絡能在保證對訓練樣本擬合精度的基礎上調(diào)整網(wǎng)絡參數(shù)，減小網(wǎng)絡的復雜度，增強網(wǎng)絡的泛化能力，提高網(wǎng)絡對未知事物的預測精度。

3 結(jié)論

本文構建的日水量預測指標體系，在分別采用貝葉斯神經(jīng)網(wǎng)絡與BP神經(jīng)網(wǎng)絡算法進行實驗驗證時，其預測值絕對百分比誤差分別為0.87%與1.85%，說明了指標選取的有效性；在兩種模型訓練后的擬合度及連接權值對比時表明貝葉斯正則化能在滿足對訓練樣本的擬合精度的條件下去除網(wǎng)絡結(jié)構的冗余，降低網(wǎng)絡復雜度；神經(jīng)網(wǎng)絡貝葉斯神經(jīng)網(wǎng)絡模型的精度比BP神經(jīng)網(wǎng)絡模型的精度高0.98%，證明了貝葉斯正則化方法能有效提高網(wǎng)絡的泛化能力，該模型可為城市供水系統(tǒng)的日用水量預測提供參考，為供水系統(tǒng)調(diào)度提供準確的數(shù)據(jù)支撐，促進城市水資源的節(jié)約與合理利用。

參考文獻（References）：

[1] 孫雪濤.貫徹落實中央一號文件實行最嚴格水資源管理制度[J].中國水利，2011 （6）：33-34，52.（SUN Xue-tao.Implement No.1 Central Document and carry out strictest regulations on water resources [J].China Water Resources，2011（6）：33-34，52.（in Chinese））DOI：10.3969/j.issn.1000-1123.2011.06.017

[2] 何忠華.城市需水量的預測研究[D].合肥：安徽理工大學，2009.（HE Zhong-hua.The research for forecasting urban water demand [D].Hefei：Anhui University of Science and Technology，2009.（in Chinese））DOI：10.7666/d.y1575148

[3] 展金巖.深圳市水資源供需預測及可持續(xù)利用研究[D].北京：華北電力大學，2012. （ZHAN Jin-yan.Supply and demand prediction and sustainable utilization of water resources in Shenzhen [D].Beijing：North China Electric Power University，2012.（in Chinese））DOI：10.7666/d.y2140293

[4] 顏端武.面向知識服務的智能推薦系統(tǒng)研究[D].南京：南京理工大學，2007.（YAN Duan-wu.Research on knowledge service oriented intelligent recommendation system [D].Nanjing：Nanjing University of Science and Technology，2007.（in Chinese））DOI：10.7666/d.y1154967

[5] 陳佳.基于粗糙集理論和人工神經(jīng)網(wǎng)絡的滾動軸承故障診斷[D].成都：西南交通大學，2012.（CHEN Jia.Rolling bearing fault diagnosis based on rough set theory and artificial neural network [D].Chengdu：Southwest Jiaotong University，2012.（in Chinese））DOI：10.7666/d.y2108628

[6] Maidment D，Pazren E.Time patterns of water use in six Texas cities [J].Journal of Water Resources Planning and Management，ASCE，1984，110（1）：90-106.

[7] Maidment D，Miaou S，Crawford M.Transfer function models of daily urban water use [J].Water Resources Research，1985，21（4）：425-432.

[8] 鄭忠.適應性組合分類器遙感分類研究[D].長沙：中南大學，2013.（ZHENG Zhong.Remote sensing classification by adaptive combing multiple classifiers [D].Changsha：Central South University，2013.（in Chinese））DOI：10.7666/d.y2423974

[9] 王志勇，陳昊鵬.基于組合神經(jīng)網(wǎng)絡模型的函數(shù)逼近方法[J].計算機應用與軟件，2008，25（7）：137-139.（WANG Zhi-yong，CHEN Hao-peng.Function approximation based on combined neural network model [J].Computer Applications and Software，2008，25（7）：137-139.（in Chinese））DOI：10.3969/j.issn.1000-386X.2008.07.055

[10] 李蓉.神經(jīng)網(wǎng)絡在缺陷接地結(jié)構最優(yōu)化設計中的應用研究[D].天津：天津大學，2007.（LI Rong.Study of the application of neural networks to optimization design of defected ground structures [D].Tianjin：Tianjin University，2007.（in Chinese））DOI：10.7666/d.y1358087

[11] 雷成華，劉剛，李欽豪.BP神經(jīng)網(wǎng)絡模型用于單芯電纜導體溫度的動態(tài)計算[J].高電壓技術，2011，37（1）：184-189.（LEI Cheng-hua，LIU Gang，LI Qin-hao.Dynamic calculation of conductor temperature of single-cable using BP neural network [J].High Voltage Engineering，2011，37（1）：184-189.（in Chinese））

[12] 郝圣橋.液壓AGC伺服閥在線故障智能診斷的研究[D].上海：上海交通大學，2010.（HAO Sheng-qiao.On-line intelligent fault diagnosis of hydraulic AGC servo valve [D].Shanghai：Jiaotong University，2010.（in Chinese））

[13] 王智文.貝葉斯神經(jīng)網(wǎng)絡與FTIR技術在多氣體定量分析中的應用研究[D].太原：中北大學，2011.（WANG Zhi-wen.Research on the application of Bayes neural network and FTIR in quantitative analysis of multi-gases [D].Taiyuan：North University of China，2011.（in Chinese））

[14] 方彩婷.基于BP神經(jīng)網(wǎng)絡的圖像識別與跟蹤研究[D].西安：西安電子科技大學，2006.（FANG Cai-ting.Study of image recognition and tracking based on BP neural network [D].Xi′an：Xidian University，2006.（in Chinese））DOI：10.7666/d.y858729

[15] 張雨濃，陳俊維，劉錦榮，等.基于權值與結(jié)構確定法的單極Sigmoid神經(jīng)網(wǎng)絡分類器 [J].計算機應用，2013，33（3）：766-770，809.（ZHANG Yu-nong，CHEN Jun-wei，LIU Jin-rong，et al.Unipolar sigmoid neural network classifier based on weights and structure determination method [J].Journal of Computer Applications，2013，33（3）：766-770，809.（in Chinese））DOI：10.3724/SP.J.1087.2013.00766

[16] 束志恒.化學化工數(shù)據(jù)挖掘技術的研究[D].杭州：浙江大學，2005.（SHU Zhi-heng.Research on the data mining in chemistry and chemical engineering [D].Hangzhou：Zhejiang University，2005.（in Chinese））

[17] 李輝.提高密度泛函理論方法計算吸收能的精度：神經(jīng)網(wǎng)絡和遺傳算法[D].長春：東北師范大學，2009.（LI Hui.Improving the accuracy of density-functional theory calculation for absorption energies：neural network and genetic algorithm [D].Changchun：Northeast Normal University，2009.（in Chinese））

[18] 田志偉.貝葉斯神經(jīng)網(wǎng)絡在股票預測中的應用[D].無錫：江南大學，2011.（TIAN Zhi-wei.Application of Bayesian neural network on stock forecasting [D].Wuxi：Jiangnan University，2011.（in Chinese））