貝葉斯神經網絡在城市短期用水預測中的應用

占敏+薛惠鋒+王海寧+萬毅

摘要：嚴格水資源管理制度實施的背景下，短期用水量預測對城市供水系統調度的作用日益顯著。在分析日用水量時序演化規律及隨機性影響因素的基礎上，以前7天每日用水量、日最高溫度、當月用水量占全年比、日降水量、節假情況作為短期用水量預測指標，構建了BP神經網絡城市短期用水量預測模型，并利用貝葉斯正則化對BP神經網絡進行優化。將兩種模型應用于廣州市某自來水公司進行對比驗證，結果表明，貝葉斯神經網絡預測模型與BP神經網絡預測模型的平均絕對百分比誤差分別達0.87%與1.85%，經貝葉斯正則化的BP神經網絡模型泛化能力更強，精度提高了約0.98%，更符合城市短期用水量預測的高精度要求。

關鍵詞：短期用水量；神經網絡；貝葉斯正則化；預測模型

中圖分類號：TV213 文獻標識碼：A 文章編號：1672-1683（2017）03-0073-07

Abstract：Under the background of implementation of the most stringent management regulations on water resources，the prediction of short-term water consumption is playing an increasingly significant role in urban water supply system scheduling.Based on the analysis of the temporal evolution pattern and random factors of short-term water consumption，a Bayesian neural network prediction model for urban short-term water consumption was built with the daily maximum temperature，daily water consumption of the previous 7 days，ratio of water consumption of the current month to the annual amount，daily precipitation，and holidays as predictors of short-term water consumption.Meanwhile，Bayesian regularization was used to optimize BP neural network.Both BP network model and the optimized model were applied to a running-water company in Guangzhou City for tesing.The results indicated that the mean absolute percentage error of the Bayesian neural network prediction model was 0.87%，while that of the BP neural network prediction model was 1.85%.Compared to the BP neural network prediction model，the optimized model has stronger generalization ability，with accuracy improved by about 0.98%.Thus，it fits better with the high-precision requirement of urban short-term water prediction.

Key words：short-term water consumption；neural network；Bayesian regularization；prediction model

水資源是保障區域發展和人民生活基礎性資源與戰略性資源，然而我國近2/3的城市呈“缺水”或“嚴重缺水”狀態，多地已逼近用水總量紅線。在最嚴格水資源管理制度[1]實施的背景下，日益突出的水資源供需平衡矛盾給城市供水調度帶來了空前的挑戰。長期用水總量紅線目標需要短期用水實時控制與調節來實現，且短期用水量預測作為城市供水系統運行工況模擬與調度決策基礎和前提，是城市供水調度關鍵的一環，本文試圖建立高精度的逐日用水量預測模型，以提高供水系統工況模擬的合理性及調度決策的可靠性，支撐城市供水系統的穩定運行，促進區域水資源的高效利用與節約。

每日用水量會隨著時間與天氣等條件的影響而發生變化，具有復雜性、非線性、時變性等特點。目前，較為常用的用水量預測方法有灰色預測法、回歸預測法、時間序列預測法與神經網絡預測等[2-3]。其中，灰色預測法與時間序列預測法只是對歷史數據的挖掘，在處理隨機性因素造成的用水變化異常情況時預測效果受限。回歸預測考慮了用水量的影響因素，但該方法中因素的選擇對模型的精度影響較大。神經網絡具有較強的自組織、自學習及歸納與容錯能力[4-5]，且對非線性問題擬合效果較好，因此，本文采用經典的BP神經網絡算法進行預測[6-7]。針對上述方法無法兼顧日用水量時序規律與影響因素造成異常變化的情況，本文將歷史數據及影響因素同時納入預測指標體系中，在考慮日用水量的周期性、趨勢性及隨機性情況下進行預測；針對BP神經網絡推廣能力不足等問題，采用貝葉斯正則化對網絡進行改進并實驗驗證。

1 城市短期用水量預測模型構建

1.1 BP神經網絡

人工神經網絡由多個神經元組成，各個神經元之間相互連接[8]。網絡結構一般分3層：1個輸入層、1個輸出層及連接二者的若干個隱含層。BP神經網絡（Back-propagation Network）是目前應用最為廣泛的神經網絡之一，當網絡的隱含層為1時，結構圖見圖1。網絡工作機理是：信息進入網絡的輸入層后傳播至隱含層，再利用隱含層各神經元的激活函數進行運算并將結果傳播到輸出層[9]。隱含層的層數視實際問題的復雜度而定。一般而言，一個隱含層即能逼近任何非線性連續函數。

BP神經網絡的特點是將前一次輸出結果的誤差反向傳播來重新調整其權值及閾值，當誤差達到最小或極小的時候結束[10]。因此BP神經網絡多了一個向后傳播過程。網絡在向前傳播時運算方式如下：

1.2 貝葉斯神經網絡

泛化能力是衡量神經網絡結構性能的重要標志，一個神經網絡模型可能對訓練樣本集會達到較好的匹配效果，但是當訓練好的網絡去處理一些未知的信息的誤差可能會非常大。這是由于網絡過度依賴訓練樣本，當訓練樣本不能完全描述全樣本的特征時，網絡便不能得出其內在規律，導致其不能很好地對未知信息進行準確判斷，推廣能力不足[12]。根據Moody原則，過擬合現象是由于網絡結構冗余而造成的，在樣本出現較小誤差時，可能會因冗余度過高而輸出誤差較大的結果。正則化方法是在目標函數（3）式中增加一個正則化項或懲罰項[13]，實現目標的結構風險最小化。因此，目標函數被調整為

新的性能指標函數能在當網絡訓練誤差盡可能小的情況下，得到較小的權值[14]。這相當于在保證網絡滿足擬合精度要求情況下減少其網絡節點，降低其復雜度，提高其泛化性能[15]。

貝葉斯神經網絡就是對神經網絡的權值向量賦一個先驗分布，若在樣本較少時，可利用該先驗分布防止網絡出現過擬合。隨著樣本的增加，在訓練過程中，貝葉斯神經網絡不斷地自動調整正則化系數，提高網絡的泛化能力，并能自動調整重要的輸入變量權值的后驗分布使其達到概率最大化，其預測精度就可能會有所提高，增強其泛化能力[16]。

貝葉斯方法的核心是以先驗知識和數據對模型加以評價，該方法將未知變量θ看成一個具有不確定性的隨機變量，θ的不確定性可以用概率或概率分布進行描述。在沒有獲得數據時，對一個變量的未知情況的概率分布進行表述稱為先驗分布。貝葉斯公式可表示為

式中：γ是神經網絡的有效參數的個數，γ=m-2βtr（H）-1，γ∈（0，m），m是神經網絡參數的總數，H即目標函數的Hessian矩陣。但式中的Hessian矩陣的計算量較大，本文采用GAUSS-NEWTON法近似計算Hessian矩陣[17]。具體公式為H=2αJT+2βIm，其中J是訓練誤差的Jacobi矩陣。α與β的具體計算步驟如下：（1）初始化α、β與神經網絡連接權值；（2）將誤差反向傳遞，權值用最速下降法調整從而減少代價函數E；（3）計算有效權值數γ；（4）重新對α、β進行計算；（5）重復步驟（1）至（3），直到滿足要求。

貝葉斯神經網絡能在網絡訓練時自適應地調整α、β的值，最終得到最優解，而一般的正則化方法卻很難做到[18]。貝葉斯正則化在神經網絡訓練中選定α與β的值，把網絡權值作為隨機變量處理，并設訓練數據集與權集的先驗概率服從高斯分布，然后按貝葉斯規則，根據后驗概率的最大化求出目標函數E最小點處W的d與β。

1.3 基于貝葉斯神經網絡的城市短期用水量預測模型 城市用水量一般包括生活用水、工業用水及公共用水。對于城市日用水量而言，一定程度上受溫度、降水量、季度、節假情況等因素的影響。

（1）溫度變化會導致用水量的不同。在溫度較高條件下，居民生活方式可能發生改變，生活用水量呈上升趨勢；維持工業機械正常運作比平時需要更多的水量進行降溫處理，工業用水增加，且日用水量的增幅與溫度的變化率密切相關。

（2）降水量在一定程度上可以彌補城市需水量，如降水量的大小會直接影響到公共用水量，當公共綠地或公共建筑需補水時，若降水量較多，則人工補水量減少；反之，人工補水量增大。

（3）在節假日，居民在家時間相比工作日更長，居民生活用水將會大量增加，同時部分企業可能作業量減少甚至停工，造成工業用水下降。若無法定假日，一周內用水量近似為周期性變化。

（4）在不同的季度，居民生活條件及方式和企業的生產條件與市場需求都會有不同程度的變化，導致用水量發生改變，該變化可近似為以12個月為周期的周期性變化。

綜上所述，日用水量可能存在以每日為單位的周內的短周期性和以季度為單位的年內的長周期變化；而溫度、濕度及節假情況又會增加日用水量的隨機性，再考慮日用水量可能存在的趨勢性變化。因此，本文遵循指標建立的科學性、完備性、實用性、可操作性、獨立性的原則，結合上述日用水量的周期性、隨機性及趨勢性，選取前7天的用水量、日最高溫度、日降水量、當月用水占全年比、節假情況這11個指標作為網絡的輸入節點，以當天的用水量為輸出結果建立短期用水量預測模型。即：

式中：Dn-k為第（n-k）天的用水量（k=0，1，2，3，4，5，6，7）；Tn為第n天的最高溫度；Qn為判斷第n天是否為節假情況，若是工作日，則Qn=0，若是雙休日，則為Qn=1，若是其他法定假日，則Qn=2；Rn為根據天氣預報獲取的第n天的預降水量；Sn是第n天所在的月份歷史年份占全年用水量的百分比。

將網絡的隱含層設為一層，根據Kolmgrov定理，網絡隱含層神經元的數目為網絡輸入數目的2倍加1，即隱含層神經元個數取為23，構成一個11-23-1的神經網絡模型。該模型可提前預測后一天的用水量。

前述提到神經網絡的泛化能力是網絡性能的一個重要標志，若網絡泛化能力低，則即使網絡對于訓練樣本擬合度較高，網絡對未知樣本的預測精度也可能較低。而網絡的泛化能力的主要影響因素就是網絡結構的復雜度，日用水量11-23-1的神經網絡預測模型，網絡輸入層及隱含層節點較多，復雜度較高，若利用BP神經網絡進行預測，則其對訓練樣本能得到較好的擬合效果，但是若樣本出現較小的誤差，則可能會因網絡冗余度較高而引起網絡輸出的極大偏差，實際樣本不可避免存在噪聲點，因此BP神經網絡預測的推廣能力難以保證。貝葉斯神經網絡不僅考慮網絡對歷史日用水量的擬合度，而且還盡可能根據貝葉斯正則化自動調整網絡參數，使得一些冗余的網絡結構對應的權值最終趨向于0，這就自動減小網絡的復雜度，減少因樣本失真而導致的預測精度大幅下降的問題，增強了網絡的泛化能力。

2 實證分析

本文以國家水資源監控能力建設項目監測的廣州市某自來水公司為例，利用國家水資源管理信息系統中該公司2015年9月24日至2016年1月3日實時監測上報的日用水量數據，結合廣州市2015年10月1日至2016年1月3日的天氣數據，分別構建BP神經網絡與貝葉斯正則化后的城市短期用水量預測模型。

由于樣本有限，該公司各月用水量占比用廣州市各月用水量占比替代，按近五年廣州市各月用水占比計算得出。廣州市1月、12月用水占全年的7.5%左右，2月份占7%，3月、4月、11月份為8%，5月、6月、10月為8.5%，7月份為9.5%，8月份達到最高10%，9月份為9%。將收集的95個樣本的前80個樣本作為網絡的訓練集，最后15個樣本作為網絡的測試集以檢驗模型性能。利用MTALAB實現兩種神經網絡算法，設網絡的學習函數為tansig函數，最大訓練次數設為600，訓練的目標誤差為0.005，其余參數取默認值。模型訓練前對數據進行歸一化處理。根據tansig的曲線特性，將歸一化函數設為x*=2x-xminxmax-xmin-1，在得出結果后再反歸一化得出預測的日用水量。本文采用平均絕對百分比誤差MAPE（Mean Absolute Percentage Error）與均方根誤差RMSE（Root Mean Square Error）對兩種模型的預測效果進行評價：

將2015年12月20日至2016年1月3日的數據分別在BP神經網絡于貝葉斯神經網絡預測模型中運行，對測試樣本的擬合度見圖2和圖3，預測的相對誤差曲線如圖4，表1為模型預測的日用水量與日監測用水量的比較，表2為預測模型的性能對比表3與表4分別為兩種模型訓練后權值對比。表3與表4中的Input表示輸入層神經元，Hidden表示輸出層神經元（以輸入層神經元至隱含層第1個神經元至第5個神經元的權值為例）。

本的擬合度為0.995 76，而BP神經網絡對樣本的擬合度為0.997 32。但是，圖4、表1與表2顯示，BP神經網絡短期用水量預測模型的最大相對誤差為5.76%，最小相對誤差為0.34%，誤差波動幅度較大，而貝葉斯神經網絡預測模型則相應為2.89%與0.31%；傳統BP神經網絡預測模型的均方誤差為20 580 m3，而貝葉斯神經網絡預測模型則為9 106 m3，表明貝葉斯正則化后的神經網絡具有更高的穩定性。另外，BP神經網絡預測模型的平均絕對百分比誤差為1.85%，而貝葉斯神經網絡預測模型則為0.87%，其精度提高了0.98%。

由表3及表4可知，BP神經網絡對樣本訓練后其輸入層到隱含層前5個神經元的連接權值取值區間為（0.0100，1.0000），而貝葉斯神經網絡中的連接權值中有15個連接權值為0.000 1或-0.000 1，由于網絡的連接權值是有隨機函數隨機分配的浮點數，無法取整數0，取±0.000 1相當于0，這表明經貝葉斯正則化后的神經網絡能自動去除輸入變量之間的冗余，減小網絡的復雜度。

綜合上述結果可知，貝葉斯正則化能在網絡擬合精度與復雜度之間自動調節，使得網絡能在保證對訓練樣本擬合精度的基礎上調整網絡參數，減小網絡的復雜度，增強網絡的泛化能力，提高網絡對未知事物的預測精度。

3 結論

本文構建的日水量預測指標體系，在分別采用貝葉斯神經網絡與BP神經網絡算法進行實驗驗證時，其預測值絕對百分比誤差分別為0.87%與1.85%，說明了指標選取的有效性；在兩種模型訓練后的擬合度及連接權值對比時表明貝葉斯正則化能在滿足對訓練樣本的擬合精度的條件下去除網絡結構的冗余，降低網絡復雜度；神經網絡貝葉斯神經網絡模型的精度比BP神經網絡模型的精度高0.98%，證明了貝葉斯正則化方法能有效提高網絡的泛化能力，該模型可為城市供水系統的日用水量預測提供參考，為供水系統調度提供準確的數據支撐，促進城市水資源的節約與合理利用。

參考文獻（References）：

[1] 孫雪濤.貫徹落實中央一號文件實行最嚴格水資源管理制度[J].中國水利，2011 （6）：33-34，52.（SUN Xue-tao.Implement No.1 Central Document and carry out strictest regulations on water resources [J].China Water Resources，2011（6）：33-34，52.（in Chinese））DOI：10.3969/j.issn.1000-1123.2011.06.017

[2] 何忠華.城市需水量的預測研究[D].合肥：安徽理工大學，2009.（HE Zhong-hua.The research for forecasting urban water demand [D].Hefei：Anhui University of Science and Technology，2009.（in Chinese））DOI：10.7666/d.y1575148

[3] 展金巖.深圳市水資源供需預測及可持續利用研究[D].北京：華北電力大學，2012. （ZHAN Jin-yan.Supply and demand prediction and sustainable utilization of water resources in Shenzhen [D].Beijing：North China Electric Power University，2012.（in Chinese））DOI：10.7666/d.y2140293

[4] 顏端武.面向知識服務的智能推薦系統研究[D].南京：南京理工大學，2007.（YAN Duan-wu.Research on knowledge service oriented intelligent recommendation system [D].Nanjing：Nanjing University of Science and Technology，2007.（in Chinese））DOI：10.7666/d.y1154967

[5] 陳佳.基于粗糙集理論和人工神經網絡的滾動軸承故障診斷[D].成都：西南交通大學，2012.（CHEN Jia.Rolling bearing fault diagnosis based on rough set theory and artificial neural network [D].Chengdu：Southwest Jiaotong University，2012.（in Chinese））DOI：10.7666/d.y2108628

[6] Maidment D，Pazren E.Time patterns of water use in six Texas cities [J].Journal of Water Resources Planning and Management，ASCE，1984，110（1）：90-106.

[7] Maidment D，Miaou S，Crawford M.Transfer function models of daily urban water use [J].Water Resources Research，1985，21（4）：425-432.

[8] 鄭忠.適應性組合分類器遙感分類研究[D].長沙：中南大學，2013.（ZHENG Zhong.Remote sensing classification by adaptive combing multiple classifiers [D].Changsha：Central South University，2013.（in Chinese））DOI：10.7666/d.y2423974

[9] 王志勇，陳昊鵬.基于組合神經網絡模型的函數逼近方法[J].計算機應用與軟件，2008，25（7）：137-139.（WANG Zhi-yong，CHEN Hao-peng.Function approximation based on combined neural network model [J].Computer Applications and Software，2008，25（7）：137-139.（in Chinese））DOI：10.3969/j.issn.1000-386X.2008.07.055

[10] 李蓉.神經網絡在缺陷接地結構最優化設計中的應用研究[D].天津：天津大學，2007.（LI Rong.Study of the application of neural networks to optimization design of defected ground structures [D].Tianjin：Tianjin University，2007.（in Chinese））DOI：10.7666/d.y1358087

[11] 雷成華，劉剛，李欽豪.BP神經網絡模型用于單芯電纜導體溫度的動態計算[J].高電壓技術，2011，37（1）：184-189.（LEI Cheng-hua，LIU Gang，LI Qin-hao.Dynamic calculation of conductor temperature of single-cable using BP neural network [J].High Voltage Engineering，2011，37（1）：184-189.（in Chinese））

[12] 郝圣橋.液壓AGC伺服閥在線故障智能診斷的研究[D].上海：上海交通大學，2010.（HAO Sheng-qiao.On-line intelligent fault diagnosis of hydraulic AGC servo valve [D].Shanghai：Jiaotong University，2010.（in Chinese））

[13] 王智文.貝葉斯神經網絡與FTIR技術在多氣體定量分析中的應用研究[D].太原：中北大學，2011.（WANG Zhi-wen.Research on the application of Bayes neural network and FTIR in quantitative analysis of multi-gases [D].Taiyuan：North University of China，2011.（in Chinese））

[14] 方彩婷.基于BP神經網絡的圖像識別與跟蹤研究[D].西安：西安電子科技大學，2006.（FANG Cai-ting.Study of image recognition and tracking based on BP neural network [D].Xi′an：Xidian University，2006.（in Chinese））DOI：10.7666/d.y858729

[15] 張雨濃，陳俊維，劉錦榮，等.基于權值與結構確定法的單極Sigmoid神經網絡分類器 [J].計算機應用，2013，33（3）：766-770，809.（ZHANG Yu-nong，CHEN Jun-wei，LIU Jin-rong，et al.Unipolar sigmoid neural network classifier based on weights and structure determination method [J].Journal of Computer Applications，2013，33（3）：766-770，809.（in Chinese））DOI：10.3724/SP.J.1087.2013.00766

[16] 束志恒.化學化工數據挖掘技術的研究[D].杭州：浙江大學，2005.（SHU Zhi-heng.Research on the data mining in chemistry and chemical engineering [D].Hangzhou：Zhejiang University，2005.（in Chinese））

[17] 李輝.提高密度泛函理論方法計算吸收能的精度：神經網絡和遺傳算法[D].長春：東北師范大學，2009.（LI Hui.Improving the accuracy of density-functional theory calculation for absorption energies：neural network and genetic algorithm [D].Changchun：Northeast Normal University，2009.（in Chinese））

[18] 田志偉.貝葉斯神經網絡在股票預測中的應用[D].無錫：江南大學，2011.（TIAN Zhi-wei.Application of Bayesian neural network on stock forecasting [D].Wuxi：Jiangnan University，2011.（in Chinese））