基于多階段注意力機制的建筑空調負荷預測方法

陳東海，馬旭，王波，朱曉杰，白文博

（1.國網浙江省電力有限公司寧波供電公司，浙江 寧波 315000；2.國網浙江余姚市供電有限公司，浙江 寧波 315000；3.寧波市電力設計院有限公司，浙江 寧波 315000）

0 引言

在建筑用電負荷中，空調負荷通常占據了一半左右的比重［1-3］，同時，空調負荷受到人類活動和氣象條件等因素的影響，呈現出較強的不確定性，其變化往往會引起建筑用電負荷的明顯波動［4-7］。因此，準確地分析建筑空調負荷的變化規律，對于提升建筑用電負荷預測的準確性，保證區域配電網的電力供需平衡有著關鍵性的作用［8-11］。

對于建筑空調負荷的預測，有部分學者采用統計學方法進行研究。文獻［12］基于改進的季節性指數平滑法，利用日平均氣溫對辦公類建筑的空調負荷進行了預測；文獻［13］采用蒙特卡洛方法分析天氣預報數據的不確定性，并將不確定性分析結果用于建筑空調負荷預測，從而提高了對空調負荷的預測準確性；文獻［14］采用多元線性回歸方法對歷史負荷和溫度的逐時數據進行分析，以預測每個小時的建筑空調負荷值。但是，統計學方法在影響因素較多，且影響因素與負荷之間存在非線性相關的復雜關系時，負荷預測的準確性和穩定性都難以保證［15-18］。

近幾年來，隨著機器學習技術，尤其是深度學習技術的發展，不少研究開始采用人工智能方法進行建筑空調負荷預測。文獻［19］基于Kmeans聚類和BP（反向傳播）神經網絡算法對辦公建筑的逐時電負荷進行預測，有效提高了建筑總用電和空調用電負荷的預測精度；文獻［20］采用結合主成分分析法和LSTM（長短期記憶）神經網絡的方法，在對影響建筑空調負荷的多元因素進行降維處理的基礎上，得到建筑空調負荷的預測結果；文獻［21］通過SVD（奇異值分解）的方法對空調負荷數據進行降噪處理，再結合溫濕度數據集構建了基于LSTM神經網絡的高校宿舍空調負荷預測模型。相比于統計學方法，基于人工智能的神經網絡更能捕捉到建筑空調負荷與影響因素之間的非線性相關性。然而，在各種各樣的氣象、時間條件下，不同影響因素類型以及影響因素值的不同采樣時刻，對于建筑空調負荷預測的重要性都有所差異，而上述模型構建時采用的神經網絡結構均沒有引入注意力機制，未能充分地區分不同影響因素和采樣時刻的重要程度，影響了建筑空調負荷預測的準確性。

除了建筑空調負荷預測，在電網整體負荷預測問題中，已有相關研究將注意力機制引入預測模型，如文獻［15］在GRU（門控循環單元）中使用注意力機制，構建短期負荷預測模型；文獻［16］同樣將注意力機制引入GRU，并結合卷積神經網絡進行負荷預測模型的構建；文獻［17］則在LSTM中加入注意力機制，以區分不同時刻采樣值對電網短期負荷預測的重要程度。然而，這些研究大多只將注意力機制應用于時間序列，未對不同影響因素賦予不同的注意力，因而應用于建筑空調的負荷預測時，難以把握各種條件下不同類型影響因素對于建筑空調負荷預測的重要性差異。

為了同時考慮不同影響因素和采樣時刻對建筑空調負荷的影響程度差異，本文提出一種基于多階段注意力機制的建筑空調負荷預測方法。在分析建筑空調負荷各類影響因素的基礎上，采用影響因素注意力模塊區分不同影響因素對空調負荷預測的重要性差異，得到含影響因素注意力的特征矩陣；然后將特征矩陣輸入LSTM神經網絡，并在輸出層加入時間注意力模塊，用于計算輸出向量，以區分不同采樣時刻的影響因素對于空調負荷預測的重要性差異；最后將含時間注意力的輸出向量輸入SVR（支持向量回歸）模型，得到建筑空調負荷的預測結果。

1 建筑空調負荷的影響因素

建筑空調負荷與人類活動和氣象因素都有密切的關系［20］。人類活動對建筑空調負荷的影響主要體現在日常作息規律和空調使用習慣上，相應地可以選擇是否工作日、當日時刻（24 h制）、歷史空調負荷3個維度作為影響因素。氣象因素對建筑空調負荷的影響主要體現在對人體感受和空調制冷功率的影響，根據文獻［20-22］的分析，可選擇與空調負荷相關性較強的溫度、濕度、氣壓3個維度作為影響因素。

上述6個影響因素維度在使用前首先需要進行數值化。對于某一個采樣時刻t，若該時刻所在當天是工作日，則“是否工作日”維度的值取1，否則取0；“當日時刻”維度表示時刻t處于一天中的哪一個整點時刻，取值范圍為｛0，1，…，23｝；“歷史空調負荷”“溫度”“氣壓”維度分別以千瓦、攝氏度、百帕為單位取值；“濕度”維度取相對濕度值。

影響因素數值化后，還需要進行歸一化處理，得到預測模型實際使用的影響因素值。歸一化采用Min-Max標準化方法，假設某個影響因素x的所有歷史數據中最大值為xmax，最小值為xmin，則采樣時刻t的數值xt歸一化后為：

后續預測模型采用的均為歸一化的影響因素值。

預測某一時刻的建筑空調負荷時，考慮其前T小時內每個小時的影響因素值，可將上述6個影響因素維度構建為一個6行T列的初始影響因素矩陣I，矩陣的第t列（t=1，2，…，T）表示第t個采樣時刻的6個影響因素值。

2 基于多階段注意力的建筑空調負荷預測模型

2.1 負荷預測模型總體結構

建筑空調負荷預測模型的總體結構如圖1所示，模型結構主要包括3部分，分別是影響因素注意力模塊、LSTM神經網絡以及時間注意力模塊。其中，影響因素注意力模塊用于區分不同影響因素對于建筑空調負荷預測的重要性差異，以對不同的影響因素分配不同的注意力權重；LSTM神經網絡用于提取每個采樣時刻的影響因素信息，并對影響因素信息進行篩選與融合；時間注意力模塊用于區分不同采樣時刻對于建筑空調負荷預測的重要性差異，以對不同采樣時刻的影響因素分配不同的注意力權重。

圖1 建筑空調負荷預測模型總體結構Fig.1 General structure of the load prediction model for building air conditioning

預測建筑空調負荷時，首先將6行T列的初始影響因素矩陣I輸入影響因素注意力模塊。影響因素注意力模塊可以自動學習不同氣象、時間等條件下各個影響因素對建筑空調負荷的影響程度差異，對輸入矩陣I的元素值進行調整，得到含影響因素注意力的特征矩陣C，且矩陣C與矩陣I的行數和列數均相同。

接著，將含影響因素注意力的特征矩陣C按列拆分為T個特征矩陣列向量ct（t=1，2，…，T），再依次輸入LSTM網絡的各個LSTM單元中，以提取每個時間步長的影響因素特征信息，提取后每個列向量ct均得到對應的l維隱藏層向量ht。

最后，將所有隱藏層向量ht輸入時間注意力模塊，通過時間注意力模塊區分不同時刻t的隱藏層向量ht對于建筑空調負荷預測的重要性差異，得到含時間注意力的l維輸出向量h0，再通過SVR模型計算出最終的建筑空調負荷預測值。

2.2 影響因素注意力模塊

影響因素注意力模塊的作用是通過注意力機制區分各種條件下不同影響因素對于建筑空調負荷的影響程度差異。例如，對于居民建筑而言，在凌晨時段，“溫度”維度對于建筑空調負荷的影響程度通常大于“是否工作日”維度；而在早上或下午時段時，“是否工作日”維度對于建筑空調負荷的影響程度則更大。影響因素注意力模塊結構如圖2所示。

圖2 影響因素注意力模塊結構Fig.2 Structure of the influencing factor attention module

影響因素注意力模塊的計算過程如下：

1）初始影響因素矩陣I輸入影響因素注意力模塊后，按行拆分為6個影響因素行向量ir（r=1，2，…，6）。為了在影響因素注意力計算時充分考慮影響因素與建筑空調負荷之間的非線性和非單調性關系，本文提出一種簡單高效的卷積層結構，并將每個ir分別輸入一個卷積層進行卷積運算。卷積層結構如圖3所示，由k個單通道的1×1卷積核、激活函數以及1個k通道的1×1卷積核串接而成，其中激活函數采用ReLU（修正線性單元）的形式。卷積層結構中，k個單通道的1×1卷積核有利于捕捉影響因素與建筑空調負荷之間的非單調性關系，例如隨著溫度由低溫到高溫變化，建筑空調負荷通常會呈現先下降后上升的非單調變化趨勢；激活函數ReLU有利于更好地擬合影響因素與建筑空調負荷之間復雜的非線性關系；1個k通道的1×1卷積核則將k個T維行向量重新融合為1個T維的特征行向量。經過卷積層的計算后，每個ir均得到對應的特征行向量cr。

圖3 卷積層結構Fig.3 Sturcture of the convolutional layer

2）引入T維的影響因素注意力向量u1，并計算每個特征行向量cr與u1的內積，再使用softmax函數進行歸一化，得到6維的影響因素注意力權重向量a1，其中向量a1第r維的值a1（r）計算方法為：

3）將每個特征行向量cr與向量a1第r維的值a1（r）相乘，相乘后共得到6個行向量，按行拼接后得到含影響因素注意力的特征矩陣C。

上述計算過程中，卷積層的卷積核參數以及影響因素注意力向量u1的值均可在模型訓練過程中自動學習得到。

2.3 時間注意力模塊

時間注意力模塊的作用是通過注意力機制區分不同時刻的影響因素對于建筑空調負荷預測的影響程度差異。例如，對于“歷史空調負荷”維度而言，由于建筑空調負荷變化具有連續性，往往越接近于當前時刻的采樣時刻，其采樣值對當前的空調負荷影響越大；而對于“溫度”“濕度”等氣象因素而言，其對建筑空調負荷的影響往往具有延遲效應［23-27］，因此距離當前時刻較遠的采樣時刻，其采樣值也可能對當前的建筑空調負荷產生較大的影響。時間注意力模塊的結構如圖4所示。

圖4 時間注意力模塊結構Fig.4 Structure of the temporal attention module

時間注意力模塊的計算過程如下：

1）將T個l維的隱藏層向量ht輸入時間注意力模塊后，引入l維的影響因素注意力向量u2，并計算每個隱藏層向量ht與u2的內積，再使用softmax函數進行歸一化，得到T維的影響因素注意力權重向量a2，其中向量a2第t維的值a2（t）計算方法為：

2）將每個隱藏層向量ht與向量a2第t維的值a2（t）相乘，并對相乘后得到的T個列向量求和，求和后得到含時間注意力的輸出向量h0。

上述計算過程中，時間注意力向量u2的值可在模型訓練過程中自動學習得到。

完成時間注意力模塊的計算后，將含時間注意力的輸出向量h0輸入SVR模型，通過支持向量回歸法計算最終的建筑空調負荷預測值。SVR模型的參數可在模型訓練過程中自動學習得到。

3 算例分析

3.1 實驗數據集

為了驗證本文所提的基于多階段注意力機制的建筑空調負荷預測模型的預測效果，采用華東某地區的1座辦公建筑和1座居民建筑作為實驗對象，采集2座建筑在2018—2021年間的空調實際用電負荷數據，以及是否工作日、當日時刻、歷史空調負荷、溫度、濕度、氣壓共6類影響因素數據進行實驗，數據均在整點時刻進行采樣，采樣間隔為1 h。其中，空調負荷數據為暫態功率數據，采集方法是采用半侵入式的智能用電負荷監測系統，對所研究建筑的樓層或室內配電箱的空調分支回路電壓、電流數據進行實時監測與傳輸，從而采集每個配電箱對應的空調有功功率實時數據，并進行匯總求和，得到建筑對應的總體空調負荷實時數據，再通過整點時刻的采樣得到暫態功率數據。

將2018—2020年的數據作為訓練集，用于訓練建筑空調負荷預測模型的模型參數；將2021年的數據作為測試集，用于測試建筑空調負荷預測模型的預測效果。模型訓練和測試時，均滾動地利用待預測時刻的前1至T個小時的6個影響因素實際值構建初始影響因素矩陣I，并輸入建筑空調負荷預測模型，通過模型計算后輸出待預測時刻的空調負荷預測值。

3.2 評價指標

為評估建筑空調負荷預測的準確性，選取負荷預測常用的MAPE（平均絕對百分比誤差）和RMSE（均方根誤差）作為評價指標。

假設測試集一共有D個待預測的建筑空調負荷值，負荷的實際值記為y0（d）（d=1，2，…，D），負荷的預測值記為y（d），則MAPE指標的計算方法為：

RMSE指標的計算方法為：

3.3 實驗模型與參數設置

本文采用了多階段的注意力模塊，以區分不同影響因素和不同采樣時刻對于空調負荷預測的重要程度差異，故對照模型也針對影響因素注意力模塊和時間注意力模塊進行設置。

實驗模型的具體設置如表1所示。其中，對照模型1既不使用影響因素注意力模塊（即圖2中直接令特征矩陣C等于初始影響因素矩陣I），也不使用時間注意力模塊（即圖4中直接將各個隱藏層向量ht乘以1/T后求和得到輸出向量h0）；對照模型2僅使用時間注意力模塊，而不使用影響因素注意力模塊；對照模型3僅使用影響因素注意力模塊，而不使用時間注意力模塊；對照模型4雖然同時使用影響因素注意力模塊和時間注意力模塊，但在影響因素注意力模塊中不使用本文所提出的卷積層結構，即圖3中直接令特征行向量cr等于影響因素行向量ir。經過預實驗，將輸入模型的采樣時刻數目T設定為12，即初始影響因素矩陣I的列數為12；在影響因素注意力模塊的卷積層結構中，將單通道1×1卷積核的數量k設定為4；將隱藏層向量ht和輸出向量h0的維數l設定為32。

表1 實驗模型設置情況Table 1 Experimental model settings

3.4 實驗結果分析

本文針對所選取的1座辦公建筑和1座居民建筑的空調用電負荷分別進行實驗研究。采用空調負荷訓練集的數據對表1的各個實驗模型進行訓練后，對空調負荷測試集的數據進行預測，并統計建筑空調負荷的預測結果，得到2座建筑的預測結果如表2所示。

表2 建筑空調負荷預測結果Table 2 Results of building air conditioning load prediction

從表2可以看出，無論是對辦公建筑還是居民建筑進行空調負荷預測，本文模型相比于其他對照模型的預測準確率都有比較顯著地提升。對照模型1未使用注意力模塊，預測時難以區分不同影響因素、采樣時刻對于空調負荷變化的重要程度，容易受到次要因素的干擾，因而在辦公建筑和居民建筑的空調負荷預測中誤差均大于其他模型；對照模型2僅加入時間注意力模塊，無法在初始影響因素矩陣輸入LSTM神經網絡前為各個影響因素分配不同的注意力，因此相對于本文模型的預測誤差仍然較大；類似的，對照模型3僅加入影響因素注意力模塊，無法在LSTM神經網絡輸出隱藏層向量后為不同時刻的向量分配不同的注意力，導致空調負荷預測的誤差較大；對照模型4雖然同時加入了影響因素注意力模塊和時間注意力模塊，但是在影響因素注意力模塊中省略了圖3所示的卷積層結構，因而在計算影響因素注意力權重時，無法提前挖掘影響因素與空調負荷之間的非線性和非單調性關系，導致影響因素注意力權重計算出現一定偏差，影響了最終的建筑空調負荷預測效果。

通過表2中本文模型與各個對照模型的對比可以看出，無論是影響因素注意力模塊及其包含的卷積層結構，還是時間注意力模塊，對于減小建筑空調負荷預測模型的預測誤差，提升建筑空調負荷預測的準確率都有著重要的作用。

為了更直觀地展示多階段注意力模塊對于提高建筑空調負荷預測準確性的作用，選擇某個夏季工作日24 h的空調負荷數據，繪制僅采用單階段注意力模塊的對照模型2和對照模型3，以及本文的多階段注意力模型對于2座建筑的空調負荷預測結果，其中辦公建筑的空調負荷預測結果如圖5所示，居民建筑的空調負荷預測結果如圖6所示。

圖5 辦公建筑的空調負荷預測結果Fig.5 Results of air conditioning load prediction for office buildings

圖6 居民建筑的空調負荷預測結果Fig.6 Results of air conditioning load prediction for residential buildings

圖5的辦公建筑在凌晨休息時間僅有資料室、機房等區域的空調開啟，負荷較低；07：00—09：00，隨著建筑內各個區域的上班人員陸續開啟空調，總體空調負荷有較為明顯地爬升；隨后，空調負荷主要受氣象因素影響波動，且在午休時間出現小幅回落；17：00—20：00，隨著人員下班陸續關閉空調，總體空調負荷有明顯地下降，此后保持在低負荷運行。

圖6的居民建筑在夜間隨著氣溫降低，總體空調負荷呈現下降趨勢；在上午隨著人員上班離開住所，空調負荷繼續降低，但在中午由于午休開啟空調等原因，負荷出現一個小的波峰；17：00開始，人員陸續返回住所，空調負荷出現明顯升高，到晚間接近休息時間時逐漸回落。

從圖5和圖6可以看出，相比于采用單階段注意力模塊的對照模型2和對照模型3，本文的多階段注意力模型不管是在辦公建筑或居民建筑的空調負荷預測上，都能更好地跟蹤負荷的變化。在空調負荷波動幅度較大的時間段，如圖5的07：00—11：00、17：00—20：00，圖6的08：00—12：00、18：00—21：00等時間段，本文模型可以對空調負荷的變化情況進行更好地跟蹤擬合，從而提高建筑空調負荷預測的準確率。

4 結語

本文提出一種基于多階段注意力機制的建筑空調負荷預測方法，通過構建影響因素注意力模塊和時間注意力模塊，實現對建筑空調負荷預測中不同影響因素和采樣時刻的重要性定量計算和區分，并將注意力模塊與LSTM神經網絡有機結合，形成了建筑空調負荷的預測模型。對照實驗的結果表明，本文所提的建筑空調負荷預測模型相對于不包含注意力機制的預測模型，以及僅包含單一影響因素注意力模塊或時間注意力模塊的預測模型，預測誤差均有較大幅度地降低，對于提升建筑空調負荷預測的準確性有較為顯著的作用。