基于優(yōu)化卷積神經(jīng)網(wǎng)絡的非侵入式負荷識別方法

賈云翔,遲長春

(上海電機學院 電氣學院,上海 201306)

隨著經(jīng)濟發(fā)展步伐逐漸加快,國民生活質量與消費水平不斷提高,各類家用電器得到廣泛使用[1-3],這給人們日常生活帶來眾多便利。但隨之而來的是使用電器的一些安全隱患,電器長時間高負荷運行、使用不當產(chǎn)生高溫、內部器件復雜或質量不合格短路燃燒等都會引發(fā)火災甚至爆炸等危險事故[4]。如今負荷特征越加復雜,挖掘提取特征信息難度加大,導致識別準確率下降,難以維持用電環(huán)境安全。因此,采用非侵入式負荷監(jiān)測方法來監(jiān)測電器使用情況,可以及時預警和處理,避免事故的發(fā)生,從而使人們的生命財產(chǎn)得到保護[5-6]。

非侵入式負荷識別方法[7],是在供電入口處安裝智能電表對居民內部家用電器進行識別監(jiān)測,對用電器負荷特征信息提取來識別。國內外對于非侵入式負荷識別技術做了很多深入研究。文獻[8]基于穩(wěn)態(tài)特征中最為傳統(tǒng)的有功功率特征,提取其序列特征值和輪廓奇異值,利用多特征序列融合算法識別較大功率類負荷;文獻[9]基于穩(wěn)態(tài)電壓、電流特征,建立線性和非線性負荷模型數(shù)據(jù)庫,對新增負荷通過模型匹配進行識別;文獻[10]對U-I軌跡顏色編碼,采樣遷移學習辨別負荷,防止新增負荷軌跡的唯一性。近幾年自學習人工智能技術不斷發(fā)展,出現(xiàn)了對電壓-電流軌跡的自學習提取特征識別技術[11-14],對特征信息進行訓練,得到穩(wěn)定的分類模型,設別效果獲得眾多肯定。

卷積神經(jīng)網(wǎng)絡分類模型可對負荷特征自學習提取識別分類,但人工操作獲得的分類模型分類性能具有不確定性,難以應對越加復雜的負荷識別工作。因此,采用粒子群優(yōu)化算法[15],對卷積神經(jīng)網(wǎng)絡超參數(shù)進行優(yōu)化,使優(yōu)化卷積神經(jīng)網(wǎng)絡分類模型獲得更好自學習特征提取能力,識別家用電器準確率更高,這對非侵入式負荷監(jiān)測發(fā)展意義深遠。

1 基于卷積神經(jīng)網(wǎng)絡的負荷識別過程

1.1 U-I軌跡負荷特征

U-I軌跡負荷特征,是依據(jù)家用電器內部構造和器件的差異,將電器穩(wěn)定運行時的電壓、電流數(shù)據(jù)歸一化處理轉換為二維軌跡圖像,直觀展現(xiàn)不同電器軌跡形狀差異。從而依據(jù)此負荷特征,來識別圖像辨別電器類型,如圖1所示。

圖1 家用電器U-I軌跡圖

1.2 卷積神經(jīng)網(wǎng)絡自學習提取特征

卷積神經(jīng)網(wǎng)絡是針對二維圖像識別設計的多層感知器,卷積層權值共享、池化層降采樣和神經(jīng)元間局部連接,是其主要特點。將其應用在識別分類U-I軌跡圖時,展現(xiàn)出可縮放、平移、維持軌跡特征圖不變性等優(yōu)勢。卷積神經(jīng)網(wǎng)絡主要由卷積層、池化層組合的特征提取層,以及全連接層、Softmax層組合的分類層組建而成。

(1) 卷積層是卷積神經(jīng)網(wǎng)絡核心層,采用離散卷積的方式,對家用電器U-I軌跡圖自學習提取特征。卷積核作為共享存在的離散二維濾波器,對二維U-I軌跡圖局部區(qū)域內像素點做內積運算,濾除無用信息生成濾波圖,并利用偏置組合成眾多同尺寸特征映射圖。軌跡特征圖輸出為

卷積核卷積流程如圖2所示。

圖2 卷積核卷積流程

(2) 池化層主要是壓縮特征映射圖空間大小,進行降采樣減少網(wǎng)絡參數(shù)。通過最大或平均池化提取軌跡圖局部區(qū)域內像素值,并能夠保持軌跡圖特征數(shù)據(jù)信息不變,從而降低計算量提高網(wǎng)絡訓練速度,池化過程公式為

平均池化、最大池化如圖3、圖4所示。

圖3 平均池化

圖4 最大池化

(3) 全連接層用來整合已提取軌跡特征圖中區(qū)分性的局部特征信息,且常會在其前放置DropOut層,防止過擬合出現(xiàn)。在U-I軌跡圖初始數(shù)據(jù)特征映射到隱含特征空間后,通過全連接層整合匯總特征映射到樣本標記空間,最終通過Softmax分類器以分類概率形式,輸出電器識別分類結果。分類概率為

式中:c為軌跡圖總數(shù);aj為電器歸屬類別j的特征值。

2 優(yōu)化卷積神經(jīng)網(wǎng)絡

2.1 粒子群優(yōu)化算法

粒子群優(yōu)化算法是基于鳥群啟發(fā)式搜索覓食原理,依據(jù)粒子自身與群體存儲的初始食物范圍信息,將鳥看作粒子,確定初始速度矢量Vi(0)和初始位置Xi(0)。接著在粒子搜索尋優(yōu)過程中,通過權值系數(shù)ω的粒子搜索能力與學習因子c可調整粒子靠近極值變化速度的能力,粒子間相互合作分享信息,不斷更新粒子種群N中的局部極值pbest(i)與全局極值gbest(i),直至最終得到粒子最優(yōu)解的速度矢量與位置信息。Vi、Xi和V′i、X′i為粒子速度、位置調整前后信息,分別為

式中:Vmax、Vmin為初始化速度的上下限;Rs為(-1,1)隨機值;G為經(jīng)驗值;c1、c2為局部極值與全局極值學習因子;r、r1、r2為極值影響度擾動因子。

在優(yōu)化確認最優(yōu)速度和位置信息過程中,需要計算所有粒子的適應度值,根據(jù)其優(yōu)劣程度篩選出帶有更好速度矢量與位置的粒子種群。適應度值表達式為

式中:M為更新后的輸出數(shù)量為期望輸出與實際輸出狀態(tài)值。當兩者狀態(tài)值之間誤差趨于小于最終期待的誤差值,則優(yōu)化過程結束。

2.2 優(yōu)化卷積神經(jīng)網(wǎng)絡流程

不同超參數(shù)配置的卷積神經(jīng)網(wǎng)絡分類模型,分類效果參差不齊,人工操作的不確定性會使得分類性能局部最優(yōu)。因此,采用粒子群優(yōu)化算法優(yōu)化其網(wǎng)絡結構,搜尋最優(yōu)超參數(shù),使負荷分類模型分類性能趨向最優(yōu)。

首先,依據(jù)超參數(shù)取值范圍,通過粒子群優(yōu)化算法進行優(yōu)化,將超參數(shù)看作粒子來開展尋優(yōu)過程。其次,根據(jù)超參數(shù)的適應度值,不斷代入優(yōu)化后的超參數(shù),篩選出分類性能趨于最優(yōu)化的超參數(shù)群體。最后,得到優(yōu)化卷積神經(jīng)網(wǎng)絡負荷分類模型,測試其分類性能,并對分類結果進行評估。

為更好地對卷積神經(jīng)網(wǎng)絡進行優(yōu)化,避免網(wǎng)絡重復訓練產(chǎn)生過擬合問題,采用波動率來評價優(yōu)化卷積神經(jīng)網(wǎng)絡負荷分類模型的分類性能穩(wěn)定程度。在波動率趨向于穩(wěn)定后,負荷分類性能差異縮小,則粒子群優(yōu)化算法對超參數(shù)的尋優(yōu)工作結束,最終得到穩(wěn)定分類性能的優(yōu)化卷積神經(jīng)網(wǎng)絡負荷分類模型。波動率為

式中:ak[i]為k階段第i個粒子分類精度;ak[k]為k階段第k個粒子分類精度。

3 負荷分類實驗結果

通過Matlab搭建卷積神經(jīng)網(wǎng)絡負荷分類模型,結合粒子群優(yōu)化算法優(yōu)化其超參數(shù)配置,選取主要影響分類性能的超參數(shù),并確定其取值范圍,其中卷積核、學習率等超參數(shù)與分類性能有著直接聯(lián)系,具體被選取的超參數(shù)如表1所示。超參數(shù)尋優(yōu)過程中,為更好地尋找到最優(yōu)超參數(shù)值,設置粒子群優(yōu)化算法中局部和全局學習因子為1.49445,慣性權重設置為0.8,迭代次數(shù)為500,對網(wǎng)絡進行訓練更新超參數(shù)。

表1 超參數(shù)取值范圍

在粒子群優(yōu)化算法尋找卷積神經(jīng)網(wǎng)絡超參數(shù)最優(yōu)值過程中,慣性權值可加速粒子群優(yōu)化算法收斂速度,使其具備很好的搜索能力,快速尋找局部和全局超參數(shù)極值。學習因子可控制局部和全局極值之間的變化加速關系,更快地尋找靠近更優(yōu)超參數(shù)。這一過程中,超參數(shù)的適應度值逐漸收斂,直至趨向于穩(wěn)定,則最優(yōu)超參數(shù)尋找工作結束,適應度值變化曲線如圖5所示。

圖5 適應度值變化曲線

粒子群優(yōu)化算法尋找卷積神經(jīng)網(wǎng)絡超參數(shù)最優(yōu)值工作結束后,具體超參數(shù)尋優(yōu)結果如表2所示,其中不同卷積層的超參數(shù)選取差異較為明顯。

表2 超參數(shù)優(yōu)化結果

多回合訓練優(yōu)化下,學習因子與慣性權值自學習式搜尋到超參數(shù)最優(yōu)值,從局部最優(yōu)到全局最優(yōu)。隨著訓練深入,波動率逐漸下降趨于平緩,優(yōu)化卷積神經(jīng)網(wǎng)絡整體分類性能則得到穩(wěn)定,如圖6所示。

圖6 波動率變化曲線

將每個負荷測試集陸續(xù)輸入后,最后通過Softmax分類器輸出和為一的特征向量,其中每一數(shù)值為預測電器類型的概率,取最大概率為識別準確率。根據(jù)測試結果分析,優(yōu)化后分類精度有著很好的提升,整體電器識別準確率得到進一步提高,如表3所示。

表3 家用電器識別結果

4 結語

針對家用電器用電環(huán)境安全,采用非侵入式負荷監(jiān)測模式下,研究一種基于優(yōu)化卷積神經(jīng)網(wǎng)絡的負荷識別方法。該方法基于二維U-I軌跡圖,通過粒子群優(yōu)化算法對卷積神經(jīng)網(wǎng)絡超參數(shù)配置進行優(yōu)化,可很好地提升分類模型整體分類性能。針對非侵入式負荷監(jiān)測中負荷識別方法研究,優(yōu)化卷積神經(jīng)網(wǎng)絡可精確辨別出電器類型,完善負荷監(jiān)測技術,保障居民生命財產(chǎn)安全。