基于Atrous-CDAE-1DCNN的紫丁香高光譜數(shù)據(jù)的葉綠素含量反演*

高文強(qiáng)，肖志云

(1. 內(nèi)蒙古工業(yè)大學(xué)電力學(xué)院，呼和浩特市，010080；2. 內(nèi)蒙古自治區(qū)機(jī)電控制重點(diǎn)實(shí)驗(yàn)室，呼和浩特市，010051)

0 引言

葉片葉綠素含量與動態(tài)變化與植物的光合作用密不可分，是植物光合活性、生長狀況、營養(yǎng)狀況的指示器[1]。因此葉綠素含量的檢測在對植物生長檢測和精密農(nóng)學(xué)中具有重要意義。采用SPAD葉綠素測定儀獲取植物葉綠素含量的相對大小，該方法較傳統(tǒng)的化學(xué)測定具有無損檢測的優(yōu)點(diǎn)，但在測量過程中需多次插入，難以檢測大范圍的葉綠素[2]。高光譜圖像技術(shù)具有快速、無損的檢測特點(diǎn)，近年來已經(jīng)成為分析植物理化參數(shù)含量的重要工具。李金敏等[3]利用深度森林算法提升了高光譜反演葉片氮含量的精度和穩(wěn)定性,并通過多粒度掃描相對減輕過擬合程度，該試驗(yàn)在少量數(shù)據(jù)條件下構(gòu)建深度學(xué)習(xí)模型并實(shí)現(xiàn)葉片氮含量的精準(zhǔn)估計(jì)。為了簡化高光譜數(shù)據(jù)處理流程,直接利用原始的高光譜反射率完成從建模到估算作物生長參數(shù)的全過程，紀(jì)景純等[4]利用偏最小二乘回歸、支持向量回歸和前饋神經(jīng)網(wǎng)絡(luò)3種方法,利用全波段高光譜數(shù)據(jù)分別對冬小麥多個關(guān)鍵生育期(拔節(jié)、孕穗、揚(yáng)花和乳熟期)生長參數(shù)(地上部生物量、葉面積指數(shù)、全氮含量和葉綠素濃度)進(jìn)行了估算。張澤等[5]通過研究滴灌棉田地上部植株的氮營養(yǎng)指數(shù),探究建立基于氮營養(yǎng)指數(shù)的高光譜指數(shù)模型的可行性，為高光譜遙感在農(nóng)田氮營養(yǎng)快速、準(zhǔn)確診斷中的應(yīng)用提供理論依據(jù)。

由于高光譜數(shù)據(jù)相鄰波段相關(guān)性較高，冗余信息較多，導(dǎo)致在處理高光譜數(shù)據(jù)時增加了計(jì)算負(fù)擔(dān)，影響了計(jì)算效率。針對這一問題王玉娜等[6]利用SPA算法對拔節(jié)期、抽穗期的冬小麥冠層光譜、一階導(dǎo)數(shù)光譜、對數(shù)變換光譜和連續(xù)統(tǒng)去除光譜對地上部生物量的敏感波段,并結(jié)合偏最小二乘法(PLS)分別建立拔節(jié)期和抽穗期基于SPA算法的冬小麥地上部生物量估測模型。試驗(yàn)結(jié)果表明SPA算法較好地利用了全波段冠層光譜信息,并顯著降低了光譜維度,不同變換光譜的地上部生物量敏感波段個數(shù)在4～14之間。童倩倩等[7]采用數(shù)學(xué)變換、離散小波變換算法處理分析百香果葉片光譜數(shù)據(jù),然后利用相關(guān)性分析算法提取敏感波段，并利用偏最小二乘算法構(gòu)建百香果葉片葉綠素含量估測模型。結(jié)果表明以基于離散小波變換L1尺度構(gòu)建的模型較優(yōu)，具有較高的估測精度與穩(wěn)定性。

傳統(tǒng)降維方法都是進(jìn)行線性變化如PCA，對復(fù)雜數(shù)據(jù)降維無法達(dá)到預(yù)期的效果，自動編碼器[8-10]可以對相對復(fù)雜的非線性關(guān)系進(jìn)行建模，通過對輸入的重構(gòu)從而實(shí)現(xiàn)對高維數(shù)據(jù)進(jìn)行特征學(xué)習(xí)。傳統(tǒng)自動編碼器網(wǎng)絡(luò)參數(shù)量大，訓(xùn)練過程長。而卷積自動編碼器[11-12]雖減少了網(wǎng)絡(luò)的訓(xùn)練參數(shù)，但由于卷積-池化操作會減少數(shù)據(jù)維度，在提取特征時會造成大樓特征損失。針對以上問題，本文利用空洞卷積去噪自動編碼器(Atrous-Convolutional Denoising Auto-Encoder，Atrous-CDAE)進(jìn)行對高光譜數(shù)據(jù)降維，該網(wǎng)絡(luò)利用空洞卷積層[13-15]來代替卷積—池化層進(jìn)行特征提取，減少數(shù)據(jù)損失的同時，增加了感受野。由于高光譜數(shù)據(jù)在采集時因環(huán)境影響容易在低高波段處混入噪聲，針對這一問題網(wǎng)絡(luò)在訓(xùn)練過程中，將原始數(shù)據(jù)加入隨機(jī)噪聲作為訓(xùn)練數(shù)據(jù)進(jìn)行輸入，將原始數(shù)據(jù)作為重構(gòu)目標(biāo)進(jìn)行復(fù)現(xiàn)，使網(wǎng)絡(luò)具有一定的去除噪聲的能力[16-17]。

本研究利用Atrous-CDAE將紫丁香的高光譜數(shù)據(jù)進(jìn)行降維，結(jié)合1DCNN對紫丁香葉片葉綠素含量進(jìn)行反演預(yù)測。為減少訓(xùn)練損耗，采用遷移學(xué)習(xí)[18-19]訓(xùn)練方法，將Atrous-CDAE訓(xùn)練好的權(quán)重進(jìn)行保存，并作為合并后網(wǎng)絡(luò)的前半部分的初始值進(jìn)行訓(xùn)練。

1 材料與方法

利用Atrous-CDAE-1DCNN方法對紫丁香葉片的葉綠素含量進(jìn)行反演建模流程如圖1所示。

圖1 利用Atrous-CDAE-1DCNN對紫丁香葉片的葉綠素含量反演建模流程圖

第一步對紫丁香葉片進(jìn)行采集，第二步分別利用高光譜相機(jī)和葉綠素分析儀獲取紫丁香葉片的高光譜數(shù)據(jù)以及代表其葉綠素含量的SPAD值，第三步對紫丁香葉片的高光譜圖像進(jìn)行白板校正，第四步利用Atrous-CDAE方法對校正后的紫丁香葉片高光譜數(shù)據(jù)進(jìn)行數(shù)據(jù)降維，最后利用1DCNN方法對降維后的高光譜數(shù)據(jù)和測量得到的SPAD值進(jìn)行反演建模。

1.1 數(shù)據(jù)獲取

1.1.1SPAD值測定

本文紫丁香葉片數(shù)據(jù)采集地點(diǎn)為內(nèi)蒙古工業(yè)大學(xué)校園內(nèi)(呼和浩特市)，采集方法為對紫丁香樹的東南西北四個方位的葉片進(jìn)行采集，并將樣本放入袋中進(jìn)行密封并標(biāo)記編號，之后帶回到實(shí)驗(yàn)室進(jìn)行試驗(yàn)測定。葉綠素含量的測定設(shè)備采用手持式植物參數(shù)檢測儀，測量過程中將除葉脈部分的葉片進(jìn)行感興趣區(qū)域提取，并使用植物參數(shù)檢測儀進(jìn)行無損檢測。葉綠素含量值以感興趣范圍內(nèi)SPAD的平均值作為參數(shù)指標(biāo)。

1.1.2 紫丁香葉片光譜測定與處理

測定紫丁香高光譜數(shù)據(jù)的設(shè)備為新型手持式高光譜相機(jī)Specim IQ。高光譜相機(jī)的攝像頭分辨率為512像素×512像素，采集的光譜總波段數(shù)為204個，光譜范圍為400～1 000 nm，光譜分辨率為7 nm。為減少高光譜相機(jī)在拍攝過程中受環(huán)境的影響，本研究將采集好的紫丁香葉片在實(shí)驗(yàn)室內(nèi)進(jìn)行拍攝，與SPAD值的測定同步進(jìn)行，且測定的感興趣區(qū)域應(yīng)保持一致。最后將采集到的152個樣本數(shù)據(jù)進(jìn)行數(shù)據(jù)集劃分，將其75%的數(shù)據(jù)樣本即114個作為訓(xùn)練集，25%的數(shù)據(jù)樣本即38個作為預(yù)測數(shù)據(jù)。

針對在拍攝過程時，因光照強(qiáng)度不均勻以及暗電流等因素帶來的試驗(yàn)影響，本文采用白板校正方法即拍攝高光譜數(shù)據(jù)時將白板與葉片同時進(jìn)行拍攝以消除環(huán)境不匹配問題，校正公式如式(1)所示。

(1)

式中：R——校正之后的圖像；

W——標(biāo)準(zhǔn)白板得到全白標(biāo)定圖像；

B——相機(jī)全黑的標(biāo)定圖像；

I——原始高光譜圖像。

1.2 高光譜數(shù)據(jù)降維

1.2.1 自動編碼器

高光譜數(shù)據(jù)相鄰波段間具有較高的相關(guān)性，使用傳統(tǒng)的線性降維方法處理效果有限，自動編碼器(Auto-Encoder，AE)是一種非線性無監(jiān)督的降維方法，該網(wǎng)絡(luò)結(jié)構(gòu)由編碼器和解碼器兩部分組成，具有數(shù)據(jù)復(fù)現(xiàn)的功能。本文使用AE對高光譜數(shù)據(jù)進(jìn)行降維，減少數(shù)據(jù)中冗余信息和模型訓(xùn)練的計(jì)算量。圖2為利用AE對高光譜數(shù)據(jù)進(jìn)行降維的過程，第一步將原始高光譜數(shù)據(jù)(204×1)輸入到網(wǎng)絡(luò)中，第二步通過兩次全連接層將高光譜數(shù)據(jù)信息特征減少到(51×1)獲得高光譜數(shù)據(jù)的潛在表征，第三步通過增加全連接層中神經(jīng)元個數(shù)將數(shù)據(jù)復(fù)現(xiàn)。表1為AE的網(wǎng)絡(luò)結(jié)構(gòu)以及具體參數(shù)的分布情況。AE模型訓(xùn)練使用的損失函數(shù)為MSE(Mean Squared Error)，該損失函數(shù)可以反映出數(shù)據(jù)集的離散程度，用于分析數(shù)據(jù)的回歸預(yù)測問題，其計(jì)算公式如式(2)所示。

表1 AE的網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù)

圖2 利用AE對高光譜數(shù)據(jù)降維

(2)

式中：fi——模型的預(yù)測值；

yi——模型的真實(shí)值；

n——訓(xùn)練樣本的個數(shù)。

1.2.2 卷積自動編碼器

卷積操作具有局部感知和參數(shù)共享的優(yōu)點(diǎn)如圖3(b)所示，卷積層中的神經(jīng)元只與相應(yīng)數(shù)據(jù)部分進(jìn)行連接，相比于圖3(a)的全連接層極大減少了神經(jīng)元的數(shù)量，并且在卷積過程中卷積核可以對原始數(shù)據(jù)的不同位置的特征進(jìn)行提取，實(shí)現(xiàn)了權(quán)值共享，圖中b為神經(jīng)網(wǎng)絡(luò)中的偏置值。卷積神經(jīng)網(wǎng)絡(luò)將卷積層與池化層連接，池化層具有旋轉(zhuǎn)不變性，數(shù)據(jù)降維的特點(diǎn)。因此利用卷積—池化操作可以提取數(shù)據(jù)特征，減少了訓(xùn)練參數(shù)，防止訓(xùn)練過程出現(xiàn)過擬合。圖4為利用卷積自動編碼器(Convolutional-Auto-Encoder，CAE)對高光譜數(shù)據(jù)進(jìn)行數(shù)據(jù)降維的過程，第一步將原始高光譜數(shù)據(jù)(204×1)輸入到CAE中，第二步通過兩次卷積—池化操作將高光譜數(shù)據(jù)信息特征減少到(51×1)獲得高光譜數(shù)據(jù)的潛在表征，第三步通過卷積—上采樣操作將數(shù)據(jù)復(fù)原進(jìn)行輸出，模型的損失函數(shù)為MSE。表2為CAE的網(wǎng)絡(luò)結(jié)構(gòu)以及具體參數(shù)的分布情況。

(a) 全連接層操作

圖4 利用CAE對高光譜數(shù)據(jù)降維

1.2.3 空洞卷積自動編碼器

由于常規(guī)的卷積—池化操作對數(shù)據(jù)特征的提取會造成部分原始數(shù)據(jù)的損失。針對這一問題本文引入了空洞卷積層來代替常規(guī)的卷積—池化操作，空洞卷積結(jié)構(gòu)簡單，其原理是在普通卷積中進(jìn)行零填充如圖3(c)所示。空洞卷積操作在保持響應(yīng)層數(shù)據(jù)信息的無損失同時，大幅度增加卷積計(jì)算的感受野。圖5為利用空洞卷積自動編碼器(Atrous-Convolutional Auto-Encoder，Atrous-CAE)對高光譜數(shù)據(jù)進(jìn)行數(shù)據(jù)降維的過程，第一步將原始高光譜數(shù)據(jù)(204×1)輸入到Atrous-CAE中。第二步利用兩次常規(guī)卷積和空洞卷積的組合操作進(jìn)行特征提取，將高光譜數(shù)據(jù)信息特征減少到(51×1)獲得高光譜數(shù)據(jù)的潛在表征。第三步通過卷積—上采樣操作將數(shù)據(jù)復(fù)原進(jìn)行輸出, 模型的損失函數(shù)為MSE。表3為Atrous-CAE的網(wǎng)絡(luò)結(jié)構(gòu)以及具體參數(shù)的分布情況。

圖5 利用Atrous-CAE對高光譜數(shù)據(jù)降維

1.2.4 去噪自動編碼器

針對高光譜數(shù)據(jù)在采集過程中，光譜曲線在低波段和高波段易受噪聲干擾的問題，本文通過應(yīng)用去噪自動編碼器(Denoising-Auto-Encoder,DAE)的訓(xùn)練方式來提高模型的去噪能力，主要改進(jìn)為原始高光譜數(shù)據(jù)中的低高波段加入隨機(jī)噪聲作為網(wǎng)絡(luò)的輸入，目標(biāo)重構(gòu)數(shù)據(jù)為原始數(shù)據(jù)。利用這種訓(xùn)練方式使自動編碼器從帶有噪聲的數(shù)據(jù)信息中學(xué)習(xí)到有用的光譜特征，使網(wǎng)絡(luò)具有一定的抗噪聲的能力。圖6為利用傳統(tǒng)去噪自動編碼器(DAE)、卷積去噪自動編碼器(CDAE)、空洞卷積去噪自動編碼器(Atrous-CDAE)對5組加入隨機(jī)噪聲的高光譜數(shù)據(jù)進(jìn)行復(fù)現(xiàn)預(yù)測的對比圖(由于篇幅原因，此處只列舉第一組數(shù)據(jù)對比圖)，結(jié)果表示三種網(wǎng)絡(luò)結(jié)構(gòu)都具有一定的去除噪聲能力，可以從混入噪聲的數(shù)據(jù)中提取出重要的特征信息，并將無噪聲數(shù)據(jù)進(jìn)行復(fù)現(xiàn)。

(a) 第1組加入噪聲數(shù)據(jù)

1.3 1DCNN模型

傳統(tǒng)機(jī)器學(xué)習(xí)算法對高光譜數(shù)據(jù)進(jìn)行反演預(yù)測的精度不高，針對這一問題，本文利用1DCNN模型對紫丁香葉片的葉綠素含量進(jìn)行反演預(yù)測。表4為1DCNN的具體參數(shù)分布，其中參數(shù)a為輸入數(shù)據(jù)長度。第一步將數(shù)據(jù)進(jìn)行輸入，經(jīng)過三次的卷積—池化操作提取特征，卷積—池化操作包括兩個卷積層和一個池化層，其中池化層大小為2，池化步長為2，池化后的數(shù)據(jù)大小減少到原來的二分之一。第二步將最后一個池化層的輸出數(shù)據(jù)進(jìn)行平鋪展開，并于全連接層進(jìn)行連接。第三步將全連接層次D1與輸出層Out相連接，其中Out層僅含有一個神經(jīng)元以實(shí)現(xiàn)反演預(yù)測的作用，模型的損失函數(shù)為MSE。

表4 1DCNN結(jié)構(gòu)與參數(shù)

2 試驗(yàn)結(jié)果與分析

2.1 不同模型對葉綠素含量的反演預(yù)測結(jié)果

為選取出最佳的反演模型，本文對原始高光譜數(shù)據(jù)(X)、原始高光譜數(shù)據(jù)的導(dǎo)數(shù)(D1)以及四種降維后的高光譜數(shù)據(jù)進(jìn)行建模預(yù)測，其中四種降維方法分別為PCA、DAE、CDAE以及Atrous-CDAE。四種建模方法包括回歸決策樹(DTR)、BP神經(jīng)網(wǎng)絡(luò)(BP)、支持向量回歸(SVR)以及1DCNN。圖7為利用四種建模方法對6組高光譜特征數(shù)據(jù)進(jìn)行反演預(yù)測的結(jié)果散點(diǎn)圖，其中橫坐標(biāo)代表葉綠素的實(shí)測值含量，縱坐標(biāo)表示對應(yīng)數(shù)據(jù)和模型的預(yù)測值。結(jié)果表明，使用Atrous-CDAE降維后的高光譜數(shù)據(jù)進(jìn)行反演預(yù)測，其預(yù)測結(jié)果較其他方法降維的數(shù)據(jù)更接近在1∶1線。說明利用Atrous-CDAE可以從原始高光譜數(shù)據(jù)中提取出重要的特征信息，減少冗余數(shù)據(jù)，使其預(yù)測結(jié)果接近于實(shí)測值含量。利用1DCNN模型對每一種數(shù)據(jù)進(jìn)行反演預(yù)測的結(jié)果較其他方法更接近于1∶1線，而利用DTR和BP對X、D1、DAE、Atrous-CDAE的預(yù)測結(jié)果以及利用SVR方法對CDAE四組數(shù)據(jù)進(jìn)行預(yù)測的結(jié)果偏離1∶1 線較為嚴(yán)重，表明1DCNN算法相比于其他算法不僅具有較高的預(yù)測精度，而且還有較強(qiáng)的適用性。試驗(yàn)結(jié)果表明，利用Atrous-CDAE進(jìn)行數(shù)據(jù)降維并結(jié)合1DCNN模型進(jìn)行預(yù)測的結(jié)果最好，證明這種組合模型的預(yù)測精度更高。

(a) X-DTR預(yù)測結(jié)果

表5、表6為利用不同模型對紫丁香葉片葉綠素含量進(jìn)行預(yù)測的R2和RMSE，在測試集中使用1DCNN模型對經(jīng)過Atrous-DCAE降維后的高光譜數(shù)據(jù)進(jìn)行反演預(yù)測的預(yù)測效果最好，其R2為0.972 3，RMSE為1.326 6。相比于使用DAE和CDAE的降維方法，由于Atrous-CDAE利用空洞卷積結(jié)構(gòu)代替池化層降維減少了原始高光譜數(shù)據(jù)的損失，相比于傳統(tǒng)的全連接層的自動編碼器減少了參數(shù)量，有效地提取高光譜數(shù)據(jù)曲線的特征信息，四種模型的預(yù)測結(jié)果表明，利用Atrous-CDAE降維的數(shù)據(jù)預(yù)測結(jié)果總體上較其他兩種DAE更優(yōu)，且通過該方法降維結(jié)合1DCNN模型進(jìn)行反演預(yù)測的結(jié)果相比PCA降維的預(yù)測結(jié)果更好。利用本文所提的1DCNN模型，對6組數(shù)據(jù)進(jìn)行反演預(yù)測的R2都在0.94以上，對6組數(shù)據(jù)反演預(yù)測的RMSE都在2以下，且該模型對原始數(shù)據(jù)、PCA降維數(shù)據(jù)、三種DAE降維的數(shù)據(jù)的反演預(yù)測結(jié)果要優(yōu)于其他預(yù)測模型，結(jié)果表明，該模型對不同方法處理后的高光譜具有一定的適用性。

表5 測試集的決定系數(shù)

表6 測試集的均方根誤差

2.2 Atrous-CDAE-1DCNN

遷移學(xué)習(xí)可以小樣本情況下提高模型精度和泛化能力，并獲得較好的訓(xùn)練結(jié)果。本文將Atrous-CDAE的編碼部分與1DCNN相連接，并利用遷移學(xué)習(xí)方法將訓(xùn)練后的Atrous-CDAE模型中編碼部分權(quán)重進(jìn)行提取，作為Atrous-CDAE-1DCNN中Atrous-CDAE編碼部分的初始權(quán)重。如圖8所示，Atrous-CDAE-1DCNN網(wǎng)絡(luò)結(jié)構(gòu)由Atrous-CDAE的編碼環(huán)節(jié)和1DCNN兩部分組成。在Atrous-CDAE的編碼部分，通過利用兩次常規(guī)卷積和空洞卷積的組合操作，提取出原始高光譜數(shù)據(jù)的潛在表征作為降維后的數(shù)據(jù)。在1DCNN部分將Atrous-CDAE降維后的高光譜數(shù)據(jù)經(jīng)過三次卷積池化操作進(jìn)行特征提取，并與平鋪展開層和全連接層連接實(shí)現(xiàn)反演預(yù)測。

圖8 Atrous-CDAE-1DCNN的網(wǎng)絡(luò)結(jié)構(gòu)

圖9為利用Atrous-CDAE-1DCNN方法對紫丁香葉片葉綠素含量預(yù)測的結(jié)果，結(jié)果表明使用本文所提的Atrous-CDAE-1DCNN方法不僅可以充分利用紫丁香葉片的高光譜圖像信息，而且對其葉綠素含量的預(yù)測具有較高的預(yù)測精度和擬合效果，該方法為今后利用高光譜圖像技術(shù)反演預(yù)測植物理化參數(shù)提供一個新思路。

圖9 Atrous-CDAE-1DCNN方法對紫丁香葉片葉綠素含量預(yù)測的結(jié)果

3 結(jié)論

1) 本研究提出了一種基于高光譜的葉綠素含量的預(yù)測模型Atrous-CDAE-1DCNN，該模型將Atrous-CDAE與1DCNN結(jié)合并通過遷移學(xué)習(xí)方法進(jìn)行權(quán)重訓(xùn)練，并實(shí)現(xiàn)了對紫丁香葉綠素含量的預(yù)測。

2) 在Atrous-CDAE訓(xùn)練過程中，將帶噪聲的高光譜數(shù)據(jù)作為輸入，重構(gòu)無高光譜數(shù)據(jù)，使網(wǎng)絡(luò)具有一定的抗噪性。網(wǎng)絡(luò)結(jié)構(gòu)上利用空洞卷積操提取高光譜數(shù)據(jù)的特征，將原始高光譜數(shù)據(jù)的204維數(shù)據(jù)降低到51維。結(jié)果表明，利用該方法進(jìn)行數(shù)據(jù)降維較傳統(tǒng)的DAE的參數(shù)更少，相比利用卷積—池化進(jìn)行特征提取的網(wǎng)絡(luò)結(jié)構(gòu)減少數(shù)據(jù)損失，為1DCNN模型的反演預(yù)測提供了必要保證。

3) 在1DCNN中，將降維后的數(shù)據(jù)經(jīng)過三次特征提取操作，并與全連接層連接實(shí)現(xiàn)回歸預(yù)測，在預(yù)測集中R2達(dá)到0.972 3，RMSE為1.326 6。與其他模型的預(yù)測結(jié)果相比，本文所提出的預(yù)測模型在對丁花香葉綠素含量的預(yù)測中取得了最佳性能。