改進(jìn)的深度殘差網(wǎng)絡(luò)的混合氣體定量分析方法*

詹燦堅(jiān)，何家峰，駱德漢

(廣東工業(yè)大學(xué) 信息工程學(xué)院，廣東 廣州 510000)

0 引言

隨著國民經(jīng)濟(jì)的快速發(fā)展、人民物質(zhì)生活水平的不斷提高，人們對室內(nèi)居住環(huán)境的舒適化、高檔化和智能化提出了更高的要求，由此直接帶動(dòng)了裝修裝飾熱和室內(nèi)設(shè)施現(xiàn)代化的熱潮興起。但是由于質(zhì)量參差不齊的住宅建筑材料、裝飾家具材料所釋放的甲醛、甲苯、氨氣等有害化學(xué)氣體，使得室內(nèi)空氣質(zhì)量不斷惡化，嚴(yán)重者會(huì)對居住者的健康帶來一定程度的損害；空調(diào)設(shè)備的廣泛使用，使得室內(nèi)通風(fēng)率明顯降低，導(dǎo)致住宅內(nèi)空氣污染程度不斷累積[1]。

目前監(jiān)測環(huán)境污染氣體的方法和設(shè)備，包括有氣相色譜法、非分散紅外法和納氏試劑比色法等，局限于對單一或某幾種污染氣體監(jiān)測，單一設(shè)備成本較高，且無法實(shí)時(shí)實(shí)地來進(jìn)行檢測，這些監(jiān)測方法的通用性較差。

而仿生嗅覺系統(tǒng)的采集裝置的傳感器陣列一般由多個(gè)或多組金屬氧化物半導(dǎo)體(Metal-Oxide Semiconductor，MOS)傳感器組成[2]，該傳感器通過這些MOS 傳感器將混合氣體信息轉(zhuǎn)化為電信號。MOS 氣體傳感器中的氣體敏感材料對于不同的氣體具有不同的靈敏度，具有交叉靈敏度的特性，因此，仿生嗅覺系統(tǒng)通常需要與適當(dāng)?shù)哪Ｊ阶R別方法一起互相結(jié)合運(yùn)用，用以幫助分析識別室內(nèi)環(huán)境下混合氣體中的各氣體成分相關(guān)信息。

在實(shí)際的運(yùn)用過程中，仿生嗅覺系統(tǒng)會(huì)遇到許多噪聲問題，很容易受到環(huán)境干擾因素的影響，例如環(huán)境溫度、濕度和氣壓等影響。另外，電子鼻的陣列式傳感器對目標(biāo)氣體有響應(yīng)的同時(shí)，也會(huì)對一些未知?dú)怏w產(chǎn)生響應(yīng)。 這些干擾都會(huì)影響到仿生嗅覺系統(tǒng)中識別模型的準(zhǔn)確性和穩(wěn)定性。

本文將重點(diǎn)提出一種改進(jìn)的深度殘差網(wǎng)絡(luò)的氣體定量分析方法，主要結(jié)合了深度殘差網(wǎng)絡(luò)[2]和數(shù)字信號處理中的降噪分析算法的優(yōu)點(diǎn)，利用深度殘差網(wǎng)絡(luò)有效解決深度學(xué)習(xí)中可能出現(xiàn)的梯度消失和梯度爆炸等問題，增加模型的魯棒性，使用軟閾值化來作為非線性層，從而大大降低未知?dú)馕秾ψR別效果的不良影響，提高對不同目標(biāo)氣體識別的預(yù)測準(zhǔn)確率。

1 仿生嗅覺系統(tǒng)組成

仿生嗅覺系統(tǒng)是指一種能夠模擬人和其他哺乳動(dòng)物的各種嗅覺系統(tǒng)結(jié)構(gòu)和功能來實(shí)現(xiàn)對氣體的預(yù)測或者定量分析的系統(tǒng)，被稱之為人工嗅覺系統(tǒng)[3]。 仿生嗅覺系統(tǒng)一般由 MOS 傳感器陣列、氣味信號采集和模式識別方法組成，它可以在幾小時(shí)、幾天甚至數(shù)月的時(shí)間內(nèi)連續(xù)地、實(shí)時(shí)地監(jiān)測特定位置的氣體信息。 仿生嗅覺工作原理如圖1 所示。

圖1 仿生嗅覺工作原理圖

在仿生嗅覺系統(tǒng)中的模式識別方法主要由氣味信號處理以及信號分析與識別兩個(gè)步驟組成。 當(dāng)今，在仿生嗅覺中常用一些基于線性的機(jī)器學(xué)習(xí)算法，如主成分分析法(Principal Component Analysis，PCA)[4]和線性判別分析(Latent Dirichlet Allocation，LDA)[5]等。 而上述機(jī)器學(xué)習(xí)算法在只有單一氣體的場景下分類識別的效果較好，并且室內(nèi)氣體環(huán)境比較復(fù)雜，不只是單單存在一類氣體，電子鼻的傳感器陣列對混合氣體的響應(yīng)信號是非線性的，所以大多數(shù)情況下，難以通過基于 PCA 算法和 LDA 算法[5]的線性特征提取方法來準(zhǔn)確提取混合氣體信號中的非線性特征，會(huì)出現(xiàn)室內(nèi)混合氣體識別準(zhǔn)確較低的情況。

在氣體定量分析的步驟中，一般是采用傳統(tǒng)的模式識別算法BP 神經(jīng)網(wǎng)絡(luò)[6]或者支持向量機(jī)(Support Vector Machine，SVM)[7]來進(jìn)行氣體定量分析。 BP 算法能夠擬合氣味模型中的非線性映射，但是收斂速度過慢，容易陷入局部最小值。 而通過SVM 可以處理小樣本問題，但核函數(shù)的選取和參數(shù)的設(shè)置是影響氣體識別結(jié)果的重要因素[8]。 因此，在仿生嗅覺系統(tǒng)中模式識別方法的選擇會(huì)對系統(tǒng)的性能產(chǎn)生很大的影響。

而上述的文獻(xiàn)大多數(shù)沒有考慮到未知?dú)怏w和噪聲對實(shí)驗(yàn)結(jié)果的干擾的情況，于是本文在電子鼻數(shù)據(jù)采集階段引入不同程度的干擾氣體，根據(jù)實(shí)際情況分為不同的污染等級，再加上軟閾值化降噪算法，能夠充分地降低噪聲以及冗余信息對準(zhǔn)確率帶來的影響，以便進(jìn)行室內(nèi)有害氣體成分的定量分析，實(shí)現(xiàn)室內(nèi)環(huán)境中有害氣體組成成分的高準(zhǔn)確度定量分析。

2 深度殘差網(wǎng)絡(luò)

深度學(xué)習(xí)中，卷積神經(jīng)網(wǎng)絡(luò)已被廣泛應(yīng)用于各種圖像處理等問題[9]。 卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network，CNN)用于圖像分類、圖像識別、目標(biāo)跟蹤問題，顯示出較高的效率。在卷積層中，前一層的特征圖成為可學(xué)習(xí)的內(nèi)核并使用激活功能生成輸出要素圖。 每個(gè)輸出特征圖可以將卷積與多個(gè)輸入特征圖結(jié)合在一起[10]。 它通常如式(1)所示。

式中：i 為網(wǎng)絡(luò)的第 i 個(gè)卷積核，g(i)為第 i 個(gè)卷積核提取所得到的特征圖；a 為輸入數(shù)據(jù)；β 為卷積核的偏置；x、y、z 為數(shù)據(jù)的維度，在處理一維時(shí)域信號時(shí)，對其中兩個(gè)維度進(jìn)行簡化即可。

根據(jù)神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)本質(zhì)，隨著網(wǎng)絡(luò)層數(shù)的增加，神經(jīng)網(wǎng)絡(luò)的效果應(yīng)當(dāng)越來越好，也即是損失函數(shù)會(huì)是逐漸下降的光滑曲線。 然而，在實(shí)際的操作中卻不符合這個(gè)規(guī)律。

由于傳統(tǒng)的CNN 自然地整合了由低到高不同層的特征，可以通過加深網(wǎng)絡(luò)層次來到達(dá)豐富特征提取的目的。在構(gòu)建卷積網(wǎng)絡(luò)時(shí)，網(wǎng)絡(luò)的深度越深，可抽取的特征層次就越加多。 所以一般會(huì)使用更深層次的網(wǎng)絡(luò)結(jié)構(gòu)，以便得到更佳的深層的特征圖。不過，在使用高層次的深度網(wǎng)絡(luò)的時(shí)候梯度消失、梯度爆炸問題和網(wǎng)絡(luò)退化的問題會(huì)隨之出現(xiàn)。

2015 年由何愷明提出的一種看似簡單但是極為有效的網(wǎng)絡(luò)結(jié)構(gòu)被命名為殘差網(wǎng)絡(luò)(Residual Network，ResNet)，在傳統(tǒng)的前向傳播基礎(chǔ)上，深度殘差網(wǎng)絡(luò)增加了躍層連接(Skip Connection)。 實(shí)踐表明，深度殘差網(wǎng)路可以有效地改善“深度”網(wǎng)絡(luò)的性能。 具體如下：

假如淺層的輸出是x，經(jīng)過深層后，輸出為H(x)，通常來說其他網(wǎng)絡(luò)模型的做法是訓(xùn)練擬合H(x)，但是在 ResNet 中，它把 H(x)看作兩部分，即 H(x)=x+F(x)，然后再訓(xùn)練擬合這兩部分。

假如 x 已是最優(yōu)，那么 F(x)在訓(xùn)練過程中將被push 趨近于0，即使繼續(xù)加深網(wǎng)絡(luò)，網(wǎng)絡(luò)也一直處于最優(yōu)狀態(tài)而不輸于淺層網(wǎng)絡(luò)。

F(x)=H(x)-x 被稱為殘差映射(residual mapping)，而x 則被稱為恒等映射(identity mapping)。 這里的 F(x)是對應(yīng)的殘差，因而叫殘差網(wǎng)絡(luò)。

2.1 殘差網(wǎng)絡(luò)

殘差單元可以通過跨層恒等連接的形式實(shí)現(xiàn)[11]，如圖2 所示。 即，將單元輸入直接添加到單元輸出并激活。 因此，使用基本的自動(dòng)微分深度學(xué)習(xí)方案可以輕松實(shí)現(xiàn)剩余網(wǎng)絡(luò)框架，并且可以使用BP 算法直接更新參數(shù)。 而深度殘差網(wǎng)絡(luò)就是多個(gè)基本殘差單元堆積而成，形成一個(gè)新的較深的神經(jīng)網(wǎng)絡(luò)。

圖2 殘差網(wǎng)絡(luò)的基本單元

在計(jì)算完成整個(gè)數(shù)據(jù)卷積之后，需要繼續(xù)使用非線性激活函數(shù)將結(jié)果進(jìn)行輸出，CNN 中常用的激活函數(shù)一般為修正線性單元(Rectified Linear Unit，ReLU)，其公式為：

2.2 信號處理中的軟閾值化

在很多的信號降噪算法中都應(yīng)用到了軟閾值化這一關(guān)鍵步驟[12]。 信號通常被轉(zhuǎn)換到一個(gè)域，軟閾值化可以直接將接近于零的特征歸零。小波閾值化通常包括三個(gè)步驟：小波分解、軟閾值化和小波重構(gòu)。 為了保證信號降噪的效果，小波閾值化的關(guān)鍵任務(wù)是設(shè)計(jì)濾波器。 濾波器能夠?qū)⒂杏玫男畔⑥D(zhuǎn)換成比較大的特征，將噪聲相關(guān)的信息轉(zhuǎn)換成接近于零的特征。 然而，設(shè)計(jì)這樣的濾波器需要大量的信號處理方面的專業(yè)知識，這樣是非常困難的。

深度學(xué)習(xí)提供了一種解決這個(gè)問題的新思路。這些濾波器可以通過反向傳播算法自動(dòng)優(yōu)化得到，而不是由專家進(jìn)行設(shè)計(jì)。 因此，軟閾值化和深度學(xué)習(xí)的結(jié)合是一種有效地消除噪聲信息和構(gòu)建高判別性特征的方式。

軟閾值化將接近于零的特征直接置為零，而不是像ReLU 將負(fù)的特征置為零，所以負(fù)的、有用的特征能夠被保留下來，將絕對值大于這個(gè)閾值的特征朝著零的方向進(jìn)行收縮，它可以通過式(3)來實(shí)現(xiàn)。

3 室內(nèi)有害氣體定量分析方法

本文基于深度殘差網(wǎng)絡(luò)的時(shí)序電子鼻氣味信號定量分析模型[8]，針對電子鼻采集的混合氣味數(shù)據(jù)的特征以及殘差網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，提出一種改進(jìn)的深度殘差網(wǎng)絡(luò)，本算法模型框圖如圖3 所示。 該模型與傳統(tǒng)的殘差模型相比，是通過加入軟閾值化作為非線性層對未知的一些噪聲干擾進(jìn)行降噪[13]，適用于電子鼻的室內(nèi)混合氣體數(shù)據(jù)維度大、噪聲多的數(shù)據(jù)特性，也同時(shí)結(jié)合了深度學(xué)習(xí)與信號降噪算法的優(yōu)點(diǎn)，提高了識別的準(zhǔn)確性。

圖3 殘差網(wǎng)絡(luò)的基本單元

4 實(shí)驗(yàn)結(jié)果

4.1 混合氣體數(shù)據(jù)采集

本文通過電子鼻采集實(shí)驗(yàn)共收集了1 040 個(gè)數(shù)據(jù)樣本。 根據(jù)室內(nèi)空氣質(zhì)量標(biāo)準(zhǔn)(GB/T18883-2002)，將數(shù)據(jù)樣本分為三部分種污染程度、干擾程度不同的數(shù)據(jù)。 在開始實(shí)驗(yàn)前， 應(yīng)打開室內(nèi)空調(diào)和加濕器，使溫度控制在25±1 ℃以內(nèi)，濕度在 75±1%以內(nèi)。 首先通過動(dòng)態(tài)氣體混合儀用標(biāo)準(zhǔn)氣體配制實(shí)驗(yàn)所需的氣體樣品， 將配制好的氣體樣品送入氣體測試箱，然后通過電子鼻采集氣味數(shù)據(jù)。最后，將氣體試驗(yàn)箱內(nèi)殘留的試驗(yàn)氣體通過尾氣處理裝置進(jìn)行無害化處理。其中320 份含甲醛的數(shù)據(jù)樣本濃度 從 0.01 mg/m3到 0.08 mg/m3(無 0.08 mg/m3)的 種氣體為合格 (正常)，320 個(gè)甲醛濃度為 0.08 mg/m3至0.16 mg/m3的數(shù)據(jù)樣本分類為輕度污染 (輕度)，有400 個(gè)數(shù)據(jù)樣本包含甲醛濃度大于 0.16 mg/m3的列為嚴(yán)重污染(嚴(yán)重)。

4.2 室內(nèi)有害氣體定量實(shí)驗(yàn)

電子鼻采集室內(nèi)有害氣體數(shù)據(jù)樣本通過不同干擾程度分為正常、輕度和嚴(yán)重三個(gè)組別，通過基于深度殘差網(wǎng)絡(luò)對含有甲醛氣體的室內(nèi)有害氣體樣本進(jìn)行定量分析。 為了探索分析基于深度殘差網(wǎng)絡(luò)的混合氣體定量分析的效果，本文使用4.1 小節(jié)PEN3 電子鼻收集的室內(nèi)混合氣體數(shù)據(jù)集，分別運(yùn)用PCA+LDA 算 法[14]、SVM 算 法[15]、CNN 算 法 以 及 改 進(jìn)的深度殘差算法進(jìn)行不同干擾程度甲醛氣體成分識別實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果如表 1 和表2 所示。

表1 不同算法對不同干擾程度的甲醛濃度識別率的比較(%)

表2 不同算法對混合氣體中甲醛濃度識別的結(jié)果比較

通過實(shí)驗(yàn)結(jié)果，可見本文所提出的室內(nèi)有害氣體成分識別算法對混合氣體中輕度干擾和重度干擾氣體具有更高的識別率，均方誤差也更小。 但模型訓(xùn)練比其他三種算法要花費(fèi)更多時(shí)間。

5 結(jié)論

本文提出一種改進(jìn)的基于深度學(xué)習(xí)與信號處理中降噪算法相結(jié)合的室內(nèi)有害氣體定量分析算法，利用深度殘差網(wǎng)絡(luò)和軟閾值化的優(yōu)點(diǎn)，在有外界干擾氣體的場景下，對室內(nèi)有害混合氣體仍具有較高的識別率。 該算法的研究對仿生嗅覺系統(tǒng)在不同程度干擾的場景下進(jìn)行定量分析以及后續(xù)濃度估計(jì)問題的解決具有重要意義。