基于Densenet密集網(wǎng)絡(luò)的垃圾分類算法的設(shè)計(jì)與實(shí)現(xiàn)

周詩(shī)禹，王旭，劉霽，鐘麗輝

(西南林業(yè)大學(xué)計(jì)算機(jī)與信息學(xué)院，云南昆明 650224)

目前,垃圾隨著生活水平的提高而不斷增多，但垃圾分類主要依靠人工分類，工作量大，時(shí)間經(jīng)濟(jì)成本高，識(shí)別效率較低，探索計(jì)算機(jī)協(xié)助手段的垃圾分類方法依然是目前研究的熱點(diǎn)和難點(diǎn)[1-2]。近年來，深度學(xué)習(xí)在圖像、視頻和音頻等方面的應(yīng)用取得突破性進(jìn)展，基于大數(shù)據(jù)平臺(tái)的深度學(xué)習(xí)算法是現(xiàn)在人工智能研究的主流。深度學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別方面應(yīng)用較為成熟、識(shí)別率高、效果明顯[3]。深度學(xué)習(xí)處理垃圾分類的主要目的是使垃圾得到精確分類，降低垃圾處理的難度以及垃圾處理成本，提高垃圾的資源利用及其經(jīng)濟(jì)價(jià)值。

目前，多種新型高準(zhǔn)確率深度學(xué)習(xí)網(wǎng)絡(luò)出現(xiàn)，能提升數(shù)字圖像處理技術(shù)對(duì)垃圾識(shí)別的準(zhǔn)確性，能在保證準(zhǔn)確率的前提下，讓數(shù)字圖像處理與垃圾分類識(shí)別相結(jié)合，解放垃圾分揀工人，降低回收分揀壓力。將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像處理中，提高市場(chǎng)垃圾分類應(yīng)用App的識(shí)別準(zhǔn)確率，有利于人們?nèi)嬲J(rèn)識(shí)垃圾所屬種類[5-6]。

本文利用Tensorflow 搭建深度學(xué)習(xí)的框架，以AI Studio 上萬張垃圾圖像作為數(shù)據(jù)，利用Densenet密集網(wǎng)絡(luò)對(duì)垃圾數(shù)據(jù)進(jìn)行學(xué)習(xí)訓(xùn)練和識(shí)別。

1 Densenet密集網(wǎng)絡(luò)和數(shù)據(jù)集

Densenet 密集網(wǎng)絡(luò)擺脫加寬網(wǎng)絡(luò)結(jié)構(gòu)和加深網(wǎng)絡(luò)層數(shù)的思維定式，Densenet密集網(wǎng)絡(luò)采用密集連接機(jī)制，即采用Dense-Block+Transition 的結(jié)構(gòu)來保持訓(xùn)練中的特征圖像大小尺寸一致，實(shí)現(xiàn)特征的重復(fù)利用,Densenet 基本網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示。Densenet密集網(wǎng)絡(luò)減緩梯度消失現(xiàn)象的同時(shí)，在參數(shù)計(jì)算更少的情況下，訓(xùn)練出來的網(wǎng)絡(luò)模型較其他網(wǎng)絡(luò)如殘差網(wǎng)絡(luò)更好。

圖1 Densenet各層網(wǎng)絡(luò)結(jié)構(gòu)

Densenet 密集網(wǎng)絡(luò)中DenseBlock 層包含很多層模塊，其中每一層的特征圖像大小都一致，層與層之間使用密集連接。非線性函數(shù)組合方式是采用的BN-ReLU-Conv結(jié)構(gòu)，也稱為Preactivation。同時(shí)DenseBlock 的內(nèi)部采用Bottleneck 層來減少訓(xùn)練過程的計(jì)算量，該結(jié)構(gòu)就是在Pre-activation原結(jié)構(gòu)中增加1*1卷積層，即為：BN-ReLU-1*1 Conv-BN-ReLU-3*3 Conv，這類結(jié)構(gòu)被Densenet稱為DenseNet-B結(jié)構(gòu)，結(jié)構(gòu)單獨(dú)添加1*1卷積層能起到降低特征數(shù)量、提升計(jì)算效率的作用。Densenet密集網(wǎng)絡(luò)中Transition 層，主要用于兩個(gè)DenseBlock 層之間，降低特征圖像大小，保持特征圖大小一致；由1個(gè)卷積層和1個(gè)平均池化層構(gòu)建組成：BN-ReLU-1*1 Conv-2*2AvgPooling，起到壓縮模型的作用。

在AI Studio上選取了26個(gè)類別，11000張垃圾分類圖像作為本文垃圾分類的數(shù)據(jù)集，數(shù)據(jù)集如圖2 所示。其中，26 類中每類80%的圖像作為Densenet 密集網(wǎng)絡(luò)的訓(xùn)練集，每類剩余20%圖片數(shù)據(jù)為測(cè)試集。

圖2 數(shù)據(jù)集圖像

2 基于Densenet密集網(wǎng)絡(luò)的垃圾分類識(shí)別實(shí)現(xiàn)

本文利用Densenet密集網(wǎng)絡(luò)實(shí)現(xiàn)垃圾分類。首先，對(duì)初始垃圾圖像數(shù)據(jù)進(jìn)行歸類標(biāo)簽及圖像預(yù)處理；然后利用訓(xùn)練數(shù)據(jù)集數(shù)據(jù)對(duì)Densenet密集網(wǎng)絡(luò)訓(xùn)練得到準(zhǔn)確率較高的模型，保存訓(xùn)練模型；最后測(cè)試驗(yàn)證模型識(shí)別準(zhǔn)確率。Densenet密集網(wǎng)絡(luò)的垃圾分類識(shí)別實(shí)現(xiàn)的流程圖如圖3所示。

圖3 Densenet網(wǎng)絡(luò)的垃圾分類識(shí)別的流程圖

2.1 垃圾圖像的預(yù)處理

Densenet 卷積神經(jīng)網(wǎng)絡(luò)的輸入層圖片尺寸為224*224，不滿足尺寸要求的圖像直接進(jìn)行丟棄處理，使圖片能正常輸入到網(wǎng)絡(luò)進(jìn)行訓(xùn)練提取特征；為了防止過擬合，對(duì)數(shù)據(jù)集圖像進(jìn)行翻轉(zhuǎn)和旋轉(zhuǎn)操作，擴(kuò)大數(shù)據(jù)集。

2.2 Densenet密集網(wǎng)絡(luò)的訓(xùn)練

首先，通過Tensorflow深度學(xué)習(xí)框架加載Densenet密集型卷積神經(jīng)網(wǎng)絡(luò)；其次將預(yù)處理好的約8000張圖像數(shù)據(jù)分批次送入Densenet密集型卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練；再次，每32張圖片小批次訓(xùn)練集計(jì)算損失值，通過優(yōu)化器Adam 找到最優(yōu)梯度下降方法；最后，反饋更新權(quán)重值，不斷提升準(zhǔn)確率。當(dāng)每一個(gè)大批次訓(xùn)練數(shù)據(jù)訓(xùn)練完成后，將驗(yàn)證集數(shù)據(jù)丟入該次訓(xùn)練得到的訓(xùn)練模型中，計(jì)算出該模型的準(zhǔn)確率。每次訓(xùn)練準(zhǔn)確率與上一次訓(xùn)練得到模型比較準(zhǔn)確率，最終得到最高測(cè)試準(zhǔn)確率的網(wǎng)絡(luò)。

2.3 Densenet密集網(wǎng)絡(luò)的測(cè)試識(shí)別

首先，調(diào)整測(cè)試集圖像大小并加載測(cè)試集圖像；然后，加載選定損失值適中、驗(yàn)證集準(zhǔn)確率最高的訓(xùn)練模型；最后模型識(shí)別測(cè)試集所屬種類。

2.4 Densenet密集網(wǎng)絡(luò)識(shí)別結(jié)果

預(yù)處理訓(xùn)練集數(shù)據(jù)加上調(diào)用GPU高運(yùn)算模式訓(xùn)練網(wǎng)絡(luò)，訓(xùn)練26類約8千多張垃圾圖片數(shù)據(jù)時(shí)間約5小時(shí)，訓(xùn)練最終保留驗(yàn)證集頂層top-1準(zhǔn)確約為0.875的模型，傳輸測(cè)試集處理好的圖片進(jìn)行預(yù)測(cè)。訓(xùn)練過程如圖4所示，預(yù)測(cè)結(jié)果如圖5所示。

圖4 Densenet網(wǎng)絡(luò)訓(xùn)練結(jié)果

圖5 預(yù)測(cè)結(jié)果

測(cè)試最終準(zhǔn)確率達(dá)90%，預(yù)測(cè)錯(cuò)誤率為10%，該模型能夠能很好地識(shí)別各種垃圾類別。

3 總結(jié)和討論

本文以AI Studio上11000張垃圾圖像，共26個(gè)類別作為本論文的垃圾分類數(shù)據(jù)集。其中，80%的圖像作為Densenet密集網(wǎng)絡(luò)的訓(xùn)練集，每類剩余20%圖片數(shù)據(jù)為測(cè)試集，利用Tensorflow 搭建深度學(xué)習(xí)的框架，利用Densenet 密集網(wǎng)絡(luò)對(duì)垃圾數(shù)據(jù)實(shí)現(xiàn)了分類，識(shí)別的準(zhǔn)確率為90%。本文數(shù)據(jù)集中在常見的垃圾圖像，為提高垃圾分類識(shí)別智能化的準(zhǔn)確性，需要涉及面更廣更全面的垃圾圖像，以期通過App增加人們對(duì)垃圾分類的相關(guān)知識(shí)）針對(duì)不同網(wǎng)絡(luò)的特性合理安排App 的使用方式，實(shí)現(xiàn)基于深度學(xué)習(xí)的智能垃圾分類。