結合域混淆與MK-MMD的深度適應網絡

王 翎,孫 涵

(南京航空航天大學 計算機科學與技術學院,南京 211106)

1 引 言

近年來,深度學習在大量機器學習和計算機視覺的任務上取得了巨大的成就,例如圖像分類[1,2]、目標檢測[3,4]、精細粒度分類[5,6]和語義分割[7,8]等.為了取得這些進步,使用大量的標記數據集進行訓練是至關重要的.然而,在現實中為了一個特定應用場景標記數據的代價是非常昂貴,甚至是不現實的.例如攝像頭(或監控)采集圖片中的物體檢測、車輛識別,會有相機角度、距離、光線等各種復雜變化,使用場景也是千變萬化,對這些圖片全部標記是不可能的.幸運的是,在公開的數據集中有大量的已標記數據,只是這些數據與我們需要的應用場景數據有著不同的特征空間或分布,直接使用這些數據訓練基于卷積神經網絡的分類器,在目標場景下應用是有困難的.比如車輛識別任務中,現有已標注數據集中車輛圖片可能是從雜志或官網收集的并且具有專業的燈光和固定的拍攝角度,而監控應用中車輛圖像是由道路上架設的交通監控攝像頭采集的,光照條件和天氣狀況都有很大影響.

為了解決上述問題,域適應(Domain Adaptation,DA)[9]是一種非常有效的遷移學習方法,其目的是利用來自不同但相關的域(源域)中豐富的現有標記數據,將從源域中學習的預測模型推廣到未標記(或少量標記)的目標域,盡管源域和目標域數據分布之間存在差異.

域適應方法的主流核心思想是減小域間差異,同時從數據中學習一個具有域不變特性的預測模型.目前,主流的域適應方法根據縮小域間差異策略的不同分為兩類:

1)特征表示的遷移,其目的在于找到合適的特征表示,最小化域間差異和分類(或回歸)模型的誤差;

2)實例的遷移,這類方法重點在于對源域“好”樣本數據重新加權,并在重新加權的數據集上進行訓練,以達到最小化分布差異的目的.

在本文中,我們著重于特征表示的遷移這一類方法進行研究.在此類域適應方法中,基于最大均值誤差(Maximum Mean Discrepancies,MMD)[10]的方法應用廣泛.該類方法通過優化源域與目標域在再生核希爾伯特空間(Reproducing Kernel Hilbert Space,RKHS)[10]上的最大均值誤差來縮小域間差異,學習具有域不變特性的特征表示,其中典型的方法就是深度適應網絡(Deep Adaptation Network,DAN)[11],該方法提出了多核最大均值誤差(Multi Kernel-Maximum Mean Discrepancies,MK-MMD),結合多核思想進一步對MMD進行優化.但是在DAN方法中,MK-MMD層對不同遷移場景的效果有差異,不同類型的遷移場景有不同的適應效果,且在特征表示遷移層面上,DAN方法并沒有完全利用源域的信息,結果仍有提升空間.本文結合域混淆(Domain Confusion,DC)[12]思想,進一步對DAN方法進行改進提升,使得提取的特征表示對目標域適應效果更好.同時,本文針對DAN方法中不同場景MK-MMD適應效果差異的問題,從理論和實驗上探究MK-MMD在不同場景下的適用權重.此外,本文將MK-MMD與域混淆進行結合,探究不同場景下兩者最佳組合,進一步提升域適應的效果.本文在標準的Office-31數據集上進行實驗,通過三方實驗對比,驗證了本文提出方法的有效性.

本文貢獻如下:

1)結合DAN中MK-MMD與域混淆思想,進一步提高DAN方法精度;

2)針對DAN對不同情景域適應效果有差異問題,從實驗與理論探究不同場景下MK-MMD度量的適用權重;

3)在標準數據集上通過實驗得到MK-MMD與域混淆在不同場景下的最佳組合,提升兩種方法融合的性能,結果達到組合最優.

本文的結構安排如下:第1節簡單介紹研究目標與本文貢獻;第2節介紹深度域適應領域的研究現狀;第3節介紹本文使用的MK-MMD和域混淆方法的原理以及實現方式,同時給出本文研究使用的網絡結構;第4節展示在標準數據集Office-31上的實驗結果與對比分析;第5節探究不同場景下的MK-MMD的適用權重以及MK-MMD與域混淆的最佳組合方式;第6節總結全文.

2 研究現狀

對于深度域適應方法研究,基本準則是決定好自適應層后加入自適應度量,再對網絡進行微調.2014年PRICAL會議上,DaNN[13]被提出.該網絡僅有特征層和分類器層兩層神經元,特色在于特征層之后的MMD適應層,計算源域與目標域之間在RKHS空間距離并優化其損失.但淺顯的網絡表征能力太差,解決問題能力差.后續研究多將該思想結合到深度網絡中.文獻[14]中提出的DDC方法,使用在ImageNet上訓練好的AlexNet網絡進行域適應學習,其主要思想是固定前七層,在分類器層前加入MMD度量,實現了深度網絡的域適應.但是單層的域適應效果有限,文獻[11]中提出的DAN網絡采用了MK-MMD,結合多核思想,表征能力更強,同時加入了三個自適應層,在不增加訓練時間的基礎上,取得了更好的分類效果.在2017年ICML會議上,JAN[15]方法被提出,將對數據進行自適應的方式推廣到對類別的自適應,提出了JMMD(Joint MMD)度量.此外,基于生成對抗網絡GAN[16]的域適應方法研究也取得了一定的進展.域對抗神經網絡DANN[17]將梯度反轉層和標準結構結合,促進了對源域主要學習任務有區分力且對域間偏移不敏感的特征的出現.Bousmails等人在文獻[18]中提出的模型利用GAN使用源域圖片仿照生成目標域圖片,并將生成圖片加入訓練集中一起訓練,提升了域適應的效果.

基于MMD的方法是目前域適應中主流方法之一,DAN就是其中經典的深度域適應方法.然而使用MK-MMD的DAN方法在特征遷移層面上仍有提升空間,且該方法對不同情景下的域適應效果差異問題沒有進行探討.本文采用無監督域適應的方式,結合域混淆思想進一步利用源域信息,使得提取的特征對目標域表征能力更強,提升域適應效果.同時,探究不同場景下MK-MMD的適用權重以及兩種方法融合的最佳組合方式.

3 改進的深度適應網絡模型

3.1 MK-MMD

MK-MMD(Multi Kernel-Maximum Mean Discrepancies),多核最大均值誤差,是MMD的延伸概念.MMD是最常用的衡量兩個域數據集之間分布差異的非參數方法之一.其具體操作是將源域與目標域中的特征表示映射到再生核希爾伯特空間(RKHS)中,再計算兩類數據均值的距離.給出兩個域的數據分布s和t,通過使用函數φ(·),s和t之間的MMD計算方式為:

(1)

(2)

其中φ(·)代表與核映射k(xs,xt)=?(xs),?(xt)相關的特征映射.k(xs,xt)通常被定義為L個基礎核kl(xs,xt)的凸組合:

(3)

但是現有的MMD方法是基于單一核變換的.多核MMD(MK-MMD)假設最優的核可以由多個核線性組合得到.其中最著名的使用MK-MMD的方法是DAN.

令Hk代表擁有特有核k的再生核希爾伯特空間(RKHS).分布p在Hk中的均值為一個獨立的元素μk(p),則Ex～pf(x)=f(x),μk(p)Hk,其中f∈(Hk).概率分布p和q在RKHS中均值的距離表示為MK-MMDdk(p,q),其平方公式為:

(4)

和MMD相同,特征映射?與特有核(characteristic kernel)相關,k(xs,xt)=?(xs),?(xt),k(xs,xt)被定義為m個PSD核{ku}的一個凸組合:

(5)

其中系數{βu}的相關約束是為了保證產生的多核k是特有的.根據Gretton在文獻[19]的理論分析,分布p和q計算均值時采用的核對減少分布差異的效果是至關重要的.多核k可以利用不同的核來加強MK-MMD的效果,最終達到一個最優的、合理的核選擇.

3.2 域混淆Domain Confusion

為了減少兩個域之間的邊緣分布差異,最大化域混淆(Domain confusion,DC)是比較有效的方法.域混淆的示意圖如圖1所示.

圖1 域混淆示意圖Fig.1 Definition of domain confusion

為了實現最大化域混淆,本文的添加一個域分類層fDC,該層的主要作用是通過訓練樣本的特征表示判斷該樣本是否屬于源域或目標域.從直觀的角度看,提取的特征越是特定于域,域分類效果越好;提取的特征越是體現兩域之間的共性,域混淆的效果越好.當由一種特征表示訓練得到的分類器無法區別源域與目標域種的樣本時,我們可以稱該特征表示具有域不變特性.本文使用一種域混淆損失,該損失的優化是為了保證獲得具有域不變特性的特征表示.

對于一個特征表示θrepr,我們通過學習在該表示上效果最好的域分類器來衡量其域不變特性,θD是待學習的域分類器參數.通過最優化下列損失函數,可以學習得到效果最優的域分類器:

(6)

其中,yD代表樣本所屬的域,q代表域分類器的softmax值:q=softmax(θDf(x;θrepr)).

此外,對于一個域分類器,我們引入域混淆損失,計算輸出預測到的域標簽與均勻域標簽分布之間的交叉熵,以達到最大化混淆兩個域、減少域之間分布差異的目的.域混淆損失函數表示如下:

(7)

上述域混淆損失的優化是為了找到一種具有域不變特性特征表示,在該特征表示的情況下,最好的域分類器無法取得良好的效果.理想狀態下,我們想要在訓練過程中同時優化上述兩種損失.但是域分類與域混淆是兩個矛盾的存在:學習到一個好的域分類器意味著域混淆的效果很差,不具有域不變的特性;達到好的域混淆效果則表示域分類器的分類效果很差.因此,域分類層fDC的兩種損失需要聯合優化以達到一個折中的、合理的優化結果.

3.3 網絡結構與模型優化

3.3.1 網絡結構

本文采用的網絡結構與DAN類似,采用其多層MK-MMD的方法設計網絡,同時添加域分類層fDC,通過多層MK-MMD損失、fDC層損失與總體網絡的最終分類損失這三種損失函數的聯合優化,達到好的無監督域適應效果.網絡結構如圖2所示.

3.3.2 損失函數

2.1 急診專科護士主觀幸福感得分 128名急診專科護士主觀幸福感得分總分為(70.38±11.86)分，與全國女性常模(71.0±18.0)分比較差異無統計學意義(t=0.596,P>0.05)。各維度得分：對健康的擔心(7.25±2.83)分，精力(17.73±3.41)分，生活的滿足和興趣(3.27±1.17)分，憂郁或愉快的心境(17.05±2.92)分，對情感和行為的控制(12.41±2.37)分，松弛和緊張(15.25±3.99)分。

(8)

其中J是交叉熵損失函數,θrepr(xi)表示網絡給樣本xi附上標簽yi的條件概率.

由于在標準卷積神經網絡中,層數由低到高,深度特征也是由一般化到特殊化,網絡層數越高,源域與目標域之間的域差異就越大,只通過微調無法彌補這種巨大的分布差異.因此,一般需要考慮對全連接層而不是卷積層進行遷移.

圖2 網絡結構圖Fig.2 Structure of network

本文在全連接層實現域適應,縮小域分布差異的方式有兩種:

1)添加基于MK-MMD的多層適應;

2)添加域分類層fDC.相應的損失函數也添加兩種,整個網絡的損失函數如下:

(9)

其中,λ和γ分別是MK-MMD和域混淆的平衡權重.

3.3.3 參數優化過程

對于不同的域適應場景,損失函數的權重應有差異,本文在將MK-MMD與域混淆結合的同時,通過實驗探究不同域適應度量對于不同的域適應場景的貢獻差異,以及兩種方法的合理組合方式,該部分內容將在第5節具體闡述.

4 實驗過程與結果

4.1 數據集與實驗過程

本文實驗使用的數據集是Office-31,該數據集是域適應研究領域的標準基準數據集.Office-31數據集中有31類、共4652張圖片,這些圖片是從三個獨立域中收集得到的,分別是:(1)Amazon(A),從amazon.com下載的圖片數據;(2)Webcam(W),由網絡攝像頭采集的圖片數據;(3)DSLR(D),由數字SLR相機采集的圖片數據.示例圖片如圖3所示.對于這三個域的數據,可以有六種遷移方式:A→W,D→W,W→D,A→D,D→A和W→A.本文將進行這六種域適應任務的實驗與對比分析.

圖3 Office-31 數據集示例Fig.3 Examples of the Office-31 dataset

除了本提出的結合域混淆與MK-MMD的改進深度適應網絡方法以外,本文實驗還將和傳統的CNN方法、使用MK-MMD度量的DAN方法進行實驗對比.同時為了研究域混淆的應用價值和適用條件,分別對fc6與fc7進行改進實驗并進行對比分析.

實驗過程:

本文使用caffe開源架構進行網絡的研究訓練,采用的網絡架構為5+3經典卷積神經網絡架構.與DAN方法相同,在三層全連接層后分別加上對應的MK-MMD層,計算源域與目標域特征表示在希爾伯特空間上的多核最大均值誤差.同時,在第七層全連接層之后添加應用域混淆思想的域分類層fDC,并計算該域分類層的分類損失與域混淆損失.為了實現該層功能,需在模型文件中為源域與目標域數據添加相應域標簽0和1,該層輸入參數為第七層全連接層得到的特征表示與兩個域的標簽連接.我們采用微調的方法進行模型的訓練,但是考慮到訓練集數據量的問題,訓練的過程中從預訓練模型中獲取前三層卷積層參數并固定,對后續的卷積層與全連接層通過反向傳播的方式進行微調.實驗采用隨機梯度下降法,參數為0.9,學習率采用“inv”的方式,參數為0.75,初始學習率為0.01.

4.2 實驗結果與對比分析

本實驗實現了結合域混淆與MK-MMD的改進深度適應網絡在Office-31數據集上的無監督域適應,并與普通卷積神經網絡CNN(Baseline),深度適應網絡DAN進行實驗對比.為了對比實驗的合理性,所有方法在同等條件下進行對比實驗.實驗結果如表1所示.其中Baseline和DAN結果是按照文獻[11]中模型與訓練方式重新訓練得到的.

表1 基于Office-31數據集的無監督域適應實驗結果
Table 1 Result of unsupervised domain adaptation experiment in Office-31 dataset

A-WD-WW-DA-DD-AW-AAverageBaseline 60.6(～0.6)95.0(～0.5)99.1(～0.2)59.0(～0.7)49.7(～0.3)46.2(～0.5)68.2DAN 66.9(～0.6)96.3(～0.4)99.3(～0.2)66.3(～0.5)52.2(～0.3)49.4(～0.4)71.6DAN+DC(fc6)67.3(～0.6)96.0(～0.3)99.1(～0.2)66.0(～0.751.5(～0.3)49.6(～0.5)71.5DAN+DC(fc7)69.0(～0.7)96.2(～0.4)99.5(～0.2)67.0(～0.6)52.5(～0.5)50.2(～0.5)72.5

4.2.1 DAN方法與CNN方法對比分析

本文首先在Office-31上使用普通的卷積神經網絡CNN,采用微調的方式進行源域到目標域的域適應,以此作為實驗結果對比的Baseline.在三個數據集的六種遷移情況下,平均檢測精度為68.2%.其中,D與W的互相遷移正確率很高,這是因為網絡攝像頭和數字SLR相機采集的圖片數據相似度很高,無需額外的域適應操作就能達到很好的檢測效果.但是網絡圖片與真實采集圖片之間差異較大,故相互遷移的正確率都不高,尤其是從真實采集圖片數據集D和W向網絡圖片數據集遷移A的時候,效果尤其差.

其次,本文采用多層MK-MMD的方法進行域適應(DAN方法).得到的結果如表1中第二行所示.對于不同的數據集遷移情況,采用的權重參數λ有所不同,具體選擇參數值與原因分析將在第5節中給出.表中所展示結果皆為當前遷移情景下最好的檢測結果.我們在不同方法之間進行縱向對比.

從結果中可以看出,采用多層MK-MMD域適應的DAN方法,六種遷移情景的準確度均值為71.6%,相比較于Baseline提高了超過3%,有顯著提升,這證明了該域適應方法的有效性.對于不同域適應情景,DAN的方法提升的效果也有差異.首先,對于D與W的域間遷移,效果提升不明顯,這是由于兩個域的數據集相似度很高,基礎CNN網絡也能在源域學習到對目標域有很好表征能力的特征,所以域適應方法效果一般.對于域A到域D或者W的遷移,此方法提升了7%左右,優化明顯.從域D或W向域A遷移時,準確度提升了3%左右,效果也有明顯提升,但是由于D和W的數據量問題以及現實采集圖片提取特征的困難性問題,訓練時學習到的特征對目標域A表征效果略差,所以提升程度相對較低.總體上,只采用多層MK-MMD的DAN方法進行域適應,取得了好的實驗精度與優化效果,但是仍有提升空間.

4.2.2 DAN+DC(fc7)方法與DAN方法對比分析

本文在上文實驗基礎上,進一步結合域混淆的思想,添加判斷樣本歸屬域的域分類層fDC進行實驗,并與上文采用的DAN方法進行實驗對比.不同遷移情景的fDC層權重參數γ不同,參數的選取和原因將于第5節給出.同樣的,本方法實驗對比為縱向對比,實驗結果如表1第4行所示.

由數據可以看出,最終平均準確度為72.5%,對于只使用MK-MMD的DAN方法,結合域混淆和MK-MMD的方法將六種遷移情景的平均精度又提升了1%.這是本文貢獻之一.從不同遷移情景來看,域A到域W的遷移效果最好,提升了超過2%,實驗過程中的精度對比見圖4(a).域A到域D的效果提升了接近1%,源域與目標域的分布差異較大,所以結合域混淆與MK-MMD的方法使得從源域獲得的特征更具有表征目標域樣本的能力,進一步縮小了域分布差異,效果能得到明顯提升,這與上文中實驗的原理是一致的.同時,域D的樣本數量較小,能夠貢獻的有效信息少,所以域A到域W的遷移效果優于域A到域D.對于相似的域D與域W的相互遷移,由于fDC層的實現思路是使提取到的特征無法判別樣本所屬域,而此情景下,源域與目標域的相似度很高,本身無法判別的程度就比較高,所以結合域混淆的實驗效果提升不明顯.對于域W或D向域A的遷移情景,結合域混淆的方法也將實驗結果提升了接近1%,其中,W到A的實驗過程精度對比見圖4(b).同樣的,由于源域數據量小,且現實采集圖片提取到的特征表征能力較差,所以對比于從信息豐富的網絡圖片A向現實圖片D或W遷移,該情景效果提升不明顯,且由于W與D數據量的差異,本方法從域W遷移的效果提升程度高于從域D遷移的效果.

綜上,在Office-31的六種遷移情景下,結合域混淆與MK-MMD的深度適應網絡的實驗結果總體優于文獻[11]單一的DAN方法,證明了本方法在域適應問題上的有效性.

圖4 不同方法迭代次數精度對比圖Fig.4 Accuracy of different iterations using different methods

4.2.3 DAN+DC(fc6)方法與DAN+DC(fc7)方法對比分析

本文采用的代表域混淆的fDC層接在第7層全連接層之后,選擇該位置的原因如下:首先網絡第8層的輸出結果用于分類,不作考慮,所以本文在第6層和第7層全連接層之后分別加上fDC層進行實驗對比(下文簡稱為DC6,DC7),具體結果如表1中第三、四行所示.

從實驗結果上看,結合DC6的方法得到的平均準確率為71.5%,效果不如只使用MK-MMD的DAN方法和結合DC7的方法.從數據上看,在第6層全連接層之后使用域混淆無法進一步提升域適應的效果,甚至有所下降.從理論上看,一方面隨著層數的增高,卷積神經網絡每一層提取的特征從泛化往特殊化轉變,層數越高,特征表述越細,越特定于任務.因此,除第8層結果用于分類以外,源域與目標域在第7層全連接層提取的特征差異最大,在此處進行域混淆,縮小兩個域分布差異的效果最好.另一方面,體現域混淆思想的fDC層的目標函數分為域分類與域混淆兩部分,最終的結果是要使得最好的域分類器達到最大的域混淆,因此,該層輸入的特征表征能力越強越好,在這種情況下再進行域混淆,域適應的效果最優.

從理論上看,結合DC7比結合DC6的域適應效果更優,實驗數據也驗證了這一理論.

綜合上文分析,結合域混淆與MK-MMD的方法進一步提升了域適應的效果,從理論與實踐上都證明了本文所提出方法的有效性.且對于從信息豐富的網絡圖片數據集向復雜的真實采集圖片數據集遷移,本文方法更加適用,提升效果更明顯.

5 參數選取與分析

本文對目標函數中兩種域適應損失的權重參數λ、γ進行選取與分析.MK-MMD的權重參數λ取值范圍為{0.1,0.4,0.7,1,1,1,1.4,1.7,2},域混淆權重參數γ取值范圍為{0.01,0.05,0.1,0.15,0.2},在不同的域適應情景下,選取合適的參數以及合理組合參數是有必要的.

對于MK-MMD的權重參數λ,文獻[11]表明,在Office-31數據集中,從域A(包含豐富信息的網絡圖片)往域W或D(復雜的網絡攝像頭采集圖片)遷移時,λ取1時達到最好實驗效果,如圖5(a)所示.但是對于源域是W或D時,這個結論并不適用.例如從W往A的遷移情景,在不同權重下的效果對比如圖5(a)所示.實驗證明,在這種情景下,隨著λ取值的增加,域適應的效果反而逐漸變差,在λ取0.1時,效果最優,這與從域A往其他域遷移的情況是完全不同的.因此,實際操作時,對于源域信息量很豐富的情況如網絡圖片,MK-MMD的權重λ的取值為1,對于源域信息量較少或采集環境復雜的情況如攝像頭采集圖片,MK-MMD的權重λ的取值應取小值0.1.

圖5 不同權重精度對比圖Fig.5 Comparison charts of different weights

對于體現域混淆思想的fDC層的權重參數γ,考慮到需要達到兩種參數的組合最優狀態,本文對每種遷移情景,在最優的λ取值下進行參數γ的實驗分析.當源域為A,λ取1時,γ取0.1達到最優效果,其中域A到域W的不同權重效果對比如圖5(b)所示.當源域為W或D,λ取0.1時,γ取0.01達到最優效果,其中域W到域A的不同權重效果對比如圖5(b)所示.

從實驗結果上看,域混淆作為一種域適應度量,其損失權重在MK-MMD的十分之一比較合適.從理論上看,域混淆作用是使得域分類效果最好的特征表示分類效果最差,如果比重過高,在訓練的一開始,訓練便會偏向域混淆這一邊,而來不及學習到表征能力強的特征,所以域混淆的權重取較小值.同時,域適應的根本目的是獲得具有域不變特性的特征表示,從這個層面來看,MK-MMD是通過縮小特征表示在映射后空間內的距離來縮小分布差異以獲得域不變特性,而域混淆只是判斷域混淆程度并通過優化其損失來提升特征的域不變特性,可以說MK-MMD是主動獲得域不變特性,而域混淆是被動驗證提升域不變特性,MK-MMD的作用更強,域混淆在這個層面上進一步提升域適應效果.因此,域混淆損失占總體損失函數比重小于MK-MMD的損失比重.

綜上所述,當從信息豐富數據集(如網絡圖片)往采集環境復雜信息量較少數據集(如攝像頭采集圖片)進行域適應時,MK-MMD的權重取1,域混淆的權重取0.1;反向域適應時,MK-MMD權重取0.1,域混淆的權重取0.01.上述權重組合使得MK-MMD與域混淆的組合更合理,結果更優.

6 總 結

本文在使用MK-MMD的DAN方法基礎上,結合域混淆思想進行改進并提升了域適應效果.同時,本文針對MK-MMD對不同遷移場景的作用差異,探究不同場景下該度量的適用權重,并通過實驗與理論分析得出MK-MMD與域混淆的合理組合,使得改進方法的結果更優.本文提出的方法是在特征遷移層面的改進與驗證,后續中將結合實例遷移層面進行進一步研究.