深度信念網絡研究進展

周 濤，陸惠玲，霍兵強

1.北方民族大學 計算機科學與工程學院，銀川750021

2.寧夏智能信息與大數據處理重點實驗室，銀川750021

3.寧夏醫科大學 理學院，銀川750004

1 引言

深度信念網絡[1-2]（Deep Belief Network，DBN）是深度學習（Deep Learning，DL）中的重要模型，是目前研究和應用都比較廣泛的深度學習架構之一。深度信念網絡是一種融合了深度學習和特征學習的多層神經網絡，是結合了無監督學習和有監督學習的多層概率機器學習模型。深度信念網絡能夠從原始數據中自動學習、提取特征，通過DBN 學習的特征能夠對原始數據實現更本質的描述，并且通過DBN 的“逐層初始化”能夠有效地解決深層網絡的訓練問題。深度信念網絡的提出為深度學習提供了一個新的研究方向。

在深度信念網絡提出之前，深層網絡的訓練問題一直都沒有被有效解決，梯度不穩定、監督學習易造成模型的過擬合、梯度下降算法對初始值敏感易陷入局部極值等問題導致了深層網絡監督學習的參數難于訓練，所以深層網絡的效果反而不如淺層網絡。2006 年Hin‐ton[3]首次提出了深度信念網絡和貪婪無監督逐層學習算法，有效解決深度學習模型的訓練問題，從而也展開了深度信念網絡在多方面的研究和應用。目前，深度信念網絡己被成功應用于人臉識別[4]、手寫字體識別[5]、醫學圖像分析處理等諸多領域。

鑒于深度信念網絡優異的特征學習能力和實際應用價值，本文圍繞深度信念神經網絡做了以下幾個方面的工作：（1）簡單介紹了深度信念網絡；（2）從受限玻爾茲曼機以及深度信念網絡的網絡結構和學習過程兩方面總結了深度信念網絡的基本原理；（3）從網絡結構和學習算法兩方面總結了深度信念網絡的研究進展，其中，網絡結構研究進展的歸納從網絡深度、RBM 結構和DBN 級聯三個角度展開，學習算法研究進展的梳理從基本算法、優化算法和融合方法（DBN 結合預處理方法、特征提取方法、分類識別方法和結果預測方法）三個角度展開；（4）聚焦深度信念網絡在醫學圖像分析領域中的應用。

2 基本原理

深度信念網絡是一種融合了深度學習和特征學習的多層神經網絡，是結合了無監督學習和有監督學習的多層概率機器學習模型。深度信念網絡是由多層無監督的受限玻爾茲曼機（Restricted Boltzmann Machines，RBM）和一層有監督的反向傳播網絡組成的。貪婪無監督逐層學習算法的核心思想是對深層網絡結構的參數進行逐層的初始化，然后再使用有監督算法對初始化后的網絡參數進行全局微調。這種學習方法克服了深層網絡訓練中遇到的問題，使深層網絡的學習變得高效。

2.1 受限波爾茲曼機

受限玻爾茲曼機是一種隨機神經網絡模型，每個RBM 分為兩層，輸入數據層稱為可視層，不可見層稱為隱藏層或隱層。RBM 的層內無連接，層間彼此互連。RBM結構如圖1所示。

圖1 受限玻爾茲曼機結構

圖1 中，可視層表示為v=( v1, v2,...,vn)T，隱藏層表示為h=( h1, h2,...,hm)T，連 接 兩 層 的 權 值 矩 陣 是ω=(ωi,j)∈Rn×m,可 視 層 與 隱 藏 層 的 偏 置 分 別 為b=( b1, b2,...,bn)T和c=( c1,c2,...,cm)T。RBM 的能 量 函數為：

其中，θ={ωij, bi,cj} 是RBM參數。

由于可視層和隱藏層都滿足玻爾茲曼分布，當輸入可視層v 時，由激活函數P( hj|v ;θ )得到隱藏層h，然后根據P( vi|h ;θ )將隱藏層h重構為可視層v′，同時更新模型參數θ。多次重復上述步驟，當重構的可視層v′與原始輸入的可視層一致時，則該隱藏層h即為原始可視層v 的另一種表達，那么該隱藏層h相當于是從原始輸入數據中學習到的有效特征。當可視層或隱藏層確定時，隱藏層與可視層的激活函數分別為：

其中，函數f 是sigmoid函數：

RBM 訓練過程要學習參數θ=( wij,bi,cj)的值，以擬合給定的訓練數據。RBM 的非監督學習過程中通常采用對比散度（Contrastive Divergence，CD）的算法更新參數，各參數的更新規則為：

其中，ε 為RBM 訓練的學習率，Edate()?是訓練數據集所定義的分布之上的數學期望，Erecon()? 是重構模型所定義的分布之上的期望。

2.2 深度信念網絡結構和學習過程

深度信念網絡結合了有監督學習和無監督學習兩種方式對網絡進行訓練，是多層非線性網絡，對數據的復雜關系有極強的非線性映射能力。深度信念網絡由若干層無監督的RBM 單元和一層有監督的BP 網絡組成，能夠將底層特征通過多層次結構形成更抽象的高層特征，實現對原始訓練數據的本質描述。一個DBN 結構如圖2所示。

圖2 DBN結構

DBN 的學習過程具體可分為兩個階段，第一階段是無監督特征學習，第二階段是有監督參數微調。

（1）第一階段對DBN 每層網絡進行預訓練，預訓練過程采用貪婪無監督逐層學習算法自底層到頂層逐層訓練每個RBM，將前一個RBM 的輸出作為其高一層RBM 的輸入，自底層到頂層逐層實現每個RBM 的訓練，從而實現網絡參數的初始化。

（2）經過預訓練之后，原始輸入數據的特征被組合成更抽象的高層特征。每個RBM 的訓練只能優化該層的網絡參數，為了使整個網絡的參數達到最優，則要采用BP 算法對參數進行微調，達到全局優化。將預訓練結束后得到的權重作為DBN 網絡的初始權重，自頂層向下層微調整個模型，進行有監督的訓練，從而形成整個DBN 深層網絡結構。與傳統神經網絡相比，深度信念網絡解決了傳統神經網絡在深度結構增加時訓練時間長、易陷入局部最優、大數據處理慢的問題。

3 深度信念網絡研究進展

深度信念網絡是一種多層神經網絡，是結合了無監督學習和監督學習的多層概率機器學習模型。目前深度信念網絡的研究主要集中在網絡結構和學習算法兩個方面。

3.1 網絡結構

DBN 是由多個RBM 堆疊而成的深層網絡，所以RBM 的堆疊個數即網絡深度和RBM 結構的不同會構建不同的DBN，并且DBN 級聯的不同也會在很大程度上對其性能產生影響。本節從網絡深度、RBM 結構和DBN 級聯三方面總結了DBN 網絡結構的研究進展，如圖3所示。

圖3 DBN網絡結構的研究進展

3.1.1 網絡深度

在DBN 的網絡深度方面，不同的網絡深度可以構造不同的DBN，網絡層數的多少往往會影響網絡的擬合程度，從而影響網絡的學習效率。目前，DBN 網絡層數通常需要通過實驗確定或者由主觀性較強的經驗確定，網絡學習效率較低，為此很多研究者做了一系列工作：李晉徽[6]提出的瓶頸深度信念網絡（BN-DBN）是一個層數為奇數的深層網絡，其中節點相對較少的一層為瓶頸層，去掉瓶頸層之后的網絡，令瓶頸層為整個網絡的輸出層；潘廣源[7]提出一種基于重構誤差的網絡深度判斷方法，根據隱含層和重構誤差之間的關系確定網絡深度；陳雷[8]提出一種基于區分性和自適應瓶頸深度信念網絡的方法以解決DBN 隱含層層數和隱含層節點數增加到一定程度后網絡學習效率降低的問題；高強[9]研究了深度信念網絡（DBN）權重的層次趨勢問題，實驗表明深度信念網絡層數的增加，權值系數矩陣中的元素越來越趨于正態分布，解釋了DBN 能自動提取到精細特征的原因；Zheng[10]提出了一種基于改進的深度信念網絡（DBN）的語音情感識別模型，該方法用校正線性單元（Relu）代替傳統的DBN 激活函數，重建誤差用于確定DBN 網絡的深度。Kamada[11]提出了自適應結構學習的DBN 應用于綜合醫學檢查數據的癌癥預測，該方法通過神經元生成-湮滅算法在受限玻爾茲曼機（RBM）中發現給定輸入數據的最佳隱層神經元數，并通過算法的擴展在DBN 生成新的隱層，此方法比傳統DBN 分類精度更高。整體來看，網絡的深度呈現越來越深的發展趨勢，其學習效果也越來越好。近幾年發展起來的ResNet在網絡深度（152 層）和分類精度上都性能卓越，Incep‐tion 網絡和密集連接網絡都在以不斷提高網絡深度而提高網絡性能。

3.1.2 RBM結構

基于RBM 結構的改進是DBN 模型結構研究的重要組成部分。RBM 是一種由可視層和隱藏層兩層組成的隨機神經網絡模型，RBM 層內無連接，層間互連。很多學者在原始的RBM 結構基礎之上進行了一系列改進：魯錚[12]提出的T 型RBM 能夠對數據起到除噪效果，從而提高分類精度，降低特征提取的時間復雜度，但是很難在多計算機中進行并行訓練，因此尋找有效的可拓展的并行學習算法來訓練深度網絡模型是一個難點；萬程[13]提出的自適應基數RBM 通過對每個輸入數據設定對應的閾值以調整網絡參數；Elfwing[14]提出的期望能量RBM 是用負期望能量代替負自由能量計算輸出量，使RBM 學習性能大大提升；高斯RBM 分類器是在高斯RBM 的隱含層h上添加一個輸出層o，隱含層h從可視層v 中提取的特征表達能力更強、更有利于分類；耿志強[15]提出一種基于膠質細胞鏈的DBN，其鏈式結構由每個RBM 與一組膠質細胞鏈接而成，每個膠質細胞與RBM 隱藏層節點相連，該結構的目的是利用膠質細胞優化RBM 訓練，能夠學習到RBM 層內節點間的關聯信息；Shen[16]在城市聲學分類（UAC）中，采用遷移學習結合深層信念網絡（DBN），將預先訓練好的深層神經網絡作為特征提取器，提取的特征被連接并饋送到DBN 用于分類器學習。為了獲得良好的泛化性能，在DBN 采用了三個受限玻爾茲曼機（RBM），它們由對比散度算法（CD）訓練，采用反向傳播（BP）的參數微調；丁世飛[17]通過改變RBM 模型中的訓練參數，使用隨機變量代替傳統的實值變量，構建基于隨機權值的受限的波爾茲曼機WRBM，在WRBM 基礎上構建了相應的深度模型：Weight uncertainty Deep Belief Network（WDBN）和Weight uncertainty Deep Boltzmann Machine（WDBM），并且通過實驗驗證了WDBN 和WDBM 的有效性；Zhang[18]提出的逐點選擇受限玻爾茲曼機能夠有效地從含有無關模式的數據中發現任務相關的模式，從而達到滿意的分類結果。

3.1.3 DBN級聯

DBN級聯的不同會在很大程度上對DBN的性能產生影響。在DBN 級聯方面，Wang[19]提出了一種基于遷移學習的生長DBN 模型（TL-GDBN）來自動確定其結構尺寸，首先，初始化一個具有單隱層的基本DBN 結構，凍結學習到的權重參數；第二，將學習到的權重參數中的知識轉移到新添加的神經元和隱藏層，實現結構增長；對預處理得到的權值參數進行進一步微調，從而加快其學習過程，提高模型精度，但訓練過程中參數較多，減少計算復雜性成為主要問題。葉學義[20]提出一種概率態多層RBM 級聯神經網絡的方法，采用RBM 中神經元的概率態表征來模擬人腦神經元連續分布的激活狀態，并且利用多層P-RBM 級聯來仿真人腦對視覺的層次學習模式，又以逐層遞減隱藏層神經元數來控制網絡規模，最后采用分層訓練和整體優化的機制來緩解魯棒性和準確性的矛盾；Liu[21]提出的Boosted DBN 由一組DBN 構成，能夠使特征學習、特征選擇和分類器形成一個循環的過程，從而實現特征的聯合微調，構成一個功能強大的分類器。

3.2 學習算法

DBN 模型訓練的學習過程分為無監督特征學習和有監督微調，學習算法是實現特征學習和分類識別的基礎。本節從基本算法、優化算法和DBN 與其他方法融合三方面總結DBN 學習算法的改進，其中融合方法從DBN 結合預處理、特征提取、分類識別和結果預測四方面展開闡述，如圖4所示。

3.2.1 基本算法

RBM 訓練過程要學習參數θ=( wij,bi,cj)的值，以擬合給定的訓練數據。2006 年，Hinton[22]提出高效的RBM 近似學習算法——CD（Contrastive Divergence）學習算法，即將原始RBM 的學習算法中的概率分布差異度量用一個近似的概率分布差異度量取代，RBM 非監督預訓練過程中權重參數的更新通常采用CD 算法；2008 年，Tieleman[23]提出了PCD（Persistent Contrastive Divergence）學習算法，PCD 算法既不僅具有CD 算法的高學習效率而且具有更強的模式生成能力；2009 年，Tieleman 和Hinton 提出了快速持續對比散度FPCD（Fast Persistent Contrastive Divergence）算法[24]，FPCD加快了RBM 訓練的速度；在2009 年到2010 年，出現了一系列基于回火的馬爾可夫鏈蒙特卡羅采樣算法的RBM 學習算法[25-28]，算法思想上采用基于回火的MC‐MC 采樣算法來提升RBM 的學習性能；Lopes[29]為提高CD算法的收斂性提出了一種自適應步長技術。

3.2.2 優化算法

為了加快DBN 的學習速度，提高DBN 的整體性能，在對于DBN 的改進研究中提出了一系列優化算法：最大判別能力轉換法是能夠動態地學習模型結構的算法，它利用Fisher 準則判斷隱藏層神經元的判別性能，然后動態地選擇部分隱藏層神經元來構建最優的模型結構；魯錚[12]提出了一種基于T-RBM的DBN分類算法，能夠有效減少訓練時間，提高識別性能；Wan[30]將非負矩陣分解（NMF）結合DBN 方法用于預測早期癌癥疾病，使用NMF 方法作為矩陣分解技術來降低樣本數據集的維數，然后使用分解后的矩陣和權重矩陣來近似原始矩陣，以減少算法的時間和空間復雜度，該算法在保持較低時間復雜度的同時，減少了數據的存儲空間，可以有效提高預測性能。劉道元[31]提出一種基于深度置信神經網絡—深度神經網絡的預測模型，用于制造系統完工期快速預測。Papa[32]引入和聲搜索算法，Ro‐drigues[32]引入布谷鳥算法來處理深度信念網絡中的參數微調問題；Shen[34]采用共軛梯度法來加快DBN 的學習；Hossain[35]結合進化算法來提升DBN 性能和減少其計算時間；Lopes[36]引入CD-k 算法提升模型訓練速度；為減輕過擬合問題，Mohamed[37]在用DBN 做阿拉伯手寫文字識別時，采用dropout 和dropconnect 技術兩種正則化方法訓練，對權值進行優化，從而提高分類精度并且能夠提高網絡的泛化能力。

圖4 DBN學習算法的研究進展

3.2.3 融合方法

為了能夠發揮DBN 優異的特征學習能力和實際應用能力，通常將DBN 算法與其他方法進行融合，從而實現優化DBN性能的目的。DBN與其他方法的融合表現在結合預處理方法、特征提取方法、分類識別方法和結果預測方法四個方面。

（1）數據預處理是數據輸入前的重要過程，數據預處理在眾多深度學習算法訓練中都起著重要作用。DBN 與預處理方法的融合方面，Wang[38]提出了一種基于模糊神經網絡的稀疏深層信念網絡（SDBFNN）用于非線性系統建模，稀疏DBN 實現快速權值初始化和獲取特征向量，用以平衡密集表示以提高魯棒性。Hou[39]提出了一種半監督PolSAR 圖像分類方法，該方法利用DBN和張量降維，利用多線性主成分分析（MPCA）對張量形式的PolSAR數據進行降維，并將PolSAR數據的多個特征作為DBN 的輸入，實驗表明，基于該方法的整體分類精度優于傳統的分類策略，在計算方面，雖然DBN有較好的表示能力，但對半監督算法來說，為學習到良好的訓練效果，需要訓練更多的樣本的學習到更多的特征，即需要更多的資源才能訓練得到良好模型。Dong[40]提出了基于體積的稀疏深度信任網絡（VS-DBN）模型，DBN 從體積fMRI 數據直接推斷出分層的大腦網絡，以基于人類連接體項目（HCP）受試者發布的體積功能磁共振成像數據重建分層腦網絡，大腦網絡在多個基于HCP 任務的功能磁共振成像數據集上表現出相當好的一致性和對應性。

（2）特征提取是DBN 模型學習的重要一環，特征提取是通過特征選擇來減少特征維度，從而有效地減小特征空間。DBN 與特征提取方法的融合方面，Aswathy[41]提出基于簡化空間特征和深度信念網絡的半監督人臉表情識別算法，該算法由級聯結構組成，首先對人臉圖像進行特征提取，然后進行特征約簡，將具有所有可用的標記和未標記數據的半監督訓練應用于DBN。基于DBN 的Bottleneck 特征提取方法的以訓練準則為最大化幀級交叉熵；將多尺度局部二值模式算法與DBN 算法相結合的方法采用多尺度局部二值模式算法提取特征，并將提取的特征作為DBN 的輸入；李明愛[42]利用小波包變換良好的時頻局部化特性對運動想象腦電信號進行時頻分解，將其瞬時功率信號輸入給DBN，通過無監督訓練方法完成各個RBM 的初始化預訓練，再采用有監督訓練方法對整個DBN 網絡進行微調，實現運動想象腦電信號特征的自動提取。王培良[43]將粒子群優化算法用于優化DBN 特征提取，提高了DBN 網絡的訓練速度和泛化能力；Tang[44]結合CNN 和DBN，以CNN提取特征，DBN進行分類。

（3）特征提取是手段，分類識別才是DBN 學習過程的最終目的，DBN 與分類識別方法的融合方面，施徐敢[45]提出一種結合DBN 和多層感知器的識別方法，把DBN 學習到的高層特征初始化多層感知器進行分類；基于DBN 與隨機森林的算法將DBN 學習的抽象特征輸入到隨機森林中進行分類識別；黃壽喜[46]采用改進的深度信念網絡作為提取人臉表情特征的檢測器，堆疊自編碼器作為識別表情的分類器，實現在人臉表情識別研究中深度信念網絡與堆疊自編碼器的融合。張昕[47]提出了一種結合了DBN 和隱馬爾科夫模型的分類模型，降低了算法復雜度和時間復雜度。

（4）DBN 與結果預測方法的融合方面，郭磊[48]提出的二型模糊DBN 能夠對經過特征選擇之后仍存在隨機性和不確定性的特征進行有效的處理，并將二型模糊邏輯系統作為預測模型；Qin[49]利用自回歸積分滑動平均模型（ARIMA）較強的預測能力和DBN 在非線性關系中強大的表達能力，提出了一種結合ARIMA 和DBN 的赤潮預測模型；楊旭華[50]在網絡的頂層疊加一個邏輯回歸層并將提取出的數據特征作為輸入來預測各科室未來的門診量。

4 深度信念網絡在醫學圖像分析中的應用

基于深度信念網絡強大的特征學習能力，諸多研究者將深度信念網絡應用于醫學圖像的分析，目前DBN已經在很多疾病的影像分析中發揮著其強大的功能，具體體現在醫學圖像分割和計算機輔助診斷兩個方面。

（1）醫學圖像分割對疾病的診斷和醫學數據分析等方面有重要意義，能夠為疾病的臨床診療和病理學研究提供可靠的依據。在醫學圖像分割方面，付文[51]利用深度學習算法對前列腺MRI 圖像的進行分割，構建DBN模型逐層無監督學習提取有效的高層特征，通過無監督學習學習到的抽象特征根據不同的數據集而進行調整，同時能夠對高層的結構語義信息進行編碼，然后根據帶標簽的數據進行有監督的微調，最后將學習到的特征作為softmax 回歸分類器的輸入，對數據進行分類最終實現圖像的分割。

（2）計算機輔助診斷是現代醫學影像研究的熱點之一，在疾病的診斷中有很高的臨床價值。在醫學圖像分類識別和計算機輔助診斷方面，目前已實現深度信念網絡模型對乳腺腫瘤X 線圖像和甲狀腺結節超聲圖像的良惡性分類；陳娜[52]采用判別式RBM 對乳腺X 光圖像進行分類，判別式RBM 是能夠從圖像中自動學習特征，并利用學習到的高層特征對圖像進行分類，這是一種新的醫學圖像分析方法，在乳腺X 光圖像標準數據集上的實驗結果表明，采用判別式RBM 對醫學圖像的分類準確率明顯高于其他基于統計特征提取的醫學圖像分類方法；目前肺結節良惡性分類方法存在識別精度低，模型分類結果假陽性高、診斷的漏診率和誤診率降低困難等問題，把深度信念網絡引入了肺結節的良惡性分類并提出的自定義的DBN 分類算法，實驗證明該算法具有優良的分類性能，能夠為影像科醫生提供準確率較高的、可供參考的診斷結果；Khatami[53]將DBN 應用于多類別放射性圖像的分類問題，該方法使用基于小波變換和統計測試技術對圖像去噪，采用DBN 學習無標簽特征，該方法具有較好魯棒性；Abdel-Zaher[54]基于DBN 提出了一種用于乳腺癌檢測的計算機輔助診斷方案，經測試分類準確度達到99.68%，該方案為乳腺癌提供了有效的分類模型，在調整參數方面，不適當的參數選擇會導致學習收斂于局部最優解。

5 結束語

深度學習為機器學習帶來了新機遇，深度信念網絡的提出使深度學習成為機器學習的一個新興研究方向，深度信念網絡受到了學術界和工業界的廣泛關注，并成為研究熱點。本文從深度學習的重要模型——深度信念網絡出發，從受限玻爾茲曼機以及深度信念網絡結構和學習過程兩方面介紹了深度信念網絡的基本原理，詳細總結了深度信念網絡在網絡結構和學習算法兩方面的研究進展，并總結了深度信念網絡在醫學圖像分析中的應用。這里對DBN及其未來展望如下：

（1）網絡結構越來越復雜、網絡節點功能越來越豐富

為了不斷提升深度信念神經網絡的性能，正如本文總結的那樣，科學家不斷在網絡深度、RBM 結構、DBN級聯方式和網絡節點功能上進行探索，深度神經網絡的層數已擴展到上百層甚至上千層，隨著網絡層數的不斷加深，其學習效果也越來越好，近幾年發展起來的ResNet 在網絡深度（152 層）和分類精度上都性能卓越，Inception 網絡和密集連接網絡都在以不斷提高網絡深度而提高網絡性能。采用膠囊作為網絡節點的膠囊網絡，理論上更接近人腦的思維方式，旨在提高深度神經網絡的空間分層和推理能力。DeepMind、谷歌大腦和圖網絡，都試圖定義具有關系歸納偏置功能的模，使深度神經網絡具有因果推理的能力。

（2）深度學習模型與機器學習模型的深度融合

深度學習模型自身也存在參數量大、計算復雜、模型退化、梯度消失、網絡收斂性不好等問題，因此通過融合其他機器學習模型，可能會避免對圖像的過度預處理，通過局部感受野、權值共享、池化功能，使得深度學習模型能在較低的模型復雜度下充分利用圖像局部和全局信息，對圖像的平移、旋轉、縮放等具有一定魯棒性，從而很好地解決了深層卷積神經網絡層數與準確度之間的矛盾，進而可以加深網絡深度，解決了網絡加深所出現的梯度消失問題，并且加速網絡收斂。為了降低深度神經網絡模型訓練所需的數據量，引入了遷移學習的思想，遷移學習可以說是一種“站在巨人肩膀上”的學習方法，可以利用數據、任務或模型之間的相似性，將在舊領域學習過的模型，應用于新領域的一種學習過程。通過將訓練好的模型遷移到類似場景，實現只需少量的訓練數據就可以達到較好的效果。

（3）無監督數據的特征學習

如果已經有一個足夠強大的機器學習算法，為了獲得更好的性能，最可靠的方法之一是給這個算法更多的數據。機器學習界有個說法：“有時候勝出者并非有最好的算法，而是有更多的數據”。科學家總是嘗試獲取更多的已標注數據，基于已標注數據的特征學習仍然占據著主導地位。但是標注數據的時間和經濟成本往往很高，海量的無標注數據在現實世界中大量存在，將海量無標注數據逐一人工標注，顯然費時費力，因此，隨著深度學習技術的發展，必將越來越重視對無標注數據的特征學習，以及將無標注數據自動添加標注技術的研究。目前有科學家已經開展利用數據自身的一些特點來自動尋找標注信息，通過這種方式得到的標注數據噪聲較大，但是廉價的自標注數據，大幅度降低對人工標注高精度數據的需求，對推動深度學習賦能細分行業有著積極的意義。

（4）“人工智能+醫療”的發展

將以深度學習為代表的人工智能技術應用于醫療行業的本質是為解決醫療資源的供給不足，醫療資源分布布局的問題，這不僅是醫療行業的一種技術創新，更是對醫療產業的一種變革，將帶來巨大的市場增量，擁有巨大的市場空間。人工智能的發展為醫生的大腦添加了一個新引擎，人工智能技術能夠進一步優化醫療產業鏈，并讓醫療行業走向更高效率和更高層次，未來值得期待。

深度信念網絡作為機器學習領域的新興技術，具有較好的特征學習能力、實際應用價值和應用潛力，未來深度信念網絡的研究應著力解決目前存在的問題。深度信念網絡更廣泛地應用于醫學圖像分析領域將對疾病的診斷、醫學數據的分析等方面產生重要意義，將對臨床診療和病理學研究做出重要貢獻。