多模態神經網絡在復雜大數據特征學習中的應用

葉衛華

摘要 隨著信息時代的發展，產生了海量復雜數據，如何從大數據中準確提取行業所需要的有效數據，是一件非常艱巨的任務。大數據的分析與挖掘的關鍵步驟是對大數據進行特征學習，本文在多層神經網絡對傳統數據處理的基礎上，用張量法對大數據進行抽象建模，捕捉數據在高階張量空間的分布特征，建立面向復雜大數據特征學習的多模態神經網絡計算模型。

[關鍵詞]大數據 多模態 神經網絡

1 引言

大數據具有數量大、種類多、速度快、難甄別等特征，視頻媒體、社交網絡、物聯網等各行業的飛速發展對大數據的快速準確處理提出了嚴峻的挑戰。如何從龐大的數據中快速的篩選提取出最準確有用的信息，是大數據處理面臨的最現實的問題。

本文針對大數據當前形勢下的主要特點，針對大數據的特征提取方法設計多模態的神經網絡計算模型。傳統的特征學習方法主要基于向量模型，難以處理復雜的數據特征，典型的代表為多層卷積神經網絡。多模態的神經網絡計算模型同時將學習模型從向量空間擴展到張量空間，通過面向張量空間的高階反向傳播算法，對神經網絡的各參數進行反向推演。實驗結果表明多模態的神經網絡計算模型能夠快速準確的對復雜數據進行特征學習，比常規的基于張量空間的多層神經網絡計算模型具有明顯優勢。

2 多層卷積神經網絡

2.1 多層神經網絡

多層神經網絡學習可以看作是一個具有n層的非線性系統T，T= （Tl，T2，…，Tn），I和O分別表示系統的輸入數據和輸出。神經網絡結構如圖1所示，數據在經過這個n層的系統變換之后，輸入和輸出數據依舊相等，那么就表示這些數據經過這個n層的系統之后，每一層的輸入與輸出相等，沒有發生有效信息的丟失。同時，在大數據多層神經網絡模型的訓練過程中，其參數和結構的學習應當具有自主性，即不需要人為干預，這樣多層神經網絡學習模型才可以自主學習數據的多層特征。

多層神經網絡學習模型的訓練包括首次訓練和再次訓練兩個步驟，在首次訓練階段，自下而上逐層對已經建立模型神經網絡進行訓練，以獲得初始參數;在再次訓練階段，自上而下利用已經存在的數據對參數進行一次修正，從而獲得最終的正確參數。

2.2 卷積神經網絡

卷積神經網絡在多層神經網絡的基礎上增加了卷積運算，運算過程主要包括卷積、非線性變換以及下采樣等三個階段。

在卷積階段，提取原始輸入信號的特征以確定卷積核數，具有原始信號關鍵特征的卷積核可實現權值共享。第一階段卷積公式如公式（1）所示：

其中，xi為卷積神經網絡的輸入，是由n個二維數據組成，Yi為卷積神經網絡的輸出，由m個二維數據組成，bj為偏置向量。

在非線性變換階段，需要對輸出進行非線性激活，激活函數采用最多的為Signoid函數。

f（y）=1/（1+e-y）

（2）

在下采樣階段，對特征的處理通常采用池化的方式。池化操作有平均法和最大化法兩種，平均法計算領域窗口的特征平均值，在處理過程中，領域窗口需要平移一個步長。最大化法取領域串口的最大特征值。池化操作，使數據可以保持最多的特征，同時將數據量大幅減小。通過使用W權值將各卷積神經元連接，可構成一個基于多層卷積神經網絡的深度學習模型。

平均法池化算法：

x down（xj-1）

（3）

最大化池化算法：

xj=f（Bjdown（xj-1）+bj）

（4）

down（xj-l）表示下采樣操作，可以按塊對數據進行降維操作。

多層卷積神經網絡的訓練方法主要有預訓練和微調兩種，預訓練主要采用反向傳播和梯度下降算法，這個過程為無監督的訓練過程，預訓練完成后通過監督訓練對參數進行微調，典型的卷積神經網絡單深度模型輸出如圖2所示。

多模態的神經網絡就可以利用上述方法，將多個單層卷積神經網絡疊加連接組成多層卷積神經網絡模型進行綜合處理。

3 基于多模態的多層神經網絡

傳統的大數據以結構化數據為主，多層網絡學習己經在結構化大數據處理領域取得了的良好的應用。在建模過程中，復雜綜合數據之間具有多種互相限制的關聯關系，使神經網絡的訓練時間延長，收斂性變得困難。

多模態神經網絡通過張量對復雜數據進行解析，求解向量數據的模態張量值，建立模態張量數據表示的高階模型。在求解分布特征時，采用模態張量差值構造誤差重構函數，從而設計反向傳播計算方法，最終將多個模態張量高階模型進行組合，建立面向復雜大數據特征學習的多模態的多層神經網絡計算模型。

在建立高階模型時，首先應提取最原始有效數據的張量模態值，通過對第一層的訓練獲取其有效特征，以第一層的隱藏特征為輸入，接下去對第二層進行訓練來獲得第二層的隱藏特征，重復上述步驟一直到多模態的多層神經網絡模型所有隱藏數據類型全都分析提取完畢。將獲得數據結果記錄為首次訓練過程，該結果可以用于海量復雜數據的特征學習。

首次訓練完成后，會給每個數據類型分配相應的類屬標簽，根據數據類型的類屬標簽，可以利用有監督算法對多層神經網絡計算模型的參數進行再次訓練補償，進而獲得多模態的多層神經網絡計算模型的最終參數。

4 總結

（1）大數據擁有高度復雜性、實時性多變性等特點。大數據由于其來源廣泛性，類型多樣性特征，同時會包含多種復雜組合類型，同時要求系統能夠對新增的不同數據進行實時處理。但目前的神經網絡學習模型不能動態調整該模型的動態參數和結構，從而導致該學習模型不能接受并處理新增數據的特征。

（2）多模態的多層神經網絡有效解決了非自適應的靜態學習模型的問題，在應對大數據的復雜性和實時多變性上具有明顯優勢。

（3）處理大數據的海量性引起的數據安全隱患，多層神經網絡學習模型為了能夠處理準確處理大量數據進行復雜的訓練，相應的也會耗費更多的時間。為了提高多層神經網絡學習模型訓練速度，最好的辦法是充分利用云計算技術對神經網絡計算模型進行優化。然而利用云計算訓練神經網絡學習模型雖然會提高訓練速度，節省訓練時間，但同時會泄露數據的安全和隱私，存在所處理大數據的安全隱患問題，這是下一步需要進行的研究方向。

參考文獻

[1]卜范玉，陳志奎，張清辰，支持增量式更新的大數據特征學習模型[J]，計算機工程與應用，2015，51 （12）：21-26.

[2]張清辰.面向大數據特征學習的深度計算模型研究[D].大連理工大學，2015.

[3]黃偉，李曉玲，基于大數據和多模態智能技術的計算機視覺實驗設計[J]，實驗技術與管理，2016，33 （09）：122-125.

[4]文孟飛，劉偉榮，胡超.網絡媒體大數據流異構多模態目標識別策略[J]，計算機研究與發展，2017，54 （01）：71-79。