一種基于“中國視云”平臺的CNN核函數可視化方法

李成范， 胡子榮， 劉 嵐， 丁雪海， 童維勤

（1.上海大學計算機工程與科學學院，上海 200444；2.上海工程技術大學電子電氣工程學院，上海 201620）

0 引 言

近年來，人工智能領域發展迅速，尤其在深度學習這一重要領域尤為明顯。圖形處理器（Graphics Processing Unit，GPU）計算和并行計算的發展，推動著神經網絡領域的研究快速步入了一個飛速發展的階段。

神經網絡在人工智能領域發展中起著重要作用，但依舊是可解釋性有限的黑盒函數近似器，尤其現在涌現的好多模型都是封裝過的，以至于難以理解內部的具體結構。比如卷積神經網絡（Convolutional Neural Network，CNN）［1］和循環神經網絡（Recurrent Neural Network，RNN）等深度學習模型，盡管在許多方面表現突出，但網絡結構復雜，模型參數較多，以至從數學角度解釋最終的輸出與模型參數之間的關聯面臨著很大的困難［2-4］。對模型層次間參數關聯和輸出之間的影響也并不清楚。

隨著我國綜合國力的持續增長和政府對科研投入力度的不斷加大，當前大型科研儀器保有量呈現井噴式增長趨勢［5-7］。這為科技創新與發展提供了堅實的硬件基礎。高校作為社會的一個重要組成部分，大型儀器的保有量和使用現狀在一定程度上體現了其科技創新和服務社會的水平。高校大型科學儀器不僅設備數量眾多，而且類型復雜多樣，使用狀況也不盡相同［8］。“中國視云”科研平臺于2018年搭建而成。本文依托“中國視云”這一大型科學儀器平臺，針對深度學習可視化中存在的問題和現有開發工具的不足，通過對CNN可視化進行研究［9-13］，實現對神經網絡結構、核函數、資源調度、學習特征可視化；通過可視化方法解釋神經網絡，還原和展示神經網絡的訓練過程［14-15］。

國內外對可視化方面的研究也頗多，2009年Erhan等提出了對傳統的淺層網絡進行解釋的激活函數最大化算法［16］，后期衍生出的許多特征可視化方法都是基于這種方法；Mahendran等提出了網絡反演算法重建基于多個神經元激活的輸入圖像，以此來實現每個卷積層中學習到的綜合特征圖可視化，揭示了CNN在隱藏層層面的內部特征［17］；Zeiler等［18］提出了基于反CNN的可視化方法，通過直接映射解釋CNN中突出顯示激活的特定神經元，從而直接鏈接神經元和輸入數據；周博磊等在2018年提出了基于網絡剖分的可視化［19］，通過引用異構圖像數據集有效地將輸入圖像分割為多個具有各種語義定義的部分，顯著提高了神經元的可解釋性。

深度學習可視化發展主要體現在對深度學習可視化內容的研究不斷深入和可視化的工具越來越多［20-21］，功能也越來越強大。深度學習可視化逐漸向涉及整個模型訓練過程和特征量化的方向發展。這些工具目前仍局限于網絡結構、特征圖、訓練參數等可視化［22-23］。隨著深度學習可視化研究的深入，可視化工具勢必會越來越多、功能也愈加豐富［24］。

本文提出的一種基于“中國視云”平臺的CNN可視化方法，通過利用最大激活函數方法和模塊化封裝技術有效解決了可視化工具兼容性低、可視化種類單一、網絡層次和訓練過程細節模糊問題，具有較好的應用前景。

1 可視化工具模塊設計

本可視化庫封裝采用Python文件，用戶可以通過import工具直接引入。該可視化庫的功能主要分為以下兩個方面：

(1)創建數據存放目錄。該功能通過將一次運行中的數據都存放至同一個目錄，方便后端對數據文件的讀取；

(2)可視化功能模塊。該模塊文件中封裝了多個可視化功能，用戶可以通過引入該模塊來調用相應方法。

1.1 網絡結構

網絡結構可視化技術主要采用jCanvas.js圖形庫。jCanvas.js圖形庫是一個基于jQuery框架和canvas標簽的純JavaScript庫，它提供多種基礎圖形和文本功能，并且通過jQuery封裝一系列交互功能，例如點擊、鼠標懸停等。

特征圖可視化、核函數可視化都是基于網絡結構可視化來實現的，通過選定網絡某一層將相應層次的特征圖、核函數內容可視化出來，本文采用的是Resnet

殘差神經網絡進行實驗，網絡結構如圖1所示。由圖1可見，Resnet是由6層網絡構成的，分別為1個卷積層、4個殘差層和1個池化層全連接層。

圖1 Resnet50網絡結構圖

1.2 核函數

在神經網絡中，核函數可視化是通過Activation Maximization（AM）算法實現的。AM算法是用來可視化各個卷積層輸入偏好的一種算法，其中每個神經元都負責提取特定特征。對于給定具有該特征的輸入，則可在該神經元處得到最大的激活值。AM算法是通過輸入特征x來最大化神經元的激活函數：

式中：x為神經網絡的輸入；ɑi，j（θ，x）為輸入特征x第i層中的第j個卷積的激活；θ為權重或偏置值。

算法的執行流程大致分為4步：

（1）輸入圖像，獲得某一層的特定卷積的激活ɑi，j。

（2）在CNN參數固定情況下，計算激活ɑi，j（θ，x）與輸入圖像的梯度?ɑi，j（θ，x）/?x。

（3）通過迭代來更改輸入圖像的像素，使得激活最大化，采用梯度上升算法：

式中，η為步長。

（4）通過引用正則項獲得與真實值相近的解。把網絡的直接輸入特征x認為是零均值的輸入，則優化問題可定義為

式中，Rθ（x）為樣本均值。在實際計算中，通過正則化操作，Rθ（x）將特征x映射為更合適的形式，因此x的迭代公式又可表示為

式中，Rθ的常用表達方式包括L2decay公式、高斯模糊、將范數值較小的像素設置為0、將貢獻度小的像素設置為0 4種。

通過AM算法獲得輸入層的輸入偏好，得知神經網絡卷積核獲得的是什么特征，最終達到了解神經網絡學習內容的目的。

1.3 資源占用

關于資源占用情況的可視化，通過計算每個變量的大小來顯示所占用的顯存大小，進而確定所需要的顯存和容量。

網絡訓練過程中占用資源的可視化能夠為網絡設計者和用戶顯示每層網絡運算時間、運算占用資源等情況，從而能夠更好指導相關人員分配內存，有針對性的優化網絡結構。此外，通過資源占用可視化方法能夠查看每一層隱藏層所消耗的時間和占用資源，進而重新設計和優化網絡。可視化展示是通過將每個網絡層的資源占用比例與運行時間比例以圖形顯示實現的。

1.4 高維數據降維

針對高維數據降維可視化，主要使用最常用的主成分分析法（principal components analysis，PCA）來實現對高維數據降維之后的可視化展示。

PCA是通過計算數據矩陣的協方差矩陣獲得矩陣中的若干個特征值最大的特征向量。針對高維數據降維，采用奇異值分解方法（singular value decomposition，SVD）來分解協方差矩陣實現PCA算法，具體步驟如下：

步驟1輸入數據集X＝{ x1，x2，…，xn}進行降維處理；

步驟2去平均值，即每一特征減去各自的平均值；

步驟3計算每一個特征的協方差矩陣；

步驟4利用SVD計算協方差矩陣的特征值與特征向量；

步驟5排序并選擇若干個最大的特征值，將特征向量分別作為列向量組成特征向量矩陣；

步驟6將數據轉換到新構建的特征向量空間，進行降維結果可視化展示。

2 實 驗

2.1 實驗環境及數據集

本實驗依托“中國視云”平臺，實驗環境基于Linux服務器，所需的軟件為：Python3.6＋Pytorch1.2＋torchvision0.4＋TensorBoard2.0。

為便于對比和驗證效果，本實驗選擇圖像識別領域中公開的cifar10數據集進行測試與驗證。該數據集共有60 000張彩色圖像，圖像尺寸均為32×32像素；每6 000張圖像為一個類別，一共10類。在數據集中，設定訓練集為前50 000張圖像，測試集為后10 000張圖像；每一類數據集中又隨機抽取1 000張圖像作為測試集，余下圖像隨機排列組成訓練集。

實驗利用ResNet50網絡對設定好規則的cifar10數據集進行訓練，并使用本文所開發的可視化工具進行核函數和資源占用等展示。

2.2 實驗過程

實驗步驟包括以下步驟：

（1）預處理數據集，包括載入cifar10數據集和相應的標注；

（2）搭建ResNet50網絡，調用可視化模塊中的特征圖可視化、核函數可視化函數等功能，將需要可視化的內容寫入到數據文件；

（3）將數據文件存放至指定目錄，通過瀏覽器訪問的方式展示可視化內容。

2.3 實驗結果

本實驗通過“中國視云”平臺分別展示網絡結構可視化、核函數可視化、資源占有數據可視化和高維數據降維可視化等結果。

（1）圖2為CNN網絡結構可視化頁面。在卷積層中，分別展示卷積過程、批標準化（Batch Normalization，BN）、線性整流函數（Rectified Linear unit，ReLU）和最大池化層（max pool layer）。具體結果如圖3所示。

由圖3可見，CNN網絡每層之間捕捉的特征效果明顯不同，通過激活函數和最大池化層后特征效果更加明顯。

在ResidualBlock層的輸出特征顯示中，以第4層為例，具體展示結果如圖4所示。

由圖4可見，ResidualBlock層中的特征圖輸出展示結果中已經突出顯示了部分數據亮點。

圖3 ConvLayer中各層輸出特征圖

圖4 ResidualBlock第4層的結構和輸出特征

圖5 ResidualBlock網絡結構可視化

（2）圖5展示了ResNet50網絡中第4個殘差層的可視化結果。由圖5可見，在ResNet50網絡結構中，不僅顯示出第4層結構包含一個卷積層和2個殘差層，通過將存在卷積過程的計算層放在輔助層中，可以通過點擊相應的層來查看輸入偏好。

圖6為殘差層中卷積計算得到的輸入偏好結果展示。在卷積層和殘差層中，通過輸入偏好的可視化，使得ResNet50模型學習過程和得到的特征結果清晰可見。

圖6 ResidualBlock4中各層輸入偏好

從圖6中看出，神經網絡在深層中更加關注紋理特征。由于輸入偏好為隨機圖像，所以神經網絡在淺層更加關注顏色特征（圖7）。

圖7 ResidualBlock1中ConvBlock層輸入偏好

由圖6、7可見，根據可視化結果可以清晰地了解特征學習程度和特征提取效果，根據可視化結果對模型參數或其他細節進行調整，以便達到更好的特征學習效果。

（3）在資源占用的可視化中，分別生成資源占用情況的環形柱狀圖，結果如圖8、9所示。由圖8可見，ResNet50網絡的每一層中分別包含若干個展示各層占用內存情況的子計算層，圖9分別顯示ResNet50網絡中每層和每層中子計算層的計算耗時情況。

圖8 資源占用情況

圖9 計算耗時情況

（4）在三維數據可視化中，主要顯示測試集在測試過程中高維數據降維的結果，如圖10所示。從圖10中清晰地看出測試用例的分布情況，這表明模型已經具備了分類特征，不同類別數據在經過PCA降維后，分類情況非常明顯。

圖10 高維數據降維結果展示

3 結 語

本文提出的一種基于“中國視云”平臺的CNN核函數可視化方法，并從網絡結構、殘差層、資源占用、高維數據降維等方面進行討論和分析。

（1）通過最大激活函數實現CNN核函數可視化。與已有的核函數可視化方法比較，本文提出的方法能夠清晰地可視化出每層的輸出特征和神經網絡學習特征。

（2）實現資源占用可視化，能夠清晰顯示神經網絡每層資源使用和計算耗時情況，有助于調整網絡結構和參數優化。

（3）實現可視化功能模塊化，加強可視化模塊泛用性。后續用戶可通過直接調用封裝好的模塊實現所需的可視化功能。

通過對神經網絡核函數細節的可視化展示，不僅可以讓研究人員近距離、直觀地了解每層之間的變化和聯系，而且能夠通過可視化展示改進模型結構和參數，優化模型性能。