機器學習GAN框架初探

閆東杰

摘要：對于機器學習，最常見的是按照數據標簽形式劃分，可分為：監督學習、半監督學習、無監督學習、強化學習。本文分析研究了機器學習GAN框架。

關鍵詞：人工智能;機器學習;無監督學習

中圖分類號：TP181 文獻標識碼：A 文章編號：1007-9416（2019）06-0195-02

0 引言

對于原始的GAN網絡，實際上還是種生成模型，與傳統的生成模型不同的是，在對生成器進行訓練的過程中，引入判別器，并對判別器訓練更新后，再進行生成器的訓練，然后通過交替訓練，最終得到較為理想的生成器，“順便”得到一個判別能力較強的判別器。這樣，用一種巧妙的方法，較好解決了傳統生成式模型中模擬最大似然估計過程所帶來的需要訓練復雜模型的問題。CNN（卷積神經網絡）在圖片生成方面是一個較為成熟的模型，將CNN引入，對GAN框架中生成器與判別器進行對應的改造，得到的便為DCGAN（深度卷積生成式對抗網絡）。

1 原始GAN框架

GAN的一個基本的應用是樣本生成，這里以圖片為例進行相關的樣本生成，以此來介紹GAN框架的基本組成、模塊結構、訓練過程。原始GAN框架的整體模型結構如圖1所示。

GAN框架最主要的構成是生成器與判別器：（1）生成器。為全連接的神經網絡，即多層感知機。多層感知機的參數在GAN運行的初始階段是隨機的，其內部各神經元的權重、偏值，在程序化時可由初始函數進行實現。這就是說，在剛開始引入的時候，并不需要對生成網絡進行預先的訓練。其通過前向傳播，盡量去模仿、建模和學習真實數據的分布規律。通過反向傳播來學習并進行內部參數更新。（2）判別器。其本質為全連接型的神經網絡構成的二分類器。其參數在初始時內部參數是隨機生成的，同樣不需要預先進行參數設置或者訓練。其判別自己所得到的一個輸入數據，到底是來自于真實的數據分布還是來自于一個生成模型，輸出結果為一個概率值，表明判別器認為數據來自真實分布的概率。通過反向傳播來進行參數更新。（3）其他模塊。GAN框架中，除了最主要的生成器和判別器，還有些重要的功能模塊。①噪聲處理模塊;隨機噪聲Z是具有某個已知分布的噪聲，分布的類型可以進行設定的，常用的分布有高斯分布與平均分布。隨機噪聲對于生成網絡的輸入，效果相當于對自動控制系統輸入簡單的單位信號，當得到輸出結果時，其拉普拉斯變換后的函數就是系統的傳遞函數。同理，這樣對于輸出圖片的分布的參數就是生成網絡的內部參數。通過預處理轉化模塊，對于原始的GAN來講，轉化為一維的特征向量，這樣才能與后面的生成網絡輸入層進行對接。這樣處理后的數據更加的清晰，且特征的個數對應著輸入層神經元的個數。②生成分布抽樣模塊;③真實樣本預處理模塊;④損失函數計算模塊。

2 “對抗”訓練

GAN框架的基本思想，就是通過一個生成神經網絡去模擬真實給定的數據，這個神經網絡模擬的是最大似然估計的過程，從而達到生成的目的。優化生成器是通過引入判別器后，順承判別器的更新，進行反向傳播優化的。現在有一個神經網絡模型，希望它的參數可以達到最優，然后通過模擬最大似然估計的過程，很明顯，最后也會得到“真實圖片”。所以有以下式（1）：

（1）

式中：G為生成器參數，D為判別器參數，V（G D）為引入的差距函數，m為訓練樣本的數目，D（x）為判別器對真實樣本的判斷屬于真實數據的概率，D（G（z））為判別器對生成樣本的判斷屬于真實數據的概率。

當返回損失函數梯度后，首先是對判別器優化，因為生成器的參數這時是確定的、不變的，所以差距函數就可以看做只與判別器參數有關，有就是說，固定生成器后，調整判別器參數的同時，就影響著差距函數的值。判別器的目的是希望更好地區分真實圖片與生成圖片，當然需要使差距函數越大越好，所以優化過程的第一步是優化判別器：? ? ? ? ? ? ? ? ? ? ? ?（2）

式中：D1為在系統在G0確定、D0判定結果的前提下使得插句話最大時判別器的參數，G0為生成器的初始參數，D0為判別器的初始參數。

由式（2）可得：? ? ? ? ? ? ? ? ? ? ? ? ? ?（3）

這時判別器的參數得到了更新，那對于生成器呢？更新后的判別器還需要再次對生成圖片進行判斷。相較于更新之前的判別器，優化后相當于用更為嚴苛的標準去識別生成圖片。而生成器的目標是希望盡可能真實地產生圖片，當判別器用更為嚴格的方式去識別，生成器依舊能很好地生成，這就得更加接近最優解，所以從生成器的角度，需要使式（3）的值更小，所以得到公式：

（4）

式中：G1為更新后的生成器的參數。

將式（3）代入式（4）可得：

（5）

式中：D1（x）為更新后判別器對真實圖片的判定結果，D1（G（z））為更新后判別器對生成圖片的判定結果。

在這個過程中，判別器的目標是把生成器生成的圖片和真實的圖片區分開來，得到兩個判定概率，將結果返回判別器D中計算損失函數與梯度，再用梯度上升法進行更新參數，最后，對生成數據的最后一次判定，結果返回生成網絡，計算對應的損失函數并反向傳播更新參數。這是一個完整的訓練過程，在一次訓練中，判別網絡與生成網絡依次得到參數更新，相應的判別能力與生成能力增強。然后在進行下一輪訓練樣本的輸入。這樣，生成網絡G和判別網絡D構成了一個所謂的動態的“對抗博弈過程”。

假設每次得到的參數都是理想的，對判別網絡的參數都會得到階段性的最優解，對生成網絡也得到了最優解，結果指向就是生成分布等于真實分布，GAN在最理想的狀態下達到了納什平衡。在生成模塊G可以生成足以“以假亂真”的生成圖片;對于判別模塊D來說，此時的它難以判定G生成的圖片是否是來自真實樣本。這就很好地體現了生成網絡從無到有產生“真實圖片”的過程。

3 引入CNN

CNN，即卷積神經網絡（Convolutional Neural Network），是受到生物思考方式啟發的多層感知器，是一種前饋神經網絡，人工神經元可以響應周圍單元，這種網絡可以用來進行大型的圖像處理。

卷積神經網絡在實際上就是一種從輸入到輸出的映射，它能夠學習大量的輸入與輸出之間的映射關系，而不需要任何輸入和輸出之間的精確的數學表達式，只要用已知的模式對卷積網絡加以訓練，網絡就具有輸入輸出對之間的映射能力。與普通神經網絡把輸入層、隱含層與輸出層之間進行全連接的設計相比，CNN對隱含單元和輸入單元間的連接數量加以限制：每個隱含單元僅僅只能連接輸入數據的一部分;而且，通過多層卷積層進行圖像的淺層特征提取與多層池化層深層特征提取，將圖片轉化為簡單的特征向量，這樣一來，不僅能處理規格較大的圖片，經過前向生成與反向更新的方式來學習整幅圖像上的特征，整個過程耗時急劇縮短，計算量更小，運行時占用較小的內存，而且生成效果更穩定，判別器更快收斂。CNN的引入主要是對生成器與判別器的改進。改進后的整體模型結構如圖2所示。

但是，引入不是單純地將CNN所有層直接接入GAN中就可以了，需要分別對生成器與判別器做一些變動：（1）對于生成器。①中間層每層使用BN函數進行歸一化處理。②取消所有池化層。③使用相應的轉置卷積函數進行處理。④在每一層操作之后，數據輸出經過一個Relu函數作為激活函數。⑤除去全連接層。⑥輸出層使用tanh作為激活函數而不能用Relu函數。（2）對于判別器。①中間每層在激活函數層后使用BN函數進行歸一化處理。②取消所有池化層，使用stride來代替池化層。③在每一層操作之后，數據輸出經過一個leakyRelu函數。④除去全連接層。⑤輸出層使用sigmoid作為激活函數，目的是要得到一個判定概率。⑥輸出層里不使用BN函數進行歸一化操作。

4 結語

GAN是一個十分靈活的框架，經過全世界研究人員對GAN網絡模型從框架組成、結構、訓練方法、損失函數類型、數據處理方法、增加約束條件、穩定性等方面不斷地探索，原始GAN模型已經衍生出超過100種模型框架，諸如CGAN、DCGAN、WGAN、infoGAN等。GAN網絡的適用范圍現如今已經非常廣了，從剛開始最基本的圖片生成，到現在可以很好地應用在樣本轉換、生成領域，可以用在圖像合成、圖像編輯、風格遷移、圖像超分辨率以及圖形轉換、音頻的特征處理、智能創造等方面。

A Preliminary Study of GAN Framework for Machine Learning

YAN Dong-jie

（College of Automation， Beijing University of Information Technology，Beijing 100192）

Abstract：For machine learning， the most common classification is in the form of data labels， which can be divided into： supervised learning， semi-supervised learning， unsupervised learning and reinforcement learning. This paper analyzes and studies the GAN framework of machine learning.

Key words：artificial intelligence; machine learning; unsupervised learning