基于神經網絡的微波濾波器設計綜述

張安學,杜浩,戴新月,楊倩,郭誠,廖學文

(西安交通大學 電子與信息學部,西安 710049)

在微波領域的迅速發展中,目前已經出現很多新型的濾波器結構[1-2],主要研究方向是通過尋找新的結構或材料,實現可重構或可支撐性和小型化.隨著微波濾波器領域研究的不斷深入,也越來越需要尋找新的建模技術[3-4].通用的數值方法使用商業軟件創建微波器件的3維模型,但計算過程十分耗時,當微波器件結構復雜時,計算可能需要數小時甚至數天[5-6].

基于以上所述的缺點,在微波器件領域中除了傳統方法之外,基于神經網絡的方法也被廣泛應用.深度學習作為人工智能技術的分支,已經成功地應用在眾多領域,如圖像處理[7]、聲音處理[8]和金融市場預測[9].神經網絡是深度學習的基礎,它是受到人類大腦結構啟發而誕生的一種算法,具有可以精確地模擬任意非線性函數的能力.經過學習的神經網絡可以輕松地模擬復雜的非線性關系.憑借這種優勢,基于神經網絡的研究方法已經廣泛地應用于微波領域[10-15].與傳統的微波器件設計方法相比,基于神經網絡的設計方法可以大大加快分析或合成微波器件的過程[16-17],在更短時間內設計出滿足設計要求的器件模型.

本文在介紹了神經網絡基礎的模型結構和常用的訓練方法之后,對現有的基于神經網絡的微波器件設計方法進行了對比和綜述.在此基礎上,提出一種基于訓練和精調的神經網絡方法,在雙通帶濾波器LC電路的參數提取實驗中驗證其有效性.提出一種基于數據自生成的神經網絡方法,在帶通濾波器的結構參數估計和帶寬可重構帶通濾波器的設計實驗中進行了實例驗證.實驗結果表明,神經網絡可以有效利用濾波器的S參數信息,經過學習訓練之后,準確的預測出滿足設計要求的LC電路參數/器件結構參數,減少濾波器設計過程的人工干預,實現更加快速高效的器件設計過程.

1 神經網絡概述

1.1 神經網絡的結構

神經網絡的基本結構包括輸入層、隱含層和輸出層.輸入層是神經網絡的第一層,用于輸入特征矩陣,每個神經元上都是一個特征向量;隱含層至少一層,前后連接輸入層和輸出層,隱含層中任意2層的神經元都是互相連接的,每個神經元上都有一個激活函數,第N+1層的神經元處理的是第N層神經元經過激活函數之后的數據;輸出層是神經網絡的最后一層,用于輸出神經網絡的預測結果.在實際應用中,隱含層的層數以及每層的神經元個數如何設定會影響最終的訓練精度和算法最終的學習效果,需要根據設計要求來確定.

1.2 神經網絡的訓練

基于神經網絡的優化算法中最重要的步驟就是對網絡的訓練,訓練的主要目的是最小化訓練誤差.訓練過程中不斷更新網絡權重,降到要求的誤差之內后得到最終輸出結果.

更新網絡權重通常使用反向傳播算法[18]、擬牛頓法[19]和共軛梯度法等.這些方法可以有效降低訓練誤差.針對容易陷入局部最小的復雜優化問題,可以使用全局優化算法來解決,如遺傳算法[20]、模擬退火算法[21]等.

神經網絡的訓練方式包括在線訓練和離線訓練2種.在線訓練又稱逐樣本訓練,當神經網絡輸入一個訓練樣本時更新權重;離線訓練又稱批量訓練模式,給神經網絡輸入全部訓練樣本之后再對權重進行一次更新.

2 基于神經網絡的微波器件設計方法

2.1 傳統神經網絡建模方法

結構參數的優化是微波設計中不可回避的重要任務,但隨著濾波器參數個數的增加,優化時間也隨之增加.因此,基于神經網絡的微波器件設計方法受到廣泛關注和研究.早在1993年,就有文獻中提出將神經網絡應用于微帶電路的設計中[22].之后,有大量文獻中提出神經網絡在模擬電磁仿真的學習之后,根據濾波器的結構參數計算頻率特性,可以作為耗時的電磁仿真軟件的替代模型,加快濾波器優化過程[23-29].針對復雜的微波器件,神經網絡的輸入輸出關系也會更加復雜、在不增加網絡結構復雜度的情況下,建立神經網絡正向模型,更新正向模型的輸入參數,使模型輸出與理想輸出的誤差達到最小[30].

2.2 基于極限學習機的設計方法

極限學習機是一種單隱層神經網絡,它適用于無微分激活函數,并在很大程度上避免了訓練會遇到的某些問題,如停止準則、學習率、訓練時間和局部最小[31].極限學習機通過固定輸入層和隱含層的網絡權重,將學習過程轉化為矩陣計算,相比傳統神經網絡中的反向傳播算法其學習速度更快[32].由于這種方法的計算效率較高,目前已經較好地應用于微波器件的設計[33-34].內核極限學習機是極限學習機的擴展版本[35],與極限學習機相比引入了內核函數,且隱含層的節點個數是沒有限制的,通過引入的核函數可以獲得較好的泛化性能,并且降低計算成本.動態調整內核極限學習機[36]中包含增加學習、簡化學習和混合學習,當訓練數據的樣本數過少導致神經網絡無法獲得準確結果時,使用增加學習來解決欠擬合問題,當樣本數過多而無法獲得準確的結果時,使用簡化學習來解決過擬合問題,當訓練數據需要替換和擴展,則使用增加學習和簡化學習相結合的混合學習,直接獲得最終結果.

2.3 基于知識神經網絡的設計方法

基于知識的神經網絡[37]是一種將經驗信息融入神經網絡內部結構,將先驗知識與神經網絡的學習能力相結合的建模方法.在微波器件設計應用中,先驗微波知識被嵌入到神經網絡內部,微波知識通過提供額外的信息,如解析表達式[38],經驗模型[39],或等效電路[40],補充了神經網絡的學習和泛化能力.相比現有神經網絡模型學習輸入-輸出關系的復雜性,基于知識神經網絡的差分法和先驗知識輸入法具有更高的準確度[41].先驗知識輸入法神經網絡將等效電路的S參數作為先驗知識與神經網絡相結合進行訓練,可以獲得更高的訓練精度[42].當訓練數據的樣本數量有限時,在神經網絡中增加經驗知識可以補充其學習能力和泛化能力,減少收集大量訓練數據的時間成本,加快建模速度[37,43].針對先驗知識獲取困難的問題,采用將神經網絡與仿真軟件相結合的方法,將ADS和電磁仿真軟件HFSS的仿真結果作為神經網絡的先驗知識和指導信息,可以有效降低神經網絡結構的復雜度[44].

2.4 神經網絡和傳遞函數結合的設計方法

神經網絡和傳遞函數的結合是電磁響應參數化建模的一種先進方法.在沒有精確的等效電路或經驗模型的情況下,用傳遞函數表示微波器件電磁響應隨頻率的變化.這種神經網絡和傳遞函數相結合的方式也可以很好地用于電磁響應的參數化建模[45].

這種建模方法利用向量擬合技術獲得電磁響應對應的傳遞函數系數作為神經網絡的訓練數據[46].神經網絡的輸入是器件結構的幾何變量,輸出是微波器件電磁仿真的S參數,經過訓練,神經網絡可以學習到傳遞函數系數與幾何參數之間的非線性未知關系[47].

3 基于神經網絡的帶通濾波器設計

3.1 基于訓練和精調的LC電路參數提取方法

上述大多基于神經網絡的微波器件設計方法只對網絡進行了訓練過程,但是往往不能在短時間內達到較高的精度.基于深度信念網絡[48-49]的思想,對神經網絡采用先預訓練后微調的學習算法,提出一種基于神經網絡的雙通帶帶通濾波器(DB-BPF,dual-band bandpass filter)的LC電路參數提取方法[50-51].

如圖2所示,該參數提取方法由2個階段組成.第一個階段是用數據集對網絡進行預訓練,經過預訓練的神經網絡可以獲得接近最優值的LC電路參數的初始值;第2個階段是根據期望的頻率響應對網絡進行微調,微調的過程是對預先訓練好的網絡進行優化,以提高提取參數的精度,從而獲得LC電路參數的最優值.訓練數據除了S參數的幅度信息,還加上了相位信息,以提高網絡提取參數的能力.

預訓練的神經網絡結構如圖3所示,由于LC電路參數與濾波器頻率響應之間是一種復雜的非線性關系,因此選擇非線性表達能力較好的全連接層網絡結構.前2層由全連接層、塊歸一化[52]和ReLU激活函數組成,第3層是輸出層,沒有激活函數.塊歸一化是一種歸一化網絡層,可以加快訓練速度,提高網絡的泛化能力.ReLU激活函數可以使網絡收斂更快.

神經網絡預訓練的數據集包括輸入數據和標簽.標簽是LC電路中的電感值和電容值,定義為P=p1,p2,…,pN,其中N表示LC電路參數的總個數.輸入數據是根據A,B,C,D矩陣計算得到的頻率響應.根據不同的電感和電容值,獲得不同的S參數,收集10萬組數據作為預訓練的數據集.

如圖2參數提取的第一階段用N個網絡分別預測N個LC電路參數,其中每個網絡的結構如圖3所示.使用Adam優化算法[53]更新各個網絡的權值.訓練過程中的損失函數為LTrain=MSE(Poutput,Plabel).N個神經網絡經過預訓練后,以目標S參數為輸入,分別輸出N個準確度不高的LC電路參數值.

使用第一階段預訓練的N個神經網絡作為第2階段的初始網絡.參數提取的第2階段是對神經網絡進行微調,如圖2所示,每個網絡以目標S參數為輸入,輸出N個LC電路參數的預測值.然后通過求解LC電路的A,B,C,D矩陣方程,根據LC電路參數的預測值計算對應的S參數.每個網絡的權值由損失函數LFine-tuning來更新,LFine-tuning=MSE(Scalculated,Sdesired).重復上述迭代步驟,直到計算S參數與目標S參數基本一致.迭代停止準則是LFine-tuning<0.000 1.經過微調后,N個網絡可以分別輸出N個最優LC電路參數值,最優LC電路參數值對應的頻率響應與目標頻率響應基本相同,滿足設計要求.

設計指標:Norder=7.0,N1=2.0,N2=4.0,N3=1.7階低通原型及其響應如圖4(a)和圖4(b)所示.已知電路參數Llp1=0.770 nH,Llp2=0.380 nH,Llp3=1.073 nH,Llp4=2.160 nH,Clp1=1.110 pF,Clp2=0.446 pF.根據低通到雙通帶的頻率轉換方法得到如圖4(c)所示的7階雙通帶電路.電路參數可以根據設計要求計算得出.該電路給出了在微調階段作為網絡輸入目標S參數(包括S11、S21的幅值和S11的相位).將圖4(c)中的并聯模塊轉化為4個并聯串聯諧振模塊[54],得到如圖4(d)所示的轉換雙頻LC電路.對于該電路來說,需要提取的LC電路參數個數N=16,其中包括8個電容值和8個電感值,定義為C1,C2,…,C8,L1,L2,…,L8.根據這些參數使用A,B,C,D矩陣計算S參數,作為神經網絡預訓練的標簽.神經網絡預訓練的數據集是在L和C的取值范圍內均勻采樣得到的,其中電容值范圍是0.01～30.00 pF,電感值范圍0.1 ～500.0 nH.

第1個7階窄帶DB-BPF,2個通帶的中心頻率分別為1.0 GHz和 2.5 GHz,2個通帶的分數帶寬分別為8.60%和8.56%.帶內回波損耗20 dB,4個傳輸零點分別位于0.928 GHz、1.060 GHz、2.348 GHz和2.679 GHz.圖4(c)所示的電路參數計算得:Ls2=20.424 9 nH,Cs2=0.496 1 pF,Lp2=18.382 4 nH,Cp2=0.551 2 pF,Ls5=28.462 2 nH,Cs5=0.356 0 pF,Lp5=25.616 0 nH,Cp5=0.395 5 pF,在0～3 GHz頻帶范圍內以0.001 GHz的間隔計算S參數;第2個7階窄帶DB-BPF,2個通帶的中心頻率分別為1 GHz和3 GHz,2個通帶的分數帶寬分別為10.04%和10.07%.帶內回波損耗20 dB,4個傳輸零點分別位于0.915 GHz,1.073 GHz,2.790 GHz和3.247 GHz.電路參數:Ls2=15.318 7 nH,Cs2=0.551 2 pF,Lp2=20.424 9 nH,Cp2=0.413 4 pF,Ls5=21.346 6 nH,Cs5=0.395 5 pF,Lp5=28.462 2 nH,Cp5=0.296 6 pF,在0～3.5 GHz頻帶范圍內以0.001 GHz的間隔計算S參數.

對于這2個7階DB-BPFs,通過上述的LC電路參數提取方法,經過>10 min的訓練和<10 min的微調,提取出LC電路參數的最優值如表1所示,對是否使用相位信息的結果也進行對比.根據表1的LC參數計算得到的頻率響應如圖5所示.

表1 不同中心頻率的7階窄帶DB-BPFs的LC電路參數

實驗結果表明,基于訓練和精調的神經網絡可以利用相位信息在短時間內獲得不同中心頻率、不同帶寬的DB-BPF的最優LC電路參數.由最優LC電路參數計算得到的頻率響應與期望頻率響應幾乎一致.這種方法還可以擴展應用到其他類型的濾波器的電路.

3.2 基于數據自生成的結構參數估計方法

對于前面綜述的大多數方法,在濾波器設計中使用的基于訓練的神經網絡的方法,收集數據集都是一個煩瑣的過程,需要耗費大量的時間和精力,尤其是在參數數量較大的情況下成本倍增.

針對上述難題,提出一種基于數據自生成的微帶帶通濾波器(BPF)的結構參數估計方法[55].設計一種神經網絡MS-Net,如圖6所示,包括主網絡Main-Net和子網絡Sub-Net,分別用于估計BPF的結構參數和頻率響應.與其他基于神經網絡的優化方法相比,MS-Net可以在學習過程中生成自己的數據,而不需要收集數據集和對網絡進行預訓練.MS-Net在每一次學習時,主網絡輸出的估計結構參數可以作為子網絡的學習數據.在迭代學習過程中,主網估計的結構參數將逐漸滿足設計要求.

基于神經網絡的微帶帶通濾波器的設計過程為:

1)目標S參數是神經網絡的學習目標,根據需要設計的濾波器的理想耦合矩陣或理想濾波特性函數計算獲得;

2)主網絡以目標S參數作為輸入,輸出濾波器的估計結構參數,并將其送入電磁仿真得到仿真的S參數.之后,子網絡將主網絡的輸出和相應的仿真S參數作為自己的學習數據和標簽,對電磁仿真過程進行建模.MS-Net的整個學習過程也是數據自生成的過程,不需要在開始學習之前進行額外的數據收集過程;

3)當仿真S參數,即對主網絡輸出的預測結構參數進行電磁仿真得到的頻率響應,滿足濾波器的設計要求時,學習停止;

4)學習完成之后,根據主網絡輸出的預測濾波器結構參數,對濾波器結構進行建模,設計完成.

在學習過程中,主網絡的損失函數LM-Net是目標S參數和預測S參數的均方誤差,子網絡的損失函數LS-Net是仿真S參數和預測S參數的MSE.LM-Net=MSE(Spredicted,Sdesired),LS-Net=MSE(Spredicted,Ssimulated).MS-Net利用Adam算法[53]根據計算的誤差更新權值.當子網絡的訓練誤差逐漸降低,其模擬電磁仿真過程的能力越強;當通過主網絡估計的結構參數進行電磁仿真得到的仿真S參數越來越逼近于目標S參數時,主網估計的結構參數將逐漸滿足設計規范.

基于上述結構參數估計方法分別設計1個3階窄帶BPF和1個5階寬帶BPF.主網絡的輸入xmain=(S11,desired,S21,desired),輸出是ymain=(y1,y2,…,yL),其中L表示待估計的結構參數個數.子網絡的輸入是主網絡的輸出xsub=ymain,輸出是ysub=(S11,predicted,S21,predicted).

第一個例子是并聯耦合結構的微帶BPF,如圖7所示.需要估計的結構參數的數量L=4,各參數的取值范圍如表2所示.濾波器的設計要求[56]是中心頻率3 GHz,分數帶寬FBW為 5%,帶內回波損耗RL為16 dB,傳輸零點3.3 GHz.使用2個5層神經網絡作為MS-Net的主網絡和子網絡,每層的神經元個數如表3所示.目標S參數根據理想耦合矩陣計算得到.學習過程在1 h內,得到一組滿足設計要求的結構參數(表1).其電磁仿真頻率響應如圖8所示,帶內回波損耗可以優于-20 dB,虛線表示目標頻率響應.與文獻[14]相比,該方法無需收集數據集來訓練神經網絡,在節省大量時間成本的同時很快實現了濾波器模型的設計.

表2 3階帶通濾波器的結構參數范圍

表3 用于3階帶通濾波器的MS-Net中每層神經元數

表4 5階帶通濾波器的結構參數范圍

第2個例子是寬帶BPF,如圖9所示,需要估計的結構參數的數量L=9,各參數的取值范圍如表5所示.設計的濾波器中心頻率2 GHz,分數帶寬40%,帶內損耗15 dB,2個傳輸零點分別位于1.53 GHz和2.55 GHz.

表5 用于5階帶通濾波器的MS-Net中每層神經元數

使用2個6層全連接網絡作為MS-Net的主網絡和子網絡,每層的神經元數量如表6所示.目標S參數是根據理想濾波特性函數計算得到的.因為這個例子中需要估計的結構參數的數量相比3階BPF更多,所以使用更多的網絡層數和更多的神經元.在3.5 h內得到一組滿足設計要求的結構參數(見表4).為了實現該設計,使用介電常數2.65,厚度為0.1 mm的基板(圖10).根據實驗結果表明,采用該方法估計的結構參數設計的濾波器可以很好地達到預期的效果.

表6 不同優化方法的比較

這2個實驗表明,提出的基于數據自生成的結構參數估計方法可以有效地根據濾波器的目標S參數估計結構參數.最先進的優化方法與本工作的比較見表7.除了使用理想的S參數作為神經網絡的輸入外,閾值和置信區間也可以作為神經網絡的輸入.該子網絡能夠在每個學習步驟中使用主網絡的生成數據,不需要額外的收集數據集,可以省去網絡預訓練的工作,減少時間成本.

表7 不同中心頻率、ABW和FBW范圍下的電容

3.3 基于神經網絡的帶寬可重構濾波器設計方法

可重構濾波器是無線通信系統的重要組成部分.可以實現可重構功能的方法包括半導體變容管、射頻微機電系統等[59-60].此外,一種基于集總元件的可調濾波器[61],由串聯LC和阻抗逆變器組成.使用分支線型諧振器的3比特可重構帶通濾波器[62],可以實現低插入損耗.為滿足不同系統的需要,提出一種可調通帶邊緣和帶寬的可重構帶通濾波器,可以使2個通帶獨立可調[63].通過選擇諧振腔上負載變容二極管的特定位置,設計一種具有恒定絕對帶寬的高選擇性可調諧平衡帶通濾波器[64].首次設計了一種中心頻率、帶寬和零點控制的3極可調組合帶通濾波器[65].

不同于上述的可重構濾波器設計方法,提出一種基于神經網絡的帶寬可重構濾波器設計方法[66].采用集總元件電路設計可重構BPF,電路由5個串聯LC電路組成.3個串聯支路可以提供3個傳輸極點,而2個并聯支路可以引入2個相同的傳輸零點.利用神經網絡優化LC電路的電感和電容值來達到中心頻率可調、絕對帶寬恒定的設計要求.單次參數優化可在30次迭代內完成.

具體包括2個步驟.第一步是在確定的設計要求下優化LC電路參數(電容值和電感值).第2步是保持LC電路中的電感值不變,與第一步優化方法相同,但是只優化電容值,以達到恒定帶寬改變中心頻率的效果.這2個設計步驟中都采用3層全連接網絡作為LC電路參數的優化工具.如圖11所示的算法流程圖,網絡的輸入是濾波器的設計要求,輸出6個電路參數值.然后根據神經網絡輸出的LC電路參數值計算相應的S參數.以計算得到的S參數與設計要求之間的誤差函數作為損失函數,更新網絡權值.誤差函數包含絕對帶寬誤差、回波損耗誤差和中心頻率誤差,L=E(ABW,ABW′)+E(RL,RL′)+E(CF,CF′),其中ABW′、RL′和CF′分別表示滿足設計要求的絕對帶寬、回波損耗和中心頻率,函數E是平均絕對誤差.經過迭代學習之后,網絡輸出滿足設計要求的電路參數值.

如圖12所示,BPF的LC電路基于廣義切比雪夫BPF[67]改進的對稱結構,LC電路參數包括3個電感值L1、L2、L3和3個電容值C1、C2、C3.這個電路是對稱的,3個串聯支路(L1和C1,L3和C3,L1和C1)實現3個傳輸極點,傳輸零點是由L2和C2在其共振頻率處的并聯的串聯支路短路引起的.

為了驗證該方法,設計一種適用于高速數據通信的可重構帶通濾波器.設計要求:絕對帶寬300 MHz, 回波損耗20 dB,中心頻率5.45 GHz.優化出一組滿足要求的參數值:C1=0.033 5 pF,C2=0.062 9 pF,C3=0.033 6 pF,L1=24.85 nH,L2=15.27 nH,L3=23.65 nH.對應的頻率響應如圖13所示,滿足設計要求.

在可重構濾波器設計中,由于電感值不能調節,因此仍然使用第一步得到的3個電感值保持不變,只優化3個電容值.對絕對帶寬和回波損耗的要求與前面相同.中心頻率要求為4.85～6.05 GHz之間的一個頻率點,間隔0.3 GHz.在絕對帶寬為300 MHz時,不同中心頻率下的頻率響應如圖14所示.優化得到的滿足設計要求的3組電容值、絕對帶寬和分數帶寬的范圍分別列在表8中.每組電容值在30次迭代內得到.

以上實驗結果表明,絕對帶寬為300 MHz的可重構帶通濾波器,其中心頻率可在0.6～0.8 GHz(5.45～6.05 GHz)之間調諧.這種基于神經網絡的可重構濾波器設計方法能夠在相同ABW、不同中心頻率的情況下,有效、準確地優化滿足設計要求的多個BPF的 LC電路參數,證明了該方法的有效性.這種方法將深度學習方法應用于可重構濾波器設計領域,驗證了深度學習方法可應用在不同的微波器件設計中,加快設計速度和提高設計效率.

4 結 論

本文描述了神經網絡的基礎模型結構和常用的訓練方法,從傳統神經網絡建模方法、基于極限學習機的設計方法、基于知識神經網絡的設計方法、神經網絡和傳遞函數相結合的設計方法這4個方面對基于神經網絡的優化算法在微波器件領域中的應用進行綜述和比較,闡述了在微波器件設計中引入基于神經網絡優化方法的優勢.基于此,提出3種基于神經網絡的帶通濾波器設計方法:

1)基于訓練和精調的神經網絡方法,在雙通帶濾波器的LC電路參數提取任務中,利用濾波器S參數的相位信息在短時間內獲得不同階數、不同中心頻率、不同帶寬的最優電路參數.

2)基于數據自生成神經網絡的帶通濾波器結構參數估計方法,有效地根據濾波器的目標S參數估計出最佳的濾波器結構參數,無需網絡的預訓練過程,縮短了設計時間.

3)帶寬可重構的帶通濾波器設計方法,可以在較短時間內準確的設計出相同絕對帶寬、不同中心頻率的帶通濾波器.

這些方法驗證了基于神經網絡的優化方法可以應用于不同的微波器件設計任務,不僅可以獲得較高的設計精度,還能降低數學復雜度、加速設計速度,有效降低設計成本.