自適應(yīng)類神經(jīng)網(wǎng)絡(luò)控制器在時(shí)變系統(tǒng)中的應(yīng)用

章 磊,姚慶文,徐 偉,李 燕

(常州輕工職業(yè)技術(shù)學(xué)院機(jī)械工程與技術(shù)學(xué)院,江蘇 常州 213164)

0 引言

傳統(tǒng)的自適應(yīng)控制[1](adaptive control，AC)，使用最小平方差法來估測一個(gè)時(shí)變系統(tǒng)的參數(shù)。由于大量矩陣的運(yùn)算，再加上計(jì)算機(jī)運(yùn)算數(shù)值的舍去誤差，以及外在環(huán)境白噪聲的干擾和受控系統(tǒng)降級所造成的不確定性，很容易引起數(shù)值解析上奇異點(diǎn)的問題，進(jìn)而影響整個(gè)閉回路控制系統(tǒng)的響應(yīng)與穩(wěn)定性。若采用傳統(tǒng)最小平方差估測法則的自適應(yīng)控制理論，會(huì)使整個(gè)閉回路控制系統(tǒng)的容錯(cuò)性變差，進(jìn)而造成系統(tǒng)不穩(wěn)定甚至劣化控制響應(yīng)。

隨著半導(dǎo)體硬件制程技術(shù)及軟件開發(fā)技術(shù)的飛速發(fā)展，個(gè)人計(jì)算機(jī)具備了強(qiáng)大且快速的運(yùn)算能力，使得AC類神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)的運(yùn)算得以在現(xiàn)實(shí)生活中實(shí)現(xiàn)。同時(shí)，借助優(yōu)化搜索理論與應(yīng)用技術(shù)，使Tensorflow[2]多層類神經(jīng)網(wǎng)絡(luò)的應(yīng)用變得更加自如。

針對以上控制問題，本文特別提出一種使用Tensorflow框架在線檢測與識別一個(gè)時(shí)變系統(tǒng)參數(shù)的多層類神經(jīng)網(wǎng)絡(luò)[3](multi-layer artificial neural network，MANN)自適應(yīng)控制器。在數(shù)值解析領(lǐng)域，多層類神經(jīng)網(wǎng)絡(luò)系統(tǒng)對高度不確定性時(shí)變系統(tǒng)的參數(shù)檢測有很大的容錯(cuò)性及強(qiáng)健性(robustness)。此外，自適應(yīng)控制器是采用兩個(gè)自由度控制器設(shè)計(jì)的架構(gòu)。它不但具有前饋控制與回授控制兩者的優(yōu)點(diǎn)，還具有極點(diǎn)配置設(shè)計(jì)法的穩(wěn)定性與強(qiáng)韌性。在獲取受控系統(tǒng)的參數(shù)值之后，利用極點(diǎn)配置設(shè)計(jì)法計(jì)算出前饋控制器與回授控制器的參數(shù)，最后完成整個(gè)多層類神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制器的參數(shù)識別。該系統(tǒng)的設(shè)計(jì)融合多層類神經(jīng)網(wǎng)絡(luò)的容錯(cuò)性及強(qiáng)健性優(yōu)勢，且與自適應(yīng)控制器伺服追蹤零誤差，并具有回授控制的穩(wěn)定性等多項(xiàng)優(yōu)異的性能。

1 間接型多層控制器系統(tǒng)總體方案

現(xiàn)有的類神經(jīng)網(wǎng)絡(luò)控制器，大多是在類神經(jīng)網(wǎng)絡(luò)訓(xùn)練之后，繼續(xù)在該軟件框架下直接使用。使用時(shí)需要配合計(jì)算機(jī)或其他高階硬件設(shè)備，便捷性有待完善。計(jì)算機(jī)應(yīng)用如圖1所示。圖1中，G(s)為受控制系統(tǒng)。

圖1 計(jì)算機(jī)應(yīng)用示意圖

即使使用小型計(jì)算器，如樹莓派[4]等，在現(xiàn)有的軟件框架下仍較容易產(chǎn)生計(jì)算延遲。對此，提出一種方法，將訓(xùn)練與應(yīng)用兩部份分開。訓(xùn)練與應(yīng)用分離如圖2所示。

圖2 訓(xùn)練與應(yīng)用分離示意圖

在計(jì)算機(jī)上訓(xùn)練類神經(jīng)網(wǎng)絡(luò)，并將它訓(xùn)練完的權(quán)重與偏差的矩陣資料編譯至微處理機(jī)上。微處理機(jī)僅作資料預(yù)處理以及矩陣運(yùn)算即可，實(shí)際應(yīng)用時(shí)無需連接計(jì)算機(jī)。在微處理機(jī)上直接作控制，僅需搭配人機(jī)接口以及電源供應(yīng)器等的周邊裝置。該方法可以大幅降低裝置體積與成本。

2 間接型多層控制器模型

2.1 類神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型

文獻(xiàn)[5-6]指出，系統(tǒng)中的多層感知器(multilayer perceptron,MLP)的層與層之間的數(shù)學(xué)運(yùn)算式為:

f(xw+b)=y

(1)

輸入層的數(shù)據(jù)x與權(quán)重w內(nèi)積后加上偏差b，輸出前再經(jīng)過激勵(lì)函數(shù)。激勵(lì)函數(shù)的功能是將輸出作非線性處理，使類神經(jīng)網(wǎng)絡(luò)可以適應(yīng)各種非線性問題。

一般的多層感知器至少包含三層結(jié)構(gòu)，分別為輸入層、隱藏層和輸出層。

(2)

層與層之間的構(gòu)建與傳遞通常使用Relu激活函數(shù)[7]，它的優(yōu)勢為可減少梯度消失、不易過擬合等。最終使用的激活函數(shù)根據(jù)運(yùn)用場合選擇適當(dāng)?shù)哪Ｐ?。使用的模型有Softmax[8]、Sigmoid[9]、Tanh[10]等。Softmax將輸出轉(zhuǎn)換為概率，它的總和為1，適用于多選項(xiàng)的分類。Sigmoid會(huì)將輸出的結(jié)果用非線性方式轉(zhuǎn)換至0～1的范圍、Relu可將負(fù)數(shù)歸零，其余不變，需要時(shí)可直接得到輸出，控制數(shù)值可以不加。訓(xùn)練與應(yīng)用過程中的控制信號U在必要時(shí)可以忽略。

2.2 TensorFlow符號數(shù)學(xué)系統(tǒng)

更新權(quán)重與偏差的設(shè)計(jì)理念來自于TensorFlow提供的多種優(yōu)化方法，例如梯度下降法[11]、RMSprop[12]、Adam[13]、NAdam[14-15]等。它是大數(shù)據(jù)開源程序庫，提供各種方法與函數(shù)，由此建構(gòu)需要的訓(xùn)練模型，并采用Python、C++運(yùn)行。Python有豐富的第三方模塊，可大幅減少編譯難度，提升使用便捷性。

Python的編譯方式跟以往的程序語言不一樣。其不是從上到下逐行執(zhí)行，而是需要先建構(gòu)計(jì)算圖，再使用會(huì)話控制的run方法來運(yùn)行。

2.3 間接自適應(yīng)控制過程

自校正調(diào)節(jié)器是通過實(shí)時(shí)的識別系統(tǒng)和環(huán)境變化來產(chǎn)生自適應(yīng)參數(shù)，使受控系統(tǒng)達(dá)到期望目標(biāo)。其適應(yīng)的方式分為直接與間接兩種。間接自適應(yīng)是先識別出系統(tǒng)參數(shù)A、B，再使用系統(tǒng)參數(shù)去推導(dǎo)控制參數(shù)R、T、S，最后代入式(3)。直接自適應(yīng)則是直接測算出控制參數(shù)，不作系統(tǒng)識別。

Ru=Tuc-Sy#

(3)

3 間接型多層控制器的設(shè)計(jì)與應(yīng)用

類神經(jīng)自我調(diào)試控制(self-tuning regulator,STR)如圖3所示。試驗(yàn)之前，需要先導(dǎo)入一個(gè)范例，供類神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)。

以一階電容充放電電路為平臺(tái)，一階電容-電阻(resistor-capacitance,RC)電路連接如圖4所示。在此電路中，測量點(diǎn)的電壓會(huì)隨著電容的充電而逐漸趨近于輸入電壓。

圖3 類神經(jīng)STR示意圖

圖4 一階RC電路連接圖

首先，在Arduino端搭建STR控制器來控制電容充放電。使用頻率0.15 Hz的方波取樣，通過通信端口，每隔20 ms采集uc、u、y、系統(tǒng)參數(shù)(A、B)等數(shù)據(jù)，并用Python作數(shù)據(jù)預(yù)處理。

取樣的同時(shí)，轉(zhuǎn)動(dòng)可變電阻使系統(tǒng)產(chǎn)生變化，獲得各種系統(tǒng)狀態(tài)的數(shù)據(jù)。在將這些數(shù)據(jù)輸入類神經(jīng)網(wǎng)絡(luò)前，需先作正規(guī)化與數(shù)據(jù)篩選。輸入數(shù)據(jù)如果數(shù)值差異性較大，會(huì)失去收斂性。因此，需將其收縮至±1之間。考慮到TensorFlow的收斂性與公式推導(dǎo)所需的輸入項(xiàng)能夠增加收斂速度，則一階系統(tǒng)識別的公式為：

(4)

式(4)交叉相乘后得式(5)。

y(t)=-ay(t-1)+bu(t-1)

(5)

由式(5)可知，若要求出t時(shí)刻的a與b，則需要y以及前一次u、y的取樣。在梯度法迭代的過程中，利用估測的誤差來對a與b進(jìn)行優(yōu)化，誤差e為：

(6)

為了提高類神經(jīng)網(wǎng)絡(luò)訓(xùn)練的實(shí)用性，可以使用一次差分與二次差分的方式，給類神經(jīng)網(wǎng)絡(luò)更多的動(dòng)態(tài)信息。導(dǎo)入的數(shù)據(jù)如下：

X=[u(t),u(t-1),u(t-2),y(t),y(t-1),y(t-2),

Δu,Δy,Δ2u,Δ2y,e,a(t-1),b(t-1)]

(7)

Y=[a(t),b(t)]

(8)

在相同的訓(xùn)練數(shù)據(jù)、一萬次訓(xùn)練的條件下，訓(xùn)練各20回的統(tǒng)計(jì)結(jié)果，說明了導(dǎo)入差分項(xiàng)與模型可用性對整個(gè)系統(tǒng)的影響。表1為增加輔助數(shù)據(jù)對模型可用性的影響。

表1 增加輔助數(shù)據(jù)對模型可用性的影響

訓(xùn)練模型的結(jié)構(gòu)為：包含數(shù)量為5的神經(jīng)元隱藏層所構(gòu)成的三層MLP。該結(jié)構(gòu)對于該類型的數(shù)據(jù)預(yù)測已經(jīng)足夠了。使用多層或是多神經(jīng)元會(huì)造成微處理機(jī)的負(fù)擔(dān)，也會(huì)使訓(xùn)練時(shí)間成倍增加。訓(xùn)練完成后，取出權(quán)重與偏差的矩陣，在微處理機(jī)上進(jìn)行如式(2)所示的矩陣運(yùn)算，同時(shí)可以驗(yàn)證效果。

4 試驗(yàn)結(jié)果反饋與比較

類神經(jīng)網(wǎng)絡(luò)計(jì)算出來的系統(tǒng)參數(shù)，可通過式(5)檢測下一次響應(yīng)(TF_Y)與實(shí)際響應(yīng)(Y)的比較結(jié)果。開回路響應(yīng)如圖5所示。

圖5 開回路響應(yīng)圖

輸入方波信號至RC回路中，無論是小電阻還是大電阻，由上限5 kΩ的可變電阻與100 μF電容所取樣的數(shù)據(jù)幾乎重疊。圖5(a)數(shù)據(jù)范圍的平均方差為3.36e-03，圖5(b)數(shù)據(jù)范圍的平均方差為3.30e-03。

在自校正調(diào)節(jié)器中加入類神經(jīng)網(wǎng)絡(luò)的系統(tǒng)識別，產(chǎn)生幾種方波。方波對比如圖6所示。

圖6 方波對比圖

圖6的數(shù)據(jù)是在1 kΩ與4 kΩ下獲得的。圖6中，顯示最小平方差法的STR在圖6(c)的第一個(gè)波產(chǎn)生很明顯的過沖(Overshoot)，但之后很快就能適應(yīng)該電阻的系統(tǒng)特性。然而類神經(jīng)網(wǎng)絡(luò)的STR初始過沖量沒有那么大，雖然始終都有微小的過沖，都在可接受范圍內(nèi)(平均超出1.25%)。訓(xùn)練時(shí)的取樣為方波，輸入(U)為非曲線。圖6所示的該系統(tǒng)識別對于陌生數(shù)據(jù)類型有較強(qiáng)的預(yù)測能力，正弦波與三角波的控制比較結(jié)果也較理想。

試驗(yàn)獲取的各種波形中，第二至第三個(gè)周期的均方差如表2所示。從表2中可以看出，波形控制得相當(dāng)精準(zhǔn)，僅在4 kΩ的Sin波略差。由此可知，類神經(jīng)網(wǎng)絡(luò)在系統(tǒng)識別中具備很強(qiáng)的準(zhǔn)確性。

表2 各種波形的均方差(第二至第三個(gè)周期)

除了類神經(jīng)網(wǎng)絡(luò)對于各種波形具有良好的識別性外，試驗(yàn)還考察了加入噪聲的情況。當(dāng)投入的學(xué)習(xí)數(shù)據(jù)都是在5 kΩ以下時(shí)，以測試類神經(jīng)STR的強(qiáng)韌性。在輸入系統(tǒng)前與響應(yīng)回饋的區(qū)域各加入10%的白噪聲，加噪聲的位置如圖7的d1與d2所示。

圖7 加噪聲的位置圖

表3為重干擾下的第二至第三個(gè)周期的均方差。

表3 重干擾下的均方差(第二至第三個(gè)周期)

固定電阻下的高噪聲測試，用來測試類神經(jīng)網(wǎng)絡(luò)對于高噪聲的數(shù)據(jù)是否能夠精準(zhǔn)地作出系統(tǒng)識別。雖然STR放置一段時(shí)間后可以實(shí)現(xiàn)較穩(wěn)定的控制，但對于突如其來的重干擾，抑制的速度較慢。類神經(jīng)STR融合了類神經(jīng)網(wǎng)絡(luò)的高容錯(cuò)特性，有著優(yōu)異的抗干擾效果。

加噪聲控制的STR估測結(jié)果(5 kΩ)如圖8所示。

圖8 加噪聲控制的STR估測結(jié)果(5 kΩ)

未知的數(shù)據(jù)范圍STR估測結(jié)果(10 kΩ)如圖9所示。

圖9 未知的數(shù)據(jù)范圍STR估測結(jié)果(10 kΩ)

在10 kΩ測試環(huán)境下、未知的數(shù)據(jù)范圍內(nèi)觀測系統(tǒng)參數(shù)預(yù)測能力。測試結(jié)果顯示，方波具有較好的適應(yīng)能力，Sin波卻不能保證較好的適應(yīng)性。

表4為10 kΩ下第二至第三個(gè)周期的均方差。

表4 10 k Ω下的均方差((第二至第三個(gè)周期)

5 結(jié)束語

本文提出并實(shí)現(xiàn)了運(yùn)用類神經(jīng)網(wǎng)絡(luò)做系統(tǒng)識別的自適應(yīng)控制器。它以低成本與低運(yùn)算資源的方式工作，并跳出了傳統(tǒng)最小平方差法進(jìn)行系統(tǒng)測算的模式，具有顯著的新穎性。設(shè)計(jì)了全新架構(gòu)的多層類神經(jīng)網(wǎng)絡(luò)測算器，在線測算一個(gè)時(shí)變受控體的系統(tǒng)參數(shù)，并利用極點(diǎn)配置法，獲得自適應(yīng)STR控制器的控制參數(shù)的計(jì)算結(jié)果。經(jīng)試驗(yàn)驗(yàn)證，自適應(yīng)多層類神經(jīng)網(wǎng)絡(luò)控制器可以獲得較好的瞬時(shí)或穩(wěn)態(tài)特性，并優(yōu)于傳統(tǒng)的自適應(yīng)STR控制器。此外，穩(wěn)定時(shí)間、過沖量以及均方根穩(wěn)態(tài)誤差值等性能指標(biāo)的交叉比較表明，自適應(yīng)多層類神經(jīng)網(wǎng)絡(luò)控制器擁有較優(yōu)異的響應(yīng)特性及強(qiáng)健性。