隨機交叉-自學策略改進的教與學優化算法

黎延海，雍龍泉,2，拓守恒

（1. 陜西理工大學 數學與計算機科學學院，陜西 漢中 723001; 2. 陜西省工業自動化重點實驗室，陜西 漢中723001; 3. 西安郵電大學 計算機學院，陜西 西安 710121）

教與學優化算法(teaching-learning-based optimization，TLBO) 是Rao等[1]于2011年提出的一種模擬教師教學和學生相互學習的群體智能優化算法。該算法因參數設置少、容易實現、尋優性能好，受到了眾多研究者的關注，在函數優化[2]、工程參數優化[3]、投資組合優化[4]和多目標優化[5-6]等問題上得到了廣泛的應用。

TLBO算法作為一種群智能優化算法，在求解高維多模態復雜優化問題時也容易陷入局部最優，算法的收斂速度和精度都不夠理想，為此，許多研究者在近幾年相繼提出了一些改進的TLBO算法。Ouyang等[7]為平衡全局與局部搜索效率，在“學階段”增加了全局交叉策略，提出了全局交叉的TLBO算法(teaching-learning-based optimizatio with global crossover,TLBO-GC)；Chen等[8]設計了局部學習和自學習方法來提高TLBO的搜索能力，提出了一種改進的TLBO算法(improved teaching-learning-based optimization,ITLBO)；Zou等[9]利用其他同學的學習經驗，使用兩種隨機概率來確定學習者在不同階段的學習方法，提出了一種改進的TLBO算法(improved teaching-learning-based optimization with learning experience, LETLBO)；王培崇等[10]采用小世界網絡作為種群的空間結構關系，提出了具有小世界領域結構的TLBO算法(small world neighborhood TLBO, S-TLBO)；畢曉君等[11]在“學階段”融合差分進化算法變異策略，提出了基于混合學習策略的教與學優化算法(TLBO based on hybrid learning strategies and disturbance, DSTLBO)；Ji等[12]受歷史種群概念的啟發，在標準TLBO算法中引入了自反饋學習階段和變異交叉階段，提出了一種TLBO算法的變體(improved version of TLBO, ITLBO)；Yu等[13]將精英學習策略和多樣性學習方法引入到教師階段和學習者階段，學習者可以根據自身的特點自適應地選擇不同的學習階段，提出了一種自適應的TLBO算法(self-adaptive TLBO, SATLBO)；Niu等[14]對種群中每個個體采用不同的更新機制，提出了一種修正的TLBO算法(actual teaching learning situation TLBO, ATLS)；SHUKLA等[15]在標準TLBO算法中引入鄰近學習和差分突變策略，提出了鄰近學習策略的TLBO算法(neighbor based TLBO, NTLBO)；柳締西子等[16]利用權重學習得到的個體來指引種群的進化，使用Logistics 混沌搜索策略來提高其全局搜索能力，提出了基于混沌搜索和權重學習的教與學優化算法(TLBO based on chaotic search and weighted learning,TLBO-CSWL)；何杰光等[17]在原有的個體更新公式上加入更新個體局部維度的操作，提出了基于個體局部維度改進的教與學優化算法(local-dimension-improved TLBO, LdimTLBO)；Tsai[18]將交叉頻率引入TLBO中，以防止算法過早收斂，提出了受限的教與學優化算法(confined TLBO with variable search strategies, CTLBO)。這些TLBO的改進算法在一定程度上提高了算法的優化性能，降低了算法陷入局部最優的可能，但文獻[19]揭示標準TLBO算法在“教”階段存在固有的起源偏倚，對原點最優問題(以坐標原點為最優解的問題)有著原始的偏好，但對非原點最優問題(最優解不在坐標原點的問題)的優化效果則不太理想，現有的改進TLBO算法也沒能很好地解決這類問題。

為此，本文在對標準TLBO算法的“教階段”和“學階段”的空間擾動進行幾何分析解釋的基礎上，提出了一種基于隨機交叉-自學策略的教與學優化算法(teaching and learning optimization al-gorithm based on random crossover-self-studystrategy, CSTLBO)。算法使用各分量取值 [-1,1]的隨機向量替換了標準TLBO算法中各分量取值[0,1] 的隨機向量，通過引入隨機交叉策略和“自學”策略，增加種群的多樣性，提高算法的全局搜索能力。使用了20個Benchmark測試函數進行仿真實驗，并與6種TLBO的改進算法(TLBO-GC[7]、ITLBO[8]、DSTLBO[11]、ATLS[14]、NTLBO[15]、TLBO-C SWL[16])進行了比較，檢驗了所提算法的性能。

1 教與學優化算法

1.1 優化問題的模型

本文研究的優化問題的具體模型為：

式中：X 為決策向量；S 表示搜索空間；xiL和 xiU分別表示第 i 個決策變量 xi在搜索空間的上界和下界 ；D 是搜索空間的維數；f 為目標函數。

1.2 標準的教與學優化算法

標準TLBO算法是一種模仿整個課堂教學過程的高效優化方法，通過模擬老師給班級學生的教學過程及班級中學員之間的交流學習過程，來提高整個班級的成績。主要包括兩個階段：“教階段”和“學階段”，其基本步驟如下：

1)初始化。隨機初始化 NP 位學員(即個體) Xj=(x1j,x2j,···,xDj)，j=1,2,···,NP 。其中， N P 表示班級中的學員數(即種群的規模)，D 表示學習的科目數(即待優化問題的維數)。

2)“教階段”。選取班級中成績最優(即適應度值最小)的學員作為老師，記做 Xteacher，每個學員根據教師和全體學員平均水平的差異性(difference)來進行學習，具體如下：

式中：Xjold、Xjnew分別表示第 j 位學員 Xj在教學前、后的知識水平；r=(r1,r2,···,rD) 表示學習步長，ri為 [0,1] 間的隨機數；符號 ? 表示直積運算；TF=round[1+rand(0,1)] 表示教學因子，取值為表示班級全體學員的平均知識水平。

“教階段”完成后，評估學員Xj的學習成績(即適應度值f(Xj) )，如果，則進行更新，即否則不更新。

3)“學階段”。學員之間進行相互交流，通過向其他同學學習，來提升自身的水平。從班級中隨機抽取一個學員Kk，k是[1,NP]中的一個隨機整數，k≠j，學員Xj(與其進行)交流學(習，)具體(如)下：

4)如果滿足終止條件(達到最大評估次數或最大迭代次數)，則優化結束并輸出最優個體Xbest，否則轉至2)繼續。

2.1 標準TLBO算法的幾何解釋

為了更好地理解TLBO的工作原理，以二維空間為例，采用幾何分析的方法來解釋算法在“教階段”和“學階段”的空間擾動狀況。

文獻[19]指出式(2)和(3)中的r本質上是一個各分量都取值于[0,1]的D維隨機向量，考慮到由隨機參數所引起的擾動的極限情形，容易觀察出“教階段”和“學階段”的空間擾動情形。由于r中的每個元素都是取值于[0,1]的隨機數，所以r對difference的影響實際是一個尺度上的縮放，即difference可以為圖1(b)、(c)方框內的任意向量。圖1(a)給出了TF(取1或2)的兩種情況下difference的向量表示；圖1(b)描述了“教階段”，應用于Xj的兩個可能的擾動框，從概率角度描述了應用于Xj每一個可能的擾動；圖1(c)描述了“學階段”，應用于Xj的兩種可能的擾動框。

圖 1 擾動分析的幾何解釋Fig. 1 Geometric interpretation of disturbance analysis

2.2 隨機向量的擾動分析

類似于2.1節的分析，如果將式(2)和式(3)中各分量取值于[0,1]的隨機向量替換為各分量取值于[-1,1]的隨機向量，則應用于Xj的擾動范圍將會擴大，“教階段”的搜索擾動范圍會變為原來的4倍，而“學階段”的擾動范圍將變為原來的兩倍，這樣能增大算法跳出局部最優的概率，在一定程度上改善算法“早熟”收斂的狀況，提高全局搜索能力。

圖2(a)、(b)分別描述了在“教階段”和“學階段”，使用各分量取值于[-1,1]的隨機向量后，應用于Xj的可能的擾動范圍。

圖 2 擾動分析的幾何解釋(ri∈[-1,1])Fig. 2 Geometric interpretation of disturbance analysis(ri∈[-1,1])

2.3 隨機擾動的實驗分析

為檢驗上述對使用不同取值范圍的隨機數所產生的擾動狀況的分析，將標準TLBO算法和TLBO1(r為各分量取值于 [-1,1] 的隨機向量)在6 個標準測試函數上進行仿真測試，其中f1～f3是典型的原點最優的多峰問題，f4～f6是對它們進行了Shift操作(非原點最優)。設置維度D=30，種群大小 N P=10，評價次數為150 000次。表1統計了30次獨立運行得到的最優目標值的平均值、標準差及運行時間，圖3給出6個函數的收斂曲線。

表 1 30次實驗統計結果Table 1 Thirty times optimization statistical results

圖 3 測試函數f1～f6的收斂曲線圖Fig. 3 Convergence plot of benchmark function f1～f6

從表1和圖3可以看出，對原點最優問題，標準TLBO算法所得解的精度更高，時間更短，但對非原點最優問題，TLBO1算法的求解精度和時間則更優。由于標準TLBO算法的“教”階段存在固有的原點偏倚，允許收斂的種群繼續沿著原點的方向搜索更好的解決方案，從而對原點最優問題能取得更好的優化效果。對非原點最優問題，標準TLBO算法在種群收斂到局部最優時，要么繼續利用局部最優信息，要么沿著原點方向繼續探索，由于最優解在原點以外的點上，沿原點方向的搜索幾乎毫無意義，所以無法進一步獲得高精度的解；而采用各分量取值于 [-1,1]的隨機向量，使得搜索范圍成倍擴大，算法跳出局部最優的能力得到提高，獲得最優解的概率變大，隨著迭代的 進行，能取得更好的優化效果。

3 基于隨機交叉-自學策略的教與學優化算法

標準TLBO算法中，由于教師和學習對象都屬于現有種群，所以無論是“教階段”還是“學階段”的操作都是在當前位置的有限范圍內進行搜索，學習者都依據現有種群的經驗來提高自己的成績，使得算法具有良好的開發性能，而跳出局部最優的能力不足。為增強算法的全局搜索能力，使迭代過程中算法的探索與開發過程得到平衡，對“教”和“學”階段進行改進，并使用隨機交叉策略和“自學”策略，來提高算法對復雜多模態問題的優化性能。

3.1 “教階段”的改進

當班級中學生成績差異較大時，最差成績往往會拉低班級的平均水平，如果教學過程中重點加強對最差生的關注，使其成績得到大幅度提高，縮小與班級其他同學間的差距，則可以加快班級整體水平的提升。故用班級中的成績最差者Xworst替 換班級平均水平 Xmean，即

式 中r1為各分量取值于 [- 1,1] 的隨機向量。

3.2 “學階段”的改進

其中，r2為各分量取值于 [-1,1] 的隨機向量，k 是[1,NP] 中的一個隨機整數，k≠j，t 為當前迭代次數，Tmax為最大迭代次數。在迭代初期，t 較小，(1-t/Tmax) 的值較大，學生間的相互討論更多，算法更加注重隨機性學習，能夠維持種群多樣性，增大有效搜索范圍；隨著迭代的進行，t 逐漸增大，(t/Tmax) 越來越大，學生會更多地向老師求教，逐漸側 重于有向性學習，使算法的局部搜索能力增強。

3 .3 隨機交叉-自學策略

3.3.1 隨機交叉策略

學生經過“教”階段后，各自的成績會得到一定程度的提升，但彼此間的差距也會縮小，即種群的多樣性降低，而通過集體討論交流，每位學生都可以在不同科目上隨機地向班級中不同的同學求教，并達到該同學在此科目上的水平，這實際上就是種群間的一種隨機交叉過程，具體為

i=1,2,···,D,j=1,2,···,NP，k 是 [1,NP] 中的一個不同于 j 的隨機整數，r and 為 [0,1] 間的隨機數。這里使用一種隨機概率來確定學習者與不同學習對象間的交流程度，通過進行種群間的隨機交叉，能夠維 持種群的多樣性，提高算法跳出局部最優的能力。

3.3.2 “自學”策略

實際學習過程中，部分學生在學習之余，也會根據自己當前的學習狀況，挑選部分課程進行“自學”，發掘新的知識，從而提升自己的學業水平。具體如下：對第 i 門課程，產生一個 [0,1] 間的隨機數 r and，來用于選擇不同的“自學”方式。

i=1,2,···,D,j=1,2,···,NP 。其中， S DR(selfdevelopment rate, SDR)為自我拓展率，λ 表示自學步長，λmax、λmin分別為最大、最小步長。

磁性纖維素對亞甲基藍的吸附過程受吸附反應溫度、溶液pH值和吸附時間的影響，吸附的最佳實驗條件是反應溫度293 K；溶液pH值為7；吸附時間120 min。磁性纖維素對亞甲基藍的吸附動力學特征用準二級動力學模型擬合較好；等溫吸附以Langmuir擬合最佳，由此可得磁性纖維素對亞甲基藍最大理論吸附容量為123.15 mg·g-1。

對每一科目，學生會根據自己當前的知識水平隨機進行自我調整，提高學習效率，自學步長隨迭代的進行由 λmax逐步動態縮小為 λmin。搜索前期，步長值較大，算法具有強的空間擾動能力，有助于探索新的未知區域；隨著迭代的進行，步長值逐漸縮小，使得對當前解的擾動幅度變小，有利于提高解的精度，這樣一種動態調整過程能有效平衡算法在搜索過程中的空間擾動能力和局部尋優能力。同時，以概率 S DR 在搜索空間進行隨機搜尋，進行自我拓展學習，可以增加算法的全局搜索能力。大量數值實驗測試表明，自我拓展率取值不宜過大，當SD R∈[0.01,0.1] 時，算法會有較好的性能。

3.4 CSTLBO算法的流程

CSTLBO算法的具體流程如圖4所示。

圖 4 CSTLBO算法流程Fig. 4 Flow chart of CSTLBO algorithm

每次迭代過程中，對每位學生而言，依據選擇概率 SP來選擇“學”和“自學”兩種學習方式中的一種執行，具體如下：

隨迭代的進行，SP 的值從 S Pmax逐漸減小到SPmin，表明在迭代初期，同學之間的信息交流比較多，隨著學習的深入，當學生的水平都得到較大提 升后，會更多地傾向于進行自我探索學習。

4 實驗仿真測試

4.1 測試函數與參數設置

為檢驗CSTLBO算法在連續優化問題中的性能，將其與6種TLBO的改進算法(ATLS、

NTLBO、TLBO-GC、ITLBO、TLBO-CSWL、DSTLBO)在20個復雜Benchmark函數上進行測試比較。將函數F1，F3～F4稱為原點最優問題(它們在原點處得到了最優值)，其余的函數稱為非原點最優問題，其中一些是通過對原點最優問題進行移位和旋轉得到的，移位函數取自CEC 2008，移位和旋轉函數取自CEC 2017。

F1為Ackley Function；F2為Michalewics Function；F3為Rastrigin Function；F4為Griewank Function；F5為Schwefel 2.26 Function；F6為Weierstrass Function；F7為FastFractal ‘DoubleDip’ Function；F8為Sphere Shift Function；F9為Ackley Shift Function；F10為Griewank Shift Function；F11為Rastrigin Shift Function；F12為Rosebrock shift Function；F13為Schaffer Shift Function；F14為Bohachevsky Shift Function；F15為Shifted and Rotated Rastrigin’s Function；F16為Shifted and Rotated Expanded Scaffer’sF6Function；F17為Shifted and Rotated Lunacek Bi_Rastrigin Function；F18為Shifted and Rotated Non-Continuous Rastrigin’s Function；F19為Shifted and Rotated Levy Function；F20為Shifted and Rotated Schwefel’s Function.

本文測試的環境為：戴爾PC機Intel Core(TM)i7-4790 3.6 GHz CPU，8 GB內存；Window10操作系統；MATLAB R2014b軟件。為保證測試的公平，各種算法采用相同的適應度函數評價次數：對F1～F14，評價次數MaxFEs=5 000×D；對F15～F20，MaxFEs=10 000×D，其中D為維數。比較算法的參數設置均參考于原文獻，本文算法的參數設置為： N P=20， S Pmax=0.6， S Pmin=0.2，S DR=0.02，λmax=(xU-xL)/10，λmin=(xU-xL)/(1015)。

4.2 實驗結果與分析

為避免偶然因素的影響，所有算法在D=100時都獨立運行了30次，表2記錄了各種算法在20個測試函數上30次獨立實驗的統計結果，對F1～F14，記錄了最優目標值的平均值和標準差，對F15～F20，記錄了最優誤差的平均值和標準差。為檢驗本文算法與比較算法之間的差異性，進行了顯著性水平為0.05的Wilcoxon秩和檢驗，“+”、“-”、“≈”分別表示比較算法與本文算法的成績相比是好、差和相當。

表 2 算法30次獨立測試結果(D=100)Table 2 Thirty times optimization results of the algorithm(D=100)

續表 2

從表2可以看出，所有比較算法在F1這個原點最優問題上的收斂精度優于本文算法，在F4上所有算法都能達到理論最優值，除F20外，本文算法在余下的17個測試函數上的平均值和方差都優于比較算法，說明所提算法對非原點最優問題的優化能力較強，效果良好。從Wilcoxon符號秩檢驗的結果來看，比較算法最多在4個問題上優于或相當于本文算法，而在其余測試問題上都明顯差于本文算法。

為進一步分析實驗結果，圖5～6給出了30次獨立運行的平均最優目標值收斂曲線(D=100維)，圖7～8給出了30次獨立運行的最優目標值分布盒圖(D=100維)。

圖 5 測試函數F11的收斂性曲線Fig. 5 Convergence plot of benchmark function F11

圖 6 測試函數F19的收斂性曲線Fig. 6 Convergence plot of benchmark function F19

圖 7 測試函數F11的最優目標值分布盒圖Fig. 7 Boxplot of the optimal value distribution of benchmark function F11

圖 8 測試函數F19的最優目標值分布盒圖Fig. 8 Boxplot of the optimal value distribution of benchmark function F19

從收斂曲線圖不難看出，本文算法對兩個復雜優化函數(Rastrigin Shift Function、Shifted and Rotated Levy Function)的收斂曲線呈逐漸下降趨勢，收斂效果明顯優于其他比較算法，說明本文算法的全局搜索能力較強，不易陷入局部最優。

從統計盒圖可以看出，本文算法30次獨立實驗所得的最優值的分布基本呈一條直線，差距很小，說明本文算法具有良好的穩定性。

4.3 隨機交叉策略的有效性分析

為檢驗本文所使用的隨機交叉策略的有效性，選取了復雜的非原點最優問題Weierstrass Function進行了測試，函數Weierstrass Function具有多個極小值點，算法很容易陷入局部最優的狀況。設置維數D=30 , 種群大小 N P=20, 最大評價次數MaxFEs=150 000，對搜索過程中產生的所有搜索點和每代的最優搜索點進行了跟蹤記錄，用于觀察算法的搜索過程。圖9描繪了搜索點(取30維中的2維繪制)的分布圖。

圖 9 搜索點分布Fig. 9 Search point distribution

從圖9可以看出，未使用隨機交叉策略的搜索過程中，種群在多個局部極值處都有聚集，使得在相同評價次數下，無法進行有效的開發，所得解的精度不高；而使用了隨機交叉策略的搜索種群的分布很均勻，沒有發生陷入局部最優的現象，大多數搜索點都聚集于最優解附近，更多地來進行局部開發，說明隨機交叉策略能使算法有效 地跳出局部最優，增強算法的全局搜索能力。

4.4 CSTLBO算法的種群多樣性分析

為進一步研究CSTLBO算法的收斂過程，以4個復雜非原點最優測試函數(Schwefel 2.26 Function、Ackley Shift Function、Griewank Shift Function、Rastrigin Shift Function)為例進行實驗(取維數D=100)，在搜索過程中跟蹤記錄了算法種群多樣性的變化，如圖10所示。種群多樣性[20]定義如下：

圖 10 4個復雜非原點最優測試函數的種群多樣性曲線Fig. 10 Population diversity curves of four complex non- origin optimal benchmark function

從圖10可以看出，標準TLBO 算法在搜索初期多樣性明顯快速下降，然后在小范圍內波動，前后期變化不是特別明顯，使得種群個體難以聚集到全局最優解，因此求解精度不高；CSTLBO 算法在迭代初期，具有較高的種群多樣性，有利于進行全局探索，隨著迭代的進行，種群多樣性保持著持續下降的趨勢，種群逐漸向全局最優解聚集，有利于進行局部開發，從而能獲得高精度的全局解。

5 結束語

為提高對非原點最優問題的優化能力，本文提出了一種基于隨機交叉-自學策略的教與學優化算法—CSTLBO。算法使用幾何方法分析了標準TLBO算法在“教”和“學”階段的擾動狀況，改進了 “教”和“學”階段，并引入了隨機交叉策略和“自學”策略來提高算法的全局搜索能力。仿真測試的統計結果表明，所提算法求解精度高，穩定性好，能對較多的非原點最優問題取得良好的優化效果，尤其是對進行了移位操作的復雜問題。但對同時進行了移位和旋轉操作的問題，優化結果雖優于比較算法，但在求解精度上仍有提升空間，在后續研究中，可以進一步研究改進，同時也可以將該算法應用到實際的工程優化問題，檢驗其具體實用性。