基于自主學習行為的教與學優化算法

童　楠，符　強,2，鐘才明

(1.寧波大學 科學技術學院，浙江 寧波 315212；　2.寧波大學 電路與系統研究所，浙江 寧波 315211)(*通信作者電子郵箱fuqiang@nbu.edu.cn)

0　引言

群體智能方法源于對簡單社會系統的模擬，描述了個體通過相互之間的信息交互機制進行合作，通過協作表現出宏觀智能行為的群體特征，已成為人工智能領域的新研究熱點。與其他方法相比，群體智能方法在魯棒性、可擴展性、支持分布式并行計算等方面都體現出明顯優勢，具有很好的應用開發前景。

教與學優化(Teaching-Learning-Based Optimization， TLBO)算法[1]是近年來發展較快的一種新型群體智能方法。TLBO算法利用班級代表所求問題的解空間，班級中的每一名學生則對應解空間中的一個解。所有學生通過教師的課堂教學學習科目知識，同時向身邊的同學請教，不斷增加自己對科目的知識理解。通過學生群體的迭代學習交流，班級整體知識水平將逐步提高，最終完成對解空間的搜索過程，獲取問題的最優解。

TLBO算法結構簡單、搜索能力較強，在空氣動力設計[2]、車間調度[3]、風力發電[4]、網絡規劃[5]、電力調節[6]等眾多領域中已得到較好的應用與推廣。然而，在求解高維復雜非線性問題時，TLBO算法也存在易陷入局部最優區域、發生早熟收斂等問題。為提高算法優化性能，文獻[7]通過調節教師人數、采用自適應教學因子、增加討論學習等手段來激勵學生學習興趣，優化TLBO算法的全局搜索能力；文獻[8]提出一種基于精英機制的TLBO算法，保留每次迭代所產生的精英學生，不斷加強學生群體的學習能力，強化算法的優化性能；文獻[9]通過建立高斯分布模型以實現更多樣化的教師選擇，并利用隨機搜索來平衡局部勘探與全局開發的雙重要求，提高了TLBO算法的搜索性能；文獻[10]在TLBO算法中引入動態自適應學習因子及動態隨機搜索機制，提高了算法的求解精度；文獻[11]將Nelder-Mead單純形算法的局部優化思想融入TLBO算法中，利用擴展、反射、收縮等操作不斷修正，提升算法的搜索精度。

本文分析了TLBO算法易于發生早熟現象的機制原因，并從教學過程完整性出發，提出一種基于自主學習行為的TLBO(Self-learning Mechanism-based TLBO, SLTLBO)算法，在教師常規教學以及同伴影響之外，強調學生的自主學習行為與反思對于提高自身科目認知能力的重要作用，并通過標準測試函數對其進行了性能驗證。

1　TLBO算法

在TLBO算法中，學生主要通過兩個階段獲取科目知識，提升自身水平。首先是“教”階段，學生將在課堂上接受教師的傳統授課，進行科目知識學習；其次是“學”階段，每名學生與身邊同學進行相互交流比較，進一步加深對于科目內容的理解。

1.1　“教”階段

“教”階段模擬教師的課堂教學過程。在該階段中，教師對班級內所有學生進行統一授課，時時監測整個班級的接受程度，并對平均水平進行調節，以達到提高全班整體水平的目的。“教”階段示意圖如圖1(a)所示。

班級里的任意一名學生Xi在”教”階段接受教師授課后，所產生的知識更新描述如式(1)所示：

Xi(t+1)=Xi(t)+r1*(Xteacher(t)-TF*mean)

(1)

其中:教學因子TF=round[1+rand(0,1)]，取值為1或者2，決定教師對班級內學生群體的教學力度；平均個體mean代表班級平均水平；隨機數r1在[0,1]區間取值。

1.2　 “學”階段

“學”階段模擬學生之間的交流學習。班級內所有學生聽取教師傳授科目知識以后，每個個體均獲得不同程度的知識掌握水平，此時學生根據自身對科目知識的理解，在班級中隨機尋找其他學生進行討論，并對比其他同學與自己的差異，提升自己的知識理解能力。“學”階段示意圖如圖1(b)所示。

圖1　TLBO算法的“教”與“學”階段示意圖Fig. 1　Schematic diagram of TLBO algorithm for "Teaching" and "Learning" stages

學生Xi在“學”階段中得到的知識更新描述如下所示：

Xi(t+1)=

(2)

其中:隨機數r2、r3在[0,1]區間取值,f(Xi(t))、f(Xj(t))對應學生Xi、Xj的科目成績。式(2)表明，如果學生Xj的科目成績優于學生Xi的科目成績，則學生Xi向學生Xj執行同向學習；反之，學生Xi執行反向學習。

2　基于自主學習行為的TLBO算法

2.1　TLBO算法機制分析

在TLBO算法中，教師通過”教”階段帶領全體學生實現整體水平提升，不斷趨向問題最優解；同時每個學生通過向身邊同伴學習，拓展多樣化的學習途徑，進一步提高自己對知識的掌握層次。與其他同類群體智能方法相比較，TLBO算法具有更多的學習途徑，在求解問題時表現出較高的收斂速度及較好的收斂精度。

然而，在實際教學過程中，學生個體的個性化學習對于其能力的提升起著極其重要的作用。班級內的學生群體具有多元智力層次，在相同授課模式下表現出的接受能力不同；同時每名學生作為一個獨立個體，學習風格也各不相同。因此，應當允許每個個性化的學生進行差異化學習。然而在TLBO算法中，”教”階段中的教師依據班級平均零水平組織同一尺度的教學活動，忽視了學生在學習中表現出的差異性，壓制了學生個體的學習主動性，因此使得學生群體過早表現出趨同性，抑制了學生群體的再提升能力。雖然學生在“學”階段可以通過與其他同伴的溝通來獲取更多的學習機會，但是，由于其他同伴具備的知識水平也非常有限，制約了有效信息的交互與獲取，因此需要在TLBO算法中構建更為完善的教學模式，從而提高算法的搜索性能。

2.2　SLTLBO算法設計

由2.1節分析可知，TLBO算法中的教學環節設置不夠完善，其統一教學模式不利于調動所有學生的主觀能動性。由于學生個體無法充分發揮自身的學習能力，最終影響整體的學習效果，因此在求解復雜非線性優化問題時，容易過早陷入局部最優區域。鑒于此，本文從教學環節設計出發，對TLBO算法實施了以下優化措施。

2.2.1自主學習階段

學生Xi在接受課堂教學，并經過同伴交流之后，應當根據自己的學習特點，主動分析自己當前的學習效能，并采取多樣化學習行為，真正實現自我提升。首先學生Xi對比自己與教師的差距，向教師要求靠攏，彌補自身不足，進行同向學習；同時考察全班其他同學的學習情況，找出學習最差的學生Xworst，吸取其教訓，并參照學生Xworst與自己的差異，進行反向學習，以期獲得更好的知識理解。自主學習階段的數學描述如式(3)所示：

Xi(t+1)=Xi(t)+r4*(Xteacher(t)-Xi(t))-

r5*(Xworst(t)-Xi(t))

(3)

其中，隨機數r4、r5在[0,1]區間取值。式(3)表明學生Xi綜合考慮最優個體(教師Xteacher)、最差個體(Xworst)與自己的差異性后，分別執行靠近與遠離的多樣化操作，以獲取更好的科目成績。

2.2.2反思階段

反思活動是學生吸收外來信息，完成外向學習活動后發起的內在思考，是促進學生開展有效學習的積極探索活動，具有個性化創新的特征，能幫助學生實現自我超越，優化思維品質，有效促進學生對科目知識的認知水平。學生Xi進行反思行為的數學描述如式(4)所示：

Xi(t+1)=normrnd(Xi(t), |Xteacher-Xi(t)|)

(4)

其中:normrnd為滿足高斯分布的隨機數；Xi(t)、|Xteacher-Xi(t)|分別決定高斯函數的均值與方差。式(4)說明，學生Xi將對自己現有學習狀況進行深入思考，并對照教師標準進行反思改進，自發產生變異性調整，有效預防自身停滯在原有水平，完善自己的知識掌握能力。

SLTLBO算法流程如下，算法的時間復雜度為O(m2) 。

BEGIN

初始化，隨機設置學生狀態，設置學生數m、收斂條件等；

計算每名學生的科目成績(適應度值)；

FORi=1 TOIteration

/*Iteration為迭代次數*/

執行”教”階段，利用式(1)對學生進行狀態更新，如果更新后學生的科目成績更優，則替換更新前學生；

執行“學”階段，利用式(2)對學生進行狀態更新，如果更新后學生的科目成績更優，則替換更新前學生；

執行自主學習階段，利用式(3) 對學生進行狀態更新，如果更新后學生的科目成績更優，則替換更新前學生；

執行反思階段，利用式(4) 對學生進行狀態更新，如果更新后學生的科目成績更優，則替換更新前學生；

對所有學生個體進行域約束；

結束迭代，輸出結果。

END

3　實驗與分析

本文選取了10個標準Benchmark測試函數對SLTLBO算法進行性能驗證，其中f1～f5為連續性單峰函數,f6～f10為連續性多峰函數，均為具有普遍性、代表不同數據特征的測試函數，常用于檢測優化算法的全局搜索能力。其表達式與相關參數如表1所示。

為了更好說明SLTLBO算法的優化性能，本文利用PSO算法[12]、ABC算法[13]以及TLBO算法[8]與SLTLBO算法一起進行測試對比。文中所涉及測試算法均在Windows XP操作系統下，通過Matlab 2013編譯調試。硬件環境為Inter Pentium CPU G645(2.9 GHz) 1.82 GB內存。

所有算法的參數設置：種群規模大小為50，最大迭代次數為1 000。測試數據變量維數分別為30、100；另外，PSO算法的慣性權重在[0.2,0.9]區間線性遞減，c1=c2=2。

為減少單次算法操作的偏頗性，文中所有算法針對每個測試函數各獨立運行20次，統計20次測試結果的均值衡量算法收斂精度，并通過20次結果的方差對比算法魯棒性。分別在變量維數為30及100的條件下進行了兩組測試，結果如表2、3所示。表2顯示，在30維的10個函數優化測試中，ABC算法未能得到理論最優值，PSO算法僅在f8函數測試中獲得理論最優值，TLBO算法在f8、f10兩個測試函數中獲取理論最優值，而SLTLBO算法在f1、f3、f7、f8、f9、f10等6個函數中搜索到理論最優值。從整體函數測試結果來看，SLTLBO

算法明顯具有更好的收斂精度，搜索能力優于其他對比算法。表3顯示，當變量維數增加到100時，PSO算法、ABC算法、TLBO算法的搜索能力明顯減弱，如ABC算法在30維f4函數優化過程中表現出較好的搜索性能，但是在100維f4函數的優化結果中卻表現最差。而STLBO算法則表現出更加顯著的優勢，10個測試函數均獲得最好的優化結果，并依然在f1、f3、f7、f8、f10等5個函數中搜索到理論最優值，在100維函數的測試結果中也體現出其精準搜索的能力。表2、3的測試結果還顯示，SLTLBO算法在維數不同的兩組測試中，針對10個函數的20次優化結果方差均很小，這說明SLTLBO算法在處理高維復雜問題時同時也具備較好的魯棒性。

為了更直觀地觀察SLTLBO算法的搜索性能，比較SLTLBO算法與其他各算法在搜索效率方面的差異性，繪制f1～f10的適應度進化曲線及統計盒圖，限于篇幅限制，只列出變量維數為30時的圖形，如圖2～11所示。

表1　標準測試函數Tab. 1　Standard function used in the experiment

表2　30維函數測試結果對比Tab. 2　Comparison of test results of 30 dimensional functions

表3　100維函數測試結果對比Tab. 3　Comparison of test results of 100 dimensional functions

從進化曲線可以看出，SLTLBO算法在200代內即完成了f4、f6、f7、f8、f10等5個函數的目標優化過程，在其他5個函數的進化曲線中也具有最大的曲線斜率，這表明SLTLBO算法在搜索過程中能夠迅速判斷優化路徑，具有較強的搜索效率；而從統計盒圖可以看出，不同函數測試條件下，PSO、ABC和TLBO算法在20次優化結果中的不確定性較明顯，波動區間較大，而SLTLBO算法在所有函數測試中均具有較小的方差，表現出很好的算法穩定性。

4　結語

本文分析了TLBO算法的優化機制及其易于陷入早熟收斂的原因，從完善教學環節出發，提出了一種基于自主學習行為的TLBO算法(SLTLBO)，在傳統TLBO算法中的“教”與“學”階段的基礎上，突出學生自主學習的重要性，利用自主學習環節及反思行為增強學生的學習能力，提升其知識水平。利用10個Benchmark測試函數驗證了算法搜索能力，并與PSO、ABC和TLBO等算法進行了優化性能對比，實驗結果表明，本文提出的SLTLBO算法在收斂精度、收斂速度和魯棒性等方面均具有明顯優勢。今后的研究內容主要包括SLTLBO算法的理論分析，以及算法中的結構、參數設置對尋優效果的影響研究。

參考文獻:

[1]RAO R V, SAVSANI V J, VAKHARIA D P. Teaching-learning-based optimization: a novel method for constrained mechanical design optimization problems [J]. Computer-Aided Design, 2011, 43(3): 303-315.

[2]QU X, ZHANG R, LIU B, et al. An improved TLBO based memetic algorithm for aerodynamic shape optimization [J]. Engineering Applications of Artificial Intelligence, 2017, 57: 1-15.

[3]朱傳軍,宋文家,張超勇,等.基于維修時間窗的柔性作業車間調度優化研究[J].中國機械工程,2016,27(10):1337-1343. (ZHU C J, SONG W J, ZHANG C Y, et al. Research on optimization of FJSP based on maintenance time window [J]. China Mechanical Engineering, 2016, 27(10): 1337-1343.)

[4]Gü?YETMEZ M, ?AM E. A new hybrid algorithm with genetic-teaching learning optimization (G-TLBO) technique for optimizing of power flow in wind-thermal power systems [J]. Electrical Engineering, 2016, 98(2): 145-157.

[5]SELVAM K, VINOD KUMAR D M, SIRIPURAM R. Distributed generation planning using peer enhanced multi-objective teaching-learning based optimization in distribution networks [J]. Journal of the Institution of Engineers (India): Series B, 2016, 98(2): 203-211.

[6]SAHU R K, PANDA S, ROUT U K, et al. Teaching learning based optimization algorithm for automatic generation control of power system using 2-DOF PID controller [J]. International Journal of Electrical Power & Energy Systems, 2016, 77: 287-301.

[7]RAMA KRISHNA P V, SAO S. An improved TLBO algorithm to solve profit based unit commitment problem under deregulated environment [J]. Procedia Technology, 2016, 25: 652-659.

[8]RAO R V, PATEL V. Comparative performance of an elitist teaching-learning-based optimization algorithm for solving unconstrained optimization problems [J]. International Journal of Industrial Engineering Computations, 2013, 4(1): 29-50.

[9]OUYANG H, WANG Q, KONG X. Modified teaching-learning based optimization for 0-1 knapsack optimization problems [C]// Proceedings of the 29th Chinese Control and Decision Conference. Piscataway, NJ: IEEE, 2017: 973-977.

[10]王培崇.改進的動態自適應學習教與學優化算法[J].計算機應用,2016,36(3):708-712. (WANG P C. Improved dynamic self-adaptive teaching-learning-based optimization algorithm [J]. Journal of Computer Applications, 2016, 36(3): 708-712.)

[11]ZHANG H, LI B, ZHANG J, et al. Parameter estimation of nonlinear chaotic system by improved TLBO strategy [J]. Soft Computing, 2016, 20(12): 4965-4980.

[12]DASHTI S E, RAHMANI A M. Dynamic VMs placement for energy efficiency by PSO in cloud computing [J]. Journal of Experimental & Theoretical Artificial Intelligence, 2016, 28(1/2): 97-112.