黑箱函數(shù)優(yōu)化問題中的響應(yīng)面優(yōu)化方法

黑箱函數(shù)優(yōu)化問題中的響應(yīng)面優(yōu)化方法*

齊靜

(重慶師范大學(xué) 數(shù)學(xué)學(xué)院，重慶 401331))

摘要：在實(shí)際科研領(lǐng)域和工程應(yīng)用中經(jīng)常會(huì)遇到一類問題，就是高價(jià)黑箱函數(shù)問題，針對(duì)高價(jià)黑箱函數(shù)的全局最優(yōu)化問題，開展了徑向基函數(shù)和響應(yīng)面相結(jié)合的研究;針對(duì)徑向基函數(shù)中響應(yīng)面模型及目標(biāo)值的選取進(jìn)行了理論分析；提出了一種新的選取策略，不同的選取策略必然會(huì)導(dǎo)致不同的搜索模式，從而影響優(yōu)化效果。

關(guān)鍵詞：高價(jià)黑箱函數(shù)；全局優(yōu)化；徑向基函數(shù)；響應(yīng)面模型；對(duì)稱拉丁超立方設(shè)計(jì)

doi:10.16055/j.issn.1672-058X.2015.0012.006

收稿日期：2015-05-15；修回日期：2015-06-18.

基金項(xiàng)目：*國家自然科學(xué)基金(10871217).

作者簡(jiǎn)介：齊靜(1990-)，女，河南南陽人，碩士研究生，從事全局最優(yōu)化方法研究.

中圖分類號(hào)：O241.3文獻(xiàn)標(biāo)志碼：A

在實(shí)際科研領(lǐng)域和工業(yè)應(yīng)用中，經(jīng)常會(huì)遇到一類問題，這類問題的函數(shù)值計(jì)算代價(jià)高昂，計(jì)算一次函數(shù)值就需要幾個(gè)小時(shí)甚至更長的時(shí)間，而且這類函數(shù)通常沒有顯式表達(dá)式，導(dǎo)數(shù)也不可用，稱這一類問題為高價(jià)黑箱函數(shù)(Expensive Black Box Function)[1]。將采用函數(shù)逼近的方法來解決其全局最優(yōu)化問題。徑向基函數(shù)插值是處理散亂數(shù)據(jù)的一種新的有效的方法，它具有計(jì)算格式簡(jiǎn)單、計(jì)算工作量小[2]等特點(diǎn)。近年來，國內(nèi)外的一些學(xué)者對(duì)高價(jià)黑箱函數(shù)的優(yōu)化問題進(jìn)行了一系列的研究，研究表明：徑向基函數(shù)插值是解決高價(jià)黑箱函數(shù)優(yōu)化問題的一種新的有效的方法。

1高價(jià)黑箱優(yōu)化問題

高價(jià)黑箱函數(shù)的全局最優(yōu)化問題[1]為

(1)

如果存在一個(gè)點(diǎn)x*∈S使得對(duì)任意的x∈S都有不等式f(x*)≤f(x)成立，就稱x*是問題(1)的全局最優(yōu)解，f(x*)稱為f(x)在S上的全局最優(yōu)值;如果存在x′∈S，在x′的一個(gè)δ鄰域B(x′,δ)內(nèi)，對(duì)任意的x∈S∩B(x′,δ)內(nèi)都有不等式f(x′)≤f(x)成立，就稱x′是問題(1)的一個(gè)局部最優(yōu)解，f(x′)稱為f(x)在S上的局部最優(yōu)值。

1.1徑向基函數(shù)插值模型

給定n個(gè)不同的點(diǎn)x1,x2,…,xn∈Rd，并且它們的函數(shù)值f(x1),f(x2),…,f(xn)也是已知的，取定徑向函數(shù)φ，尋找具有如下形式的函數(shù):

1.2徑向基函數(shù)插值的基本思想[3]

(1) 生成初始點(diǎn)，對(duì)初始點(diǎn)進(jìn)行函數(shù)值計(jì)算；

(2) 選定徑向基函數(shù)，構(gòu)造徑向基函數(shù)插值模型；

(4) 求解下一個(gè)迭代點(diǎn)xn+1，并對(duì)xn+1進(jìn)行函數(shù)計(jì)算；

(5) 使用新的數(shù)據(jù)點(diǎn)更新徑向基函數(shù)插值模型；

(6) 重復(fù)(3)-(5)，直到收斂。

1.3SLHD方法選取初始點(diǎn)

1.4響應(yīng)面模型的構(gòu)建

根據(jù)已選好的初始點(diǎn)x1,x2,…,xn及其函數(shù)值f(x1),f(x2)，…,f(xn)，構(gòu)建響應(yīng)面模型，但是發(fā)現(xiàn)f(x1),f(x2)，…,f(xn)中，有些函數(shù)值可能非常小而有些函數(shù)值就可能非常大，這些極端的函數(shù)值會(huì)對(duì)響應(yīng)面的構(gòu)建造成較大的影響，從而造成較大的誤差。為了解決這個(gè)問題，試圖構(gòu)建一種新的函數(shù)g(f)來替換f，從而優(yōu)化這些極端的函數(shù)值，構(gòu)建一個(gè)良好的響應(yīng)面模型。所構(gòu)建的g(x)需滿足3個(gè)條件：

(1)g(x)關(guān)于原點(diǎn)對(duì)稱；

(2)g(x)嚴(yán)格增；

(3)g(x)0[5]。

構(gòu)建g(x)為

因此g(x)關(guān)于原點(diǎn)對(duì)稱。

其中：循環(huán)長度N=5，n0表示初始迭代點(diǎn)的個(gè)數(shù)，n≥n0。

1.6下一個(gè)迭代點(diǎn)xn+1的選取

2重啟動(dòng)策略

采用SLHD方法生成初始點(diǎn)是因?yàn)樗鼘?duì)高維低維問題都比較實(shí)用，基于SLHD的使用，有一些測(cè)試問題的CPU時(shí)間要短一些，而有一些測(cè)試問題的CPU時(shí)間就要長一些了，花費(fèi)較長時(shí)間的原因可能是算法在一個(gè)錯(cuò)誤的局部極小點(diǎn)處進(jìn)行了較長時(shí)間的局部搜索，也就是說，采用的這種徑向基插值算法在進(jìn)行全局搜索時(shí)，由于局部搜索有可能失敗，從而導(dǎo)致算法不能準(zhǔn)確定位全局極小點(diǎn)。

為了解決這個(gè)問題，提出了一種重啟動(dòng)策略[2]，當(dāng)算法連續(xù)多次迭代都沒有取得明顯進(jìn)展，當(dāng)沒有改進(jìn)的函數(shù)值的數(shù)量超過一個(gè)臨界值之后，將使用一種新的SLHD重新開始搜索，通常將這個(gè)臨界值設(shè)定為30，使用這種新的SLHD方法，可以使算法及時(shí)跳出局部最小值，加快收斂速度。

3結(jié)束語

參考文獻(xiàn)：

[1] BJ?RKMAN M,HOLMSTR?M K.Global Optimization of Costly Nonconvex Functions Using Radial Basis Functions[J].Optimization and Engineering，2000,1(4):373-397

[2] ROMMEL G.Improved Strategies for Radial Basis Function Methods for Global Optimization[J].Journal of Global Optimization ,2007,37:113-135

[3] REGIS G,CHRISTINE A.Shoemaker.Constrained Global Optimization of Expensive Black Box Function Using Radial Basis Function[J].Journal of Global Optimization,2005,31:153-171

[4]YE K Q,LI W,SUDJIANTO A.Algorithmic Construction of Optimal Symmetric Latin Hypercube Designs[J].Joumal of Statistial Planning and Inference,2000,90(1):145-159

[5] REGIS G,CHRISTINE A.Shoemaker.A Quasi-multistart Framework for Global Optimization of Expensive Function Using Response Surface Models[J].Journal of Globa Optimization,2013,56: 1719-1753

[6] 林玉鋒,陳璟,陳少飛,等.一種新穎的混合響應(yīng)面優(yōu)化方法[J].計(jì)算機(jī)應(yīng)用研究,2012,29(6):2180-2183

An Optimization Method of Response Surface for ExpensiveBlack Box Function Optimization

QI Jing

(School of Mathematical Sciences,Chongqing Normal University,Chongqing 401331,Chongqing)

Abstract：In real scientific and engineering applications,problems on the expensive black box function often appear. In view of the expensive black box function global optimization,this paper researches the radial basis function and the response surface. is analyzed in theory,this paper proposes a new selection strategy. Different strategy selection leads to different search patterns,which affects the optimization effect.

Key words： expensive black box function; global optimization; radial basis function; response surface model; symmetric Latin hypercube design