求解無(wú)約束優(yōu)化問(wèn)題的新譜共軛梯度法及其收斂性

摘 要 強(qiáng)Wolfe條件不能保證標(biāo)準(zhǔn)CD共軛梯度法全局收斂.本文通過(guò)建立新的共軛參數(shù)，提出無(wú)約束優(yōu)化問(wèn)題的一個(gè)新譜共軛梯度法，該方法在精確線搜索下與標(biāo)準(zhǔn)CD共軛梯度法等價(jià)，在標(biāo)準(zhǔn)Wolfe線搜索下具有下降性和全局收斂性.初步的數(shù)值實(shí)驗(yàn)結(jié)果表明新方法是有效的，適合于求解非線性無(wú)約束優(yōu)化問(wèn)題.

關(guān)鍵詞 無(wú)約束優(yōu)化；譜共軛梯度法；下降性；全局收斂

中圖分類號(hào) O224 文獻(xiàn)標(biāo)識(shí)碼 A

1 引 言

1952年Hestenes和Stiefel提出求解線性方程組Ax=b（x∈Rn）的共軛梯度法.當(dāng)矩陣A對(duì)稱正定時(shí)，解此方程組等價(jià)于求n元二次函數(shù)

的極小值點(diǎn)，1964年Fletcher和Reeves將該方法推廣應(yīng)用于解決非線性無(wú)約束優(yōu)化問(wèn)題，得到求一般函數(shù)極小值的共軛梯度法.因具有結(jié)構(gòu)簡(jiǎn)單、計(jì)算機(jī)存儲(chǔ)需要小等優(yōu)點(diǎn)，共軛梯度法已經(jīng)發(fā)展成為科學(xué)、工程、經(jīng)濟(jì)等領(lǐng)域中求解大規(guī)模優(yōu)化問(wèn)題的一類有效方法，至今對(duì)其研究依然很活躍.

考慮無(wú)約束優(yōu)化問(wèn)題

其中f：Rn→R為一階連續(xù)可微的非線性目標(biāo)函數(shù)，其梯度函數(shù)記為g：Rn→Rn.求解問(wèn)題（1）通常采用迭代方法xk+1=xk+αkdk，其中αk為某種線搜索給出的步長(zhǎng)，dk為搜索方向.標(biāo)準(zhǔn)共軛梯度法搜索方向dk定義為