基于PLS的變權重組合預測方法

張群 張超 李嶺 谷煒

［摘要］ 在目前研究較多的組合預測模型中加權系數是不變的。事實上，假定加權系數為常數，組合預測模型并不能很好地反映預測方法的有效性。基于以上事實，本文提出基于PLS的變權重組合預測方法，利用偏最小二乘回歸方法求得組合預測的權重函數。最后通過實例分析驗證了方法的有效性。

［關鍵詞］ 變權組合預測模型；偏最小二乘；蟻群算法

doi : 10 . 3969 / j . issn . 1673 - 0194 . 2012 . 05. 015

［中圖分類號］F201［文獻標識碼］A［文章編號］1673 - 0194（2012）05- 0028- 03

1引言

１９６９年，Ｂａｔｅｓ和Ｇｒａｎｇｅｒ首次對組合預測方法進行了系統的研究，其研究成果引起預測學者們的重視［１］。文章認為選擇單個預測是不太明智的，因為被放棄的預測結果中包含了一些有用的、獨立于被選擇的預測的信息。正是由于這些信息使得組合預測的結果往往優于單個預測。

所謂組合預測就是設法把不同的預測模型組合起來，綜合利用各種預測方法所提供的信息，以適當的加權平均形式得出組合預測模型［２］。組合預測最關心的問題就是如何求出加權平均系數，使得組合預測模型更加有效地提高預測精度。組合預測在國外被稱為Cｏｍｂｉｎａｔｉｏｎ Fｏｒｅｃａｓｔｉｎｇ或Cｏｍｂｉｎｅｄ Fｏｒｅｃａｓｔｉｎｇ，在國內也被稱為綜合預測等。

近年來，國內外學者在組合預測方法研究方面取得了很多研究成果，對國內外文獻分析研究，可以看出關于組合預測的研究呈現以下特點：

提出多種準則下的組合預測模型，對組合預測模型的求解和有效性的實證研究較為深入，但缺乏多種準則框架下的組合預測模型有效性的理論研究成果。目前，國內外學者主要提出以下一些組合預測方法：最小方差方法、無約束最小二乘方法、約束最小二乘方法、Ｂａｙｅｓ方法、基于不同準則與范數的組合預測方法、遞歸組合預測方法等。

對組合預測方法有效性的理論研究已經引起學術界的關注。文獻［３］針對無非負約束的以誤差平方和達到最小的組合預測模型提出了優性組合預測的概念，并利用組合預測絕對誤差信息矩陣的性質判斷簡單平均方法是優性組合預測的條件；文獻［４］研究了該模型組合預測誤差的界；文獻［５］提出了基于預測有效度的組合預測模型，并給出組合預測權系數的線性規劃的求解方法；文獻［６］針對此模型探討其有效性。

目前研究較多的組合預測模型的加權系數是不變的。事實上，假定權系數為常數，組合預測模型并不能很好地反映預測方法的有效性，而且會使組合預測精度降低。產生權系數變化的原因有很多，主要有以下兩個：

一是不同的預測方法特點不同，每種預測方法表現出“時好時壞性”，反映在權重上表現為“時大時小”。

二是不同的預測者對事物的客觀規律的認識有差異，某種預測方法可能隨時間的推移越來越優于其他單項預測方法，從而導致組合預測權系數的變化。

基于以上兩種原因，學者們提出了變權重組合預測方法。文獻［７］提出了變權重組合預測的模型，假定權重函數是連續的，依據Ｗｅｉｅｒｓｔｒａｓｓ定理利用多項式一致逼近權重函數，通過求解逼近多項式的系數矩陣可得權重函數。文獻［８］在此基礎上，利用矩陣的行展開和克羅內克積的概念對逼近多項式的系數矩陣進行分析，并在系數矩陣列滿秩的條件下用帶約束最小二乘方法對系數矩陣進行估計。但一般情況系數矩陣并不滿足列滿秩的條件。文獻［９］提出了一種估計系數矩陣的構造性算法，并證明了算法的收斂性。

本文在前人的研究基礎上提出了一種基于PLS方法的變權重組合預測方法。

2變權重組合預測模型

現有ｎ個歷史觀測數據Ｙ＝（Ｙ１，Ｙ２，…，Ｙｎ）Ｔ， 對每個歷史數據Ｙｔ（ｔ＝１，２，…，ｎ）用m個預測模型進行預測，預測結果分別為ｆｔ１，ｆｔ２，…，ｆｔｍ，由這些預測結果組成的變權重組合模型，可用下式表示：

Yt=■ｇｉ（ｔ）ｆｕ＋ｕ（１）

式中，ut為隨機噪聲；ｇi（ｔ）為第i個參與組合預測模型t時的權重。為了討論簡便，假設ｇｉ（ｔ）是連續函數。依據Ｗｅｉｅｒｓｔｒａｓｓ定理，任意區間［ａ，ｂ］上的任一連續ｆ（ｔ）函數皆可由多項式一致通過逼近。而通常ｇｉ（ｔ）滿足：0≤ｇｉ（ｔ）≤１，因ｇｉ（ｔ）可用ｔ的多項式表示：

ｇｉ（ｔ）＝ｇｉ０＋ｇｉ１ｔ＋ｇｉ２ｔ２＋…＋ｇｉｐｔｐ

因而，式（１）可表示為：

yt=［ｆｔ１，ｆｔ２，…，ｆｔｍ］ｇ１０ ｇ１１ … ｇ１ｐｇ２０ ｇ２１ … ｇ２ｐｆｍ０ ｇｍ１ … ｇｍｐｔ０ｔ１ｔｐ＋ｕｔ

＝ｇ１０ ｆ ｔ１＋ｇ１１ ｆｔ１ｔ＋…＋ｇ１ｐ ｆｔ１ｔｐ＋…＋ｇｍ０ ｆｔｍ＋…＋ｇｍ１ ｆｔｍｔｐ＋ｕｔ

＝■■ｇｉｊｔｊ－１ｆｔｉ＋ｕｔ＝Ｇ·Ｆｔ＋ｕｔ

式中，Ｇ＝［ｇ１０，…，ｇ１ｐ，…，ｇｍ０，…，ｇｍｐ］，

Ｆｔ＝［ｆｔ１ｔ０，…，ｆｔ１ｔｐ，…，ｆｔｍｔ０，…，ｆｔｍｔｐ］Ｔ

因此，估計出G即可求得變權重組合預測模型。

3基于PLS的變權重組合預測模型

由以上分析可知，如何估計G是求解變權重組合預測模型的關鍵。模型參數估計應用最廣泛的方法是最小二乘法。但是簡單最小二乘法在自變量之間存在線性相關性時會導致方法失效。已有研究表明用m個預測模型進行預測，預測結果ｆ１，ｆ２，…ｆｍ，呈強相關性，在本文研究的模型中，顯見自變量Ｆｔ＝［ｆｔ１ｔ０，…，ｆｔ１ｔｐ，…，ｆｔｍｔ０，…，ｆｔｍｔｐ］Ｔ也呈強相關性，需要考慮用其他參數估計方法。偏最小二乘（PLS）方法能夠在自變量存在嚴重多重相關性的條件下進行參數估計。

變權重組合預測模型的偏最小二乘的建模方法：

因變量Y和（ｐ＋１）×ｍ個自變量Ｆｔ＝［ｆｔ１ｔ０，…，ｆｔ１ｔｐ，…，ｆｔｍｔ０，…，ｆｔｍｔｐ］Ｔ。觀測了n個樣本點，由此構成了自變量與因變量的數據表Ｙ＝（ｙ）ｎ×１和Ｆ＝（Ｆ１，Ｆ２，…，Ｆｎ）Ｔ，其中，Ｆｔ＝［ｆｔ１ｔ０，…，ｆｔ１ｔｐ，…，ｆｔｍｔ０，…，ｆｔｍｔｐ］Ｔ，ｔ＝１，２，…，ｎ。記Ｘ＝（ｘ１，ｘ２，…，ｘ（ｐ＋１）×ｍ），其中ｘｉ＋ｊ×（ｐ＋１）＝（ｆｔｊｔｉ）ｎ×１。偏最小二乘法在X中提取成分u1（也就是說u1是ｘ１，ｘ２，…，ｘｐ的線性組合）。在提取成分時，有如下要求：

（１）u1應盡可能多地攜帶它們各自數據表中的變異信息。

（２）u1和Y的相關程度能夠達到最大。

在第１個成分u1被提取后，偏最小二乘實施X對u1的回歸。如果回歸已經達到滿意的精度，則算法終止；否則，將利用X被u1解釋后的殘余信息進行第２輪的成分提取。如此反復，直到能達到一個較滿意的精度為止。若最終對X共提取了ｋ個成分ｕ１，ｕ２，…，ｕｋ，偏最小二乘將通過施行ｙ對ｕ１，ｕ２，…，ｕｋ的回歸，然后表達成ｙ關于變量｛ｘ１，ｘ２，…，ｘｐ｝的回歸方程。將ｘｉ＋ｊ×（ｐ＋１）＝ｆｔｊｔｉ代入回歸方程，得到變權重組合預測模型。

4實例仿真

為了說明方法的有效性，采用１９７５-２００４年中國工業總產值進行研究。數據來源于《中國工業經濟年鑒》。本文選用４種單個預測方法對中國工業總產值進行預測，４種單個預測方法分別為簡單移動平均法、指數平滑預測法、ＡＲＭＡ方法和數據重心預測法。本文用１９７５-１９９４年的２０個數據對方法進行訓練，用１９９５-２００４年的１０個數據對方法進行測試。

圖１為各單個方法預測的結果。用單個預測結果分別乘ｔ０，…，tp（１９７５年記t=1）得Ｆｔ＝［ｆｔ１ｔ０，…，ｆｔ１ｔｐ，…，ｆｔｍｔ０，…，ｆｔｍｔｐ］Ｔ。其中， 簡單移動平均法為ft1，指數平滑預測法為ft2，ＡＲＭＡ方法為ft3，數據重心預測法為ft4。本文取p=2。

表１是Ｆｔ各列的相關系數，記Ｘ＝（ｘ１ｔ，ｘ２ｔ，…，ｘ（ｐ＋１）×ｍ，ｔ），其中ｘｉ＋ｊ×（ｐ＋１），ｔ＝（ｆｔｊｔｉ）ｎ×１，ｊ＝１，２，３，４。從表1中可以看出，各列之間具有很強的正相關性。

采用偏最小二乘回歸得到變權重組合預測模型。模型如下：

yt=0.306 2 ft1-0.007 5 ft1t+0.000 2 ft1t2+0.176 6 ft2+0.006 8 ft2t+0.000 2 ft2t2+0.276 9 ft3+0.002 2 ft3t+0.190 3 ft4-0.001 6 ft4t-0.000 4 ft4t2（2）

采用式（2）對測試樣本進行預測，并將預測結果與實際中國工業總產值進行比較，結果如圖２所示。

根據文獻［9］，選取兩個誤差指標評價預測的效果。

誤差的標準差，即：

MSE=■

平均絕對百分比誤差，即：

MAPE=■■■

其中，yt為指標序列第t時刻的實際觀測值。■ｔ為某預測方法第t時刻的預測值。N為測試樣本數。各預測結果的精度比較見表２。

從表２可以看出，本文提出的變權重組合預測方法的預測精度比各單個預測方法的預測精度有較大改進。同時，比一般組合預測方法的預測精度也有所提高。

5結論

本文在前人研究的基礎上提出了基于PLS的變權重組合預測方法。文章首先分析了變權重組合預測模型，而后利用偏最小二乘方法對變權重組合預測的權重函數進行回歸，最后通過實例驗證了方法的有效性。

本文考慮了單個預測方法隨時間的變化對組合預測的影響。假設權重函數是一個連續函數，而權重函數是否還有其他形態，不同的函數形態對預測結果是否有影響，這些都是需要進一步考慮的問題。

主要參考文獻

［１］Ｂａｔｅｓ Ｊ Ｍ， Ｇｒａｎｇｅｒ Ｃ Ｗ Ｊ， Ｔｈｅ Ｃｏｍｂｉｎａｔｉｏｎ ｏｆ Ｆｏｒｅｃａｓｔｓ［Ｊ］． Ｏｐｅｒａｔｉｏｎａｌ Ｒｅｓｅａｒｃｈ Ｑｕａｒｔｅｒｌｙ， １９６９， ２０（４）， ４５１-４６８．

［2］Ｂｕｎｎ Ｄ Ｗ． Ｃｏｍｂｉｎｉｎｇ Ｆｏｒｅｃａｓｔｓ［Ｊ］． Ｅｕｒｏｐｅａｎ Ｊｏｕｒｎａｌ ｏｆ Ｏｐｅｒａｔｉｏｎ Ｒｅｓｅａｒｃｈ， １９８８， ３３（３）：２２３-２２９．

［3］傅庚，唐小我，曾勇． 廣義遞歸方差倒數組合預測方法研究［Ｊ］． 電子科技大學學報， １９９２， ２１（５）：５４５-５５０．

［4］Ｘ Ｗ Ｔａｎｇ， Ｚ Ｆ Ｚｈｏｕ， Ｙ Ｓｈｉ． Ｔｈｅ Ｅｒｒｏｒ Ｂｏｕｎｄｓ ｏｆ Ｃｏｍｂｉｎｅｄ Ｆｏｒｅｃａｓｔｉｎｇ［Ｊ］． Ｍａｔｈｅｍａｔｉｃａｌ ａｎｄ Cｏｍｐｕｔｅｒ Mｏｄｅｌｉｎｇ， ２００２， ２１（２）：５８-６２．

［5］陳華友． 基于預測有效度的組合預測模型研究［Ｊ］． 預測， ２００１， ２０（３）：７２-７３．

［6］陳華友， 侯定丕． 基于預測有效度的優性組合預測模型研究［Ｊ］． 中國科學技術大學學報， ２００２，３２（２）：１７２-１８０．

［7］謝如賢， 成盛超， 吳健中． 變權重組合預測模型的建立與應用［Ｊ］． 預測，１９９２，１１（４）：６２-６５．

［8］唐小我，曾勇，曹長修． 變權組合預測模型研究［Ｊ］． 預測， １９９３， １２（３）：４６-４８．

［9］Ｌｕ Ｘｕ， Ｊｉａｎｇ Ｊｉａｎ－Ｈｕｉ， Ｌｉｎ Ｗｅｉ－Ｑｉ，ｅｔ ａｌ． Ｏｐｔｉｍｉｚｅｄ Ｓａｍｐｌｅ－ｗｅｉｇｈｔｅｄ Ｐａｒｔｉａｌ Ｌｅａｓｔ Ｓｑｕａｒｅｓ［Ｊ］． Ｔａｌａｎｔa，２００７，７１（２）：５６１-５６６.

［收稿日期］2012-01-30

［基金項目］國家自然科學基金資助項目（７０６７２１０２）。