淺談多因變量的多元回歸算法的研究

摘要：用一個因變量與多個自變量進行回歸是多數求解問題中采用的方法，但進行多元線性回歸得到的回歸方程經過檢驗后發現擬合效果往往不好。因此，本文以“低保標準”這一實際問題為例，通過多因變量的多元回歸算法分析不同地區“低保標準”之間的相關性，能夠有效地避免丟失各地區之間相互關聯的信息，說明多因變量的多元回歸算法可以更好地解決實際問題。

關鍵詞：多因變量的多元回歸算法、嶺回歸、相關性

0 引言

對于多對多的回歸問題，可以轉化為多個多元回歸問題來解決。但對求解各地之間低保標準的相關性的問題，每個地區的因變量之間存在著一定的聯系，如果分別建立各地區的低保標準與其指標自變量的回歸關系式，會丟失各地低保標準之間相互關聯的信息。這就需要多因變量的多元回歸算法來分析實際問題。

1 算法過程

1.1 多元線性回歸及回歸診斷

在這里選取了北京、上海市2010-2016年的相關數據（如表1，表2所示），在SAS軟件下編程進行了分析。

對該模型進行回歸診斷，結果如下：

圖1

經驗表明：當VIFj≥10時，就說明自變量xj與其余自變量之間存在嚴重的多重共線性關系，Eigenvalue（特征根）有幾個接近于0，就有幾個多重共線性關系，conditon index（條件數）在10～100之間時，變量存在著較強的共線性關系。根據這些統計量的檢驗，我們可以發現多因變量多元線性回歸結果存在較強的多重共線性關系，且P值較大，不能通過檢驗，然而同類之間的因變量、指標變量均具有較強的相關性，因此利用多因變量多元逐步回歸以及嶺回歸的方法對結果進行修正。

表1 北京市2010-2016年的相關數據

表2 上海市2010-2016年的相關數據

1.2 多因變量的多元逐步回歸

多因變量的多元逐步回歸與一個因變量的逐步回歸的基本步驟基本類似，其不同之處在于，由于因變量的個數大于一，因此，在逐步回歸的過程中，引入和剔除自變量時需要計算這些變量對因變量的貢獻率，此時，需要利用新的統計量（Vi統計量）來進行描述。

回歸方程的具體表達式：

其中，

殘差平方和：

復相關系數：

（復相關系數是反映一個因變量與一組自變量之間相關程度的指標）

這里選取了北京、上海市2010-2016年的相關數據，在SAS軟件下編程進行了分析，得到的結果如下：

其中，x1，x4，x5分別代表人均GDP、職工平均工資、最低工資標準， 分別代表北京、上海的預測數據。

兩回歸方程經檢驗都是高度顯著的（p<0.05），復相關系數R1=0.9973，決定系數（R21=0.9947），復相關系數R2=0.9999（R22=0.9998）。

因此回歸方程通過檢驗，且擬合效果較好。

1.3 嶺回歸

在對方程進行多因變量多元線性回歸時，最小二乘矩陣X'X的特征根有多個接近于0，變量之間的多重線性關系較強。嶺回歸的基本思想是給矩陣加入一個正的常數矩陣k*I，則X'X+kI接近奇異的程度會顯著減小，從而克服變量間的共線性關系。

當k≈0.01時，嶺跡已經趨于平穩，從而克服了變量間的多重共線性關系，擬合效果較好。得到的回歸方程如下：

2 實驗結果及分析

實驗的預報和控制：

圖2

圖3

由圖2與圖3可知，多因變量的多元回歸算法的預測效果較好。

3 總結

通過多因變量的多元回歸算法來分析因變量之間的相關性，能夠防止丟失因變量間的關聯信息，得到更符合實際情況的分析結果。本文以“低保標準”實際問題為例，用多因變量的多元回歸算法求解了北京市與上海市之間的低保標準相關性問題，檢驗了算法較好的預測效果。由于多因變量的多元回歸可以快速有效地解決實際問題，所以該算法可以得到廣泛的應用。

作者簡介：董霖，女，就讀于延邊大學，主要研究領域為計算機科學與技術。

候琳珊等. 基于擴頻和歸一化的圖像識別算法研究