基于LS－LSVM的居民出行方式選擇預(yù)測(cè)模型及影響因素研究

鄧瓊?cè)A 何繼宏

（無錫市政設(shè)計(jì)研究院有限公司道橋工程設(shè)計(jì)一所 無錫 214072）

傳統(tǒng)的交通需求預(yù)測(cè)方法主要包括交通生成預(yù)測(cè)、交通分布預(yù)測(cè)、交通方式劃分，以及交通分配預(yù)測(cè)，然而在實(shí)際應(yīng)用中，人們發(fā)現(xiàn)常規(guī)的“四階段法”有著諸多的缺點(diǎn)和局限性［1］，并且隨著隨機(jī)效用理論和非集計(jì)模型在交通領(lǐng)域的逐步發(fā)展，提出了交通需求預(yù)測(cè)的組合模型（combined travel demand model，CTDM），如交通分布和交通分配組合模型，交通方式劃分和交通分配組合模型，交通分布、交通方式劃分和交通分配組合模型等.本文采用支持向量機(jī)來研究居民出行方式選擇問題，利用遺傳算法優(yōu)化支持向量機(jī)參數(shù)，構(gòu)建居民出行方式選擇預(yù)測(cè)模型，并通過敏感性分析，研究影響居民出行方式選擇的因素，經(jīng)過對(duì)南京市居民出行調(diào)查數(shù)據(jù)進(jìn)行實(shí)證研究，為分析預(yù)測(cè)居民出行方式選擇行為提供新的思路和方法.

1 基于LS－SVM的居民出行方式選擇預(yù)測(cè)模型

1.1 支持向量機(jī)分類模型

支持向量機(jī)（support vector machine，SVM）是數(shù)據(jù)挖掘中的一項(xiàng)新技術(shù)，是借助于最優(yōu)化方法解決機(jī)器學(xué)習(xí)問題的新工具［2］.它是在小樣本情況下發(fā)展起來的，通過非線性變換，以結(jié)構(gòu)風(fēng)險(xiǎn)最小化為目標(biāo)，在高維特征空間中把研究問題線性化，求得原樣本空間的非線性解.支持向量機(jī)主要用于分類和回歸，本文重點(diǎn)介紹其分類功能.

1.1.1 支持向量分類機(jī)基本模型

二分類支持向量機(jī)是分類支持向量機(jī)的基本模型.其機(jī)理是，在給定訓(xùn)練樣本集（xi，yi），i＝1，2，…，n，x∈Rn，y∈｛±1｝的條件下，尋求一個(gè)滿足分類要求的最優(yōu)分類超平面：（w·x）＋b＝0，為使分類面對(duì)所有樣本正確分類并且具有最大的分類間隔，就要求它滿足如下約束yi［（w·x）＋b＝0］≥1，i＝1，2，…n.顯然，可以計(jì)算得出分類間隔為2／｜w｜，因此構(gòu)造最優(yōu)超平面的問題就轉(zhuǎn)化為如下的二次凸規(guī)劃模型［3］：

該約束優(yōu)化問題可以用Lagrange方法求解.

以上是針對(duì)線性可分問題所建立的分類模型，對(duì)于線性不可分情況，Vapnik等人運(yùn)用核空間理論，將輸入向量映射到一個(gè)高維的特征向量空間，并在該特征空間中構(gòu)造最優(yōu)分類面.其做法是將x通過特征向量Φ（x）從輸入空間Rn變換到特征空間H中.

同時(shí)，引入非負(fù)松弛變量ξ和懲罰參數(shù)C，則優(yōu)化問題變?yōu)椋?/p>

同時(shí)，為了避免高維空間中的復(fù)雜計(jì)算，支持向量機(jī)采用一個(gè)核函數(shù)K（xi，yj）代替高維空間中的內(nèi)積運(yùn)算.常見的核函數(shù)包括多項(xiàng)式核函數(shù)、徑向基核函數(shù)RBF，樣條核函數(shù).本文采用的是徑向基核函數(shù)RBF（高斯核函數(shù)）.

式中：σ2為高斯核函數(shù)的方差.同理，該優(yōu)化問題仍可以采用Lagrange方法求解.

1.1.2 最小二乘支持向量機(jī)（LS－SVM）模型

最小二乘支持向量機(jī)與基本模型的不同點(diǎn)在于，前者用最小二乘線性系統(tǒng)作為損失函數(shù)［4］，因此LS－SVM在利用結(jié)構(gòu)風(fēng)險(xiǎn)原則時(shí)，其優(yōu)化問題變?yōu)椋?/p>

與基本支持向量機(jī)的二次規(guī)劃尋優(yōu)問題相比，LS－SVM的運(yùn)算量和內(nèi)存需求是非常低的，這也是吸引研究者的主要焦點(diǎn)，如將LS－SVM方法用于動(dòng)態(tài)建模，不需要對(duì)硬件提出很高的要求.同時(shí)，作為基本支持向量機(jī)的一個(gè)改進(jìn)型，LS－SVM也繼承了SVM的許多優(yōu)點(diǎn).

有利即有弊，LS－SVM失去了支持向量的稀疏性特點(diǎn)，即有多少個(gè)樣本用于訓(xùn)練LS－SVM，就有多少個(gè)支持向量，因此LS－SVM易陷入局部最優(yōu)，并且易受到噪聲數(shù)據(jù)的影響，降低了模型本身的魯棒性.所以如何利用LS－SVM的優(yōu)點(diǎn)，彌補(bǔ)不足，一直也是學(xué)者們的研究方向之一.

1.1.3 居民出行方式分類

居民出行方式選擇屬于多分類問題，可轉(zhuǎn)化成多個(gè)二類劃分問題解決［5］.如本文中將居民出行方式簡(jiǎn)化分為3類：體力出行方式（類別標(biāo)志0）、公共交通出行方式（類別標(biāo)志1）和私人交通出行方式（類別標(biāo)志2），并將其編碼：體力出行方式為（－1，－1），公共交通出行方式為（－1，1），私人交通出行方式為（1，－1）.例如，先判斷第一列編碼，若為－1，則排除“私人交通出行方式”，接著再判斷第二列編碼，若為1，則確定為“公共交通出行方式”.

1.2 遺傳優(yōu)化算法

遺傳算法（genetic algorithm，GA）起源于對(duì)生物系統(tǒng)所進(jìn)行的計(jì)算機(jī)模擬研究.其本質(zhì)是一種高效、并行、全局搜索的優(yōu)化方法，它借鑒了達(dá)爾文的進(jìn)化論和孟德爾的遺傳學(xué)說，能夠在搜索過程中自動(dòng)獲取和積累有關(guān)搜索空間的知識(shí)，并自適應(yīng)地控制搜索過程以求得最優(yōu)解.遺傳算法操作使用適者生存的原則，在潛在的解決方案種群中逐次產(chǎn)生一個(gè)近似最優(yōu)方案，在每一代中，根據(jù)個(gè)體在問題域中的適應(yīng)度值和從自然遺傳學(xué)中借鑒來的再造方案進(jìn)行個(gè)體選擇，產(chǎn)生一個(gè)新的近似解.這個(gè)過程導(dǎo)致種群中個(gè)體的進(jìn)化，得到的新個(gè)體比原個(gè)體更能適應(yīng)環(huán)境，就像自然界中的改造一樣［6］.

本文對(duì)基本遺傳算法進(jìn)行了改進(jìn)，在計(jì)算每一代種群中每一個(gè)個(gè)體的適應(yīng)度后，對(duì)個(gè)體適應(yīng)度進(jìn)行排序，保留適應(yīng)度最強(qiáng)的種群個(gè)體，并將其“遺傳”至下一代.

1.3 基于改進(jìn)型遺傳算法的LS－SVM居民出行方式預(yù)測(cè)模型的構(gòu)建思路

本文通過隨機(jī)采樣將數(shù)據(jù)以4∶1的比例劃分為訓(xùn)練數(shù)據(jù)組和測(cè)試數(shù)據(jù)組［7］.首先用訓(xùn)練數(shù)據(jù)對(duì)LS－SVM進(jìn)行訓(xùn)練，然后用檢驗(yàn)數(shù)據(jù)計(jì)算LSSVM的分類結(jié)果，以樣本分類準(zhǔn)確率作為分類器性能的評(píng)價(jià)指標(biāo).

此外，由于LS－SVM分類模型中，存在參數(shù)選擇的問題.如式（4）中的核函數(shù)參數(shù)σ2，和式（5）中的正則化參數(shù)γ.有文獻(xiàn)專門對(duì)這兩個(gè)參數(shù)進(jìn)行了討論，如文獻(xiàn)［8］中指出正則化參數(shù)γ和核函數(shù)參數(shù)σ2對(duì)模型的預(yù)測(cè)精度和復(fù)雜度都有很大的影響，而預(yù)測(cè)精度和復(fù)雜度對(duì)參數(shù)的要求是相互矛盾的，實(shí)際運(yùn)用時(shí)應(yīng)根據(jù)需要選擇最佳的模型參數(shù).因此，本文提出采用改進(jìn)型遺傳算法，以LS－SVM全方式分類準(zhǔn)確率作為種群個(gè)體的適應(yīng)度函數(shù)，借助MATLAB軟件編程計(jì)算，得到最佳適應(yīng)度函數(shù)，即最佳分類準(zhǔn)確率下的γ，σ2參數(shù)值.建模思路及流程見圖1.

圖1 遺傳算法參數(shù)優(yōu)化下基于LS－SVM的模型構(gòu)建流程

2 實(shí)證研究

2.1 數(shù)據(jù)來源

本文實(shí)證研究數(shù)據(jù)來源于南京2010年居民出行調(diào)查，通過數(shù)據(jù)預(yù)處理，共選取了1 287個(gè)有效調(diào)查樣本.研究選取的變量及變量說明，見表1.

2.2 數(shù)據(jù)預(yù)處理和參數(shù)設(shè)置

關(guān)于LS－SVM參數(shù)的設(shè)置及其初始化，首先應(yīng)分別確定參數(shù)γ和σ2的取值范圍，γ∈［1，1 000］，σ2∈［0.1，100］，然后根據(jù)編碼規(guī)則（式（6））確定種群個(gè)體的染色體長(zhǎng)度，最后根據(jù)計(jì)算得到的染色體長(zhǎng)度，通過MATLAB編程，獲得同長(zhǎng)度的初始二進(jìn)制編碼符號(hào)，來表示該參數(shù).

式中：k為染色體長(zhǎng)度；a，b為參數(shù)的取值域；n為需要精確的小數(shù)位數(shù).

如式（6）計(jì)算得，參數(shù)γ和參數(shù)σ2的染色體長(zhǎng)度均為17.

值得注意的是，本文遺傳算法中每一代每一個(gè)體在計(jì)算適應(yīng)度函數(shù)值時(shí)都需要先進(jìn)行解碼，解碼規(guī)則如式（7）所示（假設(shè)某一個(gè)個(gè)體的編碼為XkXk－1Xk－2…X2X1）.

表1 研究選取變量及其說明

2.3 模型結(jié)果分析

為了對(duì)比驗(yàn)證LS－SVM分類性能的優(yōu)越性，本文還利用SPSS軟件對(duì)同樣的訓(xùn)練、測(cè)試數(shù)據(jù)集進(jìn)行了多元logistic模型的擬合，對(duì)比結(jié)果見表2.

本文采用全方式和單方式，2類分類精度作為衡量基于LS－SVM的居民出行方式預(yù)測(cè)模型優(yōu)劣的重要指標(biāo).其含義分別如下.

表2 LS－SVM模型和MNL模型分類精確度的對(duì)比

由表2可見，LS－SVM模型樣本的全方式分類精度為87.31%，相比之下，MNL模型的全方式分類精度比LS－SVM模型低了將近6個(gè)百分點(diǎn)；而從單個(gè)方式的分類精度上來看，盡管LSSVM模型對(duì)于體力出行方式的預(yù)測(cè)精度略低于MNL模型，但其他兩類出行方式均明顯高于MNL模型，這從一方面也反映了LS－SVM模型在不過多犧牲體力出行方式預(yù)測(cè)精度的同時(shí)，還顯著提高了公共交通出行方式和私人小汽車出行方式的預(yù)測(cè)精度，分別比MNL模型提高了13和40個(gè)百分點(diǎn).此外，從多次試驗(yàn)計(jì)算得到的分類精度標(biāo)準(zhǔn)差也顯示出LS－SVM預(yù)測(cè)模型的穩(wěn)定性.綜上，最小二乘支持向量機(jī)在居民出行方式選擇預(yù)測(cè)中更具優(yōu)勢(shì).

2.4 基于LS－SVM的敏感性分析

盡管LS－SVM在分類問題上表現(xiàn)出很好的優(yōu)勢(shì)，但仍有劣勢(shì)：事實(shí)上，像支持向量機(jī)這樣的機(jī)器算法，其計(jì)算過程其實(shí)是一個(gè)黑匣子，無法明確的顯示出考慮變量（自變量）對(duì)于模型性能的影響.因此本文借用經(jīng)濟(jì)評(píng)價(jià)中常用的一種研究不確定的方法——敏感性分析——來研究LS－SVM模型中各變量對(duì)模型性能的影響及影響程度.

敏感性分析是指從定量分析的角度研究有關(guān)因素發(fā)生某種變化時(shí)對(duì)輸出變量影響程度的一種不確定分析技術(shù).其實(shí)質(zhì)是通過改變相關(guān)變量數(shù)值的方法來解釋關(guān)鍵指標(biāo)受這些因素變動(dòng)影響大小的規(guī)律［9］.

為了不盲目對(duì)所有變量進(jìn)行敏感性分析，本文利用了MNL模型對(duì)試驗(yàn)數(shù)據(jù)的回歸結(jié)果（見表3），基本明確了對(duì)居民出行方式選擇有影響的變量，分別為“自行車擁有量”“電動(dòng)自行車擁有量”“是否購(gòu)置交通工具”“平均出行時(shí)間”“出行次數(shù)”“性別”“是否有駕照”.從而得到基于LS－SVM模型的敏感性分析結(jié)果，如圖2所示.

表3 MNL模型回歸結(jié)果

圖2 基于LS－SVM模型的敏感性分析結(jié)果

由圖2可見，對(duì)單個(gè)方式分類準(zhǔn)確率而言，變量“平均出行時(shí)間”“電動(dòng)自行車”“出行次數(shù)”“性別”對(duì)方式0有顯著影響，變量“是否購(gòu)置交通工具”“平均出行時(shí)間”“出行次數(shù)”“性別”對(duì)方式1有顯著影響，變量“自行車擁有量”“是否購(gòu)置交通工具”“平均出行時(shí)間”“電動(dòng)車自行車擁有量”“出行次數(shù)”“性別”“是否有駕照”對(duì)方式2有顯著影響；就全方式分類準(zhǔn)確率而言，變量“平均出行時(shí)間”“電動(dòng)自行車擁有量”“出行次數(shù)”“性別”對(duì)其結(jié)果有顯著影響.

3 結(jié)束語(yǔ)

居民出行方式選擇預(yù)測(cè)是交通需求預(yù)測(cè)中重要的組成部分，是一個(gè)復(fù)雜的非線性問題.支持向量機(jī)方法以結(jié)構(gòu)風(fēng)險(xiǎn)最小化為原則，實(shí)現(xiàn)了將非線性問題向線性問題的轉(zhuǎn)化，相比于傳統(tǒng)的預(yù)測(cè)模型，在預(yù)測(cè)精度方面有了顯著的提升；同時(shí)利用基于經(jīng)濟(jì)評(píng)價(jià)的敏感性分析方法，可以顯化支持向量機(jī)方法中變量對(duì)機(jī)器性能的影響及其程度：一方面對(duì)城市交通系統(tǒng)規(guī)劃有著現(xiàn)實(shí)的指導(dǎo)意義，另一方面也說明了居民出行方式的選擇是受到包括個(gè)人屬性、家庭屬性和出行屬性等多因素影響的過程.

當(dāng)然，本文也存在著一些局限性.例如，模型參數(shù)的取值范圍大小是否與遺傳算法迭代次數(shù)相匹配；敏感性分析中，缺乏與支持向量機(jī)結(jié)論的對(duì)比模型；變量的劃分等問題，都有待于進(jìn)一步的研究和探討.

［1］蒲 琪，楊 超，涂穎菲.基于二次差值法的交通需求組合模型算法［J］.同濟(jì)大學(xué)學(xué)報(bào)：自然科學(xué)版，2009，37（12）：1615－1616.

［2］鄧乃揚(yáng)，田英杰.數(shù)據(jù)挖掘中的新方法：支持向量機(jī)［M］.北京：科學(xué)出版社，2004.

［3］丁世飛，齊丙娟，譚紅艷.支持向量機(jī)理論與算法研究綜述［J］.電子科技大學(xué)學(xué)報(bào)，2011，40（1）：3－4.

［4］陳愛軍.最小二乘支持向量機(jī)及其在工業(yè)過程建模中的應(yīng)用［D］.杭州：浙江大學(xué)，2006.

［5］HSU C，LIN C.A comparison of methods for multiclass support vector machines ［J］.IEEE Transactions on Neural Networks，2002，13（2）：415－425.

［6］雷英杰，張善文，李續(xù)武，等.MATLAB遺傳算法工具箱及應(yīng)用［M］.西安：西安電子科技大學(xué)出版社，2005.

［7］LI Z，LIU P，WANG W，et al.Using support vector machine models for crash injury severity analysis［J］.Accident Analysis and Prevention，2012（45）：478－486.

［8］顧燕萍，趙文杰，吳占松.最小二乘支持向量機(jī)的算法研究［J］.清華大學(xué)學(xué)報(bào)：自然科學(xué)版，2010，50（7）：1063－1066.

［9］蔡 毅，邢 巖，胡 丹.敏感性分析綜述［J］.北京師范大學(xué)學(xué)報(bào)：自然科學(xué)版，2008，44（1）：9－15.