基于改進(jìn)自組織神經(jīng)網(wǎng)絡(luò)的創(chuàng)業(yè)數(shù)據(jù)評(píng)估建模與仿真

尹詩(shī)

（上海第二工業(yè)大學(xué)，上海 201209）

隨著社會(huì)經(jīng)濟(jì)的不斷發(fā)展，學(xué)校和國(guó)家為畢業(yè)生就業(yè)提供了眾多資源，例如大力支持自主創(chuàng)業(yè)、提供政策扶持等，這使得越來越多的高校畢業(yè)生在畢業(yè)時(shí)會(huì)選擇自主創(chuàng)業(yè)。但目前高校對(duì)創(chuàng)業(yè)數(shù)據(jù)的分析匱乏，故無(wú)法對(duì)學(xué)生進(jìn)行積極引導(dǎo)，而現(xiàn)有的一些算法模型也存在準(zhǔn)確性及預(yù)測(cè)穩(wěn)定性較差等問題[1]。因此為了更優(yōu)地推進(jìn)大學(xué)生自主創(chuàng)業(yè)水準(zhǔn)、提高高校創(chuàng)業(yè)數(shù)據(jù)分析能力，文中基于改進(jìn)自組織神經(jīng)網(wǎng)絡(luò)技術(shù)提出了一種創(chuàng)業(yè)數(shù)據(jù)評(píng)估模型與仿真方法。該建模方法通過SOFM 算法對(duì)數(shù)據(jù)做出選擇與分類，并利用Duplex算法對(duì)數(shù)據(jù)集的劃分、回歸模型及共識(shí)模型的建立等過程進(jìn)行了創(chuàng)業(yè)數(shù)據(jù)的建模與仿真，仿真結(jié)果充分體現(xiàn)了所提方法在進(jìn)行創(chuàng)業(yè)數(shù)據(jù)建模時(shí)的優(yōu)勢(shì)，同時(shí)還驗(yàn)證了該方法的可靠性與有效性，并為高校進(jìn)一步分析創(chuàng)業(yè)數(shù)據(jù)提供了重要參考。

1 自組織神經(jīng)網(wǎng)絡(luò)

1.1 基本原理

自組織神經(jīng)網(wǎng)絡(luò)（Self-Organizing Map,SOM）是人工智能領(lǐng)域神經(jīng)網(wǎng)絡(luò)技術(shù)的一個(gè)重要分支，本質(zhì)上是一種基于無(wú)監(jiān)督機(jī)器學(xué)習(xí)的自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)，其基本思想是Rosenblatt 根據(jù)人腦神經(jīng)元自組織、自適應(yīng)的特征而提出的[2]。SOM 模型是對(duì)研究對(duì)象的拓?fù)浞治觯磳⒀芯繉?duì)象抽象成高維空間向低維空間的非線性映射，同時(shí)不改變研究對(duì)象的拓?fù)浣Y(jié)構(gòu)，使得原本在高維空間抽象的拓?fù)浣Y(jié)構(gòu)在低維空間以可視化的方式展示出來。SOM 模型能夠在無(wú)人為干預(yù)的條件下，通過自主學(xué)習(xí)與訓(xùn)練不斷改變和優(yōu)化網(wǎng)絡(luò)模型中涉及的相關(guān)參數(shù)，并可對(duì)輸入對(duì)象進(jìn)行有效分類。目前，其經(jīng)常被使用在分類聚類、模式識(shí)別、組合優(yōu)化及數(shù)據(jù)壓縮等領(lǐng)域中。

典型自組織神經(jīng)網(wǎng)路SOM的網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 典型自組織神經(jīng)網(wǎng)路SOM的網(wǎng)絡(luò)結(jié)構(gòu)

由圖1 可知，SOM 網(wǎng)絡(luò)結(jié)構(gòu)主要由輸入層和競(jìng)爭(zhēng)層（輸出層）兩部分神經(jīng)元組構(gòu)成[3]。其中，輸入層用來接收輸入對(duì)象對(duì)應(yīng)向量，向量的各個(gè)元素分別存儲(chǔ)于輸入層不同的神經(jīng)元之中，這些神經(jīng)元與競(jìng)爭(zhēng)層神經(jīng)元相連，并通過二者之間的連接渠道將對(duì)應(yīng)元素的數(shù)據(jù)傳遞給競(jìng)爭(zhēng)層。競(jìng)爭(zhēng)層利用這些數(shù)據(jù)構(gòu)建不同的判別函數(shù)，再根據(jù)某種規(guī)則對(duì)各判別函數(shù)的值進(jìn)行對(duì)比，從而選擇其中的最優(yōu)解，同時(shí)根據(jù)得到的最優(yōu)解進(jìn)行反推，進(jìn)而可以不斷調(diào)整網(wǎng)絡(luò)模型的輸入?yún)?shù)。

競(jìng)爭(zhēng)層包含一個(gè)重要的過程——競(jìng)爭(zhēng)學(xué)習(xí)，其主要作用在于使競(jìng)爭(zhēng)層的各節(jié)點(diǎn)進(jìn)行競(jìng)爭(zhēng)，且當(dāng)某一節(jié)點(diǎn)取勝后（依賴判別函數(shù)），按照該節(jié)點(diǎn)的相關(guān)屬性對(duì)模型參數(shù)進(jìn)行調(diào)整。當(dāng)神經(jīng)網(wǎng)絡(luò)中輸入相似的研究對(duì)象時(shí)，該節(jié)點(diǎn)更容易取勝，從而完成模型的競(jìng)爭(zhēng)學(xué)習(xí)。競(jìng)爭(zhēng)學(xué)習(xí)主要包括以下3 個(gè)環(huán)節(jié)[4]。

1）競(jìng)爭(zhēng)：競(jìng)爭(zhēng)層中每個(gè)神經(jīng)元與輸入層神經(jīng)元之間的連接權(quán)值構(gòu)成對(duì)應(yīng)的判別函數(shù)。當(dāng)輸入對(duì)象為自變量時(shí)，計(jì)算判斷函數(shù)所對(duì)應(yīng)的因變量值，并選擇這些值中的最優(yōu)解對(duì)應(yīng)的神經(jīng)元為該次自適應(yīng)競(jìng)爭(zhēng)學(xué)習(xí)的最佳匹配神經(jīng)元。

2）合作：最佳匹配神經(jīng)元與周圍其他神經(jīng)元進(jìn)行合作，共同進(jìn)行模型的自適應(yīng)學(xué)習(xí)，同時(shí)其也成為所需調(diào)整的神經(jīng)元[5]。

3）自適應(yīng)：最佳匹配神經(jīng)元拓?fù)溧徲蛑兴械纳窠?jīng)元需要根據(jù)輸入對(duì)象不斷調(diào)整輸入層與競(jìng)爭(zhēng)層之間的連接權(quán)值，以此改變這些神經(jīng)元所組成的判別函數(shù)，進(jìn)而對(duì)模型的輸入?yún)?shù)進(jìn)行優(yōu)化。

1.2 改進(jìn)自組織神經(jīng)網(wǎng)絡(luò)

SOM 模型的優(yōu)勢(shì)在于具有自適應(yīng)性，在進(jìn)行非線性映射的同時(shí)能夠保證輸入對(duì)象的拓?fù)浣Y(jié)構(gòu)不發(fā)生改變，但其缺點(diǎn)也較為明顯，例如網(wǎng)絡(luò)模型在訓(xùn)練時(shí)有些節(jié)點(diǎn)可能始終無(wú)法取勝，使得網(wǎng)絡(luò)出現(xiàn)死神經(jīng)元，并造成資源浪費(fèi)。此外，若要給SOM 網(wǎng)絡(luò)增加新的訓(xùn)練類別，則必須重新進(jìn)行完整的學(xué)習(xí)，綜合擴(kuò)展性能較弱[6]。

針對(duì)上述傳統(tǒng)SOM 算法模型存在的問題，國(guó)內(nèi)外學(xué)者均提出了多種不同的改進(jìn)方案，其中被大家熟知且應(yīng)用最為廣泛的是芬蘭學(xué)者Kohonen 建立的自組織特征映射神經(jīng)網(wǎng)絡(luò)（Self-Organizing Feature Map，SOFM）模型。該模型相對(duì)于傳統(tǒng)SOM 模型除了能夠解決上述問題外，其思想更為完整且算法處理效果更優(yōu)[7]。SOFM 模型在架構(gòu)上與傳統(tǒng)SOM 模型相似，均是由輸入層與競(jìng)爭(zhēng)層組成，不同的是SOFM模型的競(jìng)爭(zhēng)層優(yōu)化成了全互連的神經(jīng)元整列，其對(duì)應(yīng)的拓?fù)渚W(wǎng)絡(luò)架構(gòu)如圖2 所示。

圖2 SOFM網(wǎng)絡(luò)結(jié)構(gòu)

SOFM 模型的輸入層與SOM 相同，均為輸入對(duì)象對(duì)應(yīng)向量各元素神經(jīng)元的集合；而競(jìng)爭(zhēng)層則是由n×n個(gè)神經(jīng)元所組成的二維全互連陣列。SOFM 模型將高維對(duì)象對(duì)應(yīng)的向量映射到二維平面上，且在網(wǎng)絡(luò)訓(xùn)練過程中將輸入向量的維度固定為所設(shè)置的初始值m。該m個(gè)神經(jīng)元與二維競(jìng)爭(zhēng)層上的神經(jīng)元通過連接權(quán)值進(jìn)行連接。競(jìng)爭(zhēng)層中根據(jù)不斷的競(jìng)爭(zhēng)學(xué)習(xí)使SOFM 模型的訓(xùn)練結(jié)果朝著最有利方向反復(fù)優(yōu)化。最終，得到唯一的最佳匹配神經(jīng)元[8]。在訓(xùn)練過程中，網(wǎng)絡(luò)模型會(huì)不斷地加強(qiáng)取勝的神經(jīng)元和處于取勝神經(jīng)元鄰域的神經(jīng)元，同時(shí)對(duì)其他的神經(jīng)元進(jìn)行抑制[9]。其示意圖如圖3 所示。

圖3 模型競(jìng)爭(zhēng)層訓(xùn)練示意圖

其中，二維競(jìng)爭(zhēng)層上的神經(jīng)元均有與之對(duì)應(yīng)的正負(fù)號(hào)，代表著該神經(jīng)元在此次訓(xùn)練中是被加強(qiáng)或是被抑制（“+”代表加強(qiáng)，“-”代表抑制）。

2 數(shù)據(jù)建模

文中研究的目的是基于改進(jìn)自組織神經(jīng)網(wǎng)絡(luò)模型對(duì)創(chuàng)業(yè)數(shù)據(jù)進(jìn)行建模與仿真，進(jìn)而實(shí)現(xiàn)創(chuàng)業(yè)數(shù)據(jù)智能評(píng)估。其數(shù)據(jù)建模過程如圖4 所示。

圖4 基于改進(jìn)自組織神經(jīng)網(wǎng)絡(luò)模型的數(shù)據(jù)建模過程

上述過程可描述為：首先通過自組織特征映射神經(jīng)網(wǎng)絡(luò)SOFM 模型對(duì)研究對(duì)象的特征變量進(jìn)行選擇與分類，使具有相似性的變量產(chǎn)生聚集，同時(shí)在其中選擇若干子集進(jìn)行后續(xù)處理；然后利用Duplex算法將數(shù)據(jù)子集劃分為訓(xùn)練集、驗(yàn)證集、測(cè)試集，再根據(jù)訓(xùn)練集建立回歸分析模型[10]；隨后利用驗(yàn)證集對(duì)各模型的預(yù)測(cè)結(jié)果進(jìn)行分析，并選擇其中的最優(yōu)模型計(jì)算對(duì)應(yīng)的誤差；最后根據(jù)得到的誤差計(jì)算最終共識(shí)模型各部分的權(quán)重，并利用加權(quán)的方法將預(yù)測(cè)集的結(jié)果進(jìn)行組合，形成最后的共識(shí)作為評(píng)估結(jié)果[11]。

2.1 SOFM分類聚類過程

SOFM 模型應(yīng)用于分類聚類領(lǐng)域的算法流程如圖5 所示。聚類中常用相似度作為必要條件，把相似度高的元素聚集在一類，相似度低的元素則處于不同的類[12]。文中在設(shè)計(jì)時(shí)，用歐氏距離表示相似度。

圖5 SOFM算法流程

具體步驟為：

1）SOFM 模型各參數(shù)初始化，同時(shí)將連接權(quán)值設(shè)置為隨機(jī)值；

2）利用歐氏距離計(jì)算輸入層向量與競(jìng)爭(zhēng)層神經(jīng)元之間的距離；

3）選擇歐氏距離最優(yōu)解對(duì)應(yīng)的神經(jīng)元作為最佳匹配神經(jīng)元；

4）根據(jù)最佳匹配神經(jīng)元調(diào)整步驟1）中的連接權(quán)值；

5）判斷是否滿足終止條件，若滿足，則輸出聚類結(jié)果，流程結(jié)束；若不滿足，則跳轉(zhuǎn)至步驟2），流程繼續(xù)。

2.2 建立回歸模型

目前常用的回歸模型分為兩大類[13]：線性算法和非線性算法。其中線性算法包括最小二乘法（LSM）、多元線性回歸等；而非線性算法則包括BP 神經(jīng)網(wǎng)絡(luò)、SVM 算法等。文中在考慮實(shí)際建模需求的情況下選用最小二乘法，即LSM 算法。該算法是統(tǒng)計(jì)學(xué)中的一種經(jīng)典算法，也被稱為最小平方法，其數(shù)學(xué)模型可簡(jiǎn)單描述如下[14]：

y=Xb+c（1）

式中，y為響應(yīng)變量，X為對(duì)數(shù)據(jù)采樣所得到的樣本矩陣，b為回歸向量，c為偏差因子。

2.3 建立共識(shí)模型

共識(shí)模型的構(gòu)建可分為兩部分：1）選擇適合的建模方法，訓(xùn)練多個(gè)相互獨(dú)立的子模型；2）采用某種共識(shí)規(guī)則將上述模型進(jìn)行組合，并得到最終的共識(shí)結(jié)果[15-16]。為了使共識(shí)模型更加準(zhǔn)確，在訓(xùn)練子模型時(shí)，要使最終的子模型具有一定的預(yù)測(cè)能力且互不關(guān)聯(lián)。而在對(duì)子模型進(jìn)行組合時(shí)，也要采用最優(yōu)的關(guān)聯(lián)規(guī)則。建立共識(shí)模型的主要目的在于單個(gè)子模型所涉及的面相對(duì)較窄，而共識(shí)模型能在多個(gè)緯度上對(duì)數(shù)據(jù)的信息進(jìn)行分析，同時(shí)還可降低噪聲等無(wú)關(guān)因素的影響。為此，文中建立了基于SOFM 的共識(shí)模型，如圖6 所示。

圖6 基于SOFM的共識(shí)模型

該模型的工作流程可描述為：

1）原始數(shù)據(jù)通過SOFM 模型選擇若干數(shù)據(jù)子集；

2）對(duì)每個(gè)樣本子集利用LSM 和BP 神經(jīng)網(wǎng)絡(luò)訓(xùn)練相應(yīng)的子模型；

3）利用模型評(píng)價(jià)參數(shù)對(duì)子模型進(jìn)行評(píng)價(jià)，并選擇各數(shù)據(jù)子集中最優(yōu)的子模型；

4）通過共識(shí)規(guī)則將子模型進(jìn)行組合，得到最終的共識(shí)模型。

3 仿真測(cè)試

為了驗(yàn)證文中基于改進(jìn)自組織神經(jīng)網(wǎng)絡(luò)的創(chuàng)業(yè)數(shù)據(jù)評(píng)估建模方法的有效性與可靠性，采用某高校近十年的創(chuàng)新創(chuàng)業(yè)原始數(shù)據(jù)集對(duì)所提出的建模仿真方法進(jìn)行測(cè)試。

3.1 硬件配置

建模仿真實(shí)驗(yàn)的硬件條件具體如表1 所示。

表1 建模仿真硬件條件

3.2 數(shù)據(jù)建模仿真

在上述硬件條件下，將原始數(shù)據(jù)集分為8 組，為了體現(xiàn)所提建模算法的優(yōu)勢(shì)，分別利用文中方法和文獻(xiàn)[16]中的方法進(jìn)行建模，同時(shí)利用預(yù)測(cè)均方根誤差（RMSE）和標(biāo)準(zhǔn)差（SD）作為判別模型的標(biāo)準(zhǔn)。均方根誤差（RMSE）的值越小，模型的表現(xiàn)效果越優(yōu)；標(biāo)準(zhǔn)差（SD）的值越小，則對(duì)數(shù)據(jù)的預(yù)測(cè)越穩(wěn)定。兩種方法的建模結(jié)果分別如表2 和表3 所示。

表2 文中方法建模結(jié)果

表3 文獻(xiàn)[16]方法建模結(jié)果

由以上兩個(gè)表格的結(jié)果可以看出，文中建模方法的均方根誤差（RMSE）和標(biāo)準(zhǔn)差（SD）均小于文獻(xiàn)[16]中的建模方法，充分說明所提方法在模型準(zhǔn)確性和預(yù)測(cè)穩(wěn)定性上均優(yōu)于對(duì)比方法；同時(shí)該項(xiàng)測(cè)試驗(yàn)證了文中所提方法的可行性與可靠性，并能夠?yàn)闇?zhǔn)確地進(jìn)行創(chuàng)業(yè)數(shù)據(jù)建模與仿真提供了重要參考。

4 結(jié)束語(yǔ)

文中基于改進(jìn)自組織神經(jīng)網(wǎng)絡(luò)算法，提出了一種創(chuàng)業(yè)數(shù)據(jù)評(píng)估建模方法。該方法由SOFM 算法模塊、Duplex 算法模塊、回歸模型模塊和共識(shí)模塊4 部分組成，各部分相互配合共同完成創(chuàng)業(yè)數(shù)據(jù)的建模與仿真。為了驗(yàn)證所提建模方法的有效性，文中設(shè)計(jì)了一組對(duì)照實(shí)驗(yàn)，并以均方根誤差（RMSE）和標(biāo)準(zhǔn)差（SD）作為判別標(biāo)準(zhǔn)參數(shù)。測(cè)試結(jié)果說明，文中方法在模型準(zhǔn)確性和預(yù)測(cè)穩(wěn)定性上均優(yōu)于對(duì)比方法，驗(yàn)證了所提方法在數(shù)據(jù)建模中的可行性。