基于進化多目標軟子空間聚類的商業銀行企業客戶信用風險識別

劉 超 謝 菁 李元睿劉宸琦

(1.北京工業大學經濟與管理學院,北京 100124;2.北京現代制造業發展研究基地,北京 100124;3.中國人民大學財政金融學院,北京 100872;4.南加利福尼亞大學計算機科學系,美國洛杉磯90001)

1 引言

在產業供給側結構性改革已取得初步成效的背景下,黨的第十三次集體學習會議進一步強調,要深化金融供給側結構性改革,增強金融服務實體經濟的能力.商業銀行作為我國重要的金融中介機構,在金融體系中發揮著信用中介職能,促進了資本盈余和短缺之間的融通,提升了金融資源配置的合理性,是我國金融供給側結構性改革的重要推動者,也是促進金融與實體經濟良性循環的活化劑.然而,隨著近年來我國經濟下行壓力凸顯,商業銀行在擴大信貸供給的同時也面臨著日益嚴重的信用風險.一方面,經濟增速放緩、產業結構轉型升級導致企業經營狀況不斷惡化,資產質量下行壓力增大[1];另一方面,銀行信貸規模增長、客戶結構變化以及數據管理變革使得信用評估難度不斷加大.在此背景下,商業銀行的不良貸款,尤其是企業客戶不良貸款顯著增加,信用風險持續暴露[2].據銀保監會統計,2019 年末商業銀行不良貸款余額為2.41 萬億元,不良貸款率為1.86%,連續三年呈現增長態勢.同時,各商業銀行也報告了近年企業不良貸款率的持續上升趨勢,商業銀行的經營管理面臨著極大挑戰.

面對日益攀升的信用風險,如何改進信用風險識別技術、提升信用風險管理水平是當前商業銀行風險管理的首要工作.迄今為止,學界和業界已對商業銀行信用風險識別技術展開了廣泛的研究和討論,并在一定程度上取得了有益進展.通過匯總既有的研究成果,可以將信用風險識別技術劃分為定性法和定量法兩大類.其中定量法又可細分為數理統計方法以及機器學習方法.

定性法主要是指專家判別法,其通過信貸專家的知識儲備與從業經驗對企業客戶的信用風險狀況進行判斷[3].“5C”要素分析法作為應用最為廣泛的專家判別法,是通過對借款方的品德、能力、資本、擔保品以及條件狀況進行充分分析,并予以不同權重,從而進行貸款決策[4].但由于定性法存在著主觀性以及偏好性較強等缺點[5],學者們逐漸將研究重點轉向了定量分析,數理統計方法由此廣泛應用于商業銀行企業客戶的信用風險識別研究.Milagros 等[6]基于Z 值模型對酒店業企業的信用風險進行了多元回歸分析,測算了風險大小.王籽俊等[7]利用Logistic 模型實證了房地產企業的經營狀況在很大程度上會影響商業銀行信貸資產的質量,從而引發銀行信用風險.滿向昱等[8]基于企業的信用風險特征,采用Lasso-Logistic 模型對中小微企業信用風險進行了估計和預測,證實了所提模型的有效性.霍源源等[9]構建了一個基于Probit 模型的制造業企業信用風險識別方法,實證了該模型能夠較好地預測企業違約事件發生概率.

隨著近年金融創新的蓬勃發展,金融衍生品大量涌現,數理統計方法難以駕馭由此產生的海量客戶信息以及非結構化數據.在此背景下,基于監督式和非監督式機器學習(Machine Learning)技術的商業銀行信用風險識別模型應運而生.在監督式機器學習的應用方面,Raei 等[10]基于神經網絡模型構建了一個兩階段混合算法用于估計商業銀行企業客戶違約概率,并得到了有效的建模結果.Hamori 等[11]在企業信貸違約研究中比較了Bagging,Boosting 等機器學習技術,指出Boositng 的建模效果較優.戴昕琦[12]實證了隨機森林模型在商業銀行供應鏈金融信用風險評估方面的有效性.肖斌卿等[13]通過對12 種商業銀行內部信用評級模型進行比較,指出基于Levenbery-Marquardt 學習算法的神經網絡模型在小微企業信用風險識別中表現最為突出.在非監督式機器學習的應用方面,Andr′es 等[14]以聚類緊湊性作為有效性指標,實證了聚類在識別精度以及貸款決策利潤方面都優于其它模型.Bai 等[15]提出了一個新的分離性聚類有效性指標,實證了改進的聚類算法在建模效果方面具有有效性.熊正德等[16]以滬深A股制造業上市公司為研究對象,指出加權模糊C 均值聚類能夠顯著提高信用違約識別的準確性.

綜上所述,既有研究已構建了形式多樣的商業銀行企業客戶信用風險識別模型,具有一定的實踐意義.但仍存在著兩點不足:一是既有研究并未將新的用戶畫像以及業務交易場景下信用數據集呈現出的高維、類不平衡等特征納入信用風險識別模型的構建過程,難免導致模型在風險識別準確性和穩健性方面產生偏差,同時也影響了模型的泛化能力.二是既有研究側重于風險識別模型的構建以及實證結果的有效性分析,忽視了企業信用風險的關鍵影響因素,從而難以深入探究企業客戶的內在特征,無法為商業銀行信用風險的有效管理和防范提供決策支持.

針對以上不足,本文在考慮信用數據集自身特征以及企業信用風險影響因素的基礎上,將一個進化多目標軟子空間聚類(EMOSSC)算法應用于現實的商業銀行企業客戶信用風險識別問題.與其它模型不同的是,該算法既能夠識別高維信用數據集潛在的特征子空間,又能夠有效處理數據的類不平衡問題.此外,該算法還給出了數據集各個特征維度的權重,并根據權重的大小進行了指標重要性評價.本文將EMOSSC 算法應用于我國商業銀行企業客戶信用風險識別研究,以期在信貸審批過程中為商業銀行的信用風險管理提供政策建議,為商業銀行助力金融供給側結構性改革、提升金融服務實體經濟的能力提供有力支撐.

2 進化多目標軟子空間聚類

2.1 聚類有效性評價

聚類分析作為一種無監督式方法,可以在缺乏類標簽和先驗知識的情況下對數據進行分類,以最大化同一類內的相似性和不同類間的相異性[17].然而,數據規模和維度的不斷增加導致傳統聚類算法難以準確定義度量函數.子空間聚類作為一種將傳統的聚類分析與特征選擇相結合的技術能夠有效解決上述問題,其通過把數據集的原始高維特征空間劃分為不同的特征子集,以實現從不同的子空間角度考察各個類的劃分意義.

軟子空間聚類作為子空間聚類的一個重要類別,是指在高維空間聚類時對每個類的各個特征都分配一個權重,從而測量各個特征對特定類的重要性.軟子空間聚類的質量通常取決于聚類有效性指標的選取.Harvin 等[20]提出了加權局部自適應聚類(WLAC)算法,該算法作為一種熵加權軟子空間聚類算法,能夠有效處理類的不平衡性質以提高聚類的性能.WLAC 算法的有效性指標可以表示為

在式(1)中,WLAC 算法的有效性指標由三項組成:第一項反映了類內緊湊性,第二項與第三項作為懲罰項分別控制了熵和不同類的影響.其中類不平衡問題主要是通過系數zi進行處理.一般情況下,類ci越大,zi越小,這意味著若一個類具有較大的規模或者較大的方差,那么不同類之間的距離將會縮小,反之則擴大.Xik估計了類內緊湊性的平均值,充分考慮類大小的影響.

然而,信用風險識別問題通常具有高維度、類不平衡性質.盡管WLAC 算法將類內緊湊性和信息熵引入聚類有效性指標,但其忽視了類間信息的使用,未對類間分離性進行度量.若一個數據集的不同類之間存在著大小、形狀和密度方面的較大差異,那么各個類中的樣本點對緊湊性度量的貢獻是不同的,這種情況下所有樣本點到聚類中心的距離之和并不能有效反映類的緊湊性.因此,為了使聚類有效性指標能夠更好地反映并衡量數據集的內部結構,EMOSSC 算法同時考慮了類內緊湊性、類不平衡性和類間分離性,

式(2)共包含四項,第一項衡量了加權類內緊湊性,第二和第三項分別用于控制W和Z的權重,稱作W和Z的懲罰項,在一定程度上反映了類不平衡信息,而最后一項用于表示不同類之間的分離.考慮分離性度量項的原因在于,當使用所有聚類中心間的最小距離表示聚類劃分的分離性程度時,如果能夠實現所有類之間的距離都盡可能的大,那么所有類之間的分離性也將盡可能的大.結合信用數據集內部結構特性,一個好的聚類有效性指標不僅要使得同類的內部緊湊性與不同類之間的分離性盡可能大,還需要充分考慮類的大小的影響,克服類不平衡的缺點.因此,式(2)將每個類的權重和特征權重合并為平均類內緊湊性,且同時考慮了類間分離性,從而試圖捕獲具有高維特征空間和類不平衡性質數據集的內部結構.

2.2 算法框架

EMOSSC 算法是在考慮了數據自身特征的基礎上,將軟子空間聚類與進化多目標算法相結合所提出的一個新的商業銀行客戶信用風險識別算法.首先,將聚類有效性指標(2)轉化為一個四目標優化問題(見式(3)),將其作為EMOSSC 的目標函數,并將輸入聚類數據集的各個維度規范化為[0,1].其次,基于自適應排序的進化算法(ASEA)[19]解決四目標優化問題.而后,引入一個局部搜索策略以加速算法的收斂.最終,當滿足終止條件時,采用期望邊際效用(EMU)對最終結進行選擇[20].EMOSSC 算法具體步驟如下:

步驟1輸入種群規模N,最大迭代次數Gmax,四目標優化問題F,歸一化后的聚類數據集T;

步驟2P0,Λ ←ASEA 的種群初始化(N);

步驟3判斷G≤Gmax是否成立,若成立,執行步驟4～步驟6,否則執行步驟7;

步驟4QG ←ASEA 的交叉和變異算子(PG);

步驟5QG ←局部搜索(QG);

步驟6PG+1←ASEA的環境選擇算子(PG ∪QG,F,T);

步驟7最終解←EMU(PGmax).

2.3 目標函數

進化多目標算法可以將單目標問題轉化為多目標問題,從而有效解決加權系數不宜確定以及系數對初始值高度敏感的缺陷.因此,引入多目標優化策略之后的四目標優化問題表達式為

其中f1衡量了聚類內部的距離之和,f1越小說明類越緊湊;目標函數f2與f3引入權重熵的概念,通過維度權重的負熵和類的權重熵以使目標函數適用于數據分布復雜的問題;目標函數f4衡量了不同類之間的距離之和,f4越小則類間分離性越好.

如式(3)所示,四個目標函數相互平衡制約,當縮小或者擴大子空間規模時,這些目標函數能夠很好地應對相應的變動.同時優化四目標函數可以有效地避免傳統算法中需預先設定加權系數以及對初始值較為敏感的缺點.

2.4 編碼方式

EMOSSC 采用基于類中心的編碼方式,每個以類中心坐標的實數表示的染色體包含C ×D個維度,C和D分別表示類別數和特征數,染色體的編碼范圍在0-1 之間.由于基于類中心的編碼方式的聚類中心數C與特征數量D遠小于樣本點的數量n,因此具有染色體較短的優點.此外,由于每個染色體所包含的基因的位置不是隨意排列,而是按照每個基因第一維數據的大小進行升序排列的,因此在這些染色體上應用不同的遺傳算子(例如交叉和變異)所需時間更少,這又能夠進一步加速算法的收斂[21].

2.5 局部搜索

通過引入一個局部搜索策略,可以實現優化過程的加速以及隸屬度矩陣U,聚類權重Z以及特征權重W的更新.對于個體x而言,聚類中心可以定義為

其中隸屬度矩陣U可以更新為

聚類權重矩陣Z可以更新為

2.6 最終解選擇

多目標優化問題的最后一步是找到一種方法從一組非支配解中選擇最終解[22,23].通常是將目標空間中的膝蓋點,即具有最大的邊際報酬率的點作為最終解.EMOSSC 采用基于效用的預期邊際效用(EMU)確定膝蓋點[20].

假設已知決策者具有特定函數U(x,λ′),則可計算種群中每個個體xi的決策者效用為U(xi,λ′),從而決策者可以選擇效用最高的個體作為最終解.但是,當特定個體失效時,決策者將不得不選擇次優個體,此時邊際效用的附加成本函數可以表示為

為了計算預期邊際效用,此處的效用度量假定效用函數在參數λ中服從均勻分布.以兩個目標為例,預期邊際效用可以通過對所有可能的線性效用函數進行如下計算:如果所有解都按照f1標準進行排序,則在i處的解由xi表示.此外,目標權值λi,j能夠使得解xi和xj具有同樣的效用,即

解xi的期望邊際效用可以計算為

因此,當出現兩個目標函數時,效用測度為U(x,λ)=λf1(x)+(1?λ)f2(x)且λ ∈[0,1],以此類推至兩個以上目標函數.通常將總體邊際效用最大的個體作為最終解.

3 實證研究

3.1 樣本及指標選取

為驗證EMOSSC 模型在商業銀行企業客戶信用風險識別問題中的效果,從滬、深兩市A 股市場中選取154 家上市企業作為研究樣本,令2018 年首次ST 企業(記為“1”)作為高信用風險樣本,共計54 家.同時根據“行業相似、規模相近”的原則[24,25]選擇對應的非ST 企業(記為“2”)作為低信用風險樣本,共計100 家.選擇ST 和非ST 企業作為研究樣本的原因在于,被實施風險警示的上市企業通常在財務和經營方面存在異常情況,因此具有較高的信用風險,故可將其作為存在違約行為的一種標志.相反,非ST 公司則可視作信用良好的樣本.綜合滬、深交易所關于上市公司風險警示的定義,本文選擇2017 年財務報表中的數據作為信用風險識別的樣本數據.

一般而言,影響企業客戶信用風險的因素可以分為財務因素和非財務因素[25].財務因素一般是指定量的財務指標,非財務因素不僅涉及定量指標也涉及定性指標.商業銀行通過對借款企業的財務因素和非財務因素進行分析和監控,可以獲取信用風險識別和管理的依據[26].基于指標體系構建原則,結合國外權威指標以及我國商業銀行現有指標體系,本文分別從財務因素(盈利能力、償債能力、風險水平、營運能力、現金流量、成長能力)和非財務因素(公司治理、股權結構、外部審計)兩方面選取了9 個一級指標、46 個二級指標作為實證研究的備選指標,以此全面反映商業銀行企業客戶的整體信用狀況.信用風險識別指標體系如表1所示.

表1 信用風險識別指標體系Table 1 Index system of credit risk identification

續表1Table 1 Continues

3.2 對比算法及參數設置

本文選取了兩個廣泛使用的傳統聚類算法——K 均值聚類(k-means)[27]和模糊C 均值聚類(FCM)[28],以及三個具代表性的軟子空間聚類算法——模糊子空間聚類(FSC)[29]、加權局部自適應聚類(WLAC)[30]、基于進化多目標算法的軟子空間聚類(MOEASSC)[31]用作對比算法.

對比算法的參數根據來源論文所確定的范圍進行隨機選擇.根據Yu 等[32]的建議,本文將模糊指數設置為m=min(N,D ?1)/[min(N,D ?1)?2],其中N和D分別為樣本的數量和維度.在FSC 算法中,ε表示加權系數,τ表示模糊參數.根據文獻[30],可設置WLAC 中的參數h1和h2.MOEASSC 所采用的基準優化算法NSGA-II 的參數設置與Hu 等[31]相同,而EMOSSC 的基準優化算法ASEA 的參數設置來自于Liu等[19]的建議,Gmax表示最大迭代次數,Np表示種群規模.每個算法在每個測試數據集上運行20 次.參數設置如表2 所示.

表2 參數設置Table 2 Parameter settings

3.3 聚類有效性評價指標與統計檢驗

本文采用蘭德指數(RI)[33],F 度量(FM)[34],第一類誤判率(Type-I error)和第二類誤判率(Type-II error)[35]這四種常用的聚類有效性評價指標用以評估聚類結果的好壞.

蘭德指數主要用于評估類間的相似性;F 度量是一個平衡度量指標,主要是利用信息檢索中的精度(precision)以及召回(recall)來衡量一個聚類僅包含特定類的樣本占該類的所有樣本的程度.第一類誤判率(Type-I error)和第二類誤判率(Type-II error)解釋了正類和負類的錯誤分類成本.當信用不良申請人被視為信用良好申請人時,會產生第一類誤判率.在此情況下,錯誤分類的申請人將造成違約.反之則會產生第二類誤判率.第一類誤判率和第二類誤判率值越小,聚類結果越好,在信用風險識別問題中,與第一類誤判率相關的錯誤分類成本比第二類誤判率更重要[36].

本文使用Wilcoxon 符號統計測試算法性能的統計顯著性,其原假設H0為算法A 的平均準確性/平均第一類誤判率/平均第二類誤判率=算法B 的平均準確性/平均第一類誤判率/平均第二類誤判率,并用性能等級P表示算法優劣.P可以由以下公式進行計算

其中i和j是算法的序號,如果Aj優于Ai,那么βi,j=1;否則βi,j=0.在給定數據集和性能度量的前提下,具有較小P值的算法具有更好的性能.

4 實證結果

4.1 模型準確性檢驗

將EMOSSC 算法的聚類結果與其它兩個傳統聚類算法、三個最先進的軟子空間聚類算法進行對比,如表3 所示.由實驗結果可以得出如下分析.

表3 算法度量的平均值和標準差Table 3 Mean and standard deviation values of metrics of algorithms

首先,本文提出的EMOSSC 算法在所選樣本數據中表現出了最高的準確性,其RI 值和FM 值分別為0.875 1和0.883 9,分別高于第二位的FSC 算法10.9%和6.69%.值得注意的是,盡管EMOSSC 算法的第二類誤判率性能略差于WLAC,FSC 和k-means 算法,但是EMOSSC 在第一類誤判率方面顯著優于其它算法,其主要原因在于本文所選取的商業銀行企業客戶樣本為類不平衡數據集,ST 公司與非ST 公司比例約為1:2,而WLAC,MOEASSC 等軟子空間聚類算法無法正確處理類不平衡問題,難以較好地區分少數類,因此才會出現第二類誤判率較低而第一類誤判率極高的現象(例如,WLAC 的第二類誤判率值為0.004 0,但第一類誤判率值高達0.837 0).而在信用風險識別問題中,第一類誤判率顯然比第二類誤判率更加重要,錯誤分類成本的失衡也會進一步導致RI 值和FM 值的偏差.

第二,軟子空間聚類算法在高維數據集上的表現總體優于傳統聚類算法.盡管FSC,WLAC 和MOEASSC 這三個軟子空間聚類算法的準確率總體上與傳統的k-means 和FCM 算法相當,但是由于FSC,WLAC 和MOEASSC 的聚類結果高度依賴于預定義的加權系數,因此在沒有最優加權系數的先驗知識的情況下,無法獲得這些算法的最優結果.此外,由于同時對四個目標函數進行優化,且無需預定義加權系數,因此本文提出的EMOSSC 算法表現出了更好的準確性.

第三,對于類別不平衡的企業客戶數據集,EMOSSC 能夠獲得比其它算法更好的結果(WLAC 的結果如前文所述有偏差).此外,FSC 在RI 值、FM 值和第一類誤判率中也獲得了較有競爭力的表現,這充分說明了權重對于聚類的重要性,以及對類不平衡數據集的平均類內緊湊性進行衡量的必要性.

此外,由表3 可知,在RI,FM 以及第一類誤判率中,EMOSSC 算法運行20 次后的標準偏差低于傳統聚類算法以及其它三個軟子空間聚類算法;而對于第二類誤判率而言,EMOSSC 的標準偏差略高于k-means算法,又低于FCM 和其它三個軟子空間聚類算法.綜上所述,EMOSSC 總體穩定性優于對比算法.

4.2 模型顯著性檢驗

為了避免判別結果的偶然性.本文通過Wilcoxon 秩和檢驗驗證上述實驗結果的顯著性,圖1 表示了6個聚類算法在4 個有效性評價指標中的性能等級,數值越大意味著性能越好.

由圖1 可知,本文所提出的EMOSSC 算法在RI,FM 以及第一類誤判率中都表現出了最好的性能,位列第一位,而樣本的類不平衡性質導致了EMOSSC 在第二類誤判率中位列第四位.從整體而言,EMOSSC 算法的顯著性最高,緊跟其后的是FSC 算法以及k-means 算法,從而進一步證明了本文所提算法在商業銀行企業客戶信用風險識別問題中的有效性.

4.3 模型穩健性檢驗

為進一步驗證所提算法在不同數據集上的有效性和穩健性,本文采取相同的規則選取了2017 年的48家ST 公司和96 家非ST 公司作為算法的穩健性檢驗樣本.EMOSSC 及其它5 個對比算法在2017 年商業銀行企業客戶樣本中的評價指標均值和標準差值如表4 所示.

由表4 可知,EMOSSC 的RI 均值和FM 均值顯著高于對比算法,第一類誤判率均值顯著低于對比算法,并且均值的標準差值都更小,說明EMOSSC 在2017 年商業銀行企業客戶信用風險識別中具有較高的準確性和穩健性.

表4 算法度量的平均值和標準差Table 4 Mean and standard deviation values of metrics of algorithms

與2018 年企業客戶樣本的實驗結果相比,EMOSSC 算法在2017 年樣本中的RI 值和FM 值有所下降,第一類誤判率有所上升,在一定程度上表明算法的信用風險識別準確性有所下降、分類錯誤成本有所提升,這可能是由于樣本數據差異而導致的.總體而言,EMOSSC 算法在信用風險識別的表現出了較高的準確性和較強的穩定性.

4.4 指標重要性評價

多目標軟子空間聚類算法的優勢之一在于其能夠在高維空間聚類時對每個類的各個特征分配權重,從而測量各個特征對特定類的重要性.因此,在商業銀行企業客戶信用風險識別問題中,可以根據指標權重的大小來判斷指標的重要性,即權重越大的指標對于信用風險識別的能力越強.表5 展示了排名為前15 位的企業客戶信用風險識別指標.

表5 企業客戶信用數據集中的指標權重排名Table 5 Ranking of indicators for enterprise datasets

由表5 可知,X3(凈資產收益率)、X12(利息保障倍數)、X15(權益乘數)、X16(產權比率)、X18(存貨周轉率)、X25(財務杠桿)、X26(經營杠桿)、X27(綜合杠桿)、X30(凈利潤增長率)、X32(每股凈資產收益率)、X33(留存收益資產比)和X34(凈利潤現金凈含量)這12 個指標對于企業客戶信用風險具有較為顯著的識別能力,尤其以權重高于0.05 的凈資產收益率、利息保障倍數、財務杠桿、經營杠桿和綜合杠桿最為突出.因此,在企業客戶信用風險識別過程中應該積極關注企業的財務報表信息,如償債能力、營運能力、成長能力和現金流量等,尤其要側重于盈利能力和風險水平分析.

5 結束語

本文以商業銀行企業客戶為研究對象,從信用數據高維、類不平衡的特征出發,將進化多目標軟子空間聚類(EMOSSC)算法應用于商業銀行客戶信用風險識別.研究結論表明,EMOSSC 算法不僅在商業銀行企業客戶信用風險識別問題中具有良好的適用性,而且能夠有效揭示信用風險的關鍵影響因素,為商業銀行信用風險的防范和監管提供指導.未來可以嘗試將EMOSSC 算法拓展到同樣具有高維、類不平衡性質的其它實際問題中,如生物信息學中的基因選擇、醫學中的病例篩查、計算機科學中的軟件缺陷以及多標簽文本分類等,為這些領域的進一步研究提供方法支撐.