深度置信網絡的代價敏感多粒度三支決策模型研究

摘 要：最優粒度選擇是自編碼網絡構造多粒度特征的關鍵環節。針對自編碼網絡粒度選擇方法不合理導致特征提取效果差以及錯誤分類成本和測試成本高的問題，提出一種基于小批量梯度下降（mini-batch gradient descent，MBGD）的粒度層選取策略。該方法通過改變粒度選擇方式重新構建多粒度空間，設計一個新的基于深度置信網絡（deep belief network，DBN）的代價敏感多粒度三支決策模型。更優的粒度選擇方法提升網絡的特征提取能力，促使多粒度空間的構造朝著最快到達最細粒度空間的方向發展，降低圖像重構誤差以達到更小的錯誤分類代價和測試代價。實驗結果表明，提供合理的粒度選取策略提高了代價敏感多粒度三支決策模型的決策準確性，并在給定代價情況下更快地獲得總代價最小的最優粒層。

關鍵詞：粒計算；代價敏感；三支決策；深度置信網絡；圖像識別

中圖分類號：TP391 文獻標志碼：A

文章編號：1001－3695（2023）03－031－0833－06

doi：10.19734/j.issn.1001-3695.2022.08.0406

Research on cost-sensitive multi-granularity three-way decision model for deep belief network

Lyu Yanna1，Gou Guanglei1，Zhang Libo2，Zhang Yaohong1

（1.College of Computer Science amp; Engineering，Chongqing University of Technology，Chongqing 400054，China；2.School of Artificial Intelligence，Southwest University，Chongqing 400715，China）

Abstract：Optimal granularity selection is a critical link in constructing multi-granularity features in autoencoder networks.Aiming at the problem of unreasonable granularity selection method in autoencoder networks，which leds to unsatisfactory feature extraction effect，high misclassification cost，and high testing cost，this paper proposed a granularity layer selection strategy based on mini-batch gradient descent （MBGD）.This approach reconstructed the multi-granularity space by changing the granularity selection method and designed a new cost-sensitive multi-granularity three-way decision model based on a deep belief network （DBN）.The superior granularity selection method enhanced the feature extraction ability of the network，promoted the construction of multi-granularity space to develop towards the fastest reaching the most fine-grained area，and reduced the image reconstruction error to achieve more minor misclassification cost and test cost.The experimental results show that providing a reasonable granularity selection strategy improves the decision accuracy of the cost-sensitive multi-granularity three-way decision model，and can obtain the optimal granular layer with the smallest total cost faster under the given cost.

Key words：granular computing；cost-sensitive；three-way decision；deep belief network; image recognition

0 引言

近年來，粒計算［1］已成為一個重要的研究領域，它是信息處理的一種新計算范式。在粒計算中，粒是用來表示和描述復雜系統或復雜問題的元素、單元和概念。按照粒化準則得到的所有粒的全體構成一個粒層，由于粒化程度不同，同一問題空間會產生多個不同的粒層，粒層之間的相互聯系構成一個粒結構。多級層次結構［2］可以突出問題空間的不同特征和關系，將一個復雜的過程劃分為多個層次級別以服務于不同的目的，避免單個層次偏差引起的潛在缺陷。粒度用來衡量粒的大小，各個粒層的粒都具有不同的粒度，最優粒度選擇是序貫三支決策領域的研究熱點，旨在選擇合理的粒度方法求解復雜問題。

序貫三支決策（sequential three-way decision，S3WD）［3］是根據粒計算的概念提供一種靈活的機制，幫助客戶在信息粒化過程中作出更正確的決策。S3WD是基于決策理論粗糙集［4］的一種處理不確定性決策的方法，除了將樣本劃分為接受域和拒絕域外，還有一個邊界域［5］。為了降低代價損失，將不確定的樣本劃分到邊界域只是一個臨時決定，待用戶獲取的信息量增多，更多樣本會被正確劃分，邊界域會逐漸減小。目前在3WD分類器［6］、不完備區間值的決策系統3WD模型［7］、矩陣分解的動態3WD推薦［8］等眾多方面均已取得較大突破。代價敏感多粒度三支決策［9］主要是從粒計算的角度提高決策的有效性，實現從粗粒度到細粒度的漸進式決策過程。當前在決策樹［10］、多分類三支決策［11］、不平衡分類［12］、圖像識別［13］等方面應用廣泛。

提取多粒度特征是構建代價敏感多粒度三支決策模型的基礎。傳統的代價敏感多粒度三支決策模型用于解決信息系統和決策系統的問題，涉及到的數據集是結構化數據。系統中的屬性直接視為特征，使用特征選擇方法消除不重要或不相關的屬性，從原始特征集合中獲得最優子集，構成多粒度結構。從傳統模型角度來看，Zhang等人［14］提出了一種新的基于罰函數的序貫三支決策模型；張清華等人［9］基于信息增益和卡方檢驗提出了一種基于代價敏感的序貫三支決策最優粒度選擇方法；Zhang等人［15］定義了S3WD模型中兩種類型的錯誤糾正和兩種類型的有效分類，提出了一種具有自主糾錯的S3WD模型；Telikani等人［16］為了降低入侵檢測系統技術受到類不平衡的影響，設計了一種成本敏感的堆疊式自動編碼器。

特征選擇只適合有屬性的數據集。對于圖像、音頻、視頻等沒有屬性的非結構化數據集，采用特征提取方法在壓縮的子空間中處理數據，旨在找到初始數據在更低維度的近似表示。這些特征可用做數據的粒度描述符，從而構造多粒度結構。特征提取方法分為線性特征提取和非線性特征提取，在線性特征提取方面，Man等人［17］使用稀疏表示的概率模型估計測試樣本的后驗概率，通過最小化損失來預測類標簽；Li等人［18］提出基于子空間的多粒度特征集的正式定義處理圖像數據集；Wan等人［13］通過分析成本敏感的特征提取階段和成本敏感的分類階段，定義一個統一的框架解決兩階段問題。

傳統的基于子空間的特征不能直觀地表示多級圖像的粒度結構，所以采用比線性特征提取方法能力更強的非線性特征提取方法。非線性特征提取網絡應用廣泛，Savchenko［19］在卷積神經網絡中選出特定的網絡層作為粒度層的選取，進行快速的S3WD推理機制；Yue等人［20］通過證據理論構造神經網絡的三向圖像分類；Li等人［21］使用深度神經網絡對圖像進行特征提取，結合代價敏感三支決策避免了網絡存在的缺陷問題；Zhang等人［22］首次提出基于自編碼網絡的多粒度特征定義，平衡錯誤分類代價和測試代價。但自編碼網絡的代價敏感多粒度三支決策模型在最優粒度選擇方面存在一定的問題需要改進。從最優粒度選擇方式上看，現有模型在構造多層粒度結構的過程中沒有充分考慮數據冗余和未制定一個合理的粒度層選取策略，結果會造成每一粒層的粒度尺度過粗，相鄰粒度層間的特征信息沒有明顯的變化，提取重用的特征信息少，導致高的錯誤分類代價。粒度層的選擇對測試代價的影響極為敏感，在訓練集數據量大的情況下，遍歷全部樣本作為一個粒層的選取方式造成大的測試代價，從而導致總代價增大，而且得到的最低總代價的粒層延后。

在圖像處理方面，為多粒度三支決策過程選擇重要的特征和粒化方法是首要目的。針對上述問題，本文提出基于小批量梯度下降的粒度層選取方法。MBGD訓練網絡參數的步驟與粒度層的選取一一對應，借助自編碼網絡訓練過程中的重構誤差，評估每一粒度層獲取的特征信息以供決策。將該策略應用于DBN中，改進現有模型的多粒度特征定義，重新構建基于DBN的代價敏感多粒度三支決策模型。以MBGD方法構造的多粒度結構，細化粒度尺度，有效提升模型的特征提取能力。這樣在代價敏感分類器中計算圖像屬于每類的概率時可以更準確，最終降低了錯誤分類代價、測試代價、邊界域樣本數量和各種錯誤分類率。將所提模型與代價盲從二支決策（cost-blind two-way decision model，CB2WD）和代價敏感二支決策模型（cost-sensitive two-way decision model，CS2WD）作對比，進一步驗證代價敏感三支決策（cost-sensitive three-way decision model，CS3WD）的有效性。實驗結果表明，所提方法在不同的指標下能夠產生合理的多粒度空間結構，同時在圖像識別中取得了更低的錯誤率和重構誤差，并且使用更少的數據量就能達到與原方法一樣的效果，降低了測試代價。在與原方法使用數據量相同的情況下，所提方法獲得了更低的錯誤分類代價和錯誤分類數，可以在代價更小的粒度空間趨于穩定狀態并降低總代價，更符合實際應用場景代價最小的需求。

1 基于DBN的代價敏感多粒度三支決策模型

1.1 本文方法概述

研究DBN的代價敏感多粒度三支決策模型在圖像識別方面存在的最優粒度選擇問題。所提模型的多粒度結構每一層都由特征提取、概率計算、決策分類三個部分組成，如圖1所示。首先，將訓練樣本分為若干批次，一個批次的數據送入DBN中使用MBGD方法訓練參數，計算重構后的輸出圖像與原始輸入圖像之間的誤差并對訓練樣本和測試樣本進行特征提取；然后，將提取的特征送入代價敏感分類器中，求取測試樣本被劃分為每一類別的概率值；最后，結合得到的每一張圖像的概率與兩類錯誤分類和兩類不確定性分類的代價參數，設計將樣本劃分到正域、負域、邊界域三種決策的代價公式。計算出此粒度層的所有錯誤分類代價以及訓練一個批次樣本的測試代價，然后得到總代價。按照上述流程循環第二個批次，直至將所有批次循環一遍，稱之為一輪結束。由于各個批次的樣本間會存在訓練結果相互抵消的問題，需要多輪訓練達到收斂狀態，最終在錯誤分類代價趨于穩定時停止決策，獲得最優粒度層和最低的總代價。整體算法流程如圖2所示。

首次提出基于MBGD的粒度層選取策略，解決粒度尺度粗和提取重要信息少的問題，得到了更優的粒度選擇方法。在每個新的粒度層上可以獲得更精細的特征信息，提升網絡的特征提取能力，加快多粒度空間的構建速度，從而提出新的DBN的代價敏感多粒度三支決策模型進行圖像識別。所提模型降低了訓練的測試代價、錯誤分類代價、錯誤分類率和重構誤差，在更早的粒度層停止決策，避免進一步總代價的損失。使用MBGD作為最優粒度選擇方法不僅促進DBN的代價敏感多粒度三支決策模型的發展，而且在其他自編碼網絡和線性特征提取算法模型中同樣適用。

1.2 基于MBGD的最優粒度選擇方法

DBN［22］由于特征提取能力強，在圖像識別和分類等研究中被廣泛使用。但獲取最佳特征的訓練過程通常比較耗時，此外，它是成本不敏感的雙向模型，設置所有的錯分代價相同，在特征信息有限的情況下只能作出二支決策，增大測試代價和總代價。于是將DBN與代價敏感多粒度三支決策結合，構造符合多粒度結構的模型解決DBN的缺點。

現有模型構建多粒度結構時，每一粒度層選擇全部樣本進行訓練的粒度選擇方式會產生數據量冗余和特征提取效果差的問題。而且粒度尺度過粗會致使構造的多粒度結構跨度大，影響模型的最優粒度選擇。使得相鄰兩粒度層間的特征信息未有明顯變化，更精細的特征信息未被提取，最終決策時錯誤分類代價和總代價等指標相對較高。

Li等人［21］發現深度神經網絡（deep neural network，DNN）為了最小化損失函數，采用批量梯度下降的優化算法。該算法可以最小化輸出圖像與目標圖像之間的誤差，符合三支決策多粒度結構的構造，使DNN能高效地與三支決策結合進行圖像識別。受Li等人的啟發，提出使用MBGD方法作為最優粒度選取方式訓練DBN中的參數，構建多粒度空間。MBGD避免了隨機梯度下降的不穩定和批量梯度下降運算效率低、成本大的缺點，但結合了兩者訓練快、可以得到全局最優參數、方便并行實現的優點。而且發現采用MBGD方法，隨著訓練循環次數的增加，網絡的輸出越來越接近輸入的內在特征，證明圖像的重構誤差在逐漸降低，特征提取到的重要信息在逐漸精細，MBGD的搜索范圍越來越小。由此得出MBGD符合模型多粒度結構的構造，可以用MBGD的原理加以佐證（圖3）。而序貫三支決策的性能在很大程度上取決于所采用的粒度特征提取方法，更優的粒度方法不僅可以降低測試代價，而且更精細的特征信息可以提升分類準確率，在決策時降低錯誤分類代價和總代價。因此，將MBGD訓練參數的過程作為更高效合理的粒度選取策略，重新構建基于DBN的代價敏感多粒度三支決策模型，以實現不同粒度級別下的最優決策。

模型中使用MBGD方法的核心具體如下：DBN是由多個限制玻爾茲曼機（restricted boltzmann machines，RBM）堆疊而成的能量概率模型，能量函數如式（1）所示。

當前層總的錯誤分類代價為

總代價包含錯誤分類代價和測試代價，測試代價有多種類型，可以從不同角度提出。對于深度學習模型，時間代價是很重要的測試代價類型，所以第l層的總代價如式（14）所示，其中ti=ft（timei）=0.001（timei）2是第i層獲取粒度特征描述函數所需的時間。

在決策過程中，錯誤分類代價和測試代價會帶來不同的影響。粒度由粗到細，錯誤分類代價會逐漸降低，但測試代價由于訓練時間增加會不斷提高，所以決策在總代價停止減少并開始增加的粒度層停止。此模型為DBN采用人機協作框架提供了可行的解決方案，符合多粒度問題中的決策機制。

2 實驗結果與分析

2.1 實驗數據集介紹

MNIST（混合國家標準與技術研究所數據庫）數據集［23］包含70 000張從0～9的手寫數字圖像，用28×28像素對數據預處理。PIE數據庫［24］包含68個對象的41 368張不同姿勢、照明和表情的面部圖像，選用64×64像素的圖像。圖5是可視化的部分原始數據集圖片。所有實驗均在配備AMD Ryzen 5 4600H型號的處理器和16 GB RAM的計算機上進行，方法采用MATLAB（版本R2018a）。

2.2 參數設置

MNIST是784維圖像，分為60 000張訓練和10 000張測試圖片。將數據做預處理且轉換成1×784的向量，維度設置為784-200-40。訓練集隨機選取1 000張，測試集隨機選取500張。從十個類別里面選兩類作為負樣本，1 000張圖片被分20次進行訓練，每50張圖片為一個批次更新一次參數，參數如表2所示。通常情況下錯誤決策成本大于延遲決策成本，延遲決策成本大于正確決策成本，即λNP≥λBP≥λPP，λPN≥λBN≥λNN。因為將負樣本識別為正樣本的后果最嚴重，λPP、λNN識別正確的代價為0，其他四個代價參數根據經驗設置［22］。

人臉數據集64×64的面部圖片轉換為1×4 096的向量，維度設置為4 096-200-20，批次為30。數據分為正樣本和負樣本兩大類（雖然類別眾多，但是整體進行二分類），為了更符合真實案例，在數據集中選G個人作為正樣本，每個對象選取N張不同的表情、姿態、光照的人臉圖像分別作為訓練集和測試集。除去正樣本的G種類別，其余全部為負樣本，從負樣本中隨意選取I張分別作為訓練集和測試集。正樣本的類別相對固定，但負樣本的類別和總數量是不可控的，所以數據集中負樣本的選擇會更隨機，實驗所需參數如表3所示。

2.3 實驗分析

2.3.1 MNIST各指標分析與對比

重構誤差揭示參數的訓練質量，對粒度選取方法的評估和決策準確性至關緊要。算法分析確保嚴格決策一致性，具體實驗迭代次數多，不能嚴格保證誤差局部單調遞減，但能保證全局遞減，所以不影響整體決策。為了與現有模型方法對比，需要訓練樣本和決策步驟一致，將400次決策分為20次求取均值。RBM兩層平均重構誤差對比分別如圖6所示，虛線代表本文方法。從中可以看出，使用MBGD方法作為粒度層的選取縮小了粒度尺度，細化粒度層的特征信息，整體過程的重構誤差相比現有方法更低且平緩。在最終粒度層上分別降低6.30和3.87。

在多粒度決策過程中，正域、負域、邊界域的大小會隨著獲取信息逐漸精細而一直變動。被明確劃分的樣本數不斷增加，即正域、負域的樣本數量在慢慢上升，而被劃分到邊界域的不確定性樣本在逐漸減少，三個區域的樣本數量變化情況如圖7所示。圖8與原方法對比發現，所提方法獲得更低的圖像重構誤差，所以說明MBGD提升了網絡的特征提取能力，得到更準確的分類概率，使得正樣本數量多了7.4個、不確定樣本數量少了4.1個、負樣本接近一致。

為了進一步探索所提模型的優越性，對代價進行實驗分析。錯誤分類代價受粒度尺度的影響，如果選擇的粒度方法不合理，會導致誤分類代價大，從而影響總代價。圖9是使用MBGD方法的錯誤分類代價，發現錯誤分類代價在迭代第200次左右便達到了收斂狀態，僅用了原方法一半的數據量。圖10是與現有方法的對比，最終平均錯誤分類代價低了11.04。證明所選粒度方法可以更有效地提取圖像特征，降低錯誤分類代價。

圖11（a）是MBGD每次迭代所需的訓練時間，（b）是累積時間的對比。粒度細化加快粒度層的訓練速度，使決策過程能更快進行，致使平均累積時間代價減少了158.13。總代價如圖12所示，決策會在總代價最低的粒層停止。圖13是總代價的對比，最低總代價降低了113.72，在更早的粒度層就達到了最優決策。原有方法在第9層最低，而所提方法在第6層已達最低。因為測試代價和錯誤分類代價的降低，所以總代價降低。

三支決策是將劃分到邊界域的樣本都歸為分類錯誤的個數，所以與二支決策和成本盲從決策相比錯誤分類的總數量多，結果如圖14所示。但是與原有方法對比發現，MBGD方法的錯誤識別數達到更低數值，證明粒度選擇方法相比之前更加合理，重要的特征信息更加精細，結果如圖15所示。

由圖16發現，代價敏感三支決策的高代價錯誤識別數是最低的，因為在特征信息掌握不充分時，三支決策會將樣本劃分到代價更小的邊界決策，避免進一步最高代價的損失，證明了三支決策方法的有效性。在圖17對比實驗結果表明，新方法在三個代價敏感決策模型上都獲得了更低的高代價錯誤數。更加印證了以MBGD作為粒度選擇方法的優勢。

在三個決策模型上對比重構誤差、三區域樣本變化、錯分代價、時間代價、總代價、錯誤樣本數等指標，突出本文方法粒度層的選取策略不僅有算法依據，而且更加高效，使得粒度選擇更恰當。數據分析證明了方法的有效性，各指標的最優值呈現如表4和5所示。

2.3.2 人臉數據集對比分析

PIE數據庫上的對比實驗驗證新方法適用于MNIST，也適用于人臉數據集，證明所提方法適用范圍廣。實驗所需參數已在2.1節中詳細闡述。

使用MBGD作為粒度選擇策略與現有方法在三個決策模型上進行對比實驗，分析各種代價、邊界域樣本數量變化和高代價錯誤等指標。圖中帶標記的是所提模型的實驗。由圖18（a）和18（b）中發現，MBGD方法可以得到更低的錯誤分類代價和高代價錯誤數量。錯誤分類代價在第二十次決策時已達收斂狀態，相較于原有方法僅用了數據量的五分之一，但代價卻降低了20.19。圖18（c）是兩個邊界域樣本的對比，所提方法的邊界域樣本最終低了4.83。說明MBGD方法定義粒度層可以更快地朝細化粒度空間的方向發展，使用更少的數據便達到與原方法一樣的效果，還減少了邊界域樣本數量。

圖19（a）（b）分別是每次訓練的迭代時間和對比累積時間。可以發現，由于MBGD方法的粒度選擇合理，所以累積時間最終降低了270.29，加快了決策速度。在誤分類代價和測試代價都降低的情況下，總代價最終降低了290.5，提高了代價敏感三支決策的決策準確性，如圖19（c）所示。上述幾組實驗證明所提方法適用更廣泛且更高效。

本節實驗分析證明所提方法不僅達到了更低的各類代價，更是減少了邊界域樣本，劃分出更多正確樣本。而且避免了進一步的代價損失，使用更少的數據量達到穩定狀態，提高了實驗效率。各個指標都體現出新方法的優越性，具體實驗數據中的最優值在表6和7中明確指出。

3 結束語

DBN與代價敏感多粒度三支決策結合解決網絡自身存在的缺點，促進三支決策在非線性特征提取方法上的發展。但是原有模型中存在粒度選擇方法不合理的問題導致重構誤差和各類代價大，因此提出基于MBGD的多粒度定義，細化粒度尺度，使每個粒度層提取更精細的特征信息。然后提出新的基于DBN的代價敏感多粒度三支決策模型，通過一系列實驗表明所提方法的優越性。尋找各種方法降低圖像處理任務中的各類代價，涉及到特征提取方法的選擇，分類概率如何更精準以及決策方法中代價參數的設置三個方面，這將是眾多研究人員繼續鉆研的方向，需要未來進一步深入挖掘。

參考文獻：

［1］Yao Yiyu.Three-way decision and granular computing［J］.International Journal of Approximate Reasoning，2018，103：107-123.

［2］Zhang Qinghua，Zhao Fan，Yang Jie，et al.Three-way decisions of rough vague sets from the perspective of fuzziness［J］.Information Sciences，2020，523：111-132.

［3］Yao Yiyu，Deng Xiaofei.Sequential three-way decisions with probabilistic rough sets［C］//Proc of the 10th IEEE International Conference on Cognitive Informatics and Cognitive Computing.Piscataway，NJ：IEEE Press，2011：120-125.

［4］Yao Yiyu，Wong S K M.A decision theoretic framework for approximating concepts［J］.International Journal of Man-Machine Studies，1992，37（6）：793-809.

［5］Yao Yiyu，She Yanhong.Rough set models in multigranulation spaces［J］.Information Sciences，2016，327：40-56.

［6］Ju Hengrong，Pedrcy W，Li Huaxiong，et al.Sequential three-way classifier with justifiable granularity［J］.Knowledge-Based Systems，2019，163：103-119.

［7］梁艷玲，唐孝，古睿.不完備區間值決策系統的三支決策模型及增量式規則獲取算法［J］.計算機應用研究，2022，39（5）：1460-1466.（Liang Yanling，Tang Xiao，Gu Rui.Three-way decisions mo-del and incremental rule acquisition algorithm for incomplete interval-valued decision system［J］.Application Research of Computers，2022，39（5）：1460-1466.）

［8］Liu Dun，Ye Xiaoqing.A matrix factorization based dynamic granularity recommendation with three-way decisions［J］.Knowledge-Based Systems，2020，191（C）：105243.

［9］張清華，龐國弘，李新太，等.基于代價敏感的序貫三支決策最優粒度選擇方法［J］.電子與信息學報，2021，43（10）：3001-3009.（Zhang Qinghua，Pang Guohong，Li Xintai，et al.Optimal granularity selection method based on cost-sensitive sequential three-way decisions［J］.Journal of Electronics amp; Information Technology，2021，43（10）：3001-3009.）

［10］Davis J V，Ha J，Rossbach C J，et al.Cost-sensitive decision tree learning for forensic classification［C］//Proc of European Conference on Machine Learning.Berlin：Springer-Verlag，2006：622-629.

［11］Fang Yu，Gao Cong，Yao Yiyu.Granularity-driven sequential three-way decisions：a cost-sensitive approach to classification［J］.Information Sciences，2020，507（C）：644-664.

［12］Zhang Chong，Tan K C，Li Haizhou，et al.A cost-sensitive deep belief network for imbalanced classification［J］.IEEE Trans on Neural Networks and Learning Systems，2018，30（1）：109-122.

［13］Wan Jianwu，Chen Yinjuan，Bai Bing.Joint feature extraction and classification in a unified framework for cost-sensitive face recognition［J］.Pattern Recognition，2021，115：107927.

［14］Zhang Qinghua，Pang Guohong，Wang Guoyin.A novel sequential three-way decisions model based on penalty function［J］.Know-ledge-Based Systems，2020，192（C）：105350.

［15］Zhang Qinghua，Huang Zhikang，Wang Guoyin.A novel sequential three-way decision model with autonomous error correction［J］.Knowledge-Based Systems，2021，212：106526.

［16］Telikani A，Gandomi A H.Cost-sensitive stacked auto-encoders for intrusion detection in the Internet of Things［J］.Internet of Things，2021，14：100122.

［17］Man Jiangyue，Jing Xiaoyuan，Zhang D，et al.Sparse cost-sensitive classifier with application to face recognition［C］//Proc of 18th IEEE International Conference on Image Processing.Piscataway，NJ：IEEE Press，2011：1773-1776.

［18］Li Huaxiong，Zhang Libo，Huang Bing，et al.Sequential three-way decision and granulation for cost-sensitive face recognition［J］.Know-ledge-Based Systems，2016，91（1）：241－251.

［19］Savchenko A V.Fast inference in convolutional neural networks based on sequential three-way decisions［J］.Information Sciences，2021，560：370-385.

［20］Yue Xiaodong，Chen Yufei，Yuan Bin，et al.Three-way image classification with evidential deep convolutional neural networks［J］.Cognitive Computation，2022，14：2074-2086.

［21］Li Huaxiong，Zhang Libo，Zhou Xianzhong，et al.Cost-sensitive sequential three-way decision modeling using a deep neural network［J］.International Journal of Approximate Reasoning，2017，85：68-78.

［22］Zhang Libo，Li Huaxiong，Zhou Xianzhong，et al.Sequential three-way decision based on multi-granular autoencoder features［J］.Information Sciences，2020，507（C）：630-643.

［23］Niu Xiaoxiao，Suen C Y.A novel hybrid CNN-SVM classifier for re-cognizing handwritten digits［J］.Pattern Recognition，2012，45（4）：1318-1325.

［24］Sim T，Baker S，Bsat M.The CMU pose，illumination，and expression （PIE） database［C］//Proc of the 15th IEEE International Conference on Automatic Face Gesture Recognition.Piscataway，NJ：IEEE Press，2002：53－58.

收稿日期：2022－08－10；修回日期：2022－10－08 基金項目：國家自然科學基金資助項目（62141201，62106205）；重慶市自然科學基金資助項目（cstc2021jcyj-msxmX0824）；重慶理工大學研究生教育高質量發展行動計劃資助成果（gzlcx20222059，gzlcx20223188）

作者簡介：呂艷娜（1998-），女，河南洛陽人，碩士研究生，主要研究方向為粗糙集、三支決策；茍光磊（1980-），男（通信作者），重慶人，副教授，碩導，博士，主要研究方向為粗糙集、小樣本（ggl@cqut.edu.com）；張里博（1989-），男，河南漯河人，講師，博士，主要研究方向為代價敏感、三支決策；張耀洪（1996-），男，安徽阜陽人，碩士研究生，主要研究方向為粗糙集、三支決策.