基于改進3E-LDA的織物圖像分類算法

靳文哲 呂文濤 郭慶 徐羽貞 余潤澤

DOI： 10.19398j.att.202308003

摘? 要：針對訓練樣本數太少（訓練樣本數量小于數據維數）導致的模型分辨能力下降問題，提出了一種基于正則化改進3E-LDA的織物圖像分類算法（I3E-LDA算法）。首先利用類加權中值代替樣本均值計算類內散點矩陣，削弱離群值和噪聲的影響，以此作為非參數加權特征提取法對類內散點矩陣進行正則化。然后利用目標組合的方法，通過引入平衡參數對目標函數進行正則化，來保留更具判別性的特征數據。通過不同織物圖像間更具判別性的特征數據可以更好地對其區分。結合改進的零空間法解決類內散點矩陣奇異性和小樣本問題，從而提高分類準確率。在阿里天池織物數據集和花色織物圖像上進行訓練和測試，將圖像按照正常圖像和非正常圖形（瑕疵圖像）進行區分。實驗結果表明，I3E-LDA算法有效實現了織物圖像分類，且對于較少的訓練樣本（20%～40%的樣本用于訓練）提升了分類精度。

關鍵詞：線性判別分析；織物；圖像分類；正則化；小樣本

中圖分類號：TP181

文獻標志碼：A

文章編號：1009-265X（2024）06-0089-08

收稿日期：20230831

網絡出版日期：20231102

基金項目：國家自然科學基金項目（U1709219， 61601410）；浙江省科技廳重點研發計劃項目（2021C01047，2022C01079）；2021年產業技術基礎公共服務平臺項目（2021-0174-1-1）

作者簡介：靳文哲（1998—），男，河北張家口人，碩士研究生，主要從事計算機視覺方面的研究。

通信作者：呂文濤，E-mail：alvinlwt@zstu.edu.cn

在過去的幾十年中，紡織行業發展十分迅速。在紡織工業生產過程中，織物圖像分類有著十分重要的地位［1］。依靠人工檢測和分類耗時且費力，無法滿足如今高質量的織物生產要求。因此使用高效準確的計算機視覺方法來代替傳統的人工檢測法實現織物圖像分類對于紡織行業的發展有著十分重要的作用［2］。

線性判別分析（Linear discriminant analysis， LDA）是一種考慮樣本類別信息的有監督分類算法［3］，通過計算得到最優判別矩陣，將高維數據映射到低維子空間中，使得樣本點之間的類內距離最小化、類間距離最大化［4］，以此來對目標進行分類。然而，傳統LDA在分類過程中存在以下缺點：a）在散點矩陣和目標函數的計算中采用了L2范數，會放大異常值的影響［5］；b）忽略了樣本集的局部幾何信息［6］；c）當樣本數遠小于數據維數時會出現小樣本［7］問題。使得類內散點矩陣變成奇異陣。為了抑制異常值的影響，Li等［8］提出了一種基于F范數的二維線性判別分析法（F-norm two-dimensional linear discriminant analysis， F-2DLDA），通過無平方的F范數抑制了異常值和噪聲的影響。針對復雜和多模態數據，高云龍等［9］提出了一種動態加權非參數判別分析方法（Dynamic weighted nonparametric discri-minant analysis， DWNDA），通過對邊緣樣本點的局部散布度進行分析，突出了邊緣樣本點對的可分性，有效抑制了異常值和噪聲的影響。

為了保留數據的局部幾何信息，陸榮秀等［10］提出了改進的自權值LDA算法，利用樣本對之間的權值代替樣本間的距離來區分樣本間的差異性。Huang等［11］提出了無參數局部判別分析（Parameter-free local linear discriminant analysis， Pf-LLDA），無需設置近鄰數，通過權重和變換矩陣的自適應迭代更新得到數據的低維局部結構。Nie等［12］提出了子流形保持判別分析（Sub-manifold preserving discriminant analysis），利用自優化的K近鄰（KNN）圖提取數據的局部子流形結構。

為了解決小樣本問題，梁志貞等［13］提出了基于KL散度不確定集和混合范數的線性判別分析法，采用廣義Dinkelbach算法避免了矩陣求逆，克服了小樣本問題；采用混合范數有效地抑制了異常值。Yu等［14］提出了一種稀疏逼近判別投影法（Sparse approximation to discriminant projection learning，SADPL），利用F范數和L2，1范數生成稀疏子空間，采用稀疏投影矩陣取代了傳統的Fisher準則，從而避免了類內散點矩陣奇異性的問題。

以上方法只針對傳統LDA在分類過程中的一個或兩個缺點做出改進，為了同時解決傳統LDA的三個缺點，Li等［15］提出了3E-LDA算法，采用加權中值代替樣本均值以抑制異常值；建立了新的散點矩陣，以嵌入局部幾何信息；通過改進的零空間法計算矩陣零空間中的投影向量，克服了小樣本問題，得到了較好的分類結果。但是如果訓練樣本太少，模型的分辨能力就會受到影響，最終會影響分類精度。

因此本文提出了一種基于正則化改進3E-LDA的織物圖像分類算法，稱為I3E-LDA算法，用于解決訓練樣本數小于數據維數時導致的模型分辨能力下降問題。該算法首先利用加權中值計算類內散點矩陣，通過正則化方法［16］作為NWFE方法來解決類內散點矩陣奇異性的問題。然后采用目標組合的方法利用加性原理［17］對目標函數進行正則化。以此保留更具判別性的樣本數據，增加了樣本的可分性。在阿里天池織物數據集和花色織物圖像上進行訓練和測試，將圖像按照正常圖像和非正常圖像（瑕疵圖像）進行分類，以驗證該算法在較少的訓練樣本的情況下能夠得到更高的分類準確率。

1? 3E-LDA的理論基礎

1.1? LDA簡介

設樣本集為：X=［x1，x2，…，xn］T∈Rn×m，其中xs為m維向量，s=1，2，…，n，n表示樣本總數。設樣本集中包含C個類。 xij表示第i類的第j個樣本，i=1，2，…，C，j=1，2，…，ni，其中ni表示第i類的樣本總數，則n=∑Ci=1ni。

第i類樣本的均值定義為：μi=1ni∑nij=1xij，數據集的均值定義為：μ=1C∑Ci=1μi。由此可以計算出類內散點矩陣Sω、類間散點矩陣Sb，分別如式（1）—（2）所示：

Sω=∑Ci=1∑nij=1（xij－μi）（xij－μi）T（1）

Sb=∑Ci=1ni（μi－μ）（μi－μ）T（2）

因此可以通過式（1）—（2）計算出最優判別矩陣q，如式（3）所示：

q=argmaxqJ（q）=argmaxqqTSbqqTSωq（3）

最后對式（3）求導，可以將其轉化成S－1ωSbq=λq的特征值求解問題，其中λ=J（q）為標量。

1.2? 3E-LDA簡介

針對傳統LDA的3個缺點，3E-LDA提出了如下改進。

1.2.1? 利用加權中值處理異常值

設第i類第j個樣本的權重向量為：wij=［abs（xij－μim）+β］－1。其中abs（·）表示給定向量在每個維度上的絕對值， β是一個補償因子向量，和向量xij齊次， μim是第i類所有樣本的中值。 xij樣本的權重向量wij跟xij和μim之間的距離成反比。因此可以得到第i類樣本的加權中值如式（4）所示：

μ～i=∑nij=1wij⊙ xij.∑nij=1wij（4）

1.2.2? 保留局部幾何信息

3E-LDA提出了新的散點矩陣框架：

a）類內散點矩陣Siω。設xij和xik是第i類的兩個樣本，若xik是xij的K近鄰之一，則xij可以用xik近似線性表示為：x^ij=∑Kk=1wjkxik。將x^ij和加權中值μ～i代入到式（1）中，得到Siω，如式（5）所示：

Siω=∑Ci=1∑nij=1x^ij－μ～ix^ij－μ～iT（5）

b）類間散點矩陣Sib。由式（2）可以看出：若μi-μ的值越大，則第i類樣本在Sb中起主導作用，會導致具有相似距離的類重疊。因此可以對式（2）進行改寫：

Sb=∑Ci=1ni（μi－μ）（μi－μ）Τ

=∑C－1i=1∑Cj=i+1ninjn（μi－μj）（μi－μj）T。

其中：ni和nj分別表示第i類和第j類的樣本總數。懲罰項設置為：cij=（μi-μ2+ε）-1。將加權中值μ～i和懲罰項cij代入到式（2）中，得到Sib，如式（6）所示：

Sib=∑C－1i=1∑Cj=i+1ninjncij（μ～i－μ～j）（μ～i－μ～j）T（6）

1.2.3? 解決小樣本問題

采用改進的零空間法來處理小樣本問題以及類內散點矩陣奇異性的問題：若Siω的秩r小于原始數據空間V的維數m，則必然存在一個子空間（零空間）V0V，使得V0=span{vi|Sωvi=0，i=1，2，…，m-r}。對Siω進行奇異值分解，得到V=［v1，…，vr，vr+1，…，vm］，其中：V1V，V1=［vr+1，…，vm］。因此最優判別矩陣q為V1VT1Sib（V1VT1）T在V0中的最大特征值集合；否則根據Fisher準則進行求解。

因此，3E-LDA的完整目標函數可用式（7）所示：

argmaxJ（q）=qTSibqqTSiωq，r=m

qTV1VT1Sib（V1VT1）Tq，r

其中最優判別矩陣q∈Rm×（C－1）。

2? 改進的3E-LDA算法（I3E-LDA）

在3E-LDA算法中，分類的結果往往比較依賴訓練樣本的數量。如果訓練樣本較少，模型的分辨能力易受影響，最終會降低分類精度。基于此，本文提出了一種新的3E-LDA算法（I3E-LDA），通過引入正則項來改進3E-LDA，以確保對于少量訓練樣本所得到的分類準確率有一定的提升。I3E-LDA算法的改進主要有正則化引入、算法模型、算法流程3部分。

2.1? 正則化引入

在利用LDA進行分類時，如果樣本數n遠遠小于數據維數m就會導致類內散點矩陣變得奇異。在這種情況下，參數估計可能會不穩定，從而產生高方差。通過應用正則化的方法可以減少這種方差，但是在計算時可能會因此產生新的偏差，從而影響最終的分類精度。這種偏差變化的平衡通常是由一個或多個平衡參數進行調節的，這些參數控制著對樣本數據的偏置強度。正則化可以減少模型的測試誤差，目的是讓模型在面對復雜數據或高模態數據時也能表現出優異的性能。如果模型的參數過多就會導致模型變得復雜，容易產生過擬合現象，從而會影響模型的泛化能力，所以需要引入正則項來改善此現象。

因此對于LDA來說，通過引入正則項，實現的是對類內散點矩陣更好的估計，并且最好使其達到無偏的結果。通過正則化可以削弱不太重要的特征向量，盡可能在所有特征向量中提取到最重要的（最具判別性的），由此可以更有效的計算出最優判別矩陣，從而提高模型的分類性能以及泛化能力。

2.2? 算法模型

在許多實際應用當中，通常會出現小樣本問題，并且圖像數據受噪聲和異常值影響較大，從而影響分類準確率。為了抑制異常值并解決小樣本問題，提出了如下算法模型。

設定樣本集為：X=［x1，x2，…，xn］T∈Rn×m，其中：xs表示每張圖像的特征數據向量，維度為m，s=1，2，…，n， n表示織物圖像總數。樣本集的原始標簽定義為L0∈Rn×1。假設樣本集包含C個類，xij表示第i類的第j個樣本，i=1，2，…，C，j=1，2，…，ni，其中：ni表示第i類的樣本數，且有n=∑Ci=1ni。設第i類X的樣本集為：Xi=［xi1，xi2，…，xini］T∈Rni×m。

設訓練集比例為τ，測試集比例為1-τ。將樣本集X和原始標簽L0按比例τ分成訓練矩陣Xtrain∈Rn·τ」×m，訓練標簽Ltrain∈Rn·τ×1，其中

·」表示向下取整；測試矩陣Xtest∈R「n·（1－τ）×m，測試標簽Ltest∈R「n·（1－τ）×1，其中「·表示向上取整。

2.2.1? 類內散點矩陣正則化

在圖像處理中最常用的分類準則是基于正態分布的，如式（8）所示：

fk（X）=（2π）－p2∑k－12e－12（X－μk）T∑－1k（X－μk）（8）

其中： μk為均值向量，協方差矩陣為∑^k=1NkSk=1Nk∑（xi－μ-k）（xi－μ-k）T。設樣本集的維度為m，在進行分類時若類樣本量Nk小于樣本集的維度（Nk

針對此問題可以通過正則化的方法來改進。引入正則化參數α，取值范圍0≤α≤1。設樣本總數為N，且S=∑Kk=1Sk，N=∑Kk=1Nk，∑^k=1NkαSk（α）。其中：Sk（α）=（1-α）Sk+αS，Nk（α）=（1-α）Nk+αN。α控制收縮的程度即單類協方差矩陣估計值向總體估計值的收縮程度。一般情況下，即使很小的正則化也可以消除十分劇烈的不穩定性。

結合上述正則化方法，在這里不直接使用Siω，而是采用式（9）來計算類內散點矩陣Siω，作為NWFE方法用來解決類內散點矩陣奇異性的問題：

Siω=0.5Siω+0.5diag（Siω）（9）

式（9）相當于給正則化參數α賦值0.5進行正則化。

2.2.2? 目標函數正則化

傳統LDA的目標函數式可以拆分成兩個目標函數相除的形式，因此可以對式（7）添加正則化參數γ，用于平衡分別包含兩個散點矩陣的目標函數。其中γ是一個非常小的常數，在這里設置為1×10-5，以防qTSiωq=0。因此，新的目標函數式如式（10）所示：

J～（q）=qTSibqqTSiωq+γqTSibq（10）

根據式（10）可以對最優判別矩陣q進行求解，求解過程如下：

dJ～（q）dq=（qTSiωq+γqTSibq）·d（qTSibq）－qTSibq·d（qTSiωq+γqTSibq）=0

（qTSiωq+γqTSibq）·2Sibq－2qTSibq·（Siωq+γSibq）=0

Sibq－qTSibqqTSiωq+γqTSibq·（Siω+γSib）q=0

Sibq=J～（q）·（Siω+γSib）q

（Siω+γSib）－1·Sibq=J～（q）q

令λ=J～（q），則根據（Siω+γSib）-1Sibq=λq可以得出λ是（Siω+γSib）-1Sib的特征值矩陣。所以最優判別矩陣q的解為（Siω+γSib）-1Sib的特征值對應的特征向量組成的矩陣。

因此最優判別矩陣q可以轉換成如式（11）所示的特征值求解問題。

（Siω+γSib）-1Sibq=λq（11）

最后根據式（11）和Fisher準則將tr［（Siω+γSib）-1Sib］最大化就可以得到最優判別矩陣q。但是由于類內散點矩陣Siω奇異性的問題，這里為了避免直接計算（Siω+γSib）-1Sib的特征向量，采用3E-LDA中改進的零空間算法來進行求解。

綜上所述，I3E-LDA的完整目標函數可用式（12）表示：

argmaxqJ～（q）=qTSibqqTSiωq+γqTSibq，r=m

qTV1VT1SibV1VT1Tq，r

式中：r為類內散點矩陣Siω的秩。

2.2.3? 分類實現

將訓練矩陣Xtrain代入式（4）中計算出加權中值μ～i，并將μ～i和訓練矩陣Xtrain中的xij通過式（5）和式（9）計算出正則化后的類內散點矩陣Siω。然后將每一類訓練樣本的加權中值代入式（6）中計算出類間散點矩陣Sib。最后將Siω和Sib代入式（10）—（12）中計算出最優判別矩陣q。

將訓練矩陣Xtrain和測試矩陣Xtest分別和最優判別矩陣q相乘得到更新后的訓練樣本Ytrain=Xtrain·q∈Rn·τ」×（C－1）和測試樣本Ytest=Xtest·q∈R「n·（1－τ）×（C－1）。對Ytrain和Ytest中的樣本數據進行最近鄰分類。

首先計算出每個測試樣本中的數據點跟訓練樣本各行對應位置數據點之間的距離并求和，距離和即為每個測試樣本和訓練樣本之間的距離。以此生成距離矩陣記為D∈R「n·（1－τ）×n·τ」，其中D的每一行數據代表一個測試樣本和每個訓練樣本之間的距離值。然后對距離矩陣中每行數據排序并篩選出距離最小的K個點。最后將測試樣本點歸入K個點中占比最高的一類，從而生成最終的測試標簽，記為Lfinal∈R「n·（1－τ）×1。計算Lfinal與Ltest標簽的重復率即可得到最終的分類準確率。

2.3? 算法流程

算法1：I3E-LDA

輸入：樣本集X和原始標簽L0。

步驟1：將樣本集按比例τ分為訓練集Xtrain和測試集Xtest，將原始標簽L0按比例τ分為訓練標簽Ltrain與測試標簽Ltest；

步驟2：利用訓練矩陣Xtrain計算類加權中值μ～i；

步驟3：計算類內散點矩陣Siω并進行正則化改進；

步驟4：計算類間散點矩陣Sib；

步驟5：根據加性原理對式（7）進行正則化改進，得到J～（q）；

步驟6：如果類內散點矩陣Siω的秩r等于樣本維數m（r=m），則最優判別矩陣q為（Siω+γSib）-1Sib的最大特征值所對應的特征向量組成的矩陣；否則執行 a）。

a）如果類內散點矩陣Siω的秩r小于樣本維數m（r

b）對Siω進行奇異值分解：Siω=U∑VT，得到：V=［v1，…，vr，vr+1，…，vm］；

c）得到：V1=［vr+1，…，vm］，V1V，V0=span{vi|Siωvi=0，i=1，2，…，m-r}， V0為Siω的零空間；

d）計算S～ib=V1VT1Sib（V1VT1）T；

e）計算S～ib的最大特征值集對應的最優判別矩陣q。

步驟7：利用Xtrain和Xtest以及最優判別矩陣q計算更新后的訓練樣本Ytrain和測試樣本Ytest；

步驟8：對Ytrain和Ytest進行最近鄰分類。

輸出：分類準確率。

3? 實驗

為了評估所提出的I3E-LDA算法的分類性能，本文將I3E-LDA算法在素色織物和花色織物圖像上進行實驗，并將其與3E-LDA算法進行比較。

3.1? 數據集

阿里天池織物數據集分為正常圖像和瑕疵圖像，圖像尺寸為2560×1920像素。本次實驗選取48張正常圖像和48張瑕疵圖像作為實驗數據集，對正常圖像和瑕疵圖像進行分類。

將圖像處理成.mat文件保存圖像數據，其中每行數據代表一張織物圖像的特征數據，行數代表圖像數量，共計96，維度降為600。織物圖像樣本集記為X，大小為96×600，如式（13）所示。原始標簽即為L0∈R96×1。

X=［x1，x2，…，x96］T∈R96×600（13）

其中：xs表示每張圖像的特征數據向量，s=1，2，…，96，大小為1×600的行向量。所有圖像均為素色織物圖像。選取了部分圖像如圖1所示，其中第一行為瑕疵圖像，第二行為正常圖像。

由于素色織物均為簡單圖像，為了驗證算法的有效性，因此補充了幾類同等數量的花色織物圖像用于實驗。花色織物同樣分成正常圖像和瑕疵圖像，如圖2所示。其中第一行為瑕疵圖像，第二行為正常圖像。

本文將素色織物和花色織物圖像合成一個數據集進行實驗，對于檢測出的正常織物圖像算作第一類，對于非正常圖像即有瑕疵的圖像算作第二類，以此對織物圖像進行區分。

3.2? 實驗環境

本文的實驗操作系統為Windows，顯卡為NVIDIA GeForce RTX 3060 Laptop GPU，顯存大小為6 GB。CPU為AMD Ryzen 7 5800 HZ，系統內存為16 GB。編譯環境為MATLAB 2017b。在上述實驗環境下對素色織物和花色織物圖像進行訓練和測試。

4? 結果與分析

本文利用素色織物和花色織物圖像生成樣本集X，將樣本集分別按照20%、30%和40%的比例生成訓練矩陣Xtrain和測試矩陣Xtest。按照2.3節I3E-LDA的算法流程計算出最終的分類準確率，并將其與3E-LDA算法得到的分類準確率進行對比。為了評估所提出的I3E-LDA算法的分類性能，在實驗中列舉了不同訓練樣本比例下兩種算法的分類準確率，所有實驗重復15次，取平均結果如表1所示。

表1給出了素色織物和花色織物圖像在不同訓練樣本比例下每種算法的分類準確率。可以看出，隨著訓練樣本比例的增加，兩種算法的分類性能都有所提高。本文提出的I3E-LDA算法在20%、30%和40%的訓練樣本下的分類準確率相比3E-LDA算法分別提高了2.30%、2.55%以及3.68%。由此可以看出，通過式（9）—（12）對類內散點矩陣和目標函數的改進效果十分明顯，I3E-LDA算法的分類準確率相比3E-LDA算法有了顯著的提升。

為了更直觀的看到I3E-LDA算法的分類結果，在15組實驗中挑選了4組不同訓練樣本比例下兩種算法的分類準確率進行對比，結果如圖3所示。

由圖3可以更直觀看出與3E-LDA算法相比，本文所提出的I3E-LDA算法在較低比例（20%～40%）訓練樣本的情況下能夠得到更高的分類準確率。實驗結果很好地印證了式（9）—（12）所采用的正則化方法的合理性和有效性，其效率和性能是不言而喻的。

綜上所述，I3E-LDA算法不僅獲得了較高的分類準確率，而且很好地保留了樣本點的局部幾何信息。實驗結果表明，I3E-LDA算法在素色織物和花色織物圖像上達到了更好的分類精度，所有的實驗結果都可以合理地觀察到I3E-LDA算法是一種有效的分類算法。

5? 結論

本文提出了一種基于正則化改進3E-LDA的織物圖像分類算法。借鑒3E-LDA算法，用類加權中值μ～i代替樣本均值，增強了模型的魯棒性，抑制了異常值的影響；通過改進的零空間算法解決類內散點矩陣Siω奇異性的問題以及小樣本問題。I3E-LDA算法采用正則化方法得到新的類內散點矩陣Siω以及目標函數式J～（q），有效的實現了織物圖像分類。結論如下：

a）與3E-LDA算法相比，I3E-LDA算法通過正則化方法平衡了計算最優判別矩陣時的偏差，有效的解決了小樣本問題以及類內散點矩陣Siω奇異性的問題。同時保留了樣本的類間和類內局部幾何信息，且保留了樣本更具判別性的特征，可以更好地對樣本進行分類，提高了模型的分類性能和泛化能力。

b）在素色織物和花色織物圖像上進行實驗對比。實驗結果表明，I3E-LDA算法對于較低比例（20%～40%）訓練樣本的分類準確率以及算法穩定性等方面都優于3E-LDA算法。

參考文獻：

［1］呂文濤，林琪琪，鐘佳瑩，等.面向織物疵點檢測的圖像處理技術研究進展［J］.紡織學報，2021，42（11）：197-206.

L Wentao， LIN Qiqi， ZHONG Jiaying， et al. Research progress of image processing technology for fabric defect detection［J］. Journal of Textile Research， 2021， 42（11）： 197-206.

［2］田宸瑋，王雪純，楊嘉能，等.織物瑕疵檢測方法研究進展［J］.計算機工程與應用，2020，56（12）：8-18.

TIAN Chenwei， WANG Xuechun， YANG Jianeng， et al. Research progress on fabric defect detection methods［J］. Computer Engineering and Applications， 2020， 56（12）： 8-18.

［3］YIN W， MA Z. High order discriminant analysis based on Riemannian optimization［J］. Knowledge-Based Systems， 2020， 195： 105630.

［4］LU R， CAI Y， ZHU J， et al. Dimension reduction of multimodal data by auto-weighted local discriminant analysis［J］. Neurocomputing， 2021， 461： 27-40.

［5］HU X， SUN Y， GAO J， et al. Probabilistic linear discriminant analysis based on L1-norm and its Bayesian variational inference［J］. IEEE Transactions on Cybernetics， 2022， 52（3）： 1616-1627.

［6］CHANG W， NIE F， WANG Z， et al. Self-weighted learning framework for adaptive locality discriminantanalysis［J］. Pattern Recognition， 2022， 129： 108778.

［7］YAN C， CHANG X， LUO M， et al. Self-weighted robust LDA for multiclass classification with edge classes［J］. ACM Transactions on Intelligent Systems and Technology， 2020， 12（1）： 1-19.

［8］LI C N， QI Y F， ZHAOD， et al. F F-norm two-dimensional linear discriminant analysis and its application on face recognition［J］. International Journal of Intelligent Systems， 2022， 37（11）： 8327-8347.

［9］高云龍，王志豪，丁柳，等.動態加權非參數判別分析［J］.控制與決策，2020，35（8）：1866-1872.

GAO Yunlong，WANG Zhihao， DING Liu， et al. Dynamic weighted nonparametric discriminant analysis［J］.Control and Decision， 2020， 35（8）： 1866-1872.

［10］陸榮秀，蔡瑩杰，朱建勇，等.基于自權值線性判別分析算法的圖像處理研究［J］.華東交通大學學報，2020，37（3）：135-142.

LU Rongxiu， CAI Yingjie， ZHU Jianyong，et al. Application of self-weight linear discriminant analysis in dimension reduction［J］. Journal of East China Jiaotong University， 2020， 37（3）： 135-142.

［11］HUANG Libo， LING Yongquan. A parameter-free local linear discriminant analysis method［J］. Computer Science and Application， 2021， 11（4）： 1042-1052.

［12］NIE F， ZHAO X， WANG R， et al. Fast locality discriminant analysis with adaptive manifold embedding［J］. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2022， 44（12）： 9315-9330.

［13］梁志貞，張磊.面向Kullback-Leibler散度不確定集的正則化線性判別分析［J］.自動化學報，2022，48（4）：1033-1047.

LIANG Zhizhen， ZHANG Lei. Regularized linear discri-minant analysis based on uncertainty sets from kullback-leibler divergence［J］. Acta Automatica Sinica， 2022， 48（4）： 1033-1047.

［14］YU Y F， REN C X， JIANG M， et al. Sparse approximation to discriminant projection learning and application to image classification［J］. Pattern Recognition， 2019， 96： 106963.

［15］LI Y， LIU B， YU Y， et al. 3E-LDA：Three enhancements to linear discriminant analysis［J］. ACM Transactions on Knowledge Discovery from Data， 2021， 15（4）： 1-20.

［16］GAO J， LI L. A robust geometric mean-based subspace discriminant analysis feature extraction approach for image set classification［J］. Optik， 2019， 199： 163368.

［17］ZHENG N， GUO X， TIE Y， et al. Incremental genera-lized multiple maximum scatter difference with applications to feature extraction［J］. Journal of Visual Communication and Image Representation， 2018， 55： 67-79.

Fabric image classification algorithm based on improved 3E-LDA

JIN Wenzhe1， L Wentao1， GUO Qing2， XU Yuzhen2， YU Runze3

（1.Key Laboratory of Intelligent Textile and Flexible Interconnection of Zhejiang Province， Zhejiang Sci-Tech University，

Hangzhou 310018， China; 2.Zhejiang Technical Innovation Service Center， Hangzhou 310007， China;

3.China Mobile Group Design Institute Co.， Ltd. Zhejiang Branch， Hangzhou 310012， China）

Abstract：

Textiles are one of the three physical elements of clothing. In recent years， with the development of computer technology， the classification and recognition of fabric images and intelligent manufacturing have played a very important role in the textile field. In the process of production， traditional manual detection methods are still widely used for fabric defect detection， which is time-consuming and laborious， and the efficiency is very low. It is easy to cause false detection and missed detection due to fatigue， and it will also affect the quality and price of textiles. Therefore， the use of digital image processing technology to complete the recognition and classification of fabric images has become a hot issue in recent years.

Relying on machine vision， spots， pits， scratches， color differences and defects on the fabric surface can be detected. Lineardiscriminant analysis （LDA） is a supervised dimensionality reduction and classification algorithm that can effectively classify fabric images. LDA classifies by calculating the optimal discriminant matrix to minimize the intra-class distance and maximize the inter-class distance. However， LDA is sensitive to outliers， ignores local geometric information and small sample size （SSS）， which affects the classification accuracy. The 3E-LDA （three enhancements to linear discriminant analysis） algorithm improves the above three problems on the basis of LDA and improves the classification accuracy. However， when the number of training samples is smaller than the data dimension， it will reduce the model's resolution ability and ultimately affect the classification accuracy.

A fabric image classification algorithm based on improved 3E-LDA， called I3E-LDA algorithm （Improved 3E-LDA）， was proposed to address the problem of reduced model resolution caused by training samples being smaller than the data dimension. Firstly， the nonparametric weighted feature extraction （NWFE） method was used to regularize the intra-class scatter matrix， and then the goal combination method was used to introduce equilibrium parameters to regularize the objective function， so as to weaken the influence of outliers and noise， retain more discriminative feature data， and rely on these feature data to better classify fabric images. It is necessary to combine the improved null space learning method to solve the singularity and small sample problems of intra-class scatter matrices and improve classification efficiency， and to train and test on the Alibaba Tianchi fabric dataset and pattern fabric images to distinguish between normal and abnormal patterns （defect images）. The experimental results show that the I3E-LDA algorithm effectively achieves fabric image classification， and improves classification accuracy for a small number of training samples （20%-40% of the samples are used for training）.

Keywords：

linear discriminant analysis; fabric; image classification; regularization; small sample size