基于邏輯回歸的近鄰分類耦合算法在醫(yī)學骨科分類應用

摘" 要：隨著現(xiàn)代醫(yī)學的迅速發(fā)展，生物力學可以用來模擬人體機械組成各部分之間的關(guān)系，根據(jù)骨科患者的生物力學特征可以預測患者的癥狀類別，為臨床診斷提供依據(jù)。文章為進一步提高預測分類的準確性，結(jié)合機器學習理論以最近鄰算法分類及邏輯回歸耦合算法來進行醫(yī)學方面的骨科分類，通過雙算法準確度判斷的耦合結(jié)果進行進一步判斷，豐富算法的計算維度，進一步提高了分類準確率的精度。

關(guān)鍵詞：最近鄰分類器；耦合算法；生物特征

中圖分類號：TP391" " 文獻標識碼：A" 文章編號：2096-4706（2024）11-0158-05

Application in Medical Orthopedic Classification of Coupling Nearest Neighbor Classification Algorithm Based on Logistic Regression

WANG Xuanyu

（Southwest Jiaotong University， Chengdu" 611756， China）

Abstract： With the rapid development of modern medicine， biomechanics can be used to simulate the relationship between the mechanical components of the human body， and the category of symptoms of patients can be predicted according to the biomechanical characteristics of orthopedic patients， providing a basis for clinical diagnosis. In order to further improve the accuracy of prediction classification， this paper combines Machine Learning theory to classify orthopedics in medicine with Nearest Neighbor algorithm classification and Logistic Regression coupling algorithm， and further judges through the coupling results of dual algorithm accuracy judgment， enriches the calculation dimension of the algorithm， and further improves" classification accuracy.

Keywords： Nearest Neighbor classifier; coupling algorithm; biological characteristics

0" 引" 言

腰椎間盤突出癥患者的骨盆入射角和腰椎角，骶骨傾斜角和腰椎前凸角、骨盆傾斜角和腰椎角這些參數(shù)之間存在顯著的相關(guān)性[1]，正常人體的腰椎和骨盆之間在生理功能、生理位置、解剖結(jié)構(gòu)等方面，存在一定的關(guān)聯(lián)性、匹配性及協(xié)調(diào)性，腰椎矢狀位平衡參數(shù)和骨盆矢狀位平衡參數(shù)兩者之間存在一定的相關(guān)性[2]，在腰椎退行性疾病當中，腰椎間盤突出癥疾病臨床主要表現(xiàn)為腰椎和骨盆之間的不協(xié)調(diào)，骨盆通過位置調(diào)整可以動態(tài)調(diào)節(jié)腰椎矢狀位平衡[3]。根據(jù)不同模型可將生物力學特征與患者癥狀類別聯(lián)系達到預測分類的預期。

最近鄰算法最初由Cover和Hart于1968年提出。在模式識別領(lǐng)域中，KNN算法常用于分類問題和回歸的非參數(shù)統(tǒng)計。KNN規(guī)則根據(jù)訓練集中的k個最近鄰中的多數(shù)標簽對每個未標記的樣本進行分類[4]。Sun等人引入了分類不穩(wěn)定性（CIS）的概念[5]，提出了一種穩(wěn)定的最近鄰分類器（SNN），它通過控制加權(quán)最近鄰分類器（WNN）的精度在一個很小的區(qū)域內(nèi)，最小化CIS來獲得。嚴佳在2019年對穩(wěn)定的最近鄰分類器統(tǒng)計性質(zhì)進行了相關(guān)歸類[6]。迄今為止，最近鄰算法作為機器學習算法之一，已經(jīng)發(fā)展成為一個理論成熟的方法[7]。多分類邏輯回歸作為機器學習分類算法，適合于處理高維數(shù)據(jù)，在各個領(lǐng)域都有很廣泛的應用，是一種很有效的預測分類模型[8]。邏輯回歸主要用來解決分類問題，最原始的邏輯回歸用來解決二分類問題[9]。在此基礎上進行算法的修改，可以得到面向于解決多分類問題的邏輯回歸方法[10]。

本文通過對骨科患者的生物力學特征的分析，預測患者的癥狀類別，從而可以為臨床診斷提供依據(jù)。對骨科患者的生物力學特征如Pelvic Incidence，Pelvic Tilt，Lumbar Lordosis Angle，Sacral Slope，Pelvic Radius，Grade of Spondylolsthesis進行分析，建立合適的模型，得出有效的癥狀類別及骨科疾病與生物力學特征的相關(guān)性；最后，對建立的算法模型進行客觀的評價。

1" 最近鄰算法對骨科患者分類

為方便解決圖像邊緣及模型問題，我們做相關(guān)假設：假設樣本集中無特例誤差數(shù)據(jù)項；假設忽略在模型建立求解時所產(chǎn)生的誤差；假設六項生物力特征兩兩之間相關(guān)關(guān)系對本文的模型建立及求解不產(chǎn)生誤差影響；假設不考慮在二分類邏輯回歸模型求解時其他非生物力學特征對患者的癥狀類別的影響。本文樣本集選取的是Model Wgale中的骨科患者的生物力學特征數(shù)據(jù)集。

最近鄰分類器的三個基本要素為距離度量、k值的選取以及分類決策規(guī)則，其中距離度量則是根據(jù)所選取的k個最近的記錄計算距離，根據(jù)模型的特征空間，選取不同的Lp距離，而針對本文樣本集及模型基本情況，選取常用的L2距離，即歐幾里得距離，式（1）為L2范數(shù)的計算式：

（1）

對于k值的選取要合理。k即選k個距離樣本最近的數(shù)據(jù)點。如果選擇的k值較小，容易發(fā)生過擬合現(xiàn)象，學習的估計誤差會增大，預測結(jié)果會對近鄰的實例點非常敏感。如果選擇的k值較大，容易產(chǎn)生欠擬合現(xiàn)象，學習的近似誤差會增大，與輸入實例較遠的訓練實例也會對預測起作用，使預測發(fā)生錯誤。因此k值的選擇反映了對近似誤差與估計誤差之間的權(quán)衡，可由交叉驗證選擇最優(yōu)的k。

接下來將根據(jù)上面確定的K最近鄰分類算法對本題進行求解和預測分類。首先對樣本集中數(shù)據(jù)進行預處理，即對七列數(shù)據(jù)項進行數(shù)據(jù)清洗，剔除存在的缺失項以及重復值，最終清洗后本樣本集數(shù)據(jù)規(guī)模為310行。接下來分析該算法可確定特征量為前六項，最后一項（class）作為目標項。接下來為探尋特征量數(shù)據(jù)內(nèi)的規(guī)律信息，對六項特征量求解多個描述性統(tǒng)計指標（個數(shù)、平均值、最大值、最小值），如表1所示。

先針對二類標簽樣本集進行數(shù)據(jù)分析，繪制散點核密度矩陣估計圖及標簽統(tǒng)計圖，將數(shù)據(jù)可視化從而查看各項數(shù)據(jù)列間的聯(lián)系，如圖1、圖2所示。

由圖1和圖2可知每兩個特征間均存在相關(guān)關(guān)系且數(shù)據(jù)分布相對均勻，故接下來進行樣本集的劃分。根據(jù)常規(guī)方法劃分測試集占比為35%，訓練集占比為65%。為提高模型的分類準確率，采用交叉驗證對k值進行考量，由k = 1～30依次進行遍歷，選取準確率最高的作為超參數(shù)k值。但是由于在k = 1時訓練集準確率為100%，相對來說數(shù)據(jù)不穩(wěn)定，為減少相對誤差，故剔除k = 1的情況來選取合適的k值，如圖3所示。

根據(jù)圖3和交叉驗證算法結(jié)果可確定在k = 17時，模型復雜程度符合樣本集要求并且出現(xiàn)過擬合和欠擬合現(xiàn)象的概率最小。接下來在k = 17的情況下運用訓練集進行模型訓練，隨后用測試集對訓練后的模型進行檢驗，此時預測分類準確率最高，score = 0.881 720 430 107 526 9。

接下來對三類標簽樣本集進行繪制散點核密度矩陣估計圖及標簽統(tǒng)計圖，將數(shù)據(jù)可視化從而查看各項數(shù)據(jù)列間的聯(lián)系，如圖4、圖5所示。

由圖4和圖5可知每兩個特征間均存在相關(guān)關(guān)系且數(shù)據(jù)分布相對均勻，故接下來進行樣本集的劃分。根據(jù)常規(guī)方法劃分測試集占比為35%，訓練集占比為65%。為提高模型的分類準確率，采用交叉驗證對k值進行考量，與二類標簽操作一致，如圖6所示。

根據(jù)圖6和交叉驗證算法結(jié)果可確定在k = 7時，模型復雜程度符合樣本集要求并且出現(xiàn)過擬合和欠擬合現(xiàn)象的概率最小。接下來在k = 7的情況下運用訓練集進行模型訓練，隨后用測試集對訓練后的模型進行檢驗，此時預測分類準確率最高，score = 0.871 559 633 027 522 9。

2" 二分類邏輯回歸對骨科患者分類

對樣本集中的數(shù)據(jù)進行相關(guān)特征分析，數(shù)據(jù)集的目標項分為Spondylolisthesis、Hernia以及Normal。可將患者分為正常狀態(tài)和非正常狀態(tài)，其中非正常狀態(tài)又可細分為Spondylolisthesis和Hernia。對非正常狀態(tài)患者數(shù)據(jù)建立二分類邏輯回歸模型，二分類邏輯回歸分析結(jié)果如表2所示，其中***、**、*分別表示1%、5%、10%的顯著性水平。

二分類邏輯回歸的結(jié)果顯示：字段X6顯著性p值為0.015**，水平上呈現(xiàn)顯著性，拒絕原假設，因此X6會對目標量分類產(chǎn)生顯著性影響，意味著X6每增加一個單位，骨科患者患病為spondylolisthesis的概率比Hernia的概率高了57.286%。

由表2可確定，回歸方程為：

（2）

接下來對數(shù)據(jù)計算邏輯回歸的分類效果進行觀察，按照二類標簽樣本集和三類標簽樣本集進行分步分析。其中TP（FP）表示模型將正類別樣本正確（錯誤）的預測為正（負）類別；TN（FN）表示模型將負類別樣本正確（錯誤）的預測為負（正）類別。根據(jù)相關(guān)分類評價指標對邏輯回歸效果進行評價，其中準確率表示預測正確樣本占總樣本的比例；召回率表示實際為正樣本的結(jié)果中，預測為正樣本的比例；精確率表示預測出來為正樣本的結(jié)果中，實際為正樣本的比例；F1表示精確率和召回率的調(diào)和平均，AUC值越接近1說明分類效果越好。

先按照二類標簽樣本集分類效果及二分類邏輯回歸結(jié)果進行分析，結(jié)果如圖7、表3所示。

模型評價指標可用于對模型的表現(xiàn)進行評估或有效性進行驗證，其包括似然比檢驗，p值，AIC值、BIC值，***、**、*分別表示1%、5%、10%的顯著性水平，如表4所示：

隨后按照三類標簽樣本集分類效果及二分類邏輯回歸結(jié)果進行分析，結(jié)果如圖8、表5所示。

模型評價指標可用于對模型的表現(xiàn)進行評估或有效性進行驗證，其包括似然比檢驗、p值、AIC值、BIC值，***、**、*分別代表1%、5%、10%的顯著性水平，如表6所示。

由表4、表6得出，模型的似然比卡方檢驗的結(jié)果顯示，二類標簽和三類標簽顯著性p值0.000***，水平上呈現(xiàn)顯著性，拒絕原假設，同時三類標簽其評價指標明顯優(yōu)于二類標簽，因而模型是有效的。

3" 基于邏輯回歸的近鄰分類耦合算法

在前文中已經(jīng)根據(jù)K最近鄰算法對模型進行大致自動分類，同時采用邏輯回歸模型驗證特征量和目標量之間的相關(guān)性；接下來，為提高該模型自動分類的準確率，進一步減少失誤，故對上文中運用的K最近鄰算法和邏輯回歸模型進行耦合，細化分類程度，進一步提升本模型的準確率。令耦合新算法為f （x），根據(jù)上式可知，當最近鄰算法的結(jié)果與邏輯回歸結(jié)果一致時，f （x）輸出結(jié)果為最近鄰與邏輯回歸結(jié)果；當最近鄰算法的結(jié)果與邏輯回歸結(jié)果不同時，f （x）輸出結(jié)果為準確率高的算法預測分類結(jié)果，本次整體模型流程圖如圖9所示。

4" 結(jié)" 論

對于患者的自動分類，本文依托于最近鄰算法通過六項特征量和目標量進行模型訓練，將樣本原集根據(jù)65%和35%的比例劃分為訓練集和測試集；為提高模型的分類準確率，采用交叉驗證對k值進行考量，根據(jù)計算可知k = 7為骨科患病患者分類最優(yōu)解，k值選定后用所劃分的訓練集對模型進行訓練，輸入相關(guān)六項特征量后對其進行預測和分類。在初步算法下可知其模型在骨科患病分類的準確率為score = 0.871 559 633 027 522 9。同時本文建立二分類邏輯回歸模型，通過模型參數(shù)表得到患病與特征量之間的相關(guān)性。根據(jù)模型的似然比卡方檢驗的結(jié)果顯示，該模型有效。對于患病患者樣本集，字段X6顯著性p值為0.015**，水平上呈現(xiàn)顯著性，隨著單位數(shù)的增加，患病為spondylolisthesis的概率比Hernia的概率升高57.286%。在前文中已經(jīng)根據(jù)最近鄰算法對模型進行了大致自動分類，同時采用邏輯回歸模型驗證特征量和目標量之間的相關(guān)性；為減少誤差，對上文中的K最近鄰算法和邏輯回歸模型進行耦合，細化分類程度，進一步提升本模型的準確率。耦合后的算法在分類準確率上，有較大程度的提高，score = 0.930 685 444 943 163 7。本文在問題求解的過程中求解結(jié)果合理，具有一定的實際生產(chǎn)應用價值和普適性。

參考文獻：

[1] 李穩(wěn)超，司曉華.腰骶-骨盆手法調(diào)整治療腰椎間盤突出癥研究進展 [J].中醫(yī)藥臨床雜志，2022，34（2）：385-389.

[2] 葉敬堯.基于“筋骨再平衡”理論研究后路短節(jié)段減壓內(nèi)固定治療退變性腰椎側(cè)凸的臨床療效 [D].濟南：山東中醫(yī)藥大學，2021.

[3] 劉青.針刀松解術(shù)前膝內(nèi)翻患者脊柱骨盆下肢形態(tài)的影像學觀察 [D].武漢：湖北中醫(yī)藥大學，2021.

[4] ZHANG C，ZHONG P S，LIU M，et al. Hybrid Metric K-Nearest Neighbor Algorithm and Applications [J].Mathematical Problems in Engineering，2022，2022：1-15.

[5] SUN W，QIAO X Y，CHENG G. Stabilized Nearest Neighbor Classifier and its Statistical Properties [J/OL].arXiv：1405.6642 [stat.ML].（2014-05-26）.https：//arxiv.org/abs/1405.6642.

[6] 嚴佳.穩(wěn)定的最近鄰分類器及其統(tǒng)計性質(zhì) [D].合肥：中國科學技術(shù)大學，2019.

[7] 申俞文.基于多分類邏輯回歸的微表情識別模型 [D].徐州：中國礦業(yè)大學，2020.

[8] 許沖，徐錫偉.邏輯回歸模型在玉樹地震滑坡危險性評價中的應用與檢驗 [J].工程地質(zhì)學報，2012，20（3）：326-333.

[9] 田楚偉，陳翔溆，朱桓毅，等.機器學習在創(chuàng)傷骨科中的應用與展望 [J].中國修復重建外科雜志，2023，37（12）：1562-1568.

[10] 菅振，呂濤，敖榮廣，等.人工智能在創(chuàng)傷骨科中的應用 [J].生物骨科材料與臨床研究，2023，20（2）：76-80.

作者簡介：王宣諭（2002.03—），男，漢族，遼寧本溪人，本科在讀，研究方向：電子信息。

收稿日期：2023-10-25