一致性正則化與代理標(biāo)簽的骨骼點(diǎn)云半監(jiān)督分割*

周長(zhǎng)虹蔣俊鋒張文璽黃 瑞張 昊陳 亮

（1.河海大學(xué)物聯(lián)網(wǎng)工程學(xué)院 常州 213022）（2.溧陽(yáng)市人民醫(yī)院骨科 常州 213300）（3.上海長(zhǎng)海醫(yī)院血管外科 上海 200433）（4.常州錦瑟醫(yī)療信息科技有限公司 常州 213000）

計(jì)算機(jī)輔助的骨科術(shù)前規(guī)劃中，如圖1（a）所示，需要先提取碎骨的內(nèi)外表面，以每個(gè)碎骨外表面為單元進(jìn)行拼接從而完成骨折高效修復(fù)［1］（見(jiàn)圖2）；另一方面，對(duì)骨病進(jìn)行診斷時(shí)，也需要對(duì)骨骼表面的醫(yī)學(xué)語(yǔ)義區(qū)域進(jìn)行分割。如圖1（b）所示，人體股骨可初步劃分為股骨頭、股骨頸、股骨干等醫(yī)學(xué)語(yǔ)義區(qū)域，這些區(qū)域的劃分對(duì)于骨骼畸形測(cè)量、骨骼疾病診斷具有重要意義［2］?，F(xiàn)有的骨骼分割方法一般采用手動(dòng)或半自動(dòng)分割，分割效率低下，且通常依賴(lài)骨科醫(yī)生經(jīng)驗(yàn)，這會(huì)導(dǎo)致病人輻射次數(shù)較多、分割精度不高、分割時(shí)間較長(zhǎng)等問(wèn)題。

圖1 骨骼語(yǔ)義分割

圖2 骨折修復(fù)

近年來(lái)，利用深度學(xué)習(xí)進(jìn)行三維物體語(yǔ)義分割已經(jīng)成為研究熱點(diǎn)。深度學(xué)習(xí)中，監(jiān)督學(xué)習(xí)需要大量標(biāo)注數(shù)據(jù)訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，由于手工標(biāo)注費(fèi)時(shí)費(fèi)力，尤其對(duì)于骨骼標(biāo)注，需要非常專(zhuān)業(yè)的骨科醫(yī)生進(jìn)行標(biāo)注，成本較高，因此這也是制約當(dāng)前骨骼語(yǔ)義智能分割的關(guān)鍵因素。

目前，為了有效提高無(wú)標(biāo)簽數(shù)據(jù)的利用率，半監(jiān)督學(xué)習(xí)應(yīng)運(yùn)而生。半監(jiān)督學(xué)習(xí)是利用小部分有標(biāo)簽數(shù)據(jù)和大部分無(wú)標(biāo)簽數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)，從而盡可能提高神經(jīng)網(wǎng)絡(luò)的性能。半監(jiān)督學(xué)習(xí)主要包括兩種方法：一類(lèi)是一致性正則化方法，另一類(lèi)是代理標(biāo)簽方法。其中，一致性正則化通常利用“學(xué)生-教師”框架［2］，對(duì)于同一無(wú)標(biāo)簽數(shù)據(jù)的不同增強(qiáng)形式，學(xué)生網(wǎng)絡(luò)和教師網(wǎng)絡(luò)預(yù)測(cè)要盡量一致，以此增加網(wǎng)絡(luò)泛化能力。這類(lèi)方法問(wèn)題主要在于，當(dāng)無(wú)標(biāo)簽數(shù)據(jù)存在噪聲時(shí)，影響網(wǎng)絡(luò)的一致性判斷。代理標(biāo)簽法利用有標(biāo)簽數(shù)據(jù)訓(xùn)練的網(wǎng)絡(luò)預(yù)測(cè)無(wú)標(biāo)簽數(shù)據(jù)的標(biāo)簽，網(wǎng)絡(luò)輸出置性度較高的作為偽標(biāo)簽數(shù)據(jù)，但不具備一致性正則化的優(yōu)點(diǎn)。

針對(duì)以上問(wèn)題，本文面向人體骨骼語(yǔ)義分割任務(wù)，并結(jié)合以上兩種方法的優(yōu)點(diǎn)，提出一種基于一致性正則化與代理標(biāo)簽的半監(jiān)督分割方法（Consistent Regularization and Proxy Label，CRPL）。該方法將點(diǎn)云分割網(wǎng)絡(luò)嵌入到“學(xué)生-教師”框架中，對(duì)于無(wú)標(biāo)簽數(shù)據(jù)，學(xué)生網(wǎng)絡(luò)預(yù)測(cè)每個(gè)點(diǎn)標(biāo)簽概率進(jìn)行高閾值過(guò)濾計(jì)算出代理標(biāo)簽與教師網(wǎng)絡(luò)計(jì)算一致性損失，該方法增加了代理標(biāo)簽的可信度，降低了網(wǎng)絡(luò)預(yù)測(cè)偏差。在實(shí)驗(yàn)部分針對(duì)碎骨內(nèi)外表面分割與股骨表面語(yǔ)義分割兩類(lèi)任務(wù)，對(duì)本文方法進(jìn)行較為全面的評(píng)估。

2 相關(guān)工作

CRPL方法的相關(guān)工作主要包括半監(jiān)督學(xué)習(xí)和骨骼點(diǎn)云語(yǔ)義分割兩方面研究。相關(guān)研究進(jìn)展介紹如下。

2.1 半監(jiān)督學(xué)習(xí)

半監(jiān)督學(xué)習(xí)包含一致性正則化［2～3］、代理標(biāo)簽法［4］、混合方法［5～6］、生成式方法［7］以及基于圖［8］等方法。其中，一致性正則化技術(shù)促使模型和數(shù)據(jù)收到干擾時(shí)，網(wǎng)絡(luò)仍然可以輸出相同的分布，關(guān)鍵點(diǎn)在于選擇合適的擾動(dòng)方式。代理標(biāo)簽方法是使用預(yù)測(cè)模型或它的某些變體生成代理標(biāo)簽來(lái)訓(xùn)練模型?；旌戏椒ㄔ噲D在一個(gè)框架中整合當(dāng)前的半監(jiān)督學(xué)習(xí)的主要方法，從而獲得更好的性能。生成式方法假設(shè)所有的數(shù)據(jù)都由同一個(gè)潛在的模型生成，難點(diǎn)在于在具體任務(wù)中很難做出準(zhǔn)確的模型假設(shè)?；趫D的方法試圖通過(guò)構(gòu)建圖連接，來(lái)建立標(biāo)簽數(shù)據(jù)和無(wú)標(biāo)簽數(shù)據(jù)之間的潛在關(guān)系進(jìn)行標(biāo)簽傳播，但由于存儲(chǔ)成本高難以直接處理大規(guī)模數(shù)據(jù)。

三維模型的半監(jiān)督學(xué)習(xí)，按照三維形狀的表示方式分為基于多視圖［4］、網(wǎng)格［9］、體素［10］、點(diǎn)云［11］等方法?；诙嘁晥D的表示方法通過(guò)從不同視角獲取物體信息，但很難描述物體三維內(nèi)部特征。網(wǎng)格模型由于面片數(shù)量過(guò)多，處理起來(lái)往往比較復(fù)雜。對(duì)于基于點(diǎn)云表示方法，由于其簡(jiǎn)單的表示方法和良好的幾何特征被廣泛應(yīng)用于深度學(xué)習(xí)領(lǐng)域。

2.2 骨骼點(diǎn)云語(yǔ)義分割

骨骼語(yǔ)義分割是將骨骼分成幾個(gè)有意義的部分。按照是否利用模板，骨骼語(yǔ)義分割可分為兩類(lèi)：一類(lèi)是無(wú)模板［12～13］方法，主要基于骨骼形態(tài)特點(diǎn)以及骨骼標(biāo)志區(qū)域的空間位置關(guān)系提取參數(shù)；二是有模板［14～15］的方法，基于可變形模板［14］和多譜圖［15］方法，通過(guò)擬合模板與目標(biāo)骨骼，完成語(yǔ)義區(qū)域提取。按照骨骼是否發(fā)生骨折，骨骼語(yǔ)義分割可分為面向碎骨內(nèi)外表面分割和完整骨骼表面語(yǔ)義分割，相比于完整骨骼，碎骨存在形態(tài)復(fù)雜多變、骨折斷裂邊界重合、細(xì)小碎片丟失等情況，加大分割難度。

利用深度學(xué)習(xí)方法進(jìn)行骨骼語(yǔ)義分割已成為當(dāng)前的研究熱點(diǎn)。其中，三維點(diǎn)云分割方法包括PointNet++［16］、PointCNN［17］、DGCNN［18］等，這些都屬于監(jiān)督學(xué)習(xí)方法，需要大量標(biāo)注完備的數(shù)據(jù)。骨骼數(shù)據(jù)獲取十分困難，標(biāo)注成本較高，半監(jiān)督學(xué)習(xí)能有效降低數(shù)據(jù)標(biāo)注的成本。目前面向骨骼點(diǎn)云的半監(jiān)督學(xué)習(xí)研究尚未見(jiàn)公開(kāi)報(bào)道。

3 本文方法

CRPL方法總體流程如圖3所示，神經(jīng)網(wǎng)絡(luò)總損失由監(jiān)督損失和無(wú)監(jiān)督損失構(gòu)成，其中監(jiān)督損失由帶標(biāo)簽的數(shù)據(jù)與學(xué)生網(wǎng)絡(luò)輸出計(jì)算交叉熵函數(shù)得到；無(wú)監(jiān)督損失先由學(xué)生網(wǎng)絡(luò)計(jì)算出無(wú)標(biāo)簽數(shù)據(jù)的代理標(biāo)簽，然后與教師網(wǎng)絡(luò)輸出計(jì)算交叉熵函數(shù)。教師網(wǎng)絡(luò)參數(shù)由學(xué)生網(wǎng)絡(luò)通過(guò)滑動(dòng)指數(shù)平均［2］（Exponential Moving Average，EMA）傳遞。

圖3 CRPL方法流程

本文總體方法流程如下：

輸入：標(biāo)簽集｛xl，yl｝，無(wú)標(biāo)簽集｛xu｝

Step1：預(yù)訓(xùn)練階段

1）由標(biāo)簽數(shù)據(jù)｛xl，yl｝得到學(xué)生網(wǎng)絡(luò)輸出，由監(jiān)督損失進(jìn)行梯度下降，更新學(xué)生網(wǎng)絡(luò)參數(shù)。

Step2：訓(xùn)練階段

1）通過(guò)EMA傳播，計(jì)算教師網(wǎng)絡(luò)參數(shù)。

2）根據(jù)｛xl，yl｝與｛xu｝分別計(jì)算學(xué)生網(wǎng)絡(luò)輸出y?s與教師網(wǎng)絡(luò)輸出y?T。

3）由學(xué)生網(wǎng)絡(luò)輸出y?s與閾值τ計(jì)算無(wú)標(biāo)簽數(shù)據(jù)代理標(biāo)簽y?u。

4）計(jì)算損失L=Ll+β(t)Lu，其中學(xué)生網(wǎng)絡(luò)監(jiān)督 損 失，無(wú)監(jiān)督損失其中，β(t)為無(wú)監(jiān)督權(quán)重，Bl、Bu分別為每批訓(xùn)練的標(biāo)簽數(shù)據(jù)和無(wú)標(biāo)簽數(shù)據(jù)量。

5）根據(jù)損失L，梯度下降更新學(xué)生網(wǎng)絡(luò)參數(shù)。

4 方法細(xì)節(jié)

本文訓(xùn)練數(shù)據(jù)為標(biāo)簽和無(wú)標(biāo)簽骨骼三維點(diǎn)云數(shù)據(jù)，通過(guò)“學(xué)生-教師”點(diǎn)云分割網(wǎng)絡(luò)得到骨骼每個(gè)點(diǎn)的語(yǔ)義標(biāo)簽，無(wú)標(biāo)簽骨骼數(shù)據(jù)經(jīng)過(guò)學(xué)生網(wǎng)絡(luò)預(yù)測(cè)得到的結(jié)果過(guò)濾得到代理標(biāo)簽，與教師網(wǎng)絡(luò)的輸出計(jì)算一致性差異，無(wú)標(biāo)簽數(shù)據(jù)訓(xùn)練細(xì)節(jié)如下。

4.1 代理標(biāo)簽生成

無(wú)標(biāo)簽數(shù)據(jù)的代理標(biāo)簽與教師網(wǎng)絡(luò)的輸出計(jì)算無(wú)監(jiān)督損失，每個(gè)點(diǎn)的標(biāo)簽為學(xué)生網(wǎng)絡(luò)輸出經(jīng)過(guò)置信過(guò)濾后選取后驗(yàn)概率最大的作為代理標(biāo)簽。在代理標(biāo)簽的生成過(guò)程中不可避免地會(huì)有一些不正確的預(yù)測(cè)。因此，需要進(jìn)行標(biāo)簽選擇以獲得合適的代理標(biāo)簽。一般來(lái)說(shuō)，具有較高后驗(yàn)概率的預(yù)測(cè)更有可能是正確的，常用的方法是設(shè)置一個(gè)嚴(yán)格的閾值，并選擇在其之上的概率所對(duì)應(yīng)的標(biāo)簽。代理標(biāo)簽生成公式如下。

其中，為學(xué)生網(wǎng)絡(luò)點(diǎn)云的預(yù)測(cè)的概率分布，τ為置信閾值，在本文方法中取0.8。

4.2 “學(xué)生-教師”半監(jiān)督訓(xùn)練

本節(jié)中主要介紹了“學(xué)生-教師”網(wǎng)絡(luò)半監(jiān)督學(xué)習(xí)損失的構(gòu)成以及學(xué)生與教師網(wǎng)絡(luò)之間學(xué)習(xí)原理。細(xì)節(jié)如下，“學(xué)生-教師”網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)由標(biāo)簽數(shù)據(jù)集，和無(wú)標(biāo)簽數(shù)據(jù)集共同完成，標(biāo)簽數(shù)據(jù)計(jì)算監(jiān)督損失，無(wú)標(biāo)簽數(shù)據(jù)計(jì)算無(wú)監(jiān)督損失，總損失函數(shù)如下。

其中，Ll為監(jiān)督損失，Lu為無(wú)監(jiān)督損失，β(t)表示無(wú)監(jiān)督損失權(quán)重，Nl、Nu表示標(biāo)簽數(shù)據(jù)和無(wú)標(biāo)簽數(shù)據(jù)總數(shù)。對(duì)于無(wú)監(jiān)督損失權(quán)重β(t)的調(diào)度對(duì)網(wǎng)絡(luò)性能非常重要。若設(shè)置過(guò)高，會(huì)影響標(biāo)簽數(shù)據(jù)的訓(xùn)練；反之，將無(wú)法利用未標(biāo)記數(shù)據(jù)給學(xué)生網(wǎng)絡(luò)帶來(lái)的增益，影響網(wǎng)絡(luò)泛化性能。β(t)表示如下。

其中，βf=5，T1與T2為網(wǎng)絡(luò)訓(xùn)練輪數(shù)，分別取500和1000。當(dāng)t＜T1，β(t)=0，神經(jīng)網(wǎng)絡(luò)在預(yù)訓(xùn)練階段，損失由監(jiān)督損失構(gòu)成，可以加快網(wǎng)絡(luò)收斂速度；當(dāng)T1≤t＜T1，通過(guò)緩慢增加β(t)的確定性退火過(guò)程，有助于在網(wǎng)絡(luò)優(yōu)化過(guò)程避免局部極小值，使未標(biāo)記數(shù)據(jù)的代理標(biāo)簽盡可能與真實(shí)標(biāo)簽相同；當(dāng)t≥T2，βf=5，網(wǎng)絡(luò)處于穩(wěn)定訓(xùn)練階段。

半監(jiān)督訓(xùn)練過(guò)程中“學(xué)生-教師”網(wǎng)絡(luò)之間參數(shù)傳遞過(guò)程描述如下。首先，學(xué)生網(wǎng)絡(luò)的參數(shù)由梯度下降法更新得到；然后，教師網(wǎng)絡(luò)模型參數(shù)由學(xué)生網(wǎng)絡(luò)通過(guò)EMA傳遞得到，并不與學(xué)生模型共享參數(shù)。神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程中每個(gè)步驟都進(jìn)行了EMA傳播。與Temporal-Ensembling［3］等傳統(tǒng)半監(jiān)督學(xué)習(xí)相比，EMA有以下優(yōu)勢(shì)：1）學(xué)生網(wǎng)絡(luò)之間有了更快的參數(shù)反饋循環(huán)，從而提高測(cè)試準(zhǔn)確率；2）適用于大型數(shù)據(jù)集以及在線學(xué)習(xí)。EMA平均權(quán)重計(jì)算如式（4）所示。

其中，超參數(shù)α=0.999，表示平滑系數(shù)，即EMA權(quán)重。表示訓(xùn)練階段第t步的教師網(wǎng)絡(luò)參數(shù)，St為學(xué)生網(wǎng)絡(luò)模型參數(shù)。當(dāng)α=0，表示教師網(wǎng)絡(luò)參數(shù)與學(xué)生網(wǎng)絡(luò)參數(shù)相同。

在數(shù)據(jù)增強(qiáng)方面，本文采用了一種非對(duì)稱(chēng)式數(shù)據(jù)增強(qiáng)方式。學(xué)生網(wǎng)絡(luò)采用了采樣、平移、翻轉(zhuǎn)的弱增強(qiáng)策略，學(xué)生網(wǎng)絡(luò)本身的預(yù)測(cè)能力保證了代理標(biāo)簽的質(zhì)量和數(shù)量；對(duì)于教師網(wǎng)絡(luò)，在弱增強(qiáng)基礎(chǔ)上增加了縮放與擾動(dòng)的強(qiáng)增強(qiáng)策略，教師網(wǎng)絡(luò)在訓(xùn)練過(guò)程中，需要保持一定的一致性差異來(lái)幫助學(xué)生網(wǎng)絡(luò)更好地進(jìn)行參數(shù)學(xué)習(xí)。經(jīng)過(guò)對(duì)不同網(wǎng)絡(luò)進(jìn)行合理的數(shù)據(jù)增強(qiáng)，可以有效提高網(wǎng)絡(luò)泛化能力。

5 實(shí)驗(yàn)分析

5.1 數(shù)據(jù)集

本文人體骨骼數(shù)據(jù)從江蘇省常州市溧陽(yáng)人民醫(yī)院采集。實(shí)驗(yàn)數(shù)據(jù)具體描述如下：骨骼數(shù)據(jù)為CT影像掃描數(shù)據(jù)，男女比例為4∶6，年齡范圍為30歲～80歲；分別使用了300例脛骨碎片與完整股骨數(shù)據(jù)作為本文的實(shí)驗(yàn)數(shù)據(jù)；所有的病人均簽署了知情同意書(shū)。

5.2 實(shí)驗(yàn)環(huán)境與參數(shù)設(shè)置

本文實(shí)驗(yàn)基于PyTorch 1.7.1框架，實(shí)驗(yàn)平臺(tái)為VSCode Linux x64，Python 3.7搭建在Ubuntu20.04 LTS系統(tǒng)上，測(cè)試環(huán)境為NVIDIA Quadro P4000（8G），系統(tǒng)內(nèi)存為32G。所有模型的超參數(shù)設(shè)置相同，具體設(shè)置如表1所示。

表1 CRPL超參數(shù)

5.3 實(shí)驗(yàn)分析

5.3.1 分割精度評(píng)估

利用平均類(lèi)別交并比（mean Intersection over Unio，mIoU）衡量骨骼語(yǔ)義分割的準(zhǔn)確度，計(jì)算出每個(gè)類(lèi)別的交并比然后對(duì)其求平均，交并比計(jì)算公式如式（5）所示。

其中，TP表示交集，表示網(wǎng)絡(luò)分割正確的點(diǎn)數(shù)。TP+FP+FN表示并集。FP表示網(wǎng)絡(luò)分割錯(cuò)誤的點(diǎn)數(shù)，F(xiàn)N表示網(wǎng)絡(luò)漏分割點(diǎn)數(shù)。

本文網(wǎng)絡(luò)預(yù)測(cè)精度如表2所示，結(jié)論如下：

表2 點(diǎn)云網(wǎng)絡(luò)分割精度對(duì)比（mIoU）

1）相同標(biāo)注占比情況下，PointNet分割精度最低，DGCNN在股骨表面語(yǔ)義分割任務(wù)中平均高于PointNet++0.23%，但在碎骨內(nèi)外表面分割任務(wù)中與PointNet++平均相差1.67%。因此，PointNet++相對(duì)于其他網(wǎng)絡(luò)具有較好的數(shù)據(jù)兼容性；

2）同一點(diǎn)云網(wǎng)絡(luò)下，對(duì)于兩種分割任務(wù)，當(dāng)標(biāo)注占比由5%提升到10%，分割精度平均提高10%，由10%提升到20%時(shí)，分割精度平均提高0.8%。當(dāng)標(biāo)注占比達(dá)到10%左右，半監(jiān)督學(xué)習(xí)網(wǎng)絡(luò)達(dá)到了很好的分割性能。

5.3.2 方法效率

通過(guò)對(duì)點(diǎn)云網(wǎng)絡(luò)的復(fù)雜度分析來(lái)評(píng)估本文方法效率，包括空間和時(shí)間復(fù)雜度。細(xì)節(jié)如表3所示。

表3 方法效率評(píng)估

從表3可以得出以下結(jié)論：1）PointNet網(wǎng)絡(luò)方法效率最高，PointCNN最低；2）四種網(wǎng)絡(luò)測(cè)試時(shí)間相近，平均為7.2，平均訓(xùn)練時(shí)間為13.25；3）綜合分割精度和方法效率，PointNet++方法效率高于DGCNN，分割精度高于PointNet。PointNet++優(yōu)于其他三種網(wǎng)絡(luò)。下文實(shí)驗(yàn)均采用PointNet++點(diǎn)云分割網(wǎng)絡(luò)，標(biāo)注占比10%進(jìn)行半監(jiān)督學(xué)習(xí)分析。

5.4 對(duì)比實(shí)驗(yàn)分析

為了驗(yàn)證本文提出的方法的有效性，本文與4種半監(jiān)督學(xué)習(xí)方法模型進(jìn)行了比較。其中，一致性訓(xùn)練方法包括Pimodel［3］、Temporal-Ensembling［3］、Mean Teacher［2］，代理標(biāo)簽法選擇Pseudo-Label［19］。在兩種骨骼數(shù)據(jù)集下分別評(píng)估CRPL方法的有效性，其中監(jiān)督學(xué)習(xí)指使用300例數(shù)據(jù)訓(xùn)練沒(méi)有無(wú)標(biāo)簽數(shù)據(jù)訓(xùn)練的結(jié)果。

結(jié)合圖4與圖5，得出以下結(jié)論：1）隨著標(biāo)注數(shù)據(jù)占比的增大，神經(jīng)網(wǎng)絡(luò)參數(shù)擬合性能越來(lái)越好，準(zhǔn)確率逐漸增加。當(dāng)標(biāo)注數(shù)據(jù)占比達(dá)到10%時(shí)，半監(jiān)督學(xué)習(xí)準(zhǔn)確率上升幅度變緩，預(yù)測(cè)精度達(dá)到了一個(gè)很好的效果；2）在兩種數(shù)據(jù)集上，CRPL表現(xiàn)優(yōu)于其他四種方法。

圖4 股骨表面語(yǔ)義分割

圖5 碎骨內(nèi)外表面分割

5.5 消融實(shí)驗(yàn)研究

置信閾值的大小決定學(xué)生網(wǎng)絡(luò)所產(chǎn)生代理標(biāo)簽的質(zhì)量以及數(shù)量。通過(guò)改變閾值來(lái)探索閾值大小對(duì)分割精度的影響。如圖6，當(dāng)置信閾值取值在［0.55，0.8］范圍，準(zhǔn)確率呈現(xiàn)出上升的趨勢(shì)。當(dāng)置信閾值取值在［0.8，0.9］范圍呈下降趨勢(shì)。這是因?yàn)殡S著閾值的增加，點(diǎn)云代理標(biāo)簽點(diǎn)的確定性也會(huì)隨之增加，表明高質(zhì)量的代理標(biāo)簽?zāi)芴岣吣Ｐ皖A(yù)測(cè)準(zhǔn)確率。但閾值過(guò)大也會(huì)使學(xué)生網(wǎng)絡(luò)生成的代理標(biāo)簽數(shù)量減少，從而降低網(wǎng)絡(luò)分割性能。因此，通過(guò)選擇閾值平衡代理標(biāo)簽的質(zhì)量與數(shù)量，對(duì)網(wǎng)絡(luò)分割效果具有重要意義。

圖6 閾值對(duì)網(wǎng)絡(luò)精確度影響

6 結(jié)語(yǔ)

針對(duì)骨骼數(shù)據(jù)標(biāo)注困難問(wèn)題，本文提出了一種基于點(diǎn)云的三維骨骼半監(jiān)督點(diǎn)云學(xué)習(xí)方法，該方法的核心思想是將“學(xué)生-教師”點(diǎn)云分割網(wǎng)絡(luò)作為骨干網(wǎng)絡(luò)，結(jié)合一致性正則化和代理標(biāo)簽思想，有效利用無(wú)標(biāo)簽數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)。經(jīng)過(guò)實(shí)驗(yàn)表明，該方法優(yōu)于傳統(tǒng)的一致性正則化和代理標(biāo)簽法，利用10%標(biāo)注數(shù)據(jù)即可基本接近監(jiān)督網(wǎng)絡(luò)性能，高效地完成了骨骼自動(dòng)化分割任務(wù)。