基于機(jī)器學(xué)習(xí)的聚類數(shù)據(jù)劃分算法的研究

馬宏艷，楊保銀，彭仁杰

摘要：聚類算法是一種典型的無監(jiān)督學(xué)習(xí)算法。本文分析了樣本度量算法及類間的度量方法，機(jī)器學(xué)習(xí)中的聚類數(shù)據(jù)劃分算法有k-平均算法、k-中心點(diǎn)算法，分析了兩種算法的優(yōu)缺點(diǎn)，最后說明算法在scikit-learn中的應(yīng)用。

關(guān)鍵詞：機(jī)器學(xué)習(xí);聚類;劃分方法

中圖分類號(hào)：TP301? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1009-3044（2021）20-0009-02

Research on Clustering Data Partition Algorithm Based on Machine Learning

MA Hong-yan

（Information Engineering College， Longdong University， Qingyang 745000， China）

Abstract： Clustering Algorithm is a typical unsupervised learning algorithm. This paper analyzes the sample measurement algorithm and the measurement method between classes， The clustering data partition algorithm in machine learning includes k-something average algorithm and k-something central point algorithm. The advantages and disadvantages of the two algorithms are analyzed.

Key words： machine learning; clustering; partition method

機(jī)器學(xué)習(xí)分為四大塊，分別是classification （分類），clustering （聚類）， regression （回歸）， dimensionality reduction （降維）。對(duì)于一個(gè)樣本特征x，預(yù)測(cè)其對(duì)應(yīng)的屬性值y，如果y是離散的，那就是分類，如果y是連續(xù)的實(shí)數(shù)，就是回歸。對(duì)于一組樣本特征S={x∈RD}，沒有對(duì)應(yīng)的y， 要發(fā)掘這組樣本在D維空間的分布，就是聚類問題。如果想用維數(shù)更低的子空間來表示原來高維的特征空間， 那么就是降維問題。

聚類分析在市場銷售研究、模式識(shí)別、大數(shù)據(jù)分析以及圖形圖像處理等方面被廣泛應(yīng)用。在醫(yī)療中，聚類能夠幫助醫(yī)生分析已有患者病例從中發(fā)現(xiàn)不同的患者群;在精準(zhǔn)扶貧的大數(shù)據(jù)中，根據(jù)已脫貧人員的實(shí)例獲得對(duì)有相同致貧原因的貧困人員定制準(zhǔn)確的脫貧措施。

聚類是一種重要的人類活動(dòng)，也是數(shù)據(jù)挖掘中用來發(fā)現(xiàn)數(shù)據(jù)分布和模式的一項(xiàng)重要技術(shù)。將物理或抽象的集合分成相似的對(duì)象類的過程稱為聚類[1]（Clustering），同一類數(shù)據(jù)也稱其為簇（Cluster），這些數(shù)據(jù)對(duì)象在簇內(nèi)相似，簇間相異。

定義：給定一數(shù)據(jù)集合D={P1，P2，...，Pn}，其中Pi（i=1，2，...，n）稱為數(shù)據(jù)點(diǎn)（或?qū)ο螅鶕?jù)數(shù)據(jù)點(diǎn)間的相似程度將數(shù)據(jù)集合分成k組Ci（i=1，2，...，k）（也稱為簇）的過程稱為聚類。

1 聚類中樣本度量方法

相異性度量標(biāo)準(zhǔn)的選擇是一個(gè)聚類分析質(zhì)量的關(guān)鍵，聚類算法是通過計(jì)算樣本特征空間中的距離來衡量兩個(gè)樣本間的相異度[2]，當(dāng)兩個(gè)樣本相異較小（相似較大）時(shí)，距離值小，反之則大。

假設(shè)a和b是相應(yīng)的特征向量，m是特征的維數(shù)，則計(jì)算距離度量常用的函數(shù)有幾種：

（1） 明可夫斯基距離

a和b的明可夫斯基距離度量：

[d（a，b）=i=1m|ai-bj|r1r]? ? ? ? ? ? ? ? ? ? ? ? ?（1）

當(dāng)r=1時(shí)，轉(zhuǎn)化為明可夫斯基距離的絕對(duì)值距離：

[d（a，b）=i=1m|ai-bj|]? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （2）

當(dāng)r=2時(shí)，轉(zhuǎn)化為明可夫斯基距離的歐氏距離：

[d（a，b）=i=1m|ai-bj|212]? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?（3）

當(dāng)r趨向于無窮大時(shí)，轉(zhuǎn)化為切比雪夫距離：

[d（a，b）=max|ai-bi|（1≤i≤n）]? ? ? ? ? ? ? ? ?（4）

在以上三種距離中，經(jīng)常用的距離是歐氏距離，是因?yàn)閷?duì)坐標(biāo)系進(jìn)行平移和旋轉(zhuǎn)變換之后，其值不變，對(duì)象的結(jié)構(gòu)和原來相似。

（2） 二次距離

二次型距離測(cè)度的形式：

[d（a，b）=（a-b）TA（a-b）12]? ? ? ? ? ? ? ? ? ? ? ?（5）