基于大間隔最近鄰算法的人類活動識別研究

王麗曉

摘要：隨著社會的不斷發(fā)展，人工智能越來越深入的融入到人們的生活，而人工智能的一個應(yīng)用智能家居大大提高了人們的生活水平。智能家居中最重要的部分就是人體安全監(jiān)控，而這一技術(shù)的核心就是人類活動識別。傳統(tǒng)的識別技術(shù)速度慢、精確度低，而度量學(xué)習(xí)能很大程度改善傳統(tǒng)人類活動識別技術(shù)的不足。本文研究的是將大間隔最近鄰應(yīng)用到人類活動識別中以提高識別效率。

關(guān)鍵詞：大間隔最近鄰;人類活動識別;度量學(xué)習(xí)

中圖分類號：TP391 文獻標識碼：A 文章編號：1007-9416（2020）02-0091-02

人工智能的核心是機器學(xué)習(xí)，而機器學(xué)習(xí)結(jié)果的好壞取決于對未知事物的分類精度，而在進行分類的過程存在著數(shù)據(jù)之間相似性的比較，傳統(tǒng)的相似性對于特定的相似性需求往往得不到好的效果，這就導(dǎo)致了度量學(xué)習(xí)的出現(xiàn)，得到一個比較實用的相似性比較標準。本文選用的度量學(xué)習(xí)算法是大間隔最近鄰，下面是論文的具體內(nèi)容。

1 大間隔最近鄰算法

大間隔最近鄰算法（LMNN）是基于K-近鄰分類的馬氏距離度量。LMNN算法的最后結(jié)果是一個訓(xùn)練馬氏距離，該度量能使距離目標數(shù)據(jù)最近的K個數(shù)據(jù)屬于同一類，使與目標數(shù)據(jù)不同類的樣本盡量遠離。算法的思想來源于對穩(wěn)定的K-近鄰分類的兩個簡單的考慮。一方面，每個訓(xùn)練輸入數(shù)據(jù)應(yīng)當與其k個最相近的數(shù)據(jù)具有同樣類別;同樣的，具有不同類別的訓(xùn)練輸入樣本應(yīng)當使其盡量遠離訓(xùn)練數(shù)據(jù)。算法訓(xùn)練的最后結(jié)果是訓(xùn)練得出樣本數(shù)據(jù)上的線性變換矩陣，經(jīng)過該矩陣轉(zhuǎn)換后的樣本數(shù)據(jù)可以滿足上述兩方面的要求。在實際運行過程中，這兩方面的要求時通過兩個函數(shù)表達式來表達的。一個表達式是處理與目標數(shù)據(jù)具有相同類別且距離較遠的，經(jīng)過表達式的變化使距離變小;另一個是處理與目標數(shù)據(jù)具有不同類別且距離較小，處理后使其遠離目標數(shù)據(jù)。這里有個問題，就是“大”和“小”的標準，此時需要引入新的概念來定義“大”和“小”。

2 算法介紹

2.1 樸素貝葉斯（NB）

樸素貝葉斯法是一種基于貝葉斯定理與特征條件獨立假設(shè)的分類方法。對于給定的訓(xùn)練數(shù)據(jù)集，首先基于特征條件獨立假設(shè)學(xué)習(xí)輸入/輸出的聯(lián)合概率分布;然后基于此模型，對給定的輸入，利用貝葉斯定理求出后驗概率最大的輸出。因此，樸素貝葉斯需要得到幀被標簽為標簽的概率。

2.2 1-近鄰（1NN）

1-近鄰是k-近鄰的一種特殊情況。K-近鄰算法是一種基本分類與回歸的方法，它的輸入為樣本的特征向量，可以對應(yīng)到特征空間;輸出為樣本的類別，實現(xiàn)對樣本的分類。K-近鄰假設(shè)了一個給定的訓(xùn)練數(shù)據(jù)集，其中實例類別是已定的。對其進行分類時，對于新的實例，根據(jù)其K個最近鄰的大多數(shù)的表決來決定新實例的類別。運用到試驗中就是K-近鄰分類器通過在訓(xùn)練數(shù)據(jù)中找到距目標數(shù)據(jù)最近的數(shù)據(jù)并將類別從鄰居傳播到目標數(shù)據(jù)來為每個目標數(shù)據(jù)分配類別。

2.3 伴隨有拒絕任務(wù)的1-近鄰（1NN-M）

伴隨有拒絕任務(wù)的1-近鄰是在1-近鄰的基礎(chǔ)上對數(shù)據(jù)的選擇設(shè)置了一定的范圍，合格范圍是距目標數(shù)據(jù)R寬的圓形范圍，超出圓形范圍的數(shù)據(jù)和別忽視。如果在R的范圍內(nèi)沒有目標鄰居出現(xiàn)，我們就認為目標數(shù)據(jù) “未觀察到”。那么目標數(shù)據(jù)的標簽將由所有“為觀察到”的數(shù)據(jù)中找到距離它最近的數(shù)據(jù)，由大多數(shù)的這個數(shù)據(jù)的類別決定目標數(shù)據(jù)的類別。考慮到需要在度量學(xué)習(xí)之后進行拒絕處理，那么需要我們手動選擇拒絕半徑，以在辨別和拒絕任務(wù)上實現(xiàn)同等的準確度。拒絕半徑可以通過交叉驗證的方法來選擇，以實現(xiàn)識別和拒絕任務(wù)之間期望權(quán)衡。

2.4 帶有大間隔最近鄰算法的1-近鄰（1NN-R）

LMNN算法簡單介紹如下。

LMNN算法學(xué)習(xí)了一個馬氏距離D：

（2-1）

LMNN的目標是訓(xùn)練得到一個空間轉(zhuǎn)換矩陣——最大化不同類別數(shù)據(jù)間的距離，并且最小化相同類別數(shù)據(jù)間的距離：

最小化：

目標函數(shù)：

（2-2）

是一個二進制數(shù)，其值表示和是否同類，也是一個二進制數(shù)，其值表示是否是同類中選中的最近鄰，是松弛變量。在目標函數(shù)中，第一項最小化所有訓(xùn)練樣本與其所選擇的近鄰之間的距離。第二項最大化所有樣本中（通過松弛變量）相同標簽樣本和不同標簽樣本之間的間隔。

LMNN訓(xùn)練樣本數(shù)據(jù)最終得到一個空間轉(zhuǎn)換矩陣，其目的是使查詢數(shù)據(jù)按照我們的要求變換，我們可以通過選擇轉(zhuǎn)換后的k個與目標數(shù)據(jù)最近的樣本數(shù)據(jù)的類別來定義目標數(shù)據(jù)的類別。通一般情況下我們設(shè)置k=3。

3 樣本介紹

本文的實驗用到了2個公開的數(shù)據(jù)集，Weizman數(shù)據(jù)集和由論文提供的兩個樣本集中其中一個樣本集及Kernel1樣本集。下面簡單介紹一下樣本集的情況。

Weizman數(shù)據(jù)集是由9個演員演示10個活動形成標簽序列與3個額外的序列共93（9×10+3）個獨立動作序列用于訓(xùn)練度量模型和評估分類精度。

Kernel1數(shù)據(jù)集包含由8個演員做14個活動形成的532個數(shù)據(jù)序列，僅從一個角度拍攝的。

4 評估規(guī)則

為了表達分類的效果，我們需要一個評價規(guī)則來描述分類效果，這個就是我們說的評估規(guī)則。將數(shù)據(jù)集分成兩部分及訓(xùn)練是數(shù)據(jù)集和測試數(shù)據(jù)集，訓(xùn)練樣本集用來訓(xùn)練目標度量，測試數(shù)據(jù)集用于測試訓(xùn)練結(jié)果。對于測試樣本集來說，訓(xùn)練結(jié)果將數(shù)據(jù)正確分類的數(shù)量n與測試樣本總數(shù)N的比值就是我們要的測試結(jié)果。本文的分類正確率計算由下面公式計算：

具體的評估規(guī)則如下：

規(guī)則1：查找樣本集中某一個演員的所有序列的。

規(guī)則2：查找樣本集中所有與查詢序列動作和演員都匹配的序列。

規(guī)則3：查找查詢的數(shù)據(jù)。如果演員一個動作只做一次，那么該規(guī)則與與規(guī)則2相同。

規(guī)則4：查找測試集中與查詢動作相同的所有數(shù)據(jù)。

5 實驗結(jié)果

NB、1NN、1NN-M和LMNN算法在Weizmen數(shù)據(jù)集和Kernal1數(shù)據(jù)集在上的運行結(jié)果分別如表1、2所示。

分析在Weizmen數(shù)據(jù)集實驗數(shù)據(jù)，可以得到下面分析結(jié)果。NB、1NN和1NN-M算法的平均識別精度分別是93.84、95.71和97.58，通過計算我們可以看出應(yīng)用LMNN算法的識別精度相較于NB精度提高了3.74，相較于1NN精度提高了1.8。從有拒絕任務(wù)的實驗結(jié)果中可以得到1NN和LMNN的平均識別精度分別是84.72和90.4，LMNN相較于1NN精度提高了5.68。

分析在Kernal1數(shù)據(jù)集實驗數(shù)據(jù)，可以得到下面分析結(jié)果。NB、1NN和1NN-M算法的平均識別精度分別是97.06、97.37和98.39，通過計算我們可以看出應(yīng)用LMNN算法的識別精度相較于NB精度提高了0.31，相較于1NN精度提高了1.02。從有拒絕任務(wù)的實驗結(jié)果中可以得到1NN和LMNN的平均識別精度分別是8530和93.76，LMNN相較于1NN精度提高了8.46。

6 結(jié)語

從數(shù)據(jù)上看度量學(xué)習(xí)中大間隔最近鄰算法確實在一定程度上提高了人類活動識別的精度，我們在以后的研究中還可以嘗試其他的度量學(xué)習(xí)算法，將其應(yīng)用于需要識別、分類任務(wù)的各個領(lǐng)域，以期待它更好的表現(xiàn)。

參考文獻

[1] Veeraraghavan A，Chellappa R，Roychowdhury A K. The Function Space of an Activity[C]//IEEE Computer Society Conference on Computer Vision and Pattern Recognition.IEEE Computer Society，2006：959-968.

[2] Weinberger K Q，Blitzer J，Saul L.Distance metric learning for large margin nearest neighbor classify-cation[J].Advances in neural information processing systems，2006，18：1473.

[3] Weinberger K Q，Saul L K.Distance metric learning for large margin nearest neighbor classification[J].Journal of Machine Learning Research，2009，10（Feb）：207-244.

[4] Do H，Kalousis A，Wang J，et al.A metric learning perspective of SVM： on the relation of LMNN and SVM[C]//AISTATS，2012：308-317.

[5] Khan Z A，Sohn W.Abnormal human activity recognition system based on R-transform and kernel discriminant technique for elderly home care[J].IEEE Transactions on Consumer Electronics，2011，57（4）.

Research on Human Activity Recognition Based on Large Interval Nearest

Neighbor Algorithm

WANG Li-xiao

（Zhengzhou Vocational College of? Electronic and Information Technology， Zhengzhou? Henan? 451400）

Abstract：With the continuous development of society， artificial intelligence is more and more deeply integrated into people's lives， and an application of artificial intelligence in smart home has greatly improved people's living standards. The most important part of the smart home is human security monitoring， and the core of this technology is human activity recognition. Traditional recognition technology is slow and has low accuracy， and metric learning can greatly improve the deficiency of traditional human activity recognition technology. This paper studies the application of large-spaced nearest neighbors to human activity recognition to improve recognition efficiency.

Key words：large-spaced nearest neighbor; human activity recognition; metric learning