數據表里的機器學習

陳凱

說起機器學習，不少人頭腦中浮現出的畫面，要么是繁雜的程序代碼，要么是難懂的數學公式。但有些機器學習算法核心原理并不復雜，用幾個數據表就能解釋清楚，本文利用K近鄰算法的思路，在數據表中實現分類功能，涉及到的需求和解決方法比較簡單，可以作為人工智能學習入門階段的活動資料，也可以方便地加以拓展，用某一種程序語言代碼來使得分類更自動化。

猜猜那是什么鳥？

即便是高度人工化的城市環境中，也有不少野生鳥類棲息繁衍。在城市校園中，可以觀察到的野鳥種類遠不只是麻雀一種，但往往叫不出它們的名字，假如學校的觀鳥社團曾經對各種鳥的行為特征進行過記錄，那么后來者就可以利用這些記錄，和自己所觀察到的鳥的行為特征進行對比，從而猜測出鳥的種類。那么，機器（計算機）是如何模仿這種特征比對和猜測行為的呢？為簡單起見，右表僅列舉了野鳥的一種行為特征，即觀察者所注意到的不同種類鳥出現在不同生境的概率，這里象征性地列舉了四種野生鳥類與三種生境相對應的情況。

對于某一種鳥，三種不同生境的出現概率值加起來是1，這是為了使得不同種類鳥的數據之間具有可比性而做的歸一化的處理。如果將某種鳥出現在三種不同生境的概率畫到坐標軸上，可以得到一幅三維的散點圖（本文使用了hrrps：//techology.cpm.org/eneral/3dgraph/提供的繪圖工且），如圖1所示。其中1、2、3、4四個點分別代表了白鵲鎢、棕背伯勞、八哥、棕頭鴉雀四種不同的鳥的特征所在位置。

猜猜那是什么數？

上面的例子中，每種鳥的行為特征都是固定的，比如說，棕頭鴉雀喜歡密集的灌木叢而很少來到開闊的草地上，這個特征并不會輕易改變。但有時情況就復雜很多了，比如數字4有不同的寫法，可以是4這種樣子，也可以是4這種樣子，不同的人書寫的“4”，模樣都是不同的。也就是說，如果將數字“4”的特征標注在坐標軸上，那可能會有好多個坐標點，把不同坐標點的值取平均數那可是沒啥道理的。這時候，如果有人寫下某個需要識別的數字符號，計算機對這個數字符號的特征在坐標軸上的位置進行比對，就只好和很多個對象做比較。比如，坐標軸上可能有三個不同的數字“4”的坐標點和三個不同的數字“7”的坐標點，對比下來發現，某個新寫下的數字符號的坐標點位置和其中某三個數字符號的坐標點位置接近，這三個符號中，有兩個符號曾經被標注為“4”，有一個曾經被標注為“7”，因為被標注為“4”的數量占優，所以就判定新寫下的這個符號是“4”。

這個實驗同樣可以在電子表格中進行。舉例說，如圖4所示，用12行9列的點陣描出數字符號，可以用“0”代表空白，用“1”代表有筆畫，這里假設你自己并不知道這個符號到底代表的是什么。

接下來是提取這個未知數字符號的特征值，特征值的提取方式有很多種，最偷懶的辦法就是劃出幾個區域，然后把每個區域里的數字加起來。因為這個實驗是手動進行的，所以區域沒辦法劃得太多，比如說劃出12個區域，每個區域中數字加起來后，就得到了一張四行三列的特征表，如圖5所示。

怎么知道這個四行三列的特征表到底代表了什么數字符號呢？這就要去對比以往曾經標注過的數字符號的特征值了。比如說，已經存在三個標注為“4”的特征表和三個標注為“7”的特征表可供對比。這些符號的描繪和特征值的提取，不一定要由教師提供，也完全可以是由學習者自己描繪和計算獲得，這樣實驗才更有說服力。當然，描繪時需要給出一些限定條件，比如描繪的數字線條必須經過至少多少個特征區域，否則，可能會因為符號太小或者太偏而無法有效提取出特征值，為了處理這些太小或太偏的符號，還不得不做圖像預處理的工作，這樣就大大增加了實驗難度。

圖6中，左上角是用戶描繪的等待判斷的符號的圖像點陣，左下角是對點陣中12個特征區域取值，右上角是將該特征值與曾經被標注過的數字符號的特征值進行比對，比對的方法仍然是求兩點間直線距離。不過因為特征表中總共有12個值，所以就要將特征所在的坐標看成一個12維空間的坐標，雖然在頭腦中很難把12維空間想象出來，但兩點間距離公式仍然可以直接套用（可用公式拖曳的方法計算各個特征差值的平方數）。最右側是比對后的結果，為觀察清晰起見，結果沒有開平方。

觀察結果，可發現最近距離是5，所對應的標注是“4”，第二近的距離是12，所對應的標注也是“4”，第三近的距離是20，所對應的標注是“7”。如果取三個最近點，也就是K近鄰算法中K值為3，那么可以判定，用戶新描繪的這個符號更可能是“4”。當然，也可以將K值取為1，這樣就直接找最近點，結果也認定該符號是“4”。

利用這個方法分辨“4”和“7”沒啥問題，可要是分辨“8”和“6”就沒那么有效了，究其原因，就是圖像像素太少，特征區域的劃分也不夠細致。要提高數字符號的能力，就需要利用計算機編程，將判斷過程變得更自動化，這就為下一步的學習指明了方向。