機器學習理論淺談

摘 要： 本文介紹了人工智能學科中機器學習的概念、發展、分類及應用情況。

關鍵詞： 機器學習 人工智能 基本模型

1.引言

“機器學習”是人工智能的重要研究領域之一。機器學習的定義是“系統通過積累經驗而改善系統自身的性能”。通俗地說，就是讓機器去學習，利用學到的知識來指導下一步的判斷。最初研究機器學習，是讓計算機具有學習的能力，以實現智能化。因為人們認為具有人工智能的系統首先必須具有學習能力。機器學習的研究始于神經元模型研究，此后又經歷了符號概念獲取、知識強化學習研究階段，至今已發展到連接學習和混合型學習研究階段。

2.機器學習系統的基本模型

根據機器學習的定義，建立如圖1所示的機器學習基本模型。

模型中包含學習系統的四個基本組成環節。

環境和知識庫是以某種知識表示形式表達的信息的集合，分別代表外界信息來源和系統具有的知識。學習環節和執行環節代表兩個過程。學習環節處理環境提供的信息，以便改善知識庫中的知識。執行環節是整個機器學習系統的核心。利用知識庫中的知識來完成某種任務，并把執行中獲得的信息送還給學習環節。

2.1機器學習的分類

很多學者從不同的角度對機器學習進行了分類，這里簡單闡述一下繼續學習策略的機器學習的種類。按照學習策略的不同，機器學習分為機械學習、歸納學習、基于解釋的學習、基于神經網絡的學習和基于遺傳算法的學習。

2.1.1機械學習

機械學習（Rote Learning）就是“死記硬背式的學習”，靠記憶存儲知識，需要時檢索已經存下來的知識使用，不需要計算和推理。機械學習的模式如下：需要解決的問題為{y，y，...，yn}，輸入已知信息{x，x，...x}后，解決了該問題，于是將記錄對{{x，x，...，x}，{y，y，...，y}}存入數據庫，以后當遇到問{y，y，...，y}時，檢索數據庫，即可得到問題{y，y，...，y}的解答是{x，x，...，x}。

能實現機械式學習算法的系統只需具備兩種基本技能：記憶與檢索。此外，存儲的合理安排，信息的合理結合，以及檢索最優方向的控制也是系統應該考慮的問題。該算法簡單、容易實現、計算快速，但是由于系統不具備歸納推理的功能，對每個不同的問題，即使是類似的問題，也需要知識庫中有不同的記錄。因此占用大量的存儲空間，這是典型的以空間換時間的算法。

2.1.2歸納學習

歸納學習是應用歸納推理進行學習的一種方法。歸納學習的過程是由特殊實例推導出一般情況的過程，這樣就使類似的問題可以利用同樣的方法求解。歸納學習的過程就是示例空間與規則空間的相互利用與反饋。1974年，Simon和Lea提出了雙空間模型，形象地對這一執行過程進行了描述，如圖2所示。

歸納學習算法簡單，節省存儲空間，在一段時間內得到了廣泛的應用。在應用過程中，該算法逐漸顯現出它的缺點：（1）歸納結論是通過對大量的實例分析得出的，這就要求結論的得出要有大量實例作支撐，而這在許多領域都是無法滿足的。（2）歸納結論是由不完全訓練集得出的，因而其正確性無法保證，只能使結論以一定概率成立。（3）該算法通過對實例的分析與對比得出結論，對于信息的重要性與相關關系無法辨別。

2.1.3基于解釋的學習

基于解釋的學習（Explanation-Based Learning）是運用已知相關領域的知識及訓練實例，對某個目標概念進行學習，并通過后繼的不斷練習，得到目標概念的一般化描述。該學習的執行過程如圖3所示。

這種方式的學習得到一個領域完善的知識往往是比較困難的，這就對該算法提出了更高的要求。為解決知識不完善領域的問題，有以下兩個研究方向[2]：（1）改進該算法使其在不完善的領域理論中依然有效。（2）擴充該領域的知識使其擁有更強的解釋能力。通常情況下，第二種改進方法更重要些。

2.1.4基于神經網絡的學習

神經網絡是由許多類似神經元的節點和它們之間帶權的連接組成的復雜網絡結構，是為模仿人類大腦的復雜神經結構而建立起來的抽象數據模型，希望相似的拓撲結構可以使機器像人腦一樣進行數據的分析、存儲與使用。神經網絡學習的過程就是不斷修正連接權的過程。在網絡的使用過程中，對于特定的輸入模式，神經網絡通過前向計算，產生一個輸出模式，并得到節點代表的邏輯概念，通過對輸出信號的比較與分析可以得到特定解。在整個過程中，神經元之間具有一定的冗余性，且允許輸入模式偏離學習樣本，因此神經網絡的計算行為具有良好的并行分布、容錯和抗噪能力。

神經網絡學習算法是一種仿真算法，擁有良好的認識模擬能力和有高度的并行分布式處理能力。但神經網絡模型及其參數設置難以確定，需要長時間的試驗摸索過程。并且，對于最后得到的神經網絡，其反映的知識往往難以讓人理解。為解決這些問題，構造神經網絡集成并從神經網絡或神經網絡集成中抽取規則成為當前研究的熱點。

2.1.5基于遺傳算法的學習

遺傳算法以自然進化和遺傳學為基礎，通過模擬自然界中生物的繁殖與進化過程，使訓練結果逐漸優化。與遺傳過程類似，在學習過程中，通過選擇最好結果并使其組合產生下一代，使“優秀的遺傳因子”逐代積累，最后得到最優的解。遺傳算法解決了神經網絡學習中的一個缺點，它不需要知道原始信息而只需知道學習的目的即可進行，具有很強的并行計算能力和適應能力。此外，遺傳算法采取的隨機搜索方法提高了該學習算法對全局搜索的能力。遺傳算法的缺點主要體現在三個方面：無法確定最終解的全局最優性；無法控制遺傳過程中變異的方向；無法有效地確定進化終止條件。基于這三個缺點，有人提出了遺傳算法與其他學習算法的結合，優點互補已達到更好的效果。

3.結語

機器學習在過去十幾年中取得了飛速的發展，目前已經成為子領域眾多、內涵非常豐富的學科領域。“更多、更好地解決實際問題”成為機器學習發展的驅動力。事實上，過去若干年中出現的很多新的研究方向，例如半監督學習、代價敏感學習等，都起源于實際應用中抽象出來的問題，而機器學習的研究進展，也很快就在眾多應用領域中發揮作用。機器學習正在逐漸成為基礎性、透明化、無處不在的支持技術、服務技術。

參考文獻：

[1]周志華.機器學習與數據挖掘[J].

[2]郭亞寧，馮莎莎.機器學習理論研究[J].科技教育創新，2010（14）.

[3]于鳳.機器學習方法及其技術應用[J].電腦學習，2003.</