人工神經網絡發展歷史與訓練算法概述

彭驛茹

摘 要 人工智能在廣義上分為以下兩方面：知識推理和知識決策，相對應的技術分別為知識圖譜技術與人工神經網絡技術。文章對人工神經網絡的歷史進行了回顧，引進了幾個較為經典的人工神經網絡的算法，并在此基礎上論述了其影響。最后，對人工神經網絡的前景做出了評斷。

關鍵詞 人工神經網絡；BP算法

中圖分類號 TP2 文獻標識碼 A 文章編號 1674-6708（2018）222-0129-02

以一己之力戰勝兩位世界級圍棋高手李世石及柯潔的Alpha Go的橫空出世，不僅僅吸引了相應人才從事此方面的研究，更顯示了其的巨大潛力。而Alpha Go能戰勝這兩位圍棋中頂級選手，與其采用了人工神經網絡不無關聯。而人工神經網絡是一門結合了眾多學科的內容而發展起來的一門新的信息處理學科。

1 人工神經網絡的發展歷史

1）起源。人工神經網絡最初是由科研工作者根據生物神經網絡的特點而創造出來的一種可以進行簡單信息處理的模型。生物神經網絡（Biological Neural Networks）以神經元為骨架，通過神經元彼此之間的連結形成了一個完整的能對所給刺激產生反應的系統。人工神經網絡就是類比生物神經網絡的這個可以進行信息處理的原理而制造出來的。用節點替代神經元，且每個節點代表一種固定的函數，節點之間彼此聯接形成一個龐大的網狀系統，可處理一些信息。綜合人工神經網絡的起源、特點及定義，它可以用這樣一句話概括：人工神經網絡是一種信息處理系統，目的在于模仿人類大腦的相應結構及其相關功能[ 1 ]。

2）摸索階段。歷史上第一個提出人工神經網絡設想并藉此制造出了第一個模型的是心理學家W.S.McCulloch和數理邏輯學家Wapitis。他們提出的模型就是MP模型，而MP模型的建立不僅證明了單個神經元執行邏輯功能的可行性，還帶來對人工神經網絡研究的熱潮。因此W.S.McCulloch和Wapitis被后來者尊稱為人工神經網絡研究的先驅。但是當時的人工神經網絡只是一個胚胎，甚至只能說是一個大膽的猜想，缺乏相應的理論支持。

50年代末，F·羅森布拉特提出并設計了感知機。60年代初，Windrow提出了一種自適應線性元件網絡，這兩項工作第一次將人工神經網絡的研究成果應用到實踐中[7]。而他們的成功也激勵了其他眾多科學家，提高了他們對人工神經網絡的研究興趣。但是當時有學者指出感知機本身存在問題，且該問題的不可解決性，再加上當時正值計算機高速發展、各種研究成果競相發表的時期，眾多科學研究者紛紛轉向計算機的研究，因此人工神經網絡的研究被擱置。人工神經網絡的發展也停滯不前。

3）高速發展階段。1982年及1984年，美國加州工學院物理學家J.J.Hopfield先后提出了Hopfield神經網格模型與連續時間Hopfield神經網絡模型，這兩項研究解決了感知機所存在的不能解決高階謂詞的問題，為人工神經網絡的研究提供了一個新思路。隨后，一些學者提出了玻爾茲曼模型。這三項研究不僅為人工神經網絡的發展做了開拓性的研究，更是使人工神經網絡這個備受冷落的研究項目重新回到科研人員的視野中。也正是有這些科學工作人員的一個又一個的研究成果，才能令人工神經網絡從原本不被重視的狀態扭轉為當時備受人們追捧的狀態。

1991年，Aihara等基于之前的推導和實驗，提出了一個混沌神經元模型。1997年，Hochreiter和Schmidhuber提出了長短期記憶網絡。等等，諸如此類的研究的提出，足以論證人工神經網絡發展的迅猛及其科學研究熱潮的來臨。

2 人工神經網絡的理論算法

1）BP網絡。1986年由Rumelhart和McClelland為首的科學家們給出的BP神經網絡算法雖然存在一些缺陷，但是BP算法理論依據堅實、推導過程嚴謹等特點，還是讓BP算法成為人工神經網絡算法中較為經典的，也是使用最普遍的神經網絡模型之一[6]。

傳統的BP算法本質上是一種學習方法，它將一組樣本輸入/輸出問題轉換為非線性優化問題，并通過負梯度下降算法通過迭代操作解決權重問題，但其收斂速度較慢，易陷入局部最優解為此方法較為突出的問題。為解決此問題，提出了一種新的高斯消元法。

2）離散Hopfield神經網絡。Hopfield首先提出的網絡是一種二值神經網絡，所謂二值就是神經元的輸出只取這兩個值，1和0，因此也稱它為離散Hopfield神經網絡。離散HopfieId網絡使用的神經元為二元神經元，因此輸出的1和0分別代表該神經元的激活和抑制

對于離散Hopfield網絡，網絡狀態是一組輸出神經元信息。對于輸出層是N個神經元的網絡，T矩是n維向量。

因此，網絡狀態有2n種狀態，因為Yj（t）（j = 1N）可以取值為1或0，因此，n維向量Y（t）有2n種狀態，即網絡狀態。

3 人工神經網絡的發展現狀及應用

人工神經網絡是一門交叉學科，與計算機科學，數學等學科關系密切。它的發展與應用離不開這些學科。其從90年代起，各種研究成果層出不窮，這些成果不僅完善了當時的人工神經網絡研究，還為以后人工神經網絡的實際應用提供了理論依據。直至目前人工神經網絡已發展的較為完善，而且已廣泛應用于多個學科領域之中[4]。例如，上文所提的Alpha Go，及目前尚在起步階段的VR技術還有人臉識別技術。Alpha Go不僅攻克了棋類游戲中最難的圍棋，而且展示了人工神經網絡所擁有的巨大潛力。而VR技術的發展將改變目前人們的生活方式，并將帶來極大的便利。而人臉識別技術的發展將提高個人信息，物品的安全性，將更好的保護我們的權利。其他諸如指紋識別、視網膜識別、虹膜識別、掌紋識別、專家系統、智能搜索等技術的發展也不容忽視。

4 人工神經網絡的影響

1）積極影響。人工神經網絡的迅猛發展給我們的生活帶來了巨大的好處。VR購物可以讓我們更為直觀的感受衣服合身與否，穿在身上的效果如何等，這是傳統的網絡購物無法解決的問題。智能醫療體系的建成將進一步解決目前傳統醫療體系存在的弊端，也將優化目前的醫療體系，讓資源得到更合理的配置。未來，智能機器人的存在將使人們從繁復的體力活動中解救出來，使人們更能專心于各種技術的研發。人工神經網絡的發展還將促進其他學科的發展，其工作擁有的超高速能大大的節省我們的時間，其所擁有的極低錯誤率也將大大的提高準確率。

2）消極影響。人工神經網絡的發展帶來的不僅僅是優勢，它也有不利的一面。首先，過于真實的VR場景會使人沉溺其中，而其模擬現實感受的感覺體系可能會刺激大腦，使人的精神受到一定的創傷。其次，大量的職業由智能機器人接管將導致大量的人失業。而這些失業的人的衣食住行問題，及其本身帶來的不安定因素成為亟待解決的問題。再者，大量智能機器人的出現將加大知識的兩極分化，導致有知識的人越來越有知識，而跟不上知識更新速度的人將無法改變自身命運。另外，大量工作由智能機器人替代，將會使人懈怠，變得四肢不勤、五谷不分，身體素質也將會下降。

5 結論

人工神經網絡作為一門機器智能學科，是隨著生物智能特別是人類智能的研究而發展起來的。由于目前對人腦的研究還十分的淺薄，對生物神經網絡的認知還不夠，人工神經網絡始終存在弊端。因此，人工神經網絡的改進和發展需要神經科學的研究。在如今飛速發展的時代，人工神經網絡的發展勢頭不容小覷。人工神經網絡的不斷發展也將帶給我們不停的驚喜。

參考文獻

[1]朱大奇.人工神經網絡研究現狀及其展望[J].江南大學學報，2004，3（1）：103-110.

[2]金星姬，賈煒瑋.人工神經網絡研究概述[J].林業科技情報，2008，40（1）：65.

[3]張代遠.一種全新的人工神經網絡算法[J].計算技術與自動化，2000，19（2）：35-38.

[4]毛健，趙紅東，姚婧婧.人工神經網絡的發展及應用[J].電子設計工程，2011，19（24）：62-65.

[5]邱春龍.HOPFIELD求解具有局部重復路徑的MTSP的應用研究[D].泉州：華僑大學，2007.

[6]張鈴，張鈸.神經網絡中BP算法的分析[J].模式識別與人工智能，1994（3）：191-195.

[7]石幸利.人工神經網絡的發展及其應用[J].重慶科技學院學報，2006，8（2）：99-101.