淺析簡單神經(jīng)網(wǎng)絡(luò)的發(fā)展及簡單模型

陳曉燕

摘要：隨著人工智能的興起和對深度學習的深入研究，神經(jīng)網(wǎng)絡(luò)作為深度學習的算法之一，再次成為一個熱門的研究課題。近年來，隨著神經(jīng)網(wǎng)絡(luò)研究的不斷推進，解決了很多領(lǐng)域中的一些瓶頸的問題，同時還體現(xiàn)出其良好的智能性。本文主要從人工神經(jīng)網(wǎng)絡(luò)的發(fā)展歷史、結(jié)構(gòu)和簡單模型等方面進行了講述。

關(guān)鍵詞：人工神經(jīng)網(wǎng)絡(luò);發(fā)展歷程;結(jié)構(gòu)

中圖分類號：TP183 文獻標識碼：A 文章編號：1007-9416（2019）05-0223-02

0 引言

1956年，科學家麥卡錫和明斯基在美國相遇;在這次會面中他們提出“如何用機器模擬人類智能”，因此，“人工智能”的概念首次被提出，同時也標志著人工智能這一門學科的誕生。在此之后，“人工智能”的概念被迅速傳開。人工智能是指人類各種智力勞動或智能行為，如判斷、推理、證明、鑒定、感知、理解、交流、學習、解決問題等思維活動。它可以被一些智能機器人工實現(xiàn)。例如：語音識別、機器翻譯、圖像識別、人機對話、人機游戲、知識表示等。人工神經(jīng)網(wǎng)絡(luò)作為人工智能中的重要算法，在模式識別、智能機器人、自動控制、預測估計、生物學、醫(yī)學、經(jīng)濟學等領(lǐng)域都取得了重大突破。

1 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展

神經(jīng)網(wǎng)絡(luò)的概念起源于Maiqialuoke和皮茨在1943年提出的“明迪克馬欽”想法，“明迪克馬欽”指的是一種類似生物神經(jīng)元特征互連模型的機器。他們構(gòu)建了一個神經(jīng)元模型，它代表了大腦的基本組成部分，并顯示了邏輯系統(tǒng)的共性。隨著人工神經(jīng)網(wǎng)絡(luò)研究的深入，研究目標從“腦機”轉(zhuǎn)變?yōu)椤皩W習機”。這時，一個一直關(guān)注神經(jīng)系統(tǒng)的科學家——Hebb提出來學習模型。直到20世紀60年代初，Widrow提出了自適應(yīng)線性元素。

到了20世紀70年代，Grossberg和Kehuoen已經(jīng)為神經(jīng)網(wǎng)絡(luò)編碼的研究做出了重要的貢獻。通過生物學和心理學的一些知識，Grossberg提出了幾種具有新特性的非線性動態(tài)系統(tǒng)結(jié)構(gòu)。Werbos在1970年代發(fā)展出反向繁殖的方法。在神經(jīng)元的相互作用下，Huopufeierde引入了一個遞歸神經(jīng)網(wǎng)絡(luò)，即著名的休普費爾德網(wǎng)絡(luò)。20世紀80年代中期，帕克和Lumeierhat重新發(fā)現(xiàn)了反向傳播算法。在過去的十年里，神經(jīng)網(wǎng)絡(luò)已經(jīng)應(yīng)用到了人們生活的方方面面，包括圖像處理、信號處理、商業(yè)、醫(yī)藥等。

2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

基本處理單元的連接決定了神經(jīng)元的結(jié)構(gòu)。神經(jīng)網(wǎng)絡(luò)僅由多個“神經(jīng)元”組成，每個神經(jīng)元包括多個輸入x1、x2 ……xn、偏移量和輸出。下面是這個簡單“神經(jīng)元”的結(jié)構(gòu)，如圖1所示。

這個"神經(jīng)元"是一個x1，x2...xn和偏移Θ為輸入值的操作單元。其輸出為 f（t）=f（x1*wj1+x2*wj2+...+ xn*wjn-Θ）。其中，Θ是神經(jīng)單元的偏置，wj是權(quán)重，神經(jīng)元在權(quán)重為正時處于興奮狀態(tài)，在權(quán)重為負時處于抑制狀態(tài)。n是輸入的個數(shù)，yj是輸出，f（_）是“激發(fā)函數(shù)”，而激發(fā)函數(shù)通常是非線性函數(shù)，這樣就可以實現(xiàn)對各種復雜函數(shù)的逼近。常用的激發(fā)函數(shù)是二值函數(shù)、S形函數(shù)或雙曲切線函數(shù)。S形函數(shù)為：

雙曲正切函數(shù)為：

從函數(shù)表達式可以看出，S形函數(shù)的輸出總是位于x軸上方，雙曲切線函數(shù)的輸出可以位于x軸上方，也可以位于x軸下方。可以看出，這種單一的“神經(jīng)元”輸入輸出映射關(guān)系實際上是一種邏輯回歸。

3 神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)將許多神經(jīng)元連接在一起。這些神經(jīng)元有一個單獨的輸出，并與其他神經(jīng)元相連。一個神經(jīng)元的輸出也可以作為另一個神經(jīng)元的輸入，因此有許多不同的連接方法。不同的連接方法對應(yīng)不同的權(quán)系數(shù)。輸入層、隱藏層和輸出層通常組成一個經(jīng)典的神經(jīng)網(wǎng)絡(luò)。輸入層和輸出層的節(jié)點經(jīng)常固定，中間的隱藏層經(jīng)常不固定。箭頭表示數(shù)據(jù)的傳輸?shù)姆较颍鐖D2所示。

由圖2可知，神經(jīng)元的模型還可以看做一個有向圖：對于每個節(jié)點都存在一個狀任意兩個節(jié)點間的連線都含有權(quán)值wii，對于每個節(jié)點都存在一個閾值。在每個節(jié)點上定義了一個變換函數(shù)f（）。

4 人工神經(jīng)網(wǎng)絡(luò)的學習算法

人工神經(jīng)網(wǎng)絡(luò)主要包含三種學習算法：有師學習、無師學習和監(jiān)督學習。

有師學習是指可以根據(jù)期望值與實際輸出之間的差異來改變權(quán)重，從而使實際結(jié)果接近期望的結(jié)果。因此，有師學習需要一位教師來提供期望的結(jié)果。無師的學習，即不需要提供期望和產(chǎn)出。只是向神經(jīng)網(wǎng)絡(luò)提供輸入模式，神經(jīng)網(wǎng)絡(luò)能自動適應(yīng)具有相似特性的輸入并分組。增強學習仍然有教師，但教師并不提供期望值，而是當輸出正確的結(jié)果時給予相應(yīng)的響應(yīng)。

5 結(jié)語

人工智能不斷深入到各行各業(yè)，其身后的神經(jīng)網(wǎng)絡(luò)算法所帶來的益處更是影響到了人們生活的各個方面。人工神經(jīng)網(wǎng)絡(luò)獨特的非線性自適應(yīng)信息處理能力已成功地應(yīng)用于神經(jīng)專家系統(tǒng)、模式識別、智能控制、組合優(yōu)化、預測等領(lǐng)域。將人工神經(jīng)網(wǎng)絡(luò)與其他研究方法相結(jié)合，將促進科技的快速發(fā)展。

參考文獻

[1] 李俊杰.淺談人工智能在生活中的應(yīng)用[J].科技風，2019（15）：84.