學習曲線

編譯 舒愉棉

大腦圖片前放置著一枚能并行處理數據的英特爾芯片，當它在噪聲數據中尋找特征模式時會閃爍發光

盡管洛斯阿拉莫斯實驗室的物理學家加勒特·肯揚（Garrett Kenyon）因這一言論大受抨擊，但他仍堅稱人工智能是“夸大其詞”。上至語音識別，下到信用卡詐騙檢測，這一切背后的算法基本上都要把自身的技能歸功于深度學習，即軟件通過消化海量示例數據庫來學會執行特定任務。肯揚指出，這些程序組織和處理信息的方式與人類大腦截然不同，并且，當遇到需要多用途智能時（比如全自動機器人），它們就會達不到要求。“我們有很多精妙的設備極為實用，但我不會說它們其中的任何一個特別智能”，肯揚說。

肯揚和許多其他人都從一種名為“神經擬態計算”的新興技術中看到了更智能計算機誕生的希望。神經擬態芯片取代了線性處理信息的標準運算架構，能模仿人類大腦處理信息的方式，通過海量數字神經元并行工作，向其他神經元構成的網絡發射脈沖（又名“尖峰脈沖”）信號。每個硅神經元在接收到足夠多的尖峰脈沖信號后會激發放電（又稱“點火”），將自身的興奮性傳導給其他神經元，系統會通過加強定期激發的神經元連接來學習，同時消除那些不激發的連接。這一計算方法擅長從大量的噪聲數據中進行模式識別，從而加快學習速度。由于信息處理發生在整個神經元網絡中，神經擬態芯片所需要的內存與處理電路之間的數據傳輸連接也會更少，從而提高速度和能效。

神經擬態計算并不新鮮，然而，芯片制造商不愿在市場未經檢驗的情況下對技術進行投資，而算法研發人員要為一整個新計算機架構寫出軟件也極為艱難。在這兩種情形之下，神經擬態計算過去發展進程是緩慢的。不過，伴隨著芯片性能的提升，這一領域顯然也在日益成熟，并不斷吸引著越來越多的軟件開發者加入進來。

2021年10月，英特爾公司發布了自家生產的第二代神經擬態芯片Loihi 2。Loihi 2 集成了100萬個人造神經元，是上一代的6倍，神經元彼此間可通過1.2億個突觸相互連接。其他諸如BrainChip和SynSense等公司近期也推出了新的神經擬態硬件，這些硬件都裝備有能加速計算機視覺和音頻處理等任務的神經擬態芯片。康奈爾大學神經生物學家托馬斯·克萊蘭（Thomas Cleland）說，神經擬態計算“將成為搖滾巨星”“它不會事事都做得更好，但一定會在計算領域占有一席之地”。

英特爾公司冒險進軍神經擬態架構領域讓這一芯片巨頭駛離自己曾聲名遠揚的通用計算機芯片（即大家熟知的中央處理單元CPU）領域。近年來，CPU的硅技術發展步伐開始放緩，這導致了計算機專用芯片的激增，例如圖形處理單元（GPU）和專用內存芯片就是為特定工作量身定做的，而神經擬態芯片也許能延續這一勢頭。英特爾神經擬態研究負責人邁克·大衛斯（Mike Davies）說，神經擬態芯片擅長處理那些為計算機提供視覺和嗅覺等感官所需要的海量數據集。這一特長與能效優點顯然讓神經擬態芯片成了供電受限、與傳統計算機網絡分離的移動設備的理想適配對象。

英特爾神經擬態研究負責人邁克·大衛斯認為，神經擬態計算可以幫助計算機像人一樣學習

英特爾的這項研發工作主要集中在其瓊斯農場園區，該園區是位于俄勒岡州波特蘭以西的研發綜合體。在非疫情時期，這棟四層樓建筑人潮涌動，如今因為軟件和硬件工程師在家辦公，建筑體里一個個的格子間空空蕩蕩。在大衛斯和骨干人員測試粉紅指甲大小的Loihi 2芯片的神經擬態實驗室里，掛鐘的指針停在了7點43分的位置。大衛斯說，遠程辦公讓新芯片的推出速度減慢了可能高達6個月之久。

與Loihi 1一樣，Loihi 2中的單個神經元經編程可以放大或者抑制來自臨近神經元的尖峰脈沖信號的傳播。與克萊蘭等神經科學家的合作促使英特爾工程師在Loihi 2中添加了另一個類人腦特征。對大腦嗅覺處理過程的研究顯示，尖峰脈沖信號之間的間隔能夠編碼額外的信息。2020年，克萊蘭及其同事證實了神經擬態計算在添加了時間信息后的強大功能。

他們一開始對Loihi 1進行訓練，使其能在混合背景化合物中識別出10種危險化學物質的氣味。研究人員記錄下了含有丙酮、甲烷和氨等化學物質的有味氣體飄過風洞時風洞內部72個化學傳感器的讀數，并把數據提供給Loihi 1，后者采用了特定算法來將異臭物質處理為具有不同時間模式的電脈沖流，從而對其進行表達和分析。Loihi 1能夠在經過單一樣本訓練后識別出不同的氣味，而深度學習方法需要經過高達3 000個樣本的訓練才能達到同等的識別精度。

大衛斯指出，這一嘗試的成功促使英特爾公司在制造Loihi 2時為其配備了能制造和分析復雜時間尖峰脈沖信號模式的能力。“我們正嘗試構建一種新的靈活、多能且通用的智能計算芯片。”

有兩組研究已表明，神經擬態芯片能與當前市面上一些最先進的AI程序的性能相匹敵。如今AI主力軟件依靠的是一種名為反向傳播神經網絡（BPNN）的深度學習算法，這一算法讓AI系統能在訓練時從自身的錯誤中吸取教訓。美國洛斯阿拉莫斯國家實驗室的物理學家安德魯·索恩伯格（Andrew Sornborger）及其同事2021年8月發布在arXiv平臺上的預印本報告顯示，對Loihi 1編程后執行反向傳播，Loihi 1學會了詮釋手寫數字的常用視覺數據集，速度像傳統BPNN一樣快，但能耗僅為其百分之一。

類似的，奧地利格拉茨工業大學計算機科學家沃爾夫岡·馬斯（Wolfgang Maass）及其同事開發出了一套能執行BPNN學習的神經擬態系統，其能耗僅為標準GPU驅動的人工智能的千分之一，這一工作目前尚未發表。馬斯說，“目前還不清楚神經擬態計算的殺手級應用程序會是什么樣子“，但他認為需要最小能耗來感知周圍環境并在其中穿梭的機器人設備是一個極有可能的應用前景。

肯揚說，從生物學研究中受益后，神經擬態處理器也許很快就會投桃報李，幫助神經生物學家更好地理解大腦的進化與工作機制。標準AI系統對此沒有太大的幫助，因為它們更像是無法展示其學習發生過程的黑匣子，而Loihi和類似的芯片會是更好的模型，因為它們像生物神經元網絡一樣工作。研究人員能追蹤硅基系統的電發放模式，從而揭示它們如何學習處理視覺、聽覺和嗅覺信息，并有望獲得對生物完成類似任務的新認知。

例如，肯揚及其同事在2020年研究尖峰脈沖神經網絡軟件程序是如何習得視覺時，運用了一種名為無監督詞典訓練的方法，這涉及在沒有事先示例比對的情況下進行對象分類。研究人員發現，隨著時間的推移，網絡狀態會開始變得不穩定，這是由于神經網絡追蹤不到通過學習已經掌握的視覺特征，其神經元會不斷進行電發放。這種不穩定的狀態“只有在嘗試應用生物現實主義、尖峰脈沖神經擬態處理器或試圖理解生物本身時才會出現”，肯揚介紹道。

為了讓他們的算法回到正軌，研究人員將網絡暴露在一類他們認為模擬了生物神經元在睡眠期會接收到的輸入噪音中，噪音重置了網絡，并提高了其對象分類的準確性。“就等同于我們讓神經網絡睡了個好覺”，研究組成員伊京·沃特金斯（Yijing Watkins）說道。如今，在美國太平洋西北國家實驗室里，她正致力于把這一算法運用到Loihi上，看看AI形式的“閉眼小憩”是否能幫助芯片穩定地處理視網膜相機傳回的實時信息。

未來的神經擬態芯片也許會顛覆計算領域，不過，它們也許要打個盹才能做到這一點。

資料來源 Science