
“物理學不存在了”,科幻小說《三體》中物理學家楊冬的話似一顆子彈,正中2024年的眉心。2024年諾貝爾物理學獎被授予約翰·J. 霍普菲爾德和杰弗里·E. 辛頓,以表彰他們“為利用人工神經網絡實現機器學習做出的基礎性發現和發明”。對此,獲獎者之一、被稱為“AI教父”的辛頓表示:“我完全沒有想到。”
辛頓迄今為止的人生一直充滿戲劇性。雖然如今的他有諾貝爾獎、圖靈獎(有“計算機界諾貝爾獎”之稱)在身,還擔任過谷歌副總裁,但過去的他也曾是一個“笨學生”,甚至連他自己也笑稱“有學習上的過動癥”。早在劍橋求學的時代,辛頓就嘗試過學習物理、化學和數學,但一個月就退學了。后來他又改學建筑學和哲學,也都半途而廢。最終,他選擇了物理學和生理學,因為高中時期一位朋友關于大腦中記憶存儲方式的一番話,讓他對大腦的運作產生了興趣,他想弄清楚大腦是如何工作的。但遺憾的是,大學里學到的知識并不能解答他的疑惑。于是在本科畢業后,他跑去當了一年木匠。
1972年,辛頓被人工智能的研究吸引,進入愛丁堡大學攻讀博士學位,專心研究神經網絡及其應用。至此,辛頓崎嶇坎坷、看似“不務正業”的學術之路似乎終于步入正軌。辛頓將目光集中于人的大腦,他知道那里有極度復雜的神經網絡與不可思議的學習機制,高級信息傳入、加工、輸出的速度遠超機器。辛頓被這種準確且迅速的信息處理機制深深吸引,并期待能夠找到一種方式,在機器上實現人工神經網絡的構建,進而將其應用到現實中去。
然而在當時,很多人并不看好辛頓的研究方向。雖然前人已經構建出多輸入多輸出且可以完成簡單線性分類任務的單層神經網絡模型,但這種模型因無法處理復雜任務且缺乏有效的學習算法的缺陷使其飽受詬病,也讓二十世紀七十年代關于神經網絡的研究寸步難行,趨于停滯。科學家們紛紛放棄這一看似沒有出路的研究方向,人工智能的研究進入蕭瑟的“寒冬”。作為仍在堅持的少數研究者,辛頓靠著有限的資源、匱乏的資金,遠離喧囂的環境,默默探索著“不可能中的可能”。
1985年,受統計物理學的啟發,辛頓提出了一種名為“玻爾茲曼機”的人工神經網絡。它可以自主學習已有材料,識別出新材料中的熟悉特征并進行歸類。例如,當你記住了一個人的面孔,你就能通過面孔的相似度,識別出這個人的親屬,并將他們歸類為一個家庭。次年,辛頓和其他學者綜合前人發現,提出反向傳播算法。這一算法使得人工神經網絡得以從誤差中學習并優化自身參數,使得預測結果越來越精確。這兩項發現在當時并未引起太多關注,卻成了日后幾乎所有深度學習模型的重要基礎。2012年,辛頓與兩名學生發明的深度卷積神經網絡AlexNet將圖像識別的誤差率從25.8%降低至16.4%,震驚學界。一度被認為不具備發展潛力的人工神經網絡,再次回到學術界的視野——用辛頓的話來說,這是“整個神經網絡研究領域的一次復興”。
如今,正像我們時刻感受到的那樣,以神經網絡為基礎的語言大模型的發展如火如荼,人工智能的研究前所未有地興盛,這一切都和“AI教父”辛頓的研究息息相關。
(編輯:汪玉琪)
適用話題 辯證看待人工智能、興趣和堅持、打破學科壁壘
1.辯證看待人工智能
2024年諾貝爾物理學獎的結果雖然出人意料,但也在某種程度上強調了人工智能在當今世界與日俱增的重要性。得益于辛頓等人在神經網絡方面的研究,人工智能今天已被廣泛應用于多個領域。一方面,人工智能的應用大大提升了工作效率,節約了人力和時間成本,進一步提高了生產力。但另一方面,我們不得不考慮人工智能的應用帶來的潛在問題。例如人工智能技術自身的訓練成本、技術依賴和壟斷等問題,以及因人工智能的普及可能帶來的就業困難和虛假信息泛濫等問題。辛頓表示,人們也要對人工智能可能造成的負面影響保持警惕。
2.興趣和堅持
辛頓的學術之路充滿坎坷,他先后學習過多個專業,屢屢碰壁。經過多次嘗試,他才逐漸發現自己對于大腦運作機制的興趣,并沿著這個方向繼續學習和研究,從此深耕于神經網絡領域。即使當時無人看好他的研究和努力,辛頓也從不懷疑自己的選擇,坐了多年的學術冷板凳,最終在人工智能領域取得了卓越成就。辛頓在不斷試錯中大膽追逐理想。“深度學習的潛力是無限的,只要我們愿意去挖掘”,辛頓的這句話不僅適用于機器學習,也同樣適用于人類本身。
3.打破學科壁壘,貫通專業知識
辛頓所取得的成就與他綜合性的學術背景息息相關。他提出的玻爾茲曼機的原理來自統計物理學中的玻爾茲曼分布;他發現大腦具有效率極高的運行機制,這離不開他對生理與心理學學科知識的涉獵。他打破學科壁壘,將多學科知識融會貫通,為研究人工神經網絡打下了堅實基礎。