人工智能會給人類帶來災難？

《十堂極簡人工智能課》

作者：[英]彼得·J.本特利

譯者：許東華

出版社：譯林出版社

出版時間：2023年5月

頁數：204

定價：49元

并非所有人都對通用人工智能的益處持樂觀態(tài)度。一些未來學家、哲學家和科幻小說家對這種技術最終可能導致的結果做出過可怕的預測。他們聲稱，一旦人工智能聰明到可以開始自我設計，就會出現失控的反饋回路。突然之間，聰明的人工智能就可以制造出比它更聰明的人工智能，如此周而復始。這一論點通常以摩爾定律為依據，該定律指出，芯片中的晶體管數量大約每兩年翻一番（其推論是，處理器的速度將每18個月翻一番）。這些人認為，隨著計算機的速度呈指數級增長，超級聰明的人工智能肯定要成為一種不可避免的現象。我們總有一天會達到一個“技術奇點”，當人工智能的增長再也無法控制時，它可能會給人類帶來災難。

這種想法在電影和科幻小說中非常令人著迷，但在現實世界中應該謹慎對待。人工智能技術的發(fā)展得益于計算能力的增長，以及新近出現的大量數據集可以用來訓練機器學習算法。但人工智能的進步總是源于算法的發(fā)展，而非處理器的加速。每種算法都提供了令人興奮的新可能性，但沒有一種算法可以解決所有問題。新的問題需要新的算法來解決（就像我們執(zhí)行的各種不同任務會利用大腦的不同區(qū)域一樣），創(chuàng)新的步伐受限于我們創(chuàng)造新算法的能力，以及我們理解智能本質的能力。

如果我們有一條捷徑，能讓計算機自行完成設計，那該有多好。但是哪怕有遺傳編程等方法，我們還是很難讓計算機自行設計出更好的算法（如果沒有人指揮它們這么做，它們?yōu)槭裁匆プ瞿兀＝裉欤覀冇袛狄郧в嫷娜祟惪茖W家使用最新的計算機，試圖制造新的人工智能。如果我們自己都難以創(chuàng)造出新型智能，那些遠不如我們聰明的人工智能又怎么能做得更好呢？

我們甚至不能指望指數級增長能帶來什么好處。事實證明，雖然可能存在指數級增長，但它幾乎肯定對我們不利。每當我們試圖讓人工智能變得更聰明一丁點，其能力就會以指數級擴展，而它失敗的機會也呈指數級增長，因此我們?yōu)榇_保設計無誤而做的測試和實驗就必須比以前多得多。總而言之，到目前為止的人工智能研究的證據表明，越復雜的能力意味著越緩慢、越困難的進步。物理學告訴我們，越接近光速，我們就需要越多的能量來加速。隨著智力的提高，類似的情況似乎也會出現：提高智力的能力變得越來越困難。地球上很少有生物擁有像我們一樣復雜的大腦，它經過35億年的進化測試才創(chuàng)造出如今存在于世的幾種設計，這可能并不是巧合。

我們可以放心，未來不會有奇點，也不會有失控的人工智能。我們專注而勤奮的計算機科學家和工程師將繼續(xù)他們的研究，慢慢發(fā)明新的算法，提供有用的人工智能工具，讓我們的生活更加安全和方便。我們有可能永遠實現不了像人腦一樣先進的人工智能。就算能做到，也可能需要假以地質學尺度的時間。

我們所知的大多數人工智能的研究和產品都與超級智能或通用人工智能無關。它們都致力于為具體問題尋找專門的解決方案。新的聊天機器人會接管客服中心的普通查詢；新的無人駕駛算法會協(xié)助我們在高速公路上開車，或幫我們停車；先進的工業(yè)機器人將令枯燥的生產過程進一步自動化；故障檢測系統(tǒng)會確保我們的工廠生產出合格的產品；可穿戴智能設備會更早地檢測出健康狀況的異常；社交機器人會為老年人或弱勢群體提供慰藉和照顧；互聯(lián)網機器人能回答我們的語言提問；防詐騙檢測系統(tǒng)會監(jiān)測我們的交易，并在我們的銀行或身份信息可能被盜時提醒我們。無論哪一類人工智能，都是設計出來幫助我們的專門技術。將來還會有令人震驚的新人工智能出現。它們將成為我們社會的一部分，甚至通過可穿戴計算系統(tǒng)和智能假肢而成為我們的一部分。

在美劇《愛，死亡和機器人》中，人類最終死亡，而機器人存活了下來。

可惜的是，并不是每個人都喜歡這種未來前景。有些人預測可能會有數百萬個工作崗位因人工智能和機器人而流失。工廠機器人會取代工人嗎？聊天機器人會取代在客服中心工作的接線員嗎？對于這些問題和其他類似的問題，答案很可能是肯定的。但這一事態(tài)進展與人類技術史一樣古老。我們每采用一項新發(fā)明，都會改變人們的生活方式和工作方式。舊的專門手藝會過時，同時新的專業(yè)知識會出現。今天鐵匠很少，但工人很多。明天可能工人會減少，但會有許多機器人管理員和維護工程師。如今的技術變化很快，所以我們的社會也在快速變化，而新的機會也同樣會飛速產生。無人駕駛汽車將需要一套新的道路基礎設施和新的銷售和維護方式。游戲行業(yè)正在蓬勃發(fā)展，需要從計算機模擬專家到作家、演員的各種人才。數據存儲和分析（事實上是所有與數據有關的業(yè)務）正在蓬勃發(fā)展，每天都能發(fā)明出新的工作崗位。社交媒體會成為新的廣告渠道，創(chuàng)造出新的工作和職業(yè)。由人工智能和可穿戴設備驅動的新式互動娛樂正在到來。每一種新技術都需要新的工作人員去創(chuàng)造它、設置它、測試它、監(jiān)管它、使用它、修復它。今天的工作已經今非昔比了。這就是人類的進步，而不單是人工智能或機器人的進步。

歸根結底，也許是因為我們對自身的興趣，人工智能和機器人總是讓我們著迷，也會在某些情況下讓我們感到不適。在我們發(fā)明的各種技術中，人工智能的獨特之處在于，開發(fā)它的過程能教會我們關于大腦和身體如何運作的深刻道理。為了成功構建出我們的人造子女，我們必須仔細檢視我們自身和我們的行為方式。我們將學到，人與人之間的互動如何能幫助個人成長和團結協(xié)作。我們將明白情緒和自我意識的作用，以及我們如何做出決定的方方面面。我們將學到我們在現實世界中的行為如何影響我們自己和他人。我們將學習什么是道德，了解道德以及對生命的尊重應該如何嵌入我們所做的一切。我們將明白我們與環(huán)境密切相關：環(huán)境會改變我們，正如我們也會改變環(huán)境一樣。人工智能是一趟持續(xù)的發(fā)現之旅。這條漫長而艱難的道路也許能教會我們成為更好的人。

（責編：栗月靜）