AI時代的曙光

●劉慈欣

目前，人工智能已經成為熱點話題，在這里想首先討論一個時常被忽略但很基本的問題：人工智能的定義。

目前廣為人知的定義是圖靈測試，但這只能被看作一種泛泛的描述，并不是嚴格和精確的定義。比如參與測試的人是什么樣的人？向機器提出的問題的內容是什么等等都不明確。

上溯歷史，我們發現人工智能的概念與自動化有著密切的關系，可以說自動化是這個概念的起源。在過去有一段相當長的時間，在人們的心目中，自動化就是人工智能。其實，人類制造和使用自動化裝置的時間比我們想象的要早，遠在電氣時代之前。蒸汽機上就有自動調節蒸汽流量的裝置，在更早的十六世紀，在伊麗莎白女王的宮廷里首次使用的抽水馬桶也是自動化裝置，如果向前追溯，肯定還有更早的例子。自動化大批出現是在電氣時代，先是由模擬電路實現的自動化，后來電子管被晶體管所代替，再后來出現了集成電路，由日益復雜的軟件所驅動。在今天，我們在生活中要與無數的自動化系統打交道，比如電子商務系統、網上銀行系統和網上購票系統等。

毋庸置疑，自動化系統表現出了相當多的智能特征，像網上銀行這類系統處理著相當復雜的業務，其效率和精準度已高于人類雇員。即使是抽水馬桶這樣最簡單的系統，也表現出一定的智能行為，它能夠在感知水箱的水位，適時開啟和關閉給水閥門，這事它做的與人類一樣好。但從抽水馬桶到網上銀行，我們都不把它們看作是人工智能。筆者曾經編寫過一個寫現代詩的軟件，現在還在網上流行；而目前網上其他比較完美的自動作詩軟件，所寫出的中國古典詩詞很難與人類所做的詩詞區分開來。另外，近年來已經有不止一個系統在不同的實驗室環境下通過了圖靈測試。但這一切，我們都不把它們看成心目中的人工智能，為什么？

筆者在二十世紀八十年代最早參與開發的工業監控系統是以Z80處理器為核心的，用匯編語言編程。這個系統能夠監測上百個機組參數，并根據參數的變化做出適當的調節，其功能是人工無法實現的。但在我們的眼中它也完全不是人工智能。匯編語言的特點就是透明性，它要在硬件層次手把手地教機器做每一步操作，比如把數據從這個存儲器送往那個存儲器，中斷的調用和返回等等都一一寫明，所以當我從外部看到系統的動作時，腦子中立刻有一幅明晰的流程圖，立刻能知道哪幾條指令被執行了。所以這個監控系統，在我看來與抽水馬桶沒有本質的區別。現在那些更復雜的系統，如網上銀行和電子商務也一樣，這些軟件的編制者一定清楚所有的內部操作流程，他們知道系統的每一步操作在軟件中是如何進行的，這同樣也是抽水馬桶更復雜的版本。至于那些電子詩人和通過圖靈測試的系統也一樣，程序員清楚地知道它們是如何根據邏輯樹檢索數據庫，然后組合出詩和答案的，所以至少程序員們知道這不是智能。

這就涉及人工智能學術中高明的中文房間比喻，當我們意識到房間中那些忙碌的查找卡片的人的時候，智能的感覺就蕩然無存了。

現在我們認為擁有人工智能的那些系統，比如進化算法和深度學習等，都有一個共同特點：它們都或多或少地表現出了黑箱的特點，雖然從理論上它們內部的運算步驟仍然可以追蹤，但由于計算量的巨大，使這種追蹤實際上很困難甚至不可能。于是，我們真的感覺它們有智能了。

到這里，我們仍然無法得出人工智能的準確定義，但能夠看到它的一個重要特點：一個具有智能特性的人造系統，它產生輸出的內部的運算過程是人類智能所無法解析的。換句話說，只有我們不知道機器在想什么，怎么想時，才認為它有智能。

看到這一點，每個人的心中應該都生出一股隱隱的寒意。是否人工智能的本質中，就隱含著它們最終失控的可能性？

這正是目前人們對人工智能關注的熱點，用馬斯克的話來說，人工智能正變成比核彈更危險的東西。媒體輿論給人一個印象，似乎機器的征途已經開始，AI征服世界指日可待。有本書的題目“讓人工智能站在我們一邊”就顯現了這種擔憂。庫茲維爾甚至在《奇點臨近》中給出了AI紀元到來具體年份：2045年，那時，現在讀這篇文章的人有三分之二還活著。

但理智地考察目前人工智能領域的狀況，我們就能發現智力遠超人類的強AI仍然屬于科幻的范疇。公眾喜歡從科幻的角度看問題，比起平淡的現實，科幻確實能讓人興奮，任何從現實出發所進行的理智的預測都被斥為保守和沒有想象力。但筆者作為科幻作家卻只能說，與大家通常的印象不同，科幻小說中的預言真正變為現實的是少數，大部分要實現仍然遙遙無期。人們的潛意識中都認為，只要在理論上可能突破的技術障礙，在未來就一定能夠被突破，但事實并非如此。在人工智能方面，強AI的實現面對著許多巨大的技術障礙，如非馮·諾依曼體系的新結構計算機、對人類思維機制的深刻認識等，現在都無法確知最終能否取得突破。另外一些看似有希望的技術，如量子計算等，距實用還相差甚遠。

所以，在對人工智能進行科學幻想的同時，我們更需關注即將面對的近未來。

人工智能近年來發展的趨勢，是開始走出實驗室進入生活，用一位互聯網大佬的話來說，它們變的能用了。這樣我們就面對著一個即將到來的挑戰：人工智能不會奪走我們的自由和生命，但會奪走我們的飯碗，這不需要AI的失控，它們可以在資本家的完全控制下做成這件事。

有學者認為不必為這件事擔憂，他們回顧工業化的歷史，在上世紀初，美國有50%的農業人口，但隨著農業機械化，現在的農業人口降到4%，而城市化吸收了多余的農民。但眼前發生的事情是不同的，當人工智能大規模進入社會后，人能做的工作它們大部分都可以做，城市不會再有更多的就業崗位留給人類。通行的美好說法是，人們在常規工作中被AI取代后，可以去從事創造性的工作。問題是創造性的工作不是人人都可以從事的，也不需要那么多的人，如果社會分配制度不改變，一個全部由科學家和藝術家構成的人類世界幾乎是一場噩夢，這上百億科學家和藝術家的絕大部分注定一生碌碌無為，對社會和自己都毫無用處，且淪入“創造性”的窮困潦倒中。

但這種思維方式總有些不對的地方，人類自古以來為生存而勞作，實在是迫不得已，工作著是美麗的，但誰都知道，不需工作的生活更美麗。現在終于能夠制造出把自己從工作重負中解放出來的機器，這是人類文明最偉大的成就，無論如何不應該被看作一場災難，相反，這可能是人類所面對的前所未有的偉大機遇，只是，我們需要改變。

如何完成由現代社會向人工智能社會的過渡，有兩種可能。

一種可能十分黑暗：在現有的社會、經濟和政治體制下，人工智能帶來的問題幾乎是無解的。在AI迅速取代人類的過程中，沒有及時建立起與之相適應的社會體制，在席卷全球的失業浪潮下，世界的政治和經濟將陷入長久的混亂之中，一切都籠罩在人工智能及其使用者與新盧德派領導的大眾無休止的沖突中。

另一種可能是，社會成功地完成轉型。這將是有史以來人類生活方式最大的一次改變，不勞動者不得食，這個理念是人類社會的基石，文明誕生以來經歷過多次巨大變革，這一基石從未改變，但人工智能可能會移除這一基石，進而導致從所有制和分配制度，到基本的經濟結構，再到政治體制，直到文化，都發生根本的變化。這是真正的人類解放，是向著古老的烏托邦理想邁進的一大步，今年是《烏托邦》發表500周年，但托馬斯·莫爾無論如何不會想到，他的理想會借助于智能機器實現。我很有興趣地想，如果卡爾·馬克思知道人工智能這回事，他關于資本主義和共產主義的理論會是什么樣子？

想象AI時代的社會和生活是困難的，即使在科幻小說中，我們也只能把種種可能性排列出來，而哪種可能性最有可能成為現實，取決于我們的努力和選擇。但不管怎么說，那是一個誘人的時代，我們正向它走去。