對人工智能的哲學思考

薛巍

人機大戰，哲學家另有思考方式。

“阿爾法圍棋”（AlphaGo）贏了李世石兩局之后，阿爾法圍棋團隊的工作人員非常喜悅，李世石心情沉重，但我寫郵件詢問兩位專家的看法，發現他們的反應都很平靜。一直認為人工智能研究一開始就注定會失敗的美國哲學家約翰·塞爾說：“沒有意識，機器人就無法真正地下棋。所以（機器人下棋）只是一個比喻。比喻是無害的，除非你把它當真。”美國量子物理學家戴維·多伊奇說：“我認為這是一個令人印象極其深刻的成就，但這幾乎跟人類意義上的通用智能無關。”他們都建議我去讀他們以前的文章，說明阿爾法狗的勝利并沒有改變他們之前的觀點。

英國《衛報》的報道說：“比賽開始時，李世石按照韓國人的傳統向對手鞠躬表示尊敬，而這次他的對手既看不見他，也感知不到他的存在。”還不僅如此。2014年約翰·塞爾在《你的電腦不知道什么》一文中說：“我們經常會看到有人說，‘深藍下棋贏了卡斯帕羅夫。這種說法很可疑。卡斯帕羅夫要下棋并獲勝，他必須得意識到他是在下棋，并意識到無數其他東西，如他的王后受到了威脅。‘深藍對這些都沒有意識，因為它對什么都沒有意識。為什么意識如此重要？如果你沒有意識，你就不能真正地下棋或者做任何認知行為。”

1984年，塞爾在BBC瑞思講座第二講的標題是：電腦能不能思考？他的回答是否定的。他說，按照電腦的定義，無論它們多么先進，它們都不會思考，但這不等于說電腦不強大。而人工智能研究者的樂觀和自信也是非常驚人。比如日本人工智能專家松偉豐就說：“如果人類的思維也是某種計算的話，那么它就完全有理由通過計算機來模擬和實現。人類所有的大腦活動，包括思考、識別、記憶、感情，全部都可以通過計算機得到實現。只要我們通過計算機來實現人工智能，我們就可以為它配備一個類似于人身體的東西，可以將它設置成偶爾也會犯些錯誤。”塞爾把這種樂觀的看法稱作“強人工智能”派。在他們看來，人腦的運行跟電腦的運行是類似的，人腦就是一個計算機，心靈相當于電腦的程序。

根據這種觀點，人類的心靈沒有什么本質性的生物學特點。所以任何有著恰當的程序、恰當的輸入和輸出的物理系統都跟人一樣，有其心靈。例如，如果你用舊啤酒罐做了一個風力驅動的電腦，如果有著合適的程序，它就會有心靈。卡內基梅隆大學的休伯特·西蒙說，我們已經有了能夠思考的機器，現在的電腦已經跟人一樣有思想。西蒙的同事阿蘭·紐厄爾聲稱，我們已經發現，智能只是一個物理信號操作的問題;它跟生理或身體硬件沒有本質關聯。麻省理工學院的馬文·明斯基說，下一代電腦會非常智能，以致如果它們愿意讓我們留在家中當寵物，我們就很幸運了。最夸張的是人工智能一詞發明人約翰·麥卡錫的說法：甚至連溫度計那樣簡單的機器都有信念。溫度計有什么信念呢？他說：“我的溫度計有三個信念：這里太熱，這里太冷，以及這里不冷不熱。”

塞爾說，電腦的運行是純粹形式化的，我們用抽象的符號來確定電腦運行的步驟，比如印在紙帶上的0和1的序列。電腦的規則將確定，當電腦處于某個狀態、紙帶上有某些符號時，它就會運行某種運算。但這些符號是沒有意義的，它們沒有任何語義內容。比如0和1，它們甚至不代表數字。正是電腦的這種特征使得它們如此強大。同一種硬件可以運行各種程序。同一種程序可以在各種硬件上運行。

但程序的這種純粹形式化或句法化的特征決定了，程序的運行過程和人的精神過程是不一樣的。擁有一個心靈不只是有一個形式化、句法過程。我們內在的精神狀態是有內容的。“如果我想到某個城市或者想喝點冰啤酒，在其形式化特征之外，我的精神狀態是有一定的內容的。即使我的思想是一系列符號，但思想不只是抽象的序列，因為這些序列本身沒有任何意義。如果我的思想是關于某種東西的思想，那么這一序列必須要有意義。換言之，心靈不只是句法的，還有語義學內容。電腦程序永遠都成不了心靈，因為電腦程序只是句法的，而心靈不只是句法的。心靈是語義學的，它們不只有形式化結構，還有內容。人的思考不只是操作無意義的符號的問題，還包括有意義的句法內容。這些句法內容就是我們所說的意義。”所以，“不管電腦技術發展到什么階段，不管計算機科學有多么驚人的進步，不管計算機運行得有多快，如果它是一個電腦，它的運行就是句法的，而意識、思想、感覺、情緒等都不只涉及句法。電腦的模仿能力不管有多強大，都無法復制這些特征”。

塞爾在2014年的文章中以另一種方式說明了電腦和人腦的差異：商用電腦是完全沒有意識的。“比如我糾正自己的拼寫和電腦的拼寫檢查。我希望正確地拼寫，我也相信我能在詞典里查到一個詞正確的拼法，所以我就去查。我的行為有三個層次：神經生理學層次、在神經生物學層面引發和實現的精神或意識層次，以及心理學層面引發的意向性行為層次。如果我拼錯了一個詞，電腦把它顯示為紅色，并提示正確的拼寫。電腦希望得出正確的拼法嗎？它相信我拼錯了嗎？電腦有一個單詞的清單，如果我打出的詞不在這個清單上，它就把它標成紅色。電腦只有兩個層次：硬件層次和行為層次，沒有中間的真實心理層次。”

我們會不會被比自己更聰明的電腦消滅？塞爾認為這是無稽之談。“電腦有真正的智能嗎？一點都沒有。它們也沒有思考、記憶、決定、欲求、動機、學習和信息處理能力，更不用說下棋和回答問題的能力了。一些商用計算機能夠卓越地完成它們的任務，但永遠都不要以為它們有任何心理現實。為什么這種系統要有產生意識的能力？恰當的行為為什么還不夠？對許多目的來說，這確實足夠了。如果電腦能夠開飛機、駕駛汽車、贏棋，誰管它有沒有意識啊？但是如果我們擔心一個有著邪惡動機的超智能會消滅我們，那這種邪惡動機應該是真實的。沒有意識的話，這種可能性就不是現實的。電腦沒有任何智能、動機和自主性。我們很容易就能想象一個有意識的心靈給機器人裝上程序，讓它們去殺人，但超級智能電腦有意識地去殺人是不切實際的。”

英國前皇家學會副主席阿里斯泰爾認為：“再過幾十甚至幾百年，人類大腦進化出的許多復雜的信息處理系統也不能在任何機器上復制出來。大腦極其復雜。人類和機器之間將依然存在人格鴻溝，人類的智能、情緒方面的洞察力和處理不確定性的能力是機器得不到的。在目前可以想象的將來，人類和機器將保持互補。我們要學習如何跟它們共處，但它們無法取代我們。”