給人工智能熱潑冷水

承哲/口述 李斐然/撰文

眼下人們正熱烈追捧一則新聞，說是機器首次通過了圖靈測試，我看到一條又一條的評論，都在高呼人工智能進入了全新時代。可是，我卻一點兒也高興不起來，因為我滿腦子都是懷疑——這是真的嗎？

先說圖靈測試，它是測試人在與被測試者（機器）隔開的情況下，通過一些裝置向被測試者隨意提問。問過一些問題后，如果被測試者超過30%的答復不能使測試人確認哪個是人、哪個是機器的回答，那么它就通過了測試，并被認為具有人類智能。

現在問題來了。圖靈測試的比賽進行了這么多年，參賽者也學“聰明”了。它們甚至根據歷屆裁判的提問方式，設計出一套欺騙裁判的回答。

比如說，裁判問：“你是從俄羅斯來的嗎？”機器就會回答：“你為什么不確定我是從俄羅斯來的？”這種反問式策略最初是心理咨詢上的治療手段，目前已被大量使用在圖靈測試的游戲中。這并不是人與機器的智力博弈，這只是利用計算腳本和自己設計的數據庫搭配著耍小聰明。

簡單地說，這些偽人工智能由于無法給出真正正確的答案，所以它們只能給出一個模棱兩可的答案，而真正的人工智能則應當給出真正的答案，讓人感受到機器靈魂的存在，而不是給人造成迷惑，這與圖靈最初的設想早已背道而馳。

如果這些不能說服你，那我們來說說曾經的一個案例。人工智能最顯赫的歷史戰績，莫過于IBM的“深藍Ⅱ”系統戰勝國際象棋大師卡斯帕羅夫。但我對這件事情一樣充滿了懷疑。

后來我看到一本叫《信號與噪聲》的書。從棋局上看，“深藍Ⅱ”的確戰勝了卡斯帕羅夫。但有趣的是，當卡斯帕羅夫去找“深藍Ⅱ”再戰的時候，IBM拒絕了他的請求，不久后“深藍Ⅱ”被拆，也讓人工智能擊敗人類國際象棋大師終成定史。

但是，我讀完了書中的記錄，卻發現，最大的可能在于其實他們心虛。因為，事實上擊敗卡斯帕羅夫的并不是什么人工智能，而是一個bug，是程序設計上的一個漏洞。

為什么這么說呢？在第一局比賽的時候，雖然“深藍Ⅱ”每秒可計算兩億步棋，但卡斯帕羅夫還是輕而易舉地贏了比賽。所有計算都在大師思考的范圍內，這充分說明了計算機的弱勢。

然而，下第一局棋時卻發生了一件事，影響了卡斯帕羅夫的判斷。在第一局的第44步棋，“深藍Ⅱ”的出棋毫無目的性，讓卡斯帕羅夫嚇了一跳。書中記錄說，“這步棋讓卡斯帕羅夫感到緊張，他覺得這有悖直覺的一步棋必是一步高招”，他開始緊張，方寸大亂，自亂陣腳。從第二局開始，他輸了一局又一局。在后來的采訪中，卡斯帕羅夫說，他那時候頭腦非常亂，完全不想比賽。

但是，在書中的解釋里，這件事的事實是——第一局的第44步棋，是計算機的“系統故障”。它使計算機失去選擇經過精心分析的步驟的可能性，結果采用較安全的任意走法。這一步棋沒有產生任何效果，而在開始第二局棋前，這個“系統故障”也被修正了。

這步bug棋卻深深影響到了卡斯帕羅夫。他對《信號與噪聲》的作者納特·西爾弗說：“我根本沒有想到，這一步棋并無理論支持，而是系統故障的結果。”

幸與不幸，一個無足輕重的系統故障，幫助計算機打敗了國際象棋大師卡斯帕羅夫。人們評價這件事的時候，總是說，第二局明明可以和棋，卡斯帕羅夫卻犯下致命錯誤，這就是人類的局限。但事實上，“在卡斯帕羅夫看來，‘深藍Ⅱ下棋有棋感并且有深意，超凡脫俗，智慧過人。他卻從來沒有想到過，這實際上只是因電腦系統故障導致計算癱瘓而走出的一步任意棋”。

也許正是這樣的例子，讓我每一次看到“劃時代的IT創舉”時都會心里一驚——人們對于技術的陌生，總會讓另一群人有機會把一件小事說得天花亂墜。但是靜下來踏踏實實地想一想，這些夢幻似的結論，是真的嗎？

（紫檸檬摘自《中國青年報》2014年6月18日，勾 犇圖）