唐·諾曼專欄：越聰明，越危險

全世界的科學(xué)家們都在致力于將智能機(jī)器引入日常生活，不過它們的智能只是幻覺一場

是的，會協(xié)商的導(dǎo)航系統(tǒng)對我們有幫助，但沒法否認(rèn)，機(jī)器并沒有智能：智能在設(shè)計(jì)師的腦子里。通常，設(shè)計(jì)師們坐在自己的辦公室里，試圖想像汽車和駕駛者之間可能發(fā)生的一切情況，然后設(shè)想出一些解決方法。不過，意外事件永遠(yuǎn)是在設(shè)想之外、或是以錯誤的方式所想到的事件。

因此，盡管智能機(jī)器比需要手工操作的同行有更強(qiáng)的優(yōu)越感，然而人們完全不知道它們是怎么做的又為什么會這樣做，也不知道機(jī)器現(xiàn)在操作到了哪一步：肉煮到什么程度？衣服洗得干不干凈？更不知道如果事情進(jìn)展不如預(yù)期的話該怎么辦。

在我看來，許多人對此感到不滿。人們絞盡腦汁猜想“為什么它會這樣做？”可機(jī)器們一言不發(fā)，從使用手冊那里也得不到一個字。

事實(shí)上，自認(rèn)為很聰明的機(jī)器遇到麻煩時，總會要求人類的介入，比如修理、再次升級。這些機(jī)器沒有社交能力，不懂基本的社會行為，只說不聽，只教導(dǎo)不解釋。它們的智能只是一場幻覺，真正的智能存在于設(shè)計(jì)師腦子里—唉，這種方法從根本上就是有問題的。

當(dāng)我們的生活中出現(xiàn)越來越多的智能機(jī)器時，生活朝著好壞兩個方面發(fā)展。運(yùn)轉(zhuǎn)良好時一切都很棒。但它們會失靈，同時把我們富于創(chuàng)造性的生活變成那種得到服務(wù)、持續(xù)照看機(jī)器、把它們從麻煩中解救出來、修理并維護(hù)的枯燥生活。

自動系統(tǒng)在我們生活中所扮演的角色日益增多—在汽車上，在我們的家里—我們將把極限設(shè)在哪里？自動操作應(yīng)該止步于哪里？誰將是作主的一方？汽車越來越多地采用勻速駕駛，與前面的車自動保持距離，當(dāng)我們拐入鄰近車道或駕駛太快不安全就采取警告措施。它們在必要的時候擁有控制權(quán)，剎車、加速—也許有一天，它們不再允許我們背離它們的選擇，或者干脆自己來開。

在家里也是這樣。我們的廚房和洗衣機(jī)已經(jīng)擁有相當(dāng)?shù)闹悄埽鼈冇须娔X芯片、顯示器和多種傳感器，并且能控制馬達(dá)、溫度和過濾器。機(jī)器清潔工在白天充好電，在晚上打掃樓層衛(wèi)生。很快它們將學(xué)會避開人類，可能當(dāng)后者在附近的時候就延遲工作，或者更可能的是讓人們走開好讓自己干活。在辦公室，自動系統(tǒng)決定什么時候調(diào)整遮陽板，什么時候開關(guān)照明和通風(fēng)系統(tǒng)。聰明的房子自己調(diào)節(jié)溫度、光線和音樂。它們決定應(yīng)該錄什么電視節(jié)目。這些系統(tǒng)越來越多地嘗試?yán)斫馐褂谜叩乃枷搿⒂托脑福绻聦α藭眢@喜，但是如果猜錯了就會使人相當(dāng)惱怒。

智能電器已經(jīng)駐扎在廚房和洗衣間。微波爐也知道用多少電力、多長時間來烹制食物。當(dāng)它運(yùn)轉(zhuǎn)良好時是非常棒的幫手：放進(jìn)新鮮的鮭魚，告訴它你要吃魚，這就是你需要做的一切。然后魚出來了，完美的手藝，介于煮與蒸之間的口感，但絕對是它自己的風(fēng)格。“傳感器在烹飪的過程中能察覺到濕度的變化，”微波爐使用手冊上這樣說。“微波爐會根據(jù)不同的食物材質(zhì)和分量自動調(diào)節(jié)烹飪時間。”這說的是當(dāng)它正常工作時。但是請注意，它并沒有測試食物本身烹制得怎么樣：它只通過測量濕度來推斷烹制等級。對于魚和蔬菜來說這沒有問題，但并不是對所有的東西都有效。而且傳感技術(shù)并不完美。如果食物出來的時候火候不足，使用手冊警告不要第二次使用微波爐：“不要連續(xù)兩次把同一份食物放進(jìn)微波爐—這可能會使食物烹制過久或者燒焦。”

不用等到微波爐燒焦你的食物，烘干機(jī)也會干出同樣的事：“棉類、羊毛和精細(xì)衣物將自動感知衣物干燥程度。”除此你還得告訴它對于材質(zhì)較厚的衣物采用更高的干燥等級，而對于材質(zhì)較輕薄的衣物你想用較低的等級。洗碗機(jī)有著特殊的傳感循環(huán)，在開始的時候“ExtraClean傳感器”會測量油污的多少和水溫。等它弄明白以后，“洗碗機(jī)將調(diào)到合適的等級以達(dá)到最佳效果。”

在全世界的研究實(shí)驗(yàn)室中，科學(xué)家們都致力于找到更多的方法將智能機(jī)器引入我們的生活。聰明的房子和更聰明的電器。在試驗(yàn)中已經(jīng)有能夠感知其中住戶所有行為的房子，這個項(xiàng)目的清單讓人印象深刻：冰箱不讓你吃不健康的食物，馬桶會偷偷告訴你的醫(yī)生你體液的狀態(tài)。冰箱與馬桶似乎是不大相配的一對，但是它們團(tuán)結(jié)起來監(jiān)視你的飲食習(xí)慣，一個試圖控制身體攝入什么，另一個則測量評估身體排出了什么。我們的行為一旦超過界限就會遭到叱責(zé)。

事情不應(yīng)該這樣，但現(xiàn)實(shí)確實(shí)是這樣。是否太遲了？我們能不能對這些聰明而危險的智能機(jī)器做點(diǎn)什么？

（作者為美國西北大學(xué)計(jì)算機(jī)系、心理學(xué)系、認(rèn)知科學(xué)系教授）

反饋：askdon@jnd.org