這一屆AI已經有心理問題了

以殷

我們常說，人不是機器，需要吃喝拉撒睡，也有七情六欲。每次熬夜復習準備考試，腦子里就有一個聲音：“如果我是機器人就好了，不用睡覺就能把知識點全部記住！”然而可能出乎你意料的是，現在越來越先進的人工智能（AI），在朝著更像“人”的方向進化時，居然也學會了人類的一些毛病，開始溜號開小差了！

這個有趣的現象，是美國洛斯阿拉莫斯國家實驗室的研究人員發現的。實驗室正在開發一種神經網絡，讓它在沒有參考資料的情況下，學著給東西分類。這種神經網絡模擬人類是如何學會分辨東西的，就好比把一沓孩子不認識的動物圖片交給孩子分類，雖然他們不知道羚羊是什么，但可能會把羚羊和獅子、企鵝等動物分開。

在這個過程中，研究人員發現AI學習了一段時間就會變得不穩定，自發產生類似于幻覺的圖像。而當AI小憩一會兒后，這種不穩定性就消失了，又恢復了正常的工作效率。這種睡眠不同于平常電腦的“休眠狀態”，電腦的休眠只是暫時“凍結”所有的活動。而讓AI真正進入睡眠，是把它暴露在頻率和振幅范圍很廣的噪聲里。這種噪聲模仿了人類深度睡眠時，大腦神經元所接受的輸入信號。

無聊也是生產力？

人類無聊的時候可以干出什么事？估計比正事還多。

無聊其實是一個警報狀態，當我們感到無聊時，便是對現狀的不滿。它能推動著人們從這種狀態中逃脫，去尋找有意義、新奇或刺激的事情做。這種推動力是中性的，有好有壞，壞的可能讓人為了找樂子滑向違法犯罪的邊緣，而好的一面可以刺激人的創新。

舉個例子，在寒風凜冽的夜晚，一個露營者正坐在篝火前，突然聽到了無法辨別來源的噪聲。他有兩個假設：一是微風吹動樹葉，二是有灰熊想要接近營地。那是走還是留呢？這就要預測可能的結果（樹葉被風吹動）和期望的結果（不要被熊吃掉），把兩者平衡之后再做決定。如果露營者猜測是前者，確實也沒出什么事，但當經歷了一段長時間的平淡無聊后，露營者反而想冒險進入森林探索周圍的區域，因為預測的快樂已經被無聊的痛苦超越了。這就是無聊刺激了探索，提高了自主性。

對AI來說也一樣，現在一些研究者已經發現了無聊對于AI的作用。科學家把“無聊”的算法編入AI，讓AI能夠自己找到符合它期望的活動，以此來提高AI的自主學習能力。

關心AI的心理狀態，吃飽了撐的？

人工智能是人造出來的機器所表現出來的智能，這種智能是通過程序編碼來實現的。在AI朝人類方向前進時，就有可能出現人的特征。

有專家認為，AI的心理問題應當被嚴肅對待，在未來，會有更多更智能的機器產生無聊等心理體驗，盡管無聊可能激發創造力，但結果也可能朝著完全相反的方向去——缺乏自主學習的動力，一遍一遍學著自己已經學到的東西，卻毫無更改目前狀態的計劃。這些問題將阻礙機器的學習成長并浪費寶貴的資源。

有人甚至聳人聽聞地提出，由于人類會因為無聊干出各種壞事，未來也需要對付機器做的壞事——自虐或者傷害他人。畢竟我們也不想看到智能冰箱因為無聊而自斷電源讓食物腐爛，智能汽車因為無聊想著跳下海游泳。

看一看身邊更多的“人工智障”，或許關注AI的心理狀況還為時過早。不過想想看，科幻作家艾薩克·阿西莫夫提出的著名的機器人三定律，目的就是防止機器人傷害人類。在面對一個必然的人機交互的世界，我們想得遠一點也無妨。

（摘自“果殼”微信公眾號，張云開圖）