憂慮篇：人工智能！慢一點，再慢一點

最近一段時間，人工智能領域很熱鬧：先是百度推出智能秘書服務“度秘”；緊接著，騰訊財經用機器算法自動生成了一則新聞，其速度與效率令人驚嘆。就在人們普遍憧憬人工智能為人類生活帶來美好未來的同時，今天世界上最聰明的一群人正對人工智能的未來憂心忡忡，史蒂芬·霍金尖銳地指出：“成功研發人工智能，將成為人類歷史上犯的最大錯誤。不幸的是，這也可能是最后一個錯誤。”伊隆·馬斯克則認為：“開發人工智能就是在召喚惡魔?！倍@，并非危言聳聽。

我們的生活中已經充滿了弱人工智能，只是我們大部分人沒有意識到：從手機上的計算器到無人駕駛汽車，從地圖軟件導航到垃圾郵件（短信）過濾，從谷歌翻譯到社交/購物網站的好友/商品推薦，都是人工智能在特定領域的應用。在利益的驅使下，大量資金被源源不斷地投入到人工智能的技術創新中，每一次創新都在給通往強人工智能和超人工智能的道路添磚加瓦。糟糕的是，我們不知道自己鋪的路到底是通往地獄還是天堂，人類會因此滅絕還是永生。Aaron Saenz有一個非常精彩的比喻：現在的弱人工智能，就是地球早期軟泥中的氨基酸——沒有動靜的物質，突然之間就組成了生命。我們難以解釋生命是怎樣突然出現的，同樣我們也難以預言人類怎樣召喚出第一個超人工智能。試圖創造出比自身更聰明的東西是不是一種愚蠢的行為？超人工智能會不會成為人類的最后一項發明、最后一個挑戰？

忽然之間，我發現自己多年來對人工智能的美好憧憬被瓦解，對高調的科技創新也開始充滿憂慮。我迫不及待要做的事就是讓我的學生做一份關于人工智能的研究報告，希望他們用自己的頭腦去思考，去探索。未來所有關于人工智能的研究，請慢一點，再慢一點，因為沒有任何事情比人工智能的安全更重要。