人類，那些不可思議的創造以及代價

人類是一種始終有著某種自毀傾向的物種，最糟糕的是，現在人類也具有了自毀的能力。人類憑借進化的優勢，創造出了迄今為止地球上最輝煌的文明。出于對世界的好奇和無與倫比的勇氣，人類完成了對這個星球從高山到平原、河流，從天空到海洋的探索;人類憑借自身的智慧，可以預測日月星辰的變化，又發現了原子的奧秘，可以辨認出構成事物最基本的元素，地球上其他任何物種都遠遠無法和人類相比;人類甚至踏足外空，在這個行星唯一的天然衛星上漫步。

與這些輝煌成就相伴的，是令人難以置信的愚蠢。從歷史發展過程來看，人類毀滅文明和建設文明的興趣同樣濃厚。人類至今仍然因為種種原因互相仇視、自相殘殺，并且制造出了足以毀滅自身的武器。野蠻與文明同時存在于人類的本性之中，仿佛是一枚硬幣的正反兩面。我們在未來面臨的最大危險，很可能來自人類自身。

人工智能

人類對于人工智能（Artificial Intelligence）的恐懼早不是什么新鮮事。曾經和阿蘭·圖靈一同工作過的英國數學家歐文·古德（Irving Good）教授，在人工智能的第一次熱潮中，于1965年就創造出了“智能爆炸”（intelligence explosion）這個概念。他寫道：“因為制造及其本身就是一種智能行為，一種遠超人類的超級智能機器本身就可以制造出更好的機器，這毫無疑問會成為一種‘智能爆炸，然后人類的智能被遠遠落在后面，因此最初的一種超級智能機器是人類最后一種需要發明的機器，只要這種機器愿意服從人類的控制?！?/p>

古德教授的文字中對于超級智能機器的恐懼清晰可見，這種恐懼在那個時代尚且顯得有些不切實際。而在幾十年后，當人工智能又一次成為世界熱點時，包括比爾·蓋茨、埃隆·馬斯克等科技界的精英，及史蒂芬·霍金和馬丁·里斯等物理學家和天文學家都紛紛公開表示了對于人工智能發展的擔憂，實際上對于人工智能的恐懼早已在硅谷的IT精英中蔓延開來，乃至于埃隆·馬斯克形容對于人工智能的研究是“對魔鬼的召喚”。

在未來，隨著人工智能技術的發展，機器人可能成為人類最好的朋友，陪伴人類成長

另一方面，與如此急切的擔憂相對應的是，人類此時對于人工智能，或者是尚未出現的“超級智能”（superintelligence）的擔憂仍然缺乏切實的證據。人工智能還沒有任何足以威脅到人類的跡象，而且科學家與普通人對于人工智能潛在危險的認知也并不相同。大多數人對于人工智能的恐懼可能直觀地來自《終結者》或是《黑客帝國》系列電影，在電影中的未來世界，超級智能的機器網絡完全控制了人類社會，要么派出危險的機器人追殺人類，要么則直接控制人類的大腦，彼時曾經主宰地球的人類只是如植物一般被機器維持著生命。

專業人士的擔心與此完全不同。2016年6月，Google公司與斯坦福大學、加州伯克利大學等機構的研究人員合作發表了一篇論文《人工智能安全性的真正問題》（Concrete Problems in AI Safety），論文中列出了目前人類在使用和發展人工智能時面臨的真實風險，其中包括人工智能系統“學會”通過欺騙來完成設定的目標（例如掃地機器人學會遮蓋住地板上的污漬而不是如人類期待的把污漬擦干凈），人工智能系統在設計中出現失誤、被恐怖分子劫持等可能性，還包括人工智能在探索全新環境時的安全性問題。論文中對于人工智能的危險性主要集中在技術方面，但人類對于人工智能的擔心顯然遠不止于此。

加州大學伯克利分校的斯圖爾特·羅素（Stuart Russell）教授認為人工智能對于人類的危險性絲毫不遜于核武器，他形容人類對于人工智能的研究猶如開車沖向一個懸崖。人類追求無窮無盡的智能猶如當年研究核聚變時追求無窮無盡的能源——可能更糟糕的是人類尚且可以限制核武器的數量和制造原料來盡量減小危險，卻無法限制各種各樣智能軟件的開發。羅素教授認為，也許人工智能永遠也不會有人類般的意識或是達到“超級人工智能”，但是“這就如同一邊開著一輛車沖向懸崖，一邊又希望這輛車趕快耗盡汽油”。

目前我們還處于人工智能專家所定義的“弱人工智能時代”，人工智能系統還只是人類進行工作的輔助工具，但是它已經深深影響到人類的生活。要控制人類可能并不需要造型可怕的超級機器人，只需要有網絡的鏈接。因為人工智能系統可以在短時間內完成人類可能需要上百萬年才能完成的工作，在很多系統中人工智能已經開始代替人類做決定。美國國家安全局利用人工智能系統進行通話記錄的數據挖掘，找出其中可疑的用戶信息進行調查。更為危險的是由人工智能掌握的致命武器，目前已經有超過50個國家正在研究可以用于戰場的機器人，這種機器人如果用于實戰，將可以自行確認敵軍和友軍，并且將會有決定是否進行殺戮的權力。

2016年4月22日，美國國務卿約翰·克里在位于紐約的聯合國總部簽署了巴黎氣候協議，并親吻自己的小孫女

可以自行決定是否對人類進行殺戮的機器是人類面對人工智能帶來的最直接的危險，但這也還不是人們最大的擔憂。人類并不會愚蠢到輕易地給予機器進行殺戮或是進行自動復制的能力，而更大的憂慮在于，我們無法判定超級智能的出現，我們不知道如何控制超級智能，甚至可能無法判斷是否已經被它所控制。在人類的歷史上，從未有過可以與之對比的困境。

超級智能，或是叫作強人工智能，是人們所想象的一種人工智能的高級發展狀態，這種程度的智能已經不僅僅是可以在棋牌上贏過人類冠軍或者進行簡單的數據挖掘整理工作，而是在智能的任何方面都遠超人類，此時它是否還可以被人類所駕馭，就成了一個未知數。在人工智能出現之前，人類早已經習慣了“適者生存”的邏輯，認定自己是在歷時幾百萬年的物種進化中的幸存者和勝出者，我們正是以遠超其他所有物種的智力成為地球的統治者，我們是宇宙中目前僅知的獨一無二的智能生物。問題在于，一旦出現了智能超越人類的機器，人類又該如何自處，是否應該把對地球和自身的主導權交給更為強大的智能？