外刊導讀

《紐約客》雜志2018年5月14日號

1似人非人，你怕不怕

這篇《紐約客》的長文再次探究人工智能對人類社會的潛在影響和深遠意義，它引述了大量科技界人士的研究和觀點，頗具深度，同時結合科幻小說和影視作品來解讀人工智能，不乏趣味，又充滿著浪漫的人文氣息。

一直以來，許多科學家和有識之士，包括蓋茨、馬斯克和霍金等，不斷發出警告稱，一旦人工智能進化到所謂的通用型即AGI的階段，它的智能程度遠超人類，世界末日就可能隨之而來。當人工智能進化到創造它的人類難以理解的階段，它好像具有了直覺和創造力，這時人類有種背后發涼的感覺，它可能是人類最后的發明。

本文指出，AGI離我們還有一段距離，專家們在最新調查中預計它們到來的時間點是2047年，它將為人類解決一大堆難題，但也會帶來種種風險。像所有技術一樣，一旦人類失去對它的控制，就可能帶來災難，比如，火，電力，汽車，核電站，當然，也包括人工智能。奇怪的是，科幻小說的作者們并沒有預見到AGI會給人類帶來滅頂之災，人類似乎并不擔心這個問題。有些人認為，人類的智力與人工智能各有所長，可以是互補的，人類在AI的協助下，不會失去工作，只會更好地發揮所長。另一方面，機器也會渴望更像是人類，至少在影視作品中是這樣，它們會有人類那樣的意識，讓人類難以分辨。

本文提到，AGI系統要想達成我們指定的目標就需要掌控全局，因此，它的真正危險，也許不是來源于惡意或者它出現自我意識，而恰恰是它的自主，這時人類的處境就好比是小孩子玩炸彈，失去了控制它的能力。那么，該怎么辦呢？是給AGI注入價值觀，還是尊重AGI，讓它自己來解決這個難題。本文認為，這個問題的回答很可能與人類如何看待自己有關。因此，思考人工智能，可以幫助我們更好地認識人性，不管是好的還是不好的方面。

《大西洋月刊》2018年6月號

2人工智能，是福還是禍

近來，人工智能的熱度持續攀升，領頭羊谷歌公司繼阿法狗在圍棋上將人類挑下馬之后，又推出人工智能個人助理，它可以替我們打電話訂餐廳，預約理發服務，雖沒有阿法狗那么轟動，但還是狠狠地刷了一次屏，因為它竟然騙過了接電話的服務員。就在這個當口，美國德高望重的基辛格博士在《大西洋月刊》上發表了這篇文章，他特別指出，因為互聯網，特別是人工智能的影響，人類的歷史正在走向一個重大的轉折點，我們必須為此做好準備。

基辛格表示，他本人并非技術專家，但作為一名歷史學家和一名有實戰經驗的政治家，在聽取了許多技術專家的介紹，他意識到，互聯網特別是人工智能的技術進步正在深刻改變著現代人類社會的歷史進程，由啟蒙運動引領的理性時代的當代世界秩序正處于變動之中，未來的世界將依賴數據和算法所驅動的機器。數據即意義，人們不再自省，幾乎不過問歷史或哲學，只要數據和算法即時有用，真理變成相對的，我們更關注信息，而不是智慧。

基辛格警告說，人工智能與之前的自動化不同，自動化只是手段，而人工智能與目的有關，它會建立起自己的目標，特別是目前想要實現的可執行多種領域任務的通用型人工智能。人工智能利用數據，對人類未來作出判斷，其結果有著內在的不確定性和模糊性。這樣就產生了一個悖論：世界變得更透明，但它也變得越來越神秘莫測。基辛格總結了三個方面的隱憂：第一，人工智能可能會得出人類不愿意看到的結果；第二，人工智能在達成既定目標中，可能會改變人類的思想進程和人類的價值觀；第三，人工智能或許可達成既定目標，但是不能解釋出其結果背后的道理來。

基辛格認為，人工智能的決策和行動，有一天會超出人類的解讀能力，就像阿法狗下出的每一步棋，我們不僅關心輸贏，我們還關心背后的思考和意義。開發設計人工智能的科學家和工程師們追求的是科技和商業的極致，他們并沒有從人文傳統的視角看這個問題。因此，人工智能對人類的認知本質構成威脅，假如我們不趁早準備應對，未來人類可能會面臨存在性危機。基辛格相當肯定地指出，假如政府不盡快行動起來，人工智能可能會終結人類的歷史。你說，基辛格是不是有點杞人憂天呢？

《科學美國人》同站2018年5月15日

3自知之明不常有

這篇《科學美國人》的文章很有意思，它總結了關于人們并不了解自己的十件事，引用許多研究說明了我們很可能并不像我們認為的那樣理解自己。也許你會不以為然，還有誰比我自己更了解我？

好吧，下面我們把這十件事逐一做個簡單的介紹。第一，你眼中的自己是扭曲的，我們往往認識不到自己的偏見；第二，你完全不明白自己的動機，人們的潛意識藏得很深；第三，外在表現說明了你的許多，因此，我們最親近的人往往看我們更準確，特別是那些突出反映在行為當中的性格特征；第四，離自己遠一點看自己更清楚，我們通過獨處或冥想，讓潛意識與目標趨于一致，可提升幸福感；第五，我們經常高估自己，人們越無能，就越難意識到自己的無能，這就是Dunning Kruger效應；第六，看不起自己的人更經常有挫敗感，這與前一條并不矛盾，二者都很常見；第七，你自欺欺人卻不自知；第八，“真我”體現了你相對穩定的道德觀；第九，沒有安全感的人往往行為更端正，心理學家Drazen Prelec提出了給自己發信號的理論，即我做一件事更多是做給自己看的，而不是證明給別人看的，比如，為什么有人寧愿花幾十萬買真勞力士，而不是花幾千弄一條真假難辨的仿冒品，就可以用這個理論來解釋；第十，你認為自己可以改變，你就可以做到更好，這就是Carol Dweck著名的成長心態。

本文最后指出，獲取對自我的認識比人們想象的更難。當代心理學從根本上質疑我們可以客觀地、確定地了解自己，可以明確的是，自我并不是一個物品，而是對變化中的環境不斷適應的一個過程。

（本欄目撰文 劉虎）