博弈：人類與人工智能

自從去年阿爾法狗戰勝李世石后，人工智能在科技領域掀起了軒然大波，人工智能仿佛一夜之間就走入了我們的生活，科幻大片中的場景即將出現。

劉宗凡：“機器覺醒”——虛驚一場的“新聞”

關注人工智能的人可能會看到近期的一個新聞：Facebook（臉書）公司的兩個AI機器人，是社交網絡助手，可以用來進行談判。可是，據說這兩個機器人，突然用我們無法理解的語言進行對話，“嚇壞了”的工程師使出了絕招：關電源——就是停止了這個試驗項目。于是，各種科技媒體慌了，國內也以類似標題：“Facebook關閉‘失控AI系統因其發展出人類無法理解的語言”進行報道，大有山雨欲來風滿樓之勢，甚至被當作“人工智能覺醒元年”這樣的大事件。右面就是兩個機器人的對話情況截圖。

對于這些我們完全無法理解的對話，大家紛紛猜測，是機器人為了不讓我們知道他們到底聊了什么，而發明的一種新的語言。如果是這樣，那就說明機器人有意識地避開人類進行自己的某些“密謀”，讓人感到非常恐慌——有自己意識的機器人這么快就出現了？

還好，很快就有相關技術人員做出了辟謠。真相是，在兩個機器人聊天時，工作人員在進行系統設置時，將激勵條件忘記設置為英文語法，從而導致機器人出現了語法混亂。Facebook也沒有關閉這個系統，而是重新設定了正確的激勵。該研究的首席作者Michael Lewis說：“沒有恐慌，項目也沒有關閉，我們的目標是建立可以與人交流的機器人。在一些實驗中，我們發現他們沒有像人們那樣使用英語單詞，所以我們停止了這些實驗，并使用了一些額外的技術來讓機器人按照我們的意愿工作。分析獎勵功能和改變實驗的參數不等同于‘拔掉或‘關閉AI。”

我們在松了一口氣的同時，還是要考慮，人工智能，現在發展到什么階段了？人工智能會和人如何相處？我們該怎樣利用人工智能？人工智能真的會威脅到人類嗎？

邱元陽：正本清源——人工智能還處于“石器時代”

實際上，對于人工智能的研究，很多還停留在概念性的初級階段。新聞上非專業性的報道，常常會給我們一些錯覺，以為現在的人工智能已經非常強大了。如果以漫長的人類社會作比喻，人工智能現在僅僅是處于人類社會的“石器時代”。

很多時候，我們需要區分一下普通程序和人工智能。拿聊天機器人來說，看似智能化程度很高，但實際上，那僅僅是程序預設的一些判斷及對應策略，并沒有智能可言。它既不知道我們在說什么，也不知道它自己在說什么。即使通過了圖靈測試，他們也未必具備哪怕微弱的智能。圖靈測試本身，還缺乏哲學層面的質疑。

不僅僅是聊天機器人，目前的所有的智能系統，都還無法做到對場景的常識理解。這種不理解會造成很多原設的判斷無法進行，從而出現重大失誤。在笨拙的機器人足球比賽中，我們常常可以看到機器人摔倒后爬不起來的情形。這對于無人駕駛汽車來說，可能是致命的。看起來智能化程度非常高的無人駕駛汽車，在研究人員認為已經考慮到各種因素而接近完美時，它們還是出現各種事故。因為它們無法理解場景，僅僅依靠規則和程序是遠遠不夠的。看到一個人，我們可以知道它是要過路還是要停止，程序是做不到的，它甚至不能區分人與人像、草地與沼澤、場景與畫面。

同樣地，機器翻譯看似可以翻譯不同的語言，其實它根本無法理解自然語言的語義，如果使用了“雙關”，肯定會被忽略。

以前有新聞報道說機器人與人類比賽輸了，憤怒地通電電死了人類對手。我可以肯定寫這篇報道的記者不懂人工智能。情感和思想是機器無法逾越的高度，對于目前的人工智能而言，讓它自發產生情感實在是勉為其難，更別提具有獨立思想了。

在科幻電影中，我們常常看到機器人學習人類戰術、殺死人類并妄圖控制人類的場景。但是在人類的生命周期中，恐怕不可能實現人工智能的思想意識了，除非將人工智能與人體結合，產生一種新的有機體。思想是生命的特征，機器的生命與生物的生命，概念是不一樣的。

人工智能要想與人類的大腦媲美，還有很多困難。初級的，是經驗和直覺；中級的，是情感和創新；高級的，是思維和思想。這些困難的克服，正是對人類自身大腦的挑戰，過程必然漫長而曲折。雖然不可能實現，我們還是希望能夠實現，哪怕它是人類的災難。

雖然人工智能還處于混沌初開的時代，但在一些特定領域還是展露了曙光。我們來看看近年發生的一些新聞。

1.阿爾法狗（AlphaGo）擊敗人類頂尖圍棋選手。

要說人工智能元年最重磅的新聞，當屬谷歌Deep Mind團隊下的作品阿爾法狗以4∶1的比分擊敗世界圍棋冠軍、人類頂尖選手之一的李世石。阿爾法狗的二代產品Master，在網絡上以60連勝的姿態橫掃人類，并在正式比賽中以3∶0的完美姿態擊敗目前圍棋屆的世界第一人柯潔。

我們之所以震驚于阿爾法狗取得的成就，是因為大家普遍認為人工智能征服古老的圍棋，起碼是10年之后的事情。圍棋變化之繁復，用以前的思路來解決這個問題是不可能的。神經網絡、深度學習、蒙特卡羅樹等一系列思想和算法，在人工智能領域掀起了軒然大波。

2.特斯拉Autopilot將血栓病人送到醫院。

和谷歌正在研發的無人駕駛技術相比，科技新貴特斯拉的Autopilot只具有半自動駕駛功能，可以調節車速，切換車道，自動剎車。

據報道，美國密蘇里州的一名男子、特斯拉Model X車主約書亞·尼利（Joshua Neally）近期在上班途中突發肺栓塞。在趕往醫院的20英里（約合32公里）高速公路車程中，Autopilot完成了全自動駕駛，抵達了醫院附近的一個高速公路匝道口。尼利隨后自行駕車抵達了醫院。

在鋪天蓋地的無人駕駛新聞中，這樁小事可能無足掛齒，但卻折射了自動駕駛正從實驗室逐步走向現實中。無人駕駛的落地，將成為弱人工智能的巔峰。

3.人工智能診斷癌癥。endprint

“人工智能在醫療領域取得了重大進步，”美國路易斯維爾大學網絡安全實驗室主任羅曼·亞普爾斯基（Roman Yampolskiy）說，“如IBM沃森就能判斷醫生無法判斷的問題。”

IBM沃森總經理大衛·肯尼（David Kenny）在Business Insider的Ignition大會上講了一個故事——這臺認知機器竟然在日本診斷了一位之前被漏診的白血病女患者。“從統計學上看，這種情況出現的概率約為三分之一，沃森建議再次診斷。”肯尼說。

目前阿爾法狗在圍棋領域已經退出，谷歌正在準備將這套系統的方法應用在醫療領域。我們可以想象，人工智能在進行足夠的深度學習以后，其水平也將比肩甚至超過世界上頂尖的醫療專家。而這一技術的普及，將惠及千千萬萬普通百姓。

4.中國的人工智能現狀。

“人工智能”概念的提出，已經經過一個甲子了。在谷歌等一流公司的主導下，人工智能蓬勃興起。中國目前將這項偉大的項目執行得如何呢？答案是，中國的語音識別和圖像識別的應用已達到國際領先水平。

中國在圖像及語音識別的基礎之上，模擬神經網絡的輸入和輸出，并通過大規模的數據進行訓練，再對樣本進行精準分類和預測，從而實現了“計算”之外的“思考”。這便是中國著力研究人工智能所得到的令人欣喜的結果。當然，研發中會遇到瓶頸，同時也是突破口——訓練和建模邏輯的算法，但我相信，只要不懈努力，中國定能取得更多更高的科研成就。

倪俊杰：家庭生活——人工智能真的解放了家長？

前些日子，在學生家長的朋友圈里盛傳著一條信息：一款名為“愛作業”的APP一下子火了。家長只要拿起手機拍照，就能夠迅速檢查孩子的口算作業，算術作業的成績很快就統計出來，準確度也很高，同時還會標出算錯的題目。由于該APP的推出時間和功能極佳，一經推出就收到了奇效。第一天的下載量就達到了1800，第三天飆升到24萬的下載量，一周的時間總下載量達到了30萬。在上線第四天的時候，“愛作業”APP就在蘋果APP Store總排名第75位，在教育類APP下載排行第五。

從技術角度來說，“愛作業”APP主要運用了字符識別和機器計算等技術，其核心也是人工智能技術。從這點來說，人工智能確實解放了家長，速度也很快，節省了不少時間。但也透露出一些隱憂，有用戶在留言區就評論：“連算術題都需要借助APP，家長是不是太懶了？”“APP都能解決問題了，那么要家長和老師有什么用？”以上評論雖有些偏激，但細想也并非毫無道理。現在借助技術手段，出現了很多能夠幫助孩子學習的“智能軟件”“智能設備”，甚至是陪讀機器人。這些軟件或設備的出現，看似解放了家長，但也給了家長一個借口：我反正不會，有這么好用的設備、軟件，何樂而不為呢？反正人家都在用，我們要是不用，就會落伍了。有些家長還將孩子學習的場景每天發到朋友圈“打卡”。此外，高考機器人的出現，也讓部分家長和學生認為，十年寒窗的學習變得不是那么必要了。至此，我們不得不重新思考這樣一個問題：是不是所有的人工智能都是必要的？檢查作業這些看似瑣碎的工作，但卻能夠讓孩子感受到來自家長的關注。檢查過程中的親子溝通，更能夠激發孩子學習的興趣與積極性，也能讓家長更加全面地了解孩子學習過程中的實際情況，而不僅僅是答案的正確與否。如果技術成為主導，那么家長與孩子之間的連接，也會逐漸疏遠。那樣的話，就因小失大了。人與人之間，有些必要的聯系，技術是無法替代的。

愛因斯坦曾經警告，人類作為一個種群的未來取決于我們如何使日益增長的知識與運用這些知識的智慧保持平衡。那么，技術與人性的平衡在哪里？我認為，未來智能時代的教育，還應當是一種“人性”的教育，德行和情感等人性特有的東西應當受到極大的重視。

邱元陽：自動駕駛——繞不開的“電車難題”

人工智能中一個非常火爆的方向就是自動（無人）駕駛，谷歌是其中的翹楚。從2009年開始開發自動駕駛技術，到現在谷歌的無人駕駛汽車已經在路上行駛超過322萬公里。李開復在創新工場的“人工智能戰略展望會”上談到，無人駕駛將成為最會顛覆人類已有世界的技術。

在我們看起來經過簡單訓練就可以掌握的駕駛技術，在人工智能領域有很多難題亟待突破。從行業發展歷程中可以看出，在以深度學習為突破的“人工智能時代”大風口下，自動駕駛被給予了前所未有的關注，包括互聯網公司、傳統車廠、新興創業公司，各路資本爭相競逐。無人駕駛將是弱人工智能的終極場景，機器視覺識別、深度學習、增強學習、GPU、傳感器技術等均在自動駕駛領域發揮著重要的作用，甚至行業發展的瓶頸主要在于這些人工智能底層技術上能否實現突破。人工智能本身越來越需要與應用場景結合才能最大限度地轉化技術上的創新和突破，因此考慮到汽車行業本身的體量以及與相關行業的關聯度，可以說自動駕駛是人工智能實現場景落地的最重要方向。

無人駕駛的發展，除了決定于人工智能技術的發展，還面臨著嚴重的倫理道德問題。我們來看一下哲學領域的“電車難題（Trolley Problem）”。

電車難題最早是由哲學家Philippa Foot提出的，是倫理學領域最為知名的思想實驗之一，其內容大致是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，并且片刻后就要碾壓到他們。幸運的是，你可以拉一個拉桿，讓電車開到另一條軌道上。然而問題在于，那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況，你是否應拉桿？

這個著名的心理實驗，在無人駕駛中將變為一個現實場景。無人駕駛雖然隨著人工智能的發展將非常安全，但肯定不是百分之百能避免事故發生。我們可以想象一下，無人駕駛汽車在正常高速行駛，左邊一部車失控將要撞上來，而右邊有一個無辜的行人。撞上去，兩部車上的人將同歸于盡；打方向變道，撞死旁邊的行人，自己活下來。面臨這兩個選擇，人工智能將以什么標準來進行自己的操作呢？當我們把生死交給冷冰冰的人工智能去裁決時，是不是會覺得非常殘酷？endprint

倪俊杰：現實焦慮——人工智能會不會搶走我們的工作？

人類發明人工智能技術的目的是解放生產力，提高工作效率，做人類做不到的事情。但是，甚至連人類都想不到，人工智能正在給人類帶來“反作用”。阿里巴巴集團董事局主席馬云在美國底特律召開的阿里巴巴中小企業論壇會上曾經說過：“隨著人工智能的逐步發展，未來30年人類每天只需要工作4小時，每周只工作4天。有更多工作被搶走，一些能順應潮流的人將變得愈發富有和成功，而那些被時代甩在身后的人則會越來越痛苦。”事實確實如此，隨著“機器換人”的興起，未來20年內，一半的人類勞動力將會被機器和軟件所取代，今后的企業將充斥著各類高效工作且易管理的機器，越來越多的工作已經轉交給人工智能機器人。還有人開始擔心，人工智能會威脅人類的生存。

那么，人工智能會不會搶我們的工作呢？我倒是覺得，并不是人工智能在“搶”工作，而是我們人類將已經“不適合”自己去做的工作，“明智”地轉交給人工智能機器去做，人工智能幫助人類分擔了大量繁瑣、重復、單調的工作。俗話說，舊的不去，新的不來。只有放棄低效繁雜的活，人類才會以更高的效率向前進。人類沒必要擔憂，想要不被大時代趨勢淘汰，就應該正視這個趨勢，擺正態度，加強學習，提高自身本領。

當然，人工智能并不會搶走所有的工作。起碼在三個領域，是必須有人參與的：一是創造性工作，如對科學與藝術和對未來的探索等；二是設置KPI和價值觀的工作，AlphaGo圍棋上戰勝人類，但是它贏棋的目標是由人來設定的；三是情緒勞動，這個與愛及心理相關的概念，是由美國社會學家霍赫希爾德提出的。在短期內，像醫生、廚師、駕駛員、教師這樣專業性和情感性較強的工作，人工智能是無法替代的。這也從側面說明了，人工智能和人類還是有本質區別的。

劉宗凡：“人機相戀”——終極的倫理拷問

在人類發展的歷史長河中，男女相戀、結合，繁衍下一代，使得人類生生不息。如果戀愛的結果不能產生下一代，則這種“愛”會被認為是不道德的，甚至是病態的、反人類的。比如“同性戀”，直到今天大多數國家還是不承認其合法性。隨著人工智能的發展，比同性戀更可怕的畸戀——“人機戀”可能發生嗎？

在我們看來，目前的機器人只不過是一堆冰冷的鐵塊和嚴謹的程序的結合，機器人產生人類感情是不可能實現的。我們也無法想象，人類會和機械及代碼產生什么感情。當機器人與人相伴之后，即使它沒有情感，人類也是可能會對它產生情感的，這是作為生物體的人的特點。就好比我們用過的物件，我們仍然會深深懷念或賦予情感加以保護，對它傾訴和交流。情感是高級生命的特征。這樣想來，那些想與機器人結婚的想法，應該跟與充氣娃娃結婚的想法一樣，并不能說明機器的情感，終歸還是人的情感問題。

但是，有一種觀點認為：人工智能基于大數據，利用深度學習來學習模仿人類的思維和行為方式，通過大量的積累便能產生一定的情感。打個形象的比喻，大數據就是我們人類的知識積累、生活經驗，深度學習的算法就是我們人類思考問題過程的模型，相當于我們人類的思維。所以，人工智能可以擁有像我們一樣的感情。

既然人工智能能產生感情，那么我們人類對人工智能產生感情恐怕也不會是小概率事件。當人工智能發展到具有自己思維的時候，我們也許就不能簡單地把它們視為沒有生命的機械，人工智能應該會成為一個新的物種。到時“人機戀”將會演變為“跨物種之戀”。這種“感情”，將成為倫理道德的終極拷問。這個時代還要多久才會降臨？我們現在誰也無法預測，但“人機戀”的戲碼，在科幻電影中已經多次出現。2014年的電影《機器紀元》，已經超越了簡單科幻片的范疇，具有了預言價值的未來再現。可以看末世的機器人們是怎樣突破人類設定的防線，進而進化為這個地球上最智能的“生物”的，以及這個進化過程中的陰謀。主角雅克因為與妻子瑞秋的意見分歧，讓本已心力交瘁的他想逃離他們的家。此時雅克恰巧認識了紅燈區機器美女克莉奧，在長期的驚險相處中，作為人類的雅克與作為機器的克莉奧不可避免地產生了曖昧情愫，在與待產人類妻子的婚姻與另類的“人機戀”之間，班德拉斯將如何抉擇成為影片的最大懸念。

結束語

人工智能還只是剛剛露出曙光，如果我們過于相信或者高估了人工智能的水平和能力，可能會出現災難性的后果。智能診療系統如果出錯，誰來承擔責任呢？要命的是，可能它錯了我們還不知道。戰爭機器人殺人了，我們要譴責誰呢？它不是槍，沒人幫它扣動扳機，是規則負責還是程序員負責？

人類與人工智能的博弈，才剛剛開始！endprint