美國總統(tǒng)怎么看人工智能

Scott+Dadich+李雨蒙

近日，美國總統(tǒng)奧巴馬在白宮接受了麻省理工學院媒體實驗室主任伊藤穰一的專訪，他們對人工智能、神經(jīng)網(wǎng)絡以及未來太空探索等話題進行了深入探討。本文翻譯整理了本次專訪的精彩內(nèi)容。

伊藤：原本科幻小說的人工智能已經(jīng)成為改變我們生活的現(xiàn)實，您何時感受到人工智能真的離我們很近的呢？

奧巴馬：總體來看，人工智能已經(jīng)從各個方面滲透進我們的生活，只是我們還沒有太注意到，這部分是因為我們所認知的人工智能方式是被大眾文化所粉飾過的。這就是區(qū)別所在。我們通常在科幻小說中所見到的都是普通的人工智能。現(xiàn)在的電腦已經(jīng)超越人腦變得越來越聰明，最終人類將變得不再全部都有用處，甚至它們正在麻醉我們，讓人類陷入肥胖和愉快或是黑客帝國的世界中。

值得思考的是，這確實擴展了我們的想象力，使人類開始思考選擇和自由意志的問題，實際上也對發(fā)展專業(yè)人工智能，進行精確計算和解決日益復雜的工作起到了重要的作用。如今，我們生活中的各個方面都能夠看到專業(yè)人工智能的身影，無論從醫(yī)療、交通到分布式發(fā)電，它都能確保創(chuàng)造更加高效的經(jīng)濟。如果利用得當，它將為世界創(chuàng)造巨大的經(jīng)濟繁榮和機遇。但同時接下來我們要談談人工智能不利的方面，比如加劇不平等、壓低薪酬等等。

伊藤：我認為人工智能問題已經(jīng)遠遠超出了一個普通電腦的科學問題。重要的是，每個人都需要了解人工智能的行為方式。在媒體實驗里，我們常用到“擴展智能”這一術(shù)語，因為問題在于我們該如何對人工智能建立社會價值觀？

奧巴馬：我們用無人駕駛汽車舉例。當機器可以進行多項快速決定時，就能夠徹底地降低交通事故，徹底提高交通網(wǎng)絡效率，有助于解決導致地球溫室效應的二氧化碳排放問題。但是，人類將會在無人駕駛汽車上附加怎樣的價值？接下來我們需要做出一系列的選擇，比如老生常談的問題：汽車自動駕駛，如果你急轉(zhuǎn)彎避免撞到行人，你就會撞墻自殺。這是一個道德決定，而由誰來制定這個規(guī)則？

伊藤：在我們探討人工智能的道德問題時，政府將扮演什么角色？

奧巴馬：在我看來，在人工智能的早期發(fā)展階段，監(jiān)管框架應當百花齊放。政府要盡量少地進行干預，更多地投資于科研，確保基礎(chǔ)研究和應用研究之間的轉(zhuǎn)化。隨著技術(shù)的開發(fā)和成熟，我們要考慮如何將其納入現(xiàn)有監(jiān)管框架中。這是個更難的問題，而政府需要更多參與。我們并不總是要讓新技術(shù)去適應現(xiàn)存監(jiān)管框架，而是確保監(jiān)管符合更廣泛的價值。否則我們可能會發(fā)現(xiàn)，某些人群將因此處于不利地位。

伊藤：人工智能發(fā)展出新型軍備競賽的過程中是否存在風險？

奧巴馬：毫無疑問的是，我們需要圍繞著網(wǎng)絡安全建立國際準則、協(xié)議和檢驗，特別是對初期的人工智能領(lǐng)域。而其中較有趣的問題是攻防之間的界限還比較模糊。而政府之間互相的不信任更加劇了難度。

為什么我們與人工智能愛好者召開多次會議？其中一個原因之前我們并沒有談到過，就是我們真的需要徹底想清楚人工智能帶來的經(jīng)濟意義。因為現(xiàn)在大多數(shù)人并不會花時間擔憂那些稀罕物——他們只關(guān)心“機器會不會取代我的工作？”對此，我還是非常樂觀的，歷史證明，當人類吸收新科技時，總能發(fā)現(xiàn)創(chuàng)造出新型的工作，我們生活的總體標準也隨之上升。高技術(shù)人員在這些領(lǐng)域表現(xiàn)出色，通過衡量自身才能，與機器互動，擴展知識范圍、銷售額度以及產(chǎn)品和服務。低收入、低技能的人群將變得越來越多余，他們的工作或許不會被取代，但是工資會被極大縮減。如果想成功轉(zhuǎn)型過渡，我們必須對如何管理轉(zhuǎn)型進行社會性的對話。

實際上，還沒有直觀感受到哪些工作將被替代。不過我愿意打賭，如果你有一臺懂得醫(yī)療系統(tǒng)的電腦，你將非常擅于診斷病情，所以相對于醫(yī)生，護士或藥劑師不太可能被替換，因為他們的工作并不是很高薪。那些專業(yè)技術(shù)較強的工作，比如律師或?qū)徲媶T或許會消失。反而許多服務業(yè)、藝術(shù)和那些計算機難以適應的職業(yè)將很難被取代。

伊藤：如埃隆。馬斯克、NickBostrom所說，人工智能的潛力已經(jīng)超越了人類對它們的理解能力。當我們推動人工智能向前發(fā)展，我們該如何應對這樣的擔憂？

奧巴馬：這不僅僅影響到我們自身，而是全人類的大事。首先，我認為更加直觀的是，這在專業(yè)人工智能方面是可解決的問題，當然我們必須留心它的動向。如果我們擁有一臺可以下圍棋的電腦，這是蘊含千變?nèi)f化的一種游戲。當人工智能開發(fā)出一套算法，很可能讓你在紐交所實現(xiàn)利益最大化。如果一個人或組織首先獲得這種算法，他們就可以迅速地打壓股市，或至少引起金融市場誠信的混亂。

當出現(xiàn)一種算法，“圍棋能夠破譯核密碼并且算出如何發(fā)射導彈”，如果這是人工智能唯一的功能，如果它是自學并且真正高效的運算，就會給我們造成極大的麻煩。

伊藤：您是一個《星際迷航》迷。它是如何影響您對未來的想象的呢？

奧巴馬：從小時候開始，我就超級迷這部電影了。那時候覺得太有趣了！我認為使這部劇常青的原因不在于技術(shù)，而在于它所傳達出的價值觀和人們之間的關(guān)系。它講述的是關(guān)于人性，和我們通過自己的能力解決問題的自信。

探尋如何進行下一代的太空旅行是目前我們經(jīng)費支持的重要領(lǐng)域。私營的企業(yè)已經(jīng)做了很多很好的工作。在全美將近50個州里，已經(jīng)有超過家企業(yè)正在開展私人太空探索工作。未來，人類將成為太陽系內(nèi)一個“多星球智慧物種”，在各大行星之間建立起類似我們當今在地球上的國家體系、貿(mào)易體系和地緣政治格局。在這種太陽系政治的格局建立過程中，遵循的是最原始的“先到先得”的規(guī)則。先出發(fā)的民族將在未來太陽系人類生態(tài)圈中占據(jù)高端的位置。