人工智能究竟是天使還是魔鬼？

今年3月上旬，谷歌AlphaGo挑戰世界冠軍李世石，可謂萬眾矚目。AlphaGo在五局“人機對戰”中以4：1戰勝李世石，不僅標志著計算機的能力攀上的一個新高度，而且，它的勝利更是在提醒世人，人類世界正在快速攻克人工智能及其實際部署所面臨的障礙。從歷史上看，在人工智能發展快速的時期往往會出現大量樂觀觀點，但最近這一次人工智能熱潮中，人工智能威脅論依舊備受關注。

關于人工智能的定義，目前尚無確切的定義。美國斯坦福大學人工智能研究中心尼爾遜教授提出“人工智能是關于知識的學科——怎樣表示知識以及怎樣獲得知識并使用知識的科學。”，美國麻省理工學院的溫斯頓教授則認為：“人工智能就是研究如何使計算機去做過去只有人才能做的智能工作。”一些業界人士則根據人工智能的發展程度將其分為三類：

（1）弱人工智能Artificial Narrow Intelligence（ANI）：弱人工智能是擅長于單個方面的人工智能。比如有能戰勝象棋世界冠軍的人工智能，但是它只會下象棋。（2）強人工智能Artificial General Intelligence（AGI）：人類級別的人工智能。強人工智能是指在各方面都能和人類比肩的人工智能，人類能干的腦力活它都能干。（3）超人工智能Artificial Super Intelligence（ASI）：牛津哲學家，知名人工智能思想家NickBostrom把超級智能定義為“在幾乎所有領域都比最聰明的人類大腦都聰明很多，包括科學創新、通識和社交技能。”超人工智能正是人工智能話題這么火熱的緣故，同樣也是永生和滅絕這兩個詞會在本文中多次出現的原因。

現在，人類已經掌握了弱人工智能。人工智能革命是從弱人工智能到強人工智能，最終到達超人工智能的旅途。在人工智能的這段旅途中，人類的命運終將如何，不同人士的觀點截然不同。

人工智能威脅論的支持者認為，人工智能可能發展出自己的思想，進而引發人類的“身份危機”。近來兩位頂尖科學家發出類似警告。一位是理論物理學家斯蒂芬·霍金，他認為當人工智能發展完全，就是人類的末日；另一位是特斯拉的CEO馬斯克，他曾公開表示：“我們要十分小心人工智能，它可能比核武器更危險。”在馬斯克看來，人工智能對人類社會的威脅有短期和長期二種：“短期而言，人工智能可能導致數以百萬計的人失業；長期而言，可能出現一些科幻電影中的情況，人工智能的智力水平超過人類，開始‘政變。按人工智能的發展進度，在不久的將來，機器可能以不斷加快的速度重新設計自己，超越受制于生物進化速度的人類，最終擺脫人類的控制。”

但也有不少科學家認為，霍金和馬斯克對于人工智能的未來過于悲觀。在他們看來，至少在相當長的時間里，人類還難以完全掌控這類技術的發展，而要讓人工智能技術得到“充分發展”，還有很長的路要走。百度首席科學家，斯坦福大學人工智能專家吳恩達表示：“擔心人工智能過于強大就好像擔心人類會在火星過度殖民導致火星人口爆炸一樣。我很希望數百年后我們能在火星生活，但目前甚至都還沒有人類登上過火星，我們為何要擔心在火星過度殖民的問題呢？”

應該說在認同和反對人工智能威脅論的兩個陣營里都有重量級的人物。但有趣的是，認同人工智能威脅論的大部分是企業家或者是非人工智能領域科學家，反對人工智能威脅論的多是人工智能和計算機領域的科學家，為什么出現這種情況，值得我們關注和思考。以下文章，對這兩大陣營代表人物的觀點進行了梳理，雖然人們不一定非要相信未來將遭受人工智能的威脅，然而政府和整個社會還是理應認真對待這些發展的潛在影響，人類對這些發展理當給予應有的謙卑和審慎。

“硅谷老炮”約翰·馬爾科夫：科技會創造出新的工作

我在《與機器人共舞》一書中之所以分別提到人工智能（AI，ArtificialIntelligence）和智能增強（IA，Intelligence Augmentation）兩種不同的技術社群，是因為它們的研究者和設計者所聚焦的方向不同。AI社群長期以來都致力于建造能夠模仿人類能力的技術，從機器人到擁有認知和推理功能的智能技術（我把機器人看做人工智能的子集），這些都是人類可以做的事。而IA則聚焦于用計算機來擴增人類的智力。

AI和IA的區別并不是非黑即白的。AI和IA社群的研究者有著各自的哲學取向。AI研究者有自己的觀點。而IA，也就是HCI（人機交互，Human Computer Interaction）社群則一直想用計算工具來提升人機協作。除了我，還有很多計算機科學家都曾對這種二分法寫過文章。但這里存在一些悖論，因為當你增強了人類的能力，你就不再需要那么多人，因為人的能力比以前更強。這就是我在《與機器人共舞》一書中試圖解答和理解的謎題。

Siri就是一個IA的好模型，它的目的是用AI技術來提升人類的能力，并成為人類的好伙伴。因此AI和IA并不是非黑即白的。再比如無人駕駛汽車，如果人類真的造出了能完全自動駕駛的汽車，那我們就不再需要這么多車，也不需要那么多停車場，我們甚至可以重新規劃城市的布局。與此同時，成千上萬的工作會消失。

那么，是否意味著我們的工作機會遭受人工智能的威脅？在美國的白領工作中，許多技術類工作已經有很多任務自動化的案例，例如醫生、律師、程序員、記者等等，最近還出現了會寫故事的機器人。可是，機器能做采訪嗎？或許有一天能，但目前還不能，在短期內也不可能實現。所以，我再次強調，它只是將任務的一部分自動化了，而不是整個完整的任務。

所以，記者和律師這樣的工作在短期內還不會被機器人和AI所取代。AI技術會改變勞動力市場的面貌，同時它也會創造出新的工作。舉一個經典的例子，誰會想到現在會出現一種叫做“搜索引擎優化”的工作呢？這種工作是隨著搜索引擎的出現才出現的。這些人的工作內容就是負責讓自己的網站在搜索引擎中的排名更加靠前，這樣人們才更容易找到它們。這個工作非常重要。有成千上萬的人都在干這個工作。這就是與IA有關的一個新的工種——Google正是一種IA工具。因此，科技會創造出新的工作。[約翰·馬爾科夫系《紐約時報》高級科技記者，普利策獎得主，他對互聯網發展有著驚人的洞察力與敏銳度。本文選自機器之心對約翰·馬爾科夫的采訪。]

“互聯網預言帝”凱文·凱利：人工智能的潛力無限

現在大家經常談到的熱門詞是深度學習，也就是說把人工智能和神經節點這個理論結合在一起，也就是說計算芯片的能力會得到成倍的提升。比如說IBM就利用人工智能打敗了一個象棋大師，當時誰都沒想到人工智能會這么強。現在我們又把它培養成了醫生，它可以在醫學院里做教學，可以去做診斷，根據病人的各種體征做出判斷，而且它的判斷比一般的醫生都要精確，當然還比不上最優秀的醫生了，但是跟一般醫生來比它們遠遠勝出。我曾做過測試，告訴它我有哪些癥狀，它可以比較準確地判斷出我患有什么疾病。雖然比不上最優秀的醫生，但是在非洲起到了很大的作用，因為在非洲醫生非常缺乏，通過人工智能就可以很好地解決當地的醫療病患問題。

200年前電問世，很多企業通過電力實現了自動化，在這種情況下電是一種服務，而不是一種設施。人工智能同樣可以作為一種服務，你不用自己編寫人工智能，你可以通過百度、谷歌購買人工智能，然后把它用于各種全新的用途，是以前你難以想象的，使得你的工作更加具有智能化，最后會結出非常令人難以置信的成果。因此，人工智能會成為一種服務，你不需要去擁有人工智能，你只用在需要的時候去購買就行了。

使用人工智能的人越多它的智能程度就越高，因為它是自動學習的，通過人們的使用它也在不斷地學習，人工智能程度越高用戶就越多，它也會更加智能化，這是一個良性循環，所以最后實現一個封閉的良性循環，使得人工智能快速增長和成熟，未來就會有非常大型化的人工智能公司，人們會直接向他購買服務，你不需要自己去編寫人工智能，都有現成的產品和服務供你購買。

而人工智能對于云環境來說至關重要，剛才說了我們會產生那么多的數據，我們要對數據進行量化處理，要想把這些數據利用起來，發揮它們的價值，就需要使用人工智能，讓我們了解數據背后所隱含的意思。所以，人工智能會使得我們把數據轉化為實用的工具。因此，我們必須要更多地使用人工智能把這些龐大的數據儲備利用起來。我的預測是，未來20年的1萬家初創企業是要選擇一個行業的切入口，然后把這個行業跟人工智能結合在一起，我覺得可能性是無限的。100年前我們選擇一個行業，把電力跟它結合在一起，現在我們是把人工智能和我們選擇的這個行業結合在一起，你可以去想象，把人工智能使用到一個行業里，24小時進行監控、進行分析，潛力是無限的。

未來是令人難以置信的，因為最偉大的20年后的產品還沒有被設計出來，還沒有問世。如果我要談20年之后最偉大的創意或者是發明的話，我剛才談到的所有這些可能都不會有資格出現在那個單子上。因為我們現在只處于這個變革趨勢的第一天，最初始階段，這意味著你們還為時不晚，一切都來得及。[凱文·凱利，美國《連線》雜志創始主編、《失控》作者。本文選摘自凱文·凱利2015年產業中國年會上《未來20年科技的必然走向》的主題演講]

雷軍：我對人工智能充滿期待

作為圍棋愛好者和計算機工作者，我堅信電腦勝出是時間問題，但是我真的沒想到第一局電腦就贏了。AlphaGo和李世石的這場對弈本身的歷史意義是超越勝負的。從19年前IBM的“深藍”電腦在國際象棋比賽上戰勝世界大師卡斯帕羅夫以來，計算機科學與技術作為人類智慧的結晶，所表現出來的強大計算能力和驚人的成長潛力，都令人嘆為觀止。據說AlphaGo擁有的最了不起的人工智能能力是自我學習的能力。今天有好幾次非常規落子，都讓許多專業棋手表示“看不懂”。Google的工程師也表示，AlphaGo早就不依賴棋譜來決策落子的選擇。能夠讓機器開始有自我學習的能力，這是非常了不起的事情。

更重要的一點是，李世石作為人類圍棋領域的頂級代表，多少年才能培養一個？全世界能有幾個？然而我們復制一百萬個、一千萬個AlphaGo的難度又有多大呢？一個人的智力和技巧的提升，無論他多么出類拔萃，對于其他人的影響終究有限。而一臺機器的智能水平能走到哪里，其它機器就都能走到哪里。從這一點上看，我對未來人工智能的發展充滿了期待。

這幾十年來，計算機產業帶動的社會變革是日新月異，我們每個人都切實感受到了智能設備對我們生活帶來的翻天覆地的變化。我們每一個人都可以輕松地通過智能設備極大地提高和擴展我們個人的能力。想想看，搜索引擎，GPS和電子地圖等技術，多大程度上改變了你現在每天都在經歷的生活？

人工智能、智能算法、智能設備……本質上，是我們希望用科學技術的可復制性，來實現為我們每個人服務的期待。得益于科學技術的進步，今天我們一個普通人的生活水準，恐怕都比幾百年前的皇帝好太多了。[本文選摘自小米科技創始人雷軍微信公眾號]

李開復：人工智能可能令人類醉生夢死

基于深度學習的人工智能將帶來什么改變呢？我們將看到無數的商機和產品，能夠解決問題、拯救生命、產生巨大的商業和用戶價值。這些技術可能輔助專家，也可能取代專家。非專家的工作者很多將會面臨失業。未來十年，大部分今天的人類工作可被機器取代。機器將取代許多的護士、記者、會計、教師、理財師的工作。任何帶有“助理”、“代理”或“經紀”等字樣的職位都很可能被取代。這些機器不需要工資，只需要供電和網，就會一年365天，一天24小時“上班”。這些機器將幫助我們創造世界上的大部分財富。

雖然這些機器確實很“聰明”，而且又高效、勤奮、低廉，但是他們并不“人性化”，只是冷冰冰的機器和工具。比如說，AlphaGo第一場就戰勝了李世石，但是它不會感覺高興，也不會理解我們對于它的討論。甚至，它說不上這局棋是怎么贏的。因為，它的思考雖然周密，但是它不懂“贏了有什么感受？”，也不懂“為什么圍棋好玩”，更不懂“人為什么要下棋？”，甚至連“你今天怎么贏的？”都說不上。今天的機器完全無法理解人的情感、喜怒哀樂、七情六欲、信任尊重、價值觀等方面。對于人文藝術、美和愛、幽默感，機器更是絲毫不懂。有位AI研究員做了一套研究幽默感的系統，然后輸入了一篇文章，這個系統看了每句話，都說“哈哈”！今天的機器連個兩歲小孩都不如。對人工智能的研究者，這應該是一大未來的挑戰。

所以，今天這些機器僅僅是我們的工具。至少今天，我們不必擔心人工智奴役我們（不過要盯好擁有機器學習+大數據的公司，別來作惡傷害用戶）。那我們該擔心什么呢？這些強大的機器，將帶來人類有史以來最大的“下崗潮”。這次的“機器取代人類”將遠超過去的工業革命和信息革命。不過，“下崗”還不是最可怕的，因為這些機器會產生巨大的商業價值，養活著這些下崗者，進而養活著人類。人類最應該擔心的是一旦當機器供養著人類，人類達到了馬斯洛需求的基本需求，人類真的還會有動力去追求更宏偉的目標，自我實現嗎？還是會醉生夢死、無所事事地活著？

面對這個擔心，我們應該：

①關注啟發式教育，用互動式教育啟發孩子對學習的興趣和效率。AlphaGo愿意跟人類學習，我們當然也要善用最善于分析，最博學的機器。善于學習，樂于學習的孩子，是不會醉生夢死的。

②正視發育右腦的學科領域，平衡文理。塞翁失馬，焉知非福？機器超越人類的左腦（工程邏輯思維），也許就是要人類從過去幾十年重視理工，傾斜回來，花更多的精力在機器不擅長的右腦，例如：文學詩歌、藝術音樂、電影話劇、文創設計、工匠之美、宗教哲學、溝通情商。這不是說就不要學理工了，而是說應該讓適合理工，愛好理工的人學理工，適合人文，愛好人文的人學人文。我們應該平等看待文理，并且鼓勵發展文理雙全的人才。

③鼓勵有上進心的年輕人挑戰自己，孜孜以求，成為專才。不要把時間浪費在“安穩”但是重復性的工作上，而要以“成為某個特殊又有用領域的最頂尖人才”為目標，為己任。[本文選摘自新浪體育李開復署名文章《人工智能對人類社會的威脅在于人類自身》]

雹金：人工智能可能是人類犯下的最大錯誤

好萊塢大片《超驗駭客》正在上映，約翰尼·德普和摩根·弗里曼在片中展示了對人類未來相互沖突的看法。人們大多會把高度智能機器概念當成純粹的科幻，但這是錯誤的，有可能是歷史上最嚴重的錯誤。

人工智能（AI）研究現正迅速發展。近來的里程碑（如無人駕駛汽車、計算機在《危險邊緣》智力競賽節目中獲勝、數字私人助手Siri、Google Now和語音助手Cortana等）不過是史無前例的投資激發信息技術軍備競賽的征兆。與今后幾十年會出現的事物相比，這些成就大概微不足道。

潛在的好處很多。文明所能提供的一切都是人類智慧的產物，人類無法預言當這種智慧被AI能提供的工具放大時人類能實現什么，但消除戰爭、疾病和貧困將是所有人都最盼望的。成功創造AI將是人類歷史上最重大的事件。

遺憾的是，如果人類不學會避開風險，那它也可能是最后的事件。在近期，世界各國軍隊都在考慮能選擇和消滅目標的自主武器系統；在中期，正如埃里克·布林約爾松和安德魯·麥卡菲在《第二次機器時代》一書中所強調的，AI也許會改變人類的經濟，既帶來巨大財富，也帶來巨大混亂。

再往前看，能實現的東西沒有根本性極限：沒有物理定律阻止粒子以某種方式組織起來，從而能比人腦中的粒子組合完成更高級的計算。爆炸性轉變是可能發生的，但其過程也許會不同于電影情節：正如歐文·古德在1965年認識到的，具有超越人類智能的機器會不斷進一步改善自身設計，引發韋爾諾·溫格所稱的“奇點”和約翰尼·德普在影片中扮演的人物所稱的“超驗”。

人們可以想像這種技術智勝金融市場，發明能力超過人類研究者，操控能力超過人類領袖，開發出我們根本弄不懂的武器。雖然AI在短期內的影響取決于誰來控制，但長期影響取決于它還能否受到控制。

因此，面對收益和風險都不可估量的未來，專家們肯定在想盡一切辦法確保最佳結局，對嗎？錯了。就AI而言，雖然人類將遭遇歷史上有可能最好也可能最壞的事情，但除了劍橋大學生存風險研究中心、人類未來研究所、機器智能研究所和未來生活研究所等非營利性研究機構以外，沒什么人對這些問題進行認真研究。所有人都應當問問自己現在能做些什么來提高獲得收益而避開風險的可能性。[本文摘自劍橋大學教授斯蒂芬·霍金、加利福尼亞大學伯克利分校教授斯圖爾特·拉塞爾等人在英國《獨立報》上發表的文章]

埃隆·馬斯克：人工智能的安全問題令我心神不寧

眾所周知，有段時間我一直對人工智能心存擔憂。我找Sam、Reid（Linkedln創始人Hoffman Reid）、Peter Thiel（PayPal聯合創始人）還有其他一些人談了很多次，當時就在想：“有沒有某種方式能夠確保，或者是增加人工智能往有利的方向發展的可能性呢？”反復探討之后我們得出結論，創辦一個符合美國稅法501c3條款的、非盈利的、沒有義務追求利潤最大化的公司，應該是個不錯的辦法。當然，我們也會非常注意安全問題。

然后就有了一個重要的哲學性問題：我們希望人工智能普及開來。有兩個意見：你想要多數人擁有人工智能呢？還是希望少數人擁有人工智能？我們認為可能多數人擁有比較好。我們可以把人工智能和人類個體意志的延伸聯系在一起。

因為人工智能是人類自己意志的延伸，所以每個人本質上是與人工智能共生的，不能把人工智能當做獨立的中央智庫。想一想我們是怎樣使用網絡的？通過手機應用，我們可以收發郵件，玩轉社交媒體，網絡讓我們有了三頭六臂，而我們并不會將這種能力當成身外之物，而是把它當成自己的一種延伸。我們可以把人工智能往這個方向引導，這就是我們想要做的。我們現在已經召集了一批這一領域內志同道合的工程師和研究員，他們也有同感。

人工智能安全這個問題，已經縈繞在我腦海里很長時間了，老這么心神不寧也不是辦法，我只能去做了。這是一個不以盈利為目的的投資。將來我們有可能會有收入，就跟斯坦福研究院那樣。但只是收入，不是利潤。沒有股票價格，也沒有其他什么東西，股東們不會因此獲得收益。我們認為這樣挺好的。[本文摘自特斯拉CEO埃隆·馬斯克2015年12月接受媒體采訪時的發言]