面對人工智能，我們在擔心什么？

2016年3月，最大的科技新聞莫過于人類棋手在圍棋人機大戰(zhàn)中慘敗：谷歌的人工智能軟件AlphaGo在對圍棋世界冠軍李世石的比賽中，以四比一取勝。其實早在2015年，AlphaGo已經(jīng)以五比零的戰(zhàn)績擊敗了歐洲圍棋冠軍樊麾。由于圍棋的可能下法太多了，通常認為計算機難以運算，所以這次電腦對人腦的勝利極大地震驚了人類。

神秘莫測的AI

圍棋的算法數(shù)量是2.08X10^170，比宇宙中所有原子數(shù)量（10^80）還多。沒人知道AlphaGo第二局黑37那招，是不是走進了人類思維從未探索過的角落。因此，包括“棋圣”聶衛(wèi)平在內(nèi)的思想者都在思考下述問題：AlphaGo的“內(nèi)心世界”到底是什么樣的？它走出詭異棋路時在想什么？這是個讓人感到恐怖的“黑箱”問題，包括AlphaGo的設(shè)計者也會難以回答。

作為首次被電腦打敗的職業(yè)棋手，樊麾回顧2015年首次人機圍棋對戰(zhàn)時曾說：AlphaGo比李昌鎬更“石佛”。當年擊敗眾多高手的李昌鎬，就是因為面無表情，對手感覺不到他的任何波動，而被稱為“石佛”。但誰能比電腦更“石佛”呢？它沒有人類棋手般心理的感覺，它就是一個虛無，但它卻完全能把握住對手的性格，這是不對等的。樊麾說：“這個墻的概念是什么呢？就是它不動，你對它施展任何壓力它都會反彈給你，你對它施加的所有力量，你對它所有的辱罵也好，對它所有的微笑也好，最后全反饋到你自己身上，這是我對AlphaGo的感覺。”樊麾認為，很難評論AlphaGo 所下的棋美還是不美，因為它可能開辟出另外一種圍棋的美，是人類想象不到的。

劉慈欣在2011年曾預言，計算機系統(tǒng)正在從透明的、可預測的，慢慢變成一個黑箱狀態(tài)，變得難以預測和控制，也許這就是真正的A.I.（人工智能）即將誕生的征兆，我們正處于一個A.I.種族的史前時代。現(xiàn)在，職業(yè)棋手的感覺正在證實這個神秘莫測的智慧黑箱。

AlphaGo是怎樣運作的呢？它通過模式識別“理解”棋局的進展，再設(shè)計出一種策略并實時調(diào)整。這樣的系統(tǒng)依賴深度學習技術(shù)，運用由人工神經(jīng)元組成的網(wǎng)絡(luò)，分析大量數(shù)據(jù)，尋找模式和“背后含義”。為了教會該系統(tǒng)，開發(fā)者讓兩個圍棋程序彼此對弈，使用一種被稱為“強化學習”的技術(shù)，幫助該技術(shù)反復迭代和演化。在對弈中，兩臺電腦生成了自己從未學過的策略。人工智能專家不確定是否該稱之為新智能的誕生，但暗示這代表著機器學習演化過程中的某種新東西。

與AlphaGo的成就形成對照的，是微軟開發(fā)的人工智能聊天機器人Tay。3月23日，微軟推出的聊天機器人Tay，能在Twitter和其他消息平臺上與用戶互動。Tay能夠模仿人類用戶的評論，生成自己的回答，并根據(jù)整體互動情況去發(fā)言。但Tay上線首日就出現(xiàn)了問題，它不但辱罵Twitter用戶，還發(fā)表了種族歧視和性別歧視言論。開發(fā)者原本希望Tay模仿典型的“千禧年一代”的日常談話。因此，許多用戶都想看看，究竟能教會Tay什么樣的言論。結(jié)果，在不到一天的時間里，網(wǎng)民就發(fā)現(xiàn)，Tay實際上并不清楚自己所說的是什么，因此很容易引誘它發(fā)表不當言論。盡管研究團隊已經(jīng)為針對該系統(tǒng)的多種濫用行為做好準備，但對于這一特定攻擊，還是未能防范。Tay本身也因此被下線。這件事從另一方面說明，有自我學習功能的A.I.是多么難于預測。

人機大戰(zhàn)小史

人機大戰(zhàn)并非是21世紀的產(chǎn)物，早在中世紀，就有發(fā)明家做出各種人形或動物形狀的機械。它們的內(nèi)部構(gòu)造相當精密，在重力、水力、彈簧和控制桿的共同作用下，能做出許多有趣的動作。在達·芬奇的手稿中，人們發(fā)現(xiàn)了大量有關(guān)自動裝置的描述，在他私藏的筆記中，也遍布各種有關(guān)機械裝置的構(gòu)想的涂鴉，比如液壓水表和機械獅子等。

進入機器時代，各種有趣的“機器人”紛紛出現(xiàn)。1770年，奧地利人沃爾夫?qū)ゑT·肯佩倫宣稱建造了一個會自動下棋的木偶，并在維也納向女大公及貴族們展示。下棋木偶當眾表演與人對弈，女大公及貴族均贊嘆不已。隨著鐘表技術(shù)的進步，這類自動人形機器在十八、十九世紀十分風行，電影《雨果》中就出現(xiàn)了這樣一臺能寫信的人偶機器人。

1920年，捷克斯洛伐克作家卡雷爾·恰佩克在科幻小說《羅薩姆的機器人公司》中，根據(jù)Robota（捷克文，原意為“勞役、苦工”）和Robotnik（波蘭文，原意為“工人”），創(chuàng)造出“機器人”這個詞。

1939年，西屋電氣公司在紐約世博會上發(fā)布了世界上最早的家用機器人Elektro。這款機器人由電纜控制，可以行走，會說77個字，甚至可以抽煙，不過離真正干家務活兒還差得遠。但它讓人們對家用機器人的憧憬變得具體起來。

真正能與人對弈的機器直到1952年才誕生：劍橋大學的亞歷山大·道格拉斯為一臺占據(jù)整間屋子的電子計算機設(shè)計了一款井字棋電腦游戲，玩家通過轉(zhuǎn)輪撥號電話輸入落子棋位的編號，隨后電腦行棋，雙方的過招會在屏幕上顯示。1994年，跳棋程序切努克與人類衛(wèi)冕冠軍馬里恩·廷斯利戰(zhàn)成平局。

1996年，IBM公司的國際象棋電腦“深藍”首次挑戰(zhàn)國際象棋世界冠軍卡斯帕羅夫，初出茅廬的“深藍”以2比4落敗。但在第二年的對局中，“深藍”最終獲勝，成為首個在標準比賽時限內(nèi)擊敗國際象棋世界冠軍的電腦系統(tǒng)。“深藍”運算速度為每秒2億步棋，存有70萬份大師對戰(zhàn)的棋局數(shù)據(jù)，強大的計算能力使其能夠依靠窮舉來選擇最佳策略，它可搜尋及估計隨后的12步棋，而一名人類象棋好手大約可估計隨后的10步棋。

2011年，IBM開發(fā)的能使用自然語言回答問題的人工智能程序沃森參加電視智力問答節(jié)目《危險邊緣》，一舉戰(zhàn)勝了兩名人類冠軍。沃森依托的超級計算機體積相當于10臺冰箱，每秒可運算80萬億次，它不但存儲了2億頁的數(shù)據(jù)，還能辨別話語中的隱晦含義、語氣的差別。

人類能保住哪些工作？

2013年，兩位牛津大學的學者發(fā)布了一篇研究報告，預測在未來20年內(nèi)，美國將有約50%的工作崗位因配備人工智能機器人而消失。他們觀察了700種職業(yè)，發(fā)現(xiàn)最易受機器人影響的職業(yè)包括信貸員、前臺接待、律師助理、店員、出租車司機和保安。即便是計算機程序員也沒有幸免。根據(jù)計算，在今后的二十幾年內(nèi)，50%的編程工作也會外包給機器人。

有了AlphaGo這樣可觀的計算能力和學習能力，機器人自然能從事復雜的專業(yè)技術(shù)工作，如判斷醫(yī)學X光片準確率可達98%以上，超過專家水平；其他如行政人員、文書、老師、會計、新聞記者、電話公司職員、麻醉師和外科醫(yī)生、收銀員、市場營銷人員、客服人員、金融分析師等，許多常見工作智能機器人都可勝任。

與人相比，機器人更便宜且具有不消極、不怠工、不抱怨等優(yōu)點，但無論是工業(yè)機器人還是智能機器人，畢竟屬于“物”而不是人，不具備情感、個性、意識、道德等人性，也不具備創(chuàng)新、創(chuàng)意和創(chuàng)造能力，這就決定了這些與人性相關(guān)的領(lǐng)域，機器人難以覬覦。

藝術(shù)設(shè)計類工作，機器人也沒法沾邊。這類工作需要鮮明的個性、獨特的創(chuàng)造性思維，機器人可以做出至善至美的畫面，但無法在其中體現(xiàn)情感、創(chuàng)意、心態(tài)、靈感、道德、意識等個性特征。例如演藝明星，粉絲們既對其出神入化的表演如醉如癡，也對其本人乃至私生活有興趣，換了機器人之后，這種種微妙之處將不復存在。藝術(shù)是人類創(chuàng)造力和想象力的個性化表達，人工智能智商再高，也只能表達共性。

許多人認為，訴諸情感的工作將是人類最后的堡壘。他們覺得，機器人雖然可以護理和照料年老體弱者，但是不能進行感情陪護；機器人即便能夠授課，但不能進行個性化、差異化輔導，更不能替代家長或老師對孩子進行言傳身教。許多服務性工作對語言和文化背景要求很高，有了共同的背景會讓客戶感到親切溫暖安心，這是機器人所不具備的。

然而科學雜志《Nautilus》2013年曾發(fā)表的一篇文章指出，機器人可以通過將情緒轉(zhuǎn)換為數(shù)學模型而擁有喜怒哀樂。因為情緒并不是無法解釋的，情緒不過是人類對于周圍環(huán)境改變的自動反應，這種反應歸根究底是人類為了適應生存而做出的進化。

美國明尼蘇達大學人類學教授哈金斯甚至認為，距離發(fā)明可作生活伴侶的機器人的時代已為期不遠，從現(xiàn)在起10年到20年內(nèi)，可能會研究出原型。他預期這種機器人具有人性，會哭泣、失望，甚至會生氣，遇到好玩兒的事也會大笑，會有憐憫心，會表現(xiàn)出人類常見的浪漫感情。該機器程序中含有多種個性，因此，一個人可從一個機器人身上獲得與許多不同伴侶相處的感受。他說：“可在機器人程序中輸入情感反應，甚至可安裝生育裝置，一位女性機器人在其人造子宮中，殖入人類婦女捐贈的受精卵，即可生育。”這不禁令人想起科幻電影《復制嬌妻》中的場景。

也有人認為，人工智能的發(fā)展會給人類的工作創(chuàng)造更多的可能性。《連線》雜志創(chuàng)始主編、凱文·凱利舉例說明：當年“深藍”戰(zhàn)勝卡斯帕羅夫后，人工智能并沒有削弱國際象棋人類棋手的水平。恰恰相反，在廉價且超級智能的國際象棋軟件的激勵下，下棋的人數(shù)、錦標賽的數(shù)量以及選手的水平都達到了歷史之最。既然人工智能可以幫助人類成為更優(yōu)秀的國際象棋選手，那么合理地推測，它也能幫助我們成為更優(yōu)秀的飛行員、醫(yī)生、法官、教師。在凱文·凱利看來，機器取代人工是必然的，一切只是時間問題。但有些工作確實需要機器來完成，因為它們比人類表現(xiàn)得更好，也更合適，而人類則可以在它們的幫助下，從事更新更有意義的工作。

給A.I.套上枷鎖

一直以來，英國著名物理學家斯蒂芬·霍金對人工智能都持悲觀態(tài)度：“制造能夠思考的機器無疑是對人類自身存在的巨大威脅。當人工智能發(fā)展完全，就將是人類的末日。”被稱為“真實版鋼鐵俠”的科技企業(yè)家埃倫·穆斯克也認為，人工智能的危險性甚至大于核武器。比爾·蓋茨也建議要小心管理數(shù)碼形態(tài)的超級智能。從這個意義上講，真正的人機大戰(zhàn)尚未開始。

“人工智能威脅論”最悲觀的版本，就像《終結(jié)者》或《黑客帝國》等科幻電影所描繪的那樣：人工智能進化到超出人類控制之后，出于某種動機而開始統(tǒng)治人類。但“動機”或許就是難點所在。許多評論者談到AlphaGo時，都提到一個論點：AlphaGo沒有辦法思考意義、產(chǎn)生感情，所以它和現(xiàn)存的各種技術(shù)物一樣，仍然只是一種工具性的存在。

當然，人工智能威脅論本身也很可疑。人工智能研發(fā)人員Yann LeCun這樣解釋人工智能威脅論為何大受歡迎：有些人是因為對人工智能的原理不理解而導致恐懼，有些人是為了個人名望而宣揚人工智能威脅論，有些人則是為了商業(yè)的利益推動人工智能威脅論。但如果能在人工智能變得過分強大之前給它套上枷鎖，以保障人類的安全，豈不未雨綢繆？

有人提出了在全世界范圍內(nèi)管理人工智能的三個辦法：

1.接納預防原則：在安全的空間內(nèi)對人工智能進行測試。政府應鼓勵私營領(lǐng)域的參與者在數(shù)據(jù)和分析資料廣泛共享的條件下開展受控測試。

2.設(shè)計平等性和多樣性：人工智能的前沿被北美、歐洲、日本和中國的男性所控制，這令人很不安。對人工智能的研究也應該公平地反映出女性的愿望，以及不發(fā)達國家的文化和價值觀。

3.幫助失敗者：政府可能要考慮為每個人都賦予一項法定權(quán)利，允許大家擁有一定數(shù)量的機器人。這些政策至少可以創(chuàng)造一定的公平度，因為富人一定會投資裝備一支屬于自己的機器人軍隊。

更有甚者，有人提出可以讓人工智能接受一種宗教形式，通過忠誠的信仰讓其變得對人類友善。阿西莫夫在機器人短篇《空間站》中，就描繪過一個產(chǎn)生了宗教情感/自稱“為主效勞是很光榮的事”的機器人。然而，擁有宗教信仰的超級人工智也可能是最極端的人工智能，要么是最好的那類，要么是最壞的那類。人工智能研究先驅(qū)馬文·明斯克教授認為，如果人工智能機器人真的擁有了靈魂，并被轉(zhuǎn)化為宗教思想，那么它們就有可能介入到世界的各種沖突中去。有一種可能性就是，它們會尋求在所有生活細節(jié)方面強制施行宗教經(jīng)書上的戒律，這種對人類自由的剝奪才是真正讓人擔憂的。

當然，人工智能如果發(fā)展到具備了主觀意識的地步，那么它們也可能根本不會在意人類的生活，它們可能會把目光投向太空。對人工智能來說，其他行星和地球應該沒有本質(zhì)區(qū)別，宇宙那么大，又沒人類干擾，它們一定想去看看。

【責任編輯：楊楓】