人工智能，帶來的是美好還是危機？

蘆偉

事實上，自從人工智能誕生以來，關于這方面的討論就沒有停止過。近年來，隨著人工智能獲得突破性發展和應用，在世界象棋冠軍、圍棋冠軍均被人工智能碾壓式打敗后，討論更盛。一些人認為，人工智能正變得比人更聰明，它們能夠從人的大腦和身體中獲得非常完整的數據流，在未來的生活中，人工智能能讓人類效率更高、生活更美好，幫助人類作出決策。另外一些人相信，像人類這樣的生物僅僅是算法的產物，該算法嵌入DNA和神經網絡邏輯之中，人工智能不斷通過模仿和學習，有可能超越和控制人類。

生命3.0

《生命3.0》是一本近來很火的暢想人工智能未來的書。該書作者邁克斯·泰格馬克是麻省理工大學物理系終身教授，也是未來生命研究所創始人。該組織匯集了包括史蒂芬·霍金、埃隆·馬斯克、比爾·蓋茨在內的8，000多名全球頂尖人工智能專家，致力于規避高級人工智能帶來的人類生存風險。

此書中，泰格馬克對于生命與人工智能的關系進行以下解讀。他認為，生命就是一個會不斷復制自我的系統，有硬件也有軟件，可以劃分為生命1.0、生命2.0和生命3.0三個階段：

生命1.0：系統不能重新設計自己的軟件和硬件，兩者都是由DNA決定的。這個地球上現存的絕大多數動植物，都處在生命1.0的階段。

生命2.0：系統還是不能重新設計自己的硬件，但是，它能夠重新設計自己的軟件，可以通過學習獲得很多復雜的新技能。人類就是生命2.0的代表。我們的身體通過基因來決定，而個人的認知水平，則是通過后天來學習和塑造。

生命3.0：系統能自己設計軟件和硬件，生命不再依賴血肉之軀的進化，硅基等硬件也可以成為生命的載體。美劇《西部世界》第二季當中，覺醒了的機器人接待員就是生命3.0的代表，他們不僅能在智能上快速迭代，在身體上也能隨時重新設計更換。生命3.0也被稱為超級人工智能階段。從這個角度來看，超級人工智能誕生于人類之手，是比人類更高級的生命體。他們不僅比我們擁有更高級的智慧，而且能擺脫軀體的桎梏，獲得永生。

如此而言，生命3.0簡直太可怕了。首先，所謂生命3.0這個物體是定義為人還是機器？其次，如果定義為機器，那么一旦超級智能出現，它不僅會替代人類做很多工作，讓很多人失業，成為無用之人，更可怕的是人類有可能會被它們所統治。

人工智能比核武器更危險

艾倫·圖靈被稱為人工智能之父，他創造了著名的圖靈實驗，來測試機器是否具有智能。英國數學家約翰·古德曾和艾倫·圖靈一起共同研究課題。關于超級人工智能，約翰·古早在1965年就曾發出過警告。他宣稱：機器人或將是人類的最后一個發明，其未來發展可超越人類自身，隨著智能爆炸的出現，超級機器人將遠超人類智慧。除非能夠保證它絕對服從和受控，否則第一臺超級智能機器絕對是人類最不應該擁有的發明。著名物理學家斯蒂芬·霍金也曾宣稱：“人工智能的全面發展可能預示著人類的終結。特斯拉老板埃隆·馬斯克認為，人工智能可能比核武器更危險?！?/p>

我們目前人工智能所取得進展和成功，如自動駕駛、下棋、機器視覺、專家系統等，在科學家的眼睛里都還屬于“弱人工智能”，距離超級智能還有相當距離。但人類在好奇、欲望與資本、商業的裹挾下，必定會朝著超級人工智能越走越近。

那么超級智能，也就是生命3.0什么時候會實現呢？泰格馬克表示還不確定，可能是幾十年、幾百年，也可能因為某些人為的因素導致它永遠都不出現。但人工智能在乘數效應的推動下會變得越來越強大，到了那時，留給人類試錯的空間將越來越小。當人類研發出核武器之后，必須就限制核武器達成公約，因為核戰爭一旦打響，人類的家園地球就可能面臨毀滅。核戰爭不會給人類第二次機會，人工智能也是如此，當它變得更為強大之后，將不得不考量它是否會給人類帶來傷害，因而必須達成一定的操作規則來確保其目標與人類一致。

為了防止人工智能被濫用，泰格馬克與未來生命研究所的8，000名科學家共同發布了《阿斯洛馬人工智能原則聲明》，表明 “超級人工智能只能在廣泛共享的倫理理想下發展其服務，而且其發展應該是為了增加全人類的福祉而不是為了某個國家或組織的利益……應該避免致命性自主武器領域的軍備競賽?！?/p>

沒有意識的人工智能

對于未來超級人工智能的威脅也有人不以為然。美國著名經濟學家、未來學家、喬治·吉爾德認為，人工智能無法與人類智能競爭，因為人工智能離不開為其提供符號系統和語言的人類思維，是人類規劃了這一切。無論人工智能在訓練中所吸收的信息是文字還是像素，這一切都是人為組織的結果。人為人工智能提供并制定了大數據，并在其中找到數值相關性。是人建立了目標、獎勵方案和目標序列，使人工智能能夠迭代、優化并最后總結出一個解決方案。人工智能由輸入組成，通過復雜的算法集進行輸出，它根本無法思考。

而且人的思維是有意識的、主動的、有想象力、有創造力的，但人工智能本身缺乏意識，它是決定論順序的組成部分，缺乏喜出望外或使人驚訝的能力。一臺以千兆赫的速度運行的計算機，即便是在玩國際象棋或圍棋這樣的決定論游戲時，也只不過是一臺機器而已。人工智能是計算機算法的輸出，這些算法由精心安排的電子元素組成。這些元素通過布爾邏輯方案、樹形結構和“神經網絡”獲得各自的含義。

真如喬治·吉爾德所言，人類的意識是獨特的嗎？如果意識是人類才有的主觀體驗，那么，人工智能就不具備。但也有研究表明，人造意識是有可能產生的。如果是這樣，人類確實應該謹慎對待人工智能的發展。

微軟亞洲研究院第四任院長洪小文也一直在研究專注人工智能的發展。他表示，人工智能發展到現在已經可以做很多事情，但要達到人的智慧還有很長的路要走，目前都以邏輯測試為主，強調理性，固然這符合人類對智慧的定義，但人類還有非常豐富的情感、情緒、同理心等等。也正因為這樣，讓人工智能可以繼續作為一門非常值得研究的學問。

至于人工智能會不會讓機器取代人類甚至奪取世界，洪小文表示，要相信人類的智慧，人工智能與移動技術、互聯網技術、PC技術并無本質不同，都是一種技術。人類研發技術和機器都是為人類服務的。人是世界上最聰明的生物，人的智慧一定會把人工智能用在正途，做可以對人類產生最大益處的事。有人可能會把這些東西拿去做壞事，但那是壞人，我們有法律，我們有智慧可以界定和應對。

長大之后取代了你

對于越發強大的人工智能，人們既興奮、又恐懼。興奮的是它確實給我們帶來了很多的便利、快捷、享受和美好體驗；同時又恐懼，怕不能很好的駕馭它，給人類帶來麻煩，長大之后可能就會取代了你。無論怎樣，人工智能時代已經降臨，我們有幸成為了這個時代的見證者，未來到底會變成什么樣，誰也無法確定。