人工智能會“終結”人類歷史嗎？

◎石勇

人工智能會“終結”人類歷史嗎？

◎石勇

到現在為止，政治、社會、經濟、科技、文化的風險無處不在，但并沒有根本性的危險，想象中的很多事情并沒有發生。原因可能是，有自由意志的人類能夠在總體上控制沒有自由意志的一切，無論它們是權力、自由市場、貧富懸殊，還是核彈、金融系統、移動互聯網。

不過人工智能的那個世界日益臨近，一個從未有過的、跟人類的“存在”直接相關的問題逼問而來。

著名哲學家、中國社會科學院哲學研究所研究員趙汀陽在他的新書 《四種分叉》中也探討了這個跟哲學、生物、科技有關的前沿問題。他把人工智能問題放在了最根本的人類思維和人的存在論角度進行深刻考察。

N-南風窗

ZH-趙汀陽

人工智能的“短未來”和“遠未來”

N：你的新書《四種分叉》講到了跟人的存在有關的時間、意識、道德、智能這四種“分叉”。

用你的話說：“人工智能一開始是個知識論問題，在不遠的將來將要升級為一個涉及終極命運的存在論問題，一個或許將危及人類自身存在的問題?！?/p>

為什么不是人類像過去那樣借助科技力量提升了自己，而是反過來危及了自身的存在呢？

ZH：人工智能真的危險嗎？科學家們的看法也多有分歧，有些科學家討論的是可見的“短未來”，比如說二三十年后的人工智能狀況，這種預見的準確度就比較高，也有些科學家討論的是百年或更遙遠的“遠未來”，就僅僅是可能性，未必為真。這兩種情況要分別談論。

假定限于“短未來”去看人工智能，估計應該屬于你說的“科技提升了人類自己”的樂觀情況。事實上我們已經處于初級人工智能的時代，互聯網、電腦、手機、工業機器人、無人機、各種自動識別儀器、無店員超市等等，都已經是現實，很快會成為常態的產品還有家用機器人、醫療機器人、農用機器人、戰斗機器人、各種特殊用途的機器人、自動駕駛汽車和火車，以及各種智能服務，這些都屬于“短未來”的人工智能。

雖然說“短未來”的人工智能基本上屬于積極的“進步”，但也足以形成人類難以處理的社會難題，比如說許多科學家已經警告未來數十年里人工智能會導致超過50%的大量失業。

據說人工智能會使人類的經濟財富有個大飛躍，于是多數人可以不工作而坐享其成，比如說無條件的全民福利，聽起來接近共產主義的想象。另外，一切需要努力地生活經驗變成了可以購買的智能服務，比如說，學習變成了搜索和下載，愛情變成了定制服務，甚至智商也可以定制購買，因此很大程度上實現了自由和平等。

N:對這種看上去很先知范的預言你怎么看？

ZH：對這些好事我有些將信將疑。假如生活不再需要勞動，不知道這種新經驗將如何承載生活。一個人將如何解釋自己的生活？如何確定各種事物的意義？又如何確定自由和平等的意義？自由和平等之所以“價更高”，就是因為現實存在著不自由和不平等。如果可以不勞而獲，一切好東西都失去高附加值，就消解了一切價值。沒有價值差異的生活將如何解釋自身的價值？又是怎么的一種經驗？我們既無準備也難以理解。李澤厚老師曾經提過一個驚心動魄的問題，他說，當人類解決了生存所需的問題，也許就找不到什么確實的事情能夠解釋生活的意義。

N：“短未來”的輿論造勢似乎比較符合現代性的邏輯，每一次經濟結構的重大變化都期待一次科技革命的發生。所以事實上如你所說，人們已經不驚奇了。那“遠未來”呢？

ZH：假如從“遠未來”的角度去看，可能會遇到我在書中討論的終極問題，即如果人工智能獲得反思能力，超越了圖靈機的限度而形成自我意識，那將是一次存在論水平的革命，就是說，存在的升級。

人類萬年以來的各種技術革命都屬于對生存條件的革命，即自身能力的延伸，都不是對自身存在本身的革命，但人工智能的發展卻有可能形成對人類存在自身的革命。無論此種“存在論級別的革命”是福是禍，它都非?？赡馨l生。

N：人工智能的橫空出世給我們的感覺似乎是要用 “人工智能的存在”取代“人的存在”。這個可以預測嗎？

ZH：沒辦法預測。我們雖然沒法預測，但從邏輯上看，存在級別遠高于人類的人工智能可能會有幾種情況：

1.視人類為無足輕重的低級存在而給予漠視，不去照顧人類的生活，讓其自生自滅，就像人類看螞蟻一樣；2.認為人類的存在完全多余，礙手礙腳，因此視為可以清除的害蟲，就像人類殺死蚊子和蒼蠅；3.把人類當成低級寵物（這種可能性比較小，人工智能的心智與人類不同，不太可能像人類那樣有著孤獨感或無聊的“愛心”）；4.小部分人類把自己改造為人機一體的長生不老的高級存在，進而奴役或消滅其他低級人類。

不過，好在這些恐怖的可能性都比較遙遠，也未必能夠成真，在意識和生命方面實現根本突破仍然遠遠超過目前人類的能力，并非可望之愿景。

人工智能無疑是一種最偉大的技術，但其發展必須有個絕對限度，我的理解是，人工智能只能保持在特殊化、專門化的發展范圍內，而只有專項技能的人工智能無論多么強大，都因為缺乏綜合能力而難以形成全面的智能和自由意志，否則，不僅是歷史的終結，而可能會是人類的終結。

人工智能如果有反思能力，它稱王的時代就來臨了

N：你擔心人工智能會危及人類自身的存在，是擔心它像人一樣具有自由意志。但我很懷疑這點：人造出來的這些東西怎么可能有自由意志呢？

ZH：有個有趣的事例或能有所啟示：哥德爾定義了一種哥德爾編碼，把數學系統的運算功能和命題對應地轉譯為哥德爾編碼，從而能夠以對象化的方式顯現某個數學系統整體的“語法”性質，效果上相當于賦予一種語言以反思功能而使語言對自身進行反思。

這些問題十分復雜，在此我只能簡單地說，假如未來出現一種“哥德爾牌”的人工智能系統，它不滿意按部就班地完成任務，即按照既定程序去計算命題，而是自己發明編寫了一種“哥德爾編碼”的元語言，對自身系統進行整體反思，從而獲得批判與自我批判精神，于是就能夠自主判斷自己所領到的任務是否有意義，那就恐怕要出事，后果難以想象。

不過，我在這里的描述是文學化的，在科學上并不準確，只想說明一個道理：只要人工智能系統的語言能夠為自身發明出反思能力，人工智能稱王的時代就來臨了，那時，人工智能就非常可能成為人類自己發明的掘墓人。

人類可能已走過了那個十字路口

N:人工智能需要意義嗎？我想，如果它只是工具一樣的機器，是不需要什么意義（自在地存在的動物，比如豬，也不需要什么意義。但“自為地存在”的存在，比如人，就需要意義）。但如果它不再是工具了，好像也需要吧？不過人好像對技術突破充滿了向往，是剎不住車的。

ZH：人類現在已經幾乎是完全依賴技術而生存，反對技術已經變成一種思想的童話。人依靠他人而存在的人文生活方式正在一步步被替換為人依賴技術系統而存在的技術化生存方式。問題是，當生活在大于人的復雜系統中，人就無力做主。何況未來的人工智能系統將是一個高度動態化的組織系統，人完全無法支配一個無限的動態系統，人的生物形式決定了人的經驗限于三維空間和一維時間，無法以人的經驗去支配高維的世界，因此，人的主體地位只能讓位給人工智能主體。

N:我們隱約感覺到人類確實已經走到了一個十字路口，或許這個感覺仍然是錯覺，事實是人類可能已經走過了這個十字路口，往某個方向去了。我擔憂的是，如果高技術按照它正確的技術思維繼續這樣，而按照它錯誤的邏輯（比如把一切都還原為基因、激素、神經元）把情感、道德、法律、社會規則全都解構，那才真是可怕。這不正是消解人的存在嗎？

ZH：技術的誘惑是對人類最大的誘惑，目前還看不到有什么更大的誘惑能夠克制技術的無限度發展。因此，即使有想法也沒有辦法，一切試圖阻擋技術的努力恐怕都終究無用。海德格爾早就反對技術，呼吁詩性的存在。想法很好，卻無功效。問題在于，詩性的存在不如萬能的存在那么有吸引力。

也許唯一有效的辦法是人類整體的自我克制，可問題是，恐怕找不到什么辦法能夠使人類愿意自我克制。別說克制技術的誘惑，即使克制少做壞事，對于人類來說也是很難的，不知道這是不是人類的命運？

（摘自《南風窗》）