智能社會的設想與價值沖突的反思

吳思嫻，夏雪晴，陳雪冬

1 智能社會發展方向

1965 年摩爾定律的提出，就揭示了信息技術進步的速度之快，而計算機的每一次更新換代也推動了智能化的發展[1]。以信息技術為核心的智能技術，在工業、農業、醫療、交通、國防以及航空等各個方面的應用，已經向我們揭示了智能社會未來發展的一些跡象。

通過人工智能的普遍應用，我們正在建設一個高度信息化、智能化的社會——人工智能在社會生產、生活方式的滲透；傳統產業正在迅猛地智能化；發展智能產業為新的經濟增長點等等。智能社會的發展不僅可以有效減少資源的閑置和浪費，還可以提供精準化智能服務。智能社會下，人類的生活會越來越便捷、舒適；社會運行會更加安全、高效；社會治理水平也能在人工智能的幫助下得到提升。

因此，從智能社會發展方向而言，智能時代的到來絕對是人類得到“解放”和全面發展的黃金時代。是以往任何時代都無法比擬的、人類智慧高度體現的時代。

2 智能社會的設想與價值沖突

2.1 人與人工智能（AI）

可以大膽猜測，在技術進步的層面來說，人工智能有一天會向人類靠近甚至超越人類。麥卡洛克和皮茨合著的《神經活動中思想內在性的邏輯演算》（A Logical Calculus of Ideas Immanent in Nervous Activity），為聯結論AI 提供了來源。這種建立在統計分布規律之上的并行分布式非線性系統，包括對大腦神經網絡的模擬，都對研究人工智能具有重要意義[2]。就目前為止，心理學、生物技術在AI 方面的應用，已經揭示出了AI 類人甚至超人的可能。就如何對人類大腦的模擬，無機體向有機體的靠近等等，這些科學上的努力都在預示著未來社會可能出現的方向。人工智能下的智能社會遠遠超過我們的想象，甚至有推翻原有的社會形態的可能。

庫茲韋爾在《靈魂時代的機器：當計算機超過人類智能時》庫茲韋爾談到“Evolution moves towards‘greater complexity，gender elegance，greater knowledge，greater intelligence，greater beauty，greater creativity，and greater levels of subtle attributes such as love.”人工智能可以做得了很多人類做不了的事，甚至還能學會“愛”。庫茲韋爾提出的可能性，從另外一個層面揭示了未來的挑戰之一——未來是一場人與人工智能之間的力量的平衡。

我們可以從很多AI 題材的影視作品中，直觀地感受到很多復雜的問題。例如，2016 年翻拍和2018 年續拍的《西部世界》（源于1973 年一部同名電影）從這幾部作品對比來看，同樣的題材，可是內容和想象根據時代遷移和科技的進步有了質的飛躍。可以想象在不遠的未來，AI 一旦精通了情感和各種學習的能力，包括惡的方面，那么褪去了外表的識別性，人和人工智能將不可能和諧共存，這場較量比我們想象的要“智能”與高級得多。到底是智能社會為人類服務，還是人類社會成為了智能的犧牲品？這些猜想不僅對未來人工智能和智能社會進行了大膽的假設，而且已經向我們展示了潛在的危險。

2.2 智能社會下倫理沖突與思考

庫茲韋爾在《奇點臨近》一書中寫道：“生物智能必將與我們正在創造的非生物智能緊密結合。”[3]這點在康復醫學得到很好的體現，機械或者說智能機械義肢在康復醫學領域的應用和發展，已經表明人體可以和機械體共生，甚至能借助機械義肢來具有人體不具有的優越性能。的確，人體與智能機器日益“共生”或一體化是未來人工智能的發展方向之一，甚至有朝一日，還會有智能改造大腦的出現或者有超越大腦的AI 存在。這些假設都是有可能的。這樣來看，人類之間的差距被人為地、智能地縮小或者擴大，不再有統一公平的衡量標準，復雜的、被改造的“人”會使得以往的社會制度被智能社會的新的社會形態所瓦解，到那時，人類該如何面對人類自己將會是最大的問題。

庫茲韋爾甚至斷言：“未來的機器將會成為人類公民，即使它們不是生物有機體”不得不感嘆，庫茲維爾的假設有多么了不起的預見性——2017 年10 月26 日，沙特阿拉伯授予香港漢森機器人公司生產的機器人索菲亞公民身份。索菲亞作為人類歷史上首個獲得公民身份的AI 機器人，已經向人類證明了庫茨韋爾的“預言”。那么未來的智能社會，人類公民和AI 公民的共存，也只是時間問題。當人工智能擁有公民身份之后，與人類的這樣一種社會互動，無論從社會競爭、婚姻、法律還是倫理道德的角度去思考，都極其復雜和具有風險。例如，職位競爭的不平等怎么解決，人類可以自由的與AI結婚會造成什么樣的后果？等等。這些問題無論從哪個角度思考，倫理和道德上的沖突和就會變得層出不窮。

2.3 “智能鴻溝”的出現

正如上文提到的，AI 和智能社會的發展有著多種多樣的可能性，而這些可能性是建立在智力資產，或者籠統說是一種新的經濟實力之上的。如同“數字鴻溝”一樣，由于生產力和技術發展的不平衡，不同地區、不同人口之間的差異，產生的貧富差距和不平等的現象，進而導致越來越多的新鴻溝產生。不難理解，發展人工智能的成本是十分高昂的，這也意味著即使步入智能社會，那些尖端智能產品的價格也是普通人無法承擔的。到那時起，由科技帶來的“智能鴻溝”會從內向外地使得所謂的智能社會開始分層——擁有智能資產的人，同時也擁有了“智能遺產”，他們將占據金字塔的上層，而那些無法擁有智能資產的人，會因為本身智能的缺乏，而陷入更大的不公平競爭之中去。

從智能社會的發展來看，“智能鴻溝”的出現是必然的。因為人工智能作為一項智力密集型的技術，將會承載社會絕大多數的生產、生活的功能，這意味著社會的結構即將面臨極大的挑戰。站在技術前端的人屬于社會的少數，同時擁有知能和資本的人更是少之又少，而普通百姓甚至可能還未開始“智能啟蒙”，就會因為跟不上智能時代而被時代所拋棄。因此，對人工智能和智能社會帶來的“智能鴻溝”的探討具有現實意義，也有助于推動人工智能和智能社會的發展。

3 反思與對策

人工智能是和智能社會帶來的挑戰和風險是不可準確預估的，這事關人類社會的發展方向，因此，批判性的反思和建設性的意見顯得尤為重要。

基于保護人類的立場，學界提出了各種建議，其中比較經典的是美國科幻作家阿西莫夫在《我，機器人》中提出的機器人三定律：機器人不得傷害人類個體或坐視人類個體受到傷害；在與第一定律不相沖突的情況下，機器人必須服從人類的命令；在不違背第一、第二定律的情況下，機器人有自我保護的義務。后來，阿西莫夫又補充了一條更基本的定律，即機器人必須保護人類的整體利益不受傷害。這些原則的提出，具有很強的人文的、道德倫理的色彩。除了上述研究提出的“人本原則”，筆者還想提出幾點補充：

1）建立篩查機制：分級機制、危險排查等方法可以應用在人工智能研發上，對不同能力的AI進行分級管理、對存在危險和倫理問題的產品進行篩除。有選擇性的發展，可以在生產的源頭上減少危險的可能。

2）維護公平原則：阿西莫夫提出的機器人定律中人本的思考并不夠深刻，忽視了人本身的道德缺陷，其中最突出的就是社會公正問題。未來智能社會應該是國家“基建”的項目之一，國家應該負起組織的責任，使每個人有平等接觸和使用“基礎智能”的權利。

3）完善法律制度和社會教育：智能社會將會帶來新的社會形態，因此，制度要走在技術前面。制定完善的法律法規，規范AI 的社會發展方向，完善國民關于智能的社會教育，形成全民智能的良好社會環境，為即將到來的智能社會做好全面的準備。

最后，筆者想就“奇點臨近”延伸出一些思考：如果有一天人工智能超越人類智能，將身體的“不朽”與最高智慧集于一身，人又有什么資格要求AI服從于弱小的人呢？放在億萬光年里，人類不過是歷史的一粒塵埃。而人工智能的發展，既有可能是燒毀人類的一把火，也有可能是人類塵埃的延續。一切，就交給時間去驗證吧。