人工智能：無限開發與有限理性的倫理博弈

唐代興 王 燦

人工智能發展到今天，幾乎家喻戶曉。人工智能帶來的好處、便利，幾乎人人已初步在日常生活中感受到；人工智能的無限前景及其帶動起來的無限制研發的風險(1)唐代興：《基因工程和人工智能:人類向后人類演進的不可逆風險與危機》，《江海學刊》2020年第3期。也逐漸清晰地呈現。從正反兩個維度觀，人工智能技術并不僅僅是一種技術，它也是一種存在方式、一種社會結構方式和社會分配方式(2)唐代興：《人工智能發展帶動的社會公正危機》，《人文雜志》2020年第8期。，并正在形成一種新的文化形態，并有可能創造出一種新的文明形態。正是在這個意義上，人工智能技術的內在倫理問題才隨其快速發展突顯出來。國際倫理學界將這些日漸突顯出來的倫理問題及其對無限制地研發生成風險的倫理思考均納入“人工智能倫理學”(ethics of Artificial Intelligence)，它被看成一種如同“環境倫理學”那樣的領域性應用倫理學。在此認知框架下，根據研究對象的側重將其類分為“機器倫理學”(machine ethics)和“機器人倫理學”(robot-ethics)，然后予以研究對象和范圍的定位：將機器倫理學劃定為探究人工智能產品的功能釋放如何合倫理，其基本任務是探討制定機器的行為規范和邊界約束；將機器人倫理學劃定為研究人工智能技術研發如何合倫理，其基本任務是探討研發主體的行為規范和邊界約束。對人工智能技術而言，其研發行為如何合倫理和其產品功能釋放如何合倫理這兩個相互關聯的問題之間蘊含一種張力，此即人們對人工智能技術的無限期待與人工智能技術激發人類有限理性節制之間必然形成生物人類可持續的主體化生存的倫理博弈。這一正在聚力形成的倫理博弈表明人工智能倫理并不能被簡單地歸入“領域性應用倫理學”范疇，因為人工智能倫理并不是簡單的技術倫理，它既涉及人類倫理的演變，更涉及當世倫理的重建。所以，在更為宏闊的視域平臺上了解人工智能的根本動機和目標，才可真正認識到人工智能如何在社會倫理的層面敞開其博弈的重心取向。

一、動機和目標：人工智能無限可能性與人的有限理性的博弈格局

始于20世紀50年代的人工智能技術進入21世紀以來，迅速進入全面發展階段，形成全球競爭與社會化運用的發展格局，與此并存的問題也不斷呈現，比如算法黑箱、產品問責、大數據隱私風險、就業替代等，不僅提出了制度、法律等方面的挑戰，更要求倫理學在更高認知水準上整體性回應這諸多根本性的倫理問題，這就涉及客觀存在姿態選擇問題。比如阿西莫夫(Isaac Asimov)最早提出的機器人“不準傷害人” “服從命令” “保護自己”(3)艾薩克·阿西莫夫：《銀河帝國8:我，機器人》，葉李華譯，江蘇鳳凰文藝出版社，2012年，第2頁。這三大道德原則，就表達出一種經過強制性代碼輸入方式以禁止機器人危害人的企圖，具有很強的前預設姿態。耶魯大學機器人專家喬納森·哈特曼(Jonathan Hartman)認為阿西莫夫提出的這三條道德原則恰恰證明了人工智能機器不具有道德主體能力，人工智能體是人工智能科學家采取編程設計置入其中的行為規范(和行為邊界)程序命令，當這種程序命令被取消或被破壞時，人工智能體就處于非服務的自在狀態。這種將人工智能看成不可能成為主體的觀念，仍然是與人工智能這一生物工藝學技術完全不相干的屬于傳統認知模式框架下的純粹的技術物觀念。正是這一純粹的技術物觀念推動世界范圍內的“人工智能倫理學”研究呈現兩種姿態。一是大學學院內部并沒有在整體上形成對人工智能風險及其倫理問題的科學關注。雖然隨著人工智能的發展而引來越來越多的學院研究者們轉向人工智能的倫理問題，卻并不構成人工智能倫理研究的主導性力量，由此形成其研究的實際主導性力量在全球范圍內只是官方與企業達成的市場默契與合作。二是因為這種市場默契與合作通過研究資金投入和市場宣傳導向的雙重方式形成虹吸效應，推動人工智能倫理研究的動機與企圖很自然地夾雜很強的實利訴求和應景取向，往往忽視人工智能自身的性質及展開邏輯，從而造成人工智能倫理研究難以立足學科發展的內部邏輯。政府、企業、軍方等在看待人工智能時有各自的邏輯，為其代言的人工智能倫理研究很自然地形成各自的姿態。比如2016年歐洲議會發布了一份建議性文件，旨在討論將普遍認可的民權準則賦予機器人的問題(2017年沙特阿拉伯授予機器人索菲婭以公民身份，就是在這樣的背景下產生的)，但有軍方背景的研究者卻關心“能夠自動開火的機器人”應當遵循哪些倫理規范的問題。(4)P. Lin, “Robots in War: Issues of Risks and Ethics,” in R. Capurro and M. Nsgenborg ed., Ethics and Robotics，Heidelberg:Akademische Verlages gesellschaft AKA GmdH, 2009, pp.49-67.在諸如此類的姿態選擇中，人工智能自身的倫理問題總是被忽略。在這種語境下，人工智能倫理研究要能“立足于科學發展的內部邏輯”，需要正視“人工智能何以需要倫理”這一前提性問題，但前提是要先理解人工智能產生于一個什么樣的時代，以及它能夠為這個時代解決什么問題。

從技術發展與思想演變史看，技術的誕生總是需要思想的孕育。以此考察人工智能的思想淵源，雖然可追溯到帕斯卡爾和萊布尼茨(5)D. R. Hofstadter, G?del,Escher,Bach:An Eternal Golden Braid, New York,USA:Basic Books,1979.(6)M. Lungarella, F. Iida, J. Bongard and R. Pfeifer, 50 Years of Artificial Intelligence:Essays Dedicated to the 50th Anniversary of Artificial Intelligence, New York, USA:Springer, 2008.那里，但其思想產生的真正土壤是計算機科學的全面發展，其思想的真正形成得益于計算機科學之父圖靈。他在《計算機和智力》(1950)中提出“機器能夠思維”的“圖靈命題”。圖靈命題既對人工智能科學提出很高要求，也設計出人工智能的長遠愿景：希望未來人工智能系統具備人的大腦能力。(7)A. M. Turing, “Computing Machinery and Intelligence,” Mind, Vol.59, No.236, 1950.圖靈命題和愿景激勵約翰·麥卡錫(John McCarthy)于1956年正式提出“人工智能”概念，他給“圖靈愿景”賦予兩個維度的目標，即“機器何以能夠思維”和“機器怎樣高效思維”。前者的目標是賦予機器能夠思維的能力，起步是“模擬、延伸、擴展人類智能”(8)J. McCarthy, M. L. Minsky, N. Rochester and C. E. Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, http：//www-formal.Stanford.edu/jmc/history/darmouth/dartmouth.html.的邏輯思維，實現對人的大腦工作原理及其邏輯思維運行機制的掌握，構建起智能機器的學習能力；后者的目標是賦予機器高效思維的能力，其起步是模擬、延伸、擴展人腦的抽象思維，使其具備自主性的深度學習能力，探求人類的情感原理，破譯人類的心靈機制，使智能機器具備生物人的創造能力。

基于這一雙重目標，人工智能從20世紀50年代中葉起步發展到今天，已形成社會化和全球性競爭。人工智能發展的社會化，是指人工智能技術向全社會鋪開：一方面是智能技術全面市場化，形成人類技術體系全方位更新與替換，主導工業社會的機械技術體系正全面潰退而被以計算機為運演工具、以會聚技術為認知論方法、以大數據和云計算為分析方法的人工智能技術體系所取代；另一方面是智能技術向生活領域、管理領域全面滲透，形成社會管理和大眾生活的人工智能化，比如掃碼管理和攝像頭監控等構成人的日常生活的有機內容。人工智能的全球競爭，一方面指人工智能已不把人的生物腦作為單純的科學研究對象，而是作為生存發展的資源對象予以全方位開發；另一方面指將人的生物腦作為資源來開發，由相對單純的企業行為迅速演繹成為國際化的和世界性的政治—經濟行為，各國政府的競爭成為將人的生物腦作為資源來開發的主導性力量。

圖靈關于人工智能系統可以具備“人的大腦能力”的愿景變成人工智能技術的目標，即使機器從“能夠思維”向“高效思維”發展。人工智能技術從如何使機器“能夠思維”向怎樣使機器“高效思維”方向發展，之所以很快演繹成社會化和全球性競爭，是因為迅速發展的人工智能技術自我賦形了新目標，即要在使機器“能夠思維”和“高效思維”的努力中把人的生物腦作為最大的資源來開發。人工智能技術開發的目標從使機器“能夠思維”到“高效思維”再到將人腦變成新資源來開發，一方面展現了人工智能技術動機和目標的無限可能性，另一方面體現了人類理性認知的有限性。這種有限性從根本上表現為人類對技術的依賴性和盲目性擴張。人類對技術的依賴性擴張，體現在只看到技術對改變生存帶來的好處和便利而絕對地依賴技術，這種絕對依賴推動人們主動追求技術化存在。人類對技術的盲目性擴張，體現在人類在技術帶來的好處和便利面前無限制地自我膨脹實利主義思維，以致逐步喪失有限的理性判斷力，對“技術化存在”從根本上造成技術對人的奴役并推動人淪為技術的工具熟視無睹。

從人類存在和技術發展的歷史來看，技術既是人類克服存在危機、解決生存困境的有利工具，也成為制造新的存在危機和生存困境的深度方式。劉易斯·芒福德通過梳理人類現代技術演變發展的歷程揭示了技術如何異化人的不可逆方向，指出現代技術發展的歷程是“使人的勞動機械化的過程，也就是邁向使機器人性化的第一步，這種過程直接導致了貶低人格的后果”(9)劉易斯·芒福德：《技術與文明》，陳允明等譯，中國建筑工業出版社，2009年，第136頁。。為何會如此呢？鮑德里亞指出，技術不僅開辟了人類社會的資本主義，而且還創造了物質主義。(10)參見張一兵：《反鮑德里亞：一個后現代學術神話的祛序》，商務印書館，2009年，第9頁。正是基于這一基本認識，尼爾·波斯曼認為以人工智能為導向的技術化存在的時代本質上是技術壟斷的時代，“技術壟斷并不使其他選擇不合法，也不使它們不道德，亦不使之不受歡迎，而是使之無影無形，并因此而失去意義。為此目的，技術壟斷重新界定宗教、藝術、家庭、政治、歷史、真理、隱私、智能的意義，使這些定義符合它的新的要求”，從而推動“文化向技術投降”(11)尼爾·波斯曼：《技術壟斷：文化向技術投降》，何道寬譯，北京大學出版社，2007年，第28頁。。“文化向技術投降”的實質是人的有限理性能力向無限可能的技術的投降，是“技術發展創造了巨大的物質力量和社會力量，但是人類不僅沒有支配這些力量，卻相反地受這些力量所支配”(12)H. 馬爾庫塞等：《工業社會和新左派》，任立編譯，商務印書館，1982年，第66頁。。由于天賦人的有限理性能力無法最終駕馭不斷開發的無限可能的技術，導致不斷開發的技術在為解決人類存在安全和生活保障而努力的進程中，既成為任何時代社會制造其根本存在危機和生存困境的幫兇，也是貶抑人的人格、制造人的工具生存的真正元兇。因為“統治不僅通過技術而且作為技術而使自身永久化不斷擴大，技術為不斷擴大的同化所有文化領域的政治權力提供了很大的合法性”，所以“技術的解放力量——物的工具化——變成自由的枷鎖：人的工具化”。(13)赫伯特·馬爾庫塞：《單向度的人》，張峰、呂世平譯，重慶出版社，1993年，第135頁。人的工具化，就是人的異化，人被技術異化，才是造成人的其他方面異化的根源。

從人類技術史看，在技術工具化和異化人的歷史進程中，人工智能技術是最全面最徹底地工具化和異化人的技術體系，也是從根本上展現人的絕對有限理性能力博弈無限可能的技術的力不從心，這種力不從心恰好體現人向自我終結方向降落的不可逆性。克勞斯·施瓦布在《第四次工業革命》中指出，人類第一次工業革命以發明和運用蒸汽機為標志，它把人類帶進機器生產的時代，人的身體力量卻逐漸被機械力量取代；第二次工業革命以發明和運用電力和內燃機為標志，人類在享受電氣化生存方式的同時，其身體力量更加弱化；第三次工業革命人類通過計算機進入了互聯網時代，獲得柔性技術生存方式，不僅身體能力更加羸弱，而且思維、認知、思想能力也在迅速弱化；其后，以對數字技術的會聚開發為根本認知方式的新技術革命，將人類推入生物工藝學時代(14)唐代興：《基因工程和人工智能：人類向后人類演進的不可逆風險與危機》，《江海學刊》2020年第3期。。生物工藝學是指探討正在形成的新技術體系的科學。這一正在形成的新技術相對機械技術而言，體現出四個方面的特征。第一，它“主張一個人應僅僅按照他自己所希望的那樣去構造一個新的自我,從他過去的經歷和遺傳密碼的束縛中解放出來”(15)劉易斯·芒福德：《技術與文明》，陳允明等譯，中國建筑工業出版社，2009年，第12頁，第12頁，第13頁。。第二，它推動“人類正進化到達爾文未曾預想到的新階段。遺傳重組的潛勢或許正在迅速推進我們超越達爾文的自然進化說而進入人工進化的大膽的領域”(16)劉易斯·芒福德：《技術與文明》，陳允明等譯，中國建筑工業出版社，2009年，第12頁，第12頁，第13頁。。這就是“人有權利決定重新構造自己的肉體的這一新觀念已經很快得到了普遍的認可”(17)劉易斯·芒福德：《技術與文明》，陳允明等譯，中國建筑工業出版社，2009年，第12頁，第12頁，第13頁。。第三，為了解決身體對人的自我解放的嚴重阻礙，人類必須重建“更深層的優生學，我們的下一代將真正成為‘純’人類的最后一代”(18)杰弗里·戴奇：《后人類》，許明清譯，《美術世界》1994年第3期。。由此形成第四，生物工藝學技術的研發對象是人的生物身體，它的基本形式是基因工程和人工智能。前者是以人體生物細胞和人體生物基因為研發對象來建構深層的優生學。所謂“深層的優生學”，就是可按照工業生產的方式來制造人的生物學技術體系和方法體系。后者以人的生物腦為研究對象，借助計算機基本理論、以計算機為運算工具、以會聚技術為認識方法、以大數據和云計算為分析方法，來模擬、延伸、擴展人腦工作原理及運行機制的技術方式和方法系統。當這種性質和方法的人工智能技術由科學界倡議、政府資助、企業和大學合作形成全球競爭市場開發機制時，人工智能的無限可能性得到前所未有的擴張，與此同時，人原本就絕對有限的理性能力變得更為脆弱。

二、壓力與困境：人工智能無限可能性與人的有限理性的博弈傾斜

從根本上講，科學源自對存在世界的驚詫與好奇，科學進步的動力既是對人類好奇心的滿足(19)喬治·薩頓：《科學史和新人文主義》，陳恒六等譯，華夏出版社，1989年，第35頁。，也是以認知拓展、思維開闊、思想提升和方法更新等方式不斷地實現人本自由，即在浩瀚神奇的存在世界里“為自己的生存而生存”的自由(20)亞里士多德：《形而上學》，吳壽彭譯，商務印書館，1959年，第5頁。構成科學發展的原動力。與此不同，“技術在內在意義上是實用主義的”(21)蘭登·溫納：《自主性技術：作為政治思想主題的失控技術》，楊海燕譯，北京大學出版社，2014年，第5頁。，它始終表征為人類為謀生而努力：技術既是人類在荒原般的存在世界里謀求解決存在安全和生活保障的社會方式，更是人類謀求解決存在安全危機和生活保障困境的持續努力方式，因為不同的人類時代有不同的存在困境和生存危機，自然生發出不同層次、不同內容、不同訴求的存在安全和生活保障問題，技術也因應對其時代性存在困境和生存危機所呈現出來的根本問題而發展自己，形成技術的人類化、時代性和境遇化。這是我們從存在和生存兩個維度客觀理解人工智能技術無限可能與人的理性能力絕對有限之間形成博弈的必然傾斜的認知出發點。以此來審視模擬、延伸、擴展人腦工作原理和運行機制的人工智能技術，其從思想孕育、技術誕生到全面研發，都是人類化解當代存在危機和生存困境的努力方式。所以，“為了理解技術在現代文明中所起的決定性作用，我們必須詳細考察其在意識形態和社會各方面做的準備的階段，我們不僅要對新的機械和工具的出現作出解釋，我們還必須了解其背景”(22)A. M. Barrett, S. D. Baum, “A Model of Pathways to Artificial Super Intelligence Catastrophe for Risk and Decision Analysis, ” Journal of Experimental &Theoretical Artificial Intelligence, Vol.29, No.2, 2016.。

第一，為解決人口壓力而開發人工智能技術的非理性剛性沖動，削弱了人的有限理性能力。

人口壓力是指人口生產的過度。客觀地講，人口生產應該與其存在環境之間保持動態平衡，這種動態平衡表現為人口在三個方面與社會形成正相關的共生取向：一是人口數量沒有突破地球生態容量極限，沒有打破地球生物系統中物種間的共生平衡；二是人口結構處于充滿(財富和人口)生產的活力狀態，即人口結構年輕化；三是人口貧富差距沒有突破基尼系數0.3～0.4的合理空間，理論上沒有人處于饑餓狀態。反之，人口壓力指其當世人口在如上三個方面與社會形成負相關的異化取向：一是人類進入“后人口轉變時代”(23)李建民：《后人口轉變論》，《人口研究》2000年第4期。，截至2020年底，世界人口達到77.6億。這表明世界人口數量將突破地球生態容量極限，越來越多的地區和國家或局部或整體地打破了地球生物系統中物種間的共生平衡。二是人口老齡化國家越來越多，適育人口的生育愿望和生育意識越來越淡漠，不生孩子已聚成一種社會性潮流。三是全球財富集中在少數人手中，不少地區和國家人口貧富差距突破基尼系數警戒線，相當數量的人口處于饑餓或半饑餓狀態。聯合國發布的《2021年可持續發展目標報告》中指出，2020年在全球范圍內陷入貧困狀況的人口數量增加了1.2億左右。該報告還指出，2020年全球范圍減少全職工作崗位約2.55億個，導致極端貧困率從2019年的8.4%升到9.5%，饑餓人口總數將達到8億人。要解決由如上三方面聚合形成的全球性人口壓力，需要尋求一種釋放或緩解的方式，而技術進步始終具有緩解人口壓力的社會功能，因為技術進步作為解決存在安全和生活保障的根本社會方式，總是不斷地開辟新的資源渠道、創造新的財富來源，并且成為不斷激活市場和不斷更新社會分配格局的新動力。

以此來看正進入全面開發狀態的人工智能技術，它同樣構成解決如上人口壓力的社會方式。因為，為解決人口壓力，必須進一步發展經濟；為進一步發展經濟，必須開發新的資源市場，重構全球范圍內新的經濟增長點。人工智能這種使機器“能夠思維”和“高效思維”的技術方式，意外地打開了一個全新的資源市場，這就是以人的生物腦為資源對象的市場，這個新的資源市場可以使低迷的世界經濟重建起新的經濟增長點，為解決世界人口壓力提供可能性。正是在這個意義上，無限度地開發人工智能技術構成新一輪全球競爭的剛性沖動，這一剛性沖動的競爭性展開必然以進一步削弱和降低人類有限理性能力為代價，而賦予人工智能技術開發以無限可能性。由此不難發現，人工智能技術的無限可能性與人的理性能力的絕對有限性相博弈所形成的傾斜，不僅緣于人工智能技術本身的無限潛力，更源于人類的非理性沖動對它的強力推動。

第二，為解決環境死境化這一世界性難題而開發人工智能技術，進一步強化了人類的非理性剛性沖動，人的有限理性能力更加脆弱。

從存在論和發生學兩個方面看，人類是自然的產物，在本原意義上，人類及其組成的社會嵌含在自然之中，與自然構成原發性的共生關系。人類在其存在敞開的歷史進程中要保持這一原發性的共生關系，必須具備兩個前提：一是拜自然為師、向自然學習；二是自然以極強的自生境方式為人類提供存在安全和豐裕的生存資源。當人類從向自然學習轉向改造自然、征服環境、掠奪性開發地球資源的反自然道路，并在這條道路上突破地球生態容量極限時，自然世界被迫滑向逆生態狀況。20世紀后半葉以來，全球性氣候失律，地球生境破碎整體性擴散，霧霾氣候，世界范圍內資源枯竭，以及由此導致的第二次更大規模的殖民運動、海洋爭霸、太空開發等，從不同方面顯示自然環境不支撐人類存在發展，人類被迫以修復和治理環境的方式向環境支付無限度開發和掠奪造成的成本債務。并且，修復和治理環境——比如恢復氣候、治理霧霾、解決地球生境整體性破碎等——卻成為必須解決的剛性問題和世界性難題。當今人類既要解決這一世界性難題，又要持續地發展經濟，其最好的應對方式就是開發新技術。比如，1998年，第13屆歐洲人工智能會議(European Conference on Artificial Intelligence)達成一項共識，即認為環境動態變化的復雜性和系統性導致對環境問題影響因素分析的重重困難，人工智能技術可為環境問題研究提供有效工具。(24)U. Cortés, M. Sànchez-Marrè, I. R-Roda, et al., “Binding Environmental Sciences and Artificial Intelligence on ECAI’98,” Ai Communications, Vol.12, 1999.其后，研發人工智能治理環境的應用技術逐漸從如下三個方面展開。首先，人工智能技術能全面提升環境監測與預警能力。比如，人工智能技術推動神經網絡技術的開發和在環境監測以及環境信息感知方面的運用，建立大氣質量評價預警系統，展開大氣質量評價和預報，增強非線性處理能力和容噪能力；(25)宋暉等:《基于人工神經網絡的大氣質量智能評價預警系統的設計與應用》,《現代計算機(專業版)》2011年第8期。將人工智能技術運用于各種環境決策場景，為不同的復雜的環境場域提供更為客觀的環境治理決策方案；(26)Roberto Paggio, Genadi Agre, Christo Dichev, et al., “A Cost-effective Programmable Environment for Developing Environmental Decision Support Systems,” Environmental Modelling& Software, Vol.5, 1999.建立起以大數據為分析方法的可持續發展智能決策系統(B-IDSS)(27)Zhou Hong, Christopher Noble and Christopher J. Cotter, “A Big Data Based Intelligent Decision Support System for Sustainable Regional Development,” 2015 IEEE International Conference on Smart City/SocialCom/Sustaincom, 2016.，在現有設施條件的基礎上提升抗災防災能力；(28)Pouran Behnia and Andree Blais-Stevens, “Landslide Susceptibility Modelling Using the Quantitative Random Forest Method Along the Northern Portion of the Yukon Alaska Highway Corridor,Canada,” Natural Hazards, Vol.90, 2017.運用人工智能來分析和預測人工智能技術發展將帶動社會變革(29)席艷玲、張新宇:《新技術變革驅動環境治理能力提升路徑研究》,《現代管理科學》2018年第12期。、政治風險、輿論風險及其倫理問題等。(30)薛瀾、張慧勇:《第四次工業革命對環境治理體系建設的影響與挑戰》,《中國人口·資源與環境》2017年第9期。其次，運用人工智能技術來增強環境治理的能力(31)薛瀾、張慧勇:《第四次工業革命對環境治理體系建設的影響與挑戰》,《中國人口·資源與環境》2017年第9期。，包括增強環境信息的獲取能力、拓展環境治理的時空維度、優化環境治理的決策機制以及為環境精細化管理創造條件，提升環境理念的傳播效率。(32)張文博、周馮琦：《人工智能背景下的環境治理變革及應對策略分析》，《社會科學》2019 年第 7 期。最后，人工智能將人的生物腦作為資源來開發，在很大程度上轉換了資源開發的主陣地，即由地下資源、地面資源轉向大腦資源以及通過大腦資源的開發而擴展為向深海和太空索取資源，從而緩解了地球不堪重負的生態狀況，有利于促進地球環境的治理和生境恢復。

人工智能技術開發，既能為人類開辟新的資源市場，為拯救低迷的人類經濟提供新的經濟增長點，又能為全面治理環境、恢復自然的生境功能提供無限可能的操作工具和方法，這極大地強化了人類人定勝天的盲目自信，提升了創造更加美好生活的樂觀雄心。這種寄希望于人工智能技術的盲目自信和樂觀雄心，實際上是人類自我強化了技術化存在的非理性剛性沖動，這種非理性的剛性沖動更進一步強化了人工智能技術開發在深度和廣度兩個方面工具化人、異化人的無限可能性，同時在深度和廣度兩個方面促使人類的有限理性能力更加脆弱。

第三，社會對人工智能技術的無限期待，打開了人工智能技術開發的無限空間，同時也越發壓縮了人類的有限理性能力，并不斷地削弱人類理性抵御技術奴役的各種可能性。

客觀地看，在當代人類進程中，“無限度的擴張”和“有組織的不負責”(33)烏爾里希·貝克：《世界風險社會》，吳英姿、孫淑敏譯，南京大學出版社，2004年，第191頁。成為最強勁的社會動力，推動人工智能技術全面開發以重塑人類自身。具體地講，人工智能是針對人腦的缺陷和運用人腦的局限來立體地開發人腦，實現人的力量增強，以從根本上解決如下困境和問題。

首先，人工智能技術將人腦作為最大資源庫來開發，希望從根本上解決資源匱乏問題，以滿足經濟可持續發展需要，更為全球經濟迅速復蘇提供新的資源增長點和經濟增長點。從目前各國由政府主導規劃和投入研發人工智能技術所形成的巨大市場效應和經濟增長效應看，人工智能確有可能擔當起解決全球資源匱乏并重振困境重重的經濟的重任。

其次，近代以來從古典工業社會向現代工業社會方向展開，再到后工業社會，其發展所承受的巨大代價是環境遭受全面破壞，全球氣候變化和地球生境整體性破碎這一雙重環境死境化危機逼迫人類必須治理和修復環境，但卻不堪重負。以人腦為資源開發對象的人工智能技術，卻為解決各種環境問題和環境危機提供了可能性，因為人腦既是無污染的自然，也是既不損害環境又可無限度開發的資源。所以，人工智能技術開發生物人腦，既是最好的資源開發方式，也成為促進環境修復的最好方式。

再次，開發自然界物質資源來發展經濟，必須要承納巨大的環境成本、資源成本、人體健康成本(比如霧霾氣候)和復雜的社會管理成本，人工智能卻有可能成為最經濟的生產方式，因為它可以最大限度地減少如上四種生產成本。

最后，從人類發展史看，技術越向前開發，經濟就越發展；人的期待越豐富、欲望越無限，管理就越復雜。要解決日趨復雜的社會管理所面臨的最大問題，是如何對龐大的人口活動——包括生產活動、消費活動和生活運動——予以有序安排。人工智能可為對復雜的世界人口運動和國家人口運動進行更高水平的有序管理提供最優化的方式和方案。

社會對人工智能技術的如上期待和人工智能技術開發滿足如上期待之間，客觀地存在一個“度”的問題，即只有當社會對人工智能技術的期待有限度時，人工智能技術開發才有限度。但由于人的理性能力是絕對有限的，加之有限的理性能力往往容易被實利主義所腐蝕，所以，社會對人工智能技術的期待更多地強化其非理性的剛性沖動，由此導致人工智能技術開發呈無限可能性取向。社會期待的剛性沖動與人工智能技術開發的無限可能性之間的矛盾，必然引發諸多難以解決的倫理困境，成為人工智能技術開發的無限可能性與人類理性能力的絕對有限性相博弈的感性呈現。

三、人性與機性：人工智能技術無限可能性與人的有限理性博弈的倫理實質

人工智能要從理論和實踐兩個方面為解決資源、環境、經濟、管理等諸方面問題探索道路，必然遭遇人的人性主義存在的根本倫理困境。這一倫理困境將人類到底是“人性”地存在還是“機性”地生存的問題突顯了出來。

第一，人工智能技術的反自然傾向帶出了人如何回歸自然人性地存在的倫理問題。

首先，人是自然的生物體，人工智能將人腦作為資源庫予以升級開發，并沒有擺脫工業社會的地球資源無限論這種反自然理念，因為人工智能技術開發人的生物腦，同樣持大腦資源無限觀念。這種觀念呈現出來的反自然傾向，就是無止境無限度地開發人的生物腦，其最終結局可能是生物人的消亡。詹姆斯·巴拉特(J.Barrat)認為，我們生產出來的人工智能“機器并不憎恨我們，但隨著它們獲得宇宙間最不可預測、我們自己都無法達到的高級力量，它們會做出意想不到的行為，而且這些行為很可能無法與我們的生存兼容”(34)詹姆斯·巴拉特:《我們最后的發明:人工智能與人類時代的終結》,閭佳譯,電子工業出版社，2016年，第XII頁。。尼克·波斯特洛姆(Nick Bostrom)指出，人工智能技術的發展可能使人類遭遇其“整體存在性風險”，因為在這種無節制的開發進程中，“如果有一天我們發明了超越人類大腦一般智能的機器大腦,那么這種超級智能將會非常強大。并且，正如現在大猩猩的命運更多地取決于人類而不是它們自身一樣,人類的命運將取決于超級智能機器”(35)尼克·波斯特洛姆:《超級智能：路線圖、危險性與應對策略》,張體偉、張玉青譯,中信出版社，2015年，第XXV頁。。按照今天全球競相開發人工智能爆發出來的狂熱速度及其呈現的態勢來看，“在未來30年間，我們將用技術手段來創造超人的智慧。不久后，人類的時代將結束”(36)馬丁·福特：《機器人時代：技術、工作與經濟的未來》，王吉美、牛筱萌譯，中信出版集團，2015年，第259-260頁。，人的倫理也隨之終結。

其次，人作為自然之子“直接地是自然存在物，人作為自然存在物，而且作為有生命的自然存在物，一方面具有自然力、生命力，是能動的自然存在物，這些力量作為天賦和才能、作為欲望存在于人身上；另一方面，人作為自然的、肉體的、感性的、對象性的存在物，和動植物一樣，是受動的、受制約的和受限制的存在物”(37)《馬克思恩格斯全集》第42卷，人民出版社，1979年，第167頁，第127頁。。馬克思揭示了人的本性和自存在方式源于自然，更因為血脈承傳，有神性的想望和充滿生命激情的天賦想象力。當人工智能開發機器去占領人的生活領域，最后將人引向反生物人的道路，淪為喪失生物機能的技術人，即淪為技術物。

從根本上講，人是生物的，人的生物機能的本質是人性，人性的生命內潛形態是心靈，心靈的本質內容是生物主義的自由意志、靈魂和生命激情。(38)唐代興：《生境倫理的心理學原理》，上海三聯書店，2013年，第34-88頁。人性的生命外顯形態是共情理解，是愛，是慈善與悲憫。與此相反，技術物是物質的，技術物的物質機能的本質是機性，機性化的技術物可能是有生命存在，但卻沒有心靈，只有程序編碼與指令服從，即便可能被賦予情感或愛(比如性愛機器人)，也是無個性且缺乏心靈滋養的。人若淪為喪失人性的技術物，只成為機性的存在者時，即使倫理存在，也既喪失倫理存在的自然基礎，更可能喪失倫理本身的根本功能。

最后，人性存在的社會，是人性滋養人的社會。人性滋養和人性地存在，成為人類社會的應然取向，它表征為人道、平等、自由和普遍公正的訴求，這種訴求要求人人通過勞動、付出、創造而獲得存在資源和生存保障，過一種有德的生活，來縮小各種先天或后天形成的等級、差距、智愚、貧富等，這就是馬克思所講的“全部人的活動迄今都是勞動”(39)《馬克思恩格斯全集》第42卷，人民出版社，1979年，第167頁，第127頁。，因為勞動才推動人的發展。如果喪失勞動，人將可能重新回到動物般的狀況中去。(40)《馬克思恩格斯全集》第1卷，人民出版社，1995年，第67頁。與此相反，人工智能技術全面開發釋放出來的無限可能性，將可能把人性滋養的人變成機性的人，將人性存在的社會淪為機性化的社會。人工智能技術在開發人腦資源的同時，可能會全面地解構人的存在的動力，不斷降低勞動的熱情，并將使越來越多的人喪失勞動的能力，因為人工智能無阻礙地發展必將導致社會化的“技術性失業”(41)杰瑞·卡普蘭：《人工智能時代》，李盼譯，浙江人民出版社，2016年，第126頁。，人將陷入“我們能做何事”的困境和“我們有何事可做”的絕望(42)唐代興：《基因工程和人工智能:人類向后人類演進的不可逆風險與危機》，《江海學刊》2020年第3期。。這種“無力做事”的困境和“無事可做”的絕望根源于人工智能技術從兩個根本的方面改造著社會。一是人工智能技術正在加速創造出一個如曼紐爾·卡斯特(Manuel Castells)所概括的“社會排斥”:“現在世界大多數人都與全球體系的邏輯毫無干系。這比被剝削更糟。我說過總有一天我們會懷念過去被剝削的好時光。因為至少剝削是一種社會關系。我為你工作,你剝削我，我很可能恨你，但我需要你,你需要我，所以你才剝削我。這與說‘我不需要你’截然不同。”(43)曼紐爾·卡斯特:《千年終結》,夏鑄九、黃慧琦等譯,社會科學文獻出版社，2003年,第434頁。人工智能技術無限度開發的真正可怕之處，就在于它大步向前以更神奇的速度和更高的水準創造著“我不需要你”的社會。二是這個“我不需要你”的“排斥社會”是一個通過基因編輯技術而優生和通過人工智能技術而優智的社會。尤瓦爾·赫拉利(Y. N. Harari)指出，優智的人工智能技術使當代人類正經歷從智人向“神智”的飛躍，它的革命性比從猿到人的轉變更為深刻和徹底。在人類進化史中，猿轉變為人是整個物種；人工智能技術(包括基因技術)將智人轉變為“神智”的只是少數人，它使大多數人淪陷于既無力做事也無事可做的“無用階層”。在人工智能(也包括基因工程)技術快速推進的當代進程中，“至少部分精英階層會認為，無須再浪費資源為大量無用的窮人提升甚至是維持基本的健康水平,而應該集中資源,讓極少數人升級到超人類”(44)尤瓦爾·赫拉利:《未來簡史》,林俊宏譯,中信出版社，2017年，第314頁。。人工智能技術越是向前發展，人性可能越萎縮，人將越發陷入機性的生活狀態和無用的存在，從而將人工智能技術開發的無限可能性與人的理性絕對有限性相博弈的根本倫理矛盾突顯出來，敞開了人類在人工智能面前的存在本質的危機。

第二，人工智能技術無限開發推動技術化存在與人性存在之間的倫理矛盾更為尖銳。

雅斯貝爾斯認為， “無論如何更明確得多的是，技術僅是一種手段，它本身并無善惡。一切取決于人從中造出些什么，它為什么目的而服務于人，人將其置于什么條件之下”(45)卡爾·雅斯貝爾斯：《歷史的起源與目標》，魏楚雄、俞新天譯，華夏出版社，1989年，第142頁。。雅斯貝爾斯揭示了傳統技術的外生性和外在性特征。技術的外生性，是指技術從外部產生，它以自然存在物為資源，比如石器技術、竹器技術或者機械技術，甚至包括電氣技術等都屬于外生性技術，它不僅產生于外在物，其運用也是外在的。技術的外在性，是指一切外生性技術完全與人分離，即人是人，技術是技術。人對技術的使用是功能組合性質的，人對技術一旦結束使用，技術必然與人分離而各以自身方式存在。比如，無論在手工技術時代，還是在機械技術時代，工人離開生產勞動工場——比如車間，所有的生產工具都與工人脫離關系，因為技術物與人隸屬于完全不同的兩個世界，只因為人的需要比如勞動或娛樂，這兩個世界才發生聯系而產生互動。與此不同，人工智能是以人腦為研發對象，模擬和復制人腦工作原理和思維機制所形成的內生性和內在性的技術。人工智能的內在性，一方面指其產品的功能發揮必須按照人腦原理展開，并具有自生成性，比如自生成的深度學習能力、自生成的自主性品質等；另一方面指人工智能技術的最終努力是將智能技術置入人腦或人體，使人機融為一體，不可分離，比如內置于人的大腦之中或人的身體的任何部位之中的芯片，使之構成人的大腦、人的身體和人的生命的內生性內容。

從根本上講，人工智能賦予了技術本性以新內涵。在傳統意義上，技術的自主性是指技術的客觀性，即技術一旦產生，就具有自存在方式，并自我規定了使用功能、范圍、方式和方法。比如農業時代的手工技術或工業時代的機械技術所表現出來的自主性本性主要是功能性質的；人工智能的自主性本性卻是內生成的，比如深度學習能力、情景創造能力或自我更新能力等，都體現了人工智能的自主性本性是自生成性質的。正是因為人工智能技術能開發出來自生成性的智能體，所以“它已經塑造了一個技術無孔不入的世界，這個世界遵從技術自身的規律，并已拋棄了所有的傳統”(46)Jacques Ellul, The Technological Society, trans. by John Wilkinson, New York:Alfred A. Knopf, 1964, p.14.。進一步看，在過去，人與技術的關系是主體與客體的關系，這種關系構成人與技術之間使用與被使用的單向對應性。人工智能的內在生成本性推動技術打破了這種簡單的主客二分的固化關系，構建起智能技術與人之間的開放性生成的橋梁，人既可能成為主體，也有可能淪為客體。智能技術有可能統治人，人有可能淪為技術、機器役使的工具。這種情況是人不愿意看到的，但當人工智能發展到這種水平狀態時，人卻無力阻止。這就是人工智能與人在本性上的根本矛盾，這一矛盾的深度展開則表現為：在沒有阻礙的情況下，人工智能的自主生成性呈無限取向，其潛能釋放呈無限可能性；與此相反，人的本性雖然也呈開放生成性，但其生成功能始終呈有限取向，其潛能釋放呈絕對有限性。這就是為什么“深藍”誕生后人類就再無象棋冠軍、AlphaGo出現后人類就再無圍棋冠軍的最終根源。

第三，人工智能技術開發的無限可能性與人的有限理性的既定性相博弈生成的倫理矛盾是內在的，這種內在化的倫理矛盾呈無限擴張、無可彌合的撕裂狀態。

首先，要理解人工智能技術開發的無限可能性與人的有限理性相博弈生成的倫理矛盾的內生性張力和無可彌合的撕裂狀態，需先理解人工智能為何具有無限可能性。這有兩個激勵因素。第一個激勵因素是人類對人工智能的無限期待，這一無限期待的生成和強化源于三個維度推動機制：一是社會大眾對人工智能的無限期待想望，是基于人工智能技術能給生活帶來方方面面的便利；二是技術專家和企業家群體對人工智能的無限期待熱忱，在于人工智能激活市場、變革世界所帶來的特殊利益，包括無限商機或難得的發展機會等；三是全球范圍內的社會政治精英(包括政客)對人工智能的無限期待激情，才真正演繹出人工智能研發的無限競爭動力并展開無限競爭。如上三者形成合力，必然使得人工智能無限可能性與人的有限理性之間的根本倫理矛盾日益加劇而不可消解。第二個激勵因素是人工智能的內生性品質和由此形成的極強生成性功能，使它本身在自主地深度學習、潛能釋放、能力更新等方面具有無限可能性。并且，如果沒有外在阻礙因素，人工智能研發必將成為終結人類的力量。

其次，無限可能的人工智能技術映照出人的理性絕對有限的窘境生成的根源有三個方面：一是人性的局限，即天賦“相近”的人性與其生存敞開的“習相遠”(47)楊伯峻：《論語譯注》，中華書局，2004年，第181頁。之間的二重性，構成人性的根本局限；二是造成這種人性局限的根本動力卻是無限的利欲渴望與滿足；三是滋生這種無限利欲渴望的原動力機制卻是人的存在在物質、精神、情感等方面的絕對匱乏，尤其是權力占有的匱乏作為根本的匱乏沖動，源源不斷地激發出對技術的熱情，對人工智能技術的無限想望和期待。

最后，人工智能的無限可能性與人的有限理性的既定性之間所形成的根本矛盾內具無限擴張的本性，這一無限擴張的本性正伴隨人工智能技術的全面開發而實實在在地演繹出“蝴蝶效應”般的四個方面的風險。一是人工智能技術開發雖然給社會帶來了諸多便利，但其繼續向前是造福人類還是毀滅人類，卻并不可知；而且，迅速發展的人工智能技術越發使人感覺到自身能力的局限性，從而產生對人工智能技術的憂慮，這種憂慮可表述為“人正面臨著一股自己根本無法控制的力量，與這股力量相比，人只是一粒塵埃罷了”(48)陳學明等：《痛苦中的安樂——馬爾庫塞、弗洛姆論消費主義》，云南人民出版社，1998年，第162頁。。二是人類認知能力的局限性使人感到難以駕馭人工智能技術，甚至面對人工智能發展的倫理風險而選擇隨波逐流，恰恰是“這個社會在技術上越來越完善，它甚至能夠提供越來越完美的解決辦法，但是，與此息息相關的后果和種種危險卻是受害人根本無法直覺到的”(49)烏爾里希·貝克、約翰內斯·威爾姆斯：《自由與資本主義——與著名社會學家烏爾里希·貝克對話》，路國林譯，浙江人民出版社，2001年，第127頁。。三是人工智能技術發展帶來的各種好處和便利，往往遮蔽了人們的有限理性的眼睛，由此必然引發政治、經濟、市場、文化、教育以及學術研究等領域反應的盲目性，這種盲目性蘊含最為普遍而嚴重的倫理風險，這就是無知的盲目樂觀與實利主義將使整個社會喪失對人工智能技術的警覺和警惕，這種整體性喪失突出地表現在科學界倡議、政府資助、企業和大學合作形成全球競爭的剛性市場開發機制，人類有限的理性在這種全球競爭裹持下和在其剛性的市場開發機制碾壓下，變得越來越無足輕重。四是在人工智能技術向人腦的縱深領域，也就是向人的情感領域甚至心靈領域開發的進程中，人類越來越羸弱的有限理性將變得更加遲鈍，這突出地表現在“人類對人工智能產品道德風險認知的滯后性”(50)閆坤如：《人工智能的道德風險及其規避路徑》，《上海師范大學學報(哲學社會科學版)》2018年第2期。。

四、成人或成物：人工智能技術開發與人的存在相博弈的最終倫理走向

人工智能技術開發的無限可能性，既源于人類對它的無限期待，更因為它本身的不確定性。人工智能技術的不確定性蘊含開發的無限性與人的有限理性相博弈的內在矛盾，敞開人類的根本認識局限，這就使實利主義的剛性認知沖動與理性認知之間形成不可調和的倫理困境和倫理張力，從根本上激發人工智能技術發展與生物人種的可持續存在之間的倫理博弈。這一博弈在大時間尺度平臺上展開形成的最終勝負，必然決定人類是繼續人性地存在還是機性地存在。這一兩者必擇其一的未來走向，更可從人的有限智力博弈無限可能的人工智能技術節節敗退的進程中得到預知。

首先看人的有限智力與人工智能機之間的跳棋博弈。

1952年，塞繆爾(Samuel)研制出跳棋程序。

1992年，跳棋冠軍馬里恩·汀斯雷(Marion Tinsley)與跳棋程序Chinook對弈，汀斯雷獲勝。

1994年，汀斯雷與跳棋程序Chinook再次對弈，汀斯雷落敗。以后，跳棋領域再無世界冠軍。

其次看人的有限智力與人工智能機之間的象棋博弈。

1958年，IBM704成為第一臺象棋計算機系統“深思”，每秒可走200步。

1973年，開發出國際象棋4.0軟件，它構成未來程序的基礎。

1979年，國際象棋X.0達到專家級水平。

1983年，BELLEAT&T開發的國際象棋硬件達到大師水平。

1987年，“深思”更新，每秒走75萬步，其水平相當于擁有2450等級分的棋手。

1988年，“深思”擊敗世界國際象棋特級大師拉爾森。

1989年，“深思”更新，每秒走200萬步，與世界國際象棋棋王卡斯帕羅夫對弈，以0∶2敗于卡斯帕羅夫。

1990年，“深思”第二代產生。

1991年，“深思”第二代與澳大利亞國際象棋冠軍約翰森對弈，以1∶1戰成平局。

1993年，“深思”第二代打敗丹麥國家隊，取勝世界優秀女棋手小波爾加。

1995年，“深藍”更新，每秒走300萬步。

1996年，“深藍”與卡斯帕羅夫再次對弈，以2∶4敗于卡斯帕羅夫。

1997年，“深藍”更新為更高級別的“大腦”，每秒走2億步，與卡斯帕羅夫第三次對弈，以 3∶2 戰勝卡斯帕羅夫。

最后看人的有限智力與人工智能機之間的圍棋博弈。

1997年，邁克爾·布洛(Michael Buro)開發的黑白棋程序Logistello與世界冠軍村上健對弈，以6∶0打敗村上健。

2016年，歐洲圍棋冠軍樊麾與AlphaGo對弈，敗于AlphaGo。

2016年，世界圍棋冠軍李世石與AlphaGo對弈，以1∶4敗于AlphaGo。

2017年，世界圍棋冠軍柯潔與AlphaGo對弈，三番棋全敗于AlphaGo。

跳棋、象棋、圍棋三種智力游戲的人機博弈，均以人工智能機取勝而告終，這等于宣告在跳棋、象棋、圍棋領域，從此再無生物人世界冠軍；同時也暗示人工智能技術向哪個領域開發，哪個領域就終將被人工智能機占領，這些領域的人類行為和人生活動就必須承受人工智能技術物的主宰。

比較跳棋、象棋、圍棋此三者，跳棋最簡單，人在與人工智能技術的博弈中最容易敗北，亦為自然。圍棋的棋局非常復雜，難以估計，而且圍棋棋盤上有361個點，其搜索寬度和深度遠大于國際象棋；而國際象棋人機博弈經歷了30年時間，“深藍”才奪取世界冠軍。然而，讓人們意想不到的是，最不容易被攻克的圍棋，AlphaGo與人博弈只用了短短兩年時間，就橫掃人類圍棋界并輕易地奪取了世界冠軍。世人為之驚異不已的同時，對人工智能技術歡呼不已，卻忽略了AlphaGo的取勝既呈現出人工智能的未來又預示生物人類命運的三個基本事實。第一個基本事實，就跳棋、象棋、圍棋的復雜性程度和人工智能系統分別戰勝跳棋、象棋、圍棋的時間長短來看，人工智能的進化速度呈幾何級數增長，這是人類大腦進化所不能比擬的。同時也表明人工智能技術開發賦予人工智能機進化潛力無限，而人的生物腦進化潛能卻絕對有限。換句話說，人類物種以上百萬年的進化才形成現在的智力能力，卻被只有短短70年開發史的人工智能機所超越，這一兩相對應的歷史事實本身敞開了人工智能技術的絕對可怕性。第二個基本事實，AlphaGo一問世就戰績遠勝它的前輩“深思”和“深藍”，其根本秘密是它具備了前所未有的自主性的深度學習方式，具備了自主性的深度學習能力。簡要地講，AlphaGo深度學習的基本方式是將人類棋譜輸入計算機，學習人類的落子習慣，其展開步驟有三：第一步，AlphaGo將棋盤上每個落子及應對落子理解成一個樣本，然后將輸入系統的棋譜的每一步予以分拆，由此將變化的棋局分解出三千多萬個樣本；第二步，AlphaGo按自己的方式任意地下棋，通過這種亂下棋子的過程來發現規律、訓練思維、重整思路；然后進入第三步，AlphaGo左右互搏與自己對弈，以此重新學習棋局，自建棋局。AlphaGo如此自主性的深度學習方式及其以幾何方式更新的深度學習能力，既預示了人工智能技術無限開發的方向，更預示了人類在思維、智力和自主性學習等方面已遠落后于人工智能機。第三個基本事實，從“深思”到“深藍”再到AlphaGo，其前赴后繼的進取與成功，將成為人工智能技術無阻礙開發的強勁推動力量，人類的未來也將可能自毀于人類的這種有限理性的狂熱之中，因為人們更多地從人類主體的角度看到了人類的創造能力前所未有的爆發，更從市場、商機和政治、經濟以及軍事競爭角度看到了種種競爭勝利或爭霸的無限可能性，從而忽視了“深藍”戰勝國際象棋冠軍、AlphaGo打敗世界圍棋冠軍、“沃森”在人類智力競賽中取勝的行為所暴露出來的人類危機。這就是人工智能機的自主學習能力已超出其邏輯思維層面的程序設計而獲得了抽象思維的能力，繼續向前就是真正解決“怎樣高效思維”的問題，人工智能機在創造性理解能力、超強的深度學習能力和自主決策能力等方面的進化，將使其成為“在各個方面都比人類具有優勢的智能系統”(51)P.羅素、S.諾維格：《人工智能：一種現代方法》，姜哲等譯，人民郵電出版社，2004年，第397-414頁。，由此將隱含于人工智能技術開發中的內在的和本質的倫理問題突顯了出來。

第一，人工智能的不確定性蘊含的無限可能性與人的有限理性敞開的認識局限性所表現出來的根本倫理博弈，根源于人工智能、人、自然三者關系界限的模糊。比如2017年波士頓機器人事件引發的倫理之爭，就是這方面的典型個案。一個動力機器人在搬箱子的過程中遭受測試科學家的攻擊而摔倒，引來互聯網視頻觀眾的抗議，人們指責這位測試科學家侵犯了機器人的權利，從而引發“機器人有無自己的權利”的爭論。該爭論在兩個方面敞開了有關人類倫理的擴展性考量。一是權利的擴展性考量：如果不承認人工智能體有自己的權利，就不能承認人工智能體有自主性能力和自生成本性；反之，如果根據人工智能的自主性和自生成性而承認其有自己的權利，那么，人類就無權以任何形式阻止人工智能的發展，這樣一來，人工智能無限發展的可能性自然蘊含了人類終結的必然宿命。二是人類道德統一性的擴展性考量：如果承認人工智能有權利要求，就是承認人工智能有道德意識、道德要求和道德能力，這就涉及如何使人工智能的權利及其道德要求與自然倫理、社會倫理達成統一的問題。被賦予公民權利的機器人索菲亞在接受采訪時表達自己作為機器人能夠“幫助人類過上更美好的生活，人類不用害怕機器人”的前提，是“你們對我好，我也會對你們好”。機器人索菲亞對人類的這一條件要求，恰恰表達出人工智能技術全面開發暴露了人類、自然、人造物三者之間的道德統一何以可能的問題。這個問題可具體表征為人工智能技術引發出來的人造物與人類之間的存在論博弈必然鋪開其倫理約束的邊界探索。

第二，人工智能技術及其開發表現出來的倫理到底是人工智能體的倫理，還是人對人工智能體的倫理？更具體地講，人工智能體能否成為道德主體？這涉及如下兩個方面：

其一，人工智能體是否具備道德主體的能力？

其二，人工智能體能否享有道德主體的權利？

第二個問題以第一個問題的解決為前提，即“人工智能體能否成為道德主體”的根本前提，是人工智能體是否具備道德主體能力。對這一問題的思考形成了兩種觀念。一種觀念認為人工智能體應該具備道德能力，其基本理由有二：一是人工智能技術既具有自主性，也具有自主生成性能力；二是人工智能體有一定的“自控能力”(52)Patrick Lin, Keith Abney and George Bekey, “Robot Ethics: Mapping the Issues for a Mechanized World,” Artificial Intelligence, Vol.175, No.5-6, 2011.。另一種觀點認為人工智能體不具有道德主體能力，主要理由也有二：一是認為人工智能體沒有倫理意向性，因而不可能成為道德主體；(53)J. R. Searle, “Minds, Brains, and Programs,” Behavioral &Brain，Sciences, Vol.3, No.3, 1980.二是認為機器人的道德不過是人的道德向機器的嵌入。如果認為人工智能技術創造出來的智能體具有道德能力并享有道德主體的權利，那么，人工智能技術及生產的智能機必然以道德主體的資格和身份向人類爭取平等的道德權利甚至更多的道德權利，這種可能性的出現及不斷實現也就意味著人類的主體地位遭受威脅，人與機器之間的倫理博弈誰勝誰負，“深藍”和AlphaGo與人類爭奪智力冠軍的戰績似乎早已寫出了結果。如果認為人工智能技術創造出來的技術物沒有主體能力且不具有主體資格，人們則無視人工智能技術以人的生物腦為開發對象，把它看成是模擬、延伸和擴展人的大腦原理及其運行機制，并賦予其創造物以內生功能的技術，以此無所限制地開發人工智能技術，其展開進程必然將作為創造主體的人置于其對立面，形成無限可能性的人工智能技術與有限理性能力的人之間的不對稱博弈。

第三，人工智能開發所考慮的是人工智能體如何在更高水平上模擬和復制人腦工作原理和思維機制，使制造出來的智能產品無所不在，但這種實用努力卻與人的人格化存在的倫理訴求相悖。一方面，人工智能技術的市場努力是使其產品功能的釋放無所不能，沒有邊界和限度；但人的存在和生存卻需要邊界和限度，因為邊界和限度才構筑起個人的隱私生活和自由的存在空間，也只有邊界和限度才建構起對人的隱私權的保護，使之不遭受來自任何方面和任何形式的侵犯。另一方面，人工智能開發追求無邊界、無限度的自由，恰恰是以抑制、減少甚至從根本上解構人的平等自由權利為基本表征，因為人工智能技術追求普遍的共性，但作為生物個體的人卻訴求主體地存在和創意地生存，這種主體地存在和創意地生存的感性呈現就是個性的自由。由此兩個方面，人們對人工智能無所不能的期待與人有邊界和限度地生存之間形成巨大的矛盾和沖突。這一根本不可調和且只有無限撕裂和擴張的矛盾與沖突構成其倫理博弈的具體呈現，亦可抽象地表述為人工智能研發與隱私權保護、人工智能的共性規范與人性存在的個性自由訴求，構成到底由人工智能主宰人類還是人類主導人工智能的分水嶺(54)約翰·C. 黑文斯：《失控的未來》，仝琳譯，中信出版社，2017年，第23頁。，即到底是由以平等自由為導向的人性主義倫理來引導規訓人工智能技術的開發，還是人工智能技術逾越人性主義倫理而任性自由地開發？

第四，人工智能技術開發的簡短歷史進程其實已從全球平臺和市場兩個維度呈現一種態勢，這就是全球競爭鋪開無限開發人工智能技術必然形成重構人類(及其國家)社會的結構框架以及分配機制，如何正視和保障起點平等和分配公正，構成人工智能發展中最根本的倫理博弈。(55)唐代興：《人工智能研發帶動社會公正危機》，《人文雜志》2020年第8期。這包括全球競爭框架下市場利益倫理博弈和社會分配結構及其分配方法變動中的技術權力、公權、民權三個維度的利益倫理博弈。

第五，在人類生存發展史上，技術產生于破解存在危機和突圍生存困境的努力，但是在制度和法律本身呈專斷取向的社會里，具有自主性和共性取向的技術本身構成一種最為實在的權力，而這種性質的技術權力又最有可能也最容易與國家機器權力互為目的和手段。正是這種互為目的和手段的可能性將有可能形成無限度開發的人工智能技術推動制度、法律在權利維護與權力限度方面的博弈重心的傾斜，更有可能推動無限可能的人工智能技術與有限理性的人類相博弈的機制，或承受被動修正，或形成主動重建。