善抑或惡：人工智能的根本倫理問題

唐代興

〔中圖分類號〕TP18 〔文獻標識碼〕A 〔文章編號〕0447-662X（2022）06-0076-12

人工智能技術的研發與運用，引發出許多倫理問題和倫理憂慮，對其倫理問題及憂慮予以倫理考察，就形成“人工智能倫理學”（Ethics of Artificial Intelligence），包括人工智能“機器倫理學”（Machine Ethics）和“機器人倫理學”（Robot-Ethics）。前者側重探究人工智能產品的功能釋放如何合倫理，其基本任務是探討制定機器的行為規范和邊界約束;后者側重于研究人工智能技術的研發如何合倫理，其基本任務是研究制定人類研發主體的行為規范和邊界約束。由于研發人工智能技術與研發人工智能機之間客觀地存在因果關系，機器人倫理學必然構成機器倫理學的指導之學，所以人們在研究人工智能倫理學時，越來越將重心轉向人工智能研發的倫理思考，由此形成國內的人工智能設計倫理研究①和人工智能道德算法研究，①這兩個維度的探討拓展了人工智能倫理的研究領域，推動了人工智能道德哲學②的產生和人工智能社會倫理研究的鋪開。③ 人工智能技術研發與不斷更新的產品的社會化運用所引發的倫理問題，本質上既不是技術研發的問題，也不是產品的問題，而是人的問題，這意味著人工智能的倫理研究還得回到倫理的原點上來。

人類倫理的原點既不是物也不是社會，而是人。人工智能引發的現實的或潛在的倫理問題都是人的問題，具體地講是人的存在及敞開與他者構成的關聯取向及邊界問題，生成這些問題以及求解這些問題的原發機制，卻是天賦人的本性的內凝和外播。以此觀之，將人工智能倫理定義為機器倫理和機器人倫理，實是前設了人的非在場視角。當人處于非在場狀態，對人工智能倫理問題的審視和思考，往往漂浮于半空之中缺少落地的實在而呈舍本逐末取向。所以，討論人工智能的倫理問題，必須有人的在場，從“人”出發審查人工智能技術及產品運用引發出來的所有倫理問題，才能真正找到問題產生的根源而予以對癥的倫理診斷，以求真正的救治之方。

在原發存在狀態，人是一普通的地球生物，它與眾物一樣順應生物本性而適應自然的生變。在繼發存在進程中，人從物演變成為人的基本形態學方式是“兩腳走路，兩手做事”。④ 手與腳在功能上的分責實是將人予以了兩分：“雙腳走路，是自然地存在;雙手做事，是人力的存在。從雙腳行走到雙手做事，生成起一個邏輯，開創出一種結構，更建構一種秩序：這個邏輯，是人從自然物到人的邏輯，展開為從腳到手的進化;這種結構，是人從自然物到人的時間進程，或者說歷史結構，展開為從腳的本能運動到手意識地安排事務;這種秩序，是人從自然物到人的存在秩序，展開為本原性自然存在的世界與人質性質的存在世界的生成性聯結，使自然存在的世界和人質存在的世界最終淪為技術化存在的世界?！雹龠@是因為手與腳的功能分責，既推動大腦快速發育，也激活人的想望性存在，這種想望性存在就是按照人自己的方式和欲求存在?；谶@種“按照自己的方式和欲求存在”的想望不斷放大，人被兩個根本問題牢牢地套住并為此展開永不能停息的努力，這就是從不間斷地解決存在安全和生活保障的問題，由是只能無限地延長自己的手臂即功能，即發展技術：技術是人的手臂的無限延長方式。技術的功能呈現是開辟存在安全和生活保障的道路，但在本質層面，卻是人將自己從物的世界中剝離出來而走向人。所以，“技術是從自然轉化到人的目的的媒介。其特點是，將生物學上有缺陷的人保持在‘自然’之中?！雹诘厍蛏系乃猩锒即嬖谏飳W的缺陷。這種缺陷由兩個方面規定：一是由生命規定，即地球上所有的生物都是生命的存在物，而生命存在物既是向死而生的存在物，也是需要資源滋養才可存活的存在物。由此兩個方面的生命制約因素，構成了地球生物的根本生物學缺陷。二是地球生物是物種化的生命存在物，生物的物種化存在既賦予生命存在物自身特質與個性，也規定了生命存在物的限度與邊界。生物的生命化和物種化從兩個方面規定了生物的生物學缺陷，這既是一種普遍的存在論缺陷，也是一種存在敞開生存的正常的生存論缺陷。唯有當人這一物種的進化（遺傳變異）遭遇一些至今都不可知的偶然因素的激活從“自然轉化到人”時，才將其原本正常的缺陷突顯出來成為非正常的即需要去改變或縮小的一種“缺陷”，所以“人的生物學缺陷……（引發）技術的無條件性將會自行出現。人無外乎就是一個技術的動物，倘若"拋棄技術，他失去的將不僅是對自身負擔的消除，而且是自身存在的基礎?！雹?/p>

從根本上講，“技術是從自然轉化到人的目的的媒介”這一表述道出了技術的人本性質：技術是一道門檻，跨進這道門檻，人這個動物就朝人的方向轉化，不再是純粹的物，而成為人，成為“既是物在形式”又是“人在形式”的人。④ 這是因為“從生物學上說，我們屬于人這個物種，此物種通過進化而成，并且只是細微地同高等動物有所區別。從精神科學和文化科學的觀點上說，人具有意識和理智，發明了文字并建立了諸如法治國家這樣的社會組織機構。因此，人和技術可以用兩種互補的方式進行考察——依附于自然的束縛和擺脫了自然的束縛。人具有符號方面的能力，如語言、技術和宗教。自古以來，宗教的目的就是為了革除這樣一個認識，即我們完全聽命于大自然的擺布而且終不免一死;技術的作用則是利用自然的過程，達到進一步對自然進行掌控的目的。人類的技術就是有計劃地進行改造后的自然，人就是有計劃地重塑自己的自然環境和自身自然本性的一種動物。”⑤

從發生學講，技術構成人由物到人的標志。從生存論講，技術構成人的自我重塑的方式，即通過“利用自然”來“重塑自己的自然環境和自身的自然本性”，這是技術誕生的動機，也是技術發展的目的，這一動機和目的最為實在地落實在對兩個根本“存在缺陷”的努力解決上：第一個存在缺陷是存在的無安全性，它源于兩個方面：一是來源于生物世界生物的威脅，二是來源于自然世界的生變運動;第二個存在缺陷是生活的無保障性，具體表征為生存資源的無現成性、匱乏性和謀求必付出高成本的代價。技術就是解決人的存在安全和生活保障的根本社會方式，也是在更新的生存處境中不斷地解決其存在安全和生活保障的基本工具，因為技術武裝了人的“生存能力”，“將自然改變為服務于自己的生活之物”。在物理層面，技術“改變自然”的實際成果是“重塑了自己的自然環境”，即不斷地解決存在安全和生活保障——因為人“按照自己的方式和欲求存在”的想望無限度無止境，激發人解決存在安全和生活保障的水準也敞開為無限變化的進程，從而導致存在安全和生活保障問題成為“人成為人”的永恒生存問題。在精神層面，技術“改變自然”的實際成果是“重塑了自身的自然本性”，即它的“總概念叫作文明，文明世界就是人的世界。”

由于技術的動機和目的是通過“利用自然”亦即改造自然來“重塑自己的自然環境和自身的自然本性”，所以它始終是合倫理的。人類從動物進化為人類，經歷舊石器技術、新石器技術再向農牧社會的手工制作技術以及工業社會的機械生產技術演進，技術倫理尚未產生，其根本原因是通過利用自然來“重塑自己的自然環境和自身的自然本性”的技術，始終絕對忠誠地服務于人而體現完全的合倫理性。技術的發展從合倫理性向倫理問題滋生的方向展開，既是創造技術的人出了問題，也由此推動技術本身出了問題，只有當技術與人相向敞開為問題時，技術合倫理性的歷史格局才被打破而不得不將技術倫理問題突顯出來予以生活的和理論的雙重關注。

從技術角度觀，技術引發出倫理問題，可能源于兩種情況。一種情況是技術通過“利用自然”來服務于人，逾越了人與生物或人與自然的邊界;一種情況是技術的研發和運用擴大了“利用自然”來服務于人的動機，抑或是技術的研發和運用改變了“利用自然”來服務于人的動機。前一種情況的具體表征是技術“改變自然”突破了人與生物、人與自然之間共生存在的邊界，逾越了技術“利用自然”來服務于人的合倫理的限度。由于技術對自身動機的逾越而造成人的存在與自然的對立、人的生存發展制造出來的環境死境化日益明顯和普遍，致使由技術引發出來的倫理問題被環境的倫理所遮蔽，即人們往往關注環境的倫理問題而忽視技術的倫理問題，但在本質上，一切形態的環境問題都是技術問題，所有方面的環境倫理問題最終都是技術的倫理問題，因為人對環境的破壞是通過延長的手臂——技術來實現的。后者的突出表征是現代臨床醫學技術引發出來的倫理問題：從技術的倫理問題顯形化這個角度觀，技術的倫理問題最初在臨床醫學技術中呈現，但并不等于說臨床醫學技術必然會產生倫理問題，中國傳統醫學在其發展過程產生的諸如按摩、推拿、針灸、藥石等治療技術，弘大古希臘醫學傳統的西醫體系中不斷涌現出來的諸如手術技術、診斷技術、治療技術等醫療技術，都沒有出現倫理的問題，無論中西，傳統醫學倫理的目光都聚焦在醫護主體的職業倫理以及醫患關系方面。臨床醫學技術出現倫理問題，恰恰是通過墮胎、遺傳控制等技術的臨床運用而呈現。這就出現一個問題，為什么在墮胎、遺傳控制等技術未產生之前運用于臨床醫學中的諸多技術沒有生發出倫理問題，而墮胎、遺傳控制等技術的臨床運用會滋生出倫理問題？這就涉及技術的動機和目的定位。如前所述，技術是為了提升人的生存能力，其構造是以改造和征服自然為目的——通過利用自然來“重塑自己的自然環境和自身的自然本性”。這一動機和目的可具體表述為如下三個維度的硬性規定：

第一，技術開發的對象是指向自然的，而不是指向人的。具體來講，技術是“利用自然”來服務于人，其實質是通過改變自然（和自然物）的性質、狀貌、結構的方式來服務于人的存在，使人的存在安全和生活保障得到根本的或更好的解決。

第二，技術改變自然只是手段，其目的是從兩個方面服務于人的存在：一是重塑人得以存在的自然環境，使自然環境人化，也就是馬克思所講的使“自然人化”;二是重塑人自身的自然本性，使人獲得本性上的文質彬彬，成為有尊嚴地存在且有意識地追求高貴生活的文明人。

第三，技術通過改變自然（或自然物）的方式實現“重塑自己的自然環境和自身的自然本性”的過程，就是不斷解決或更高水準地解決其存在安全和生活保障的過程。

以此觀之，當技術改變其動機和目的時，必然導致技術與倫理之“合”的分離，即當技術通過“利用自然”來服務人轉向通過“利用人”來服務人時，其倫理問題必然出現。臨床醫學中的中醫按摩、推拿、針灸、藥石技術和西醫手術技術、診斷技術、治療技術的運用之所以未突顯倫理問題，是因為所有這些技術都是通過“利用自然”事物、資源、物質條件來恢復人的健康，而產生于20世紀70年代臨床醫學中的墮胎技術、遺傳控制技術之所以導致倫理問題的產生，①是因為墮胎技術、遺傳技術是通過“利用人體”來解決人的生命問題，這種改造人身體的技術方式對人類技術產生了根本性質的逆轉，即技術既違背人的生命倫理，也違背生物倫理和自然倫理。因為在存在世界里，生命的誕生或死亡不是由人的權力決定的。通過技術來決定生命的誕生和死亡，從根本上違背了生命倫理和宇宙自然的律法。同樣，人的遺傳（或變異）也不是人的權力所致和職責所司，它所遵從的是宇宙自然的律法和世界進化的法則。世界的進化法則本質上是生物世界的生態平衡法則，包括生物世界物種間的生態平衡和物種內部的生態平衡。通過技術的方式進行遺傳控制，實是干擾和破壞生物世界的進化法則，從根本上違背了自然倫理。從人的角度看，無論墮胎還是遺傳控制，都是人自為狂妄地通過技術來逾越宇宙自然的律法和世界進化的法則，其行為從根本上喪失了人的本性。

以此觀人工智能技術之所以從它誕生始就伴隨倫理問題，并隨其研發的全面鋪開而倫理問題更為普遍、更加緊迫，其根本原因仍然是人工智能作為一種新的技術方式從根本上違背了技術的動機與目的，但這種違背在最終意義上卻是人自身逾越技術的邊界而踏上自我毀滅的不歸路，這可用馬克思的異化理論來表述，那就是人在存在本質上的異化催生了技術對自身動機和目的的異化，如不予以有力的阻止，最終會突破人作為自然人和作為生物人的雙重生態容量極限而達于自毀。

人工智能（Artificial Intelligence）技術產生于20世紀50年代，至今不到70年，在經歷了兩次局部性發展（即1956—1969年與1980—1992年）和兩次間歇性的低谷之后，于2006年后才開啟全面發展進程，這主要得益于四個方面條件的逐漸具備：一是人工智能深度學習（deep learning）理論的誕生和計算機深度學習模型的建構;二是大數據和云計算從兩個不同方面為人工智能研發提供了近乎無限的計算能力和分析方法，打破了阻礙人工智能發展的兩個主要瓶頸;三是移動終端和物聯網等技術的開發和全面推廣，為人工智能提供了創新的社會空間和未來前景;四是由于前三個條件的具備而形成科學界倡議、政府資助、企業和大學攜手合作的人工智能研發、推廣、運用的市場機制。由此四個方面互為推力，人工智能技術不再只是一種新技術，而是經濟、政治、軍事、教育等領域鋪開綜合實力競爭的社會方式。人工智能技術本身爆發出來的經濟、政治、軍事、教育潛力在促使它成為全球經濟、政治、軍事、教育等綜合實力競爭的方式時，所帶動起來的危機也是前所未有的，這種前所未有的危機在更深刻的維度上將人工智能的根本倫理問題突顯了出來，以求正視。正視人工智能技術的根本倫理問題，必須超越人工智能帶來的個人生活便利和社會發展好處這兩個方面的實利觀念，盡可能從人工智能技術本身出發來審視其對技術動機的逾越所帶來的根本的存在論誤導。

人工智能技術開發的是一類新型的物質實體，使之“具備人的大腦能力”，②構成人工智能技術的動機和目的?；谶@一動機和目的，人工智能同時從理論和操作兩個維度向生物人腦進軍，對其展開“研究、開發用于模擬、延伸和擴展人的智能（human intelligence）”，③是探究“擴展人類智能”及“制造智能機器的科學與工程”的“理論、方法、技術及應用系統的一門新的技術”。④ 人工智能作為一種前所未有的新技術，它對自身的動機和目的定位呈現出如下規定性，理解和把握了這些規定性，才能真正理解人工智能及其滋生的全部倫理問題的根源。

首先，人工智能作為一種前所未有的新技術，是一種生物工藝學技術。

生物工藝學（biotechnology）也稱為生物工程學（biological engineering），它產生于20世紀70年代，指“凡是以生物為對象的一般工程學都可納入生物工藝學之內”。由于biotechnology一詞在英語里既可用于表示生物，亦可用于表征生物技術學，所以它的適用范圍相當廣泛，包括了世界人口快速增長、資源匱乏、環境污染等嚴峻挑戰所引發的所有生命領域關注的一切問題，①也指基因工程“包括DNA配對、血液檢查和遺傳密碼等內容”。② 以此觀之，生物工藝學獲得廣狹含義的指涉性，廣義的生物工藝學技術是關于生物世界之生物的工程學技術，狹義的生物工藝學技術是指以人的生物身體為開發對象的生物學工程學技術，本文所論屬于后者。

社會和科學的發展趨勢向正集中于形成一種新的人的自我概念，并對解釋人類自身有一種新的構想?，F存的對于“人”的觀念，即人的“自然”外貌和人的“自然”性格，正在被一種不斷滋長的觀念所取代，這一新觀念認為人可以重新創造自我，……主張一個人應僅僅按照他自己所希望的那樣去構造一個新的自我，從他過去的經歷和遺傳密碼的束縛中解放出來。

人類正進化到達爾文未曾預想到的新階段。遺傳重組的潛勢或許正在迅速推進我們超越達爾文的自然進化說而進入人工進化的大膽領域。人類社會不久將向生物工藝學走去，生物工藝學將使得我們可以為使人類向更高層次進化作直接的選擇。這一新的“演化工藝”階段將把我們帶入更深層的優生學，我們的下一代將真正成為“純”人類的最后一代。

人有權利決定重新構造自己的肉體的這一新觀念已經很快得到了普遍認可，但社會上仍然存在一些無法得出結論的問題，例如關于人工流產的權利。對此問題的激烈爭論，實際上是對如何看待即將降世的“自然”生命的限制的爭論。除了爭論人工流產權問題，還有對安樂死和選擇自殺權利等等問題。這些僅僅是一個大規模社會論戰的開始，即關于人是否有自由的權利去使用新的生物工藝學，以完全控制自己的肉體使其生命過程更具價值的問題。③

以人的生物身體和生命為資源開發對象的生物工藝學技術，是“既指‘完全控制自己的肉體’重構人的生物本性、生物結構、生物功能的社會方式，也指探討人如何完全控制自己的肉體、重構自己的生物本性、生物結構、生物功能的規律、原理、方法、手段的技術學問。僅前者言，生物工藝學的通俗說法是生物技術方式。就后者論，生物工藝學即是生物技術學，對認知科學（cognitive science）、納米技術（nanotechnology）、生物技術（biotechnology）、信息技術（informa tiontechnology）的理論探討，實際上是生物工藝學核心內容的探討;將認知科學、納米技術、生物技術、信息技術會聚起來予以整合研究，亦屬于生物技術學，這種整合研究所形成的會聚技術（NBIC），就是生物技術方法?！雹芫唧w地講，以人的生物身體為資源開發對象的生物工藝學技術，是以計算機為運演工具，以會聚技術為認知方法，以大數據為分析方法，以基因工程和人工智能為兩翼形態學呈現的技術體系。

其次，人工智能作為一種生物工藝學技術，是以人的生物大腦為開發對象。

人的身體中有兩個因素至為根本，這就是人的生物基因和生物大腦，它從兩個不同方面構筑起人特有的存在方式。這種“特有存在方式”是指人的存在既絕非自然的存在，又絕非非自然的存在，而是既是自然的存在，又是非完全自然的存在。由于前者，人作為一種人文的——或者說文化的和文明的——存在，始終與自然關聯，并始終保持物性、自然天性;因為后者，人作為一種自然的——或者說生物的——存在，始終朝向文化和文明的方向將自己敞開為人。由于后者，人成為一種“人在形式”而必須“按照自己的方式和欲求存在的想望”創造和發展;因為前者，人成為一種“物在形式”而必須遵從物的本性和自然的天性有限度地創造和有節制地發展。

比較言之，人的生物基因是人體中進化得最慢的一種要素。它之所以進化得最慢，因為它是人這一生命存在與宇宙、與自然、與地球上萬物生命保持最密切關聯的紐帶，如果它也與人體其他部分同步進化，人類將與自然徹底脫鉤而成為純粹的人類，人也完全可以不遵循宇宙律法、自然法則和生命原理而自行其事。不僅如此，如果人體生物基因也與其他要素同步進化，整個生物世界的秩序將被重新安排，人類也將可能徹底地改變自己的本性。作為生物工藝學技術的基因工程向地球生物世界鋪開，其結果是人類獲得自由創造生物物種的能力和權力，地球生物世界被迫迅速地變亂秩序，今日之地球生物（也包括微生物）世界的生態日趨惡劣的狀況及態勢，正好拉開了生物世界以及整個存在世界秩序變亂的序幕。作為生物工藝學技術的基因工程向人的生物世界鋪開，加速其人體基因編輯，破解人生命的創造密碼，其最終的形態學呈現就是人可以運用基因技術自由地制造人，掌握基因技術的人、組織或利益團體，可以在始端創造自己所需要的各種等級、各種功能、各種成色的人，人類存在體系將面臨徹底的重構。

與此不同，人的生物大腦是人體中進化得最快的一種要素。人不斷進化的大腦，以其更為開放和更為深度的雙重方式會通宇宙的智慧、自然的真理、萬物生命的知識而持續向前地成就人，包括不斷地成就人的視野、人的認知、人的境界、人的光榮和光輝。在地球生物世界里，從材料、結構、組織及其生命方式等各方面看，人這一物種與生物世界其他生物并沒有根本的區別，正如布里吉特·法爾肯堡在《互補視角：自然主義VS理想主義》中指出的那樣，人類物種“只是細微地同高等動物有所區別”，①這種“細微”的區別就是其大腦進化方式和進化速度使人類在宇宙世界中獨樹一幟，成為上帝的殊榮和驕傲，因為通過不斷進化的大腦，人類創造了自己，創造出了屬于人類的神性存在和生存之愛、承傳開新的文化和文明，并因此而照亮了宇宙，賦予了存在世界的神韻和生命世界的永恒魅力。

如果說進化得最慢的人體生物基因，使人始終佇立于宇宙自然之中，扎根于大地和生物世界，享有存在的依據和生存的根基，那么進化得最快的人體生物大腦，卻使人源源不斷地獲得動力源泉、智慧源泉、知識源泉和愛的源泉。人工智能將人的生物大腦作為資源開發對象，以計算機為運算工具，通過會聚技術和大數據分析方法來模擬、延伸、擴展人的大腦工作原理，其主觀的努力有二：一是增強人探索存在世界的大腦能力;二是開辟生存發展的新資源以重新激活疲軟的市場。但其客觀的后果卻是機器超越甚至取代人的生物大腦，最終解構人類這一生物物種在宇宙中的獨特地位和在自然世界里的神性存在，使人這種具有生存之愛和承傳開新文化與文明的高貴生命物種最終消失在人造的機器世界之中而淪為一物，宇宙將重新墮入黑暗，存在世界將喪失神韻，生命世界的魅力將不復存在。

最后，人工智能技術作為一種新技術，必將全面擴張其物本主義。

無論從已有的起點看，還是從可能造成的最終結局觀，基因工程和人工智能都是反人本的物本主義技術方式，雖然這兩種生物工藝學技術方式在功能上分別給予人類以更多的便利和好處，但其已經給予的或可能給予的所有便利和好處，都不能抵消它的反人本性質和物本主義追求。比較來看，基因工程的反人本追求呈現為對人生命的神性內容的完全抽取，使之成為技術的制作物。在基因技術沒有產生之前，人作為向死而生的生命，“因生而活，為活而生且生生不息”的人生進程蘊含一種平常中的偉大、苦難中的倔強希望和孤獨中的愛與同情和悲憫，這是因為人的生命得之于天、受之于地、承之于血脈且最終形之于父母：對人類來講，任何個體生命的形成并來到這個世界上，都是天地人的共鑄共生共育的結果，即使是離開人間，也同樣以天地人同悲的方式相挽相送相悼相念?；蚬こ贪讶水斪髌魑飦頂[弄和制作，人可通過技術而被制造，也可運用技術而使之短命或長壽，更可因此而使之不顧善惡甚至喪失善惡，倫理、道德、善惡等必然在這一技術面前失去應有的功能與光彩。

與此不同，人工智能的反人本追求呈現為對體現個性、人格和情感特征的人性的消解，使之成為技術的承載物，人將越來越在存在和生存的兩個維度被日益發展的人工智能技術硬性地規訓為共性的存在物：在人工智能技術沒有產生之前，人與技術、人與技術物之間的關系，只是一種外在化的功能關系，這種外在化的功能關系通過“用”而獲得實質性定義，即只有人需要使用這一技術或技術工具時，它才與人發生直接的關聯性而獲得被使用的功能。比如，張三犁地時，犁才被張三所用;犁地的活兒終止，犁與張三之間“用”的關系自然解除。同時，人與技術、人與技術物之間的“用”，是由人的需要引發，所以人與技術、人與技術物之間“用”的功能關系的形成是人向技術、人向技術物的召喚，具體的技術、技術物均是應人之召而來締結成“用”的關系。所以，在人與技術、人與技術物之間，人始終是絕對的主體，技術、技術物始終是承受主體支配的受體。

以此為參照觀人工智能，它卻呈反向鋪開，從根本上改變人與技術、人與技術物之間“用”的關系格局。這種改變日漸從三個方面敞開：一是人與人工智能技術、人與智能物之間的關系，已不是單純的“用”的外在功能關系，而是越發構成一種內在性的存在關系。比如電話機，它是外在地存在著，只有當打電話時才用它;與此不同，置入身體的芯片卻是內在地存在，你用不用它都存在于你的身體之中。即使其技術或技術物并非置于你的身體中，它也仍然內在地存在于你的身體中，天網是一個典型的例子，小區里、大街上、市場中或者高速路上的攝像器，以及公共場所的人臉識別等，從物理形態學講，這些都是外在化于人的存在物，但卻內在地存在于每個個體的生命和生活中，無論走到哪里，你都無所逃遁，這就是真正意義上的“天網恢恢，疏而不漏”。二是人與人工智能技術、人與人工智能物之間“用”的功能關系形成主客顛倒模式，在人工智能全面挺進的進程中，將不再是人對技術、技術物的召喚，而是技術、技術物“不請自來”地反客為主。在這種主客顛倒模式中，人工智能技術、技術物成為召喚者，人成為應召者。典型的生活例子是手機，大多數人每日的生活無時不在等待“在手”的那一機的召喚，一旦有任何間隙，人的本能行動就是看手機，哪怕是處于繁忙之中也會忍不住地不時翻閱手機，人就是這樣成為智能手機的俘虜卻樂在其中而不知情。人工智能化的體溫檢測是另一例子，當具有設定權的人或機構一旦設定進入何種情景化的時空場域就成為風險對象，那么無論你身體有無感染，只要你不慎經歷了這一被設定的時空場域，就會毫無疑問地成為必須接受再檢測的潛在風險對象甚至被隔離的對象。三是在傳統的技術和技術物時代，人是技術、技術物的絕對主體，這一主體定位決定了人在任何時候都呈現個性，具有對技術、技術物的主體權和對技術、技術物的使用或不使用的個性選擇及其使用權。人工智能技術卻反客為主，在更多的時候、更多的生活情景中成為人的主體，并以共性的和剛性的傲慢方式規訓人放棄個性、放棄選擇、放棄主體性。比如上班簽到，人工簽到方式和智能打卡方式之間的根本區別，就是前者具有一定選擇性和個性化表達，后者卻是千篇一律的共性方式。人臉識別技術是另一例子，一旦你的工作區域或生活小區安裝了人臉識別，不管你愿意不愿意，每天進出都得一遍又一遍地被識別，而且并不征求任何個體的意見，所有人的那一張張被反復識別的臉及其臉面變化的狀態總是不知不覺地作為信息被收集。這種已經將人馴化為習以為常之機械反映物的人工智能識別，不僅使人的個性完全被共性解構，而且人的權利侵犯也成為“合法秩序”建構的普遍方式。

技術，開啟人從物向人的道路，并成為解決人的存在安全和生活保障的根本社會方式。技術的這一人本定位服務于人并以此督促人為過上更好生活而努力，很自然地成為最為強勁的動力推動技術無阻礙地向前鋪開。在這一自我鋪開的歷史進程中，無論手工技術還是機械技術從未引發倫理的質疑。在人類認識史上，技術始終是好的，是合法的，二戰期間兩大陣營不遺余力地研發各種形式的新式殺傷武器，包括原子彈之類的核武器以及各種形式的細菌培養技術，就是二戰之后的現代人類進程中全球范圍內公開的核軍備競賽以及國際社會大大小小不同等級和級別的病毒實驗室對各種新式技術的研發，即使引發質疑，也是質疑技術研發主體（比如企業、政府機構或國家）。“技術總是好的”這一絕對主流觀念，從技術誕生開始便一直伴隨技術發展的歷史而根深蒂固，即使有所懷疑或反思，也微不足道。海德格爾曾從技術本性角度考察技術的“座架”功能，埃呂爾對“技術自主”性的思考，芒福德提出“巨機器”的社會理論以及法蘭克福學派提出“科技異化”，揭示“技術的解放力量轉而成了解放的桎梏”，①技術不僅造就了單向度的社會，也生產出“單向度的人”的反思。但這些反思技術的理性思考及其由此形成的理論，相對于社會市場以及人的生活對技術的需求而言，其作用甚微，發展技術既是進步的標志，也是社會正能量的象征，更是絕對合法和合德的代名詞。技術界和實業界的“技術無罪”論②和為技術界、實業界無限度地開發新技術鼓掌與歡呼的“技術向善”論，③也很自然地具有廣闊的市場平臺和深厚的傳統土壤。雖然如此，人工智能（包括基因工程）帶動起來的根本社會問題終究會引來廣泛的正視，這種正視將“技術向善”或“技術向惡”的問題突顯出來。

技術“向善”或“向惡”的問題，與技術“有罪”或“無罪”的問題互為證明：技術向善意味著技術“無罪”，技術“無罪”也意味著技術“向善”;反之亦然。然而，技術到底是向善（無罪）還是向惡（有罪），不能以技術的功能為判斷論據，應該以技術開發的“度”為判斷依據，技術開發的“度”是由技術的動機和目的所規定和標識，它規定人類的技術沒有抽象的善或惡的問題，更沒有抽象的“技術中性”問題：技術始終帶有傾向性，或者善或者惡，這種或善或惡的傾向性是具體的技術的動機和目的投射。以此審視人工智能，其根本的倫理困境敞開為如下兩個方面：

第一個方面：人工智能開發逾度帶動的倫理困境。如前所述，技術作為人從物走向人并不斷使人成為人的社會方式，它得以產生的動機和目的，就是通過“利用自然”來服務于人。技術的這一動機和目的構成技術研發之“度”，在其度內，技術研發就呈善的朝向;逾越其度，技術研發就呈惡的朝向。比如二戰期間德國法西斯研發的毒氣技術，日本法西斯研發的細菌技術，其無論在動機上還是在目的上都不是服務于人，而是要殘害和消滅人，并通過殘害和消滅人來實現法西斯主義者征服世界、統治世界的帝國野心，所以無論從哪個角度審查這些技術，它都是惡的，其所呈現出來的也必定只是惡。以此觀人工智能技術的研發，它的動機和目的本身逾越了技術自身之度，因為人工智能技術不是“利用自然”來服務于人，而是利用人的生物大腦來服務于人，即將人的生物大腦作為資源開發的對象來予以研發，并以此開拓新資源市場，建構新的經濟增長方式，探求新的社會發展方式和競爭力。所以，在人工智能技術研發的動機和目標體系中，人不是主體，而是客體，是有待開發的物;其也不是以服務人為目的，而是將人變成以實現社會發展為目的的手段和工具。人工智能這種以開發人的生物大腦來促進社會發展的技術方式，從根本上顛倒了技術“‘利用自然’服務于人”的倫理關系。在這種被顛倒的倫理關系中，其根本的倫理困境不是人工智能機器是否具有主體性的問題，也不是人工智能研發主體如何合倫理的問題，而是人工智能技術本身如何合人、合人性的問題。要解決這個問題，需要將其顛倒了的倫理關系重新顛倒過來，使人成為人工智能技術的主體。因為技術產生于人從物的世界里面走出來而成為人的需要，是使（動物的）人成為（文化和文明）人的根本方式、手段和工具。技術與人之間的這一原本性定格要求人必須成為技術的主體，成為技術服務的主體，技術只能成為人成就自己和不斷成就自己的工具、手段、方式。人是技術的主體這一本原性認知和意識必須構成人工智能技術開發的動機和目的設定的坐標。

然而，對人工智能技術來講，要它將業已顛倒了的倫理關系重新顛倒過來，唯一正確的方式是中止人工智能技術的研發，但這在事實上不可能。面對其不可能中止的狀況，退而求其次的辦法只能是將“開發人的生物大腦來促進社會發展”的人工智能研發限制在人的生物大腦的智商層面，即將人工智能技術研發的最后邊界嚴格地限定在人的生物大腦的智商領域，禁止窺視人的情商機制和心商秘密。只有如此，才可真正保障人在人工智能技術研發和運用兩個方面的主體地位。這需要奠定兩個方面的基礎性認知：一是人的生物大腦的構成及其人本進化的功能體系;二是人工智能研發突破邊界約束可能造成的最終后果。

首先看人的生物大腦的構成及進化敞開其人本取向的功能體系。在人的身體體系中，進化得最快的生物大腦，其物質實體（即物理形態和生物形態）是人腦，其精神實體卻是內駐于人腦中的心智，它由智商、情商、心商三部分構成。在人的心智構成中，智商主精神，其核心是意識和思維;情商主情感，其核心是以情緒鋪展形態和導向機制的潛意識和無意識;心商主心靈，其核心是自由意志、靈魂和生命激情。① 從主體觀，人從物向人進化從而使人成為真正意義的人，就是心智的開啟（即“啟蒙”）。但在心智開啟的歷程中，智商是最初進化的部分，因為智商居于人的心智表層，也是人與存在世界、人與物、人與變化和運動直接交道、直接對接、直接應對的主體性構成，人謀求現實的存在安全和生活保障，要求智商的快速進化和發展，所以，智商的進化和發展從根本上決定了人謀求存在安全和生活保障的程度和水準，人的智商進化得越快、發展的水準越高，人謀求解決存在安全和生活保障的水平就越高。在人的心智領域，進化得最緩慢的是人的心商，因為心商是人的心智中最堅硬、最頑強、最具有自我持存的不變性的部分。從存在世界的“變中不變”和“不變中變”之現象與本體交互運動角度審視人的心智世界，它既體現“不變中變”的現象性，也體現“變中不變”的本體性，而智商卻更多地體現心智世界中“不變中變”的因素，與此不同，心商則更多地體現心智世界中“變中不變”的因素。心商之所以具有如此的自我持存的不變性，是因為它能以直觀的方式直接交道、直接對接、直接應對自然世界中的本體存在、宇宙世界中的神韻存在、生命世界中的靈性常在的永恒結構、元本體。所以，它構成人最終獲得神性而與萬物本質區別的根本方面。比較言之，在人的心智世界里，進化所成的智商是人獲得人性而成為人的根本標志，進化所成的心商卻是人獲得神性而成為大人的根本標志。在智商與心商相向生生共運存在的框架結構中，情商的進化取決于智商進化與心商進化的會通程度，智商進化與心靈進化的會通程度越高，情商的進化速度越快、水準越高;反之，智商進化與心商進化的會通程度越低，甚至其進化各行其道或相互撕裂，情商的進化總是處于自我扭曲或被迫扭曲的狀態，在這種存在狀態中，生物性的本能沖動往往取代心商而構成行為的決策機制。心商居于人心智世界的至深領域，通過情商而與智商發生關聯并釋放功能。人的智商始終向存在世界敞開，啟動意識和思維應對外部世界的不息變化，處理來自外部世界的各種信息，將以為有用的內容向情商世界輸送，通過情商的稽查而將有用的信息運達于心商領域予以鑄造;同時，智商面對存在世界謀求解決存在安全和生活保障等根本問題而需要心商的定奪，也要經歷情商打開智商與心商的會商通道，心商構成智商的最終決策機制，但又通過情商而賦予智商執行的個性和方法。

其次看人工智能無限制開發人的生物大腦的進路及其后果?？陀^地看，人工智能的歷史雖然很短，但發展已跨越“弱人工智能”（Artificial Narrow Intelligence）階段而快速研發強人工智能（Artificial General Intelligence）并向超人工智能（Artificial Super Intelligence）方向進發。人工智能研發的“弱”階段，實是模擬人的生物大腦的邏輯運演規律階段;人工智能從“弱”起步進入“強”的領域，其主攻方向是模擬人的生物大腦的抽象思維原理及破譯其內在運行密碼。人工智能研發一旦進入探究人的抽象思維原理和破譯的人抽象思維運行密碼的領域，也就必然直逼人的情感—心靈領域。目前，人工智能研發已向人的情商領域邁進，并在人工情感方面下功夫，不僅要努力破解人的情感運行的機制和密碼，更企圖破譯人的心靈密碼。從人工智能研發的進程及態勢觀，其雄心勃勃的不可逆方向就是徹底攻破人成為人的最終防線，即掌握人的心靈機制并破譯人的心商密碼。客觀地看，“意識地思維是人區別動物的根本標志，但相對人造物智能機器言，意識地思維構筑起人的第一道防線;人性的情感，則構筑起人的第二道防線;內聚神性意向的心靈卻構筑起人的第三道防線。人工智能研發從弱人工智能向強人工智能方向鋪開，表明人工智能機從邏輯思維（概念、判斷、推理）起步獲得了抽象思維（分析、歸納、綜合）能力，突破了人的第一道防線：世界頂尖圍棋大師敗給AlphaGo，不僅表明在圍棋上，人類永遠戰勝不了AlphaGo，更重要的是，當研發者為智能機設計了學習程序，它可通過程序性學習而迅速具備自主性的深度學習能力，這種深度學習能力的迅速提升意味著智能機將走向對人腦之‘智’的整體性超越而進入人的‘情感’領域?！溥M軍方向，是進入人的情商與心商的領域，探索其情感和心靈的邊界，也即是探索人成為人的情感邊界和人成為神的心靈邊界。人工智能的這一努力，展示了人類自身的根本存在危機。因為，強人工智能的研發如果不遭遇人設條件阻礙的話，其不可逆方向是必然突破人的最后防線而獲得心靈功能，這時候，生物人類的時代將必然地結束?！雹?/p>

綜上，將人工智能研發限定在智商領域，是為了保證人工智能技術只成為人的服務工具，人始終在技術面前保持主體地位。以此觀之，將人工智能研發設定在人的智商領域的實質，是確立人工智能的限度開發法則，在人與智能技術、人與智能機器之間劃一條明確的、在任何情況下絕不能突破的“紅線”。這條“紅線”就是人類在人工智能技術和智能機器面前的“絕對安全線”，一旦突破這條紅線，人工智能研發就有可能攻破人的情感防線和心靈防線，破譯人的情商密碼和心商密碼，作為與萬物區別而享有神性存在光榮的人類，就會不可逆轉地淪陷于人工智能機器的奴役之中，AlphaGo血洗世界圍棋高手造成人間再無圍棋冠軍的結局，或許構成人工智能無限制研發必然導致人類未來淪陷于機器奴役的預告方式。

確立以人的智商為邊界的限度開發法則，實是從三個方面規訓人工智能技術的研發：第一，人工智能技術研發必須將所有智能產品的自主性能力降低到最低限度。這一“最低限度”是指所研發出來的智能產品只能成為“一般意義的上手工具”，它可具有嚴格程序設計的邏輯思維能力，而不應該具有抽象思維的能力和任何形式的自主性調整能力，即不能賦予它“一旦機器的一部分啟動，那么該機器就根據外部環境進行自我反饋運行，而具備在一定時間內不受外部控制的能力”。② 第二，人工智能研發必須嚴格禁止勘探人類存在的邊界，即絕不能賦予智能機器勘探人類存在的身體邊界、精神邊界和心靈邊界的能力。如果人工智能研發無視這一人的身心邊界法則，那么所研發出來的智能產品“將相當迅速地取代我們的存在?！雹倨淙?，人工智能研發必須禁止賦予智能產品制定規則的潛能和使其潛能轉換成規則的能力。因為從根本講，人類與人工智能的防線，目前有兩個：一是制定規則，二是探索邊界。人工智能目前不能制定規則，是在按照人制定出來的規則行事，但并不意味著它始終會按照人的規則行事，因為目前全球性競爭開發人工智能技術正在不遺余力地攻克人的情感領域和心靈世界，在這種狀況下，人類的盲目樂觀會使其喪失有限度地發展人工智能的理智，因而，也就從根本上不能保證無限制研發的人工智能有制定規則的能力。反之，能保證人工智能不具備制定規則的能力的唯一的絕對前提，就是人工智能技術的研發只能限定在人的智商領域，其基本方法是嚴格地限制智能產品的自主學習能力。

第二個方面：人工智能技術運用逾度帶動的倫理困境。人工智能研發逾度必然帶動人工智能技術運用的逾度，其逾度造成的倫理困境敞開為兩個維度：一種是可能性維度，即人工智能研發若不制定共守的限度法則，不設定共守的研發邊界，其自由競爭研發一旦跨越人的智商邊界而破譯人的情感密碼和心靈密碼，必然使其技術運用沒有邊界，最終將造成人工智能奴役人亦沒有限度。一種是現實性維度，人工智能研發即或遵從共守的限度法則并設定共守的邊界——將人工智能技術限定在模擬人的智商領域——也并不能保證人能在任何時候避免淪為工具的命運而成為人工智能技術的主體。這是因為人工智能是不同于以前的任何技術方式的智能技術，是智能工具，這一特點使人工智能具有更為廣泛的甚至是沒有限度和邊界的使用范圍。使用者一旦無限度地使用它，它就會發揮無限度無邊界的功能。當有限和有邊界的人工智能技術和智能工具通過人為而發揮無限度無邊界的功能時，既可拓展服務人的范圍，為人的存在和生活提供更多的便利和好處，更可能強制性地限制、扭曲人的存在和生活，使人工智能技術淪為奴役人的工具。以道德增強為例，現有的人工智能技術已經無意地在某些方面實現了個體和社會兩個維度的道德增強。入夜偷盜以及在各種公共場所（比如機場、車站、公交車上、商店等）的行竊，在過去是屢禁難止，但自從有了天網，有了遍布于商店、居住小區、大街小巷的攝像頭，公共場所的扒手和夜間入室的小偷幾乎絕跡。這種現象表明人工智能技術的運用確實可以起到增強個人道德和社會道德的作用。又比如，亂吐亂扔是國人幾千年難改的惡習，如果在現有的天網體系中設定一個亂吐亂扔的自動懲罰算法機制，很快就會改變這樣的社會惡習。同樣，貪污腐敗是一個令人異常頭痛的社會痼疾，如果運用現有的人工智能技術設計出一套自動化的監察系統，難以醫治的貪腐毒瘤也會得到根治。

對人工智能技術的正當運用，可以增強道德，提升社會文明。反之，對人工智能技術的逾度運用，則可能解構道德，降低社會文明，并且扭曲人性，破壞平等和公正，消滅隱私，降解人的生存、自由和幸福指數。比如人臉識別、攝像頭監控等技術若被無邊界地運用，可能會造成如上各種狀況的出現，人工智能技術與人的主體存在之間必然產生倫理上的矛盾和沖突，解決此一倫理上的矛盾和沖突實是相當困難，因為這并不只是一個技術與倫理的問題，而是關聯社會各因素產生聯動制約效應的問題，不僅要求設計共守的人工智能研發邊界法則，也要求建立共守的人工智能技術運用邊界法則，以不傷害人共通的人性，在此基礎上確保法權范圍內的個性自由和隱私權利。當然這更需要以之為基本要求的相關制度的構建和法律建設。從根本講，只有將人工智能技術的研發和運用作為根本的制度和法律問題納入以權利為準則的制度體系和以法權為準則的法律體系的建設之中，探求人工智能研發和運用所面臨的根本倫理困境的解決之道才獲得可能性。

作者單位：四川師范大學倫理學研究所

責任編輯：王曉潔