人工智能：道德進化的新引擎及其風險應對

陳萬球 長沙理工大學馬克思主義學院院長、教授、博士生導師

新技術革命書寫了人類道德進步的新范式，不僅加快了道德進化的速率，還把道德還原成一種技術性存在。隨著人工智能在技術領域的全線占領，由外而內，從肉體到精神，人的道德力得到巨大釋放，從 “一階道德”到 “二階道德”再到 “三階道德”，傳統道德進化的抑制感被突破，技術化道德智能系統正在催生道德進化的新路徑。隨著人工智能的步伐加快，道德AI超越個體演化成為高效、理性、精準的 “道德導航器”。道德AI是一種技術性的存在物，使人具有一顆 “良芯”，是智能化道德進步實踐新形式，但同時也帶來了前所未有的道德隱患和社會風險。

1 人工智能：道德進步的新引擎

人工智能將幫助人們做出道德決定，這并不是道德幻象?？茖W正在把我們的生命升級為一個更高的操作系統，運用技術推動人類的道德進步成為道德發展進步的一種嶄新方式。正如家庭AI可以幫助腿部殘疾的人行動自如，法律AI幫助公民解決法律煩惱，教師AI可以幫助人們獲取豐富知識一樣，道德AI——道德人工智能體可以收集信息參與道德咨詢，提升人的道德判斷能力，幫助人們破解道德兩難問題，業已成為繼生物醫學技術增強人類道德之后引領人類道德進步的新引擎。不僅如此，超越人類的限制，具有道德智慧的AI還可能通過人機接口無創傷地 “走”進人體，幫助人們做出各種道德決定。

從道德演化史看，人類道德進步最初是通過傳統習慣、學校教育、自我修煉等方式推進，這種方式可以稱為 “一階道德”，其特點是道德進步緩慢、技術不介入。隨著生物醫學技術的發展，通過注射、靶向藥物、深度腦部刺激等，抑制、治療或增強人的道德情感，改善道德動機，提升人的道德品質，這種方式可以稱為 “二階道德”，其特點是道德進步迅速、技術初步介入、還原主義和物理主義機理。這種機理強調道德進步有其生理基礎，道德行為和道德品質可以還原成人的集體的連續活動，改善人的 “道德基因”，就可以改善人的道德行為。隨著人工智能的崛起，技術對道德的深度干預，通過人機接口等方式改變人的道德認知，提升道德水平，這種方式可以稱為 “三階道德”，其特點是道德提升高效、技術深度介入、人機合一機理。這種機理強調道德可以像知識一樣被機器傳授給人類，智能化道德增強制作 “道德芯片”嵌入人體，作為人的道德參謀和道德顧問出現，咨詢和幫助人進行道德判斷，做出道德選擇。從道德進化本質來看，從 “一階道德”到 “二階道德”再到 “三階道德”，傳統道德進化的抑制感被突破，實現了道德演化從以 “純粹感性 (道法自然)”為重點，到以 “純粹理性” (技術淺層干預)為重點，再到以 “實踐理性 (技術深度干預)”為重點的框架重大轉換。

人類決策的正確與否往往取決于信息的系統性和完整性。人機相聯， “人腦”與 “外腦”有機結合，構建起功能強大的網絡信息體系，將為道德行為決策提供新參照，能夠彌補以往個人決策的不足，提高個體的智能化評估和輔助道德決策能力，極大地延展人的道德力。新一代 “道德芯片”將嵌入人體，就像 “知識芯片”嵌入人體一樣，幫助人類認知世界和改造世界。道德AI可以發揮道德環境監測者、道德組織者、道德指南針和道德顧問四種角色功能。作為道德環境監測者，道德AI可以持續監控人們的身心狀態及其周圍環境，收集、整理、分析、評估人們的生理、心理和環境的復雜信息數據，并向人們提出相應的道德決策建議。作為道德組織者，道德AI協助人們規劃設計、過程監測和行為實現，用以達成特定的道德目標。作為道德指南針，道德AI發揮一個公正中立的道德反思提示。當人們面臨道德兩難選擇時，道德AI會通過相關的問題來幫助客戶進行道德思考。作為道德顧問，人們可以向道德AI詢問關于他應該采取的行動的道德建議。無論哪一種功能的發揮，道德AI都將成為人們道德決策的良師益友。

2 技術決定論：智能化道德的風險

隨著智能化道德的系統性實現，給人類帶來了喜悅，也帶來了憂思。無限延展的道德AI，不僅是新興技術發展的前沿，亦是道德危機生成的新場域。

一是 “經濟決定論”與 “技術決定論”博弈。馬克思主張，一切道德上的興衰起伏、進退消長，從根本上源于社會經濟關系的變革。顯然，馬克思主張 “經濟決定論”，認為經濟關系決定道德的發展。隨著技術的公共性介入、道德AI的廣泛深入發展，道德 “技術決定論”的影響在不斷擴大。在 “經濟決定論”的框架下，技術通過變革生產方式、生產組織形式和教育組織形式，改變社會生活來影響道德的進步，技術促進道德進步的空間是有限的，手段是間接的。在 “技術決定論”的框架下，道德AI對道德進步是直接的、無限的：一方面，道德人工智能體直接影響人的道德決策，而不是要通過改變社會生活繼而來改變道德；另一方面，人工智能不是改寫道德的自然屬性，把道德還原成自然之物，而是企圖改變道德社會屬性，建構一種技術中介為推進器的道德進化模式。這樣，在 “技術決定論”干預下，從過去以教育和自我修煉為主導的道德進步模式演變成技術主導的道德進化模式，從 “生產與交換的經濟關系中汲取自己的道德觀念”的范式演變成從技術人工物中汲取道德觀念范式。 “技術決定論”挑戰 “經濟決定論”，兩者的理論博弈將持續演變。

二是道德的自進化能力與自識別能力降低。就像計算機的出現導致人的計算能力衰退，打字機的出現導致人的書寫能力下降一樣，道德AI助推人類進行道德思考和道德判斷，必將會導致人類道德的自進化能力和自識別能力的降低。在優化的信息、合理的判斷、理性的分析基礎上所做的道德判斷迅速提升人的道德水平，人們不再需要經過艱苦的理性煎熬和道德沉思就可以敏銳地做出決策，這是何等的幸事！然而，就像一枚錢幣有兩面一樣，一種道德的進步往往以另一種道德退步為代價。人的某種功能進步是以另外某種功能退步為代價，助推道德決策功能的增強，就意味著自我道德決策能力下降：人的道德決策的依賴性增長而獨立性降低。人始終是道德判斷的主體，而道德AI挑戰人的道德主體地位，可能使人成為被 “喂食”道德成果的 “受體”，從而喪失了主體性。

三是自由空間被擠壓與道德價值貶低。道德自由是人類道德的理想存在狀態，人類道德自由經歷了一個由大到小、不斷萎縮的過程，其中技術作為一種外沖的力量，不斷擠壓道德自由空間。在 “一階道德”階段，道德自由與人身自由結合，書寫了道德自由的輝煌歷史，道德自由是一種常態，技術擠壓道德進步成為偶然。在 “二階道德”階段，技術擠壓道德自由空間成為一種常態，技術通過改變人的自然生理機理而改變人的道德本性，人成為技術的被動受體。在 “三階道德”階段，道德成為人工智能操控下的一種 “玩具”，此時，人類道德自由是一種奢侈品。道德是人格的神，一直以來人們對道德自律給予了 “有加無已的贊嘆和敬畏”。在強大的人工智能淫威下，道德的人格神地位被降格、被改寫。隨著大數據的匯總分析、AI技術的深入，人類道德思維將會完全破解， “讀心術”將使人類毫無隱私可言，個體思維行蹤也將掌握在擁有AI 技術的人手中。馬克思說過，未來社會如果連人類最基本的想法都得不到保護，就等于剝奪了人類的自由，就不能稱之為真正意義上的 “人”。此外還存在道德隱私的風險問題，道德AI可能會同時為不同的客戶服務。道德AI在進行道德算法、深度學習以及在實施精準化的道德導航時，可能會把隱私分享給其他客戶，這樣可能會造成用戶隱私困惑。

上述智能化道德風險只是冰山一角，多種風險的相互生發、相互作用，共同演繹出一幅智能化道德風險的危機圖景。智能化道德導航的道德風險，實質上是人本身的風險，是人的自身問題在機器身上的延伸和投影。換言之，智能化道德的風險其實折射出的是人類自我道德的風險問題。從根本上化解人與機器的矛盾，還要回到人本身，多措并舉、綜合施策。

3 化解風險：構建基于人性化的準則框架

涵括智能化道德在內的人工智能是當代最強大的社會變革力量，勢必會改變人們的社會結構，其衍生的道德風險不能回避，必須主動回應，否則在人與機器的博弈中，人們就有可能會悲慘地出局。構建基于人性化的道德準則框架，是化解風險的理性選擇。

一是實施自主性與可解讀性的基本原則。自主性即 “保留人的尊嚴和道德的神圣性”，道德AI的開發應用必將涉及人的尊嚴和道德的神圣性。人的尊嚴和道德不能從屬于人工智能，也不受其脅迫。在與道德人工智能系統的交互中，人類必須保持完整有效的道德自決權。這就要求人工智能的使用者有權決定是否遵守道德AI的直接或間接道德決策。有權知曉與道德AI智能系統進行直接或間接互動的知識，并有權選擇拒絕或退出?？山庾x性即 “透明操作”，透明度是道德AI智能系統及其開發者贏得并維持信任的關鍵。從道德立場上來看，技術和商業模式的透明度都十分重要。技術上的透明度，是指智能系統要被理解能力和專業水平各不相同的人士所審查和理解。商業模式上的透明度，是指道德智能系統開發者與技術實施者要明確告知其意圖?？山庾x是個體在與技術交互時實現知情同意的前提，可解讀還要求必須采取追責措施。

二是基于人本的倫理嵌入和基于共生的深度學習策略。計算機領域有一句名言：垃圾進，垃圾出。就是說，錯誤的數據輸入計算機系統，計算機一定會輸出錯誤的結果。道德人工智能體是人設計的，其倫理風險是人的社會關系的反映。在人工智能深度干預人類決策的時代，確保人工智能的研發應用始終與人類價值觀一致，至關重要。為了避免把道德AI變成沒有靈魂的 “兇殘機器”， “康德式機器” (Kantian Machine)應運而生。為了確保道德AI發展不偏離正常軌道，必須始終堅守人類的價值觀，必須始終牢記愛因斯坦 “科技以人為本”的告誡。笛卡爾說過，實物機器單獨永遠不可能有道德。因此，在人工智能時代協調好人機關系，讓機器具有道德，還必須實施機器深度學習策略。人性化的深度學習是機器人的進步方法，也是解決智能化道德增強風險的核心。倡導人工智能在人機共生的基礎上，讓機器人習得某些基本的道德感是很有必要的，而且是可行的。要使人工智能更好地服務于人類，實現 “我們制造工具，而工具讓我們走得更遠”的愿望，必須要轉變思維，從對機器道德的要求回歸到對人類自我道德的要求，在善待自己的同時也善待機器。唯其如此，才能創造一個人機和諧共處的美好時代。

三是拓展國際-行業-立法的硬約束思路。倫理嵌入能框住道德AI嗎？把道德決策交給智能化系統合適嗎？顯然，自主性原則與倫理嵌入還不夠，規范道德人工智能體的設計、生產和使用的各個環節，尤其需要在智能化道德的硬性語境中落實道德價值，這才是化解道德AI風險的正道。人工道德智能體的硬約束需要從國際、行業和立法三個層面入手。為了做好道德AI風險管控，國際社會以及利益相關方必須聯合起來，推動人工智能的全球治理。聯合國應采取務實的實質性行動，共同制定道德AI研發與應用的邊界，確立道德AI行為框架，并適時調整。同時，道德AI應當成立行業協會，通過行業內部協商共同制定AI行業發展的倫理標準，發揮行業協會的自律功能，并確立道德AI行業退出機制。此外，高度進化的道德AI具有自主行為和智能信息處理能力，因此應盡快敦促道德AI研發與應用的法律法規出臺，發揮國家強制力的硬約束功能，健全道德AI的他律機制，為智能化道德的健康發展提供法律支撐。