人工智能道德增強的倫理問題研究

摘"要：隨著現代科學技術的發展，人類道德的有限性逐漸凸顯，以道德教化為主的傳統道德增強和以技術手段為主的生物醫學道德增強，無法產生令人滿意的效果。鑒于此，一些學者繼續探索新的途徑來實現道德增強的愿望。原則上來講，人工智能或許是一個不錯選擇，既不會增強周期漫長，又不會直接運用醫學手段干預身體。人工智能道德增強主要有徹底增強、輔助增強和蘇格拉底式道德增強三條進路，但其在實際操作過程中還需要很長一段路要走。

關鍵詞：道德增強；人工智能；徹底增強；輔助增強；蘇格拉底式道德增強

中圖分類號：TB"""""文獻標識碼：A""""""doi：10.19311/j.cnki.16723198.2024.17.087

人類的發展史就是人類的增強史，人類增強從原始社會就存在，并從未停止。其中，以“道德上更好”為目標的道德增強是數十年來倫理學領域中極具爭議的熱點問題。社會文明要生存，道德必須要跟上科學的進步。當前，我們面對的是一個科技日益發達的世界，而人類的道德水平卻沒有進化到該有的程度，自然道德無法應對現代社會技術發展所帶來的嚴峻挑戰和威脅，因此尋求新的道德增強方法迫在眉睫。

1"人類道德的有限性

由于人類是在小而緊密的群體中進化的，而技術只能影響我們祖先的周圍環境，所以進化出來的道德心理主要是“短視的（myopic）”。人類的道德心理在很多方面都受到了限制，都傾向于有限的認知和利他主義。許多的道德決定都是建立在直覺和本能反應之上，而不是以理性和慎重的方式進行。除此之外，責任分散效應即當個體處在群體當中時，個體的責任感就會由群體來分擔，造成責任分散，也與人類道德的有限性息息相關。

人類社會一直在尋找讓公民變得更有道德的方法。與同時期的科學進步相比，依靠指導、法律和教育等非生物手段來強化道德的傳統道德增強（traditional"moral"enhancement），往往是緩慢而有限的。埃里克·迪特里希（Eric"Dietrich）聲稱，人類可以在道德上進步，但是有些不道德的行為，如撒謊、謀殺、虐待兒童和基于種族、性別、性取向等的歧視，可能無法從中解脫出來。盡管學校和社會一直在教育社會成員向善，但不可否認這些行為仍繼續發生。人類需要新的方法來完成更高層次的道德提升，使之符合目前社會的需要。

2"生物醫學道德增強的困境

在2008年，以英格瑪·佩爾森（Ingmar"Persson）和朱利安·賽沃萊斯庫（Julian"Savulescu）為首的西方學者就提出了生物醫學道德增強（biomedical"moral"enhancement）的概念。與傳統道德增強不同，它主要以生物醫學干預為主，使用藥物、深度腦刺激和基因選擇等生物手段來提高人類的道德水平。他們認為，通過對人類行為的基因和神經生物學基礎的科學探索，可以加速道德學說的動機內化。這種干預可以迅速產生效果，有效幫助人類超越自身局限性，更好應對威脅人類社會的巨大問題。

當然，這種方法也是危險的。在技術安全性上，常見的就是輕微的副作用，例如使用血清素可能會頭暈、惡心，甚至會出現自殺的傾向。在人格同一性上，隨意改變性情，會造成被增強主體對自我認同的斷裂，社會關系的瓦解。在自由意志上，會剝奪主體的自然權利，限制主體的道德自主性，使主體的自由意志受到破壞。在情感復雜性上，道德情感難以量化，每個人都是獨立的個體。既然生物醫學技術不是一顆“萬靈藥”，那有必要去探尋一條更有說服力的新路徑。

3"人工智能道德增強的優勢

隨著現代科學技術的高速發展，人工智能已經逐漸成為人類生活中極其重要的一部分，它強大的計算和數據處理能力能很好地幫助人類解決自身的局限和不足。在不久的將來，預計人工智能會在很多領域達到并超越人類，包括但不限于交通、教育、工業等，其未來潛力無法估量。既然人工智能的發展前景和應用范圍如此廣闊，那么將其運用于道德領域協助人類進行道德選擇和判斷，自然無可厚非。

假設你有保護環境的道德原則，你也愿意將垃圾進行分類，但是你不知道垃圾分類的相關知識，因此你經常會把垃圾扔錯垃圾桶，違背自己的道德標準。現在有了人工智能技術，它可以快速地搜集信息，給你提供最優的行動方案。這種非侵入的外部道德增強技術既不會通過藥物手段改變人體內部的生物因素；也不會通過非藥物手段直接刺激人的大腦深部，干預人的基因。在此基礎上，有關人工智能道德增強的不同方案被連續提出，為了更好地提升人類道德，接下來將對不同方案進行梳理和總結。

4"人工智能道德增強的3種哲學思考

4.1"徹底增強：道德決策機器

徹底增強（exhaustive"enhancement）的強道德人工智能，旨在制造一個當人類遇到科技發展迅猛但道德實踐卻沒有跟上的道德滯后問題時，能夠替代人類作出正確選擇的道德決策機器。此方法是將道德判斷完全交給人工智能機器，從而使其轉化為獨立的道德決策者。迪特里希對道德決策機器的發展潛力持支持樂觀態度，他認為我們應該創造一個更美好的世界，在這個世界里只有具備道德的機器居住，因為人類的道德本質是如此的脆弱，總會被各種局限所阻礙，而機器卻沒有這些弱點。所以一些專家想要通過創造優于人類道德能力的人工智能體來提升道德水平，它主要根據系統設計者所擁護的道德原則來指導人類的行為。只要道德決策機器的系統被輸入完成，我們所有的人，包括設計者本人，都需要遵循機器下發的指令去執行。

道德決策機器相較于人類更擅長進行道德判斷和道德選擇，以智能化和自動化為主要特征的人工智能技術使得機器作出的決定具有恒定的公正性和一致性，并且不受偏見、歧視和利己的影響。目前，機器在人類日常生活中變得愈來愈重要，它在各個領域都充當著道德決策輸出者的角色。在醫療保健應用方面，人工智能技術會在診斷和治療階段對患者提出更合理全面的建議，用來提升治療效果；在自動駕駛系統方面，人工智能技術會使用傳感器讓汽車實現自動駕駛，以減少交通事故發生率；在語音處理和識別方面，人工智能技術會通過語音助手查詢相關訊息，使我們的生活變得更加便捷。有了道德決策機器，我們不需要付出任何努力就能夠達到預期的道德增強效果，而且機器也會不厭其煩地為人類提供道德決策這一過程。

這種徹底增強的方案雖然給人類的道德提升帶來了新的可能，但是就當前社會而言，人類或許還沒有辦法做到將道德決策完全放心地交給機器。首先，由于多元主義（pluralism）的存在，我們到底應該采用哪種道德原則來指導系統的設計還沒有達成共識，因為無論是義務論還是其他道德理論，總會有人不同意。其次，道德決策機器的設計者會受到自身的限制犯一些編程編寫錯誤，而且外部環境因素引起的系統零件短路，也會影響機器的正常使用。再次，人工智能技術缺乏道德判斷所需要的情感敏感性，不能作出綜合的道德決策。最后，把道德的判斷權交給機器，會導致人類成為機器的附庸，失去道德自主權。從此，道德決策不再由人類作出，而是由機器作出，人類自身道德的增強將無從談起。

4.2"輔助增強：道德人工智能

與徹底增強的強道德人工智能完全服從道德決策機器不同，輔助增強（auxiliary"enhancement）的道德人工智能（moral"artificial"intelligence）則需要主體的進一步參與。賽沃萊斯庫和漢納·馬斯倫（Hannah"Maslen）認為，道德人工智能可以監測影響道德決策的物理和環境因素，可以識別并讓主體意識到自己的偏見，并可以根據主體的道德原則和價值觀等道德標準為主體提供正確的行動建議。第一，道德人工智能通過對主體生理、心理和環境狀態的持續監測，來提醒主體注意影響道德判斷的因素，它是一個道德環境監測者（moral"environment"monitor）。當監測到主體的疲勞程度會使其道德決策受損時，道德人工智能會提醒他。第二，道德人工智能可以幫助主體制定和實現特定的道德目標，它是一個道德組織者（moral"organiser）。第三，當主體面臨道德選擇時，道德人工智能將使用提問的形式來引導主體進行道德思考，并提示主體考慮特定情境的偏見，從而使主體做出最佳選擇，它是一個道德推動者（moral"prompter）。第四，主體可以向道德人工智能就其應該采取的行動過程尋求最佳行動方案的道德建議，它是一個道德建議者（moral"advisors）。

阿爾韋托·朱比利尼（Alberto"Giubilini）和賽沃萊斯庫進一步描述了一種可以用來增強人類道德決策的道德人工智能的形式即人工智能建議者（artificial"moral"advisor），它會根據人類輸入的道德原則和標準更快更有效的給主體提供道德建議。在面對道德抉擇時，人類往往希望能有道德專家來指導他，羅德里克·費斯（Roderick"Firth）據此提出了全知全能的理想觀察者（ideal"observer），可是這一理想的模型只能停留在理論層面上，沒有任何人類能夠符合。如果人類的理想觀察者是不存在的，那么創造一個人工智能建議者來充當理想觀察者也就無可厚非了。不同的是，人工智能建議者會尊重主體的道德自主性，它產生的任何形式都可以表達為：如果這是你的道德原則，那你應該去做這件事。

當然，人工智能建議者也引發了一系列質疑。一方面，人類在道德決策中發揮的作用過于消極被動。雖然人工智能建議者是在人類選定的道德原則下進行工作的，但是對于人類自身來說并沒有很好地理解系統所作出的建議和主體選定的道德原則之間有何聯系。這樣一來，一旦人工智能建議者出現故障，人類主體的道德水平就會退回到最開始。另一方面，當道德準則被主體選定之后，人工智能建議者在提供最佳建議的過程中只會考慮主體選定的道德價值觀，不會鼓勵人類去思考和了解其他。而人類在享受人工智能技術帶來便捷的同時，自然也不太可能主動去推翻自己原有的道德選擇。這種輔助增強的道德方案雖然一定程度上解決了道德決策機器帶來的問題，但從長遠來看會進一步加大對機器的依賴。

4.3"蘇格拉底式道德增強

弗朗西斯科·勞拉（Francisco"Lara）和詹·德克斯（Jan"Deckers）在人工智能建議者的基礎上提出了一種更為合理的方案，即蘇格拉底助手式人工智能道德增強，它主要是通過主體與系統與機器之間的持續交互，來增強人類道德。這種方法類似于蘇格拉底精神助產術，并不直接提供任何預先設計好的道德原則和價值觀，而是以對話的模式引導主體獨立思考，使主體在不斷地訓練過程中增強自我道德判斷的能力。也就是說，當人類遇到道德抉擇時不會一味地依賴人工智能，而是首先作出自己的道德判斷，然后將其判斷提交給智能系統進行審查，這時系統就像蘇格拉底一樣，向人類提出相關的問題，使人類獲得啟發，意識到最初的道德判斷并不是最優解，從而一步一步地實現主體自身的道德提升。

蘇格拉底式道德助手具備強大的規劃和決策能力，在設計機器程序之初，我們就在其中編入了一系列功能用以幫助道德主體做出道德判斷，并根據這些判斷促使人類最佳行為的產生。尤其是在外在經驗的支持、道德概念清晰度的梳理、邏輯準則論證的指導、主體道德決策合理性的判斷、增強對個人局限性的道德認識、對人類怎樣實施決策的建議等方面，憑借虛擬語音助手和人類進行對話，以此來提升主體的道德推理和思辨能力。蘇格拉底式道德助手的出現逐漸擺脫了道德主體對機器的依賴，與以往道德主體決策的消極被動不同，現在的人類通過與機器的對話獲得了更多的參與感。人類與機器的交互不僅是為了得到增強的結果，更是為了體會增強的過程，幫助主體學習道德推理，了解系統作出的建議和主體選定的道德原則之間的聯系。通過這種方式，既可以鍛煉人類增強道德所必需的認知技能，又可以激勵人類按照合理的判斷做事。

然而，蘇格拉底式道德增強在實際的操作過程中也遇到了很多困難。在道德領域，蘇格拉底式道德助手的存在并不會直接把人類主體變成一個至善至美者，因為它起到的只是輔助作用，不能繞過人類的道德動機去增強人類的道德水平。如果主體由于自身的情感而不愿意接受智能機器提供的最優建議，那么這項方案也就無法發揮任何作用。而且對于一些道德敗壞的人類來說，主體參與感的增加也會助長其作惡的可能。比如，虛擬語音助手是為了幫助人類作出正確的道德判斷，但是一些人會借助它的能力去不勞而獲，更有甚者會剽竊、會抄襲。此外，人類與機器的對話會延長主體做出道德選擇的時間，每一次的選擇都需要和智能助手進行大量的互動，這在現實生活中或許不太可能實現。

5"結語

人工智能道德增強不是為了取代人類的決策，而是通過一種新興技術幫助主體過上“道德上更好”的生活。只不過，有時人類所遇到的道德問題是極其復雜的，現有的技術水平還沒有辦法給出更好的答案。在未來的社會，隨著人工智能技術的進一步發展，可以預見，人類主體和人工智能的雙向互動不失為增強道德的一種可行方案。

參考文獻

［1］Savulescu"J，Persson"I.Moral"enhancement，freedom"and"the"god"machine[J].The"Monist，2012，95（3）：399421.

[2]Dietrich"E.Homo"sapiens"2.0：why"we"should"build"the"better"robots"of"our"nature[J].Journal"of"Experimental"＆"Theoretical"Artificial"Intelligence，2001，13（4）：323328.

[3]Persson"I，Savulescu"J.Unfit"for"the"future：the"need"for"moral"enhancement[M].Oxford：Oxford"University"Press，2012：107.

[4]Gips"J.Towards"the"ethical"robot[M].Cambridge：MIT"Press，1995：243252.

[5]Savulescu"J，Maslennbsp;H.Moral"enhancement"and"artificial"intelligence：moral"AI[J].Beyond"Artificial"Intelligence，2015（9）：7995.

[6]Giubilini"A，Savulescu"J.The"artificial"moral"advisor：the"“ideal"observer”"meets"artificial"intelligence[J].Philosophy"amp;"Technology，2018，31（2）：169188.

[7]Firth"R.Ethical"absolutism"and"the"ideal"observer[J].Philosophy"and"Phenomenological"Research，1952，12（3）：317345.

[8]Lara"F，Deckers"J.Artificial"intelligence"as"a"socratic"assistant"for"moral"enhancement[J].Neuroethics，2020，13（3）：275287.