困境與超越：人工智能的倫理審視

董子涵?任鳳琴

摘? 要：人工智能技術發展到21世紀，對現實社會的影響力與日俱增。但是，人工智能技術在帶給人們全新生活體驗的同時，也面臨著人權困境、道德困境、責任困境及代際困境等倫理困境，而人工智能倫理制度缺失、人類主體責任意識淡薄及人工智能技術發展欠缺，則是產生這些倫理問題的主要原因。文章針對人工智能技術面臨的倫理問題，提出價值引領、道德養成、制度規約及技術規范等對策，以期解決人工智能技術的倫理困境，引導人工智能朝著正確的方向發展。

關鍵詞：人工智能；倫理困境；倫理審視

中圖分類號：B82；TP18 文獻標識碼：A DOI：10.19881/j.cnki.1006-3676.2023.06.09

作者簡介：董子涵，女，1999年生，碩士研究生，研究方向：思想政治教育創新與發展研究。任鳳琴，女，1977年生，碩士，教授，碩士生導師，研究方向：思想政治教育。

“人工智能”自1956年在達特茅斯學會上被提出以來，歷經三次高潮、兩次寒冬，已成為21世紀最為前沿的技術之一。當前，人工智能技術在人類社會中扮演著“二重性”的角色：一方面，人工智能技術廣泛應用于現代社會的各個領域，以高效率、高質量、智能化的方式推動了人力勞動的解放，促進了生產技術的變革；另一方面，人工智能技術的發展對當前社會生產關系中的倫理關系產生了重要影響，并對現實的倫理原則和價值觀念造成了一定的沖擊，引發了諸多倫理道德問題。如何識別、防范、管理這些人工智能帶來的倫理風險，已成為人工智能時代的世紀難題。

一、人工智能面臨的倫理困境

人工智能的產生和發展為人們帶來了前所未有的便利和經濟效益，但其作為一種深度合成類技術，自身所攜帶的不確定性不容小覷，當其深度應用于人類社會生產生活中，必然會對當下的社會倫理關系產生一定的沖擊，引發人權倫理、道德倫理、責任倫理以及代際倫理等倫理困境，為將來社會發展埋下隱患。

（一）人工智能面臨的人權倫理困境

近代以來，“人工生命”的相繼問世，引發了關于人權倫理問題的探討。高速發展的人工智能科學，為之前只能重復簡單機械活動的機器人賦予了“人性”，使其成為擁有相當程度感知能力的“人性”智能機器人，而這些具有“人性”的智能機器人的出現，對“人權”造成了一定程度的挑戰，主要體現在以下3個方面：

第一，人工智能的發展削弱了人類的主體地位。《人類簡史》中提到，“人工智能技術的快速發展必然導致無用的階層的興起”，與之相對的是少數精英階層。[1]人工智能融入社會生產生活的方方面面，取代人們完成了大部分工作，而習慣于被人工智能輔助的大部分人，則會逐漸淪為“無用的階層”，這無疑是對人類主體性地位的一大挑戰。

第二，人工智能的發展威脅了人類的隱私安全。從當前人工智能的發展情況來看，其已經可以利用大數據收集匯總人類的日常對話及行為等簡單信息，從而對人類的思維想法進行解讀。同時，人類的行蹤也將會落入人工智能技術掌控者的眼中，毫無隱私可言。

第三，人工智能的發展，限制了人類自由而全面發展的權力。人工智能技術大規模應用于社會生產，促進了社會分工的細化，同時也提高了行業門檻，導致人們在日常工作、生活中只專注于某些領域的提升，喪失了全面發展的條件和意愿。在日常生活中，人工智能技術加持下的短視頻、直播行業方興未艾，各種粗制濫造的影視作品充斥著人們的生活。人們被裹挾其中卻不自知，久而久之，可能會喪失合理批判社會現實的能力，削弱人的主觀能動性，由“自由而全面發展的人”變成“單向度的人”。

（二）人工智能面臨的道德倫理困境

科學技術的進步，使互聯網時代成為過去，人類社會已經步入人工智能時代。人工智能技術不但能夠創造出模仿人類、具有智能化的產物，改變人類的生產生活方式，而且能夠觸發社會深層次聯系的重大變革。既然人工智能能夠引發人權問題的激烈討論，那么當人工智能體與人體愈加相似時，對其社會道德地位進行客觀定位就很有必要。

道德地位是人類區別于其他生物最主要的特質，當人工智能技術發展到一定高度，特別是被賦予了“人性”后，在道德地位層面，人類就沒有理由不賦予其相應的道德地位。而如果將其納入人類倫理道德體系內，就意味著人類對人工智能產品也具有了道德方面的義務與責任。不過，人工智能產品是否能夠承擔起相應的道德義務與道德責任，卻無從得知。

如果人類簡單否定人工智能產品的道德地位，就意味著人類可以用任意方式和手段對待它。例如，指使工廠中的智能機器人不分晝夜地進行繁復勞作，隨意羞辱或指責服務行業的智能機器人等。一旦這樣的場景在未來反復上演，人類將何以堅持傳統的道德倫理？人工智能技術產生的現實異化，不僅使人類難以確定對人工智能的定位，也削弱了人類作為倫理行為主體的影響力。

（三）人工智能面臨的責任倫理困境

人工智能技術發展產生的責任倫理困境，主要表現為由人工智能引發的事故責任難以判定。例如，近年來無人駕駛汽車發展較快，如果無人駕駛汽車在運行中引發交通事故，那么是由無人駕駛汽車制造商承擔責任，還是由無人駕駛汽車的操作者承擔責任？無人駕駛汽車作為沒有生命的個體，應如何判定或承擔相應的責任？現有的責任判定都是基于人的行為，至于人工智能的責任劃分，迄今為止沒有統一的定論和法律規定。

如今，人工智能已經融入生活的方方面面，在醫學領域中，如果為病人進行治療的機器人出現醫療事故，那么這個責任應該由誰來承擔？在工廠中大量使用機器人，造成失業率持續上升，這個責任又由誰來承擔？進一步來說，當人工智能技術發展到一定高度，人工智能越來越“智能”，這些超級智慧的機器人已經擁有學習能力和自我意識，那么出現問題，責任應該如何界定？責任倫理強調科學、公平地分配責任是社會良性運行的前提[2]。從當前的實際情況看，人工智能技術的確能夠深刻改變人類社會的生產生活，促進社會的數字化、智能化發展，但技術發展所引發的責任倫理困境也會在一定程度上阻礙智能技術與人類社會發展的共生關系。因此，人工智能的責任劃分問題仍有待進一步探討，如果要使人工智能技術得到長期穩定發展，那就要求在對技術進行考量時，將技術置于倫理框架內。

（四）人工智能面臨的代際倫理困境

社會倫理關系是一個縱橫交錯的倫理結構，對它可以從橫向的、共時的角度加以審視，也應該從縱向的、歷時的視角加以剖析。從縱向的、歷時的視角所揭示的社會倫理關系，具有明顯的代際特征，因此，這種倫理關系可用“代際倫理”來加以界定。[3]全球化進程的推進及科技的日益完善、成熟，使現代化的社會家庭結構隨之發生了翻天覆地的變化。在大范圍使用智能機器人的背景下，人類代和代之間產生的問題也更加明顯。

第一，溝通方面出現問題。帶有陪護功能的人工智能機器人進一步普及，推廣和使用范圍進一步擴大，人與人之間的交流與互動逐漸朝著智能陪護機器人和人類之間的交流、互動發展。人類對人工智能的依賴性越來越大，甚至對其尋求情感寄托，這將會嚴重阻礙人與人之間的交流往來，不利于人們的身心健康發展。

第二，可能會引發代際混亂問題。當前，人工智能依舊處于接受指令并執行的階段，現今仍處于弱人工智能時代。但同其他新興技術一樣，人工智能未來的發展仍然具有極大的不確定性。從代際倫理的角度說，如果智能機器人大量存在于人類社會體系中，沒有相關法律措施進行管理，就很容易產生社會群體代際混亂等方面的問題。事實上，這只是人工智能在倫理層面所出現問題的冰山一角，一旦人工智能技術發展到一定高度，具備了自我意識及自主學習能力后，人類的社會倫理將如何看待，人類的代際倫理又將如何發展，都將是人工智能所要面臨的困境難題。

二、人工智能倫理困境的成因

人工智能技術發展至今，已經不僅僅是一個獨立的技術系統，而是作為人類社會生產生活的一部分與政治、經濟、文化系統緊密相連。通過對人工智能發展所面臨的倫理困境追根溯源，探尋其產生倫理問題的根本原因在于人工智能監管規則缺失、人類主體責任意識淡薄以及人工智能技術發展欠缺，只有透過問題的表面究其本質，才能真正解決問題，突破困境。

（一）人工智能監管規則缺失

科學技術的發展要推動人類社會的進步，就必須符合社會道德的原則，即倫理規則。人工智能作為一種新興的科學技術，在發展過程中面臨著人權、道德、責任等倫理困境，僅僅依靠公眾輿論及科學家的自身約束，是無法突破這些困境的，還需要更有力的方式解決這些問題。

在人工智能發展的早期階段，美國科幻作家阿西莫夫就人工智能發展的技術規范問題提出了著名的“機器人學三定律”。[4]但隨著時代的發展和人工智能技術的不斷突破，關于人工智能技術的法律法規，卻尚未形成一個完備的法律體系。首先，對研發人工智能產品的相關人員、人工智能產品的相關運營商及人工智能產品的消費者，目前尚沒有明確的法律條文規定其所擁有的權利和義務，這在很大程度上將可能導致人工智能面臨道德責任主體、道德判斷等方面的倫理問題。其次，對人工智能產品不正當利用而產生的環境倫理問題、國際糾紛問題，尚沒有明確的法律條文及相關法律案例可供參考。最后，對人工智能技術發展的規范問題，尚未形成一套科學化、理論化、系統化的監督體系，人工智能產品的設計、研發及使用的監管方案缺失，既沒有國內外公認的驗收標準，也沒有人工智能技術的應用指南，這與人工智能技術的飛速發展是不相匹配的。

（二）人類主體責任意識淡薄

人類主體的責任意識不強，是導致人工智能時代面臨倫理困境的一大原因。一方面，科研人員作為人工智能技術的研發者，天然肩地負著部分社會責任，這就要求他們必須具備一定的職業責任感和道德責任感。而某些科研工作者受到政治因素與經濟利益的影響，忽視了應有的道德責任，不能以正確的價值導向指導其工作，從而導致倫理問題產生。人工智能在發展過程中產生的許多問題，是可以控制甚至避免的，但有些科研人員卻經受不住利益誘惑，缺乏職業責任感，將人工智能運用在不正當或存在倫理爭議的活動中，引發倫理問題。另一方面，人們研發人工智能技術的一大目的在于利用它，當人工智能的使用者責任感淡薄，道德感低下，也會引發一系列倫理問題。某些人工智能技術，如大數據技術、AI換臉技術、VR技術、AR技術等，其研發之初的目的在于方便人們的生產和生活，但某些使用者無視法律和道德的約束，利用大數據平臺等一系列人工智能技術竊取他人隱私、倒賣他人信息甚至“換臉”開展詐騙活動。人工智能作為高新科技，其本質是一種工具，對人們認識世界、改造世界的客觀活動起輔助作用，本身不具備“好”或者“壞”的性質，它所帶來的正面或負面外部效應都是由它的研發者和使用者決定。因此，有必要增強人類應用主體的責任意識、增強道德觀念，促使人工智能健康向上發展。

（三）人工智能技術發展欠缺

人工智能的應用，歸根結底是技術應用，人工智能技術發展的不完善也是導致人工智能面臨倫理問題的重要原因之一。一方面，人工智能技術還沒有發展完善，本身具有一定的局限性，導致事故頻發。當前，人工智能技術已經應用到各行各業當中，在為人類帶來便利的同時，也引發了許多事故災難，這表明當前人工智能技術的發展并不完善。當然，人工智能的發展時間較短，其技術發展仍處于初級水平，也使當前的技術還無法解決其出現的倫理問題。另一方面，人們過度追求經濟利益，也導致了對技術的價值理念認識產生偏差。德國哲學家馬克斯·韋伯提出工具理性與價值理性的觀點，工具理性強調的是人類通過理性的計算，自由選擇手段的合理性和有效性，而不管目的是否恰當；價值理性注重行為本身的價值，而非注重行為手段和結果。[5]不可否認的是，在現實社會中，人們越來越重視工具理性，做事情講求效率和利益，忽略了對客觀事物及其規律的正確把握和認識。人工智能本質是一種技術，對于其發展，要重視價值理性與工具理性相統一，要使價值理性為工具理性提供精神支持。如果一味追求技術發展和經濟利益，重視其工具理性而忽略其價值理性，對技術的價值理念認識產生偏差，將可能會使人工智能技術面臨一系列倫理困境。

三、破解人工智能倫理困境的對策

人工智能技術作為新一輪科技革命和產業變革的核心驅動力量，在為社會提供強大發展動力和支撐平臺的同時，也暴露出一系列倫理問題。新興技術革命的不確定性更是加重了科技倫理治理難度[6]。科學技術雖然是自然科學大范式下的理論與實踐，但仍然離不開人文社會科學的規范和引導，人工智能倫理困境的突破也是如此。

（一）堅持正確倫理觀念的價值引領

個人行為和決策的產生，是由其內在價值觀所決定的。要解決人工智能倫理困境，首先就是加強思想引領，以正確的倫理觀念感化人和引領人。

第一，應堅持馬克思主義科技倫理觀，正確運用科技的力量，推動社會發展。馬克思主義始終堅持歷史唯物主義的觀點，將意識的物質前提與現實的歷史文化背景有機結合起來，堅持有條件的認識論和方法論。在批判資本的過程中，馬克思特別強調物質生產力的巨大革命作用，重視科學技術、機器工具的強大改造力量，但馬克思不是“物質主義者”，更不是“機器決定論者”，他否定了機器的“純物質性”，而是強調機器的本質不是一個“經濟范疇”，只有實現與“人”（勞動力）的結合，機器才可能實現其本身的價值和力量。[7]人工智能技術的發展縱然面臨重重倫理困境，卻也不能直接將其“一刀切”，應以社會不同領域、不同行業的現實條件，規范系統地推進人工智能技術的發展。

第二，應堅持新時代中國特色社會主義科技倫理思想引領，注重科技創新，推動社會生產力的提高。黨的二十大報告提出，“必須堅持科技是第一生產力、人才是第一資源、創新是第一動力”“完善科技創新體系”。在重視科技創新的同時，也應注重科技倫理對技術進步的護航作用，堅持科技要為人民服務。在人工智能的發展過程中，應“整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德”[8]。因此，在人工智能時代，應嵌入“以人為本”的倫理道德原則，對科技發展進行價值引導和倫理規約，促進其可持續發展。

（二）提高民眾文化素養和道德責任

人工智能技術研發的初衷，是為人類生活提供便利，正確認識人工智能是科技進步、時代發展的需要，同時也是全人類的職責所在。

一方面，應提高民眾的文化素養，使其能夠正確認識人工智能。隨著“人工智能威脅論”的不斷擴散和各種人工智能影視作品的泛濫，部分民眾對人工智能的印象變得扭曲，直接加深了人工智能倫理問題的嚴重程度。第一，應使廣大民眾認識到人工智能實質是一種“技術”而不是“法術”，其本身也沒有優劣之分。第二，應使民眾意識到人工智能是人類研發的，其目的是方便日常的生產生活。目前，人工智能仍處于弱人工智能時代，人工智能并不會像科幻電影中描述的那樣，反過來控制人類，甚至取代人類。第三，應加強宣傳，普及人工智能知識，引導人們樹立客觀的評價標準，學會辨別錯誤的信息和言論，不盲目跟風，這是解決人工智能面臨的倫理困境的重要方式。

另一方面，應增強科研人員的道德責任感。人類是一切科學技術的創造者與推動者，人工智能的發展方向與相關科研人員的推動促進密不可分。科研人員作為引領人工智能技術發展的先驅，比人工智能產品更需要倫理規范的約束。第一，應培養其奉獻精神和責任擔當，引導其積極思考、不斷反思，遵循科學活動本身的倫理道德規范。第二，應對其科學活動的社會后果進行客觀、公正的評價，承擔起相應的社會責任，阻止和終結違反人類文明發展的科學研究，加強對用戶隱私安全的保護，科研人員與生產企業要嚴格遵守國家的法律法規、行業標準，樹立客戶至上的理念，保障用戶的信息安全[9]。第三，應加強對科研人員的道德評價與社會監督，對違反法律法規和社會倫理規范的科研人員進行懲戒，以起到警示和震懾其他相關科研人員的作用。

（三）完善相關法律制度與監督體系

無規矩不成方圓，堅持以正確的倫理觀念進行價值引領仍不能排除有不法分子利用人工智能進行違法犯罪活動，這就要求加強人工智能相關法律制度與監督體系建設，使其突破倫理困境，從而健康有序地發展，實現科技向善。

第一，應通過制定相關法律法規規范人工智能技術的發展。當前，人工智能技術發展迅速，為保證人工智能產品在社會中的順利應用，關鍵在于制定相關法律條文規范其行為。一方面，應制定人工智能在相關領域應遵守的行為準則，在人腦芯片研發、聲紋識別、面部識別、智能機器人和無人駕駛系統的研發、應用等方面制定嚴格的使用標準和安全準則，使人工智能產品的研發和應用“有法可依、有法必依”。另一方面，對人工智能技術應用過程中所產生的負面問題，應以法律的形式科學規定責任歸屬，并根據相關法律標準和實際情況進行調查分析，確定問題出現的環節，判定責任歸屬，建立起一套完整、科學的責任判定體系。因此，對人工智能所面臨的倫理困境，亟須政府和相關部門組織引導，總結并出臺相關法律法規及相關案例的適用規則促進其規范健康發展。

第二，應構建人工智能技術監督體系，降低其未來陷入倫理困境的風險。首先，在人工智能產品研發環節，應確保其研發和設計理念不侵犯人權，不違反社會道德倫理觀念，不會對生態環境造成威脅。其次，應延長人工智能產品的試用期，確保其技術成熟后再投放市場，并隨產品附帶詳細的使用說明書。最后，應建立起完善的人工智能產品售后服務體系，分析解決好消費者使用人工智能產品過程中所遇到的問題，并在以后的研發設計制造中避免產生該問題。總之，針對該領域相關產品的每一步流程，都應對其進行嚴格監督和管理，以此降低其今后可能面臨的倫理風險。

（四）促進人工智能技術自身的發展

人工智能技術的不成熟，是引發其倫理風險的重要原因之一。人工智能技術發展到現在，已躋身為世界尖端科學技術之一，早已融入生活的方方面面。在巨額成本和各類人力物力的加持下，人工智能仍有很強的可塑性和光明的發展前景。因此，應加強國際技術交流與合作，促進人工智能技術發展。各國可根據自身的科技實際情況，總結自身技術優勢，切實解決人工智能技術目前存在的一系列問題，從而提升該技術的可塑性和安全性，有效防范倫理風險。2017年，國務院印發《新一代人工智能發展規劃》，表明人工智能的發展正式上升到國家層面，國家鼓勵人工智能領域核心技術的發展，并積極尋求與發達國家圍繞人工智能進行合作交流。此外，還應加強交叉學科領域的探討。盡管人工智能已經在生活中發揮了巨大效用，但并不能就此否認其所面臨的一系列倫理困境。對科研人員來說，其考量人工智能產品是否達標的主要因素是技術因素，對人工智能技術面臨的倫理、道德、法治環境等問題，還不能面面俱到。這就需要大量法學專家、倫理學專家積極參與，與相關科研人員共同探討和考量人工智能技術的發展規范，充分認識到某些人工智能技術一旦被不合理應用，對社會、環境及人類本身造成的沖擊，從而有效規避人工智能的不可控性，降低其倫理風險。

四、結語

筆者分析了人工智能面臨的人權、道德、責任及代際倫理困境的表征和原因，從價值引領、制度保障、道德養成及技術規范4個方面提出了相應的突圍路徑，以期能對人工智能的倫理治理提供可參考借鑒的思路。同時，人們也應意識到，在人工智能面臨種種困境的當下，僅僅依靠學術探討是不足以解決問題的。人工智能未來要獲得更大的發展，應立足實踐，具體問題具體分析，真正做到科技向善和為人民服務，這也是推動科技創新和人類社會向前發展的必由之路。

參考文獻：

[1] 崔志根.人工智能倫理困境及其破解[D].北京：北京郵電大學，2021.

[2] 程東峰.責任論—關于當代中國責任理論與實踐的思考[M].北京：中國林業出版社，1994：24.

[3] 廖小平.論倫理關系的代際特征[J].北京大學學報（哲學社會科學版），2004（01）：37-44.

[4] 阿西莫夫.我，機器人[M].北京：科學普及出版社，1981：1.

[5] 閆坤如.人工智能技術異化及其本質探源[J].上海師范大學學報（哲學社會科學版），2020（03）：100-107.

[6] 劉如，張惠娜.“一體兩翼”科技倫理治理體系的構建路徑及策略[J].科技智囊，2023（03）：65-69.

[7] 李瓊瓊，李振.智能時代“人機關系”辯證—馬克思“人與機器”思想的當代回響[J].毛澤東鄧小平理論研究，2021（01）：71-79，108.

[8] 推動我國新一代人工智能健康發展[J].科技傳播，2018（21）：3.

[9] 胡明艷，譚潤民.陪護機器人倫理問題及對策建議[J].科技智囊，2022（09）：70-76.

Dilemma and Transcendence：An Ethical Examination of Artificial Intelligence

Dong? Zihan? ? Ren? Fengqin

（College of Marxism，Shandong Agricultural University，Shandong，Taian，271018）

Abstract：With the development of artificial intelligence technology in the 21st century，its influence on the real society is increasing day by day. However，while bringing new life experience to people，artificial intelligence technology is also confronted with human rights dilemma，moral dilemma，responsibility dilemma and intergenerational dilemma，and the lack of artificial intelligence ethical system，the weak consciousness of human subject responsibility and the lack of artificial intelligence technology development are the main reasons for these ethical problems. In view of the ethical problems faced by artificial intelligence technology，the article proposes countermeasures such as value guidance， moral cultivation，institutional guarantee and technical norms，so as to solve the ethical dilemma of artificial intelligence technology and guide artificial intelligence to develop in the right direction.

Key words：Artificial intelligence；Ethical dilemma；Ethical examination