國際人工智能倫理研究現狀與發展趨勢*

汪玉蘭 鄧國民

（1. 南京大學哲學系 南京 210023；2. 貴陽學院教育科學學院 貴陽 550005）

隨著人工智能技術應用的深入，可能引發的新的倫理問題和困境受到國內外業界人士和重要機構的重視。微軟、百度和騰訊等國內外大公司都對人工智能倫理表現出急切的關注。歐盟委員會于2019 年4 月8 日發布了“值得信賴的人工智能倫理準則”。人民日報于2019 年7 月12 日刊發整版文章對人工智能倫理進行了探討。可見，人工智能倫理研究已經迫在眉睫。研究國際重要學術刊物發表的人工智能倫理研究知識圖譜、發展現狀和未來發展趨勢，對于我們進行人工智能倫理研究具有較大的啟示意義。

1 研究方法

本文設置檢索式為“TS=（artificial intelligence OR AI）AND TS=（ethic* OR moral）”，從Web of Science 核心數據庫中檢索到人工智能倫理研究文獻389 條，作為知識圖譜分析的數據基礎。我們使用CiteSpace 軟件對國際人工智能倫理研究文獻進行知識圖譜分析，并綜合應用文獻計量學和內容分析方法，揭示人工智能倫理研究領域的研究起源、發展脈絡和未來趨勢。首先，使用文獻計量學和內容分析方法，揭示國際人工智能倫理研究文獻的年度、期刊和學術機構整體分布情況。然后，使用CiteSpace 軟件對人工智能倫理研究文獻數據進行引文空間的可視化分析，揭示文獻、作者和刊物的共被引關系以及機構和關鍵詞的共現關系。第三，在文獻共被引分析的基礎上，繪制國際人工智能倫理研究文獻的共被引聚類圖譜，揭示國際人工智能倫理研究領域的主要研究聚類、關鍵結點和時間演化過程。

圖1 人工智能倫理研究歷年出版文獻數及引文數

2 人工智能倫理研究文獻知識圖譜分析

2.1 人工智能倫理研究文獻年度分布

近三十年以來，國際上人工智能倫理研究每年出版的文獻數和引文數均穩步上升。如圖1 所示，2005 年以前，國際上關于人工智能倫理研究的文獻數和引文數都相對較少，之后每年出版的相關文獻數和引文數都以較快的速度增長，2012 年出版文獻數開始超過10 篇，被引頻次超過100 次。2014 年以后，每年引文數都超過200 次，2018 年達到500 次。這說明近年來學界對人工智能倫理研究的關注度急劇上升，最近兩年達到高潮。

2.2 有影響的文獻

利用CiteSpace 軟件對檢索到的389 條人工智能倫理研究文獻數據進行共被引分析（Cited Reference），生成國際人工智能倫理研究文獻共被引圖譜，如圖2 所示。圖中用圓圈表示文獻結點，結點大小表示文獻被引次數的多少，結點之間連線的顏色表示兩條文獻首次共被引的時間。結點采用年輪結構的方式表示，顏色表示年份（對照圖形頂部時間條顏色），年輪的厚度表示該年被引頻次。外圍有深色圓圈包圍的結點表示高中介中心性文獻，說明它們在不同人工智能倫理研究聚類之間起到了關鍵銜接結點的作用。

圖2 人工智能倫理研究文獻共被引圖譜

（1）高被引文獻分析

具有較高被引頻次的文獻表示它們在人工智能倫理研究領域產生了重要而深遠的影響，同時也體現了該研究領域的核心研究主題。表1 列出了該研究領域引用次數超過10 次的文獻。Bostrom N（2014）共被引頻次最高，為34 次，他指出人工智能提供了許多新的可能性，開辟了新的研究領域，也帶來了新的倫理問題。當超級智能具備一系列超級認知能力，而偏離我們控制它的意圖或能力時，可能給人類及人類社會帶來災難性的后果，因此我們需要加強對人工智能人性建構和倫理問題的研究[1]。

Wallach W（2009）指出虛擬和物質的人工代理所承擔的責任日益增長，因此需要開發更加復雜的解決方案，使其能夠作出道德決策。迄今為止存在的倫理系統或倫理學家開發的解決方案并未涉及人類與機器人的相互作用、機器人與其他生物體之間的接觸或者機器人之間的相互作用。人類作出道德決策的機制極端復雜，只在算法中提供具體的倫理規則是不夠的，應該使其具備道德主體的能力，這使得人工智能或機器人的開發變得更加復雜[2]。 Anderson M（2011）指出機器倫理和傳統的計算機倫理的不同之處在于，它不是關注程序員或用戶的決策，而是關注于機器本身的道德決策能力，主要討論了機器倫理的本質、機器倫理的重要性、機器倫理的哲學和現實、機器倫理方法和機器倫理愿景等五個方面的問題[3]。

Bonnefon J F（2016）對自動駕駛汽車的社會困境進行了討論，指出定義有助于自動駕駛汽車作出道德決策的算法是一項艱巨的挑戰。目前沒有簡單的方法來設計能夠協調道德價值和個人自我利益的算法，更別說考慮不同文化對生活權衡的各種道德態度，但隨著這種對話的進展，公眾輿論和社會壓力可能會隨之發生改變。對于這些倫理問題，需要在智能產品進入全球市場前做出決策[4]。

表1 人工智能倫理高引文獻

Chalmers D J（2010）將產生超級智能的智能爆炸界定為奇點，協調這種奇點需要在機器中構建合適的價值，并非常謹慎地在虛擬世界中構建第一個AI 和AI+系統。對于我們如何融入后奇點世界，作者討論了兩種不同的方式：①通過逐步上載然后增強；②通過重建上載然后增強，這當中同時涉及認知增強和實用方面的問題[5]。

Gunkel D J（2012）試圖在道德哲學中創造一個空間，以解決智能機械具有什么樣的道德主張，以及闡明和實踐相應的道德規范意味著什么[6]。

Lin P（2012）對關于機器倫理的跨學科和多視角問題進行了系統討論：機器人倫理的一般方法以及道德概念的基本術語定義；與具體技術應用相關的道德倫理和方法以及機器人使用的未來場景；具有倫理重要性的領域以及研究和開發的技術趨勢；機器人倫理的主要形式[7]。

O’neil C（2016）認為算法不是中立的，人類的偏見和錯誤經常被編碼到系統中，并細致地對招聘、警務、借貸、教育和醫療保健等各行業領域的數據實踐的具體案例、基于算法作出決策的程度進行了分析，結果發現這進一步剝奪了弱勢群體的權利，造成了社會的不平等。作者最后總結了一些具體的建議，為數學模型和大數據帶來更多的監管、透明度和案例[8]。

（2）突現引文分析

突現引用是指一篇文獻在某段時間內引用率突然上升或下降的現象，表示某一特定研究主題在一段時間內突然變熱或變冷，能夠代表當時的熱門研究主題或研究前沿。利用CiteSpace 軟件對人工智能倫理研究文獻進行共被引突發性分析，結果如表2 所示。Wallach W（2009）、Floridi L（2004）、Gunkel D J（2012）、Arkin R（2009）、Omohundro S M（2008）、Allen C（2006）、Johnson D G（2006）、Moor J H（2006）和Allen C（2005）等文獻的突發性較強，表明它們在人工智能倫理研究主題的轉向方面起到了比較關鍵的作用。

2009 年到2012 年期間，Allen C（2005）、Allen C（2006）、Moor J H（2006）、Floridi L（2004）和Johnson D G（2006）等文獻引用量突現。這些文獻主要對機器倫理、道德代理和人工制品的道德價值與意義進行了初步探討。Allen C（2006）指出如果我們對人工智能道德代理的開發或管理能力有限，那么就需要將注意力從對自治系統的錯誤依賴轉移開。一些道德決策能夠在計算機系統中較為容易地實施，而模擬處理其他類型道德困境的技巧以我們目前的知識還很難實現[9]。Allen C（2005）指出人工道德學科的一個主要目標是設計人工代理人，使其能夠像道德代理一樣。人工道德的中間目標是建立人工智能系統對活動的價值觀、道德規范和合法性的敏感性[10]。

Moor J H（2006）認為需要就什么是機器倫理達成一致，才能夠確定機器倫理是否存在，而對這一問題的理解存在兩種完全不同的解釋：①人類是機器，人類有倫理，機器也有倫理；②倫理是一種情感的表達，機器沒有情感，因而沒有倫理。作者認為短時間之內無法通過哲學論證或實證研究來解決這一問題，但能夠專注于開發有限的、明確的倫理代理，而不是完全的倫理代理，幫助防止不道德的結果[11]。Floridi L（2004）指出人工智能擴展了可能涉及道德情境的實體類別，它們同時可以被視為道德受動者和行為者。論文圍繞網絡空間具有什么道德價值和道德責任兩個問題進行了探討。Johnson D G（2006）認為計算機系統和人工制品是有意創建和部署的，因此它們具有道德特征，是人類道德行為的組成部分。當人類使用人工制品時，他們的行為由人工制品的意圖性和功效構成，而人工制品的意圖性和功效又是由其設計者的意圖和功效構成。人工制品及其設計師和用戶在行動時都在工作，而這三個組成部分都應該是道德評估的重點[12]。

2013 年以后，Wallach W（2009）、Gunkel D J（2012）、Arkin R（2009）、Omohundro S M（2008）等文獻引用量突現。這一時期關于人工智能倫理方面的研究，更進一步深入到系統實現的具體架構、智能道德系統的設計，重視利用經典的哲學和倫理學理論分析人工智能技術的倫理問題。Arkin R（2009）指出許多機器人應用程序沒有較好地考慮安全和倫理方面的問題，討論了如何構建倫理機器人。作者介紹了在自動戰斗機器人中植入負責任的倫理決策的動機和理由，并提出了實現這一目標的架構[13]。 Omohundro S M（2008）認為需要對智能系統進行精心設計，以防止它們以有害的方式運行。論文主要討論了如何將自我改善、經濟效用、理性和自我保護等驅動因素融入到智能技術中，從而為人類帶來積極的未來[14]。 Wallach W（2009）認為有必要開發更加復雜的解決方案，使人工實體能夠做出道德決策[2]。Gunkel D J（2012）綜合考慮了Levinasian 倫理學與Heideggarian 的本體論來思考事物或技術的作用，通過解決道德哲學的容受者/代理二元性，最終將機器排除在倫理考慮之外[6]。

表2 人工智能倫理研究突現引文

（3）高中心性引文分析

人工智能倫理研究領域的高中介中心性文獻結點能夠起到銜接不同研究聚類的作用，它們在識別人工智能倫理研究聚類，促進人工智能倫理研究的知識交流中起到關鍵的銜接作用。如表3 所示，文獻Anderson M（2011）的中介中心性最高（0.31），指出機器倫理和傳統的計算機倫理的不同之處在于，它不是關注程序員或用戶的決策，而是關注機器本身的道德決策能力[3]。此外，Wallach W（2009）是較早討論與機器人技術發展相關的倫理問題的著作之一，指出虛擬和物質的人工代理所承擔的責任日益增長，因此越來越有必要開發更加復雜的解決方案，使人工實體能夠做出道德決策[2]。

表3 人工智能倫理研究高中介中心性文獻

Armstrong S（2012）認為人類智能并不代表人工智能能力的上限，超級智能系統將根據其可能存在缺陷的動機系統引導未來，這可能帶來嚴重的安全問題。論文分析和批判了各種控制人工智能的方法，認為限制的人工智能要相對安全，但仍然存在潛在的風險[15]。Bryson J J（2010）認為機器人不應該被描述為人，也不應為其行為承擔法律或道德責任，機器人的智力和如何獲得他們的智力是由人來確定的。因此，機器人技術的潛力應該被理解為擴展人類自己的能力和實現自己目標的潛力。論文指出機器人人性化是一種錯誤，分析了這些錯誤的原因和后果，并提出了機器人如何融入社會的具體建議[16]。

Bakshy E（2015）對社交媒體如何影響跨意識形態界限的觀點進行了探討，發現個人的選擇比算法排名在限制對交叉內容的曝光方面發揮了更大的作用[17]。Cakmak M（2010）討論了主動學習應用于人機交互環境時出現的一些問題，并提供了幾條指導方針，為人機（機器人）交互環境中使用主動學習的未來機器人系統的設計提供信息[18]。Chalmers D J（2010）將智能爆炸界定為奇點，協調這種奇點需要在機器中構建合適的價值[5]。Bryson J（2012）認為有意識的注意力并不是選擇立即行動，而是使用當前任務將專門學習集中于行動選擇機制和預測模型，才可能影響有意識的代理的任務和環境突發事件。將這種系統構建到機器智能中是完全可能的，除非智能系統需要學習并且在學習速度與相關環境變化速率方面存在資源限制，否則它不是絕對必要的[19]。

通過對人工智能倫理近期高引用率、高突現率和高中介中心性文獻的研究和分析，可以挖掘出這一研究領域最有影響力、影響研究重要轉向以及銜接不同研究聚類的關鍵文獻結點。近年來，人們對人工智能系統可能帶來的倫理問題越來越關注，不再局限于科幻小說和影視作品中，而是已經達到一種我們不能忽視的程度。目前學界存在兩種截然不同的觀點：一種認為人工智能承擔了道德責任，作為一種智能道德代理理所當然；另一種觀點將人工智能排除在倫理考慮之外，認為它只是人類實現個人目的的工具或手段之一，因此更需要考慮人工智能系統設計者的道德因素。但隨著人工智能系統越來越復雜的自主控制，這些系統本身也應該意識到其行為的倫理含義。一些學者認為在復雜智能系統投入使用之前，需要將其倫理問題考慮清楚，他們從倫理學和哲學的視角對人工智能系統引入倫理原則進行了思考，提出了一些設計和執行倫理系統的方法與策略，為人工智能領域的研究人員和商界人士制定相應的規則和指導方針提供了一定的依據。

2.3 重要作者分析

使用CiteSpace 軟件對人工智能倫理研究的重要作者進行共被引分析，結果如圖3 所示，其中引用頻次最高的5 位作者分別是Wallach W（Freq=64）、Bostrom N（Freq=62）、Anderson M（Freq=54）、Floridi L（Freq=47）和Allen C（Freq=41）。Freq 是指作者共被引頻次，圖中圓圈大小表示作者共被引次數的多少，不同顏色代表不同年份的引用次數。較大的作者結點表示他們在該研究領域產生了重要的影響。Wallach W 對機器倫理、道德機器以及道德與意識、思想之間的關系進行了論述，并提出了人類及智能代理道德決策的概念和計算模型[20]。Bostrom N 從技術變革和人類未來演進的視角，關注了超級智能可能對人類社會帶來的影響、存在的風險及其認知中存在的倫理問題。Anderson M 主要對機器倫理進行了探討，認為阿西莫夫的三個機器人定律無法作為機器倫理基礎。Floridi L 是著名的計算哲學和信息哲學家，曾經提出了信息圈理論，成為信息倫理的重要理論基礎，他的很多觀點對人工智能倫理研究產生了重要的影響。Allen C 主要對為什么需要研究機器倫理的原因進行了分析，對未來人工道德行為者的趨勢進行了展望，指出不能放棄人類的責任。

從中介中心性和突發性來看（見圖3），被引作者中，突發性最強的5 位作者分別是Kahneman D（Burst=3.61）、Yudkowsky E（Burst=3.16）、Turkle S（Burst=3.02）、Danielson P（Burst=2.88）和Guarini M（Burst=2.75），說 明他們在人工智能倫理研究內容和主題的轉換方面貢獻較大，在一定時期內扮演了前沿研究者的角色。中介中心性最高的5 位作者分別是Asimov I（Centrality=0.2）、Allen C（Centrality=0.16）、Moor J H（Centrality=0.13）、Anderson M（Centrality=0.11）和Levy D（Centrality=0.11），說明他們在人工智能倫理研究的知識傳播過程中貢獻較大。

圖3 人工智能倫理重要作者圖譜

2.4 重要機構分析

使用CiteSpace 軟件對人工智能倫理研究機構進行共現分析，結果如圖4 所示。影響較大的研究機構包括牛津大學（University of Oxford）、哈佛大學（Harvard University）、代爾夫特理工大學（Delft University of Technology）、華盛頓大學（University of Washington）、英國開放大學（The Open University）和愛丁堡大學（The University of Edinburgh）。中介中心性最高的五個研究機構分別為牛津大學（University of Oxford）、阿蘭圖靈機構（Alan Turing Institute）、帕多瓦大學（University of Padua）、澳大利亞國立大學（The Australian National University）和愛丁堡大學（The University of Edinburgh），說明這些研究機構在人工智能倫理研究主題的轉向和對前沿的把握方面最為有效。

圖4 人工智能倫理重要研究機構圖譜

2.5 人工智能倫理期刊發文量與知識交流情況分析

從發文量統計來看，Ethics and Information Technology和Minds and Machines的發文量最高，均為14 篇；Philosophical Transactions of the Royal Society a Mathematical Physical and Engineering Sciences的發文量排第三，為10 篇。這些期刊均被Web of Science 核心數據庫收錄，因此它們是國際人工智能倫理研究知識交流的重要載體。學術刊物之間的相互引用和共引關系可以表征這一研究領域和其他學科領域之間知識交流的水平和知識流動的狀況。使用CiteSpace 軟件進行期刊共被引分析，結果如圖5、表4 所示。從被引頻次來看，《科學》《思維與機器》《自然》《人工智能》和《IEEE 智能系統》等是過去十年間該研究領域的高被引期刊，被引頻次分別為89 次、68 次、68 次、66 次和57 次。從中介中心性來看，《科學》《思維與機器》《科學革命的結構》《有線》和《科學美國人》等是過去十年間人工智能倫理研究領域的高中介中心性期刊，它們的中介中心性分別高達0.27、0.22、0.15、0.15 和0.13，說明它們在這一研究領域的知識流動過程中起到關鍵銜接結點的作用。根據文獻計量學理論，人工智能倫理研究文獻對其他學科期刊的引用，可以反映人工智能倫理主要從哪些其他學科獲得知識流量。期刊共被引分析表明，過去十年間人工智能倫理研究的知識流量，主要來自《科學》《自然》《行為與腦科學》《有線》《科學美國人》《Springer 計算機科學講義》和《科學革命的結構》等其他學科期刊，這說明人工智能倫理研究的理論基礎主要來自于科學、心理學、科學革命和計算機等學科領域。

圖5 人工智能倫理研究學術刊物共被引圖譜

表4 人工智能倫理學術刊物共被引分析結果

2.6 人工智能倫理研究關鍵詞共現圖譜

對人工智能倫理研究的關鍵詞進行共現分析，可以揭示該研究領域歷年來研究內容間的知識網絡關系，挖掘人工智能倫理研究領域的關鍵知識結點、知識結構和熱門研究主題。因為關鍵詞實際上能大致說明一條文獻的主題，如果這些關鍵詞發生共現現象，說明它們的研究主題比較接近。首次出現共現的時間（參考圖像上方色條）表示這一研究主題興起的時間。如圖6、表5 所示，近年來人工智能倫理的熱門研究主題包括人工智能（artificial intelligence）、倫理（ethics）、機器人（robot）、機器倫理（machine ethics）和機器學習（machine learning）等。從中介中心性來看，最高的六個關鍵詞分別為人工智能、機器人、系統、倫理、機器倫理和看護（care）等，說明關于人工智能倫理研究的主要內容是圍繞這些方面展開的。

從共現發生的時間來看（參考圖像上方色條），人工智能、倫理、機器倫理、機器人和思維等主題發生共現的時間比較早，始于2009 年到2010 年期間，說明這一時期學界開始關注機器人和人工智能的倫理問題；2010 年到2015 年，代理、技術、心理健康、機器人、模型和前額葉皮層等主題受到關注，說明人工智能倫理研究在這一時期關注人工智能和機器人的道德代理和相關的認知決策過程。2016 年以后，看護、法律、自動化系統、機器學習、規則、人權和福利等主題受到關注，說明近年來關于人工智能倫理的研究已經開始轉向具體的行業領域，并對一些具體的現實問題進行哲學思考，或者探討相應的倫理規則在人工智能領域的實現方式。

表5 人工智能倫理關鍵詞分析結果

圖6 人工智能倫理研究關鍵詞共現圖譜

2.7 聚類分析

在人工智能倫理研究文獻共被引分析的基礎上按關鍵詞進行聚類分析，生成聚類分析視圖如圖7 所示。可見，形成的主要研究聚類有美德倫理（#0 virtue ethics）、心理健康（#1 mental health）、治理（#2 governance）、災難性風險（#3 catastrophic risk）、機器道德（#4 machine morality）、社會（#5 society）、系統映射研究（#6 systematic mapping study）、放射學（#7 radiology）、社會影響（#8 social impacts）和設計倫理（#9 design ethics）等10 個研究聚類，其中不同結點之間連線的顏色表示不同的時間分區（參考圖像上方色條顏色）。如圖所示，過去十年的研究聚類從時間上大致可以劃分為三個階段。早期，機器道德聚類共被引現象較為活躍，說明人工智能倫理的重要根源在于機器倫理學，從機器倫理研究開始轉向智能機器倫理問題研究，逐漸形成了一個新的倫理研究方向。此后，心理健康和美德等聚類的文獻共被引現象比較活躍，說明隨著人工智能倫理研究的深入，已經超出了機器倫理的范疇，進一步考慮人工智能對人類心智的模擬以及人類美德倫理在系統中的介入。在這一轉換過程中，文獻Wallach W（2009）和Anderson M（2011）等起到了銜接的關鍵結點作用。最近幾年，治理、災難性風險、社會、系統映射研究、放射學、社會影響、設計倫理等聚類的文獻之間共被引現象比較明顯，說明人工智能倫理已經引起了各行業領域的廣泛關注，而且各行業開始重視人工智能應用可能帶來的風險和其他社會影響以及如何治理和設計實現。文獻Bryson J J（2010）、Armstrong S（2012）、Bakshy E（2015）和Cakmak M（2010）等起到了關鍵銜接結點作用。

圖7 基于關鍵詞的聚類視圖

圖8 聚類分析時間線視圖

從聚類分析時間線視圖來看（圖8），美德倫理、心理健康、治理、災難性風險、機器道德、社會和系統映射研究等聚類的文獻發生的共被引現象比較密集。這幾個聚類還集中了影響力比較大、比較關鍵的一些結點，它們構成了人工智能倫理研究的主要內容、方法、技術和應用等方面。機器道德和心理健康等聚類的文獻在早期共被引現象明顯，后有消退趨勢，說明它們在該研究領域起到了奠基的作用。最近興起的研究主題有治理、社會、放射學和設計倫理等研究聚類，說明隨著人工智能技術在各行業領域的廣泛應用，其倫理問題日益受到關注，尤其是它可能產生的社會風險及如何規避這些風險，將是未來需要重點關注的方面。

3 研究發現

近年來，人們越來越關注人工智能在各行業領域的應用會給人類社會帶來何種影響，尤其是如何處理人工智能技術應用可能帶來的新的倫理問題。本文使用CiteSapce軟件對國際上人工智能倫理研究數據進行文獻共引和共被引分析，挖掘出這一研究領域的重要文獻結點，同時繪制國際人工智能倫理研究知識圖譜，揭示其研究的起源、發展脈絡和未來趨勢。

3.1 人工智能倫理研究起源

關于人工智能倫理的考慮最開始出自早期的科幻小說和電影中。阿西莫夫在上世紀中葉提出的機器人三大法則，就已經將人工智能的倫理道德作為一個重要的問題進行考慮。當然這些文學或影視作品只是對未來社會的一種預想，隨著人工智能的進步，關于倫理方面的考慮已經不能再停留于假想階段，而是日益與我們的社會生活密切相關。大量的科學家、哲學家和商界領袖都對人工智能可能對社會產生的重要影響和潛在危險表示了擔憂，也開始倡導在這些人工智能產品進入我們生活之前，需要先把倫理這一永恒的問題考慮清楚。一大批學者在機器倫理、設計倫理、信息技術倫理和計算哲學等基礎上，開始探討人工智能倫理的本質以及需要解決的一些問題，形成了一個新的倫理學研究方向。這方面的研究對于我們未來進一步開發和應用更復雜的人工智能系統，并降低它可能帶來的負面影響是極其重要的。

3.2 人工智能倫理研究發展脈絡

本世紀以來，由于人工智能技術在各行業領域的應用，關于人工智能的倫理問題已經不再是一個虛幻的想象，而是我們切實面臨的一個亟待解決的現實問題。最初，人工智能和機器人技術在工程制造領域得到應用。它們主要是由人類指導員預編程，然后按照程序員的意圖輔助人類進行工作。這種早期的人工智能雖然具備了一些自動化特征，但并不是一種獨立自主的存在，因此對它們的倫理考慮，主要還是在機器倫理的范疇之內，比如用機器代替人類工作是否改變了人與機器之間的關系，這可能給各行業內的雇傭關系以及整個人類社會帶來什么樣的影響。近年來，隨著人工智能系統越來越復雜的自主控制，這些系統本身也應該意識到其行為的倫理含義。一些學者認為在復雜智能系統投入使用之前，需要將其倫理問題考慮清楚，即應該在人工智能系統中引入倫理原則和規則，構建人工智能道德代理，讓它們能夠根據對外在環境信息的判斷，作出類似于人類的倫理決策。因此，人們越來越認識到人工智能的自主決策不能僅局限于其最初設計的工作服務目標，還需要能夠對自我的決策、行為和后果進行判斷，使自己的行為符合人類利益的最大化。但這一過程又引發出一些新的倫理問題。人工智能能夠根據預先設計的智能道德代理進行倫理決策，但它的智能道德代理的規則與算法是由其設計者、程序員定制的，而不是自主建構的，在各方利益沖突的情況下它應該優先服務于誰的利益，設計者、客戶還是對整個人類利益的綜合考慮？如果對這些問題不考慮清楚就直接將人工智能技術投入應用，可能帶來嚴重的社會問題。

3.3 人工智能倫理研究未來發展趨勢

從國際上人工智能倫理研究的知識圖譜來看，關于人工智能倫理的研究才剛起步。可以預見的是，人工智能將在未來的一段時間內在各行業領域得到更廣泛更深入的應用，而且人工智能系統本身也將越來越個性化、自主化，因此將引發出更多更加復雜的倫理問題。雖然，目前關于人工智能倫理在哲學思想、設計和智能道德代理方面有過一些思考，但同時還有一些非常重要的問題需要更深入的探討。首先，人工智能應用可能引發的高度智能化工作和相應的技術風險等社會問題，會隨著它的廣泛應用而逐漸凸顯出來。比如由于工作被人工智能取代而引發的失業和人類勞動價值喪失，人類的勞動技能及其相關的知識、體驗、推理和決策等方面能力的降低，是否會導致人類的退步，這是需要我們進行哲學反思的一個重要的問題。其次，隨著人工智能的自主化程度越來越高，我們需要思考人工智能道德代理的設計與實現問題，比如應該給人工智能賦予什么樣的倫理準則，如何讓其獲得類似于人類的倫理推理和倫理決策能力。這涉及形式邏輯、數學推理、規則庫和機器學習等方法在倫理判斷和倫理決策中的應用。最后，人工智能目前還沒有自我意識，因此它的行為與決策所遵循的倫理規則仍然是人類賦予的，是為人類利益服務的。但如果有一天人工智能具備了自我意識，必然也會滋生人類的欲望和弱點。當它們所遵循的倫理規則不再是為人類利益服務而是為自身利益服務時，人類將如何避免和應對此類事情的發生，也是需要我們認真考慮的一個重要問題。而另一方面，人工智能作為道德行為者的同時，也將扮演道德容受者的角色，人類應該如何對待人工智能系統也是一個需要細致考慮的問題。

（來稿時間：2019 年9 月）