人工智能倫理規范核心原則的政策文本內容分析

周慶山，鄭霞，黃國彬

摘要：［目的/意義］人工智能技術悄然拉開了第四次工業革命的大幕，為各行各業的發展帶來了革命性變化。但該項技術的法律規制和標準規范建設尚不完善，引發了全球對于人工智能倫理原則與規范體系的探索與思考，各國學（協）會相繼發布了人工智能倫理規范或政策文件。本研究全面分析和梳理當前認可度較高的人工智能倫理原則的核心框架，旨在為各國制定和完善人工智能倫理規范提供參考。［方法/過程］運用網絡調研法、內容分析法和比較研究法，在綜合考慮影響力、國別和可獲取性等因素的基礎上，選取近年各國學（協）會已發布的有關人工智能倫理原則的權威政策文件，提煉出其中涉及的人工智能倫理原則的核心框架和主要內容。［結果/結論］人工智能領域主要包括：造福原則、責任原則、公平正義原則、安全原則、尊重人的自主性原則、隱私與個人信息保護原則、透明性原則和可靠性原則等8項人工智能倫理原則。

關鍵詞：人工智能；倫理原則；規范體系

中圖分類號：B82-05

文獻標識碼：A

文章編號：1673-8268（2022）05-0009-12

一、研究背景

人工智能（Artificial Intelligence，AI）是探索、模擬和研究人類學習、思維和知識存儲等過程，進而拓展人類智能的技術、理論和方法的新興學科，屬于計算機科學的分支，融合了信息學、控制學、語言學、心理學等多學科領域［1］。近年來，人工智能正以指數級的速度高速增長，但與之匹配的行業規范和管理制度卻未能同步發展。針對人工智能的設計與管理，還存在政策取向不清晰、倫理規制缺失、法律法規不健全等問題，這導致了人工智能應用的不確定性，并對人類倫理道德帶來了相應的挑戰。作為一個涉及多個學科的交叉性話題，圍繞人工智能倫理的研究，目前已吸引了包括計算機科學、生物學、行為科學、心理學、醫學和哲學，以及圖書情報與檔案管理等在內的多個學科的研究人員，圍繞人工智能在設計環節、測試環節和應用環節等涉及的倫理道德開展研究，各國開始積極探索并紛紛頒布了人工智能倫理原則的行動準則和政策文件。為此，筆者擬運用網絡調研法和內容分析法等，以近年來各國學（協）會發布的有關人工智能倫理原則的政策文檔為研究對象，對比分析現有人工智能政策文檔中涉及的人工智能倫理原則的核心框架和內容構成。

二、國內外研究現狀

筆者于2021年12月以“人工智能”并含“倫理”及其對應的英文“Artificial Intelligence”（或“AI”）并含“ethics”為關鍵詞，在CNKI、Web of Science等數據庫中檢索相關文獻，擬從研究內容和研究方法兩個方面對關于人工智能倫理規范內容要素的理論研究進行梳理和剖析。

（一）研究內容

全面分析當前關于人工智能倫理規范的已有研究發現，從研究內容的角度來看，學者已提出了包含以人為本原則、公正原則、公開透明原則、知情同意原則、責任原則及安全原則等在內的人工智能倫理規范基本條款（見表1）。

不過，多數文獻探討的是將人工智能技術應用到其他領域可能引發的倫理問題及應對策略，如人工智能與教育學、醫學、傳播學等領域結合時應構建的倫理原則，且其提出的人工智能倫理規范內容要素大多是主觀推斷，而對于現有人工智能倫理規范政策文檔所涉及的內容要素關注度不高，致使研究結論的深度與廣度均顯不足。

（二）研究方法

從研究方法來看，當前已有學者采用內容分析法，以近年來國際或各國發布的人工智能倫理規范的政策文檔為研究對象，從中提煉出人工智能社會倫理規范并加以剖析。為進一步梳理現有研究所選政策文檔發布主體的類型，筆者選取了6篇應用歸納法開展人工智能倫理規范內容研究的代表性文獻，并按照前述5種人工智能倫理政策文檔發布機構的類型對其進行分析和評述，結果如表2所示。

分析表2可知，從所選研究樣本的發布主體來看，文獻1至文獻6所選研究樣本對于前述5類組織機構均有所涉及。但其共性問題是：未考慮人工智能倫理規范政策文檔制定主體的差異，而是直接、強行地將不同制定主體發布的人工智能倫理規范的政策文檔加以橫向比較和內容提煉，這一做法會導致將不在同一影響力層面的文本政策混為一談，無法確定不同制定主體因自身肩負的社會責任、機構定位等的不同而對人工智能倫理規范的關注點、基本認知、價值判斷、動機立場的區別，最終得到的研究結論缺乏說服力、嚴謹性和可靠性。

三、研究方法

本研究以近年來各國學（協）會發布的人工智能倫理規范文檔為分析對象，創新之處有以下幾方面。第一，研究方法更加規范嚴謹。筆者以實證分析為基礎，從各國學（協）會發布的人工智能倫理規范的相關政策文檔中，更為客觀全面地揭示其核心模塊和內容構成。第二，研究對象具有高度可比性。在現有同主題的研究中，多數學者在選擇人工智能倫理規范的研究樣本時，只考慮內容主題是否與人工智能倫理規范相關，而不考慮制定主體是否在職能和權限上處于同一層級，從而導致將不同影響效力和作用范圍的人工智能倫理規范進行比較，缺乏嚴謹的可比性。本研究所選擇的樣本，其制定主體均為學（協）會，屬于職能和權限相同的同類機構，從而避免將職能和權限存在不同的各類制定主體所制定的人工智能倫理規范進行比較，更好地確保樣本的可比性。

具體來說，首先，筆者梳理了人工智能社會倫理規范相關主題的研究論文，并對其中涉及的人工智能社會倫理規范的基本條款進行了預調研；其次，全面調研各國學（協）會的官網，獲得其發布的與人工智能社會倫理規范相關的框架、指南與原則；最后，以Ethical IA Resource［22］、Future of Life Institute［23］、鏈接人工智能準則平臺［24］等網站為線索，對擬選研究樣本進行完善和補充，最終選擇了10款由各國學（協）會發布的有關人工智能社會倫理規范的政策文件作為分析對象。按發布時間排序，這10款人工智能社會倫理規范依次是：《機器人和機器人設備：機器人及機器人系統的道德設計及應用指南》（Robots and Robotic Devices： Guide to the Ethical Design and Application of Robots and Robotic Systems）、《算法透明度和問責制的聲明》（Statement on Algorithmic Transparency and Accountability）、《AI政策原則執行摘要》（AI Policy Principles Executive Summary）、《人工智能和機器學習：政策文件》（Artificial Intelligence and Machine Learning： Policy Paper）、《人工智能和數據分析的倫理原則》（Ethical Principles for Artificial Intelligence and Data Analytics）、《日本人工智能學會倫理準則》（The Japanese Society for Artificial Intelligence Ethical Guidelines）、《以倫理為基準的設計：人工智能及自主系統以人類福祉為先的愿景（第一版）》（Ethically Aligned Design：A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems（First Edition）、《人工智能職業道德和行為準則》（AAAI Code of Professional Ethics and Conduct）、《負責任的人工智能政策框架》（Responsible AI Policy Framework）、《醫療保健中的增強智能》（Augmented Intelligence in Health Care），詳見表3所示。在此基礎上，運用內容分析法和比較研究法，對上述政策文檔涉及的人工智能倫理原則的內容構成進行分析比較，剖析當前具有較大國際影響力的人工智能倫理原則的核心框架和基本內容。

四、人工智能倫理規范的核心框架與內容剖析

（一）人工智能倫理規范的核心框架

在對本研究所選擇的10款有關人工智能倫理原則規范文檔進行預調研的基礎上，參照與人工智能領域存在交叉的計算機科學、信息技術［25］和醫學［26］等領域構建的基本倫理原則，筆者設計了造福原則、責任原則、公平正義原則、安全原則、尊重人的自主性原則、隱私與保護原則、透明性原則和可靠性原則等8項人工智能倫理原則。在此基礎上，統計分析了本研究所選擇的10款人工智能倫理政策文件中所涉及的倫理原則數量（見表4）。從表4可以看出，當前人工智能倫理政策文件中多強調造福原則、責任原則、公平正義原則、安全原則、尊重人的自主性原則和隱私與保護原則等，部分政策文件還補充提出了透明性原則、可靠性原則和共同治理原則等內容。

（二）人工智能倫理規范的內容剖析

人工智能倫理原則的提出，旨在為人工智能的開發者、使用者和治理者提供應當遵循的理念和規則。為進一步探索人工智能倫理原則的內容構成，筆者全面研讀了本研究所選擇的10款人工智能倫理原則政策文件，并對其中所涉及的人工智能倫理原則的內容表述進行了對比分析（見表5）。盡管不同政策文件中，對人工智能倫理原則內容描述的詳略程度和劃分維度有所區別，但盡可能全面地涵蓋人工智能倫理原則的核心架構，并將其深刻嵌入到人工智能產品、技術和服務的研發、應用和治理等各個階段，是各國學（協）會設計和構建人工智能倫理原則的基本出發點和最終歸宿。

1.造福原則

造福（well-being & benefit）原則指的是，人工智能的發展成果應當被全人類所共享，改善人類賴以生存的社會和環境，推動人類和社會繁榮進步，增進人民和社會福祉［6］。該倫理原則指明了人工智能發展的首要目標和最終歸宿，為人工智能研發人員在構想、設計和優化人工智能功能模塊和系統程序時提供了基本遵循。經分析，本研究所選擇的10個分析樣本中，有8款人工智能倫理原則的指南規范均明確提出，人工智能的研發需遵循造福人類的基本原則。如政策4指出，人工智能開發者應加強對話和協商，制定人工智能發展戰略，保障人工智能為社會公眾帶來福祉，借助人工智能解決教育改革、收入分配及社會服務等問題，并盡可能規避其不利影響；政策6和政策9均提出，人工智能創造的經濟價值應當造福全人類，并為全人類的和平、安全、美好和共同利益做出貢獻。此外，政策8和政策10提出，設計人工智能時應當以用戶為中心，并最大限度地保護基本人權和人類自主權。在此過程中，人工智能開發者的根本目標是將人工智能給人類帶來的健康、安全和隱私等方面的威脅最小化；同時，人工智能的發展還要充分保護人類環境，促進全球自然環境的可持續發展。

2.責任原則

責任（responsibility & accountability）原則指的是，在研發人工智能時應明確人工智能系統、產品、服務或功能的責任主體、責任分配、關聯責任，以及當發生不利后果時各責任主體所需承擔的后果和義務。該倫理原則規定了開發者在人工智能設計和研發階段務必遵循的法律法規和社會責任，進一步明確了人工智能發展過程中的責任紅線。本研究所選擇的10個分析樣本中，有7款人工智能倫理原則的指南規范均提到了人工智能責任倫理原則。其中，政策1、政策2和政策6均指出，人類應當對人工智能負責，并為每個人工智能產品或服務設立特定責任人。政策4和政策7對這一原則做出了更為詳盡的闡述，認為當下應確保人工智能相關法律的明確性。政府需及時制定適用于算法決策和使用的規制框架，保障法律運作的確定性，將用戶權益作為第一要義，并要求人工智能的設計者、開發者和使用者加以遵循；此外，當前需要進一步明確人工智能系統的責任分配，明確規定如若發生安全問題，將由哪些主體承擔責任，以及后續的救濟或賠償措施。政策9建議在人工智能系統的開發、部署和使用過程中設立問責機制，即無論在什么情況下，人類都應當對人工智能的行為及后果負責。

3.公平正義原則

公平正義（fairness & justice）原則指的是，以平等、公正的方式設計、分配人工智能的產品或服務，進而形成全社會平等參與、公平使用人工智能技術成果的良好風范。該原則規定，人工智能的訓練數據和決策算法不應嵌入開發人員觀念中固有的偏見或歧視想法，而應當確保人工智能的產品和服務被所有人平等享有，鼓勵提升社會文化的多樣性與包容性。本研究所選擇的10個分析樣本中，有6款人工智能倫理指南規范提到了公平正義原則。具體來說，政策2指出，人工智能的開發者、設計者、架構師及其他利益相關者應充分了解系統設計、實現和使用過程中可能存在的算法偏見，以及這些偏見給人類社會帶來的潛在威脅。政策6和政策9均指出，人工智能的使用可能會給社會帶來各種性別、年齡、種族等的歧視問題，因此技術開發者在設計人工智能時，應當盡可能避免歧視和偏見，確保該技術以公平的方式被人類使用。政策8闡述了公平正義原則的含義及解決措施，認為這一原則的含義包括平等、寬容、尊重他人、公平正義等。人工智能研究者應保障社會公眾平等享有人工智能服務或產品，不因年齡、膚色、身體狀況、種族、家庭狀況、性別、國別、宗教信仰等差異而受到歧視。鑒于此，人工智能的信息技術應具有包容性和可獲取性，盡可能避免對公民權利帶來的歧視或不公平行為。

4.安全原則

安全（security）原則指的是，在任何情況下都應當阻止人工智能無意識行為傷害人類，或侵犯人類權益［5］。該原則強調人類應采取審慎態度對待人工智能的產品和服務，避免使自身承擔任何不恰當、易受傷的風險［27］，確保人工智能在使用過程中安全運作和穩定可靠。本研究所選擇的10款人工智能倫理原則指南規范均提到了安全原則。其中，政策2指出，系統涉及的模型、算法、數據和決策都應被精準記錄，以便在發生未知風險時對系統進行審核。同時，人工智能開發者也應使用嚴謹的科學方法對其算法模型進行反復、定期檢測，記錄所采用的驗證方法和結果并加以公開，用以評估和監測算法模型是否存在潛在威脅。政策4認為，應當將安全性放在首要和突出地位。具體來說，在前期部署階段，應當對人工智能系統進行反復測試，確保人工智能系統與軟硬件環境安全交互，依照預期程序穩定運行。同時在系統運行過程中也應當設置必要的監控，根據實際需要隨時進行算法的更新、優化和修正等工作。此外，還應確保所有與互聯網連接的人工智能系統安全穩定，以免造成網絡故障或受到惡意軟件感染。

政策8從避免人工智能對人類造成傷害的角度闡述了安全原則，認為在人工智能開發與設計過程中，首先要充分考慮其服務或產品可能給人類帶來的潛在影響，包括對人工智能使用者的身體或精神傷害、個人信息泄露、個人財產或聲譽受損等，確保將所有的傷害降到最低。同時，人工智能開發者可隨時進行系統評估，并向公眾提供風險評估報告，從而減少潛在的危害行為。政策7還進一步指出，開發者需要充分認識人工智能所帶來的潛在影響，避免該技術的誤用、濫用，將其對人類造成的不利后果的可能性降至最低；此外，提高人工智能系統安全性的關鍵方法是提高技術的健壯性、可靠性、可控性和成熟度，應當采取必要的安全防范措施，且提高系統運行的可重現性，即驗證人工智能系統在相同條件下重復運行時能否表現出相同的行為，從而實現人工智能的系統安全、數據安全和外部環境安全。

5.尊重人的自主性原則

尊重人的自主性（respect for autonomy）原則明確了人工智能對個人自由和自主的尊重，指的是在承認個體所擁有的價值和持有的信念的基礎上，賦予具有自主能力的個人以自主選擇和自由行動的權力，其內涵包括知情同意、尊重人權與尊嚴等內容［28］。本研究所選擇的10個分析樣本中，有4款人工智能倫理指南規范提到了尊重人的自主性倫理原則。其中，政策1和政策3提出，人工智能的自主性應當有所限制，要盡可能尊重人的自主性，確保個人可以始終控制人工智能。此外，一是從知情同意的方面來看，政策4指出，在開發、設計或使用人工智能系統時，個人必須掌握控制權，即能夠隨時終止系統算法運行。同時，人工智能系統應具備一定的可擴展性，允許人類隨時更改其決策策略，并納入系統決策支持。二是從尊重人權與尊嚴的方面來看，政策7指出，人工智能系統的設計應當尊重、維系和保護人權，并建議建立統一標準和監督機構，確保人工智能的使用不侵犯人權、尊嚴、隱私和自由。

6.隱私與個人信息保護原則

隱私與個人信息保護（protection of privacy and personal information）原則規定，人工智能的設計、研發和應用的全流程生命周期都應當保護個人隱私和數據安全。《世界人權宣言》明確規定：“任何人的私生活、家庭、住宅和通信不得任意干涉，他的榮譽和名譽不得加以攻擊。”［29］當下，如何保障隱私安全成為人工智能時代亟待解決的問題。本研究所選擇的10個分析樣本中，有5款人工智能倫理規范提到了隱私與保護倫理原則。一方面，人工智能系統可對個人數據進行獲取、分析和處理；另一方面，個人也有權保障個人隱私，限制人工智能系統對其個人數據的過度訪問、挖掘和利用。具體來說，政策1、政策4和政策6指出，人工智能開發者必須安全、合理地使用數據，定期刪除無用數據。同時，要設置加密傳輸和靜態數據，通過設置“訪問權限”限制特定人員進行數據訪問。在收集、使用、共享和存儲數據時，人工智能開發者必須遵循必要的隱私政策和個人數據保護條款。政策8認為，人工智能開發者應充分保護隱私安全，明確用戶數據收集的范圍、形式、權利和責任。在使用個人數據時，必須以合法目的為前提，不得侵犯個人或團體的權利。因此，人工智能開發者做好數據隱私安全保護措施，防止未經授權的訪問和泄露，建立開放透明的政策和程序，讓用戶了解其個人數據使用的目的和途徑，并為用戶提供知情同意許可，及時審查、糾正和刪除錯誤數據。此外，政策8指出，當前人工智能開發者經常需要面對各類機密信息，如商業秘密、客戶數據、金融信息、研究數據、預發表論文及專利申請等。這就要求人工智能開發者提高保密意識，除政府等權威機構的特殊要求外，不得隨意披露此類信息。

7.透明性原則

透明性（transparency）原則指的是，將人工智能的運作規則、算法參數、決策過程和處理結果以清晰、明確、精準的方式告知公眾，主要體現在可追溯性和可解釋性兩個方面。其中，可追溯性指的是與決策過程相關的數據集的產生過程、處理方法和運行結果能夠被精準地跟蹤、查詢或預測的能力，以幫助人工智能設計者分析、審查其決策的正確性，對系統性能和工作程序做出更好的解釋和更優的判斷；可解釋性指的是對涉及人工智能系統技術研發和應用場景的解釋能力，尤其是當人工智能系統對人們的生活產生重大影響時，需要對人工智能系統的決策過程做出適當、及時的解釋，從而幫助利益相關者更好地理解系統設計的基本原則、運作原理和適用性。本研究所選擇的10款人工智能倫理原則的指南規范中，有7款提到了透明性原則。對于可解釋性，政策4認為，人工智能所做出的決策應該具有可解釋性，特別是當決策引發公共安全或導致歧視行為時。首先，要確保算法決策的可解釋性，即人工智能開發者能夠為人工智能系統設計提供充分解釋，一些具有潛在公共安全隱患的人工智能系統在發生事故時提供信息支持。其次，人工智能的服務提供商需要為用戶提供權限，支持其獲取人工智能決策支持的充分解釋。對于透明性，政策5指出，首先，人工智能開發者應公開收集得到的數據、數據使用目的，以及在數據處理過程中應用的技術、模型和處理結果；其次，應公開其數據和模型的控制措施，檢測是否存在算法歧視，是否需要進行算法修正，實現算法公平。另外，考慮到隱私安全問題，人工智能開發者不可能全面公開其算法源代碼，這就需要提高人工智能系統的透明性，明晰責任歸屬。人工智能開發者還需及時與用戶溝通，定期為公眾提供系統有效性和可靠運作的監測結果，以幫助公眾更好地理解和預測人工智能系統的決策及影響。

8.可靠性原則

可靠性（reliability）原則指的是，開發、部署和設計人工智能系統或服務時，所涉及的算法、模型或數據真實可信，可確保人工智能系統能夠在一定時間、一定條件下穩定、高效、無故障地執行指定功能的能力。本研究所選樣本中有5款人工智能倫理原則的指南規范提到了可靠性原則。如政策3指出，開發人工智能系統要以大型數據集為基礎，應正確理解算法程序涉及的參數和數據，保障數據的完整性，同時要確保開發和改進人工智能系統所需數據的魯棒性、代表性和可用性。政策6認為，人工智能開發者有義務以科學、嚴謹、可靠的方式開展人工智能系統的開發和設計，并向用戶全面、如實地解釋人工智能系統可能存在的技術限制和潛在風險。類似地，政策8指出，人工智能開發者應確保其向使用者提供的系統性能、服務質量、潛在風險等信息都是公開透明的，不得提供虛假或誤導性的聲明，不得偽造數據資料和實施行賄受賄及其他惡意行為等。

9.其他

除上述倫理原則外，本研究所選擇的部分分析樣本還提及了其他人工智能倫理原則，用于規范和優化人工智能政策法規、倫理準則的修訂與完善。如政策4提出了共同治理原則，認為應當建立更大范圍、更加多元的人工智能倫理全球治理機制，即在全球和各區域建立多方利益相關者的人工智能倫理治理機構，邀請民間組織、政府、私營部門、學術界和技術社區及公眾共同參與，并依托人工智能倫理問題的舉報機制和監督程序，構建科學合理的人工智能倫理安全保護框架。政策6提出了溝通原則，認為人工智能開發者應當與社會公眾建立長效溝通機制，盡可能提高用戶對人工智能的理解和認識，促進人工智能產品及技術的推廣應用。政策7提及了效率倫理原則，并建議開發人員制定相應標準作為有效性的衡量指標，給出各衡量指標的獲取方法、解釋維度、誤差范圍、置信區間和結果闡述等，并倡導行業協會和組織為人工智能系統應用的有效性制定測量標準，確保人工智能系統的發展目標、風險評估均符合科學有效的原則；此外，政策7提出了勝任原則，即要求人工智能的開發者和使用者具備人工智能技術有效操作、安全運行所需的知識和技能，并向有關專家和用戶提供系統操作方法、前提條件、操作者技能、系統性能衡量方法以及誤操作后果的相關資料。同時，人工智能使用者應當及時接受教育和培訓，使其在心理、情感和技能等方面適應人工智能帶來的影響，更好地享有人工智能的發展成果。

五、結論與思考

本研究選取了近年來各國學（協）會發布的較有影響力的10款人工智能倫理原則政策文件，試圖剖析人工智能倫理原則的核心框架和主要內容。分析認為，現有人工智能倫理原則具有一定的合理性，但仍存在一些不足之處有待改進和完善。特別是，近年來隨著人工智能技術日新月異的發展，所開發設計的各類人工智能產品和服務越來越趨向于具有類人的思維和行為，這就要求其應當更加嚴格地遵守人類基本倫理規范的約束，如家庭倫理原則（包括將夫妻關系與家庭利益相結合，禁止亂倫，對人類自身生產進行規范；要求家庭成員之間相互尊重、相親相愛、敬老愛幼、無私奉獻）［30］、交往倫理原則（即“真”與“誠”原則、仁愛與寬容原則、尊重平等原則）［31］以及職業倫理原則（即自由、責任、誠實、平等、公正和守法）［32］等。但根據筆者研究發現，當前由各國學（協）會發布的人工智能倫理規范并沒有涉及有關家庭倫理、交往倫理及職業倫理等層面的基本原則，致使人工智能產品或服務在參與社會實踐和人機交往過程中缺乏必要的倫理遵循，進而引發各類社會倫理問題。因此，在制定人工智能倫理原則時，既要考慮為政策執行者提供依據和指導，又要綜合分析人工智能產品或服務的現實應用［33］，如將真誠原則、仁愛寬容原則、自由守法原則等納入其中，使其更具普適性和實用性。

參考文獻：

［1］KRITTANAWONG C， ZHANG H， WANG Z， et al. Artificial Intelligence in Precision Cardiovascular Medicine［J］. Journal of the American College of Cardiology，2017（21）：2657-2664.

［2］孫偉平.人工智能是倫理道德建設的“助推器”［J］.特區實踐與理論，2019（4）：98-101.

［3］SWARTE T， BOUFOUS O， ESCALLE P. Artificial Intelligence， Ethics and Human Values： The Cases of Military Drones and Companion Robots［J］. Artificial Life and Robotics，2019（3）：291-296.

［4］JOBIN A， IENCA M， VAYENA E. The Global Lands-cape of AI Ethics Guidelines［J］. Nature Machine Intelligence，2019（9）：389-399.

［5］鄧國民，李梅.教育人工智能倫理問題與倫理原則探討［J］.電化教育研究，2020（6）：39-45.

［6］張浩，黃克同.邁向制度化的人工智能倫理［J］.人工智能，2019（4）：32-38.

［7］蔣潔.風險視域下人工智能倫理的主旨和原則［J］.信息通信技術與政策，2019（6）：13-16.

［8］杜靜，黃榮懷，李政璇，等.智能教育時代下人工智能倫理的內涵與建構原則［J］.電化教育研究，2019（7）：21-29.

［9］鄭志峰.人工智能時代的隱私保護［J］.法律科學（西北政法大學學報），2019（2）：51-60.

［10］李倫，孫保學.給人工智能一顆“良芯（良心）”——人工智能倫理研究的四個維度［J］.教學與研究，2018（8）：72-79.

［11］楊保軍，杜輝.智能新聞：倫理風險·倫理主體·倫理原則［J］.西北師大學報（社會科學版），2019（1）：27-36.

［12］李娜，陳君.負責任創新框架下的人工智能倫理問題研究［J］.科技管理研究，2020（6）：258-264.

［13］HO C W L， ALI J， CAALS K. Ensuring Trustworthy Use of Artificial Intelligence and Big Data Analytics in Health Insurance［J］. Bulletin of the World Health Organization，2020（4）：263-269.

［14］曹建峰，方齡曼.歐盟人工智能倫理與治理的路徑及啟示［J］.人工智能，2019（4）：39-47.

［15］張榮，徐飛.人工智能醫學倫理問題及對策研究［J］.醫學與哲學，2020（13）：14-19.

［16］KESKINBORA K H. Medical Ethics Considerations on Artificial Intelligence［J］. Journal of Clinical Neuroscience，2019，64：277-282.

［17］ZENG Y， LU E， HUANGFU C. Linking Artificial Intelligence Principles［C/OL］. Proceedings of the AAAI Workshop on Artificial Intelligence Safety （AAAI-Safe AI 2019），2018［2021-09-21］.https：//arxiv.org/abs/1812.04814.

［18］JESSICA F， ACHTEN N， HILLIGOSS H， et al. Principled Artificial Intelligence： Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI［EB/OL］.［2021-08-23］. https：//dash.harvard.edu/handle/1/42160420.

［19］THILO H. The Ethics of AI Ethics：An Evaluation of Guidelines［J］. Minds and Machines，2020（1）：99-120.

［20］BURUK B， EKMEKCI P E， ARDA B. A Critical Perspective on Guidelines for Responsible and Trustworthy Artificial Intelligence［J］. Medicine Health Care and Philosophy，2020（3）：387-399.

［21］RYAN M， STAHI B C. Artificial Intelligence Ethics Guidelines for Developers and Users：Clarifying Their Content and Normative Implications［J/OL］. Journal of Information， Communication and Ethics in Society，2021（1）：61-68

［2021-09-21］.https：//www.emerald.com/insight/content/doi/10.1108/JICES-12-2019-0138/full/html.

［22］Ethical AI Resources.Institutes and Fellowships［EB/OL］.［2021-09-21］.https：//ethicalairesources.com/other-resources/.

［23］Future of Life Institute. Summaries of AI Policy Resources［EB/OL］.［2021-09-21］.https：//futureoflife.org/ai-policy-resources/.

［24］準則列表［EB/OL］.［2021-09-21］.http：//www.linking-ai-principles.org/cnprinciples.

［25］斯皮內洛.世紀道德：信息技術的倫理方面［M］.北京：中央編譯出版社，1998：12-13.

［26］WMA. Declaration of Helsinki［EB/OL］.［2021-06-25］.https：//www.wma.net/what-we-do/medical-ethics/declaration-of-helsinki/.

［27］比徹姆.哲學的倫理學［M］.雷克勤，郭夏娟，譯.北京：中國社會科學出版社，1990：26-27.

［28］KANT I. Foundations of the Metpyysics of Morals［M］. Philadelphia： University of Pennsylvanis Press，1977.

［29］格德門德爾·阿爾弗雷德松，阿斯布佐恩·艾德.《世界人權宣言》——努力實現的共同標準［M］.中國人權研究會，譯.成都：四川人民出版社，1999.

［30］薛寧蘭.婚姻家庭法定位及其倫理內涵［J］.江淮論壇，2015（6）：133-141.

［31］王倩薷.論現代社會的交往倫理［D］.西安：陜西師范大學，2013：43.

［32］王海明.制度倫理的重要原則［J］.江海學刊，2000（3）：89-93.

［33］劉繼虎，王琛揚.智能機器人法律主體地位之探討［J］.重慶郵電大學學報（社會科學版），2021（2）：74-80.

The Core Framework and Content Analysis of Ethical Principles of Artificial Intelligence

ZHOU Qingshan1， ZHENG Xia2， HUANG Guobin3

（1. Department of Information Management， Peking University， Beijing 100871， China;

2. Office of Laboratory Management and Teaching Facilities Development， Renmin University of China， Beijing 100086， China;

3. School of Government， Beijing Normal University， Beijing 100875， China）

Abstract：［Purpose/significance］ Artificial intelligence technology quietly opened the curtain of the fourth industrial revolution， bringing revolutionary changes to the development of all walks of life. However， the legal regulations and standard construction of this technology are not yet perfect， which has triggered the global exploration and thinking of artificial intelligence ethics principles and standard systems. National academic/associations have successively issued artificial intelligence ethics codes or policy documents. This research comprehensively analyzes and sorts out the core framework of the current highly recognized artificial intelligence ethical principles， and aims to provide references for countries to formulate and improve artificial intelligence ethical norms. ［Method/process］ By using the network research method， content analysis method and comparative research method， on the basis of comprehensive consideration of influence， country， availability and other factors， we select the authoritative policy documents related to the ethical principles of artificial intelligence issued by various national academic associations in recent years， and extract the core framework and main contents of the ethical principles of artificial intelligence involved. ［Results/conclusion］ The field of artificial intelligence mainly includes 8 artificial intelligence ethical principles， including the benefit principle， the responsibility principle， the fairness and justice principle， the safety principle， the respect for human autonomy， the privacy and protection principle， the transparency principle and the reliability principle.

Keywords：artificial intelligence; ethical principles; standard system

（編輯：李春英）