人工智能技術發展中更廣泛的人權保護問題探析

劉秀麗

(西南政法大學 民商法學院，重慶 401120)

人工智能(AI)作為一種工具在世界范圍內被使用已經成為一種普遍趨勢，無論人工智能將來的發展趨勢如何，可以肯定的是任何人工智能的創建、開發和使用都是為人類服務，都應充分尊重人權，特別是保護個人隱私、個人數據以及人的尊嚴不受損害，減輕因人工智能的發展可能導致的歧視以及侵犯言論和信息自由問題。這些要求和挑戰加強了國際人權機構合作的必要性，以確保在國際層面的所有人工智能技術發展中促進和保護人權，使個人能夠理解和控制人工智能系統。

一、 人工智能技術發展中的傳統人權保護

(一)人權界定

人權(human rights)是西方文化的產物，關于人權的主張最早產生于西方古典自然法觀念中。然而對于人權的定義卻是眾說紛紜。“人權”概念最早是由意大利詩人但丁提出，他認為人類的目的是要建立統一的世界帝國來實現普天下幸福，而“帝國的基石是人權”。[1]1789年法國的《人權宣言》中“人權”意指人身權利和基本自由。第二次世界大戰以后，人權的外延得以擴展，政治、經濟和文化等權利也被許多國家的憲法和法律劃入人權的范疇之內。20世紀70年代以后，人權的外延進一步突破了公民權和政治、經濟、文化權利，發展權、環境權等“第三代”人權被國際社會所普遍接受。

人權由“人”和“權”兩部分構成，即“人道”和“權利”的融合。本文依據前人關于人權的定義推導出，人權，首先是屬于人的權利，本質上只能由人享有；其次，應當是一種道德權利，盡管世界各國基于其習俗有著不同的道德定義，但是基于人性本身的抽象，道德權利具有一致性；最后，人權的外延應當擴展至與人的存在與發展相關聯的一切權利。基本人權應當是社會中的個體所享有的人的最起碼的人格、人身、安全、生存和發展的基本權利和基本自由。因此,本文中所提到的個人隱私、個人數據保護、歧視、言論和信息自由以及人類尊嚴等問題皆應在基本人權的范疇之內。

(二)隱私權與個人數據保護

人工智能的發展以大數據的收集為基礎，大數據收集過程中采取的技術手段必然會涉及到個人隱私以及個人數據保護問題，這一類問題所涉及的范圍是人工智能發展觸及傳統人權領域時學者們研究較多的話題，相對于新近提出的“更廣泛的人權問題”的研究較為成熟。美國法學家沃倫與布蘭代斯于1890年發表的《論隱私權》中首次提到了“隱私”的概念，并將其界定為一種免受外界干擾的獨處權力。隱私的本質特征在于個人可以獨自控制和決定涉及其隱私的事項而不受外界干擾和侵犯。如今，人工智能侵犯隱私的情形主要有兩種：一是侵權人非法控制人工智能系統，比如黑客、病毒等；二是智能系統本身可能存在瑕疵。[2]人工智能語境下的隱私權內容得以擴充，隱私權保護的范圍擴大，隱私權的財產性增強導致了隱私保護手段的多樣化。無論是美國還是歐洲大陸都更多地將隱私權上升到了基本人權的意義上加以保護，對隱私的保護日益呈現出國際統一化的趨勢。

人工智能發展過程中使用數據收集技術時，倘若只規定數據處理者的義務而不對數據主體創設權利保護似乎并不合理。在美國法中，個人數據權叫做信息隱私權，是指個人具有其數據的控制與處理的權利。我國學者也有針對我國具體情況提出個人數據權的定義：個人數據處理自由支配權是規定或隱含在法律規范中，實現于法律關系中的自由支配和控制個人數據處理行為所獲得利益的一種手段。[3]個人數據權不同于隱私權，它不強調獨處與隱匿，而更多地強調自由支配的權利。然而在計算機批量處理數據的過程中，由于技術原因難以區分個人數據和非個人數據，因此在數據被收集、處理和應用的各個環節,個人數據都存在被侵犯的風險。針對個人數據法律保護存在的兩種模式，即以美國為首的低政府干預模式和以歐盟為首的高政府干預模式。[4]我國的個人數據立法處于“真空地帶”，盡管一國法律必須根植于社會特定基礎的土壤之上，但是仍可借鑒美國或者歐盟法律保護的范式，以期制定出適合我國的個人數據保護法。

二、人工智能技術發展中更廣泛的人權保護

(一)決策歧視

人工智能決策歧視是指基于機器學習和人工智能系統的一些被“訓練”過的數據集被發現包含固有的偏見，導致決策可能不公平地歧視某些個人或群體，限制某些服務或內容的可用性，進而侵犯個人權利。最為典型的例子是亞馬遜此前曾應用的使其招聘過程自動化的人工智能系統，該系統給求職者打分，一星到五星不等。問題在于該系統程序往往給男性求職者打五星，而給女性求職者只打一星。據路透社報道，該系統將含有“女性的”簡歷置于不利地位，除此之外該系統還壓低了上過女子大學的申請人的分數。這說明亞馬遜該自動招聘系統是經過“訓練”的，即輸入過去十年的亞馬遜招聘信息，因為此前大多數申請者為男性，該程序即“認為”男性為更好的申請者，因此導致了對女性求職者的歧視和不公平待遇。據此推斷，過去十年招聘信息的輸入者本身亦或是亞馬遜并沒有歧視女性的初衷，而導致決策歧視的其實是數據本身固有的偏見。當把本應當由人類做出的決策讓渡給人工智能系統時，系統如何最大程度上實現公平？在數據輸入前，數據輸入者是否能有意識的選擇和判斷原始數據是否包含固有偏見，是否能有意識的初步預測系統是否會產生歧視性決策是至關重要的。

人工智能系統決策的偏見和歧視體現在社會的很多其他方面，例如美國司法系統用于評估刑事被告再次犯罪的可能性的軟件，更有可能將黑人被告視為潛在的累犯；人臉識別軟件對非白種人的識別能力較差；谷歌一個圖片應用程序甚至將非裔美國人標注為“大猩猩”；微軟的人工智能聊天機器人Tay被網民“教壞”為一個集性別歧視和種族歧視為一身的“不良少女”。

(二)尊重言論和信息自由之反自動化決策權

言論自由是公民權利和政治權利的重要組成部分，馬克思曾這樣描述言論自由；“表達言論的自由在所有的自由里是最為基本的，因而它在世界上所有的自由里，也是最為神圣的。”[5]信息自由是指公民對與之相關的信息資料有決定其如何使用的權利。尊重個人的言論和信息自由在人工智能語境下外延應擴展至尊重個人的反自動化決策權。反自動化決策權是指應當保證個人不受制于僅基于自動化處理的決定的權利，同時在不適用的情況下保證個人具有挑戰和反對這種決定的權利。反自動化決策權是新近提出的概念，但是在歐盟等國的法律實踐中可以尋得其發展的路徑及其內涵。

《歐洲基本權利憲章》第八條規定：每一個人都有權保護自己的個人數據。這些數據必須是為了特定目的，并征得數據相關個人的同意或在其他法律規定下進行公平的處理。每一個人都有權獲取所收集的與之有關的數據，并且有權予以更正。依據歐盟成員國以及美國對于此種在人工智能技術發展中的個人數據自動處理和決策問題所產生的權利的研究和法律實踐，筆者認為，“尊重個人言論和信息自由以及與之相關的反自動化決策權”應包括以下內涵：第一，知情同意權。該項權利所反映的人權屬性應該居于核心地位，個人應當掌握和知曉自己的個人數據在何時何地被以何種方式進行處理。第二，封存權。當數據處理和自動化決策違反數據主體的意志時，數據主體有權請求自動化系統控制者暫時停止其個人數據的處理。第三，反對權。即數據主體有權對自動化決策的結果提出反對意見并要求對導致該結果的個人數據進行更正或刪除。

(三)人的尊嚴

需要首先界定和明確的是“人的尊嚴”不完全等同于“人格尊嚴”。人的尊嚴是人的根本性和終極性的價值，需要通過具體的權利來實現，也是人格權的基礎。人的尊嚴的概念來自于自然法，并得到現代法治國家的確認，是現代法秩序的哲學基礎。[6]康德曾提出人格權的概念，并將人格視為人的尊嚴的權利。康德對此概念的理解包含兩個方面：第一，人本身就是自己的主人，人不能成為手段和工具。第二，人的尊嚴基礎是人的自主和自治，每個人都應當有自主決定行為方式、做出行動的權利。因此，人的尊嚴和自治、自決總是聯系在一起的，可以說，自治和自決是實現人的尊嚴的必經之途。“人是獨立的、自由的，所以不應該服從他人，而應該服從自己的理性。當人類服從他們的理性時，就超出自然，獲得了尊嚴，因此自主是人性和一切有理性事物的尊嚴基礎。”[7]人的尊嚴是人權領域最根本、最終極的保護對象。

人工智能技術發展中獲取的數據尤其是涉及個人隱私的數據或信息稱得上是人的尊嚴的屏障。個人數據尤其是涉及個人隱私的數據的公開和披露會直接導致人的不安全感產生，猶如赤裸暴露在光天化日之下，也會因他人的羞辱損及個人尊嚴。再言之，若是在人工智能自動化決策中，個人數據的主體無權支配和決定其個人數據和信息的處理，那么他就喪失了對于自身的最終決定權，失去對自己控制和決定的人也必然會喪失其作為獨立個體的人的尊嚴。在人工智能領域中，個人數據和個人信息會被拼湊合成一個獨立個體的“畫像”，而這個“畫像”可能是還原了個體真實信息的，但也不排除在信息的收集和處理過程中的偏差或有意操縱導致個體的電子人格與其現實形象相去甚遠，導致其形象的扭曲，使其受到尊嚴的損害。根據美國微軟公司的調查，75%的美國招聘人員和人力資源專家稱，會對應聘者進行網絡搜索，其中70%遭拒的應聘者都是因為網絡上的不良信息。[8]

三、解決人工智能技術發展中更廣泛的人權保護路徑

考慮到上述人工智能技術發展過程中對于更廣泛的人權保護所帶來的挑戰，本文提出以下共同治理原則促進國際人權機構以及各國在此領域的一致合作，以確保人工智能的發展和使用符合規范、倫理和人類價值觀，尊重人類尊嚴。

第一， 公平原則。應將公平原則作為首要原則，設計、開發和使用符合基本人權的人工智能和機器學習技術。確保人工智能系統的使用與其原始預期目的相一致來保證個人的合理預期，并且保證個人數據的收集與使用方式與其初始目的相一致。在考慮到人工智能的使用對個人的影響的同時，還要將人工智能的使用對整個人類的影響納入考慮范圍。從整個人類的安全角度出發，應確保人工智能技術的發展能夠促進人類的進步而不是阻礙甚至危害人類，這就需要國際人權機構以及各國協同反對通用人工智能的大規模使用，而是通過對功能和用途的精細劃分發展單一技能人工智能。

第二， 公開原則。應當改進人工智能算法系統的透明度和可理解度以及可達性，以實現個體對于人工智能系統的理解和控制。提高人工智能系統的透明度、可理解度，應當注意每個相關受眾個體的理解能力以及所需的信息不同，這就需要數據處理者提供與人工系統應用目的和效果有關的信息，以保證其與數據個體期望的連續一致性。再者，通過提高人工智能系統的可審計性，來保證所提供信息的有效性、真實性和有意義性，以確保個體在人工智能系統交互的過程中能夠始終獲得真實有效的信息，以實現人工智能系統的全面人為控制。

第三， 默認應用隱私的開發原則。在人工智能系統的開發與設計時，通過設計應用默認隱私來對其進行開發，以確保人工系統在進行數據收集和處理時，數據主體的隱私和個人數據能夠得到充分的尊重和保護。這就需要在一項人工智能系統開發之始，對其應用隱私功能進行預期評估和檢測，并對其整個生命周期的隱私保護狀況進行預測，以確定其后續的投放和使用符合尊重人權的具體要求。

第四， 鼓勵個人權利行使原則。應在國際范圍內通過宣傳和教育活動鼓勵個體增強對人工智能時代其個人權利的理解和促進其權利的行使。用張文顯教授的話來說，“權利是目的, 義務是手段, 法律設定義務的目的在于保障權利的實現。”因此，在人工智能語境下，尊重相關權利顯得尤為重要，尤其是尊重個體的言論和信息自由，擴大反對權和告訴權及于個體的影響，保證個體不受來自人工智能系統自動決策決定的限制和拘束,加強個體參與意識以及相關權利的行使意識。

第五， 反歧視原則。國際領域應著重投資有利于識別和減輕因使用人工智能數據而可能導致的非法偏見和歧視，這就需要在技術應用過程中保證自動決策使用的個人信息和個人數據準確、最新并盡可能完整的前提下還要尊重個體的隱私權以及對于個人數據的保護。雖然相對矛盾和具備挑戰性，就更加需要人工智能決策系統的開發者和使用者在檢測過程中進行利益與道德的權衡，在遵守保護人權的國際法律文書的前提下應用該系統，避免本末倒置，觸發更大范圍的社會與倫理問題。

四、 結論

基于大數據和復雜系統的人工智能技術的高速發展帶給人類社會的影響是全方位、多領域的，在為促進人類便捷和經濟發展的進步而喜悅的同時不能忽視在更高層面的人權倫理方面帶來的挑戰。作為一種跨國界高速發展的工具，人工智能所帶來的人權挑戰研究也必須全球性推進，在國際人權層面補充人工智能技術發展的共同治理措施，促進國際層面的溝通與實時性互動，提升個體在與人工智能系統交互時的自覺意識。