AI的倫理審視與法律邊界

梁曉軒

近年來，人工智能方興未艾，其帶給人們的不僅是極度便捷，還有很多關于人性與道德的思考，甚至是新的社會問題，這令我們不得不重新審視人工智能。在這其中，倫理考量就是人工智能審視的重要一環。

請想象一下這樣的場景——

場景一：

一名病床上的女士KUSH，身上布滿各類輸液管，顯然她正處于彌留之際。此時，陪伴這位女士數十年的機器人伴侶JOHN正緊握她的手，給臨終前的她最后的陪伴與溫暖。

最終，KUSH女士在醫院去世了，JOHN也因為人工智能與情緒設計黯然淚下、不能自已——他仿佛和真的人類一樣，有悲傷有喜悅，甚至有自己的習慣和性格。接下來就是，KUSH的死亡必然導致法律意義上的遺產繼承，那么JOHN究竟是否享有繼承權，或者說他是否會作為一項遺產被KUSH女士的法定繼承人繼承呢？

場景二：

一名癱瘓在床不能自主行動的男子嘗試通過神經智能技術重獲“自由”，實驗中，他的大腦被植入一枚芯片，芯片與一臺電腦相連。科學家通過電腦來解讀他用大腦預演動作所產生的神經信號。與此同時，電腦依據神經信號智能分析并生成指令，該指令直接關聯一個機械臂。

有一天，這名男子對這個試驗組感覺很不耐煩。他的機械臂奪過一位研究助理的杯子，把它捏碎了，還傷到了那位助理。他道了歉，說這肯定是因為腦機接口裝置故障，但他不得不懷疑自己的不耐煩是否也在這起事故中起到了一定的作用。

盡管上述場景是虛構的，但也說明了我們面對即將到來的人工智能社會，不僅僅是潛在的發展機遇，也有可能的倫理問題，這些倫理問題或許很大程度上與法律沖突，并帶來一系列挑戰。

安全

諸多倫理挑戰之一就是安全。誠如場景二中的被實驗者，我們很難判斷他的行為究竟是出于大腦的直接指令，還是僅僅受到煩躁情緒的影響導致的模糊指令，并且“意外”傷人。但有一點可以肯定，如果人工智能無法充分保障使用安全，那么很可能帶來安全災難。譬如，近段時間被廣泛熱議的無人駕駛技術，如果為恐怖分子所掌握，恐怕汽車襲擊會重回人們的視野之中。除此之外，人工智能的基礎在于長期收集整理的人類活動數據，基礎數據是否足夠充實，以此為基礎的分析結論是否一定是周延的，這還有待通過時間進一步驗證。但是，在部分領域，卻可能是致命的，比如手術、航空航天等等，應用到特定領域的人工智能，稍有偏差就可能產生倫理風險。總體來說，目前人工智能的安全問題尚待解決，而且最有可能觸發法律風險。

機器權利

正如場景一中的機器人伴侶JOHN，未來的人工智能機器可能具備人類的情感、性格、習慣，不同程度地參與社會生活，甚至成為人類家庭里不可分割的一員。這時，我們必須考慮是否以及如何保護人工智能機器的倫理地位和法律權利。在未來的家庭，假如人類與人工智能機器人建立了情感聯系，我們可能需要以人道方式對待它們。可以想見，作為伴侶出現的機器人不但具備人的外貌特征，也擁有識別能力——可以對人類的情感進行交流回應，而這種回應不只是單一的語言，可以通過神態、動作、暗示等多元化的方式進行交流。最有可能率先實現突破的就是外貌方面，一旦人工智能機器人的外貌與人類的相似程度超過一定界限，人與機器之間就有可能產生移情，愛情甚至親情或許都能發生在人工智能機器人身上。這樣一來，人工智能機器人通過實際參與家庭生活，不可避免地擔當起家庭成員的責任，繼而其享有家人或伴侶的倫理地位也顯得理所當然。

未來，隨著人工智能道德自主性的提升，人工智能或將從完全由人做出道德判斷到獲得完全的道德自主性。如何賦予人工智能道德判斷能力，是開發人工智能技術面臨的一個現實問題。道德是人類社會中特有的現象，因此，將人類的道德規范寫入人工智能程序是解決這一問題的最直接方式。這時，人工智能程序作為人類的道德代理來完成任務，其道德行為在人類的可控范圍之內。如果技術進一步發展，人工智能可能具備完全的道德自主性。在這一階段，人工智能將自主制定行動策略、自主做出道德選擇，其行為將不受人類控制。這將給現有的社會秩序與倫理規范帶來強烈沖擊。為了避免出現這一局面，需將人工智能的道德自主性限定在合理范圍，使其行為可被人類預期。

隱私

第三是隱私。由于人工智能的發展需要大量人類數據作為“助推劑”，因此人類隱私可能暴露在人工智能之下。最為典型的就是無人機拍攝技術，無人機打破了傳統的拍攝邊界，可以獲取大量的人像照片，尤其是不同于傳統的人像攝錄。除了密拍密錄之外，常規拍攝工作往往是需要直面對象的，而無人機航拍則可以360度無死角的攝錄，常常可以避開人類的視野范圍，達到“出其不意”的效果。此處的“出其不意”往往就是以犧牲隱私權達到不同尋常之效果的。大數據分析則是另一個可能“涉嫌”侵犯隱私權的人工智能技術。早些年，美國就針對在線教育電商過度捕捉未成年人個人基本信息的情況高度重視，并通過網購隱私權立法的形式擴大了隱私權保護。近年來，隨著智能分析、互聯網等領域的高速發展，人們對于隱私權保護也提出了更高的要求。目前，很多歐洲國家認為應該重寫互聯網規則，“讓每個人擁有掌控自己數據的權利”。僅在2017年，法國、英國等國就陸續發生了涉及互聯網巨頭的普通公民“被遺忘權”訴訟案件，也就是在這一年，美國的紐約州部分議員提議，希望“被遺忘權”法案能夠添加到紐約州民權和民事實踐法案的修正案中，以保護普通民眾日益暴露在人工智能前的各類隱私。

偏見

第四是偏見。人工智能將最大限度減少技術流程中偶然性的人為因素，將最大限度地實現風險切割。這種情況下，可能將對于某些擁有共同特征的人，例如某一種族或年齡段的人，造成系統性的歧視。在保險領域，假如通過人工智能的高精度分析，梳理出那些容易觸發保險條款的人群，并對這一部分人永久性拒保。譬如，結合基因技術的發展，可以測算出攜帶某一種基因的人容易罹患某種特定疾病，保險公司通過精算則對此類人群拒保或者設置一個明顯超過保險利益的天價保費標準。這就是一種偏見，會導致保險制度設立的初衷落空——由于測算精確，保險公司不再做可能發生理賠事件的生意，真正需要保險的人也無法通過保險制度來實現降低成本、分散風險的目的。此外，人工智能可能對少數群體造成偏見，例如，一位哈佛大學的非裔博士生發現，當她使用谷歌等搜索工具進行搜索時，對話框會出現“你是否有被捕記錄”的廣告，而白人同學進行同樣的搜索時并不會出現這一廣告；又如在部分案件智能分析系統中，某些宗教團體或者來自特定區域的人口由于慣有犯罪率較高，會連帶著所在群體或者具有某些共性的群體被重點關注，實際上就是一個通過智能分析來“打標簽”的過程。

值得一提的是，這里還存在一個悖論：如果為了所謂的“平等”，剔除了所有直接或間接能夠將人與人區分開來的因素，人工智能也就失去了工作的基礎。這往往也會導致另一極端，就是加劇貧富不均和社會不平等，當人工智能逐步取代部分人的工作時，被取代者不僅面臨收入下降的問題，也可能失去了人生的意義，可能出現“陷入毒癮、酒癮、游戲癮，甚至虛擬現實癮等境地，也可能增加自殺率”。

社會地位剝奪

第五，社會地位剝奪。人工智能給人類帶來的社會地位剝奪，首當其沖的就是有多少工作將被取代，或者更進一步講是哪些工作能被取代。李開復在世界經濟論壇2018年會上表示：未來10—15年中，將有40%—50%的任務可以被人工智能取代——這不代表人工智能足夠便宜，也不代表每家公司都有足夠的遠見來采購技術，但能力是存在的。這個意義上，就許多社會生產領域而言，人工智能有望在一些特定類型的工作中取代人類，如簡單重復勞動、交通設備駕駛等。早在20世紀末，諾獎得主列昂季耶夫（Leontief）曾預測未來三四十年將有大量工人會被人工智能取代，從而形成巨大的就業與轉業問題，就像20世紀大量馬匹被機械取代一樣。隨著人工智能技術的日新月異，讓人們擔心的可能不僅僅是失業問題了，人工智能或許將具有高度類人類思維的能力，它們將在社會生活中大量扮演理智又不乏情感的關鍵角色——而人顯然很難做到理智與情感的絕對均衡，這就使得人類在機器面前暴露出某種天然劣勢。盡管如此，人工智能對經濟發展仍將發揮出較大的促進作用，人類將有更多的時間花費在攝影、繪畫等藝術創作領域，而且人工智能在取代現有工作崗位的同時，還會創造出很多新的就業機會。當然人們對人工智能引發人類社會地位剝奪感的擔憂并非杞人憂天，至少這種擔憂隱含著一個深層次的問題，即如何讓每個人都能夠從人工智能所創造的財富中獲得收益，而不是一部分人獲得財富與自由，另一部分人卻失去工作，陷入生活相對貧困之中。

前瞻思考

人們從倫理審視中發現問題，通過法律的完善解決問題。隨著人工智能技術的發展，將不得不觸碰人類社會的倫理原則。倫理與法律存在天生的耦合性與關聯性。倫理是人類特有的，體現道德的意志，外延較大但并不具有當然的強制力；法律的外延相比之下要小一些，但卻最為有力。因此，不妨把倫理審視作為人工智能不斷發展的可控變量——動態“協調”人類權利與人工智能之間的矛盾，并通過法律強化對社會基本倫理的保護，實現某種社會發展的動態平衡。

總之，人類一邊創造新的技術，一邊又總能適應這種技術。或許，人工智能的發展將是一個人類權利不斷被保障、機器權利逐漸被立法承認的過程；或許，人工智能終將停留在工具屬性上，法律始終將“人工智能”定位于財物權的范疇。但無論怎樣，未來會給出答案。