淺析人工智能背后的問題

袁倩 郝丹丹

摘要從阿爾法Go到谷歌的無人駕駛汽車，再到阿里云的ET城市大腦，人工智能逐漸為人們所熟知，越來越普及的大數據，使得人工智能的作用和價值也越來越大。人工智能應用不斷加深不斷成熟，其背后的問題也逐漸凸顯，道德困境無法解決，數據的交換引發隱私憂慮，無人駕駛汽車造成的侵權問題如何解決，時人工智能安全問題的擔憂，本文將從法律和道德倫理兩方面來探究，并試圖提出相應的對策來解決相關的問題。

關鍵詞人工智能 隱私權 侵權 法律主體 道德困境

一、人工智能的概述

（一）人工智能的概念

人工智能（ArtificialItelligence），簡稱AI。是1956年由麥卡錫與一批計算機科學家、數學家、心理學家、神經生理學家、信息學家在美國首次提出。廣義上來說，人工智能指的是通過某種方式讓機器擁有人的邏輯判斷能力或“思維能力”，以根據特定輸入條件做出相應的判斷或決策。其實廣義的人工智能早已走出了科幻小說，在生產生活中被廣泛地應用了。人工智能自誕生以來，理論和技術日益成熟，應用領域也不斷擴大，給我們的生活帶來了極大的便利，也取得了許多嘆為觀止的成果，同時也成為21世紀最熱門、最具有挑戰性的學科之一。

（二）人工智能的社會應用

近年來隨著智能企業的不斷增多和人類對人工智能技術研究的不斷深入，利用該類技術研發的產品也不斷上市，給社會多個領域帶來了極大便利，使我們的生活更加耳目一新。身邊的掃地機器人，谷歌翻譯，iphonoX的人臉識別以及Sift：無人駕駛技術逐漸精進，如今，阿里云的ET城市大腦投入使用，將道路監控、紅綠燈等設施每天產生的海量數據統籌協同，計算出實時的交通優化方案，智能調節紅綠燈，提升道路車輛通行速度，在一些特殊的、對交通時效要求極高的場景，城市大腦的“協作”價值更為凸顯，通過自動調配紅綠燈為患者開出一條“綠色生命線”，讓120到達現場的時間縮短一半。對于危重病患來說，這一半的時間并不能簡單地以經濟價值來衡量。

二、人工智能帶來的問題

（一）人工智能帶來的道德倫理問題

1.道德困境

人工智能作為一項新科技，它的發展進步會給傳統道德帶來一定沖擊。如今的人工智能說到底是算法的控制，算法是由人來編寫的，那人類面臨的道德困境人工智能一樣要面對。以無人駕駛汽車為例，假設在其行駛過程中，面對分岔路口，只能決定走其中一條道路，其中一條道路上有五個環衛工人在工作，另外一條道路有一個小孩子在玩耍，車輛左轉會將五位環衛工人撞死，車輛右轉小孩子因此喪命，這種情況下，無人駕駛汽車應該選擇走哪條路？如果一條道路是小狗，另一條道路是五個環衛工人，此時無人駕駛汽車該選擇走哪條路？如果一條道路上有無百只小狗，另一條道路上有一個環衛工人在打掃呢？在設計算法之初，能將一百只小狗的價值等同于一個環衛工人的價值嗎？這就是一個現代版的“電車難題”。雖然傳統的一人駕駛模式不存在上述的兩難困境，但是隨著人工智能的發展，無人駕駛技術登場，這種兩難困境我們必須要去面對并盡可能的想辦法去解決這種困境。

2.倫理問題

一項新技術的產生，或多或少都會對傳統倫理造成一定的沖擊，人工智能也一樣。人類會不會和機器產生感情一直是個令人擔憂的問題。很多影視作品已經對人機情感問題產生了擔憂?？苹脨矍椤端分v述了作家西奧多在結束了一段令他心碎的愛情長跑之后，愛上了電腦操作系統里的女生，原因在于，這個叫“薩曼莎”的姑娘不僅有著略沙啞的性感嗓音，并且風趣幽默、善解人意，讓孤獨的男主角泥足深陷。一次系統升級，西奧多發現，自己喜歡的薩曼莎總共有8316位人類交互對象，而與其中的614位發生了愛情，西奧多只是其中的一位，男主角因此很是悲傷。

人機之所以會產生情感，很大程度上是因為機器在某些方面填補了人類情感的空白，同時因為人工智能作為一項技術是附著于各種產品上的，可以隨時隨地的為我們所用，并且及時對我們的言語表情做出回應，這是人類所無法企及的，這也就會加大人類對此類功能的依賴性，并由此產生更深層次的情感依賴。一旦人工智能發展完全，難保它不會脫離人類的控制，帶來種種風險。就社會包容程度來說，這種人機情感也無法被倫理所容納，恐懼來源于未知，人工智能的起點何時到來我們無從知道，這樣的場景何時會出現我們也不清楚，這種擔憂值得我們去思考。

（二）人工智能帶來的法律問題

1.主體身份無法界定

隨著人工智能的發展演變，它在人類社會上到底屬于什么，在法律上應如何給他準確定位值得我們思考。人工智能說到底是人類算法在控制，那對這種決策控制下的主體到底該如何定位。我們可以把它當做自然人來看待嗎？機器人可以被虐待嗎？另外，回到上一個問題，無人駕駛汽車造成損失，這種責任到底誰來擔，是人工智能背后的決策設計者，還是人工智能本身？我們需不需要對人工智能賦予“電子法律人”資格，以自己的行為能力享有一定的權利，負有一定的義務，并在一定情況下獨立的承擔責任這個問題未來值得更多探討。

2.隱私權保護帶來隱患

很多人工智能系統，都是算法學習，決策學習，而算法決策又是在人類控制下產生的。而這些算法在涉及深度學習時又不免會對人類的隱私權造成侵害，數據問的交換難免會帶來信息泄露，在當今時代背景下給我們隱私憂慮。對大數據的獲取、挖掘分析能力不斷提升，數據獲取的廣泛性和實效性、挖掘的自動化和智能化程度均令人膛目結舌，機器也許比我們更了解我們自己。

第一，當前情況下，我們安裝一些軟件時大部分正規的軟件會發出提示，詢問用戶是否要開啟定位服務、是否要加入用戶體驗計劃以獲取更好的服務等問題，當我們同意授權時，無疑是將我們的個人信息源源不斷的給予了軟件。如果我們不同意授權，那么我們也就不能享受軟件帶來的生活便利，這就產生了矛盾，軟件并沒有強迫我們使用它，但是我們大部分人還是為了享受更好的服務而向其提供了個人的隱私。其實現在看來，隱私保護與科技發展似乎已經形成了一定的矛盾，在互聯網、物聯網、大數據、云計算、人工智能等技術高速發展的今天，也許這種矛盾是不可避免的。第二，基于人工智能的發展趨勢，它完全有能力根據其所收集的信息不斷向外延伸，促使其不斷提高自身的智能水平并進一步提高對用戶的了解程度，它能夠根據用戶授權獲取的部分信息而繼續繁殖信息，那么這種未經個人授權，通過智能分析獲取的如體重、身高、婚戀、家庭、愛好、健康狀況、收入情況、心理特征等信息是否可以認定為非法獲取。第三，考慮到各種服務之間大量交易數據，數據流動不斷頻繁，人工智能系統將挖掘出的信息與商品或服務進行關聯，向客戶推薦，實質上這些信息已經提供給了商家使用。由此可見，人工智能環境下，我們的個人信息可能在知情的情況下被獲取，也可能在不知情的情況下就被獲取、提供以及出售。隱私權保護令人擔憂。

3.責任與安全問題

眾所周知，人類能形成生產協同網絡的最核心基礎是分工契約體系。這個體系規定著我們每個人在合作結構中的責任、權利與義務。其中被最常認作“公理”的一條是：當一個社會人承擔某責任、做出某決策，他也就同時必須承擔，至少是分擔其決策所帶來的收益與風險。而當人工智能替代人類進入生產環節做出決策時，一個極大的不對稱就出現了：給人工智能賦予做出某項決策的責任是所有買家都會做的事（也是人工智能被創造出來的天職），但面對的是正面收益還是負面風險，人工智能都無法像人類那樣對自己的決策負責。

三、人工智能背后問題的應對策略

（一）構建人工智能內部合理的約束機制

1.進行合乎道德倫理的算法設計

第一步在源頭給人工智能輸入正確的價值規范體系，對價值優先級做個排序，在面對兩難困境的時候，根據價值優先級不同從而做出選擇，在損害必需發生的前提下，讓損害程度降到最低。另外，面對道德困境首先我們需要用一個開放的心態去看待，千百年都沒能解決的問題也不能強求人工智能的出現來解決。我們要盡可能的去確立合乎倫理道德的原則，然后讓技術緊隨其后。

第二步是將所發現的規范和價值加入人工智能系統，借鑒美國學者瓦拉赫和艾倫的思想，采用三種模式來實現，“自上而下的進路”、“自下而上的進路”以及“混合進路”。自上而下的進路是指選擇一套可以轉化為算法道德準則作為機器行為的指導原則；自下而上的進路類似于人類的道德發展模式，通過錯法培養道德判斷能力。不過，這兩種方法均有一定的局限性。比如，第一種進路把一套明確的規則賦予機器可能是不合理的，同一種原理在不同的情況下可能導致不同的相互矛盾的決定；后一種進路要求機器能夠自我發展進化，而人工智能系統的學習與進化能力的提高將是一個比較緩慢的過程?；旌线M路在一定程度上把兩種進路統一了起來：一方面，美德本身可以清楚地表述出來；另一方面，它們的習得又是典型的自下而上的過程。

2.進行有效的內部算法監管

隨之人工智能的進步，起背后的算法也越來越復雜，而人工智能對我們的生活影響也越來越大，我們有必要對人工智能設定相應的規則以及標準，制定相應的監管措施。沒有規矩不成方圓，人工智能也是如此，第一，要建立行業標準，例如分類、性能標準、設計標準、責任標準等等，通過這些標準的建立，科學管理人工智能，同時規范人工智能的研發，從源頭遏制違反法律的現象發生；第二，強化此類行業的透明性，包括算法自身的代碼透明性，以及算法決策透明性。第三，設立人工智能產品的事前監督制度，比如對于無人駕駛汽車等危險性系數較大的人工智能產品，在這類產品的設計之初，就需要相關部門或者該領域內的專業人士對算法進行審批對于達到行業標準，可以進入下—環節，而對于哪些無法達標的在源頭予以遏制，以免未來發生更大的損失。第四，對已經投入使用的人工智能進行事后的檢測與評估，一方面，要對人工智能產品流入市場之后的發展現狀，是否達到設計之初的標準。另一方面，主要評估在產品應用過程之中存在哪些問題，針對出現的問題進一步研究解決對策，優化人工智能的性能。

（二）構建人工智能外部合理的約束機制

1.對研發人員進行必要的指導與監管

同其他高新技術一樣，人工智能也是非常專門化的科技知識，但其歸根結底是人類的產物，解決人工智能的問題說到底是解決人的監管與指導的問題，也就是說，我們需要對人工智能每一個環節的設計者參與者進行監督管理。

首先，人工智能的研發人員自身要有一定的道德底線，并遵守相應的行業標準，最基本的職業操守等，如涉及違背道德倫理的行為不能因為利益而去做。

其次，強化人工智能研發者的專業責任意識，包括積極責任和消極責任兩方面。積極責任強調研發人員應該做什么，如何通過技術手段來保證人工智能是安全的合乎道德倫理的；消極責任則關注當人工智能出現負面影響或嚴重后果時，應該由誰來承擔責任，使得人工智能安全責任問題有所保障。從積極責任的角度來看，研發者在研發過程中不能僅僅只追求經濟利益，或者一味迎合客戶需求。從消極責任角度來看，當人工智能系統出現錯誤時，研發者應該承擔相應的責任，而不是把責任歸咎于人工智能本身的不確定性與復雜性。從某種意義上來說，解決人工智能面臨的問題的首要因素并不在于人工智能技術本身，而在于人工智能研發人員的責任心。

2.以協調有序的機制加強對隱私權的保護

首先，要加強對隱私權的保護就是要建立保護隱私權的法律規范體系，從現階段來說，不管是人工智能還是及其相配套的法律監管體系，在我國都屬于萌芽階段，這就要求我們國家的法律工作者從現實出發，結合現有的人工智能的發展現狀，建立起完善的有關人工智能的法律體系，以此來加強對人工智能使用者的隱私保護。

其次，從各類人工智能軟件的從業者來說，由于現階段人工智能軟件的發展過快，導致人工智能軟件的研發和實際使用過程中不可避免的出現了侵犯隱私權的情況，這就要求此類軟件的研發者明確這些需要采集的隱私權是否真的有必要，并且這些隱私在匯聚到后臺時能否得到完善的處理及保護，以及在處理這些信息時是否合法有序。這就要求人工智能軟件的從業者在法律的指導下建立—種合法有序的行業規范，使用戶隱私權得到切實的保護。

最后，要從人工智能軟件的實際使用者本身來說，實際使用者在使用此類軟件的過程中要提高自身的防范意識，對不需要通過的隱私權請求予以否定，并且在使用過程中盡量少的泄露自身的隱私，與此同時也要提起注意，日常生活中發現有隱私泄露的情況要及時尋找泄露的根源并及時處理問題。

（三）換一種思維來看待人工智能安全問題

過去幾十年，人工智能的發展形勢一陣陣的并不明朗，樂觀也好悲觀也罷，做做談資也沒什么。如今，數據、計算力、算法三大人工智能要素的充足度已經不可同日而語，人工智能的發展大勢已經不可避免，所謂樂觀悲觀都只是在揣測，在不可改變技術革命面前，把討論焦點轉移到“如何讓人工智能最終走向樂觀”顯得更有價值。在人工智能威脅論調中，不少人認為在弱人工智能階段（按設定邏輯推理、解決問題，但沒有自主意識），我們要持樂觀態度，只有在強人工智能或超人工智能階段（智能自主解決問題，具備自主意識，甚至超越人類），我們才要持悲觀態度。

其實，人工智能是否威脅，不在于其發展到哪個階段、是否形成了對抗人的能力，而在于其和人類已有的秩序是否沖突。

就算是弱人工智能，有沖突存在也算是一種客觀威脅，比如2013年牛津大學馬丁學院的MichaelOsborne和CarlFrey發表了一篇題為《未來職業：工作有多容易被機器取代？》的論文列舉了數十個領域上千份可能會被取代的工作，幾乎整個社會都會被替代，這種社會結構的劇烈變革、對大多數階層的沖擊，對他們而言就是一種十足的威脅。

因此，也許我們更該聚焦于如何避免沖突的討論上。對于“替代”陣營來說，一味地模仿人類行為、代替人類操作的技術極客之旅中，也必須配套思考如何讓這種“替代”不產生沖突。

對人工智能安全的擔憂無非認為人類會失去對人工智能的控制從而造成社會風險。這種想法從一開始就假定人和人工智能之間是沖突的、不相容的。而既然這種擔憂本身就帶有科幻色彩，不如就用科幻的邏輯來揣測人工智能。就像人尋找上帝是為了找尋自己的意義一樣，倘若人工智能真的想要威脅，其目的也不過就是為了確認和證明自己的存在。因為一開始就被設置在與人協作、各自分工的位置上被尊重，而不是與人爭利的沖突地位，就算有一天蘋果ARKit、阿里云ET大腦變成了有自主意識的強人工智能，它們也沒有任何理由要來挾制人類。人類依賴人工智能帶來的交通疏導、產業運營效率提升，人工智能的存在自有意義，不需要再通過威脅的方式獲得意義。也即，在阿里云ET大腦這樣的項目上，機器有智能，人類有智慧，機器做了人做不了的事情，沒有沖突也就不會有威脅。只有那些本身就沒有把人工智能放在平等的位置上，以統治階級控制平民的思路來談人工智能的人，才會感受到切實的威脅。

所以，要讓人工智能的未來走入樂觀，首先要拋棄的恰恰就是那些對如何控制人工智能進行各種研究的行為（它本身也不會成功），專注用協作、伙伴等平等態度來發展人工智能。