人工智能帶來的社會問題與治理

王婧漪

（1.西安交通大學 馬克思主義學院，陜西 西安 710049；2.寧夏區委黨校 哲學教研部，寧夏 銀川 750021）

人工智能的誕生與發展深刻地影響著人類文明的演進，自20世紀50年代誕生以來以其驚人的速度為社會發展提供了不可估量的動力，給人類的生活環境帶來了翻天覆地的改變。在人類歷史發展的長河中，人工智能是唯一觸動了各個領域專家與學者思想碰撞與激蕩的領域，技術與社會的融合問題一直以來都引人深思。

一、辯證地看待人工智能的發展

人工智能，究其發展來看，就是運用計算機科學、電子信息技術、控制論等學科，涉及哲學、心理學、認知科學等概念，可以廣泛應用于交通運輸行業、社會服務行業、教育醫療業等各個行業領域的研究與發展的科學技術。2019年5月，習近平總書記在中國人工智能與教育大會的賀詞中指出：“人工智能是引領新一輪科技革命和產業變革的重要驅動力，正深刻改變著人們的生產、生活、學習方式，要推動人類社會迎來人機協同、跨界融合、共創分享的智能時代，培養大批具有創新能力和合作精神的人工智能高端人才。”[1]人工智能以迅雷不及掩耳之勢融入了人類生產、生活當中，云計算、大數據、人機對話、智能手機、“互聯網+”等等，讓人們體驗到了足不出戶的便利與優勢，但同時也意識到了快速發展的人工智能技術所引發的一系列社會問題。

1.人工智能：為社會發展注入新活力。人工智能的產生與發展是有著社會必然性的，其初衷就是減輕人類的負擔，輔助人類進行生產勞動，提升人類認識世界、改造世界的能力，這是人類通過社會實踐活動對所擁有的知識不斷學習、更新、完善的結果。

縱觀人類的歷史發展過程，生產力的發展是社會進步的決定性力量這是毋庸置疑的，從最初人類的手工勞動演化到機器生產，再到實現自動化的生產勞動，這是對人類勞動方式進行了變革，是生產力不斷進步的必然要求。工業革命后，生產力的發展實現了前所未有的飛躍；計算機模擬與信息技術的迅猛發展，引起了生產方式的巨大變革，人工智能以一種獨特的方式進入人類的視野、影響人類的物質生產活動，滿足人類的基本需求，并且在經濟全球化與一體化的今天慢慢地改變了人類所特有的生活方式。

大數據時代，在擁有“數據、算力與算法”這樣大批量、多維度、深層次的訓練之下，人工智能不僅能夠完成自我學習、自我提升、自我價值的實現，更具備了處理以往只有人類才能進行的復雜問題分析以及推理的能力。

2.人工智能：機遇與挑戰并存。人工智能的發展推動產業更新換代的步伐，為發展中國家提供了趕超發達國家的可能性，社會發展本身就是新事物不斷地產生、發展之后逐步代替舊事物的過程，這個演進過程并不是一帆風順的，但我們必須堅信道路是曲折的，而前途是光明的。

任何一個新事物的產生都會掀起一股浪潮，人工智能的產生集人類智慧于一身，提高了社會生產率，改變了人類的生活質量，卻也對整個社會體系產生了不小沖擊。人工智能以驚人的發展速度引發了人們的深深思考，2015年谷歌集團的阿爾法狗（AlphaGo）機器人毫無壓力戰勝歐洲圍棋冠軍樊麾，2016年輕松打敗世界圍棋冠軍職業九段棋手李世石，2017年在中國烏鎮圍棋峰會上以3：0的成績與排名世界第一的世界圍棋冠軍柯潔對戰再次大獲全勝，引起社會廣泛關注，各界人士對人工智能給物質生活帶來的改變議論紛紛。人們一方面感嘆于人工智能僅在半個多世紀就在各個領域取得了巨大成就，為智能生活所帶來的幸福與便利感到震驚；另一方面，也因為擔憂在未來的日子里人工智能有可能會超越人類智慧、搶奪人類主體地位，而置人及人類文明于極大地不確定性或風險當中，倘若沒有正確的價值方向和規范的體系指引，人工智能未來的發展將會給人類社會帶來不容小覷的改變。

二、人工智能發展帶來的社會問題

1.人工智能的發展引發新的社會矛盾。科學技術作為調節人與自然關系的最基本的手段，經歷了把人由受牽制的被動地位逐步提升到可以與自然平等對話、能夠適應自然、改造自然的重要位置。人工智能推動了社會產業結構的優化、促進社會轉型升級，改變了人類的生活方式，但由于“科學萬能論”的流行，當人們頻頻舉杯慶祝這難得的碩果、享受豐收的喜悅時，大自然這個人類賴以生存的大家庭卻失去了往日的斑斕色彩。

其一，濫用人工智能威脅人類健康、生命安全。人的發展并不是孤立的，而是離不開所處環境、離不開與他人之間正常交往的。例如，當前智能產品的使用使人們可以足不出戶就能享受到各種服務，淘寶可以滿足人們在家坐等所需的愿望、電子游戲可以填補人們的空虛與寂寞，這些從表面看來似乎都減輕了人類生活當中的種種壓力，但隨之而來的就是健康以及安全問題，排斥與他人進行交流、長期沉溺于網絡游戲的虛幻生活中會導致人類逐漸喪失語言能力、溝通能力，長此以往，甚至會影響婚姻、家庭關系破裂。再如，一些藥物可以激發運動員的耐力、體力，但如果長期服用是否也會對其身體造成或多或少的影響，這些都不得而知。

其二，引起就業壓力與失業擔憂。人工智能之所以可能引起失業擔憂，并不是說其本身不好，而是因為利潤空間的增大以及資本的驅使。每個職業的產生與存在都有一定的意義，人工智能的快速發展取代了許多本來由人類擔任的工作，使得一些傳統行業和手工業的生存空間被大量擠壓，利用機器進行工作取代人類最原始的手工勞動是實現人的解放的必要手段，機器具有勞動時間長、專注力高、處理問題“理性”、可操作性強、效率高、犯錯率相對低的特點，但確實也會存在有些行業因為重復性強、工作方式單一等原因而造成了整體性失業概率逐漸增加的可能性。尤瓦爾·赫拉利在《未來簡史》一書中預測：“大量單一、重復的工作將迅速被人工智能取代。”這是一個學術界熱議的問題，也是人類社會發展到最終要實現人的全面解放所不得不面對的問題。未來的人工智能前景依然十分廣闊，能夠勝任的工作也越來越多，不僅是汽車司機被取代，教師、律師、醫生、警察等各種職業都有可能被取代。生產勞動是人類生存的必然要素，一旦失去勞動這個支撐人類實現物質需求與精神需求的核心動力，隨之而來的就是越來越大的生存壓力，不斷增大的貧富差距會引發一系列社會問題，當失業的人數不斷增加、就業成為一大問題時則會引發社會動蕩不安。

其三，引發生態環境問題。人們在享受經濟發展帶來的無限憧憬時卻也伴隨著巨大的生態環境破壞。空氣污染、植被銳減、過度開墾、土地沙漠化、生物多樣性減少等問題正在反噬著人類賴以生存的環境，我們要面臨的不僅僅是經濟的停滯甚至還有可持續發展要面臨的困境。

生態環境問題往往會因為影響不顯著或者多年后才得以顯現，而受到人們的忽略。首先，與計算機技術與信息化技術相關的二氧化碳排放量數據逐年增加，耗電量增長速度飛快，甚至趕超航空業。美國馬薩諸塞大學阿默斯特分校研究人員表示，在當前人工智能數據上傳到云中心的過程中，由于算法的復雜性以及存在高精密度的訓練方式，所以會產生驚人的二氧化碳排放量，相當于一輛普通汽車終生二氧化碳排放量的5倍，或者相當于飛機在紐約和舊金山之間大約300次的往返飛行；其次，智能產品在制造過程中容易產生廢料，而且更新換代速度很快，例如智能手機，由于應用程序多功能全、屏幕大耗電量大、反復充電的次數多對電池的損害也自然較大，一般使用年限均在1-2年，很難實現回收再利；再如從事宇宙某些搜索任務的智能機器人，發生故障或意外損害后，大多數都淪為太空垃圾無法進行處置，這將對環境產生極大危害。

2.人工智能的發展引發倫理問題。

關于人工智能可能引發的問題，首當其沖的就是倫理問題。圖靈在1948年所著的《智能機器》一文中指出了隨著人工智能技術的興起與發展，隨之而來的擔憂就是倫理約束滯后這個難題。從20世紀30年代圖靈機的出現到2017年機器人索菲亞成功獲得沙特阿拉伯公民身份，人們看到人工智能快速發展的同時也意識到由于人類認知能力的局限性，對于未來人工智能的發展圖景任何人都難以預測。

其一，挑戰人的主體性。人工智能是由人類創造的，必須得依賴于人類的智慧，但實際上人類惰性的存在是天生的，當智能發展融入人類生活的方方面面，人們會樂于享受其帶來的輕松感，會越來越依賴于人工智能的方便快捷，導致自身獨立思考的能力日漸消退，伴隨而來的就是愈發強烈的惰性，最終失去思考的能力，使其主體性受到挑戰，導致人類的存在危機產生。我們可以設想，“一旦創造出有意識的思維克隆人——即智能的、有情感的、活的虛擬人，成為一個普遍的人類追求，我們將面對很多新的個人問題和社會問題，因為它從根本上擴展了‘我’的定義”。[2]試想，不遠的將來機器甚至可以再看人一眼后就能夠完全讀懂人的內心想法，這是多么可怕的一件事。在社會發展過程中，人是主體，是實踐的主體，同時也是認識的主體，原本人與人的溝通與合作變成人與機器之間的配合甚至慢慢演變成機器之間的協作，將會導致人這個社會發展的主體因為機器的緣故逐漸疏遠，而機器成為社會發展的中心，一旦將人與人工智能的主體地位混淆了，那么出現機器代替人的可能性將會無限增大。

其二，侵犯人的隱私。人工智能是以一種技術手段產生并得到迅猛發展的，對于涉及個人的數據分析、采集與應用就不可避免地暴露了隱私，大量的數據訓練、算法更新會將個人信息、健康狀況、網絡瀏覽甚至是所處位置信息被碎片化的保存，然而在這些雖然看起來并不完整的信息中會提取到很多對于個人來說隱私且有用的信息被用于商業牟利。例如，當人們在網絡針對某個問題進行過瀏覽后，隨后每次打開瀏覽器都會接收到推送相關問題的內容，毫無隱私可言。再如，日趨成熟的人臉識別技術，走到哪里只要刷臉就可以完成簡單快捷的認證，為當代社會提供了極大的便利，但不可否認的是海量數據的輸入卻也帶來了個人隱私泄露的安全隱患。

其三，存在技術理性取代價值理性的可能性。社會的發展與進步離不開人的情感關懷。人是有感情的，而機器沒有，人工智能的學習主要是對人的大腦皮層中的多層神經網進行模擬，然后通過大數據訓練來完成，其貫穿始終的是技術理性，表現出的行為都是機械化的，顯然是不具備人類所特有的情感方面的內容，也完全不能理解人類的情感和人類行為的動機。例如，在現實生活中出現緊急狀況時，無人駕駛的汽車是應該優先保護車內人員的生命安全，還是車外行人的安全？這樣的情感抉擇和難度會因為各方面的原因不斷升級。目前的人工智能還是以保守的方式進行設計，一旦真正賦予機器以人的情感，涉及的問題不僅僅是安全問題，還會產生更多的倫理問題，因為我們很難不把一個擁有情感的機器當作生命來對待。

3.人工智能的發展存在不確定性和風險

作為21世紀最震撼人心的新興技術，人工智能的發展與實踐取得了巨大成就，但在其應用的過程中也確確實實帶了一些前期沒有預料到的后果，難以預料和無法準確量化評估導致目前人工智能技術存在不確定性和一定的風險。例如機器人傷人事件發生、無人機不僅能航拍還能獨自執行任務、2016年特斯拉公司發明的自動駕駛汽車致使人員傷亡，甚至是致命性武器的研發和使用等等都指向了人工智能產品存在很大的安全隱患，這都說明技術失控的可能性并非不存在的。

科學技術究其本質來講，本來就存在著無限的不確定性，其復雜的程序和可能的風險是無法進行準確計算的。對人工智能進行擬人化的深度研究所帶來的風險系數更高，倘若人工智能擁有越來越接近人類的思維、行為、欲望將會帶來更大的危險。首先，因為人性的不同則會存在著千差萬別的世界觀、人生觀以及價值觀，那么由不同的人所設計出的人工智能不可能達成統一的效果，當機器具備可以模仿人的一切行為時是否會有一些不好的習慣產生？人有自我控制的能力，機器能有嗎？一旦出現問題，是負責輸入算法的人來承擔責任，還是由機器承擔呢？屆時所帶來的矛盾和沖突也會不斷升級。其次，倘若人工智能不斷學習、升級，是否可能遠遠超過人類的力量，發生技術失控的情況？屆時將會給人類帶來巨大的心理壓力，這就好比死亡是每個人都將面對的必然結果，但是當它真正來臨時，那種內心的驚恐和不安是無法承受的。正如溫納所警示的：技術確實有時并不能服務于人類，有時技術會失去控制，甚至會導致災難。從技術史的演化來看，技術失控是一個持續的、日常的事物，在我們日常生活或高技術領域里都有這類事物；失控不是技術本身的錯，而是人們想象或勇氣的缺失。[3]當人類越來越依賴這些人工智能帶來的便利，一旦出現隱藏的問題或者對人工智能技術操作不當時將會引起整個社會的恐慌，破壞生產和生活秩序、擾亂社會穩定，對人與自然、人與人之間的和諧關系帶來極大的威脅。

三、關于人工智能社會治理的思考

改革開放41年來，人工智能給我們生產、生活帶來的改變有目共睹，人們的日常生活離不開智能產品、國家的日益強盛也與人工智能密不可分，只有對其賦予科學、理性的態度，才能夠使人工智能的存在與發展始終向著增進人民福祉而努力，為實現人民的美好生活而做出貢獻。

1.發揮人的主觀能動性，實現人機協同發展

一是尊重和承認人的隱私權與個性價值，實現人的自我提升與完善。馬克思主義唯物史觀指出：人類社會歷史發展的主體必須是“現實的人”，只有當“現實的人”、滿足需求的生產活動以及生活條件這三者必須同時存在時，人類的實踐活動才是有效的。我們需要在所謂超級智能出現之前對自身進行深刻的反思，如何讓人工智能的發展最終實現以人為本。在遵守平等原則的前提下，尊重人權，加強隱私方面的法治建設。法律面前人人平等的原則就意味著無論任何人都不能因為任何事而侵犯他人隱私，在不違反社會公益的情況下，不允許將人分類、不允許存在算法歧視、不允許不經本人同意利用隱私換取私利。必須將現實生活中的隱私權與虛擬網絡中的隱私權均以成文法律的形成加以表現，才能真正維護人的根本權益，實現人人平等。

當代科技發展崇尚個性的解放，尊重個人獨立精神與自由發展，首先，重視知識分子這個角色在社會發展中的重要地位；其次，重視“道”與“器”的辯證統一關系。重視形而上、忽視形而下的問題在21世紀的今天看來就是沒有達到理論與實踐之間的和諧、沒有平衡科技的功利性與其所真正蘊含的價值。對科技功利性過度強調，會造成“科學至上”的不良后果，真正的發展是既不能過度強調科技功利性又不能破壞對中國傳統文化的傳承。如何未雨綢繆做好準備，使公眾能夠理性認識并且從容應對弱人工智能到強人工智能的轉化，這是必須提前思考的問題。

二是加強人工智能設計應用人員的倫理道德管理，將倫理準則嵌入智能機器程序。“一直以來，道德倫理的責任主體必須是人，若因AI引發倫理危機而對算法設計者進行道德問責，就忽視了設計者與受害人之間不存在直接因果關系的事實。但是，這并不意味著算法設計者可以不必努力尋找讓AI的決策更具倫理意義的技術，恰恰相反，設計者應當審慎地在算法中嵌入當下社會的主流倫理觀”[4]。道德，是人所特有的，存在意識、能夠獨立思考、能夠對一切事情進行判斷，這是人與其他一切物種之間最根本的區別。首先，進行程序設計、運用的人員必須符合較高的倫理價值標準，對相關人員的各個方面，包括學習背景、生長環境、道德水平、心理能力、行為守則等方面進行價值評估，要明確是人賦予各種機器以智能，而不是智能反過來駕馭人。在不違反道德標準的設計上可以允許有存在失誤的可能性，但是必須得有相應的彌補措施與進行恢復的有關機制，當系統檢測到有誤判或者程序編錯的內容時，可以合理科學的糾正倫理準則。其次，加強倫理應用人員的道德管理。因為人是道德的主體，所以使用人工智能產品的人員要將倫理道德規范內化于心、外化于行，增強責任意識、提升道德修養，不能為了滿足自身的需求而損害他人的利益或者危害他人生命健康，要構建人與人之間的和諧關系，克服對技術的盲目崇拜，以人工智能為載體，完善自身發展。

三是將人文精神融入人工智能技術當中。第一，將人工智能技術與中國傳統文化相結合，積極尋找符合社會發展規律的科學精神。第二，新時代人工智能的發展必須圍繞核心價值理念，堅持人本位的思想，使人類能夠充分利用人工智能技術提升自身水平、增強適應能力，實現真正意義上的人機互補。正是對科技的濫用引起了全球性問題，只有加強思想建設，重視人類命運共同體的構建，加大人文關懷，才能加深公眾對于人工智能更深層次的認識。

2.創新社會治理制度，推進“技術”與“社會”的良性互動

國務院2017年7月8日印發并實施的《新一代人工智能發展規劃》中指出，人工智能帶來社會建設的新機遇以及人工智能發展的不確定性帶來新挑戰，要積極應對力爭2030年達到世界領先水平、成為世界主要人工智能創新中心。我們要看到人工智能是對數據或者程序進行不斷的模擬來找到共性，由于會受到生產力的限制或者客觀條件的影響，不可能短期內擁有完全超越人類的思維與智慧，因此，要充分發揮人的主觀能動性來進行創新，努力創新治理機制、發展治理工具、強化社會責任，構建一套完整的治理體系與治理范式。

一是增強風險意識，以利于社會公平正義為目標，緩解人工智能可能帶來的不確定性沖擊。2017年《阿西洛馬人工智能原則》的提出充分體現了司法的公開性，里面提到被社會認可的高級人工智能要符合現行法律、要本著促進公平正義的社會發展理念，不可以違反人們的認知、不能破壞社會的健康秩序。公平正義是構建和諧社會的基石，是人類自我價值實現的要求，關于人工智能的設計與研發必須要以人類整體的利益為根本目的，而不是僅為了某個人或某些人，要盡量縮小因權力、能力、地位間的差距而引起的不公平，在以人為本原則的前提下始終堅持公平公正原則、道德責任原則等價值原則來規范人工智能的創新與發展，能夠做到照顧到多數人的愿望、符合多數人的要求、維護多數人的利益。

二是加強技術研判、預測和應用的監管與規制，改革不合理的機制體制。我們應當借鑒后現代主義科技觀進行反思，正如有學者所指出的，高科技的人工智能發展后果難以預測，對此我們更應該采取的是“底線思維”，以防止和化解最壞的情況出現，而非考慮為智能機器培養高尚的道德價值。[5]當我們能夠認識到人工智能發展的不確定性，針對這些風險把“品質過硬”“合理決策”“后續保障”等內容放在一個新的領域進行研究的時候，一旦人工智能的利用對某些行業造成威脅時，相關機構應當作出合理的評估，結合智庫研究對這些人作出合理的安置，以防止因為失業原因造成的社會問題擴大化。將智能技術看作確定性與不確定性相統一的事業，提升社會治理水平和協作能力，堅持人自身的發展與人工智能協同進步的理念，不斷重塑自我、完善自我，不僅僅是把人工智能當作一種單純的技術手段，而是形成人工智能與社會發展共融互滲的良性互動關系以促進社會有序的發展。

3.加強法治建設，堅持立法要以安全與秩序為價值取向

英國政府于2016年發布了《人工智能：未來決策制定的機遇與影響》報告，指出了英國政府高度重視智能機器能夠讀取個人隱私、干涉個人自由所引發的法律與倫理方面的風險，指出對機器學習與個人數據相結合時應該做出合理的規劃，對人工智能所制定出的決策要采取明確的問責與追責機制。由此可見，健全的制度是在對人工智能進行設計時必須堅持的倫理準則，堅持人為機器立法，無論是為規范行業準則還是制定區域法規，再或者國家立法，甚至到具有全球性強制力的公約，都要將安全與正義作為重要體現。

法律規范作為一項調整、約束人行為的規章制度，必須要堅持體現安全這個核心概念。人工智能存在的巨大風險是不可控的，甚至有可能會趕超人類智能而帶來不可估量的嚴重后果，以法律法規規范、對其進行安全監測、倫理規制勢在必行。通過維護社會秩序的穩定來保障主體的合法權益不受侵害，維護社會秩序穩定，建立一套對預期風險可防可控的標準體系進行監督管理，使立法價值充分得以體現。

科技求真、倫理求善、制度求效，無論科技怎樣發展，都萬不能脫離了以人為本的軌道。科學技術與人類的和諧必須要求形成一股合力以達成無論是從理論上還是從實踐中對技術發展的理性控制，搭建人與機器對話的平臺，切實地做到將“個體”關懷延伸到“人類命運共同體。”