人工智能技術的風險問題及應對措施

摘 要：隨著社會經濟的快速發展，科學技術的不斷進步，人工智能逐漸融入人們的生活，給人們的生活帶來了前所未有的改變，甚至越來越多專家學者開始擔憂，人工智能發展可能會變為人類的強大競爭者。因此，準確識別人工智能技術存在的風險問題顯得尤為關鍵?；诖?，本文首先闡述了人工智能的概念，然后分析人工智能技術的風險問題，最后提出應對人工智能技術風險的措施。

關鍵詞：人工智能技術;風險;應對措施

中圖分類號：TP18 文獻標識碼：A 文章編號：1003-5168（2020）13-0008-03

Risk Problems and Countermeasures of Artificial Intelligence Technology

HE Lan

（Henan University，Kaifeng Henan 475000）

Abstract： With the rapid development of social economy and the continuous progress of science and technology， artificial intelligence gradually integrates into people's life， bringing unprecedented changes to people's life. Even more and more experts and scholars begin to worry that the development of artificial intelligence may become a powerful competitor of human beings. Therefore， it is very important to accurately identify the risks of AI technology. Based on this， this paper first described the concept of artificial intelligence， then analyzed the risk of artificial intelligence technology， and finally put forward measures to deal with the risk of artificial intelligence technology.

Keywords： artificial intelligence technology;risk;countermeasures

人工智能是人類社會發展到一定階段的產物，于人類發展而言，其產生、應用及發展意義重大。從社會角度講，人工智能可以最大限度地提高生產力和經濟效益;從生活角度講，人工智能有利于增加生活的便捷性，提高生活品質。雖然人工智能的產生對人類社會發展具有巨大的促進作用，但我們仍要以一種謹慎的態度來看待人工智能的地位和作用，要正確認識其存在的風險問題，有效降低風險、控制風險、應對風險，這樣才能充分發揮人工智能技術的優勢和作用。

1 人工智能的概念

人工智能是計算機科學的一個分支，其企圖了解智能的實質，并生產出一種新的能以人類智能相似的方式做出反應的智能機器[1]。從語義學角度來講，可將人工智能分為2部分，即“人工”和“智能”。其中，人工是科學和工程的一種產物，是由人制造出來的;而智能則是人的智力能力，如人類認知、記憶、思考等?？偟膩碇v，智能是一種心智能力，與神經機制和認知活動息息相關。因此，筆者認為，可將人工智能定義為，可以幫助或替代人類思維的一種工具，而其主要通過計算機程序的形式呈現，可在數據中心獨立存在，或以機器人等形式體現。此外，在特定環境下，人工智能還具備有目的地獲取及應用知識、技能的能力。

2 人工智能技術的風險問題

2.1 人工智能技術自身發展的局限

人工智能發展過程中，會給人類帶來諸多挑戰和風險，如其作為服務于人類的技術工具時產生的風險，主要是由其自身局限造成的，即人工智能技術發展還不甚完善，并未實現真正意義上的“智能”，也可以認為，人工智能還處于“弱”人工智能階段。就目前來講，對于人工智能技術的研究，多集中于機器情感研究，在情感模擬中，人工智能機器是以主體意志對象化客體的形式體現，是人類程序的結果，這種情況下，還無法達到計算程序的預期研究效果。例如，“阿爾法狗”，目前只能作為圍棋核心技術，在其他領域應用較少，且無法達到超乎人類的目的[2]。

由此可見，在技術層面上，現階段的人工智能技術仍存在很大的局限，并未真正實現人工智能的自我意識和超強學習能力，也就是說，現階段并未達到“強人工智能”階段。僅針對目前研究水平，往往會出現人工智能技術操作失控等情況，在應對方案實施過程中同樣存有一定問題，若操作失誤，必定會造成嚴重損失。

2.2 人工智能倫理評估標準模糊

人工智能作為一種新興技術，在早期研究中，對人工智能倫理規則的構建存在很大缺陷，甚至存在空白。雖然早期很多學者專家對其應用過程中潛在的風險進行了假設，但在實際應用中與假設仍存在諸多出入與不同。例如，“大道”是我國古代傳統的技術倫理規范，其存在的意義在于保證技術進步合乎社會倫理規則，從而保證技術進步的正確性。然而，隨著科學技術不斷進步，兩者往往會出現失衡的現象，如人工智能技術發展過快，已經遠遠超越了人類給其構建的倫理評價標準，從而產生失衡現象。目前，人工智能倫理評估標準還很模糊，若沒有倫理規范的約束，后期將產生更多的風險。

當前，人工智能道德倫理標準的嵌入主要有兩種不同的進路，即自上而下和自下而上?！白陨隙隆笔侵笇σ呀洿_定了的倫理原則進行復雜編碼，隨后在人工智能系統內植入編碼的過程。而“自下而上”是指無須將任何道德規則或哲學嵌入智能機器，僅需要通過觀察及分析實際情景中大量的人類行為數據，便可做出道德決策。但從現實來講，目前，每種道德規則在人工智能中的嵌入均存在不足，這種不足主要源于人類自身道德哲學內在的矛盾與沖突，而這種不足，必將進一步加劇人工智能倫理評估的模糊性，從而引發更大的風險[3]。

2.3 人工智能應用過程監管的失范

若技術發展監管力度不足，人工智能在發展過程中就可能出現各種異化，甚至產生技術泛濫，從而帶來更為嚴重的后果。目前，我們應該考慮的并不是人工智能是否需要監管，而是如何監管、監管什么等。本文提到的人工智能應用過程監管的失范是指人工智能在使用過程中缺乏科學、有效的約束。就當前發展形勢來講，利用法律監管技術，還存在大量真空地帶，究其根本原因在于目前技術立法滯后于技術自身發展。作為一種新興技術，人工智能監管方面的法律體系尚未完善。因人工智能技術所產生的環境問題、倫理問題或人權問題等，仍無法得到較好的處理。而真正發揮監管作用的僅僅是法律之外的部分柔性、隱形監管，如技術人員的自身素養，如責任心等，或公眾的社會輿論等。這些監管不具備強制性，在實際應用中往往略顯力不從心，監管效果也較差。

3 應對人工智能技術風險的措施

3.1 增強技術源頭的風險防控

從技術一般性特征來講，人工智能作為一種新興技術，其具有“雙刃劍”的屬性，因此，可在技術層面加大風險應對力度，做好防控工作，從而抑制不利的一面，擴大有利的一面。

第一，從開發設計源頭加大控制力度，如元程序設計。設計是按照一定價值取向從不完美實現完美的一個過程。在人工智能程序設計過程中，首先要解決的問題是如何選定價值標準，要求在實現技術完美的同時，做到不以破壞和犧牲人類既有權益為代價，就如同我國的可持續發展戰略，要嚴格遵循人類的道德法律，不得凌駕于法律之上。

第二，做好傳統計算機監管程序的升級，即通過人工智能進行人工智能監管。人工智能是一個極為復雜的巨系統，具備自身學習能力。在傳統計算機管理系統內，即便是最優秀的管理程序，也不能對其進行完全掌控?；诖?，在人工智能風險防控中，可通過升級傳統計算機管理程序，讓其變得更加智能化，從而實現監管人工智能。例如：IBM公司對人工智能技術風險防控的嘗試[4]。

3.2 增加技術全過程倫理嵌入

倫理道德標準是機器自動化程度不斷提升過程中繞不開的一個話題，機器自由化程度越高，越需要道德標準的約束。因此，本文提出增強技術全過程的倫理道德嵌入，即將倫理道德嵌入技術設計、發展和應用的各個環節[5]。從可操作性來講，人工智能全過程倫理道德嵌入是可以實現的，即便是在弱人工智能階段也是具有可行性的。從本質上看，人工智能屬于一種求解能力的計算機算法，可按照特定的倫理依據，以一種約束求解能力的計算法則將人類道德完全嵌入，并將其作為人工智能的行為準則，這樣人工智能機器所作出的價值判斷便能與人類道德相符。此外，作為一種計算法則的道德指令輸入，在具體問題分析與判斷中，人工智能機器往往更具客觀性和理性，能夠主動過濾掉人類主觀思想上存在的干擾因素，進而提高人工智能的安全性。

3.3 明確人工智能的技術評價標準

于人類生存與發展而言，人工智能必定會帶來巨大影響，很多人甚至會對其帶來的負面效應有所擔憂，但與此同時，還未設置明確的人工智能技術評價標準。因此，筆者認為，應從如何正確認識人工智能、如何完善人工智能安全評估等方面，進一步明確人工智能評價標準。

首先，要對人工智能及其技術異化有一個正確的認知。從本質來講，計算求解能力便是人工智能，是將人的部分神經生理智能賦予機器，通過機器模擬等模式，來解決特定的事項或問題。然而，在現實應用中，往往會產生使用異常的情況，這是技術領域不可避免的問題。與其他技術相比，人工智能是一種高新技術，但其所帶來的風險在本質上和其他技術基本相同。在人工智能技術異化問題處理中，我們需要進一步強調主體的人文價值選擇，通過人文要素，如個人修養、倫理道德等，利用人控制人工智能技術。其次，要進行人工智能安全評價，以安全評價來達到技術發展，并健康、持續地為人類提供服務。要求通過完善立法，進一步健全安全評價體系，從而在宏觀層面彌補當前人工智能技術在安全方面的法律空白，利用法律法規、政策等對人工智能技術的安全性進行準確評價[6]。

4 結語

人工智能逐漸進入人類生活，一方面給其生活帶來了便利，一方面也給人類生存帶來了挑戰，有人預言，快速發展的人工智能將一步步取代人類。為了應對人工智能發展所帶來的風險，需要從技術本質出發，對技術理性和價值理性進行雙重約束，在發揮技術優勢作用的同時，明確人工智能技術評價標準，加大對人工智能的監管力度，保證人工智能技術更好地為人類、為社會服務。

參考文獻：

[1]錢韞竹，魏家鵬.人工智能在現代網絡技術中的應用[J].計算機科學與應用，2019（4）：787-789.

[2]許根宏.人工智能傳播規制基礎：倫理依據與倫理主體的確立[J].學術界，2018（12）：93-103.

[3]張梓堃.人工智能的歷史與發展[J].數字通信世界，2018（11）：149-150.

[4]付皓，盧燕青，桂烜，等.人工智能的發展與應用簡述[J].廣東通信技術，2018（12）：49-52.

[5]劉紅波，林彬.中國人工智能發展的價值取向、議題建構與路徑選擇：基于政策文本的量化研究[J].電子政務，2018（11）：47-58.

[6]范敏，管琳.人工智能技術在互聯網金融中的應用及安全風險探析[J].山東農業工程學院學報，2018（3）：56-59.

收稿日期：2020-04-10

作者簡介：何瀾（1999—），女，本科，研究方向：計算機科學與技術。