人工智能安全問題及其解決對策

董沐野

摘要：當今時代，人工智能技術給我國的發展帶來了一次發展機遇，同時也帶來了挑戰。“搶抓機遇，乘勢而上”是官商學界普遍一致達成共識的觀點。我國作為世界大國，在面對人工智能安全問題方面更需要慎重考慮。事實上，人工智能導致的安全問題已經影響到了國家的方方面面。筆者首先對人工智能技術引發的安全風險進行了闡述，并提出了可行的對策。

關鍵詞：人工智能;安全問題;對策

前言

近年來，在人工智能技術持續發展的過程中，盡管人工智能是人類依靠程序設計出來，但是依靠人工智能的運行，可以在某些領域超出人類的表現，從而對人類產生威脅。因此，人類必須對人工智能的安全問題進行研究，從而提出解決對策。

1.人工智能隱含的安全風險分析

人工智能的智能化程度越高，其風險越是凸顯。英國科學家斯蒂芬·霍金教授曾經預言，人工智能有可能會毀滅人類。因此，如何對人工智能掌握控制權，這是人類需要思考的問題。世界上的多個國家都非常重視人工智能的發展，并且關注其危險性。對于人工智能技術在應用過程中的安全風險，主要包括這幾個方面。

1.1國家安全風險

在人工智能技術的輔助下，機器的智能化程度越來越高，當其達到了一定的程度，很可能使國家發展出現較大的變革。有專家學者認為，新一代人工智能會成為重要的戰略威懾力量，類似于“擁核自重”。如果國家被人工智能所控制，那么這個國家可能會出現一些問題。蘭德公司曾經發布報告《人工智能對核戰爭風險的影響》，該報告預言，在2040年，人工智能甚至有可能超過核武器的威力。另外，如果人類對人工智能技術進行濫用，那么極有可能出現失控的情況，人們獲得人工智能技術較為容易，但是對其管理和控制難度較大，濫用人工智能技術的后果非常嚴重，很有可能對國家政權產生威脅，甚至誘發社會動蕩的產生。

最后，人工智能應用存在安全風險，如果對其失察，那么就會帶來較多的不確定性。比如，近年來，一些西方國家使用大數據分析部署“機器人水軍”借助網絡來干擾選舉，或者一些別有用心的公司使用人工智能來干擾選民意見的行為時有發生。

1.2軍事安全風險

人工智能這項技術得到了軍方的密切關注。首先，每年有一些國家投入大量的人力物力于“致命性自動武器”，這種行為是個體行為，很容易引發機器自動殺人事故，其安全隱患極大。其次，現在，有一些國家可能通過商業力量去研發工業機器人，從而得到“機器人戰士”，這樣導致的后果是智能化武器裝備的增加，人工智能必定會給國家的軍事安全帶來越來越大的風險。

1.3社會安全風險

隨著人工智能技術大力推廣，其打破法律和道德限制的概率逐漸增加，必定導致社會生活的安全威脅增加。首先，在若干年的某一天，智能社會到來，那么現在需要人工實現的工作將又智能機器人所代替，“機器吃人”的悲劇將在各行各業上演，這樣導致的直接結果是大量的勞動者會處于失業狀態。當一個國家的失業人數過多，其社會穩定性就難以得到保障。其次，隨著智能技術的提升，物聯網技術也得到提高，萬物互聯成為一種非常普遍的現象。如此，個人隱私暴露，當個人信息被別有用心的人所利用之后，網絡信息安全問題就出現了。

2.解決人工智能安全問題的思路

2.1預先設定人工智能設備在設定道德范疇內行動

為了人工智能的安全隱患，必須首先考慮倫理道德方面的問題。就機器人而言，其人權的問題曾經是西方學者關注的對象。當人類與機器人在互動的時候，要使機器人道德判斷能力和行為判斷能力得到設定，使機器人受到道德的約束。只有做好倫理方面的設計，才能使智能機器人具有較高的道德素質，從而降低了其危害人類的概率。

2.2限定人工智能的應用范圍

目前，人工智能技術還不成熟，關于人工智能的爭議較大的一個重要原因是其安全性問題的存在。但是，如果能夠對其應用范圍進行限定，那么就能夠使人工智能設備與人保持和平相處。就克隆技術來講，人類先后在羊、豬、狗等的動物身上實現了成功克隆，而對于克隆人類的行為，由于倫理問題無法解決，所以無法進一步將克隆技術進行應用。事實上，很多國家已經頒布了相關法律法規杜絕人類克隆。所以，為了保障人類的安全，是有必要對人工智能的應用范圍做限定的。當AlphaGo機器人戰勝圍棋世界冠軍李世乭時，人工智能就備受關注，而當機器人Master 7天內連勝60場比賽時，帶來的則是舉世驚嘆。與此同時，這也說明了人工智能正在逐漸給人類帶來威脅。

2.3人工智能安全評估和管理

為了有效解決人工智能安全問題，對人工智能產品的安全進行深入的評估和管理是非常有必要的。安全評估就是對人工智能產品對人類產生的危害進行量化估計，對其發生概率進行計算，從而判定其危害的程度并劃分等級，從而方便人類采取應對措施。進一步地，根據劃分等級給出處理建議，從而為人工智能產品獲得更高的安全性而采取措施.

3.結語

綜上所述，隨著人工智能技術的不斷發展，也許在未來的某年某月某日，人工智能必然會超越人類智能，同時人工智能的發展，也讓人們感受到了威脅，缺乏控制的人工智能，必然會給人類帶來巨大災難。鑒于此，我們必須重視人工智能的安全問題，妥善采取合適的策略：預先設定人工智能設備在設定道德范疇內行動，限定人工智能的應用范圍，對人工智能進行深入的安全評估和管理。

參考文獻

[1]霍金斯、布拉克斯莉：《人工智能的未來》，賀俊杰、李若子、楊倩譯，陜西科學技術出版社，2006，第224頁

[2]國發[2017]35號《新一代人工智能發展規劃》[R]2017.7

[3]全國信息安全標準化技術委員會.大數據安全標準化白皮書[R]2017.4

[4]劉飛.人工智能技術在網絡安全領域的應用研究[J].電子制作，2016（17）：32-33.

[5]林婧.關于人工智能的淺析[J]. 網絡安全技術與應用，2014（10）：191-192.