人工智能安全問題及其解決方式

劉舒暢 劉太銀 劉林沖

摘要

文章首先對人工智能的核心技術進行簡要闡述，在此基礎上對人工智能安全問題及其解決方式進行論述。期望通過本文的研究能夠對促進人工智能的發展有所幫助。

【關鍵詞】人工智能 安全 威脅

1 人工智能的核心技術

人工智能簡稱AI，這是一門新的技術科學，主要是研發用于模擬人的智能方法和技術。人工智能歸屬于計算機科學的范疇，其自誕生以來，便得到領域內專家學者的關注，由此使得人工智能的相關理論和技術在研究中得以不斷完善，在這一前提下，人工智能的應用領域逐步擴大。人工智能的核心技術如圖1所示。

模式識別技術是信息處理和描述分析的過程;機器學習則是一個不斷完善自身性能的過程;數據挖掘技術是利用相關算法對知識中有價值的信息進行挖掘;智能算法是能夠解決某些特定模式的算法，如最短路徑等等。

2 人工智能的安全問題及解決方式

人工智能是新時代的產物，在對它的不斷研究中發現，一旦人工智能具備了自己思考的能力，則可能引起無法想象的安全性問題。

2.1 人工智能的安全隱患分析

人工智能的安全問題不容忽視，隨著人工智能的應用領域越來越廣，其影響范圍也不斷擴大，具體體現在如下幾個方面：

2.1.1 對國家安全的威脅

現階段，在我國的國防等重要領域中，人工智能得到一定的應用，由此極有可能對國家安全造成威脅。相關研究報告指出，在未來人工智能技術會像核武器、生物技術，給整個國家的安全造成影響。

2.1.2 對社會安全的危害

隨著人工智能技術的不斷完善，其在機械設備智能化和自動化中的應用越來越多，由此使得很多行業的勞動者面臨著失業的風險，一旦人工智能全面取代勞動者，必將會對社會的安全、穩定造成影響?，F如今，人工智能在各個生產領域中的應用，對藍領的就業構成了威脅，有專家指出，未來，人工智能極有可能威脅到白領的就業。

2.1.3 對人身安全的影響

目前，人工智能技術已經融入到了物聯網當中，各種智能型產品，在人們的工作和生活中得到越來越廣泛的應用，一旦智能產品遭受到惡意的網絡入侵，如無人汽車、智能醫療設備等等，既有可能對人們的生命安全造成威脅。

2.2 解決途徑

人工智能在促進社會發展中的作用是有目共睹的，但是由此所產生的安全隱患問題也同樣不容忽視。通過研究分析發現，人工智能的安全問題，主要是由技術本身造成的，故此，在對此類問題進行解決時，應當從技術層面入手，以此來達到化解安全問題的目的。

優化設計：

導致人工智能產品安全性問題的根本原因是：在對產品進行研發設計的過程中，對可能產生的安全問題考慮的不夠周全，致使設計出來的產品存在嚴重的安全隱患，所以，筆者認為，想要根本上解決人工智能產品的安全問題，就必須對設計進行不斷地優化改進。在優化設計的過程中，可以引起倫理設計，通過這種設計方法可以使人工智能產品具備與人類相近似的行為判斷能力，在這一前提下，人工智能產品會在思考是否正確的情況下，做出相應的行為舉動，而這個行為與人們預先設定好的道德標準是相符的，由此可使人工資智能產品只做正確的事情，進而可防止對其進行不當使用或是濫用的情況發生，相應的安全性問題也就不會出現，隨著安全隱患的消失，人工智能產品的作用也將得到更加充分地發揮。業內的一些專業學者經過不斷地研究后得出這樣一個結論：在未來一段時期，新一代的人工智能產品將會脫離人類的監管范疇，它們會自主地做出各種決定，為使這種決定不違背人類的道德準則，可在設計時加入倫理設計，以此來設計出具有道德選擇的人工智能產品。在此需要著重闡明的一點是，目前國內外的倫理設計都處于理論的研究層面，在實踐中的應用也都是試驗，具體的效果如何，還有待進一步觀察。故此，筆者建議加大對倫理設計的研究力度，盡快使理論轉化為實踐應用，開發出擁有道德和行為判斷能力的人工智能產品，以此來解決安全問題。

2.2 采用安全評估技術

人工智能的發展速度越來越快，應用領域也不斷拓寬，為降低人工智能的安全威脅，可在人工智能產品設計研發的過程中，引入安全評估技術，依據評估結果判斷產品的安全性，如果發現存在安全隱患，則應對設計進行優化改進，對于無法改進的產品，應停止研發，以免投入市場后，引起安全問題。通過對人工智能產品進行安全性評估，能夠使技術人員在研發時，充分認識到產品潛在的安全隱患，進而采取相應的處理措施，確保設計出來的產品達到安全性的使用要求。安全評估作為一項工程技術，其能夠有效預防各種安全事故的發生，由此，在人工智能安全問題的解決中，采用安全評估是非常有必要的。只有憑借各種有效的技術方法，才能使人工智能產品的安全問題得以消除，而這也將是未來人工智能研究的重點內容。除了安全評估之外，還應對人工智能產品進行安全管理，可采用動態管理的方法，以此來提高人工智能產品的安全性。在對人工智能產品進行動態安全管理時，并不需要以人為的方式來進行管理，而是可以采用相關的管理系統來完成此項工作，通過帶有監控危險能力的管理系統，可在人工智能產品出現安全問題時，進行解決處理，而該系統可與人工智能的主系統同時運行，這樣能夠達到有效管理和控制的目的。

4 結論

綜上所述，人工智能現己滲透到社會生產和人們的生活當中，其在發揮著自身作用的同時，也都帶來了一定的安全性問題。為此，應當采取合理可行的技術措施，解決人工智能的安全問題，以此來促進人工質量的持續發展，使其在推動社會進度方面的作用得以最大限度地發揮。

參考文獻

[1]杜嚴勇.人工智能安全問題及其解決進路[J].哲學動態，2016（09）：99-104.

[2]林思遠，王洪宇.人工智能安全問題及其解決思路[J].中外交流，2018（10）.

[3]方梁，劉點兵，侯天樞，潘艷陽.人工智能在銀行的應用與分析[J].信息安全研究，2017（12）：1125-1128.

[4]劉芬.人工智能與新媒體的進化路徑[J].中國傳媒科技，2016（10）.