人工智能的風險及其防范

楊丁+張登翔+蔣太平+冉闖闖+謝佳訊

摘 要： 高科技在社會生活中廣泛應用時，帶來了很多科技紅利，但是也出現了一些風險。本文主要討論最近發展勢頭很猛的人工智能。討論人工智能在倫理、就業、安全等方面可能帶來的風險，以及防范措施。

關鍵詞：高科技；人工智能；倫理治理；系統安全；自反性；失業補償；

1 引言

近年人工智能出現了第三次發展高潮，這次高潮因為當前的硬件實力、算法和數據等技術的原因，被認為是區別與以往的高潮。當前強大的硬件基礎、海量數據和先進的算法為人工智能賦予了強大的動力。

強大的動力，使得人工智能滲透到很多的社會領域，我們在享受它帶來的科技紅利的同時，也必將受到一些負面影響。本文將會討論人工智能可能帶來的負面影響，以及對應的解決措施。

2人工智能

人工智能，也就是機器智能，一般指人為制造出來的機器所表現出來的智能。他的核心為機器學習。機器學習可以分為監督學習和無監督學習。當用標記好的數據進行模型訓練時，為監督學習。當用未標記好的數據進行模型訓練時，為無監督訓練。監督學習的識別率一般都比較好，但是獲取標記好的數據比較難，需要較高的代價才能獲得。無監督學習可以不使用標記數據，但是學習效率低和識別率低。

目前最受關注的機器學習算法為，福島教授提出來的卷積神經網絡。該算法是監督學習下的機器學習。此外，深度學習的概念來源于人工神經網絡，常見的深度學習算法包括：受 限波爾茲曼機，卷積網絡，堆棧式自動編碼器。

3 人工智能帶來的問題以及解決措施

3.1人工智能系統的安全問題

人工智能系統包括了，智能硬件、移動應用端和云端。首先從技術層面來說，智能硬件的體型普片偏小，所帶資源較少。出于功耗的考慮，智能硬件的加密手段變的比較死板單一。其次，智能硬件的固件難以升級，一旦固件上出現漏洞，就很難對其進行維修只能將設備進行更換，這在成本和安全上都很是不利。在移動應用端上，也存在這一些問題，移動端的防守能力普片偏弱，存在這很多的顯露出來的或者隱藏這的漏洞。如果不法分子利用了這些漏洞，則可能給用戶帶來慘痛的后果。云端和應用端也有類似的問題，服務器上或多或少的存在一些漏洞。

3.1.1人工智能系統安全問題的解決方案

（1）面對智能硬件的安全問題，我們可以從生產廠層面上保障智能硬件的安全，比如可以在智能硬件中加入FPGA（現場可編程門陣列），在上面存入加密協議和固件。當加密協議被破解或固件出現漏洞時，實時的更新FPGA上的機密協議和固件就可以了。雖然這樣子會增加成本但是安全有了更大的保障。

（2）建立人工智能系統的安全評估與認證制度。設定出比較統一化的安全等級評價標準，對不同的領域給予適合他不同的安全等級要求。對于直接影響生命安全的人工智能應用，給予比較高的安全等級要求，如智能駕駛。當然對于一些不太影響大眾的人工智能應用，可以適當的放寬要求，以免抑制了技術創新。總體來說，隨著人工智能領域的安全評估和認證制度的出現，人工智能系統的良品率將會上升。

（3） 建立安全威脅監察制度，讓硬件生產商、相關從業者、使用者一起監察人工智能系統的安全漏洞，一旦發現安全漏洞就即時上報。確保人工智能系統在生命周期內的正常工作。

（4） 建立行業自制制度，促進行業內同行的信息共享。比如，建立白名單，凸顯出高質量的供應商和制造商。也可以建立方案解決庫，當出現了已經出現了的問題后，可以直接從方案解決庫中，找到解決方法，快速的解決問題。

（5）建立響應機制，建立專門的技術團隊，當出現問題時，以最快的速度解決問題。

（6）建立明確的責任制，我們可以將責任細化到產業鏈的每一個節點上。

3.2失業問題

人工智能的高速發展，會對未來的就業結構帶來很大的影響。未來的社會生產活動可能只是由機器人、少數的從業者和人工智能來完成。這會讓很多人失業，而這些失業者將會變成社會中動蕩不安的因素。如何應對這些失業者，也是人工智能需要面對的問題。

3.2.1人工智能帶來的失業問題的解決方案

人工智能帶來的失業問題，可以由多個方法進行協同解決。第一個方法就是，提高高收入人群的征稅比例，用以彌補和緩解高收入人群和低收入人群的差距。第二個方法就是，向人工智能和機器人進行征稅，對其征收智能稅。通過提高人工智能的使用成本來緩解機器人的使用速度，為人類帶來一定的緩沖時間。

對于失業者而言，隨著人工智能稅和高收入群體征稅比例的增高，相應的福利措施，將會保持他們的基本生活。如果失業者對此不滿足，他們應該至少還有兩個選擇。選擇一是，進行學習，努力提高和拓寬自己的知識面和知識能力，從而進入到人工智能相關的工作崗位。從而再次拿到工資。當然這對個人的要求很高，要有較好的毅力和智商。對于無法二次就業的人，可以讓這些人員通過心靈的調適，追求更加純粹的人的價值和心靈的安靜。

3.3 人工智能的隱私問題

人工智能的智能化，往往需要海量的數據。這也就代表這人工智能應用必然隱藏這隱私侵犯風險。比如，隨著各種數據采集器的出現，智能系統獲取到了越來越多的人體信息和人體行為信息，人工智能變的比你自身還要更了解自己。除了采集人體信息外，人工智能也可能進行知識的抽取。例如，人工智能可以整合你這個人的網頁瀏覽記錄、購物記錄、旅行記錄。從中整合出你個人的行為軌跡和個人偏好和習慣，從而推測出你未來的行為。這些數據應用的合理合法會大幅度的提高人類的生活質量，但是如果用于非法的事情，這可能也會帶來災難性的后果。

3.3.1人工智能隱私問題的解決方案

對于人工智能的智能化帶來的隱私問題，可以通過法律手段進行解決。開展立法研究，建立適應智能化時代的法律法規。也可以建立相關的行業標準，使行業變的更加規范和標準化。此外，也可以建立相關的監察機智，一旦發現違規操作就進行相應的處理。

4總結

隨著人工智能時代的到來，科技紅利隨之而來，但是問題也隨著而來。我們需要通過適當的方法，來處理隨著而來的人工智能倫理問題、人工智能安全問題、人工智能泄露隱私的問題、人工智能帶來的失業問題。我們需要未雨綢繆，提前想好這些問題的解決方案，這樣子在問題出現后，才能使得問題的影響限制在一定程度內，使得社會更加穩定。當然，現階段思考出來的方案也不見得完全適合未來，畢竟未來是充滿了變數的，當問題出來后，各種方案需要隨著當時的情況實時的進行更新。

參考文獻：

[1]吳沈括，羅瑾裕.人工智能安全的法律治理：圍繞系統安全的檢視[J/OL].新疆師范大學學報（哲學社會科學版），2018（04）：1-9[2018-01-10].

[2] 杜嚴勇.論人工智能的自反性倫理治理[J/OL].新疆師范大學學報（哲學社會科學版），2018（02）：1-9[2018-01-10].

[3] 柴艷萍. 當前中國倫理治理的研究現狀與未來趨勢--中國倫理學會第八次全國會員代表大會暨學術討論會綜述[J]. 中州學刊， 2013， 2013（11）：97-100.