警惕“智能超人”

王宿慧

作者：王宿慧，軍事科學院研究生院，在讀碩士研究生

人工智能，是研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術，以及應用系統的一門技術科學。其在研究人類自身智能的基礎上，借助現代科學技術手段，增強人類智能或模擬人類智能，提高了生產效率、生活質量，以及決策的科學性和及時性。人工智能自1956年誕生以來，已進入并快速改變著人類生產生活的方方面面。在交通領域，人工智能系統通過對路口信息的分析判斷，適時調整紅綠燈間隔，緩解交通壓力、減少事故發生概率，有效維護了人民生命財產安全。在醫學領域，人工智能的專家系統使得醫院對病人病情的把握快速精準，節約了病人的時間和金錢，使看病更有保障。在經濟領域，人工智能使復雜的體力任務自動化，提高了生產率。可見，人工智能帶來了巨大便利。

人類對世界的探索和開發從未停止，科學家們不斷追求著單純的科技進步，他們的愿望是世界和平、歲月靜好，他們希望通過智慧推動人類社會的進步和發展。但科學技術的發展和應用史表明，技術有時會與人們的良好愿望背道而馳。歷史多次證明，任何一項新科技的發展和應用，都是一把雙刃劍，在給人類帶來巨大利好的同時，也會產生一些次生的負面作用。

生化技術帶來文明，但其使用也遭異化。第二次世界大戰期間，日本法西斯專門組建了731特種部隊，使用中國軍民的活體進行生物武器與化學武器的實驗，僅鼠疫一項活菌實驗，就害死我同胞3000多人。這是利用化學和生物技術戕害人類的令人發指的罪行?，F在，生化技術依然是禁止武器試驗的主要領域。核技術帶來了進步，也曾造成過人道主義災難。原子彈對廣島長崎的毀滅性打擊，切爾諾貝利核事故對地球環境的污染，始終是人類揮之不去的災難記憶?，F在，核武器依然是懸在人類頭頂的“達摩克利斯之劍”。

當前，世界主要大國均把促進人工智能技術的發展和應用提升到國家戰略層面，人工智能技術在全球范圍、各個領域得以飛速發展，并逐步對人類社會產生巨大而深刻的影響。在軍事領域，一些發達國家特別是美國已率先將人工智能技術應用到武器裝備研發之中，以此謀求在未來戰爭中的代差優勢和顛覆性勝算。為保護和擴大自己的軍事優勢，美國專門成立了聯合人工智能中心（JAIC），將人工智能和自主系統運用到作戰體系中，視為未來部隊組成的核心。美國政府也先后出臺多項措施，保證人工智能“領頭羊”地位，從國家戰略層面加緊布局，為人工智能更好地融入軍事領域搭橋鋪路。

物極必反，器滿則傾。當人工智能發展到一定程度時，就可能擁有超越“自然人類”的智能，這些“超級人類”擁有意識、思維、記憶力、自我感知、自我學習等能力，且能實現自我提升。與一些人的歡呼雀躍不同，許多重量級科學家和科學團體，對人工智能的發展前景進行預測后表示擔憂：“超級人類”可能對“自然人類”構成巨大威脅。

哈佛大學物理學家維納斯-格羅斯博士在他的論文當中提出，未來具有自我編程的人工智能將得以自我完善，且這種行為是反復、單方面持續性加強的。當程序開始自我進化，勢必會有一個質變的奇點，也就意味著具有感知地位的機器人已經出現?；艚鸾淌谏皩θ斯ぶ悄馨l展也表達了擔憂：“我擔心人工智能將全面取代人類。如果有人能設計出計算機病毒，那么就會有人設計出能提升并復制自己的人工智能。這就會帶來一種能夠超越人類的全新生命形式?！?/p>

基于這些預測，可以推斷：一旦自我感知機器人或“超級人類”出現，對其所有的限定規則，均可能因偶然原因或必然原因而失效，進而造成對“自然人類”的巨大威脅。一旦“超級人類”和我們“自然人類”干上了，我們能夠察覺隱患、排除故障嗎？我們有把握取勝嗎？也許有人說，這是杞人憂天。但是，發展出強人工智能甚至是超人工智能，只不過是時間問題。

習近平主席在9月17日致2018年世界人工智能大會的賀信中專門指出，“處理好人工智能在法律、安全、就業、道德倫理和政府治理等方面提出的新課題”。面對可能的科技威脅，我們必須未雨綢繆，在加快技術發展的同時，也要對其進行風險評估，以應對其負面效應的挑戰，規避對其賦予過多的“擬人”能力。

摒棄傳統觀點，對人工智能的發展前景要有清醒的認識。圖靈測試和眾多人工智能技術水平量度方案表明，短期內尚難以實現超人工智能，但諸多合并人類智慧和機器智能的模式，已經能夠獨立感知基本情感顆粒，并識別陌生物體。谷歌旗下的波士頓動力公司曾發布一款“機器狗”（Little Dog），具有極強的自我學習能力，能通過分析過往的錯誤而加以改進。美國國防高級研究計劃局（DARPA）也給Gamalon公司投下巨資，因該公司的核心技術實現了由機器自主完成概率編程。實踐表明，人工智能已邁進自主學習、自我進化的大門。隨著各國加快建立“人工神經網絡”，人工智能“深度學習”能力不斷加強，對其跟蹤評估應是研發的重中之重。

制定相應的法規、研發反制技術，提高防范的方法和能力。美國制訂了《人工智能未來法案》，對人工智能可能帶來的倫理問題、社會問題和法律問題進行研究，以期為后續人工智能相關立法提供支持。由于人工智能的發展是基于互聯網海量的“大數據”和各種信息的實時交互。因此，可通過加強網絡安全來為人工智能的發展保駕護航，為其引入網絡安全評估機制。根據《中華人民共和國網絡安全法》和國務院《新一代人工智能發展規劃》，完善與人工智能相關的網絡安全等級保護制度；提高網絡檢測、分析技術；提高處理網絡安全應急事件的處理能力。同時，促進世界人工智能技術交流融合，提高全球性聯合應對人工智能潛在風險的能力。