人工智能安全發展問題研究

摘?要：機遇往往伴隨著挑戰，人工智能技術發展的同時也帶來了人工智能安全問題，在這場全球技術革新的競爭中，能否掌握話語權和主導權，更取決于了解、認識和應對“人工智能安全”問題的程度和水平。

關鍵詞：人工智能;安全發展;應對挑戰

人類歷史上任何一場科技革命，都不同程度影響著人們生產生活方式的改變，尤其是科學技術在戰爭領域的應用，更是推動了世界格局的重塑。人工智能（AI）技術的發展，同樣昭示人類下一場科技革命即將到來。

一、人工智能安全發展現狀

（一）人工智能發展與安全在高速前進中相生相滅

在整個人工智能發展過程中，人工智能安全就是人工智能賴以行駛的軌道。目前人工智能整體處在競爭上升期，發展長遠規劃、應用規模層次上缺少確切規范約束控制。

人類腦科學研究沒有破解之前，人工智能控制權掌握在電腦系統手里。一些由于認識水平和制造能力帶來的安全問題和薄弱環節，就很容易降低安全防御能力引發嚴重后果。

比如，人工智能傳感器可能被干擾;系統可能被劫持，數據的泄露、篡改“污染”可能“教壞”智能機器人的學習認知;人工智能軟件漏洞可能被黑客利用。

（二）廣泛的應用導致安全影響更深遠

未來人工智能技術在國防和社會基礎設施等關系國家安全發展的關鍵領域上的運用值得關注。

1.人類倫理道德日益面臨來自人機交互的挑戰

人工智能高速發展越發強大，已不能停留在機器三定律認識水平上，人工智能如何負面影響人的具體細節的內容并沒有細化，而它潛在對人大腦思維學習進化和倫理道德帶來巨大挑戰威脅日益劇增。

2.法律發展滯后難以對智能安全風險

雖然在短期內人工智能存在的安全風險還處于可控范圍，隨著應用領域范圍日益擴展，具有高度自主性的無人智能沖擊傳統行業原則和法律框架，尤其是責任的認定更加困惑，以往法律條款需要重新商榷和完善。

二、如何看待人工智能安全問題

（1）以犧牲長遠利益來盲目追逐人工智能技術的發展和經濟效益，這種觀點，具體的做法表現為把人工智能技術價值局限于商品，不遵循事物本身成長規律不計資源代價失衡的去開發，去創造更高利益，涸澤而漁，不注重人工智能自身健康，忽視安全問題和其他事物之間的共生可持續發展。

（2）“人工智能威脅論”。人工智能的快速發展終會替代人類，即使有益于人類、替代以往反復低效能的應用也被認為不可。這種觀點主要是對人工智能缺乏全面認識。問題的關鍵在于人工智能能否具備智力和能力，為人類服務，并健康存在。

我認為，智能安全風險伴隨人工智能客觀存在。有限的分層次合理的開發，平衡人工智能發展和安全的矛盾，就可以防控在危害人類生存利益最低范圍之內。

三、人工智能安全的發展趨勢

國家安全方面，“對國家安全帶來深刻改變的顛覆性技術”，人工智能賦能，突破常規管控極難，濫用門檻進一步降低，容易落入極端組織和犯罪團伙之手。近年在政治選舉中出現的利用大數據和社交平臺部署“機器水軍”達成“選舉”的行為，彰顯出新的政治安全風險。

軍事安全方面，一方面，越來越多的國家試圖研發“智能化致命性武器”，越來越容易獲得這種超時距的“遠程精確打擊能力”機器人事件可能不再停留在科幻。另一方面，個別國家或非國家實體可能和商業公司共同開發工業機器人轉化用于實戰。

社會安全方面，人工智能技術的創新使用不斷突破現有法律規范和道德倫理的限制，帶來多維安全挑戰。一是智能機器對傳統人工的替代，直接給本來就存在就業壓力的發達國家帶來社會風險。二是物聯網技術讓大量個人隱私直接暴露給智能設備。三是人為編寫的軟件與算法，智能產品成為安全攻擊新的突破口。

四、應對人工智能安全挑戰應解決的幾個問題

（一）技術儲備

一是在中央控制系統加大安全防御部分，軟件架構上加強系統安全性和保密性、開發設計算法安全，加快建立新一代人工智能關鍵共性技術體系，增強人工智能科技創新，確保關鍵核心技術牢牢掌握在自己手里。建議通過產業政策和組織管理措施，引導研究人工智能產品和應用的安全評估評測技術，建立人工智能安全實驗室、積累智能安全數據，全壽命檢測評估。

二是在一些直接影響國民安全的關鍵領域中，例如醫療、金融、交通和教育等，在這些領域內，建議建立人工智能應用的準入審查機制，劃分出安全防護等級，加強人工智能算法及應用的安全性、可控性和透明性的審查。加速安全標準由人工智能專用領域向通用領域統一。

（二）創建新人機安全環境

當前一方面鼓勵人工智能產業的發展，一方面防范智能安全風險，必須時刻注意平衡，避免造成過度限制人工智能或者降低人工智能安全關注。

一是專業組織管理、開設課程專業衍生或者細化組織分工或者部門履行職能（例如IAAIL國際人工智能和法律協會）。建議建立人工智能主干學科及其二級學科，加快研究具體安全規范機制，包括研究出臺相關法律法規，界定人工智能應用。

二是用好交流平臺，化解技術壁壘，應對新情況、新矛盾。開展人工智能倫理道德探討，約束人工智能研究與實際應用的原則、范圍和界限。禁止用于危害人類安全的應用作為國際公約原則并防止智能壟斷。

三是推動互利共贏責任擔當的全球治理。目前看，發達國家通過率先起步的人工智能技術創新控制了產業鏈優質資源，同時嚴格的技術封鎖和產業壁壘使得進一步拉大“南北差距”。在發展中國家陣營中，我國最有希望望領跑全球人工智能競賽，未來應當布局建立更加聯合開放、低成本高收益、普及全球的人工智能技術開發和操作系統，積極配合習主席倡導的“一帶一路”建設，讓“人工智能鴻利”助力共同構建人文和諧和現代化文明環繞的人類命運共同體。

參考文獻：

[1][美]尼古拉.尼葛洛龐帝.胡泳，范海燕，譯.數字化生存[M].電子工業出版社，2017.

[2]吳世忠.對新一代人工智能發展與安全問題的思考[J].中國信息安全，2018（06）：62-64.

[3]譚鐵牛.人工智能的歷史、現狀和未來[J].奮斗，2019（05）.

[4]人工智能與未來法治構建.上海倡議，2018.9.

[5]嚴望佳.關于規范人工智能安全健康發展的提案[C]?2019.3.

作者簡介：蔡永哲（1989-），男，河南漯河人，2018級軍事碩士研究生，研究方向：軍事后勤。