人工智能所伴生的安全問題

人工智能自身存在著脆弱性，例如對抗樣本就是人工智能的內生安全問題。對抗樣本是機器學習模型的一個有趣現象，反映出了人工智能算法的弱點。攻擊者通過在源數據上增加人類難以通過感官辨識的細微改變，但是卻可以讓機器學習模型接受并做出錯誤的分類決定。一個典型的場景就是圖像分類模型的對抗樣本，通過在圖片上疊加精心構造的變化量，在肉眼難以察覺的情況下，讓分類模型產生誤判。對抗樣本除在圖像識別領域存在，也在其他領域存在，如語音、文本等。從網絡安全領域看，同樣存在類似于對抗樣本的攻擊問題，攻擊者通過對惡意代碼插入擾動操作就有可能對人工智能模型產生欺騙。例如，有人就設計了一個惡意樣本，讓分類器將一個存有惡意行為的軟件認定為良性的變體，從而可以構造能自動逃逸PDF惡意軟件分類器的攻擊方法，以此來對抗機器學習在安全中的應用。上述安全問題都可能會導致同樣后果，就是導致人工智能系統發生錯誤的決策、判斷，以及系統被控制等問題。

巨大的安全挑戰

人工智能技術存在著巨大的安全性挑戰。目前人工智能系統還無法超出固有的場景或對特定語境的理解，人工智能技術在下棋或游戲等有固定規則的范圍內一般不會暴露其脆弱性，當環境數據與智能系統訓練的環境大相徑庭，或者實際的應用場景發生變化，或者這種變化超出機器可理解的范圍時，人工智能系統可能就會立刻失去判斷能力。美國智庫“新美國安全中心”最近發布的《人工智能：每個決策者需要知道什么》稱，人工智能的一些弱點可能對國家安全等領域造成巨大影響。

人工智能的失誤可能會給人類帶來災難，從而會形成衍生安全問題。2016年5月7日，在佛羅里達州公路上一輛處于“自動駕駛”模式的特斯拉Model S以74英里的時速，撞上了拐彎中的白色拖掛式大貨車。Model S從貨車車底穿過，車頂被完全掀飛，40歲的駕駛員Joshua Brown不幸死亡。出事路段限制時速為65英里/時。由于 “自動駕駛”模式車前的高清攝像頭為長焦鏡頭，當白色拖掛卡車進入視覺區域內時，攝像頭只能看到懸浮在地面上的卡車中部，而無法看見整個車輛;此外，當時陽光強烈（藍天白云），使得自動駕駛系統無法識別出障礙物是一輛卡車，而更像是飄在天上的云，導致自動剎車未生效。這次事故引發了外界對自動駕駛汽車安全性的爭議。這種自動駕駛的缺陷導致人類傷亡的事情，是典型的人工智能衍生安全的案例。

當前，人們已經開始關注人工智能自身的安全問題，霍金曾經在2015年8月與美國Reddit 網的問答互動中，提出了人工智能“威脅論”的觀點，后又曾多次在世界知名期刊撰文強調類似看法。比爾·蓋茨稱，人類在人工智能領域已經取得了很大進展，這些進展能讓機器人在接下來的10年內學會駕駛和做家務，在一些特定的領域甚至能比人類優秀。但是之前他曾經提出警告，“人工智能如果進展太快，可能會對未來的人類造成一定威脅”。特斯拉創始人馬斯克在Code大會上也預測智能機器人未來，他認為未來人類生活將離不開虛擬現實技術，而這一技術的高度發展將使人類很難分辨出真實與游戲的區別;加之人工智能的飛速發展，人類智商將會止步不前;最為嚴重的后果是機器人反超人類成為實際運營世界的主體，人類在機器人心中可能如寵物一般的存在。

防止人工智能體

行為失控的方案

隨著人工智能技術的高速發展，人工智能行為體越來越有可能在不遠的將來成為人類生活重要組成部分。目前，相關研究領域專家已認識到人工智能存在巨大風險，并從人工智能安全設計原則、標準規范、道德倫理方面進行呼吁。但是，針對如何設計一個防止具有行為能力的人工智能系統失控的裝置？該裝置應具備的什么樣的控制功能和性能指標？該裝置的軟硬件形態是什么？這些目前尚無研究成果。

人工智能為什么會危害人類？前提是要有一個具有行為能力的、由人工智能來操作的行為體。人工智能行為體是指一類能感知外部環境并將之作為輸入，通過內部算法進行決策，并利用自身驅動裝置與物理世界產生交互行為的自主硬件實體。自動行走機器人、自動駕駛汽車和人工智能武器等，都是人工智能行為體的類型。人工智能行為體需要有感知外部環境、內部控制邏輯、運動驅動裝置和自主能力（自學習）四個要素的體現。外部環境包括所處的自然環境和相關生物體等;內部控制邏輯是指預制在人工智能行為體內部，用于產生運動行為的程序;運動驅動裝置是可與物理世界交互，或者可改變人工智能行為體處所空間坐標的硬件;自主能力是指人工智能行為體可以自己設定要達到的目標函數或自主決策，而非由人類設定目標。

人工智能在什么情況下會危害人類？需要同時滿足三個條件，第一，有行為能力，AlphaGo是下棋機器人，不能動，所以不會危害人類;第二，有足夠破壞力的動能，有危害性，掃地機器人不具有破壞的動能，所以不會危害人類;第三，具有自主能力，完全聽命于人類的系統，不會主動傷害人類，但會誤傷人類。

第一，能動的問題已解決;第二，有破壞力的機器人也已經存在，這是一個危險因素;第三，自主行為體。運動體已經比比皆是，破壞力已經突破掉了，關鍵就是能不能自主。但是我們不能太相信機器人不會自我進化到危害人類的程度，所以對它預先要有約束。

針對機器人來說有一個國際標準，提出了四種約束條件。第一是安全級的監控停止，當出現問題時，有讓它停止的能力;第二是手動引導，任何事情都需要指示它做，它才開始做。如果這個機器人只能手動才開始做，它就沒辦法給自己設定攻擊性目標;第三是速度和距離監控，當它和人比較接近時，速度必須降下來;第四是功率和力的限制，當和人接近時其功率必須迅速降下來。這些都是保護人類要做的事情。 我們提出一種防止人工智能行為體失控的方法——AI保險箍。串聯模塊用于與人工智能行為體的決策系統和驅動裝置連接;反摘除模塊用于在發生暴力拆除時，毀滅人工智能行為體，其確保本裝置無法從人工智能行為體總摘除。

AI保險箍方法的核心要點包括：①人工智能行為體的驅動裝置需采取主動探測或被動監聽等方法，以檢測到一個授權的、認證的、可信的控制系統（AI保險箍）的存在，并接受其完全控制;② 當人工智能行為體無法檢測到一個授權的、認證的、可信的控制系統存在時，應停止一切工作;③ 速度與距離監控，當人工智能行為體中某個危險部件與人之間的距離小于安全距離時，觸發保護停止、觸發與人工智能行為體相連的安全級功能;④ 在人工智能行為體發生失控時，系統能根據遠程控制命令，實現人工智能行為體的遠程控制，使其無法危害人類或將危害控制到最低;⑤ 系統會對人工智能行為體進行風險識別，當識別出風險時，發出警報示警，進一步防止人工智能行為體因為失控而造成的損害。人工智能作為最具顛覆性和戰略性的核心關鍵技術，持續引起全球產業界、學術界和各國政府的高度關注。當前，人工智能技術在安全領域的應用需求日益迫切，同時，人工智能自身的安全問題也不容小覷，安全與人工智能并舉，雙方的融合發展與創新是強國戰略中不可忽視的重要助推因素。

（根據方濱興發表的公開資料整理而成，未經本人確認。）

人工智能技術在安全領域的應用需求日益迫切，自身的安全問題也不容小覷。

相關研究領域專家已認識到人工智能存在巨大風險，并從人工智能安全設計原則、標準規范、道德倫理方面進行呼吁。